界面新聞?dòng)浾?| 徐魯青

界面新聞編輯 | 黃月

2021年，Facebook、Twitter、YouTube等超過10家社交媒體平臺(tái)封鎖了特朗普的賬號；今年1月，馬斯克收購?fù)铺?，并大量削減內(nèi)容審核團(tuán)隊(duì)，負(fù)責(zé)全球內(nèi)容審核、應(yīng)對仇恨言論和騷擾的員工多數(shù)被裁員；近日，抖音宣稱將為青少年模式每天新增1萬條內(nèi)容，并將全部經(jīng)過人工審核……這些備受關(guān)注的新聞背后隱藏著一個(gè)長期隱形的群體——商業(yè)性內(nèi)容審核員。他們是一群職業(yè)化員工，負(fù)責(zé)刪除用戶上傳的不合規(guī)言論，一天審核成千上萬條內(nèi)容。他們的工作要點(diǎn)之一是保持隱蔽，不被人察覺。

“如果被用戶舉報(bào)為色情內(nèi)容，就會(huì)發(fā)送給印度的團(tuán)隊(duì)，大部分色情內(nèi)容都由他們處理。其他的內(nèi)容，比如說仇恨言論或者暴力之類的會(huì)發(fā)送給我們……我們會(huì)看到40張小縮略圖，這樣我們不用看視頻就能立刻知道“啊，那里出現(xiàn)了生殖器”或者“那里有個(gè)男人的頭，與身體斷開了”……然后我們就能立刻實(shí)施操作。整個(gè)過程一氣呵成?！?/span>

在美國加州大學(xué)洛杉磯分校教育與信息研究院助理教授莎拉·羅伯茨（Sarah T. Roberts）的田野調(diào)查中，一名審核員如此描述他的工作。羅伯茨是最早提出“商業(yè)性內(nèi)容審核”（commercial content moderation）的學(xué)者。2010年左右，社交媒體正越來越深地嵌入我們的生活，卻沒有什么人注意到職業(yè)審核工作的存在。羅伯茨花了八年時(shí)間研究這一產(chǎn)業(yè)及審核員的狀況，以及這項(xiàng)影響廣泛的工作為何如此重要卻“不可見”。她的足跡隨內(nèi)容審核產(chǎn)業(yè)從北美行至歐洲，再到菲律賓馬尼拉。

羅伯茨指出，如今我們眼中的“互聯(lián)網(wǎng)”絕大部分都由跨國私營企業(yè)所管理，并與其初創(chuàng)地的政府關(guān)系密切，比如為全球計(jì)算機(jī)提供主干網(wǎng)的公司之中，只有五家大型公司才能夠提供接入私營平臺(tái)內(nèi)容的服務(wù)。這些互聯(lián)網(wǎng)平臺(tái)無時(shí)無刻不在限制、構(gòu)建和推動(dòng)在線言論，而審核行業(yè)的細(xì)節(jié)長期以來少有人知。平臺(tái)制定的審核規(guī)則反映了誰的價(jià)值觀？是否刪除的決定是怎么做出來的？審核員們的工作流程是什么樣的？誰會(huì)為此受益？

在她的研究《幕后之人：社交媒體時(shí)代的內(nèi)容審核》中文版問世之際，界面文化（ID：booksandfun）對羅伯茨進(jìn)行了專訪。我們討論了科技公司的內(nèi)容審核標(biāo)準(zhǔn)、審核員的勞動(dòng)狀況，以及審核產(chǎn)業(yè)如何建立在全球勞動(dòng)力剝削基礎(chǔ)之上。在采訪的最后，羅伯茨對于人與計(jì)算機(jī)的關(guān)系提出了另一種展望。

01 審核行業(yè)：人們自以為能無限制地表達(dá)自己

界面文化：你在2010年開始研究職業(yè)審核工作，當(dāng)時(shí)還沒有太多人注意到“商業(yè)內(nèi)容審核”——指一群職業(yè)化員工為大型商業(yè)機(jī)構(gòu)（比如社交媒體公司、新聞媒體等）進(jìn)行大規(guī)模、有組織的有償審核工作——的存在。是什么讓你關(guān)注到這個(gè)話題的？

莎拉·羅伯茨：我從90年代中期起開始在科技行業(yè)工作，一直從事一些低級的信息技術(shù)工作。這些工作并不需要我具備深入的專業(yè)技能，我非常努力但財(cái)務(wù)上卻沒有安全感，沒有任何職業(yè)晉升的機(jī)會(huì)。這聽起來似乎不合理，因?yàn)榭萍夹袠I(yè)從彼時(shí)到現(xiàn)在都是最新興熱門的行業(yè)之一，從業(yè)者聽起來是很有前景的。

我在當(dāng)時(shí)感到困惑，我做錯(cuò)了什么？為什么我沒有得到承諾的東西？現(xiàn)在我對此有了更深入的分析，從事科技行業(yè)并不意味著你就會(huì)晉升到另一個(gè)社會(huì)階層。相反，大多數(shù)人并不在硅谷的巨頭公司，而是在別的地方從事著并不光鮮的工作。

研究生期間的一個(gè)暑假，我在《紐約時(shí)報(bào)》上讀到了一篇關(guān)于愛荷華內(nèi)容審核員的文章。那時(shí)候我在伊利諾伊州，它和愛荷華都是美國中西部的傳統(tǒng)農(nóng)業(yè)地區(qū)。我很快意識(shí)到，這些愛荷華的審核員可能只是一群學(xué)歷不高、級別很低的雇員，從未涉足科技行業(yè)。我當(dāng)時(shí)的猜想是，公司外包一群工人做內(nèi)容審核，比嘗試開發(fā)一個(gè)過濾模型更便宜。

突然間，我發(fā)現(xiàn)所有的問題都有些相似——許多人淪為科技經(jīng)濟(jì)中的底層階級，從事乏味且低薪的工作，甚至受到身體和心理的創(chuàng)傷，不被看見。大多數(shù)人的目光都投向了科技發(fā)明家、企業(yè)家和系統(tǒng)建構(gòu)者所謂的“知識(shí)性工作”上。

界面文化：你強(qiáng)調(diào)了審核工作的不可見性，科技公司審核的過程是隱藏的，審核規(guī)則是不透明的，審核員的存在也不為人所知。這些數(shù)字勞動(dòng)常常以不同名義在全球范圍內(nèi)轉(zhuǎn)移，員工的勞動(dòng)關(guān)系與受益的科技公司相距甚遠(yuǎn)。為何公司傾向于隱藏內(nèi)容審核過程？

莎拉·羅伯茨：我在2012年前后開始正式采訪審核員，至今已過去十年，審核規(guī)則不夠透明的現(xiàn)象正在慢慢改善。我們的同行和學(xué)者、記者正敦促公司更詳細(xì)地解釋他們在做什么。在我剛開始做研究時(shí)，科技公司完全否認(rèn)存在審核流程。

從實(shí)際層面考慮，大多數(shù)公司會(huì)說他們不希望用戶知道審核的規(guī)則，因?yàn)檫@讓用戶有更多方法繞過審核。但另一方面的意識(shí)形態(tài)考量在于，終端用戶認(rèn)為自己與社交平臺(tái)的關(guān)系很簡單，他們只要上傳內(nèi)容，內(nèi)容就會(huì)傳播到全世界——沒有中間機(jī)制的處理，更不用說涉及一系列行為、政策和工作者。硅谷有這樣一種信仰，即計(jì)算機(jī)技術(shù)具備解決任何問題的能力，簡單化的關(guān)系對于這些公司在美國的宣傳非常有用。

另一個(gè)重要的意識(shí)形態(tài)原因涉及自由觀念。在過去幾十年里，硅谷的領(lǐng)導(dǎo)層一直信仰自由市場原則，他們傳達(dá)了這樣的信息：你如果使用Facebook、Snap或者任何平臺(tái)，就能夠無限制地表達(dá)自己。但當(dāng)人們意識(shí)到審核員的存在，就會(huì)知道這是不可能的。

界面文化：一位媒體公司從業(yè)者曾在你做研究時(shí)說——“如果你給互聯(lián)網(wǎng)開一個(gè)口子，它就會(huì)被垃圾填滿?！钡@些公司或許就需要在網(wǎng)絡(luò)垃圾、暴力與言論自由之間尋找平衡。根據(jù)你的調(diào)查，大互聯(lián)網(wǎng)公司制定審核規(guī)則的標(biāo)準(zhǔn)是什么？

莎拉·羅伯茨：有些審核規(guī)則是沒什么爭議的，比如虐待兒童的內(nèi)容不應(yīng)該存在。但也有些例外，比如一段具有新聞價(jià)值的虐待兒童的視頻，人們應(yīng)該知道某地正在發(fā)生傷害兒童的事件。

實(shí)際上，公司制定的具體規(guī)則幾乎都是不被人所知的，不透明的規(guī)則使科技公司成為最終仲裁者，這意味著他們可以隨時(shí)更改規(guī)則，且無需對任何人負(fù)責(zé)，這種關(guān)系非常不平衡。

各種各樣的利益集團(tuán)都希望干涉審核過程。資本感興趣，美國政府感興趣，其他所有政府也感興趣，他們都希望能夠控制和操縱這類媒介形式，這是前所未有的。

大科技公司做出決策的真正原因與保護(hù)弱勢群體無關(guān)，而更多地與公司客戶的關(guān)系有關(guān)。所有的社交媒體公司實(shí)際上都是廣告公司、數(shù)據(jù)聚合公司或行為市場分析公司，它們會(huì)根據(jù)社會(huì)政治氛圍的變化改變審核規(guī)則——一個(gè)典型的例子是馬斯克接手推特后，其他公司都根據(jù)推特的改變調(diào)整了自己的審核政策，以獲得最大利益。想象一下，如果有一天跨性別者被認(rèn)為不應(yīng)該受到任何保護(hù)，公司就可能停止提供審核保護(hù)，它們對此沒有任何價(jià)值觀，盈利是最大的目標(biāo)。

這也是美國傳統(tǒng)媒體、廣播電視或電影等行業(yè)從業(yè)者對社交媒體公司有很多怨恨的原因。因?yàn)樗麄兪艿降拇罅勘O(jiān)管——大部分實(shí)施自20世紀(jì)某個(gè)時(shí)候——更多出于公共利益，而非贏利規(guī)則。而科技公司受益于完全功能失調(diào)的聯(lián)邦政府，該政府失衡地向企業(yè)權(quán)力——而不是公眾利益——傾斜。

界面文化：在今天，人們可以怎樣對審核標(biāo)準(zhǔn)施加監(jiān)督？

莎拉·羅伯茨：很多民間社會(huì)團(tuán)體會(huì)聯(lián)合起來要求變革，或者代表社會(huì)各界的重要團(tuán)體發(fā)表年度報(bào)告，評估這些平臺(tái)對不同類型用戶的表現(xiàn)。

比如我是“GLAAD社交媒體指數(shù)”（GLAAD Social Media Safety Index）的咨詢委員會(huì)成員，該指數(shù)旨在評估社交媒體上同性戀、雙性戀和跨性別人群的安全性，跟蹤各種保護(hù)措施的落實(shí)情況，比如人們是否能夠得到尊重、違規(guī)行為是否會(huì)受到懲罰等等。但看看馬斯克一夜之間收購Twitter的情況，所有這些都被毀壞了。

界面文化：你在書中提到了一位內(nèi)容審核公司經(jīng)理的觀點(diǎn)——互聯(lián)網(wǎng)是一系列的商業(yè)地帶，對于私營網(wǎng)站，企業(yè)可以在這里任意設(shè)置審核規(guī)則，畢竟每個(gè)人在使用網(wǎng)站時(shí)都要點(diǎn)擊同意協(xié)定。但問題似乎沒這么簡單，你覺得在理想情況下，內(nèi)容審核標(biāo)準(zhǔn)應(yīng)該如何制定？

莎拉·羅伯茨：我不想假裝自己能說出一個(gè)理想的流程。但我覺得問題不僅僅存在于審核公司的標(biāo)準(zhǔn)缺乏透明度，問題出現(xiàn)得早的多?？萍脊編е麄兒芸岬恼f辭很容易地進(jìn)入市場，至于內(nèi)容審核策略總是事后才考慮的事情。

當(dāng)社交媒體的體量足夠大，問題還會(huì)涉及到地緣政治，比如法國可能會(huì)對Facebook說，我們有國家主權(quán)，在這里我們不允許發(fā)生某些在美國可以的事情。TikTok的案例也類似，當(dāng)一個(gè)非常受歡迎的媒體產(chǎn)品來自另一個(gè)國家——那個(gè)國家的政治和價(jià)值觀可能與我們不同，或者我們無法控制它對公眾產(chǎn)生的影響——就會(huì)令人感到非常擔(dān)憂。

02 審核員：像機(jī)器一樣工作，隨時(shí)可能被轉(zhuǎn)移到成本更低的地方

界面文化：你所接觸到的審核員對于審核工作的普遍心態(tài)是怎樣的？對于公司制定的標(biāo)準(zhǔn)產(chǎn)生過掙扎嗎？

莎拉·羅伯茨：在大多數(shù)情況下，審核員通常被兩種指標(biāo)評估績效。第一是生產(chǎn)力，即審核了多少內(nèi)容，每天他們要做出1000-2000個(gè)決策，沒有太多時(shí)間深思熟慮。另一個(gè)指標(biāo)是準(zhǔn)確性。經(jīng)理可能每周隨機(jī)抽查，查看審核員是否做出了符合經(jīng)理期望的決策。如果做出了錯(cuò)誤的決策，他們的準(zhǔn)確率就會(huì)下降，甚至可能被解雇，審核員沒有太多空間思考反饋規(guī)則。

到了2023年，對于各大公司來說，內(nèi)容審核員就像機(jī)器一樣，被要求不去運(yùn)用人的洞察力和判斷力，必須遵守公司的判斷。有時(shí)審核工作與造福社會(huì)的事情確有交叉，但有時(shí)沒有。如果你對某個(gè)特定問題充滿熱情，但在審核過程中要不斷違背自己的價(jià)值體系，這可能是非常令人沮喪的經(jīng)歷。

界面文化：你列舉了四種網(wǎng)絡(luò)內(nèi)容審核員的工作模式，有些是在科技公司工作的內(nèi)部員工，有的外包至更小的公司，比如呼叫中心和零工平臺(tái)。不同審核員的工作情況是否有差別？

莎拉·羅伯茨：內(nèi)容審核工作發(fā)展到現(xiàn)在，科技公司內(nèi)部雇傭的審核員大多位于較高的職位，他們可以對一些重要的審核導(dǎo)向做出決策，比如兒童性虐待這類非常敏感、需要警察干預(yù)的案例。大多數(shù)底層網(wǎng)絡(luò)審核工作現(xiàn)在基本都是外包，工作被分配到菲律賓、印度等廉價(jià)勞動(dòng)力相對集中的地方。人們熟悉英語，也有一些相關(guān)的文化和專業(yè)知識(shí)，年輕人更傾向于企業(yè)環(huán)境中的工作，不愿從事其他類型的艱苦工作。

然而，這種情況也非常不公平。想象一下大型科技公司內(nèi)部的審核員所擁有的權(quán)力——如果他們懷疑某項(xiàng)審核規(guī)則，他們可以對規(guī)則做出一些反饋。但當(dāng)馬尼拉的審核員難以忍受他在每天工作中看到的內(nèi)容，往往是沒有任何途徑向大科技公司投訴的，因?yàn)樗凸緵]有任何地理、司法管轄和組織結(jié)構(gòu)上的聯(lián)系，更不用說懷疑審核標(biāo)準(zhǔn)了。如果他們對谷歌說不喜歡某項(xiàng)審核標(biāo)準(zhǔn)，谷歌只會(huì)回答“再見”。

界面文化：內(nèi)容審核是一項(xiàng)全球性產(chǎn)業(yè)，就像大多數(shù)全球化中的常規(guī)做法，跨國公司會(huì)把非技術(shù)性工作外包至廉價(jià)勞動(dòng)力集中的地區(qū)。你在書里提到，為了爭取美國的客戶，菲律賓把殖民地的歷史包裝成了一種優(yōu)勢，在官網(wǎng)上宣揚(yáng)員工的英語能力和對西方流行文化的了解，這似乎是內(nèi)容審核產(chǎn)業(yè)和其他實(shí)體制造業(yè)相比更顯著的特點(diǎn)。

莎拉·羅伯茨：美國將主要的內(nèi)容審核外包到菲律賓完全不是巧合。在100多年的時(shí)間里，菲律賓在軍事、經(jīng)濟(jì)和政治上都受到美國的主導(dǎo)。從最初通過軍隊(duì)殖民菲律賓，逐漸轉(zhuǎn)變?yōu)檎侮P(guān)系，再到經(jīng)濟(jì)關(guān)系，殖民和帝國關(guān)系為這種轉(zhuǎn)變奠定了基礎(chǔ)。

現(xiàn)在，菲律賓有大量受過教育的人口，能夠理解美國英語。而且就像很多東亞國家那樣，菲律賓政府設(shè)立了經(jīng)濟(jì)特區(qū)，用更低的稅收、更好的電力和基礎(chǔ)設(shè)施鼓勵(lì)外國公司入駐。當(dāng)我去馬尼拉考察內(nèi)容審核園區(qū)時(shí)，它的們所在地曾經(jīng)就是美國軍事基地——我很震驚，這一切是真的嗎？

我在書中提到的愛荷華的內(nèi)容審核公司，他們的口號是“外包給愛荷華，而不是印度”。為了與印度區(qū)別，它把美國鄉(xiāng)村白人的文化資本作為賣點(diǎn)，官方主頁顯示的也是紅谷倉和中西部農(nóng)場圖片，并表示這里的員工對內(nèi)容審核更有文化敏銳度，這就涉及到了排外主義和種族等方面的問題。對于那些愛荷華州的審核員來說，他們的身份——主流、白人、美國中西部的成長背景、異性戀、生活在傳統(tǒng)家庭環(huán)境中——就是他們對審核判斷工作的價(jià)值。換句話說，如果這個(gè)群體看到某件事覺得不合適，公司會(huì)覺得其他人很可能也這樣認(rèn)為。

界面文化：審核產(chǎn)業(yè)“流動(dòng)”的軌跡看上去很像是建立于正式殖民統(tǒng)治時(shí)期，但表現(xiàn)出來的機(jī)制與流程已經(jīng)不再是政治和軍事上的，而是經(jīng)濟(jì)上的。

莎拉·羅伯茨：的確，除了菲律賓之外，不要忘了印度也有大量的內(nèi)容審核產(chǎn)業(yè)。我們都知道，印度曾經(jīng)是英國的殖民地，他們也同英語世界具有文化上的“親近感”。無論我去到哪里，巨頭科技公司、菲律賓或其他地方，他們都會(huì)提及，如果工作不夠努力，合同就會(huì)轉(zhuǎn)移到印度。審核員好像隨時(shí)都面臨著一個(gè)風(fēng)險(xiǎn)，就是這份外包工作可能會(huì)轉(zhuǎn)移到成本更低、生產(chǎn)力更高的地方。最早審核員們評估一條內(nèi)容的時(shí)間大概是30秒，后來時(shí)間被要求縮短到10-15秒左右，并被告知要么接受這個(gè)，要么合同將被轉(zhuǎn)去印度，因?yàn)樗麄兂兄Z會(huì)按照這個(gè)速度去做。

界面文化：和“流動(dòng)”相關(guān)的是，許多調(diào)查與研究都關(guān)注過發(fā)達(dá)國家的垃圾回收產(chǎn)業(yè)會(huì)把廢物轉(zhuǎn)移至貧窮國家，比如中國、菲律賓、印度、加納和全球南方的其他地區(qū)。內(nèi)容審核產(chǎn)業(yè)也讓我聯(lián)想到類似的關(guān)系，只是在電子時(shí)代，垃圾不再止于實(shí)物，更擴(kuò)展至了數(shù)字垃圾或者精神垃圾。

莎拉·羅伯茨：事實(shí)正是如此，我在2016年寫過一篇相關(guān)文章。有一艘大駁船離開加拿大溫哥華，載滿了所謂要“回收”的垃圾，這家公司實(shí)際上做的就是把所有東西裝上一艘船，然后運(yùn)到馬尼拉。幾十年來公司一直在這樣做，在非洲如此，在世界各地如此。這艘船到了馬尼拉港，但港口的人說我們不會(huì)接受你們的垃圾，因?yàn)樗麄兊男〕鞘幸呀?jīng)全部都建在了垃圾填埋場周圍，人們靠垃圾為生。

我無法將這個(gè)故事從我的腦海中抹去，因?yàn)樗且粋€(gè)隱喻，象征著巨型公司總是把他們制造的問題推給地球另一端的人們。

03 想象未來：AI取代人工不會(huì)更好，公共領(lǐng)域不只有社交網(wǎng)絡(luò)

界面文化：你在書中提到，我們不能把捍衛(wèi)信息的希望寄托在科技公司的身上，并指出公眾在網(wǎng)絡(luò)上滿足信息需求時(shí)忽視了另一種重要的機(jī)構(gòu)——圖書館。可以具體談?wù)勥@個(gè)觀點(diǎn)嗎？

莎拉·羅伯茨：我感到非常沮喪的是，多年來社交媒體以各種方式偽裝自己是全然的公共領(lǐng)域，似乎所做的是為了公共利益。與此同時(shí)，在美國，公立學(xué)校系統(tǒng)以及橫跨鄉(xiāng)村和城市、向所有人免費(fèi)開放的公共圖書館的資金支出都在下降，難以獲得任何資助。社交媒體偽裝自己可以和這些公共機(jī)構(gòu)一樣滿足公眾的信息需求，但實(shí)際上并非如此。人們熱衷在社交媒體這些虛假的公共空間交流，實(shí)際的公共空間卻越來越少。

并不是說圖書館沒有問題，作為文化機(jī)構(gòu)，它們經(jīng)常維護(hù)主導(dǎo)的權(quán)力結(jié)構(gòu)。但在大多數(shù)情況下，我更相信公共圖書館，而不是那些在股市上交易、對股東負(fù)責(zé)的公司。我提到圖書館只是想說，別忘了，我們作為一個(gè)集體擁有這種能力，我們曾共同想象過一些為所有人存在的東西，我們愿意支持它，不是為了追求利潤，而是為了集體價(jià)值。

我們不必只是等待，看看硅谷會(huì)想出什么方式讓我們相互交流，決定我們獲取信息的方式——它們只有利潤動(dòng)機(jī)以及公司意識(shí)形態(tài)，似乎唯一值得做的事情就是用每個(gè)人的言論獲取利潤——這是一種狹隘的觀念，也許我們不應(yīng)該將每一次互動(dòng)、每一段關(guān)系、每一個(gè)想法和理念都當(dāng)作商品來對待，也許這是一個(gè)糟糕的想法，對吧？

界面文化：你在書中也倡導(dǎo)，關(guān)于信息交流的集體想象力不應(yīng)該局限在大互聯(lián)網(wǎng)平臺(tái)，那其他的可能性是什么呢？

莎拉·羅伯茨：我已經(jīng)在互聯(lián)網(wǎng)上待了30年了，我經(jīng)常說的一件事是，讓20億人使用同一個(gè)平臺(tái)可能不是一個(gè)好主意。很久以前，我們會(huì)用BBS，社區(qū)的治理方式與現(xiàn)今完全不同，當(dāng)時(shí)的利害關(guān)系要低得多，很少有金錢利益參與其中，更不用說政治利益，國家安全機(jī)構(gòu)從沒想過要去BBS觀察人們的行為和言論。但我也想強(qiáng)調(diào)，我不想陷入懷舊濾鏡之中，那時(shí)存在很多問題，比如大多數(shù)人無法獲得互聯(lián)網(wǎng)資源。但這確實(shí)讓我覺得，人們可以通過不同方式自我組織、自我管理社區(qū)，以有意義的方式聚集在一起，形成小型的集體。

這就是為什么我非常喜歡分布式社交媒體的概念，尤其是像Mastodon，因?yàn)樗试S幾乎類似根狀的組織方式——根狀理論是早期互聯(lián)網(wǎng)學(xué)者的理想。在某種程度上，它是一種自治機(jī)制，通過它可以用對你有意義的方式形成和改革社區(qū)，而不是現(xiàn)在這樣——現(xiàn)在的社交媒體是有圍墻的花園，你以為自己身處這座巨大而美妙的花園中，周圍卻全是邊界，只不過你感受不到。

界面文化：ChatGPT幾個(gè)月前備受關(guān)注，一部分人覺得重復(fù)性勞動(dòng)很快會(huì)被AI替代，諷刺的是，《Times》當(dāng)時(shí)發(fā)布了一篇調(diào)查，指出OpenAl外包了大量時(shí)薪1.32美元的肯尼亞工人，對其進(jìn)行內(nèi)容審核。你覺得AI的發(fā)展會(huì)如何影響內(nèi)容審核工作？

莎拉·羅伯茨：曾經(jīng)我的碩士老師向我提到“人機(jī)交互”領(lǐng)域的概念，我想，人與計(jì)算機(jī)交互？難道還存在什么其他的計(jì)算機(jī)交互模式嗎？每一種交互背后的本質(zhì)都是人與計(jì)算機(jī)的交互，計(jì)算機(jī)是我們制造和編程的，忘記這些只會(huì)抹除人的存在和人的勞動(dòng)。

幾年前有一個(gè)有趣的藝術(shù)項(xiàng)目，谷歌圖書將許多大學(xué)圖書館的書籍進(jìn)行了電子化，如果你在谷歌上瀏覽一本書，可能翻到300多頁時(shí)，會(huì)突然看到圖像邊緣出現(xiàn)了一個(gè)手指，這是掃描工人工作時(shí)拿著書本的手指。

另一個(gè)例子發(fā)生在幾年前，當(dāng)我偶然打開一部自己的iPhone，發(fā)現(xiàn)其中有一張照片，是一位戴著白色帽子、穿著白色實(shí)驗(yàn)室外套的年輕女孩。很明顯，她在中國的工廠里，一個(gè)富士康之類的地方，可能當(dāng)時(shí)是在測試手機(jī)，但最后這張照片沒有刪掉。我很后悔當(dāng)時(shí)沒有把她保存下來。

很長時(shí)間以來，當(dāng)我提出對內(nèi)容審核員的工作條件、不當(dāng)薪酬、工作的危險(xiǎn)性或整個(gè)系統(tǒng)的關(guān)注時(shí)，經(jīng)常有人告訴我不要擔(dān)心，幾年后計(jì)算機(jī)就能夠完成所有這些工作。我對此有兩個(gè)反應(yīng)：首先我覺得不會(huì)實(shí)現(xiàn)，然后我會(huì)想，為什么這樣就更好呢？這并不能改變?nèi)藗兝^續(xù)使用暴力、繼續(xù)性虐待兒童，為什么人們?nèi)绱讼矚g計(jì)算機(jī)？因?yàn)橛?jì)算機(jī)不像人，它們不會(huì)罷工、不會(huì)抗議工作條件、不會(huì)組織工會(huì)。

ChatGPT技術(shù)屬于所謂事前內(nèi)容審查的范疇，但針對類似的每一個(gè)新工具的開發(fā)，無論是圖像AI、視頻AI、音頻還是文本，所有這些都需要龐大的工人隊(duì)伍輔助，而且隨著我們的依賴程度增加，裁決材料的人工需求也會(huì)一直增加。有人必須收集AI訓(xùn)練數(shù)據(jù)，有人必須審核算法，有人必須處理誤判的問題。這些都讓人們越來越多地暴露在非常乏味且具有傷害性的工作中。我們只是在改變?nèi)祟悓徍说臅r(shí)間點(diǎn)，但審核工作本身將繼續(xù)是不可見的、被低估的、環(huán)境惡劣的，并且可能以最糟糕的方式全球化。

（除注明外，本文圖片均來自《幕后之人》，由出版社供圖并授權(quán)）