【編者按】
在線(xiàn)社交空間和信息空間里的內(nèi)容審核并不新鮮，自從網(wǎng)絡(luò)社交空間誕生以來(lái)，在過(guò)去40年里，一直有人在制訂和推行各種參與規(guī)則。但是由一群職業(yè)化員工為大型商業(yè)機(jī)構(gòu)從事大規(guī)模、有組織的有償審核工作，是一種新現(xiàn)象。
美國(guó)加州大學(xué)洛杉磯分校教育與信息研究院助理教授莎拉·羅伯茨于2010-2018年間訪談了許多離職及在職的商業(yè)性?xún)?nèi)容審核員，全面考察了美國(guó)互聯(lián)網(wǎng)商業(yè)性?xún)?nèi)容審核工作的不同類(lèi)型，揭示了審核員們的生存境遇。本文摘自《幕后之人：社交媒體時(shí)代的內(nèi)容審核》，廣東人民出版社/萬(wàn)有引力，2023年5月版。
誰(shuí)來(lái)決定？MegaTech的內(nèi)部政策制定和應(yīng)用
MegaTech（化名）的審核員在審核內(nèi)容時(shí)需要遵守一套內(nèi)部政策，這些政策是由他們的上級(jí)一安全與政策部門(mén)（簡(jiǎn)稱(chēng)SecPol）的全職員工制定的。這些極其詳細(xì)的內(nèi)部政策是商業(yè)性?xún)?nèi)容審核員判斷內(nèi)容的標(biāo)準(zhǔn)，它們沒(méi)有向社會(huì)公開(kāi)，而是作為商業(yè)機(jī)密在內(nèi)部使用，服務(wù)于公司的品牌管理。保密的部分原因是防止不懷好意的用戶(hù)鉆空子，通過(guò)打擦邊球或者故意規(guī)避規(guī)則的方式在平臺(tái)上發(fā)布不良內(nèi)容。此外，披露商業(yè)性?xún)?nèi)容審核政策也會(huì)讓局外人獲悉公司審核員的工作性質(zhì)。如果內(nèi)部政策被曝光，觸發(fā)審核機(jī)制的內(nèi)容種類(lèi)也會(huì)被曝光，擁有光鮮形象的平臺(tái)就會(huì)暴露出它極其丑陋的一面，畢竟在人們眼中，平臺(tái)的功能是提供娛樂(lè)、樂(lè)趣和自我表達(dá)的渠道，用戶(hù)可以直接通過(guò)平臺(tái)將內(nèi)容傳播到全世界。曝光內(nèi)部政策還可能會(huì)引發(fā)關(guān)于政策所依據(jù)的價(jià)值觀的難題，審核員們肯定懂得這一點(diǎn)。喬希告訴我：“我們?cè)谶\(yùn)用政策時(shí)試圖維持全球化的視角，至少他們是這樣說(shuō)的。我感覺(jué)他們依據(jù)的是美國(guó)的價(jià)值觀，因?yàn)楸热缦衤泱w這樣的事情，我的意思是上半身裸體，除了在中東和日本這些地方之外，在很多歐洲國(guó)家和其他地方都是被允許的。但是在這里，我們就要將裸體內(nèi)容刪除?！?/p>
正如喬希這樣的商業(yè)性?xún)?nèi)容審核員所指出的那樣，盡管MegaTech的名字本身就象征著互聯(lián)網(wǎng)，而且它擁有全球性的影響力和用戶(hù)群，但它關(guān)于用戶(hù)生成內(nèi)容的政策是在特定的、少有的社會(huì)文化環(huán)境中制定出來(lái)的，即教育程度高、經(jīng)濟(jì)發(fā)達(dá)、政治上信奉自由主義、種族單一的美國(guó)硅谷。公司的內(nèi)部政策往往首先反映了公司對(duì)品牌保護(hù)的需求，同時(shí)它也是一種用鮮明的美國(guó)自由主義來(lái)解釋言論自由、信息自由等概念的機(jī)制。社會(huì)規(guī)范也是通過(guò)美國(guó)和西方文化的視角折射出來(lái)的，傾向于反映白種人的觀念。
因此，對(duì)于平臺(tái)所青睞的這些復(fù)雜的價(jià)值觀和文化體系而言，商業(yè)性?xún)?nèi)容審核員可以被理解為它們的載體和代理人，即使在公司的規(guī)則和審核員自身的價(jià)值觀相沖突的時(shí)候也是如此。馬克斯解釋說(shuō)：
我們擁有逐條羅列、非常具體的內(nèi)部政策。它們是保密的，否則人們就能很容易規(guī)避它們。我們會(huì)經(jīng)常討論一些非常具體的內(nèi)部政策，每周要和安全與政策部門(mén)開(kāi)一次會(huì)。比如說(shuō)，系統(tǒng)不會(huì)將涂黑臉（blackface）默認(rèn)為仇恨言論，這總是讓我很惱火，讓我崩潰了差不多十次。我們開(kāi)會(huì)討論政策時(shí)，平心而論，他們總是傾聽(tīng)我的意見(jiàn)，從來(lái)不會(huì)禁止我發(fā)言。他們不同意我的看法，也沒(méi)有改變過(guò)政策，但總是讓我暢所欲言，真令人驚訝。就是這樣，我們用來(lái)審核視頻的內(nèi)部政策有好幾十頁(yè)。
他繼續(xù)解釋說(shuō)，那些模糊的語(yǔ)言“從根本上說(shuō)給了我們回旋的余地”。在MegaTech，關(guān)于內(nèi)容刪除的內(nèi)部政策會(huì)根據(jù)多方面的動(dòng)態(tài)因素進(jìn)行調(diào)整，包括面向所有用戶(hù)的社區(qū)準(zhǔn)則、內(nèi)容創(chuàng)作者對(duì)于未經(jīng)同意發(fā)布內(nèi)容的刪除請(qǐng)求，以及公司內(nèi)部對(duì)社區(qū)準(zhǔn)則的解釋。審核員需要遵守這些解釋?zhuān)鼈儠?huì)經(jīng)常變化。喬希解釋說(shuō)：“政策與社會(huì)氛圍息息相關(guān)，如果某樣事情在社會(huì)上變得可以接受,那么我們就會(huì)調(diào)整政策。政策還會(huì)根據(jù)全球的社會(huì)氛圍進(jìn)行調(diào)整?；旧希覀兊恼叨际菫榱吮Ｗo(hù)某類(lèi)特定的群體?！?/p>
事實(shí)上，雖然有政策和規(guī)則存在，但一些群體還是能夠獲得MegaTech的特殊對(duì)待，因?yàn)樗麄冇欣贛egaTech的商業(yè)利益。他們通常是較大的“合作伙伴”，作為內(nèi)容創(chuàng)作者，他們能夠?yàn)楣疚罅坑脩?hù)，從而為自己和平臺(tái)創(chuàng)造廣告收益。馬克斯介紹了這種關(guān)系：
如果你是個(gè)非常優(yōu)秀的用戶(hù)，你可以申請(qǐng)合作伙伴計(jì)劃，這樣可以從廣告中賺取收益分成。合作伙伴可以直接聯(lián)系安全與政策部門(mén)和法律支持部門(mén)。有時(shí)候我們會(huì)遇到一個(gè)合作伙伴的違規(guī)視頻，通常來(lái)說(shuō)我們應(yīng)該刪除視頻并向他們的賬號(hào)發(fā)出警告，（按照規(guī)則）警告三次無(wú)效，賬號(hào)就會(huì)被封禁。但也許他們是重要的合作伙伴，公司不想封禁他們，所以我們會(huì)將視頻發(fā)送給安全與政策部門(mén)，讓他們?nèi)ジ献骰锇闇贤āＮ业谜f(shuō)得清楚一些：他們不會(huì)讓這些視頻留在平臺(tái)上，他們會(huì)讓合作伙伴撤下視頻，并且會(huì)比政策頁(yè)面更詳細(xì)地說(shuō)明這個(gè)視頻違反了哪些規(guī)則。據(jù)我所知，我們從來(lái)都不會(huì)為了合作伙伴而破壞規(guī)則。頂多是處理方式更靈活一些，但不會(huì)做出實(shí)質(zhì)性的讓步，不會(huì)讓令人反感的內(nèi)容留在平臺(tái)上。
平臺(tái)上處于灰色地帶的內(nèi)容和行為是MegaTech公司商業(yè)性?xún)?nèi)容審核工作持續(xù)面臨的挑戰(zhàn)。馬克斯介紹說(shuō)，有一類(lèi)內(nèi)容使他特別苦惱，但它們又剛好沒(méi)有違背公司內(nèi)部政策的字面含義。他們花了很大工夫來(lái)處理和評(píng)估這類(lèi)內(nèi)容。
有個(gè)很復(fù)雜的問(wèn)題，我?guī)缀醺铱隙ìF(xiàn)在它依然是個(gè)問(wèn)題，那就是挑戰(zhàn)視頻（dare video）。發(fā)布者大多是10—15歲的女孩，少數(shù)是男孩。她們?cè)诟改覆恢榈那闆r下注冊(cè)了MegaTech賬號(hào)，并說(shuō)：“我們很無(wú)聊，給我們一些挑戰(zhàn)吧?！庇行┳儜B(tài)者就會(huì)找到她們說(shuō)“給大家看看你的腳”，或者做一些色情行為，但孩子們不知道這些是跟色情有關(guān)的。這真是太瘆人了。有個(gè)人專(zhuān)門(mén)找出這類(lèi)視頻來(lái)舉報(bào)，然后我們?cè)侔阉鼈儎h除。這真是棒極了。我的意思是，我盡量不去這么想：就是他可能喜歡看這些視頻，如果別人問(wèn)他為什么整天看這些視頻，他就可以用舉報(bào)作為理由來(lái)掩飾。但事實(shí)是，由于這個(gè)人的舉報(bào)，我們刪除了成千上萬(wàn)條這樣的視頻。
喬希是MegaTech的合同工而非全職員工，這種身份上的差別在內(nèi)部政策制定中會(huì)有一定的影響。級(jí)別更高的安全與政策團(tuán)隊(duì)和其他與審核相關(guān)的全職員工經(jīng)常會(huì)表示，他們?cè)谥贫ㄎ磥?lái)政策或者對(duì)現(xiàn)有政策進(jìn)行修改和微調(diào)時(shí)，會(huì)重視審核員們的意見(jiàn)。但喬希覺(jué)得這只是在嘴上說(shuō)說(shuō)而已。雖然他對(duì)于不良內(nèi)容和MegaTech的內(nèi)部政策有專(zhuān)業(yè)的見(jiàn)解，但卻無(wú)力推動(dòng)真正的改變，這讓他感到沮喪。造成這種境況的直接原因是公司的商業(yè)性?xún)?nèi)容審核員是有固定期限的合同工。喬希說(shuō)：“我所在的合同工團(tuán)隊(duì)只會(huì)存續(xù)一年，而其他團(tuán)隊(duì)是長(zhǎng)期的。他們經(jīng)常對(duì)我們說(shuō)：‘你們對(duì)政策的話(huà)語(yǔ)權(quán)與我們不相上下。’這當(dāng)然不是真的。我的意思是，我們的確能參與政策討論，但沒(méi)有任何能力去改變它們?！?/p>
喬希這種審核員所做的工作幾乎完全是對(duì)內(nèi)部政策的執(zhí)行，并沒(méi)有決定MegaTech平臺(tái)政策的能力，為此他們感到沮喪。MegaTech公司也錯(cuò)失了一個(gè)機(jī)會(huì)，如果它能夠?qū)で蟛⒅匾晝?nèi)部審核員的反饋，就能夠查明許多情況，比如地區(qū)性政治沖突、違規(guī)行為的新發(fā)展趨勢(shì)，以及惡意用戶(hù)對(duì)平臺(tái)的狡猾操縱。但總體來(lái)說(shuō)，它沒(méi)有這樣做。
MegaTech與國(guó)際外交：商業(yè)性?xún)?nèi)容審核的隱形外交政策職能
某些看似明顯違反政策的視頻往往會(huì)成為復(fù)雜決策過(guò)程的催化劑，在審核團(tuán)隊(duì)成員之間、在審核員和安全與政策部門(mén)之間引發(fā)激烈的爭(zhēng)論。很多時(shí)候，決策不是嚴(yán)格按照視頻內(nèi)容做出的，還會(huì)考慮到視頻的政治效果和宣傳價(jià)值。那些從全球戰(zhàn)亂地區(qū)上傳的視頻是最讓團(tuán)隊(duì)感到棘手的，三位受訪者都談過(guò)這一點(diǎn)，這些視頻在下班后還會(huì)一直縈繞在他們的腦海。
保留或者刪除這些視頻的決策會(huì)對(duì)現(xiàn)實(shí)世界造成很大的影響，因?yàn)镸egaTech是全球主要的內(nèi)容傳播平臺(tái)，創(chuàng)作者們希望在這里吸引人們對(duì)各類(lèi)事情的關(guān)注，包括政治危機(jī)、沖突和戰(zhàn)爭(zhēng)罪行。因此，審核員和安全與政策團(tuán)隊(duì)成員在審核這類(lèi)視頻時(shí)會(huì)認(rèn)真謹(jǐn)慎地做出決策。MegaTech對(duì)于哪些戰(zhàn)場(chǎng)視頻可以發(fā)布和傳播是有政策性規(guī)定的，它甚至?xí)?guī)定哪些沖突算得上是合法“戰(zhàn)爭(zhēng)”，這些規(guī)定的影響力往往會(huì)超出兩個(gè)團(tuán)隊(duì)最初的估計(jì)。處于沖突局勢(shì)中的人們?cè)絹?lái)越依賴(lài)MegaTech的平臺(tái)來(lái)記錄和傳播當(dāng)?shù)氐奈C(jī)信息，這是他們能夠利用的為數(shù)不多的平臺(tái)之一。MegaTech在這方面的影響力是有目共睹的。
這些內(nèi)容看上去違反了MegaTech對(duì)于過(guò)度血腥、暴力和傷害兒童的內(nèi)容的禁令，但是，安全與政策部門(mén)的全體全職員工（甚至可能是更高層級(jí)的員工）通常會(huì)在政策中規(guī)定一些例外的處理方式，有時(shí)候連審核員也無(wú)法了解公司的全部決策流程。對(duì)于與地緣政治沖突相關(guān)的用戶(hù)生成內(nèi)容，MegaTech的內(nèi)部政策會(huì)根據(jù)全球事件和政治立場(chǎng)的變幻無(wú)常做出反應(yīng)。顯而易見(jiàn)，這些政策的制定在政治上是以美國(guó)為中心的，因此，選擇保留或刪除某些內(nèi)容的過(guò)程，很容易會(huì)變成默許或公開(kāi)支持美國(guó)外交政策的過(guò)程。喬?！どＭ兴菇忉屨f(shuō)：
不管你的承受能力有多強(qiáng)，有些內(nèi)容還是會(huì)讓你感到猝不及防。特別是現(xiàn)在仍在發(fā)生的敘利亞戰(zhàn)爭(zhēng)，我的意思是，你永遠(yuǎn)不知道接下來(lái)會(huì)看到什么。有一天，一枚炸彈在學(xué)校里炸死了20來(lái)個(gè)孩子，那個(gè)視頻慘不忍睹，孩子們的尸體碎片到處都是。視頻沒(méi)有經(jīng)過(guò)任何剪輯。我們?cè)噲D幫助當(dāng)?shù)厝擞涗浰麄兊膽K況，所以保留了這些視頻。這些視頻瘋狂傳播開(kāi)來(lái)，因?yàn)樗鼈兎浅１┝Γ浅Ｓ鞋F(xiàn)實(shí)意義和話(huà)題性。我們會(huì)經(jīng)常看到這種片段，讓你覺(jué)得有些不舒服。
喬希很不解，為什么某些來(lái)自沖突地區(qū)的內(nèi)容出于情報(bào)和宣傳的原因被保留下來(lái)，而另一些卻被刪除了。難以影響政策制定的短期審核合同工，與負(fù)責(zé)制定政策但不參與日常審核工作的安全與政策部門(mén)的全職員工之間的權(quán)力差異再一次凸顯出來(lái)。喬希說(shuō)：
有一位安全與政策部門(mén)的員工對(duì)中東的任何危機(jī)都非常感興趣，這沒(méi)什么。但問(wèn)題是，我們以非常彈性的方式對(duì)待中東的視頻，卻不需要以同樣的態(tài)度對(duì)待其他國(guó)家的視頻。這讓我和另一位審核員感到不滿(mǎn)。比方說(shuō)，墨西哥正在發(fā)生毒品戰(zhàn)爭(zhēng)，兩邊陣營(yíng)都有不少人上傳戰(zhàn)爭(zhēng)視頻，比如謀殺、綁架和訊問(wèn)之類(lèi)的。如果這些是敘利亞的視頻，我們會(huì)保留它們，內(nèi)容一模一樣。我是說(shuō)，原因不同，但內(nèi)容是一樣的，有沖突的雙方，從各個(gè)方面來(lái)看都是一樣的內(nèi)容。但他們給我的理由是：這些內(nèi)容不具有新聞價(jià)值?？蛇@是毒品戰(zhàn)爭(zhēng)?。⊥瑯?，最近在一個(gè)非常小的偏僻地區(qū)發(fā)生了政變之類(lèi)的事件，他們也說(shuō)這個(gè)事件不夠有新聞價(jià)值。給人的感覺(jué)是他們?cè)趫?zhí)行雙重標(biāo)準(zhǔn)。我認(rèn)為唯一的原因是安全與政策部門(mén)的那位員工對(duì)中東事件特別感興趣。
凱特琳也很難接受來(lái)自敘利亞的內(nèi)容，但她覺(jué)得審核它們不會(huì)給自己帶來(lái)長(zhǎng)期的影響。她說(shuō)：“我審核的大部分內(nèi)容都是重復(fù)性的，我會(huì)想著，‘好吧，我知道這是什么，我已經(jīng)看過(guò)了’。但總有一些千奇百怪的內(nèi)容是你從來(lái)沒(méi)有看過(guò)的。關(guān)于敘利亞的血腥圖片有很多，非?？膳?。但它們一閃而過(guò)，幾秒鐘就會(huì)消失?！笔聦?shí)上，審核員在MegaTech發(fā)揮了強(qiáng)大的編輯作用，盡管他們不太引人注目，缺乏影響內(nèi)部?jī)?nèi)容政策的權(quán)力，終端用戶(hù)也無(wú)法實(shí)質(zhì)性地參與MegaTech有關(guān)用戶(hù)生成內(nèi)容的政策制定和處理過(guò)程，甚至不知道這種處理程序的存在。這意味著這種編輯角色和其他媒體環(huán)境中的編輯角色沒(méi)有多少相似之處。此外，在很多時(shí)候，我們并不知道MegaTech的商業(yè)性?xún)?nèi)容審核員是否處在能夠做出有效編輯決策的位置上，或者合適的環(huán)境中。
凱特琳便是如此。盡管她需要決定是否保留戰(zhàn)場(chǎng)內(nèi)容讓數(shù)百萬(wàn)人看到，但她似乎并不太了解這些沖突的性質(zhì)、沖突各方的情況和視頻發(fā)布的后果。我問(wèn)她，這份工作是否讓她對(duì)以前不熟悉的國(guó)際沖突和事件有更多的了解，她回答說(shuō)：“不完全是這樣，我還得在工作之余多讀一些相關(guān)內(nèi)容。因?yàn)槲覀兛吹降亩际窃疾牧希也磺宄降装l(fā)生了什么，只能夠試著去理解。這些事情看上去很復(fù)雜，我絞盡腦汁，仍然覺(jué)得一頭霧水?！?/p>
凱特琳不認(rèn)為自己有足夠的知識(shí)和能力去理解這些戰(zhàn)場(chǎng)片段的背景和意義，但她仍然需要對(duì)它們進(jìn)行審核和判斷，所依靠的僅有公司的內(nèi)部政策，以及安全與政策部門(mén)做出的額外規(guī)定。像喬希一樣，她覺(jué)得處理這些內(nèi)容的內(nèi)部政策是有一些矛盾的。但在我們的訪談中，她承認(rèn)自己沒(méi)有足夠的信息去理解和評(píng)價(jià)這些政策背后的邏輯，她只是單純地遵守MegaTech的政策。
我們需要保留大部分（戰(zhàn)場(chǎng)片段），幾乎是全部吧，因?yàn)楫?dāng)?shù)厝诵枰ㄟ^(guò)我們的平臺(tái)來(lái)展現(xiàn)這些事情。雖然它們同樣會(huì)發(fā)生在其他國(guó)家，比如墨西哥的毒品戰(zhàn)爭(zhēng)之類(lèi)的，但我們會(huì)刪除墨西哥那些內(nèi)容，我不知道這其中的原因。似乎我們?cè)趲椭鷶⒗麃喨税l(fā)聲。我們會(huì)對(duì)許多極其血腥的內(nèi)容施加年齡限制。但有些內(nèi)容只有尸體，沒(méi)有流血之類(lèi)的——這樣的內(nèi)容所有人都能看。搜索這些的大多是當(dāng)?shù)厝耍@些內(nèi)容是阿拉伯語(yǔ)的，所以我不清楚在美國(guó)有多少阿拉伯人或者孩子會(huì)搜索這些內(nèi)容，大部分人都不會(huì)看到它們。這讓我對(duì)保留它們感到更加安心。
與此同時(shí)，對(duì)其他政治性?xún)?nèi)容的審核往往會(huì)重點(diǎn)考慮品牌管理和品牌保護(hù)的需求，通常由安全與政策部門(mén)和其他高層管理團(tuán)隊(duì)下達(dá)指令。在這些情況下，品牌管理不僅能使MegaTech免受批評(píng)，還能使它的合作伙伴和大批用戶(hù)免受負(fù)面宣傳的影響。在我們的訪談中，喬希將商業(yè)性?xún)?nèi)容審核的這個(gè)職能稱(chēng)為“公關(guān)”。
政策變化的速度相當(dāng)慢，（安全與政策團(tuán)隊(duì)成員）實(shí)際上沒(méi)有多少工作要做，他們每天都在搞一大堆的字詞辯論，真正做出的改變卻很少。他們看上去像是在做些事情，但并沒(méi)有多少改變是由他們推動(dòng)的。除非有某個(gè)明確的政策問(wèn)題或者法律問(wèn)題出現(xiàn)，比如我們?cè)谕鈬?guó)恐怖組織政策推出之前，一直是允許基地組織發(fā)布視頻的。于是《紐約時(shí)報(bào)》就刊出一篇報(bào)道說(shuō)：“啊，MegaTech正在幫助基地組織?！被蛘哒f(shuō)：“MegaTech正在允許基地組織上傳視頻。”這立刻就成了一個(gè)公關(guān)問(wèn)題，然后我們的政策團(tuán)隊(duì)說(shuō)：“好吧，我們得制定相關(guān)的政策?！钡篌w上說(shuō)，除非有相關(guān)的公關(guān)或者法律問(wèn)題出現(xiàn)，否則我們的政策是不會(huì)改變的。政策團(tuán)隊(duì)的任務(wù)是保護(hù)MegaTech，所以我們會(huì)允許任何內(nèi)容發(fā)布，除非它們會(huì)引發(fā)公關(guān)或法律問(wèn)題。
在MegaTech，公關(guān)和品牌管理的問(wèn)題與民主表達(dá)和政治宣傳的爭(zhēng)議糾纏在一起，彼此相互影響。但大部分試圖利用MegaTech平臺(tái)影響力進(jìn)行宣傳的用戶(hù)，都沒(méi)能真正理解內(nèi)容發(fā)布決策流程的影響，這些影響主要是通過(guò)MegaTech的品牌保護(hù)需求來(lái)評(píng)估的。由于MegaTech廣泛流行、易于使用，全球用戶(hù)仍然會(huì)把血腥內(nèi)容上傳到這里，希望尋求支持或者在戰(zhàn)爭(zhēng)沖突中宣傳某個(gè)黨派和團(tuán)體，他們找不到其他普及、易用、同等規(guī)模的平臺(tái)來(lái)發(fā)布這些內(nèi)容。此外，政府和其他各方對(duì)于控制互聯(lián)網(wǎng)訪問(wèn)有著濃厚的興趣，這是它們控制沖突、民意和社會(huì)的重要環(huán)節(jié)。因此，MegaTech無(wú)疑還會(huì)繼續(xù)在這些地區(qū)發(fā)揮巨大的作用，因?yàn)樗軌蛟试S或禁止某些內(nèi)容發(fā)布。
這是一種復(fù)雜且糾結(jié)的關(guān)系。MegaTech的內(nèi)部政策似乎有利于那些在危機(jī)中尋求發(fā)聲渠道的人，他們希望獲得全世界的支持，引發(fā)人們對(duì)他們所遭受苦難的憤慨。但必須指出的是，MegaTech所擁護(hù)的對(duì)象并不是他們。盡管公司里有人試圖支持這些尋求幫助和宣傳的內(nèi)容，就像安全與政策部門(mén)的那位員工一樣，但喬希和凱特琳覺(jué)得他們?cè)谔幚眍?lèi)似的內(nèi)容時(shí)沒(méi)有一視同仁地應(yīng)用政策。當(dāng)這樣一個(gè)商業(yè)性、追逐利潤(rùn)的平臺(tái)采用民主的方式對(duì)待信息傳播時(shí)，它所擁護(hù)的對(duì)象和目的會(huì)比較混亂，這必然會(huì)妨礙它與股東和政府保持積極的關(guān)系。然而，在這樣一個(gè)數(shù)字圍場(chǎng)（digital enclosure）的時(shí)代，這樣一個(gè)表達(dá)空間被廣泛商業(yè)化的時(shí)代，我不清楚人們是否還能找到其他渠道來(lái)表達(dá)異議。
“低垂的果實(shí)”：MegaTech和全球商業(yè)性?xún)?nèi)容審核外包
當(dāng)馬克斯·布林剛進(jìn)入MegaTech的時(shí)候，將商業(yè)性?xún)?nèi)容審核外包給世界其他地方和其他類(lèi)型的工作場(chǎng)所似乎是很難想象的。馬克斯解釋了他對(duì)這種做法的反對(duì)：
你知道嗎？外包一般是非常混亂的。對(duì)于我們審核的這種內(nèi)容來(lái)說(shuō)，我覺(jué)得不能外包出去，因?yàn)榘凑者@些公司制定的薪酬標(biāo)準(zhǔn)，只有在印度和菲律賓等地才能找到人來(lái)干……而那邊的文化截然不同，你無(wú)法推行以美國(guó)和西歐文化為基礎(chǔ)的審核政策。在我入職之前，他們嘗試過(guò)將工作外包到印度，那真是一場(chǎng)災(zāi)難，他們只能停止外包，還是全部安排內(nèi)部員工來(lái)完成……（印度的合同工）會(huì)刪除那些和家人一起在沙灘上穿比基尼的照片，因?yàn)檫@不符合當(dāng)?shù)氐娘L(fēng)俗習(xí)慣。如果只說(shuō)為西方網(wǎng)站進(jìn)行的內(nèi)容審核，這種外包工作的薪酬算是非常低的，我無(wú)法想象那些員工拿著比我還低的薪水來(lái)做這種工作。他們給我的薪酬不算太可憐，但我還是覺(jué)得很低。這是我們僅有的報(bào)酬，還沒(méi)有福利。這種外包工作是非常辛苦的，也很殘忍。
盡管馬克斯認(rèn)為將工作外包到印度或者其他地方會(huì)給MegaTech帶來(lái)很多麻煩，但一年后公司還是采取了這個(gè)策略。它依然保留了內(nèi)部的審核團(tuán)隊(duì)，但同時(shí)也在世界其他地方部署了呼叫中心/業(yè)務(wù)流程外包團(tuán)隊(duì)來(lái)進(jìn)行協(xié)助，并將審核工作分成低級(jí)的和高級(jí)的部分。對(duì)于外包，喬希·桑托斯指出了一個(gè)更令人沮喪的問(wèn)題：它會(huì)損害內(nèi)部合同工的工作數(shù)據(jù)和績(jī)效指標(biāo)。他解釋說(shuō)：
我入職大約四個(gè)月之后，我們將所謂“低垂的果實(shí)”——比較容易審核的視頻全部外包了出去，包括垃圾視頻和色情視頻。這些視頻都是一眼就能分辨的，你根本不需要點(diǎn)開(kāi)看。而那些仇恨言論和直播剪輯就不同，比如說(shuō)，這個(gè)視頻有15分鐘，里面在講“猶太人控制了什么什么”之類(lèi)的，你沒(méi)法知道這個(gè)人接下來(lái)會(huì)講什么，只能把視頻看上一遍，才能知道視頻里講的是不是仇恨言論、是不是陰謀論。如果它們是色情視頻和垃圾視頻，你一眼就能看出來(lái)。我們以前審核的大部分內(nèi)容都是垃圾視頻和色情視頻，大約占全部視頻的60%到70%,但后來(lái)這些視頻全部交給了印度團(tuán)隊(duì)來(lái)處理。所以在那之后，我們審核的視頻數(shù)量少了一半以上，這毀了我們的工作考核指標(biāo)，因?yàn)槲覀兊墓ぷ鞅憩F(xiàn)是根據(jù)審核視頻的數(shù)量來(lái)衡量的。忽然間我們就需要找出一個(gè)新指標(biāo)來(lái)衡量審核員的能力，因?yàn)槲覀儾辉儆心切暗痛沟墓麑?shí)”，能夠?qū)徍说囊曨l數(shù)量大大減少了。
喬希和馬克斯有同樣的擔(dān)憂(yōu)，他擔(dān)憂(yōu)將商業(yè)性?xún)?nèi)容審核工作外包到世界其他地方會(huì)導(dǎo)致審核工作的質(zhì)量下降。他和馬克斯的描述都凸顯了跨國(guó)合作中固有的緊張關(guān)系，這些外包團(tuán)隊(duì)來(lái)自世界上的不同地區(qū)，具有不同的文化、社會(huì)和語(yǔ)言背景。喬希說(shuō)：
（管理層）所做的就是將隊(duì)列分開(kāi)。以前，所有內(nèi)容都在同一個(gè)隊(duì)列里，現(xiàn)在又分出了色情內(nèi)容和垃圾內(nèi)容兩個(gè)隊(duì)列，主要由印度團(tuán)隊(duì)來(lái)處理。我們也可以處理這些隊(duì)列，但這樣一來(lái)印度團(tuán)隊(duì)就沒(méi)事干了，因?yàn)槲覀兒芸炀湍馨阉鼈兲幚硗?。我不明白他們?yōu)槭裁礇](méi)有像培訓(xùn)我們那樣對(duì)印度團(tuán)隊(duì)進(jìn)行全面的培訓(xùn)，我真是不太理解。印度團(tuán)隊(duì)處理隊(duì)列的速度就是會(huì)比我們慢一點(diǎn)。我不明白他們?yōu)槭裁床粚?duì)印度團(tuán)隊(duì)進(jìn)行培訓(xùn)……搞不清楚，也許是他們還不太有把握讓印度團(tuán)隊(duì)來(lái)參與政策制定。我的意思是，這里面有很多原因。印度團(tuán)隊(duì)是全新的團(tuán)隊(duì)，與我們有文化差異。你可以注意到，印度團(tuán)隊(duì)刪除了很多應(yīng)該保留的內(nèi)容，保留了很多應(yīng)該刪除的內(nèi)容。某些文化差異是確實(shí)存在的。
“社群”的本質(zhì)，線(xiàn)上和線(xiàn)下
梅琳達(dá)在各種在線(xiàn)網(wǎng)站和社交媒體平臺(tái)上做過(guò)很長(zhǎng)一段時(shí)間的志愿審核員，這使她能夠?qū)⑸虡I(yè)性?xún)?nèi)容審核工作和志愿審核工作進(jìn)行比較，這是一種有趣的對(duì)比。她指出，相較其他在線(xiàn)空間而言，YouNews的審核工作缺乏職權(quán)和控制力，在遇到問(wèn)題時(shí)，她不知道要在哪里獲得資源和支持，也不知道如何將問(wèn)題提交給上級(jí)處理。她也強(qiáng)調(diào)了在線(xiàn)社群的本質(zhì)，比如DearDiary的“質(zhì)疑白人至上”（Questioning Whiteness）論壇，參與者將自己看作社群的一分子，發(fā)表的內(nèi)容會(huì)經(jīng)過(guò)嚴(yán)格審核，有非常清晰的規(guī)則，所有發(fā)言者都要遵守。事實(shí)上，梅琳達(dá)覺(jué)得在YouNews的環(huán)境下使用“社群”的概念是帶有誤導(dǎo)性的。她認(rèn)為YouNews的論壇不像是一個(gè)社群，而更像是一個(gè)相互攻擊、惡語(yǔ)相向的地方，這正好是她理解的“社群”的反面。
我在我管理的DearDiary社群里擁有很大的職權(quán)，它們都是自發(fā)的社群，有清晰明了、字句分明的社群規(guī)則，你必須同意這些規(guī)則……我們實(shí)際上要處理一些棘手的問(wèn)題，我和別人一起管理“質(zhì)疑白人至上”論壇，審核員之間會(huì)反復(fù)討論。有個(gè)人假裝自己是黑人女性，其實(shí)他是一個(gè)中年白人男子。真是活見(jiàn)鬼！我們只能修改規(guī)則說(shuō)：“如果你不是黑人，就不能假裝自己是黑人?！蔽也桓蚁嘈盼覀兙尤灰由线@條規(guī)則，你能明白嗎？但事實(shí)就是這樣！所以當(dāng)有事情發(fā)生的時(shí)候，我們就會(huì)修改規(guī)則。我們有一些資源，所以如果某個(gè)人被警告了，我們就能給他看看他違規(guī)的地方，讓他知道未來(lái)應(yīng)該如何避免這種情況。這是個(gè)封閉的社群，大部分成員都在這里活動(dòng)了很長(zhǎng)時(shí)間，他們花費(fèi)了很多心血來(lái)阻止有害內(nèi)容生根發(fā)芽。雖然有時(shí)候會(huì)適得其反，但一般而言，如果有人說(shuō)了出格的話(huà)，社群成員就會(huì)發(fā)言，并且聯(lián)系我們說(shuō)：“你能不能解決這件事，或者處理一下這個(gè)人……”我在這里得到的授權(quán)和代理權(quán)要更多，成員們的主動(dòng)性也更高。我的意思是，他們出現(xiàn)在這里是因?yàn)樗麄兿氤蔀槠渲械囊粏T，這個(gè)社群有一個(gè)很具體的主題，就是呼吁白人從種族主義中吸取教訓(xùn)。
梅琳達(dá)在YouNews從事審核工作的效果使她懷疑，像這樣的綜合性在線(xiàn)論壇到底能不能促進(jìn)人們之間的對(duì)話(huà)和理解。事實(shí)上，她覺(jué)得YouNews反而起了相反的作用，像這樣的論壇和在線(xiàn)空間不僅毫無(wú)益處，還會(huì)造成破壞性的影響。
你可以看看YouNews上面那些普通貓味文章底下的評(píng)論，你看不到那些人對(duì)社群的認(rèn)同，你看不到他們對(duì)社群的建設(shè)。他們只是在丟人現(xiàn)眼，說(shuō)“N”開(kāi)頭的那個(gè)單詞，引用經(jīng)文罵“死基佬”。你知道吧？他們沒(méi)有為文明發(fā)言和真正的對(duì)話(huà)做出任何貢獻(xiàn)。Huffington Post這種地方?jīng)]那么嚴(yán)重，那里會(huì)有一些約束措施，點(diǎn)開(kāi)用戶(hù)的小頭像，你可以看到那個(gè)人發(fā)表的其他評(píng)論。我覺(jué)得Shakespeare's Sister和Jezebel這兩個(gè)社群的自我管理機(jī)制很有趣，它們會(huì)根據(jù)用戶(hù)的行為好壞給予獎(jiǎng)賞或懲罰。用戶(hù)可以通過(guò)點(diǎn)贊和點(diǎn)踩讓惡意內(nèi)容沉下去。在YouNews這種地方根本沒(méi)有這樣的機(jī)制。你唯一能做的就是點(diǎn)擊舉報(bào)，投訴它是侮辱性?xún)?nèi)容或者表示反對(duì)。就是這樣，點(diǎn)擊。
這些經(jīng)歷給她在線(xiàn)上和線(xiàn)下的人際交往蒙上了一層陰影：
我覺(jué)得我的沮喪和孤立感很大程度上來(lái)源于這份工作。我以前在認(rèn)識(shí)新朋友的時(shí)候，會(huì)假定他們沒(méi)有惡意，但現(xiàn)在我對(duì)別人的態(tài)度不像以前那么樂(lè)觀了。你能懂嗎？當(dāng)身處公共場(chǎng)合或者遇到朋友的朋友，我會(huì)比以前更加敏感，覺(jué)得他們可能會(huì)在心里咒罵我。如果知道我的各種身份，他們可能會(huì)笑著和我握手，同時(shí)希望我下地獄。
最后，梅琳達(dá)對(duì)綜合性論壇的作用提出了質(zhì)疑，她覺(jué)得它們永遠(yuǎn)不會(huì)起好的作用，相反，它們總是會(huì)把那些臟話(huà)連篇的噴子吸引過(guò)來(lái)。梅琳達(dá)與喬?！どＭ兴购屠锟恕べ?lài)?yán)囊?jiàn)解一致，認(rèn)為這些論壇本身就導(dǎo)致了她審核的這些負(fù)面內(nèi)容的產(chǎn)生。
我真心覺(jué)得有90%的在線(xiàn)論壇用戶(hù)并不想進(jìn)行任何對(duì)話(huà)。他們就沒(méi)這個(gè)想法。他們只想把心里的話(huà)噴出來(lái)。如果被罵得狗血淋頭，他們會(huì)興高采烈地繼續(xù)噴下去。我覺(jué)得在現(xiàn)實(shí)中他們不會(huì)這樣說(shuō)話(huà)，因?yàn)槿绻诂F(xiàn)實(shí)中也是這樣，就會(huì)有人會(huì)拿著一塊肥皂追著他們打。我知道很多人都有這樣的想法，覺(jué)得在這些論壇里可以想說(shuō)什么就說(shuō)什么。但我認(rèn)為那些話(huà)就是他們真正的想法。丑惡的人就是這么多。
梅琳達(dá)以職業(yè)審核員的身份參與到在線(xiàn)新聞?wù)搲?，因此她面臨著一個(gè)艱難的抉擇。如果允許人們?cè)谶@些空間里自由發(fā)言，網(wǎng)站上就會(huì)充斥著各種辱罵和仇恨言論、與主題無(wú)關(guān)的評(píng)論和垃圾內(nèi)容；如果對(duì)這些空間進(jìn)行嚴(yán)格的監(jiān)督和審核，雖然會(huì)侵犯人們的自由表達(dá)權(quán)，但可以使大多數(shù)訪客正常使用網(wǎng)站。顯然，梅琳達(dá)傾向于后者，但令她失望的是，雇傭她從事商業(yè)性?xún)?nèi)容審核工作的論壇無(wú)一例外地都傾向于前者。歸根結(jié)底，梅琳達(dá)在YouNews的任務(wù)是保護(hù)和管理品牌，她在訪談最后也強(qiáng)調(diào)了這一點(diǎn)。她主張人們應(yīng)該關(guān)閉社交媒體網(wǎng)站上的這類(lèi)評(píng)論區(qū)和論壇。果不其然，在接下來(lái)的幾年里，包括《大眾科學(xué)》（Popular Science）、《高等教育紀(jì)事報(bào)》（The Chronicle of Higher Education）在內(nèi)的許多大型在線(xiàn)媒體網(wǎng)站紛紛采取行動(dòng)，對(duì)內(nèi)容發(fā)布流程進(jìn)行了大幅整改，加入了強(qiáng)制性的審核環(huán)節(jié)。
的確，威斯康星大學(xué)2014年的一項(xiàng)研究表明（《紐約時(shí)報(bào)》關(guān)于《大眾科學(xué)》網(wǎng)站關(guān)閉評(píng)論區(qū)的文章中也提到），如果讀者看到了新聞報(bào)道底下的負(fù)面評(píng)論，他們會(huì)更有可能對(duì)這篇報(bào)道本身產(chǎn)生負(fù)面的印象。
梅琳達(dá)簡(jiǎn)單地總結(jié)道：“人類(lèi)太可怕了?。ㄐΓ┲v起這些事情，我仿佛又回到了從前的日子。如果你擁有一個(gè)網(wǎng)站，而且找不出一個(gè)很好的理由來(lái)設(shè)立論壇，那就不要設(shè)立。它的風(fēng)險(xiǎn)很大，會(huì)出現(xiàn)很多負(fù)面言論，對(duì)你的品牌沒(méi)有任何好處，還會(huì)傷害他人。所以不要設(shè)立它?！?/p>
走到有光亮的地方來(lái)
一般來(lái)說(shuō)，給讀者留下一連串問(wèn)題是不妥當(dāng)?shù)?，但?duì)我這樣的研究者來(lái)說(shuō)，這樣做有一個(gè)重要的作用，就是擺出這些問(wèn)題，讓它們指引我未來(lái)的研究方向，將它們作為我跟蹤商業(yè)性?xún)?nèi)容審核及其全球從業(yè)者、進(jìn)出他們所在的數(shù)字空間和物理空間的線(xiàn)索。但別忘了這個(gè)事實(shí)：我們都身在其中，那些登錄Facebook、上傳內(nèi)容、在新聞下面評(píng)論、給帖子點(diǎn)贊和點(diǎn)踩的人，就是我們。作為人類(lèi)，我們渴望獲得參與感和融入感，這種渴望創(chuàng)造了由商業(yè)性?xún)?nèi)容審核員來(lái)填補(bǔ)的商機(jī)，他們滿(mǎn)足了我們的需求。我常常會(huì)想起喬希·桑托斯，他敏銳地發(fā)現(xiàn)了MegaTech上自殺傾向的問(wèn)題，而這種傾向毫無(wú)疑問(wèn)會(huì)自我延續(xù)下去，看不到解決的辦法。如果公司搭建了那些平臺(tái)——那些準(zhǔn)備好被填滿(mǎn)、被重新命名、在全球網(wǎng)絡(luò)上傳播的空容器，我們就會(huì)蜂擁而至。我們會(huì)把我們的用戶(hù)生成內(nèi)容、偏好、行為、人口特征和欲望填充在里面。我們與商業(yè)性?xún)?nèi)容審核的聯(lián)系甚至比與平臺(tái)更加直接，畢竟觸發(fā)MegaTech商業(yè)性?xún)?nèi)容審核流程的就是舉報(bào)視頻的用戶(hù)。就像第二章說(shuō)過(guò)的，F(xiàn)acebook的用戶(hù)舉報(bào)會(huì)觸發(fā)帖子和圖片的審核流程。審核的對(duì)象也是用戶(hù)生成的內(nèi)容。除非我們離開(kāi)平臺(tái)或者與平臺(tái)重新商討雙方的關(guān)系，否則作為用戶(hù)的我們也許才是社交媒體生產(chǎn)周期中最關(guān)鍵的部分，因?yàn)槲覀兪莾?nèi)容的生產(chǎn)者，也是永不饜足的消費(fèi)者。商業(yè)性?xún)?nèi)容審核員使平臺(tái)變得舒適有趣，他們是我們看不見(jiàn)的合作伙伴，和我們有著共生的關(guān)系，類(lèi)似于陰和陽(yáng)。他們對(duì)內(nèi)容進(jìn)行平衡和展示，努力讓我們?cè)诰W(wǎng)絡(luò)活動(dòng)中感到輕松愉悅，讓我們流連忘返。我們可以點(diǎn)贊、舉報(bào)、分享視頻，但是，我們的參與是一種自由意志的假象，我們正處于一系列不斷縮小、不斷分隔的封閉空間中，這些空間受到社群規(guī)則和服務(wù)條款的約束，其中的人工干預(yù)被保密協(xié)議所隱藏，人為痕跡一旦顯露出來(lái)，就會(huì)被當(dāng)做系統(tǒng)中的異常錯(cuò)誤而被清除。這本書(shū)跟人類(lèi)活動(dòng)相比雖然微不足道，但我希望它能夠?qū)⑦@些人為痕跡發(fā)掘出來(lái)。
商業(yè)性?xún)?nèi)容審核員的工作條件有可能得到改善嗎？在計(jì)算能力和計(jì)算機(jī)視覺(jué)產(chǎn)生飛躍式發(fā)展之前，在可預(yù)見(jiàn)的未來(lái)，審核工作仍然需要人類(lèi)介入。即使到了那個(gè)時(shí)候，人力勞動(dòng)可能仍然是首選，它會(huì)沿著全球化的軌跡，轉(zhuǎn)移到擁有大量廉價(jià)勞動(dòng)力資源的地方。商業(yè)性?xún)?nèi)容審核員對(duì)每條用戶(hù)生成內(nèi)容都要做出一系列決策，其復(fù)雜程度是任何算法和過(guò)濾器都難以完成的。文化上的細(xì)微差別和語(yǔ)言上的特殊性更是加大了這種難度。人類(lèi)大腦是無(wú)與倫比的超級(jí)計(jì)算機(jī)，儲(chǔ)存著海量的文化知識(shí)和生活經(jīng)驗(yàn)數(shù)據(jù)，而我們的思維相當(dāng)于復(fù)雜的意義識(shí)別軟件，因此人類(lèi)員工在成本和能力上仍然優(yōu)于任何機(jī)器。承載用戶(hù)生成內(nèi)容的社交媒體平臺(tái)沒(méi)有顯示出任何即將消失的跡象，反而隨著移動(dòng)設(shè)備的普及和全球聯(lián)網(wǎng)人數(shù)的增加而繼續(xù)發(fā)展。人性也不太可能發(fā)生什么改變。所以，喬希、馬克斯、梅琳達(dá)、索菲婭、德雷克、里克等人從事的這項(xiàng)工作不會(huì)消失，商業(yè)性?xún)?nèi)容審核的需求也將繼續(xù)存在。這種工作的地位很低，經(jīng)常會(huì)被種種方式所掩蓋，它還會(huì)使員工接觸到人性陰暗齷齪的一面，幾乎肯定會(huì)導(dǎo)致精神上的損害，但還是會(huì)有人愿意從事這種工作。我要感謝所有從事這份工作的商業(yè)性?xún)?nèi)容審核員，因?yàn)槲液軕c幸做這些工作的不是自己。我希望他們可以離開(kāi)陰影處，從屏幕后面走出來(lái)，走到有光亮的地方來(lái)。
鄂公網(wǎng)安備 42010302001612號(hào) 