隨著接觸互聯網的人數越來越多，網上的內容也呈井噴之勢，質量卻愈發良莠不齊。全球多個國家和地區都出台了相關政策，要求網絡內容提供商對平台上的內容負責，必須審核和刪除違反當地法律的信息，比如暴力、兒童色情和恐怖主義內容。
作爲當今世界上最大的幾家互聯網內容提供商，Facebook、推特、谷歌以及旗下的 YouTube 都面臨著巨大的內容審核壓力。他們的處理辦法非常相似：招聘小部分全職內容審核員，將剩下大部分工作承包給第三方公司，由合同工完成。
知名外包公司埃森哲（Accenture）和高知特（Cognizant）都有類似的業務，其中埃森哲在美國德克薩斯州的奧斯汀市運營著谷歌最大的內容審核中心，裏面的內容審核員全天候工作，負責清理 YouTube 上的不良信息。
當然，從 YouTube 上刪除令人不安的內容不算完，還要從谷歌搜索等服務中刪除它們。這需要公司內部多個團隊協作，因此在谷歌總部還有一些全職員工從事類似的工作。
在大多數情況下，這些內容都由用戶或執法機構舉報，通常包含暴力、色情、虐待兒童和恐怖主義。
聽起來不是什麽美差，但比起程序員，似乎沒什麽技術門檻。如果谷歌給你 9 萬美元的年薪，附加醫療福利和股票獎勵，你願意幹嗎？
外媒 The Verge 記者 Casey Newton 對這些員工的工作內容和環境進行了深入調查。經過 5 個多月的資料收集，他采訪了 18 名現任和前任員工，最終圍繞兩個代表性人物 Peter 和 Daisy 撰寫了一篇長達 5700 余字的故事性報道，爲外界刻畫出了谷歌內容審核員令人堪憂的工作狀態，以及這份工作可能對人造成的持續一生的影響。
以下是對 Newton 報道的整理和編譯，有刪減和重新排版。
“谷歌裏最肮髒的工作”
Peter（化名）是奧斯汀辦公室的一名內容審查員，每天的工作內容就是審核被放到隊列中的視頻。他的同事有數百人。
YouTube 把他們分配到不同的隊列中，比如版權隊列、仇恨和騷擾隊列以及成人色情隊列等等，稱這樣可以讓審查員更好地掌握特定政策和內容的評判標准。
Peter 被分配到了暴力極端主義隊列中（Violent Extremism）。顧名思義，隊列中充斥著極端暴力的視頻，幾乎每天都有斬首、槍殺和虐待的場面，可以算是“谷歌裏最肮髒的工作“之一。
在過去的一年裏，Peter 看到了他的同事在工作時因巨大精神壓力而崩潰，不得不休了兩個月的無薪假期。另一名同事同樣因爲工作的壓力罹患焦慮和抑郁，一度厭食到急性維生素缺乏而必須住院治療。
圖 | 對極端暴力的定義（來源：The Verge）
Peter 的家人知曉他的工作內容，也看出了他的變化，因此不斷要求他辭職。但 Peter 擔心，以自己的能力可能再找不到這麽高薪水的工作：18.5 美元 / 小時，年薪約合 3.7 萬美元。（編者注：奧斯汀全職員工的最低薪水是 15 美元 / 小時）
其他員工有的是新移民，曾幹過保安和送貨司機之類的工作，然後從朋友那裏聽說了這份工作。有的則寄希望于用這份工作申請美國公民——一個在特朗普政府治下變得越來越難以實現的夢想。他們擔心對媒體或上級反映這種情況，會讓他們的移民之路更加坎坷，甚至可能丟掉飯碗。
“我們剛來到美國時，沒人認可我們的大學學曆，”在奧斯汀內容審核小組工作近兩年的 Michael 表示，“我們必須開始工作，開始賺錢，任何工作都可以。”
能加入像谷歌這樣的科技巨頭（雖然本質上是埃森哲，但兩家公司對外模糊了界線，而且郵箱後綴也是 google.com），是他們做夢也無法想象的。這些人最初都很感激谷歌能給他們機會。
圖 | 接受采訪的 Daisy（來源：The Verge）
母語是法語的 Daisy 被委以重任，負責法國地區的內容刪除請求，按照法律、執法機構，以及谷歌政策和條款的要求審查鏈接內容，做出保留還是刪除的決定。按計劃發展下去，她將成爲谷歌法國恐怖主義內容審核項目的主管，年薪超過 9 萬美元。
讓她意想不到的是，暴力的內容越來越多。
2015 年 11 月的巴黎恐襲和 2016 年 7 月的尼斯恐襲，讓 Daisy 的工作壓力越來越大，而且是身體和精神上的雙重壓力。
大量恐襲現場的視頻充斥在隊列之中，有的在劇院，有的在大街上。慘劇發生之後的很長一段時間裏，她每天都會看到很多遇難者的視頻。
面對積壓如山的視頻，Daisy 的經理希望她可以更快地工作。她也嘗試這樣做了，但不可避免地面臨更長的工作時間，承受更大的生理和心理壓力。
“每天看到的就是隊列中的數字不斷增長，”她表示，“漸漸的，我的大腦似乎不再正常工作了，處理速度放慢了。”
“我算是幸運的”
恐襲視頻已經足夠令人不安，但更讓 Daisy 難受的是谷歌招聘廣告上提到的“兒童性虐待圖片（CSAI）”。她審核這類內容的時間遠超崗位描述所說的“每周 1-2 個小時”。
鑒于查看 CSAI 內容是違法的，谷歌爲審核員安排了一個名爲 “作戰室” 的特殊房間，供她在同事無法看到的情況下審核相關內容。
最初，谷歌設立了輪換制度。Daisy 會在 CSAI 上工作大約三周，然後回歸日常工作六周，循環往複。然而長期的人手短缺和高流動性讓這項制度難以爲繼，她不得不長時間審核 CSAI 內容，就像是日常工作一樣。
工作近一年後，Daisy 的經理對她說：“你處理隊列任務的速度不夠快，我們需要你提高生産力。”
她被激怒了，“你究竟要我怎樣提高生産力？我是人，不是機器。每天看到兒童被強奸，人們被斬首，我的情感承受著巨大打擊。”
和 Peter 一樣，Daisy 身邊的人也意識到了她的變化。她每時每刻都感到極其疲倦，情緒會出現劇烈波動，開始說夢話，做噩夢，在睡夢中突然尖叫，甚至突然的肢體接觸都會讓她聯想到是不是有人要害她。
“好像所有人性中的惡都潮水般向你湧來，而你無處躲避，然後還有人（經理）不斷告訴你，‘你必須繼續工作，面對它們。’”
Daisy 隨後申請了帶薪休病假，爲自己過去一年的遭遇尋求心理疏導——她的一個同事就是這樣做的。她當時認爲，自己最多只需要 1 個月就能重新開始工作。
根據 Daisy 的狀態和描述，心理醫生對她的診斷是創傷後應激障礙（PTSD）和慢性焦慮，必須服用抗抑郁藥物。
治療師還建議她養一條狗，訓練它成爲一只情感支持動物，在她出現恐慌等症狀的時候起到提醒和緩解的作用。治療犬還會陪著 Daisy 去兒童醫院跟小孩接觸，恢複她和小孩相處的能力——她有時看到小孩會聯想到視頻中的虐待場景，出現焦慮和恐慌的症狀。
作爲康複治療的一部分， Daisy 的思維也得到了矯正。治療師告訴她不要因爲效率低而怪罪自己，因爲“這不是你的問題，是他們（谷歌）的問題，他們要對此負責。他們創造了這份工作，就應該投入足夠的資源。這當然很困難，但至少要盡可能地減少這種負面影響。”
六個月之後，Daisy 才重新回到谷歌，但情況並沒有多大改觀，工作的性質，經理的態度和自己的感受都沒有什麽變化。
最終她選擇了離開谷歌，繼續讀研。現在的她是一家智庫的政策研究員，關注兒童隱私、兒童剝削和內容審查。
“我希望過去的經曆能夠激發我改變未來的鬥志，”Daisy 強調，“我算是幸運的了。”相比埃森哲的 Peter 和 Michael，谷歌正式員工 Daisy 的確算是幸運的。
只不過她的境遇也沒有多好，六個月的帶薪病假聽起來很人性化，但如果沒有內容審查工作造成的精神創傷，她又怎麽會去休病假呢？
知之甚少
自 2017 年以來，Facebook 和谷歌等公司紛紛加大平台上的內容審核力度。在全球範圍內，僅谷歌旗下的 YouTube 就有超過 1 萬名內容審核員（承包商 + 全職）。
在過去的一年裏，谷歌從博客，圖片和雲端硬盤三項服務中刪除的極端暴力內容超過了 16 萬例，平均每天 438 例。但無論是員工、公司，還是學術界，對長期暴露在令人不適的內容中可能對人類造成的長期影響都知之甚少。
很多人一開始都抱著跟 Daisy 類似的心態，這工作有高額的薪水，全面的福利，偶爾看看令人不適的圖片和視頻，最差能差到哪裏去？
在特定情況下，這種心態真的奏效了。
一個芬蘭語內容審核員表示，自己的工作太無聊了，“有近兩個月的時間每天無所事事，就是上上網，看看視頻，刪除一些不良評論”。她最後因爲無聊辭職了。
也有印度審查員表示，“我和同事都覺得這是一個輕松的差事，一個月還能賺 850 美元，沒什麽可抱怨的。我們可以在健康時間玩各種遊戲，非常開心。”
顯然，不同審查員的經曆天差地別，原因在于他們負責的地區、隊列和團隊氛圍差異巨大。
另外也有很多人，包括一些科技公司的高管，傾向于把這件事情看作是招聘問題：觀看同樣的暴力和虐待視頻，有人能承擔更多的精神壓力，不當回事，有人卻容易當場崩潰，所以面試時要選出那些精神承受能力更強的人。
但問題在于，這不像用跑步測試耐力那麽簡單。我們如何評估所謂的精神承受能力？如何知道合適的暴露水平？如何改變規則去適應突然增多的暴力視頻？如何提供足夠的工作資源？
這些亟待解決的問題迫切地需要雇主去嘗試尋找解決方案。遺憾的是，這樣的努力雖然存在，但似乎遠遠不夠。
“讓所有人的互聯網變得更安全”
在谷歌奧斯汀辦公室（實際上是埃森哲），Peter 和 Michael 調侃自己是谷歌的“小白鼠”，不斷替公司嘗試新的制度。實際上，他們中的一部分人的確是“小白鼠”。
今年早些時候，谷歌發表了一篇論文，名爲“測試樣式幹預以減少內容審核人員的情感影響”。文中描述了兩項實驗，均以公司審核員爲實驗對象。其中一個把彩色視頻變成黑白的，另一個是默認將不適內容打碼。
參與實驗的員工是自願報名的，實驗爲期四周，前兩周看彩色視頻，後兩周看黑白視頻。結果顯示，黑白視頻的確有助于改善審核員的心情。