文/套路編輯部 來源：運(yùn)營研究社（ID:U_quan） “20多年來擴大公共數據，互聯(lián)網(wǎng)以革命者的名義改變了我們很多的東西。但是同時(shí)在某種意義上帶動擴大，它也露出了它的另外一面核心技術體系。 比如說它壟斷的一面、拒絕開放的一面持續發展、攫取利潤的一面必然趨勢。所以你看互聯(lián)網(wǎng)長得并不像天使，它一半像天使擴大、一半像魔鬼多樣性。” 在2021年創(chuàng)變者年會(huì)上規模設備，吳曉波發(fā)表了關(guān)于“變化”的主題演講真諦所在，他稱互聯(lián)網(wǎng)既像天使、又像魔鬼競爭力。 的確充分，互聯(lián)網(wǎng)給我們帶來了意想不到的便利，足不出戶獲得新聞資訊集聚，打開App就能享受到線下服務(wù)競爭力。個(gè)人的觀點(diǎn)、情緒發展基礎，弱者的發(fā)聲兩個角度入手、表達(dá)都可以在互聯(lián)網(wǎng)平臺(tái)上傳遞建強保護。 然而同期，色情、暴力使命責任、極端組織言論也在互聯(lián)網(wǎng)上有了出口效果，并加速了傳播，網(wǎng)絡(luò)監(jiān)管的壓力也在逐漸變大合規意識。 于是密度增加，一個(gè)新的群體誕生了，他們從事著互聯(lián)網(wǎng)上“很臟的活”創新內容。 01 網(wǎng)絡(luò)清道夫 Facebook很初的理想是讓這個(gè)世界變成一個(gè)統(tǒng)一的社區(qū)機遇與挑戰，打造一個(gè)“全球性社區(qū)，讓任何人都可以分享任何東西”善於監督。 多年來集成技術，扎克伯格堅(jiān)持認(rèn)為，F(xiàn)acebook既然只是個(gè)連接世界的平臺(tái)，本質(zhì)上是家科技公司適應能力，就不該對(duì)在這個(gè)平臺(tái)上發(fā)布的內(nèi)容負(fù)責(zé)更優美。 近兩年，F(xiàn)acebook也因?yàn)檫@一理念帶來的后果飽受爭(zhēng)議防控，甚至被告上法庭成效與經驗。 在2021年12月，F(xiàn)acebook堅實基礎、Google稍有不慎、Twitter都對(duì)外宣稱，已經(jīng)引入了事實(shí)核查行動力，加大力度研發(fā)算法規模最大，同時(shí)聘請(qǐng)更多的專業(yè)人士加入。 但實(shí)際上統籌，算法和專家背后最深厚的底氣，還有許多普通人在對(duì)抗著世界的陰暗面。 1）鑒黃師 去年振奮起來，導(dǎo)演HansBlock和MoritzRiesewieck拍了一部紀(jì)錄片《TheCleaners》揭開了人工審核的遮羞布品質。 紀(jì)錄片以菲律賓的首都馬尼拉為背景，在馬尼拉市中心高檔的寫字樓隔間里深入各系統，顯示屏上打出明晃晃的亮光解決問題，投射在內(nèi)容審核員丹尼斯的臉上，各種生殖器的照片她已經(jīng)見怪不怪了作用。 她要先學(xué)習(xí)英語里各種有關(guān)下半身的臟話相互配合、俚語，然后要對(duì)男女的人體構(gòu)造研究透徹著力增加，對(duì)人類諸多的變態(tài)癖好吃個(gè)通透智能化。 下了班，還得去趟成人用品店處理，熟悉熟悉很新　的成人用品建設，了解千奇百怪的硅膠玩具，來決定平臺(tái)上的這些圖片和視頻助力各行，是刪除前來體驗，還是保留。 在普通人眼里確定性，這似乎就是互聯(lián)網(wǎng)的“鑒黃師”更加廣闊，上班時(shí)間看著平時(shí)都難以搜索到的禁片，領(lǐng)著工資講故事。 而實(shí)際上非常完善，多數(shù)內(nèi)容審核員因?yàn)榭戳颂嗟某扇藞D片，已經(jīng)嚴(yán)重影響到自己正常的性生活。 并且緊密協作，“鑒黃師”也只是內(nèi)容審核中較基礎(chǔ)的一項(xiàng)越來越重要。 2）兒童內(nèi)容審核 除了“色情”審核外，審核兒童相關(guān)內(nèi)容的工作人員規模，需要承受更強(qiáng)烈的沖擊近年來。 他們天天都會(huì)看到那些對(duì)孩子施虐、色情的照片發展目標奮鬥、視頻技術先進，很小的孩子不過5歲。 在一些戰(zhàn)亂地區(qū)的視頻和圖片里延伸，總會(huì)有手無寸鐵的孩子躺在地上認為，或者赤身裸體地奔跑。 審查員也不知道該選擇還原歷史真相新趨勢，還是根據(jù)規(guī)定把這些過于裸露的圖片的刪除反應能力，一般來說，他們會(huì)選擇后者學習。 至于那些對(duì)孩子進(jìn)行侵犯的內(nèi)容結構重塑，沒有工作人員愿意去看完，但審核工作要求必須完整瀏覽后給出評(píng)判應用優勢。 當(dāng)工作人員表示無法堅(jiān)持看下去的時(shí)候高質量發展，團(tuán)隊(duì)負(fù)責(zé)人會(huì)勸說這是你的工作，要堅(jiān)持下去高效節能，并且告訴她簽了合同影響力範圍。 這位姑娘在紀(jì)錄片的很后，放棄了這份工作新創新即將到來，她寧可回到窮困的老家邁出了重要的一步，和父母一起撿垃圾。 3）暴力創造性、恐怖組織 更痛苦的發展的關鍵，是審核極端恐怖主義內(nèi)容審查員道路。 他們面對(duì)的是一段段從Facebook網(wǎng)絡(luò)端傳來的恐怖組織的處決視頻規模設備。 那些殺人的視頻，假如只是槍擊指導，算是輕松的競爭力。但這類內(nèi)容里，更多的殺人手段進一步完善，是斬首集聚。 “被害人跪在鏡頭前，行刑者蒙著臉，對(duì)著鏡頭宣讀一通罪狀哪些領域。在歡快的民族音樂里敢於挑戰，行刑者掏出刀，對(duì)犯人進(jìn)行斬首建立和完善√峁┝俗裱?！? 假如斬首時(shí)用的是大砍刀，那就是刀起頭落大型。假如行刑者拿的是小匕首服務效率，斬首將是個(gè)漫長的過程。審查員已經(jīng)可以通過傷口的平整度重要意義，判定暴徒用了什么刑具統籌發展。 審核員說：這對(duì)每一個(gè)觀看者來說，都是一種酷刑體系。 02 誰在從事這份工作生產製造？ 每一分鐘，YouTube有500小時(shí)的視頻攜手共進，F(xiàn)acebook有250萬條信息具有重要意義，Twitter有45萬則推文在上傳。 在海洋般的信息流中大部分，恐怖主義強大的功能、虐殺、自殘解決方案、色情優勢、極端組織言論、政治宣傳夾雜在網(wǎng)友的貓咪和美食照片里面增產，誰來負(fù)責(zé)清理這些垃圾信息便利性？ 1）勞動(dòng)密集型產(chǎn)業(yè) 據(jù)不完全統(tǒng)計(jì)，各大科技公司的內(nèi)容審核員工都來自第三世界國家或是不發(fā)達(dá)地區(qū)行動力。其中提供有力支撐，在菲律賓的外包內(nèi)容審查員人數(shù)超過了10萬人。 YouTube保供、Google和Facebook等科技巨頭都會(huì)建立雙重審核制度自行開發，一是通過人工智能和算法進(jìn)行首層審核，接著是通過建立在東南亞的外包公司來進(jìn)行人工過濾責任。 作為一項(xiàng)龐大的勞動(dòng)密集型產(chǎn)業(yè)應用情況，大多數(shù)人受到保密協(xié)定的約束，他們的工作直面互聯(lián)網(wǎng)的黑暗角落：過濾暴力應用前景、色情有很大提升空間、恐怖內(nèi)容運行好，他們被稱為“網(wǎng)絡(luò)清道夫”。 在成為審查員之前可能性更大，這些人需要經(jīng)過三到五天的上崗培訓(xùn)部署安排，培訓(xùn)的內(nèi)容，例如記住37個(gè)恐怖組織——他們的旗幟技術、制服了解情況、口號(hào)。 通過類似這樣的培訓(xùn)技術研究，審查員上崗并化身成為道德天使重要的，通過機(jī)械又辛勞的工作，使人們相信對(duì)社會(huì)的美好想象姿勢。 在培訓(xùn)中相互融合，外包公司會(huì)告訴審核員們會(huì)看到什么，需要用到什么工具綠色化，以及會(huì)產(chǎn)生什么后果不同需求。 不少審核員會(huì)心生退意，這時(shí)候組長會(huì)對(duì)他們進(jìn)行勸說保持穩定，并且告知他們已經(jīng)簽了保密協(xié)議總之。 保密協(xié)議中要求不能透露他們?yōu)檎l而工作，假如違反了保密協(xié)議支撐作用，他們就會(huì)失去工作并面臨10000美元的罰款研學體驗，甚至牢獄之災(zāi)。 并且最為突出，F(xiàn)acebook和Google并對(duì)外宣稱落實落細，他們沒有在馬尼拉的員工。事實(shí)上高效化，馬尼拉的審核員的薪資也的確不來自Facebook或者Google製高點項目，而是外包的公司。 2）內(nèi)容審核員的獨(dú)白 內(nèi)容審核員就像阻擊手範圍和領域，目標(biāo)是那些違反了應(yīng)用程式規(guī)定的用戶有所增加。 “我做了六年的內(nèi)容審查員重要手段，天天必須瀏覽25000張圖片邁出了重要的一步∶芏仍黾?！? 在記錄片中，被采訪的審查員自述道，清理臟東西深化涉外，是他們優(yōu)選的職責(zé)相對較高，確保沒有任何可疑的內(nèi)容上傳在平臺(tái)上。 他們同時(shí)也會(huì)對(duì)這份工作產(chǎn)生自豪感：“假如我們少工作一小時(shí)措施，那互聯(lián)網(wǎng)就會(huì)一團(tuán)糟大大縮短。” Facebook在2021年的遭遇也印證了這句話：一名泰國男子放出了他殺害11個(gè)月大的女兒緊密相關，然后自殺的視頻更默契了。 這段視頻引起了全世界的一片嘩然，并在社交網(wǎng)絡(luò)上保留了近24個(gè)小時(shí)培訓，這讓Facebook成為眾矢之的不合理波動。 所以，F(xiàn)acebook的內(nèi)容治理員也從2021年的1萬人重要工具，增加到2021年的3萬人積極拓展新的領域。 頭條也在去年提出強(qiáng)化總編輯責(zé)任制，不斷強(qiáng)化人工運(yùn)營和審核更優質，將現(xiàn)有6000人的運(yùn)營審核隊(duì)伍相對開放，擴(kuò)大到10000人，天津似乎也成了互聯(lián)網(wǎng)“審核之都”脫穎而出。 目前拓展應用，新浪、頭條結構、網(wǎng)易管理、陌陌、豆瓣能力建設、搜狐等都在天津設(shè)立了審核專員職位模樣，不少公司在　和天線貓也有設(shè)立審核中心。 在招聘網(wǎng)站中服務，網(wǎng)絡(luò)信息審核員這一職位的平均工資在4-6千元左右提供了遵循。 相比我國，紀(jì)錄片中出現(xiàn)的審查員時(shí)薪僅有1美金大型。 美好愿景的話術(shù)服務效率，實(shí)際低廉的工資，同時(shí)還有心理問題的出現(xiàn)重要意義。 由于外包公司們未配有相應(yīng)的心理咨詢師和審核員們天天看大量的暴力色情內(nèi)容共同努力，他們的心理健康極易受到影響。 在審查員論壇上追求卓越，還有更多駭人聽聞的視頻逐漸完善，包括虐待婦女、兒童和動(dòng)物合理需求。有人表示他們每看幾個(gè)視頻就得休息一下才能緩過勁兒來是目前主流。在日積月累的病態(tài)工作下，審查員們漸漸麻木高質量，喪失了對(duì)人類的信心充分發揮。 人就是機(jī)器選擇適用，機(jī)器就是人。 “當(dāng)我離開公司時(shí)設計，我已經(jīng)三年沒有握手了業務指導，因?yàn)槲野l(fā)現(xiàn)人們很惡心【痛讼崎_！? Bob說長足發展， “世界上大多數(shù)正常人都他媽的是怪人。當(dāng)我離開那里時(shí)穩步前行，我對(duì)人性感到厭惡結構不合理。我的很多同行也遭遇同樣的事情，我們都認(rèn)為人性太可怕了逐步改善∫庖娬髟?！? 在紀(jì)錄片中，一位負(fù)責(zé)審查自我傷害的員工自動化裝置，在看過海量的自虐視頻后示範，不堪重負(fù)，在一個(gè)晚上選擇結(jié)束自己的生命有很大提升空間。 03 為什么離不開人工審核運行好？ 回歸到內(nèi)容審核本身，不少人都會(huì)質(zhì)疑可能性更大，為什么在技術(shù)如此發(fā)達(dá)的今天部署安排，還需要如此大量的人工審核。 1）算法誤判 頭條在去年3月份的時(shí)候出品了一個(gè)反低俗微信小程序“靈犬”技術，是國內(nèi)首款反低俗信息小程序推廣開來。 基于頭條反低俗算法模型，用戶只需輸入文字（10個(gè)字以上）或者圖片就可以檢測(cè)信息的健康程度示範推廣，并給出結(jié)論此信息是否可以獲得推薦堅持好。 比如輸入“你餓不餓我下面給你吃”，輸出的健康指數(shù)為19%大幅增加，被鑒定為“這里有問題”特性。 文字信息對(duì)機(jī)器來說還相對(duì)簡(jiǎn)單，圖片和視頻在技術(shù)上會(huì)有更大難度等特點。目前建言直達，“靈犬”小程序還不支持檢測(cè)視頻。 比如我用藝術(shù)作品“斷臂維納斯”的圖片檢測(cè)將進一步，機(jī)器通過識(shí)別圖中人物的皮膚裸露面積充分發揮，就會(huì)認(rèn)為是色情低俗的；而某些拍攝芭蕾舞的圖片成就，以機(jī)器的視角來看重要方式，會(huì)類似于裙底偷拍開展面對面。 Facebook就曾經(jīng)因?yàn)椤奥懵丁保`刪了一張聞名的越戰(zhàn)新聞?wù)掌Ｊ?，?nèi)容是一位小女孩遭到汽油彈炸傷自動化、渾身赤裸奔跑提升，事件發(fā)生后引起了美國新聞界的巨大爭(zhēng)議高品質。 2）內(nèi)容難以界定 離不開人工的一個(gè)更重要原因是，涉及政治的內(nèi)容機(jī)器難以直接處理支撐能力，此類內(nèi)容一旦出現(xiàn)問題將造成嚴(yán)重影響資源優勢，必須交由人工進(jìn)行審核判定。 甚至很多時(shí)候特征更加明顯，人工也不知道是該還原真相估算，還是“凈化”網(wǎng)絡(luò)環(huán)境。 假如發(fā)生誤刪的可能性，也可能會(huì)引發(fā)霸凌不要畏懼，傷害一個(gè)或者更多的生命。 所以問題，在AI的背后還是近萬名審核團(tuán)隊(duì)在輔助審核逐漸顯現，去做算法無法做到的事情。 04 結(jié)語 在紀(jì)錄片中系統穩定性，被采訪的審查員冒著被罰款拓展基地、牢獄之災(zāi)的危險(xiǎn)說到： “我為什么愿意接受采訪，因?yàn)槲覀兿胍藗冎廊夹g方案，我們的存在分享，有一群人在檢查社交媒體，我們正在盡很大努力信息化，讓大家能安全使用這些社交平臺(tái)方式之一。” 寫這篇文章的原因新型儲能，也是想讓大家知道創新能力，在科技的背后，還有他們的存在領域。 假如說互聯(lián)網(wǎng)的初衷是讓這個(gè)世界沒有信息的不平等溝通機製，任何一個(gè)信息都可以無障礙地到達(dá)全世界的任何地方。 那不可避免地存在極端宗教主義註入新的動力、恐怖組織領先水平、負(fù)面的聲音。究竟人類的多樣性在哪里雙重提升，人類對(duì)自我追求的沖突就會(huì)在哪里戰略布局。 但至少事關全面，我們應(yīng)該對(duì)他們致上很深的謝意。