編輯：火柴Q、甲小姐，收集、撰稿：小青狐，設(shè)計(jì)：孫佳棟，微信公眾號(hào)：甲子光年(ID:jazzyear)

從諸神云集的奧林匹斯山，到二戰(zhàn)中掙扎求存的敦刻爾克，再到隱匿在虛擬世界的網(wǎng)絡(luò)攻擊和反攻擊，善惡交戰(zhàn)從未停止。

然而，善惡對(duì)抗的本質(zhì)正在被“工具”改變。

對(duì)正義一方來說，可怕的不是敵人太強(qiáng)大，而是找不到一個(gè)明確的敵人。某些情況下，威脅并非來自某個(gè)想毀滅世界的瘋子，威脅潛伏在看似平凡、并無惡意的日常生活里。

近期引起大范圍輿論關(guān)注的艾莎門（Elsagate）兒童邪典視頻事件正是如此，我將它視為一種“無主之惡”。

“無主之惡”有兩層含義。 

第一，惡的源頭十分分散，它表現(xiàn)為高度信息化社會(huì)中一種特殊的協(xié)作和傳播模式：“Stand Alone Complex”（孤立個(gè)體集合體）。 

第二，促進(jìn)惡發(fā)生和傳播的機(jī)制，最開始被設(shè)計(jì)出來時(shí)是中性，甚至是出于好意的，最后卻“事與愿違”地釀成惡果：在“艾莎門”中，流量經(jīng)濟(jì)+智能推薦算法成了侵害兒童的幫兇。

對(duì)于這種無主之惡，大部分人沒有應(yīng)對(duì)和處理的經(jīng)驗(yàn)，所以類似事件出現(xiàn)時(shí)，總是陰謀論滿天飛、粗暴的“一刀切”大行其道。 

是時(shí)候，我們?cè)搹摹按駼oss”的認(rèn)知框架里跳出來了。

在新型的惡面前，我們必須找到新的對(duì)抗方式。

一次無人負(fù)責(zé)的恐襲事件

在討論“無主之惡”前，我們先來看看艾莎門視頻的來龍去脈。

（注：如果還沒有看過Elsagate的具體面貌，以下內(nèi)容可能會(huì)讓你很不適，提前預(yù)警。）

1月16日，一篇翻譯自外網(wǎng)的微博長(zhǎng)文《一群變態(tài)鎖定觀看YouTube的孩童，我以前為他們工作》使一座被稱為“Elsagate”（艾莎門）的冰山浮出水面。 

這些充斥著針管、懷孕、尸體、血腥、性暗示等極為惡心、變態(tài)的內(nèi)容的視頻，卻被YouTube等網(wǎng)站平臺(tái)打上了“兒童”、“母嬰”等標(biāo)簽，推薦到孩子們眼前。 

在這里，Elsa公主懷孕是家常便飯。

面目可憎的小丑會(huì)割下天線寶寶的頭。

昆蟲和糞便被當(dāng)做食物。

這類找不到單一制造者和源頭的視頻被統(tǒng)稱為“Elsagate”，事件爆出后引起了大范圍關(guān)注。人民日?qǐng)?bào)、新華社等多家媒體紛紛報(bào)道，知乎上關(guān)于“如何看待Elsagate事件”的問題已有800余條回答，接近500萬次閱讀。 

這些視頻的危害性遠(yuǎn)不是“嚇到孩子”這么簡(jiǎn)單。

Elsagate類的視頻經(jīng)常使用鮮艷的紅、藍(lán)、綠、黃、粉紅等顏色。這些色彩強(qiáng)烈地刺激兒童大腦，加深不良行為的印象，甚至導(dǎo)致成癮。

而這些視頻的主角，又是孩子們熟悉和羨慕的Elsa(《冰雪奇緣》女主角)、蜘蛛俠、米老鼠等卡通形象。這一方面讓視頻被算法歸類、推薦到兒童頻道，另一方面也大大刺激著孩子們的模仿行為。

美國(guó)著名心理學(xué)家班杜拉曾經(jīng)做過一個(gè)叫“波波玩偶”的實(shí)驗(yàn)：將48個(gè)孩子分成A、B兩組，在A組面前，成人會(huì)表演毆打、侮辱、錘擊波波玩偶；B組則沒有觀看這些。而當(dāng)孩子們進(jìn)入一個(gè)有同樣玩偶的房間，A組的孩子會(huì)非常開心地按照成人的樣子毆打這個(gè)玩偶，B組則很少會(huì)有攻擊性行為。

Elsagate類視頻也有“波波玩偶”效應(yīng)：知乎上，一些網(wǎng)友提到孩子在觀看Elsagate類視頻后，出現(xiàn)了成癮反應(yīng)甚至暴力傾向：

專門研究?jī)和┝Α和耘按F(xiàn)象的Judith Reisman博士說：這些視頻完完全全就是為了將兒童引導(dǎo)到性，暴力，藥物，虐待。從業(yè)幾十余年來，她見過惡心中的惡心、罪惡中的罪惡，但像這些Elsagate視頻，是前所未見的“惡毒、殘忍、卑鄙”。

而現(xiàn)在，空前惡毒和殘忍的Elsagate視頻在YouTube上的單個(gè)最高點(diǎn)擊已超過兩千萬，總點(diǎn)擊量上百億。國(guó)內(nèi)主流視頻平臺(tái)愛奇藝、騰訊、優(yōu)酷均發(fā)現(xiàn)了大量類似視頻，甚至蔓延到今日頭條和快手。

家里的沙發(fā)上、地鐵里、電梯里……當(dāng)你身邊懵懂的孩子盯著屏幕移不開眼時(shí)，他可能就是在看Elsagate類視頻。

“Stand Alone Complex”（孤立個(gè)體集合體）

無主之惡的第一層含義是：讓家長(zhǎng)、視頻網(wǎng)站和全世界監(jiān)管部門頭疼的，傳播量巨大的Elsagate卻很難找到一個(gè)單一的源頭：野火燒不盡，春風(fēng)吹又生。 

YouTube在11月刪除超過15萬個(gè)視頻，查封了270多個(gè)賬號(hào)。但就在今天，我們?nèi)钥吹筋愃频囊曨l在源源不斷地出現(xiàn)。

這很像15年前的科幻經(jīng)典《攻殼機(jī)動(dòng)隊(duì)》劇場(chǎng)版中，描述的一種信息化社會(huì)的新型犯罪：“Stand Alone Complex（孤立個(gè)體集合體）”——一些事先并不存在聯(lián)系的孤立個(gè)體，有意或無意做出類似的行為，從外部看是一場(chǎng)有組織的陰謀，但你卻找不到始作俑者。

《攻殼機(jī)動(dòng)隊(duì)》里的Stand Alone Complex發(fā)源于“笑臉男事件”。

一名超A級(jí)黑客曾出于正義感入侵了一位要人的大腦，令其在電視面前說出某個(gè)秘密。逃脫時(shí)，這名極客用笑臉圖標(biāo)遮蔽自己，成功從整個(gè)網(wǎng)絡(luò)中消失。

笑臉男

此后，出現(xiàn)了大量自稱“笑臉男”、謀殺警方要員的模仿犯罪。參與進(jìn)來的眾多"笑臉男"，動(dòng)機(jī)、訴求各不相同，卻共同造成了巨大的社會(huì)震動(dòng)。

Elsagate兒童邪典視頻事件，正是一個(gè)“笑臉男”式的行動(dòng)：“母版”不明的拷貝大量充斥網(wǎng)絡(luò)。

你無法看到面目統(tǒng)一的"壞蛋"，惡意此起彼伏地涌現(xiàn)——到現(xiàn)在為止，在這場(chǎng)被一些人稱為大規(guī)模“兒童恐襲”的事件背后，居然找不到一個(gè)明確的“恐怖分子頭目”。

最初被《衛(wèi)報(bào)》、《紐約時(shí)報(bào)》等媒體爆出具有不良誘導(dǎo)內(nèi)容的YouTube頻道叫“webs and tiaras”，但今天，仍能在YouTube上搜出大量仿號(hào)，成立時(shí)間從2016年、2017年到最近，不一而足。

除視頻外，一些游戲平臺(tái)和應(yīng)用商店甚至App Store均發(fā)現(xiàn)了大量與該類視頻畫風(fēng)雷同的游戲軟件。

全球范圍內(nèi)的模仿者更難抑制。在國(guó)內(nèi)，一些人最初只是搬運(yùn)YouTube上的內(nèi)容，加中文配音，接著開始有公司生產(chǎn)本土邪典視頻。

比如以下這種讓中國(guó)孩子參與拍攝的真人秀。優(yōu)酷、快手上都有大量類似內(nèi)容。動(dòng)畫形象也從Elsa、蜘蛛俠擴(kuò)展到中國(guó)兒童更熟悉的光頭強(qiáng)等。

這些賬號(hào)背后是否有關(guān)聯(lián)？現(xiàn)在不得而知。可能是有組織的行為加無組織的模仿的混合體。

Stand Alone Complex還有一個(gè)特點(diǎn)：在模仿和跟風(fēng)中，初始動(dòng)機(jī)變得十分模糊。

最直接的猜想是經(jīng)濟(jì)利益。這些制作邪典視頻的公司很有可能是瞄著點(diǎn)擊量和廣告分成的收益。一些視頻中還會(huì)直接推廣玩具，似乎是為了帶動(dòng)銷量。

在有關(guān)部門下令整改后，曾在國(guó)內(nèi)平臺(tái)發(fā)布大量相關(guān)視頻的“歡樂迪士尼”（現(xiàn)改名為“深海5萬米”），表示自己只是想要沖擊點(diǎn)擊量。

但如果只是為了錢，難以解釋古怪的工作狀態(tài)，收益似乎也難以覆蓋成本：

《一群變態(tài)鎖定觀看YouTube的孩童，我以前為他們工作》中，作者陳述的工作狀況

令人匪夷所思的是，一向?qū)Π鏅?quán)高度看重的迪士尼和漫威公司，面對(duì)如此大規(guī)模的侵權(quán)，目前卻沒有采取有力措施。

作惡者分散、模糊的動(dòng)機(jī)，以及從一個(gè)點(diǎn)到多點(diǎn)的漸進(jìn)式傳播，使邪典視頻潛伏了很長(zhǎng)一段時(shí)間——早在2016年6月，英國(guó)《衛(wèi)報(bào)》就報(bào)道過YouTube 上誘導(dǎo)性視頻，但直到去年7月，Elsa公主被各種開喉、開顱的視頻被《紐約時(shí)報(bào)》報(bào)道，Elsagate才引起了大范圍關(guān)注。等這件事引爆中國(guó)輿論時(shí)，又已是半年后的2018年1月。

這正是Stand Alone Complex的可怕之處：如果惡魔只是一個(gè)人，一個(gè)單一的組織，我們有明確的對(duì)抗目標(biāo)；而當(dāng)惡的源頭分散為無數(shù)個(gè)體，且一點(diǎn)點(diǎn)在網(wǎng)絡(luò)里擴(kuò)張時(shí)，我們很難及時(shí)反應(yīng)。而等細(xì)小而隱秘的惡，累積成勢(shì)時(shí)，已很難遏制。

一萬個(gè)沙漠里的游擊隊(duì)員，比一個(gè)強(qiáng)大的“本拉登”更有破壞力。傳統(tǒng)的“打BOSS”思維已經(jīng)不靈了。

推薦算法 + 流量經(jīng)濟(jì)：無意識(shí)的幫兇

 “無主之惡”的第二層含義是：我們習(xí)以為常的事物，可能無意間成了惡的幫兇。一部分參與其中的作惡者是無意識(shí)的。

在Elsagate事件中，幫兇是智能推薦算法+流量經(jīng)濟(jì)。

這套機(jī)制最初被發(fā)明時(shí)，任何參與其中的人，都不會(huì)想到自己的智慧有一天會(huì)被用來侵害兒童。

如今備受爭(zhēng)議的YouTube、Facebook、今日頭條、微博等公司，會(huì)冤枉地認(rèn)為，我們只是想賺錢，這在商業(yè)社會(huì)再正當(dāng)不過了。

怎么賺錢？——想方設(shè)法地吸引流量，提高用戶停留時(shí)長(zhǎng)，從流量上賺廣告收入。

怎么更低成本、更高效率地吸引流量？——智能推薦算法，讓計(jì)算機(jī)學(xué)習(xí)用戶對(duì)內(nèi)容的喜好，你越喜歡什么，就越給你推什么。

十年來，這套機(jī)制越來越純熟，也許你男友都不知道你情人節(jié)想要什么，亞馬遜卻知道。

YouTube擁有據(jù)稱世界上最復(fù)雜的推薦系統(tǒng)。這個(gè)系統(tǒng)簡(jiǎn)單來說分為兩層：第一層，從后臺(tái)視頻庫(kù)中選取數(shù)百萬個(gè)相關(guān)視頻進(jìn)入“候選視頻生成層”；第二層，根據(jù)用戶的觀看歷史抽取幾百個(gè)視頻傳輸至“排名層”，再根據(jù)綜合打分選出十幾個(gè)視頻推薦給用戶。國(guó)內(nèi)的視頻網(wǎng)站，也運(yùn)用了類似的推薦方法。

sagate聰明地利用了這個(gè)推薦系統(tǒng)：通過大量動(dòng)漫角色的名字以及打上搞笑、兒童等標(biāo)簽被算法自動(dòng)判定為兒童視頻，并經(jīng)常在推薦順序中靠前，兒童只要點(diǎn)進(jìn)一個(gè)，網(wǎng)站就會(huì)推薦同類型的視頻一個(gè)接一個(gè)地播放。

Elsagate是流量經(jīng)濟(jì)和算法惡果的極端體現(xiàn)。其實(shí)，即使是成年人，每天也都在受到更多“無傷大雅”卻實(shí)實(shí)在在的損害和困擾。 

還記得那篇轟動(dòng)一時(shí)的《殘酷底層物語：一個(gè)視頻軟件的中國(guó)農(nóng)村》嗎？作者在寫文章時(shí)點(diǎn)擊了大量“兒童喝酒”、“生吃死豬”、“早婚”題材的短視頻，他的快手推薦頁成了下面這幅模樣：

《連線》雜志的馬特?霍楠（Mat Honan）曾做過一個(gè)試驗(yàn)，他計(jì)劃在自己的 Facebook 上連續(xù)點(diǎn)贊 48 小時(shí)，只要系統(tǒng)推薦就點(diǎn)贊，想看看最后Facebook會(huì)給他展示什么。然而短短一小時(shí)后，馬特的信息流里已經(jīng)沒有人類了：全是品牌推廣和廣告。

睡覺之前，他嘗試點(diǎn)贊了一條支持以色列的消息。次日早上，他的信息流內(nèi)容完全轉(zhuǎn)向極右。

后起之秀今日頭條，更是把這種智能推薦、分發(fā)的殺手锏玩到了極致。同一個(gè)APP，卻千人各不相同，張一鳴創(chuàng)業(yè)時(shí)引以為傲的“一整層”工程師，大部分都是在研究精準(zhǔn)推薦算法。你愛看八卦，就天天給你八卦；你想開車，就每條都是老司機(jī)；你愛國(guó)、你粉紅，就滿屏都是熱血新聞。

知名互聯(lián)網(wǎng)評(píng)論家Keso曾說：“準(zhǔn)確地抓撓人性弱點(diǎn)并不等同于用戶價(jià)值，勾引用戶將大把的時(shí)間拋灑在層出不窮的無聊事情上，并不等于用戶價(jià)值，這只是一種變相的用現(xiàn)代化的傳播手段制造出的價(jià)值幻象?！?/p>

你是誰不重要，你想成為什么樣的人也不重要，你會(huì)消費(fèi)什么才重要。 

這種價(jià)值觀支撐今日頭條和Facebook成為估值百億美金和千億美金的龐然大物，卻不管置身網(wǎng)絡(luò)之中的用戶被困在“回聲室效應(yīng)”里：獲取的信息都在支持已有的知識(shí)與觀點(diǎn)，不能開拓眼界，反而固步自封。

互聯(lián)網(wǎng)曾經(jīng)的愿景，是把世界連接成“地球村”；現(xiàn)在卻以“個(gè)性化”的名義劃出一個(gè)個(gè)孤島。

在整個(gè)互聯(lián)網(wǎng)發(fā)展史上，流量加算法的機(jī)制就是最初夏娃吃下的那顆蘋果——從此，互聯(lián)網(wǎng)走出樂園，進(jìn)入人間，巨頭涌現(xiàn)，高墻壘起。

這可不是技術(shù)許諾給人們的開放和自由。

新的反擊方式

新的技術(shù)環(huán)境產(chǎn)生了新型的無主之惡，我們也必須用新的方式來反擊。

監(jiān)管需要嗎？一定需要。

對(duì)于任何內(nèi)容平臺(tái)，監(jiān)管必不可少。因?yàn)楣颈旧硎巧虡I(yè)利益驅(qū)動(dòng)的，靠流量、廣告吃飯，沒有外力，他們很難自己打掉自己的飯碗。 

專注視覺計(jì)算的泛化智能CEO王漢洋告訴「甲子光年」，即使視頻識(shí)別技術(shù)能夠準(zhǔn)確鑒別Elsagate類視頻，但“如果監(jiān)管不強(qiáng)制要求，不會(huì)有網(wǎng)站主動(dòng)做這個(gè)，不賺錢”。

僅有監(jiān)管足夠嗎？一定不夠。

舉個(gè)例子：此次Elsagate發(fā)酵后，我國(guó)監(jiān)管部門反應(yīng)得很快，全國(guó)“掃黃打非”辦公室已部署開展深入監(jiān)測(cè)和清查，大量有害視頻被下架。但這仍然是“一刀切”，鋒利，也有誤傷。目前在國(guó)內(nèi)視頻網(wǎng)站上，搜索“elsa”“愛莎”不僅看不到邪典視頻，正常的視頻也完全看不到了；在百度視頻上，“小豬佩奇”、“蜘蛛俠”等關(guān)鍵詞也搜不出任何內(nèi)容。

長(zhǎng)遠(yuǎn)來看，不可能出來一個(gè)東西，就禁掉一片。所有人都要意識(shí)到，這是一場(chǎng)持久戰(zhàn)，不可能一次告捷。

針對(duì)作惡源頭在時(shí)空上的分散性，「甲子光年」認(rèn)為，最佳的解決方式是：做好“多層防護(hù)漏斗”——在整個(gè)內(nèi)容生產(chǎn)、分發(fā)、傳播的過程中多點(diǎn)著力，融合技術(shù)和人力，且做好動(dòng)態(tài)預(yù)警、應(yīng)對(duì)的準(zhǔn)備。 

第一道關(guān)卡是視頻平臺(tái)的審核。

很多人在了解Elsagate事件后，第一反應(yīng)是：難道沒有審核機(jī)制嗎？

當(dāng)然有，但僅在YouTube上，目前全球平均每分鐘就有長(zhǎng)達(dá) 400 小時(shí)的視頻被上傳，人工審核是絕對(duì)審核不完的。所以視頻網(wǎng)站的大部分審核由程序根據(jù)文字描述和截圖識(shí)別完成。如果發(fā)布人員在提交視頻時(shí)精心偽裝，很容易就能蒙混過關(guān)。

而技術(shù)將扮演越來越重要的角色，因?yàn)闄C(jī)器可以不斷“學(xué)習(xí)”。

視頻識(shí)別技術(shù)，是通過深度學(xué)習(xí)，對(duì)標(biāo)注好的圖片的特定內(nèi)容進(jìn)行分類學(xué)習(xí)，訓(xùn)練出可以識(shí)別特定特征的模型。在應(yīng)用時(shí)將視頻截幀，識(shí)別出每一幀內(nèi)容，最終便可轉(zhuǎn)化為整個(gè)視頻的識(shí)別結(jié)果。

理論上來說，只要標(biāo)注清晰，數(shù)據(jù)足夠，識(shí)別率就會(huì)相應(yīng)較高。比如“鑒黃”，機(jī)器就經(jīng)歷了自我學(xué)習(xí)的過程：一開始，機(jī)器僅僅能通過識(shí)別圖片中特殊顏色的面積進(jìn)行鑒別，想蒙混過關(guān)的人只需加大圖片上下黑邊的面積就能通過審核；后來，通過學(xué)習(xí)海量標(biāo)注過的黃色圖片，鑒黃的準(zhǔn)確率才慢慢提升，時(shí)至今日，多家主流公司都宣稱已經(jīng)達(dá)到了99%以上的準(zhǔn)確率。

但識(shí)別Elsagate比鑒黃更難：因?yàn)闄C(jī)器很難判斷“邊界”。

在“鑒黃鑒暴”領(lǐng)域有豐富積累的圖普科技的運(yùn)營(yíng)負(fù)責(zé)人姜澤榮告訴「甲子光年」：一部分明確的畫面特征，比如斷頭、血腥、特定人物形象懷孕等，可以有效識(shí)別；但假如一個(gè)打針的場(chǎng)景，如果人都很難把它和正常打針相區(qū)分，機(jī)器也很難進(jìn)行辨別。

云從科技研究院院長(zhǎng)周翔說：“這些視頻中有的信息非常隱蔽，人一眼就能看懂，是由于人本身有多年社會(huì)經(jīng)驗(yàn)，而計(jì)算機(jī)是不懂得這些經(jīng)驗(yàn)的，它沒有人生閱歷，得不到圖片和視頻的內(nèi)在意義。” 

在機(jī)器審核這條路上，馬拉松才跑了不到十分之一。

第二道關(guān)卡是傳播和分發(fā)。

這涉及到對(duì)整個(gè)智能推薦算法的改進(jìn)。在熱鬧發(fā)展了近10年后，流量經(jīng)濟(jì)加推薦算法帶來的社會(huì)困擾開始顯現(xiàn)。

2016年美國(guó)大選期間，俄羅斯透過 Facebook 假帳戶，花了 10 萬美元傳播干預(yù)選舉的假新聞，使得“教皇支持特朗普”、“奧巴馬不在美國(guó)出生”等假新聞高高飄在首頁；去年，美國(guó)非盈利新聞媒體ProPublica在Facebook上做了一個(gè)實(shí)驗(yàn)，花30美元透過“納粹黨”、“親衛(wèi)隊(duì)”等幾個(gè)仇恨猶太人的關(guān)鍵詞，成功給超過19萬目標(biāo)用戶精準(zhǔn)推薦了廣告。

算法推薦帶來了層出不窮的“標(biāo)題黨”和假新聞。面對(duì)質(zhì)疑，張一鳴和扎克伯格曾經(jīng)出奇一致地表態(tài)：我們是技術(shù)公司又不是媒體，一切由算法完成，不進(jìn)行人工干預(yù)。

然而如今，F(xiàn)acebook被叫到國(guó)會(huì)參加聽證會(huì)，之后宣布將對(duì)可信新聞源進(jìn)行排名來對(duì)抗假新聞。

今日頭條更是在被互聯(lián)網(wǎng)信息辦公室約談后，開了24個(gè)小時(shí)的天窗，緊急招募了2000位內(nèi)容審核編輯。

第三道關(guān)卡是對(duì)已發(fā)布視頻的識(shí)別和刪除。

上傳階段的視頻識(shí)別目前有一個(gè)瓶頸：深度學(xué)習(xí)需要根據(jù)已有的數(shù)據(jù)來學(xué)習(xí)，而在Elsagate出現(xiàn)之前，不可能有人告訴機(jī)器這類視頻是不對(duì)的。

因此，視頻發(fā)布之后，借助早期用戶的反饋，動(dòng)態(tài)地為視頻增加標(biāo)簽，及時(shí)發(fā)現(xiàn)不良視頻并給予處理，便可以防微杜漸，防止不良視頻蔓延。

「甲子光年」認(rèn)為，平臺(tái)其實(shí)可以設(shè)計(jì)一套新穎的激勵(lì)模式，及時(shí)發(fā)現(xiàn)已上傳的有危害的視頻：比如，當(dāng)用戶率先發(fā)現(xiàn)某個(gè)不良視頻，可以主動(dòng)給其打上標(biāo)簽；當(dāng)用戶貢獻(xiàn)的標(biāo)簽得到后續(xù)用戶的認(rèn)可和支持后，用戶可以按照貢獻(xiàn)分取適當(dāng)?shù)牧髁渴找妗@能激勵(lì)所有用戶參與到內(nèi)容環(huán)境的監(jiān)測(cè)中，內(nèi)容在動(dòng)態(tài)之中得到健康和過濾；而當(dāng)某個(gè)視頻最終被判定為不良視頻時(shí)，發(fā)布者將得到扣款和懲罰。

沒有最終的勝利，只有持續(xù)的戰(zhàn)斗

后來導(dǎo)致惡果的東西，最開始可能看起來理所應(yīng)當(dāng)，無可置疑。

就好像你很難把現(xiàn)在的混亂怪罪到最初塑造流量經(jīng)濟(jì)和推薦算法這種高效工具的人或組織身上。機(jī)制的強(qiáng)大之處就在于，一旦被發(fā)明出來，就具有了某種不受人控制的獨(dú)立性。

在車禍?zhǔn)鹿手?，時(shí)不時(shí)有司機(jī)碾壓傷者致死的新聞：如果傷者死亡，司機(jī)只需一次性賠付一筆賠償金，而如果傷者重傷住院，司機(jī)需要養(yǎng)他一輩子；更長(zhǎng)的產(chǎn)假，初衷是保證婦女權(quán)益，現(xiàn)在卻成了一些用人單位“不要結(jié)婚未孕婦女”的根源——所有無辜的機(jī)制，都可能產(chǎn)生兇險(xiǎn)的惡。

一個(gè)極端的故事是“盲井”。

2013年年末，山西的一處礦井發(fā)生困難，一位工人死亡。但當(dāng)?shù)V廠經(jīng)營(yíng)者見到趕來料理后事的家屬時(shí)，卻疑惑地發(fā)現(xiàn)，他們只是匆匆看了一眼尸體，就開始平靜地談索賠條件。

這牽出了一個(gè)驚天大案：原來這個(gè)團(tuán)伙一直誘騙人到煤礦打工，在井下殺死被害者，再冒充家屬找礦主賠錢。殺人越貨的勾當(dāng)干了十二票，只有一次未遂。

哪怕一種機(jī)制再必要和完備，作惡的人，總會(huì)想盡辦法鉆漏洞。

在技術(shù)賦能每個(gè)人的時(shí)代，這更加提醒機(jī)制的設(shè)計(jì)者和每一個(gè)使用者：手握利器，殺心自起。

面對(duì)系統(tǒng)中不斷涌現(xiàn)的惡，面對(duì)分散在各處的“Stand Alone Complex”，不要忘記我們自己也是可以行動(dòng)的個(gè)體。

聯(lián)合起來，積累力量，在新的善惡交鋒中，不會(huì)有最終的勝利，只有持續(xù)的戰(zhàn)斗。

從這個(gè)意義上講，唯有“無主之善”，才能真正全面動(dòng)態(tài)地對(duì)抗“無主之惡”。

本文轉(zhuǎn)自微信公告號(hào)“甲子光年”（ID：jazzyear），作者小青狐，芥末堆經(jīng)授權(quán)轉(zhuǎn)載。