我們這一代人對(duì)于童年的記憶，多少都會(huì)有掐著點(diǎn)看父母什么時(shí)候回家，然后火速關(guān)掉電腦的經(jīng)歷，有些人可能還要把電腦上的蕾絲罩布形狀復(fù)原。或者是偷偷通過(guò)電話充值Q幣裝飾QQ空間，在月底父母看著電話費(fèi)單困惑時(shí)裝作一臉無(wú)辜。如果是男孩子，可能還會(huì)有偷偷去網(wǎng)吧的經(jīng)歷。

這些小小的刺激，基本都建立在家長(zhǎng)對(duì)于娛樂的嚴(yán)格管制上，上網(wǎng)、網(wǎng)游、網(wǎng)戀都被視作洪水猛獸。其實(shí)今天回頭看看，和中國(guó)互聯(lián)網(wǎng)一起野蠻生長(zhǎng)的一代人，與互聯(lián)網(wǎng)相伴的路徑還真的有點(diǎn)驚險(xiǎn)。當(dāng)脫離了少年心氣，才會(huì)覺得當(dāng)初唾手可得的色情暴力不當(dāng)內(nèi)容，對(duì)于兒童和青少年來(lái)說(shuō)其實(shí)是并不合適的。

其實(shí)政府組織早就意識(shí)到了這一問題，2008年，原來(lái)的信息產(chǎn)業(yè)部、今天的工信部，公開向社會(huì)征集綠色上網(wǎng)過(guò)濾軟件。在原本的設(shè)想中，綠色上網(wǎng)幾乎算是一種分級(jí)制度，預(yù)裝在個(gè)人電腦中，為青少年和兒童過(guò)濾不良信息和圖片——但這并不影響成年人如何使用網(wǎng)絡(luò)。

這次招標(biāo)為我們帶來(lái)的，是一次近乎鬧劇的失敗的兒童網(wǎng)絡(luò)保護(hù)行動(dòng)，和至今仍然無(wú)法解決的兒童網(wǎng)絡(luò)安全問題。

一個(gè)失敗的起點(diǎn)：綠壩鬧劇始末

綠壩，是這一切的開始。

在工信部公開招標(biāo)后，中標(biāo)的分別是北京大正語(yǔ)言知識(shí)處理科技有限公司和鄭州金惠計(jì)算機(jī)系統(tǒng)工程有限公司兩家企業(yè)，金惠提供“金惠堵截黃色圖像及不良信息專家系統(tǒng)”，也就是圖像上的識(shí)別和攔截，而北京大正提供語(yǔ)言文字上的識(shí)別。雙方合作，研發(fā)了“綠壩·花季護(hù)航”這款過(guò)濾軟件。

工信部花費(fèi)了4170萬(wàn)元，購(gòu)買了綠壩一年的使用權(quán)，提供給網(wǎng)民免費(fèi)下載和使用到2010年5月。并下發(fā)了《關(guān)于計(jì)算機(jī)預(yù)裝綠色上網(wǎng)過(guò)濾軟件的通知》，要求09年7月之后我國(guó)境內(nèi)生產(chǎn)銷售的個(gè)人計(jì)算機(jī)必須預(yù)裝綠壩。

但很快強(qiáng)制安裝綠壩的行為就遭到了巨大的反彈，其中最主要的原因，是綠壩自己不夠爭(zhēng)氣。

很多使用者表示，綠壩的圖像過(guò)濾基本就是個(gè)笑話。只要是以黃色為主（此處指的是向日葵一樣的黃色）、摻雜黑色的圖片都會(huì)被過(guò)濾掉，導(dǎo)致打開綠壩之后連地圖都看不了。即使關(guān)閉綠壩，也會(huì)和一些日常管理軟件產(chǎn)生沖突。例如北京很多中小學(xué)校因?yàn)榘惭b了綠壩，連學(xué)籍管理、評(píng)價(jià)等軟件都不能正常打開，只好把批量安裝的綠壩批量卸載。

除了不夠好用之外，綠壩是否會(huì)侵犯?jìng)€(gè)人隱私、是否會(huì)影響計(jì)算機(jī)安全，具體攔截哪些網(wǎng)站有沒有公開透明的標(biāo)準(zhǔn)、是否會(huì)影響信息自由和商業(yè)自由等等，都是人們懷疑的問題。

很快在2009年6月30日，《通知》上規(guī)定強(qiáng)制安裝綠壩的前一天，信部新聞發(fā)言人稱由于“一些企業(yè)提出工作量大、時(shí)間倉(cāng)促、準(zhǔn)備不足,根據(jù)實(shí)際情況,可以推遲預(yù)裝綠壩軟件。這款價(jià)值4000萬(wàn)/年的項(xiàng)目終于不了了之，并且逐漸被人們遺忘。

錯(cuò)誤的時(shí)間和錯(cuò)誤的技術(shù)

綠壩失敗的原因究竟是什么？

即使拋開鄭州金惠和北京正大兩家企業(yè)中標(biāo)的公平性，光從技術(shù)角度來(lái)看，綠壩的失敗也是必然。

先從鄭州金惠說(shuō)起，鄭州金惠所提供的技術(shù)名為“金惠堵截黃色圖像及不良信息專家系統(tǒng)”，所謂專家系統(tǒng)就是人工智能的一個(gè)研究分支，將某一領(lǐng)域的人類專家知識(shí)和經(jīng)驗(yàn)大量錄入計(jì)算機(jī)，以實(shí)現(xiàn)讓計(jì)算機(jī)模擬人類推理、判斷的過(guò)程。

人類信息實(shí)在太過(guò)豐富，誰(shuí)來(lái)判斷信息的準(zhǔn)確專業(yè)、誰(shuí)來(lái)錄入信息，都是無(wú)法解決的巨大問題。所以專家系統(tǒng)大多被應(yīng)用在極細(xì)分的領(lǐng)域，比如某一種蟲子可能會(huì)對(duì)某一種農(nóng)作物造成的損失等等。

顯然，專家系統(tǒng)是不適用于識(shí)別色情圖片這樣極為泛化的問題的，從表現(xiàn)來(lái)看，金惠也沒能建立出一個(gè)足夠強(qiáng)大的鑒黃專家系統(tǒng)。

再看北京正大，北京正大提出了一套概念層次網(wǎng)絡(luò)（Hierarchical Network of Concepts）理論，指出“把人腦認(rèn)知結(jié)構(gòu)分為局部和全局兩類聯(lián)想脈絡(luò)”，“建立自然語(yǔ)言的表述和處理模式，使計(jì)算機(jī)能夠模擬人腦的語(yǔ)言感知功能”。北京正大自己的說(shuō)法雖然云里霧里，但我們?nèi)匀豢梢圆蹲降健澳７氯四X”這個(gè)關(guān)鍵詞。北京正大提出的模仿人腦，很可能是應(yīng)用類似今天深度學(xué)習(xí)的方式，像大腦一樣通過(guò)視覺、聽覺傳感提取邊緣特征再進(jìn)行高級(jí)分類。

但我們已經(jīng)知道，深度學(xué)習(xí)依賴的是量級(jí)極大的數(shù)據(jù)和算力。就拿2012年谷歌啟動(dòng)的谷歌大腦項(xiàng)目來(lái)說(shuō)，利用了16000個(gè)CPU進(jìn)行并行計(jì)算才讓機(jī)器能夠識(shí)別出貓的圖片。

在2008年的中國(guó)，我們很難相信哪一家企業(yè)有能力處理如此繁重的計(jì)算任務(wù)，綠壩的失敗也就不足為奇了。

總之如果聚焦于技術(shù)，綠壩失敗的本質(zhì)來(lái)自技術(shù)水平本身的限制和算力、數(shù)據(jù)等硬性條件的不足。其實(shí)這種失敗也不僅僅出現(xiàn)在中國(guó)，例如幾年前印尼也推出了一款名為Internet Positif的網(wǎng)絡(luò)信息過(guò)濾服務(wù)。和綠壩一樣，不光推廣起來(lái)很困難，還同樣遭遇了被萌化擬人的命運(yùn)。

（上圖分別為印尼綠壩娘和我國(guó)的綠壩娘）

兒童網(wǎng)絡(luò)安全的今天，不僅僅是拒絕色情暴力

如今距離綠壩橫空出世已經(jīng)有十年之久，在從綠壩娘身上取得短暫的勝利之后，我們卻發(fā)現(xiàn)兒童網(wǎng)絡(luò)安全的問題要比我們想象中嚴(yán)重的多。

如果說(shuō)綠壩效果太差是因?yàn)榧夹g(shù)不到位，那么我們今天的AI技術(shù)已經(jīng)完全足夠應(yīng)對(duì)圖像和文字的識(shí)別。但是今天的兒童網(wǎng)絡(luò)安全，面臨的早已不僅僅是1024或在漂流瓶里丟自己敏感部位照片的怪蜀黍。

近幾年以來(lái)，兒童網(wǎng)絡(luò)安全問題有著以下兩個(gè)明顯的變化趨勢(shì)。

一、 線下問題逐漸向線上轉(zhuǎn)化

以往兒童網(wǎng)絡(luò)安全只需讓未成年人遠(yuǎn)離色情、暴力等等不當(dāng)信息，但如今隨著互聯(lián)網(wǎng)普及，很多發(fā)生在現(xiàn)實(shí)中的問題也開始向線上轉(zhuǎn)移陣地。比如網(wǎng)絡(luò)霸凌就是一個(gè)全球普遍的問題，廣州市青年文化宮曾經(jīng)調(diào)查得出，六成受訪青少年既是網(wǎng)絡(luò)霸凌者也是受害者。其他的還有在兒童網(wǎng)游中通過(guò)道具誘惑兒童，進(jìn)行猥褻行為等等。兒童網(wǎng)絡(luò)安全問題正在越發(fā)多樣化，很難僅僅依靠識(shí)別技術(shù)解決。

二、 有害內(nèi)容形態(tài)模糊化和隱秘化

以往的有害內(nèi)容通常一眼就能被人類識(shí)破，但如今的有害內(nèi)容甚至連家長(zhǎng)自己都看不出來(lái)。就像前一陣的兒童邪典片一樣，借用兒童最常接觸的內(nèi)容潛移默化的傳達(dá)信息，如果家長(zhǎng)不往深處想，可能都不覺得這些內(nèi)容有些什么不對(duì)勁，更何況是AI了?；蛘呦袼{(lán)鯨游戲一樣，通過(guò)微信群、QQ群工具小范圍傳播組織活動(dòng)，活動(dòng)的參與者還會(huì)注重信息的保護(hù)不向外傳播。如何在保護(hù)隱私的前提下發(fā)現(xiàn)并防止類似狀況發(fā)生，是目前有待解決的大問題。

不過(guò)今天的我們，也在用更新的方式保護(hù)兒童網(wǎng)絡(luò)安全。

首先，我們已經(jīng)放棄了政府牽頭、一套軟件全國(guó)用這種吃力不討好的方式。而是當(dāng)BAT、TMD等等巨頭已經(jīng)收攏了大部分互聯(lián)網(wǎng)流量時(shí)，把壓力轉(zhuǎn)移到企業(yè)身上，讓企業(yè)們各施所長(zhǎng)進(jìn)行內(nèi)容監(jiān)管。

并且更新的技術(shù)手段也在快速進(jìn)入兒童網(wǎng)絡(luò)安全保護(hù)領(lǐng)域。像美國(guó)初創(chuàng)企業(yè)Securly就通過(guò)云端向中小學(xué)提供網(wǎng)絡(luò)過(guò)濾服務(wù)，利用NLP識(shí)別文字所表達(dá)的情緒，當(dāng)發(fā)現(xiàn)兒童青少年的有自殺傾向時(shí)及時(shí)向父母發(fā)短信提醒。

加上相關(guān)法律法規(guī)走向規(guī)范，在凈網(wǎng)行動(dòng)的影響下，成年人都很難找到“不當(dāng)內(nèi)容”，更別提孩子們了。

我們或許應(yīng)該承認(rèn)，綠壩的初衷是好的、是必要的，甚至在它體現(xiàn)出的些許分級(jí)模式出行中，相對(duì)給予了成年人一些自由?？上Ъ夹g(shù)的不到位和民眾們強(qiáng)烈的反感，讓綠壩和分級(jí)模式一同走入了墳?zāi)?，我們最終選擇了更加粗放的解決方式，將所有觸網(wǎng)人群一同保護(hù)起來(lái)。

但即便如此，不斷變化兒童網(wǎng)絡(luò)安全問題還是沒有得到很好的解決。十年之后，仍在起點(diǎn)。

本文轉(zhuǎn)自微信公眾號(hào)“腦極體”，作者我堂堂一個(gè)熊貓。文章為作者獨(dú)立觀點(diǎn)，不代表芥末堆立場(chǎng)。