北京時間9月3日，谷歌發(fā)布一款A(yù)I賦能的“內(nèi)容安全API（應(yīng)用程序界面）”工具包，幫助識別線上“兒童性侵材料”（child sexual abuse material, CSAM），減少這些內(nèi)容對于互聯(lián)網(wǎng)用戶的曝光。

幫助罪犯在網(wǎng)絡(luò)上散布CSAM，這一話題引來民眾熱議，谷歌此舉便是為了對此作出回應(yīng)。上周，英國外交部長Jeremy Hunt發(fā)推，譴責(zé)谷歌要帶著“設(shè)限的搜索引擎”重返中國市場，卻不愿為世界其他地方移除與兒童性侵相關(guān)的內(nèi)容。

昨日，英國內(nèi)政大臣Sajid Javid發(fā)起了一項新的“行動綱領(lǐng)”，推動如谷歌和Facebook這樣的科技公司與線上兒童性侵內(nèi)容作斗爭。這項倡議發(fā)生在英國國家犯罪局（National Crime Agency, NCA）統(tǒng)計最新數(shù)據(jù)，發(fā)現(xiàn)在英國，能有8萬人通過線上的方式對兒童造成危害之后。

谷歌昨日發(fā)布這款工具，并不是機(jī)緣巧合。

神經(jīng)網(wǎng)絡(luò)

谷歌的這項新工具基于深度神經(jīng)網(wǎng)絡(luò)（deep neural network， DNN）之上，通過新發(fā)布的“內(nèi)容安全API”，NGO（非政府組織）和其他“行業(yè)伙伴”，包括其他科技公司，都可免費使用。

去年曾有新聞，倫敦的都市警察教這些AI機(jī)器如何依據(jù)案件嚴(yán)重性，將犯罪的相關(guān)圖片進(jìn)行分類。這樣做是為了解決兩個問題——提高網(wǎng)絡(luò)CSAM的識別正確率，以及減輕警方在手動搜索這些圖像時需經(jīng)受的心理創(chuàng)傷。

谷歌的這個新工具需肩負(fù)這兩項使命。以往而言，自動化工具依賴于匹配先前識別過的CSAM圖像。但谷歌工程負(fù)責(zé)人Nikola Todorovic和產(chǎn)品經(jīng)理Abhi Chaudhuri表示，通過這款“內(nèi)容安全API”，它可以鎖定從未被識別為CSAM的新內(nèi)容，有效“跟蹤罪犯”。

“快速識別新圖像，意味著正在遭受性侵的兒童可被識別，防止他們更進(jìn)一步受到傷害”，他們說，“我們制作’內(nèi)容安全API’工具包，供NGO和行業(yè)伙伴免費使用，最大限度讓不法內(nèi)容暴露到最少的人面前”。

參考依據(jù)：

Google releases AI-powered Content Safety API to identify more child abuse images. 來源：venturebeat. 2018.9.3.