圖片來源;unsplash

*本文轉(zhuǎn)自微信公眾號“麻辣未聞”（ID：newsk618），作者劉文靜。

也許令周鴻祎想不到的是，一年多前自己“忍痛割愛”的360水滴直播，如今被各大教育機構(gòu)換了“馬甲”重新出現(xiàn)在課堂上。

“后輩”們比當(dāng)年的水滴直播更進一步，不僅透過屏幕關(guān)注著孩子的一舉一動，還用人臉識別來分析學(xué)生的上課狀態(tài)，應(yīng)用場景也從班級擴展到一對一。這被教育機構(gòu)稱作是“讓老師了解學(xué)生對課程的理解程度，為調(diào)整授課方案提供依據(jù)?！?/p>

在許多教育峰會上,“AI+教育”、人臉識別、表情分析等均是行業(yè)人士探討的熱詞。一邊是行業(yè)的激烈競賽,另一邊卻是來自學(xué)生、家長和專家的質(zhì)疑和反對。

除了隱私侵犯老問題，教育倫理、孩子的人格塑造等新問題也暴露出來?？萍假x能教育，邊界究竟在哪？以讓渡孩子隱私為代價的教育，到底值不值？

圖為人臉識別。資料圖/圖據(jù)視覺中國

技術(shù)的底線

技術(shù)的應(yīng)用似乎是一個圈。

早在2017年4月，360水滴直播就曾因涉嫌泄露學(xué)生隱私被推上了風(fēng)口浪尖。多家媒體曝出該平臺直播全國多所學(xué)校、幼兒園的教師和宿舍畫面，只需接上電源，打開攝像頭，孩子的一舉一動盡在眼前。

這或許可以達到“方便家長觀看孩子”的效果，但是，孩子們隱私權(quán)如何保障？面對鋪天蓋地的輿論質(zhì)問，360董事長周鴻祎多次出面回應(yīng)，甚至召開懇談會，但質(zhì)疑聲仍未消除。到了2017年底，在隱私權(quán)和流量的博弈面前，360選擇關(guān)閉了水滴直播。

關(guān)閉前，也有業(yè)內(nèi)人士給周鴻祎提供建議稱，可以使用人工智能技術(shù)，比如公眾場合直播場景時將人臉打上馬賽克。周鴻祎也曾給工程師下達技術(shù)攻關(guān)的任務(wù)。

打碼或許可以一定程度上規(guī)避隱私泄露風(fēng)險，但是還未過兩年，卻出現(xiàn)了反其道而行的課堂精準人臉識別、表情分析技術(shù)。

無獨有偶，近來，廣電總局重拳規(guī)范未成年人節(jié)目，蘋果下架一批家長控制類APP等都提到了未成年人隱私保護的問題。

在技術(shù)的急速發(fā)展過程中，未成年人的隱私等權(quán)利正在面臨重重威脅。

如今，眾多教育機構(gòu)競相追逐人臉識別AI技術(shù)。在未來網(wǎng)報道之后，某教育自媒體發(fā)文稱一家在線一對一教育平臺的智能化迭代的經(jīng)驗，其中指出：該平臺“通過語音交互和機器視覺等技術(shù)手段監(jiān)控課堂，判斷授課質(zhì)量，對不合格的教師進行回爐培訓(xùn)。”

但是，課堂監(jiān)控分析是否會給教師和學(xué)生帶來壓力、制造“戲精”；是否已經(jīng)侵犯了學(xué)生隱私；如何防止數(shù)據(jù)泄露……這些問題都亟待教育機構(gòu)回答。

某在線少兒英語培訓(xùn)機構(gòu)通過面部識別技術(shù)量化分析孩子的課堂學(xué)習(xí)表現(xiàn)。圖據(jù)網(wǎng)絡(luò)

“這是必須引起教育系統(tǒng)與全社會高度重視的，學(xué)校是育人的地方，培養(yǎng)學(xué)生健康成長，所有教育創(chuàng)新必須以尊重學(xué)生人格為基本出發(fā)點?！?a href="/O/49808" target="_blank" title="21世紀教育" class="goOId">21世紀教育研究院副院長熊丙奇在接受未來網(wǎng)記者收集時表示。

在他看來，這種方式是反教育、反人格的。教育本身包含情感、心理和知識交互的過程，過度強調(diào)技術(shù)手段是對學(xué)生和老師的控制，必然會導(dǎo)致教育缺乏應(yīng)有的溫度。而學(xué)生長期處于監(jiān)控環(huán)境之下，很容易養(yǎng)成表演性人格。教育首先是教做人，反人格的教育萬萬不可取。

中國法學(xué)會研究部副主任彭伶也告訴未來網(wǎng)記者，“我不贊成收集、分析孩子的表情信息。如果孩子們事先知道，這會讓他們處于一個高度緊張的狀態(tài)，不利于孩子的健康成長。設(shè)身處地地想想，你在課堂上的一個撓頭、皺眉，或是一個無意識的舉動都會被別人觀看，甚至放大分析，這是一件多么恐怖的事情。”

彭伶指出，從這個意義上來說，它不符合我國《未成年人保護法》的原則，盡管《未成年人保護法》沒有對信息收集做出明確具體的規(guī)定，但是它的首要原則就是保護未成年人的身心健康。在《未成年人保護法》中明確規(guī)定，學(xué)校應(yīng)當(dāng)尊重未成年人的人格尊嚴，不得對未成年學(xué)生和兒童實施體罰、變相體罰或者其他侮辱人格尊嚴的行為。在她看來，除心理輔導(dǎo)等其他必要情況且取得未成年人及其監(jiān)護人明示同意以外，收集、分析孩子們的上課表情屬于“其他有辱人格尊嚴的行為”。并且，根據(jù)聯(lián)合國兒童權(quán)利公約，“兒童最大利益原則”是兒童保護的首要原則。

“因此，上述課堂人臉識別、表情分析的方式是極其不妥當(dāng)?shù)模械K于未成年人健康成長。如果以此原則作為標(biāo)準來衡量這些教育機構(gòu)的行為，顯然它們違背了?！?/p>

為了教育讓渡孩子的隱私權(quán)？

“很明顯，即使是為了教育，人臉識別、表情分析并不一定能達到教育的目的和效果。既無必要，又有泄露隱私的風(fēng)險?！币晃恢袑W(xué)老師向未來網(wǎng)記者表達了自己的擔(dān)憂：一旦孩子的隱私泄露，會不會被進行商業(yè)交易、被拐賣兒童的人獲取？即使不會泄露，如果等孩子長大了，當(dāng)他發(fā)現(xiàn)他的人臉和表情特征已經(jīng)被各個教育機構(gòu)甚至更多的科技企業(yè)掌握了，他會怎么想？

如今，人臉識別逐漸成為了商戶、手機APP等普遍采用的技術(shù)。據(jù)人民網(wǎng)報道：“刷臉”支付在2018年全面提速商用，正不斷融入日常生活之中。業(yè)內(nèi)人士預(yù)測，2019年隨著AI技術(shù)的不斷落地，以“刷臉”支付為代表的生物支付將成為主流，并有望在實體店里迎來大規(guī)模商用，“靠臉吃飯”的時代或許為時不遠。

但是，如果生理和心智都尚未成熟的未成年人的人臉信息被有心之人利用，在“刷臉”如此普及的新時代，后果可能不堪設(shè)想。

對此，彭伶也告訴未來網(wǎng)記者，監(jiān)控技術(shù)如果面向大眾而非特定群體，用于查案和保衛(wèi)社會公共安全則無可厚非?！暗绻堰@種技術(shù)用于課堂，用于特定個體如學(xué)生，就相當(dāng)于隱私被監(jiān)控，更可怕的是一舉一動還會被人分析，甚至?xí)纬煞治鰣蟾?。在這種情況下，按照我們一般的邏輯推斷，這些數(shù)據(jù)是會留存的，甚至?xí)鳛閮?nèi)部的一個資料來交流使用，那么這些未成年人的信息就很可能會泄露出去?！?/p>

她還指出，僅分析本身就牽扯到了使用，在這種情況下，毫無疑問已經(jīng)侵犯了未成年人的隱私，涉嫌違法。

北京市煒衡律師事務(wù)所律師周浩在接受未來網(wǎng)記者收集時也對此表示肯定：《網(wǎng)絡(luò)安全法》《未成年人保護法》《侵權(quán)責(zé)任法》等法律中明確規(guī)定，不得侵犯公民的隱私權(quán)。

他介紹，《中華人民共和國網(wǎng)絡(luò)安全法》第四十一條明確規(guī)定：網(wǎng)絡(luò)運營者收集、使用個人信息，應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則，公開收集、使用規(guī)則，明示收集、使用信息的目的、方式和范圍，并經(jīng)被收集者同意。

所以，教育機構(gòu)收集學(xué)生人臉表情等信息，正當(dāng)性和必要性都大大存疑，很可能就違反了“合法、正當(dāng)、必要的原則”。

此外，第四十一條還規(guī)定：網(wǎng)絡(luò)運營者不得收集與其提供的服務(wù)無關(guān)的個人信息，不得違反法律、行政法規(guī)的規(guī)定和雙方的約定收集、使用個人信息，并應(yīng)當(dāng)依照法律、行政法規(guī)的規(guī)定和與用戶的約定，處理其保存的個人信息。

“但是，教育機構(gòu)在收集學(xué)生人臉信息時是否經(jīng)過了孩子和家長的同意，是否有明確提醒和詢問，家長和孩子對其收集使用的風(fēng)險性和后果知情多少，這些都很難保證?！敝芎普f。

但同時他也指出，《個人信息保護法》尚未出臺，其他相應(yīng)的條例、法規(guī)中關(guān)于未成年人的隱私、信息保護也并不明確?！笆裁葱畔⒛苁占裁床荒苁占?，收集后應(yīng)該怎么使用，目前法律上還未劃清界限，較為模糊?！?/p>

技術(shù)無罪但法律須劃清紅線

事實上，如果從源頭上追尋，最基本的問題在于這些教育機構(gòu)有沒有權(quán)利來收集未成年人的個人信息？彭伶表示，我國《民法總則》第一百一十一條明確規(guī)定：“自然人的個人信息受法律保護。任何組織和個人需要獲取他人個人信息的，應(yīng)當(dāng)依法取得并確保信息安全，不得非法收集、使用、加工、傳輸他人個人信息，不得非法買賣、提供或者公開他人個人信息?！币源藶闃?biāo)準來衡量，這些教育機構(gòu)在取得孩子們的信息的合法性以及確保信息安全方面顯然存在問題。

彭伶強調(diào)，事情已經(jīng)發(fā)生，必須控制未成年人信息的保管和使用，要對于利用采集來的個人信息，尤其是未成年人信息來牟利的行為要予以嚴厲打擊和懲處。

“教育機構(gòu)如果對外大肆宣傳，將其作為吸引消費者、投資者的噱頭，這算不算是利用未成年人信息牟利，需要法院來判定。但是我個人認為它采取宣傳的這種方式是極其不妥當(dāng)?shù)?，?yīng)該旗幟鮮明地反對！”彭伶說，如果教育機構(gòu)確實以這樣的噱頭對外宣傳，用于商業(yè)牟利，建議相關(guān)部門及時介入調(diào)查。查清楚這些信息數(shù)據(jù)究竟是怎樣收集來的，又是怎樣保管的，采取了什么樣的安全防護措施，措施的可靠性有多高，有沒有專人負責(zé)等。必須要為孩子的隱私安全保護筑起一道高墻。

對此，有業(yè)內(nèi)人士告訴未來網(wǎng)記者，許多從業(yè)者可能也沒有注意到這個技術(shù)的背后的問題，所以就沒有了界限。教育機構(gòu)面臨著倫理難題，可能也不是要故意侵犯誰的隱私，但是在技術(shù)發(fā)展的過程，確實存在巨大的風(fēng)險，比如用人臉識別功能繼而進行表情分析，或許能達到提高教學(xué)效率的效果，但卻忽視了達成這個結(jié)果需要讓渡孩子的隱私權(quán)，忽視了信息安全的風(fēng)險。

“引進運用技術(shù)本身這個出發(fā)點是好事，但是教育企業(yè)看重的是營銷力，不是從塑造學(xué)生人格角度出發(fā)，確實需要補上倫理這節(jié)課?！?/strong>他告訴未來網(wǎng)記者，或許相關(guān)部門需要出臺一些規(guī)定，給技術(shù)發(fā)展劃清一條紅線，讓從業(yè)者有法可依，而不是游走在灰色地帶。

在他看來，技術(shù)天然不具備道德性，它需要人來做規(guī)范，所以為什么克隆人一直是被限制的，如果按技術(shù)成熟度來說，可能很多技術(shù)是可以實現(xiàn)的，但為什么不能做？因為突破不了社會倫理道德和法律的底線。

“僅靠技術(shù)是不行的，技術(shù)需要根植在一個場景當(dāng)中、在整個社會關(guān)系網(wǎng)中。這個網(wǎng)的組建，既需要我們約定俗成的一個共識，更需要有關(guān)部門的引導(dǎo)和規(guī)范。面部識別這個事是不是能有一個嚴格的規(guī)定，尤其是用在未成年人教育領(lǐng)域，哪些場景是可以用的，哪些產(chǎn)品是可以研發(fā)制造的。在技術(shù)的應(yīng)用場景上給出規(guī)范，用一個這框架性的制度，把技術(shù)給框起來。 ”

未來網(wǎng)記者注意到，知乎網(wǎng)友在探討此類問題時，昵稱為“YU JIANG”網(wǎng)友的回答收獲了許多點贊：一個較新鮮的嘗試，需要各方面一起努力，規(guī)范各種行為，避免出現(xiàn)侵犯隱私的可能。行業(yè)主管部門要有相關(guān)的標(biāo)準規(guī)范和法律手段；行業(yè)協(xié)會要制定相應(yīng)的指導(dǎo)規(guī)范；企業(yè)自身要從技術(shù)上規(guī)避出現(xiàn)侵權(quán)的可能性，做好引導(dǎo)；而最關(guān)鍵的，使用者要有法律意識，明確侵犯別人的隱私權(quán)必將付出代價。

“有人叫喊的什么技術(shù)無罪，對也不對。技術(shù)中立沒問題，但是推廣技術(shù)的人不中立。”

本文轉(zhuǎn)載自微信公眾號“麻辣未聞”。文章為作者獨立觀點，不代表芥末堆立場，轉(zhuǎn)載請聯(lián)系原作者。