圖片來源：unsplash

近日，中國藥科大學在教室試點安裝人臉識別系統(tǒng)，除了能自動識別學生的出勤情況外，還能夠?qū)崿F(xiàn)對學生課堂聽講情況的全程監(jiān)控。校方認為這是在督促學習，網(wǎng)友卻不買賬，你怎么看？

上學時害怕老師的火眼金睛，現(xiàn)在人臉識別教室來了。

近日，位于江蘇南京的中國藥科大學被推到了輿論風口浪尖，原因就是在教室使用人臉識別系統(tǒng)。

蹺課、玩手機都逃不過它的“法眼”，南京高校試水“人臉識別教室”

據(jù)報道，中國藥科大學在兩間教室試點安裝的人臉識別系統(tǒng)，除了能自動識別學生的出勤情況外，還能夠?qū)崿F(xiàn)對學生課堂聽講情況的全程監(jiān)控。

學生是否認真聽講、課堂上是否抬頭低頭、抬頭低頭了幾次、抬頭低頭了多長時間、低頭是否在玩手機、是否閉眼打瞌睡……都逃不過這個人臉識別系統(tǒng)的“法眼”。

中國藥科大學圖書與信息中心主任許建真表示：傳統(tǒng)點名浪費時間、準確率不高，但是有人臉識別就沒問題了。

據(jù)悉，此舉是學校教務(wù)部門的要求，意在減少學生逃課、早退、花錢找人代課以及上課不認真聽講等行為，提高學生到課率，嚴肅課堂紀律。

然而，也有一些學生認為這樣做會侵犯個人隱私。

“為了（敦促）你學習，你還抱怨，請問你還是學生嗎？”對于教室安裝人臉識別系統(tǒng)侵犯學生隱私的說法，許建真表示，學校之前已向公安部門和法務(wù)部門咨詢，由于教室屬于公開場所，因此不存在“侵犯隱私”的說法。

除了教室，中國藥科大學在校門口、學生宿舍大門口、圖書館、實驗樓等場所均安裝了人臉識別門禁。

人臉識別教室引發(fā)微博網(wǎng)友熱議，大部分網(wǎng)友表示反對，認為這侵犯了學生隱私，不過一些人表示支持。

這位本校生表示自己沒覺得隱私受到侵犯

這位網(wǎng)友認為刷臉進出相對安全，對學生來說是好事

這位藥大學生認為沒什么，刷臉進門挺方便。人臉識別教室只是一兩個在試用，也沒說都裝。

孩子的微笑都要被監(jiān)控？上海小學用AI 評估學生上課

在教室裝攝像頭并不是什么新鮮事，但教室采用人臉識別技術(shù)分析學生的上課情況還是最近才開始的。

上個月，上海中醫(yī)藥大學附屬閔行薔薇小學將人臉識別帶入校園，通過智能課堂評價系統(tǒng)、智能環(huán)境分析與控制系統(tǒng)和智能教師培訓系統(tǒng)這三套“AI+學?！毕到y(tǒng)，對學生和教師進行監(jiān)控。此舉同樣引發(fā)了不小的爭議。

根據(jù)宣傳，進入教室的這套“智能課堂評價系統(tǒng)”可以在真實課堂的樣本數(shù)據(jù)基礎(chǔ)上，實現(xiàn)對師生行為與情感的自動檢測，通過智能算法分析，給出基于課堂表現(xiàn)的評價和改進建議。

針對學生，系統(tǒng)可自動檢測到學生舉手、站立、坐姿不端等行為，通過記錄分析形成對課堂效果的總體評價?？梢哉f和南京高校使用的“人臉識別教室”有“異曲同工之妙”。

據(jù)悉，使用了這套系統(tǒng)后，學生在日常生活中有無微笑、有無跟老師問好、有無主動撿垃圾、隊列是否整齊等細節(jié)都會被AI捕捉，反饋到總控中心。

根據(jù)“中國新聞周刊”的報道，一位上海某小學二年級學生的家長何女士聽聞此消息后，立刻致電相關(guān)部門問詢，她認為AI進入小學，必須通知家長，并且需要家長的聯(lián)名同意，“這件事如果有一個家長反對，學校就不該實施。”她認為，“給學校裝AI，家長必須簽字。”

不過，也有人表示支持，因為這樣可以預(yù)防危險發(fā)生、降低校園霸凌、提高教學質(zhì)量。

瑞典一所高中用人臉識別監(jiān)測學生出勤，被控違反隱私法挨罰15萬

人臉識別走入教室并非中國獨有，近日，瑞典一所高中用人臉識別監(jiān)測學生出勤，被罰款20萬瑞典克朗。此案引發(fā)了關(guān)于在教育機構(gòu)中進一步應(yīng)用AI技術(shù)問題的討論。

位于瑞典北部城市Skellefte?的一家當?shù)亟逃龣C構(gòu)被瑞典數(shù)據(jù)保護局處以20萬瑞典克朗（約合人民幣15萬元）的罰款，因為該校通過面部識別技術(shù)來監(jiān)控高中生的出勤情況。

在該校的實驗計劃中，一共在三周時間內(nèi)跟蹤監(jiān)測了22名學生的出勤情況，這些學生每次進入教室時都會錄制面部信息。

在這項測試任務(wù)進行之前，確實獲得了學生自己以及他們父母的許可。但是，瑞典數(shù)據(jù)保護局（DPA）的結(jié)論是，該計劃仍然違反了歐盟隱私法規(guī)“通用數(shù)據(jù)保護條例”（GDPR）的若干條款，因此會對非法收集數(shù)據(jù)的校方處以罰款。

“Skellefte?的這所高中違反了數(shù)據(jù)保護條例的若干條款，因此我們對該校處以罰款?！盌PA總干事Lena Lindgren Schelin在一份聲明中說。

DPA做出結(jié)論，面部識別技術(shù)侵犯了學生的隱私，同時強調(diào)，監(jiān)控學生出勤率可以采用不侵犯隱私的方式，使用一些不涉及攝像監(jiān)控的方法。

“面部識別技術(shù)尚處于起步階段，但發(fā)展很快。因此，我們非常需要明確可以適用于所有人的技術(shù)應(yīng)用?！癝chelin解釋道。

Skellefte?市政委員會的Felicia Lundmark強調(diào)，我們需要評估用于監(jiān)控出勤率的AI技術(shù)的未來，不僅是在Skellefte?市，而且是在整個瑞典來做這件事。

安德斯托普高中校長約根·馬爾姆對罰款的結(jié)果表示驚訝。

“這個結(jié)果并不好。而且這個決定很有意思，因為我們處理信息的方式、以及如何在學校的環(huán)境下開發(fā)IT技術(shù)是一個很大的問題?！?/p>

參與這項實驗的學生哈里認為，罰款是“不公正的”。

這是瑞典首次根據(jù)GDPR實施罰款，該協(xié)議于去年生效，旨在加強包括面部圖像數(shù)據(jù)在內(nèi)的個人數(shù)據(jù)和隱私保護。

技術(shù)的發(fā)展沒有邊界，但技術(shù)的使用必須有邊界

科技飛速發(fā)展，人臉識別作為人工智能的一個重要領(lǐng)域，已經(jīng)大量出現(xiàn)在我們的生活中，從手機解鎖到刷臉支付，甚至上下班都要用人臉識別打卡、進出……那么對于這項技術(shù)，我們需要有所敬畏嗎？

美國多個城市禁用人臉識別，微軟刪除全球最大公開面部識別數(shù)據(jù)庫

西方國家似乎對于技術(shù)的使用更加保守。比如在美國，面部識別的推進就困難重重。今年5月，舊金山成為美國第一個禁止面部識別監(jiān)控的城市。

一個月后，美國國會兩黨在一場國會聽證會上正式討論了對執(zhí)法部門使用面部識別軟件所帶來的日益擔憂。兩黨一致認為面部識別軟件有侵犯公民隱私權(quán)和抗議權(quán)的隱憂，尋求立法暫停此類工具的使用。包括面部識別軟件專家在內(nèi)的團隊認為，在更完善的監(jiān)管出臺或技術(shù)充分成熟之前，此類面部識別工具應(yīng)由國家叫停。

國會兩黨共同提案，尋求立法對面部識別進行監(jiān)管

7月，美國又一城市通過了禁止在公共場所使用面部識別軟件的法令，成為繼舊金山之后全美第二個禁止面部識別技術(shù)的城市。新政策生效后，馬薩諸塞州的薩默維爾市各機構(gòu)、分局或下屬部門，均不得在公共場所使用面部識別技術(shù)。

除了立法的監(jiān)管，科技巨頭在技術(shù)的使用上也需要謹慎。今年6月，微軟刪除了包含1000萬張人臉圖像的全球最大公開面部識別數(shù)據(jù)庫MS Celeb。該數(shù)據(jù)庫最初于2016年發(fā)布，被微軟描述為世界上最大的公開面部識別數(shù)據(jù)庫，并用于培訓全球科技公司和軍事研究人員的面部識別系統(tǒng)。

史上最嚴數(shù)據(jù)保護條例，歐盟GDPR最高開出2億美元罰單

《通用數(shù)據(jù)保護條例》（General Data Protection Regulation，GDPR）是在歐盟法律中對所有歐盟個人關(guān)于數(shù)據(jù)保護和隱私的規(guī)范，涉及了歐洲境外的個人資料出口。GDPR 主要目標為取回公民以及住民對于個人資料的控制，以及為了國際商務(wù)而簡化在歐盟內(nèi)的統(tǒng)一規(guī)范。

GDPR取代了歐盟在1995年推出的歐盟個人資料《數(shù)據(jù)保護指令》（Data Protection Directive），該條例包含有關(guān)處理歐盟內(nèi)部數(shù)據(jù)主體的個人可識別資訊的條款和要求，適用于與歐洲做生意的所有企業(yè)。

本法案在2016年4月27日通過，緩沖期為兩年，于2018年5月25日起強制執(zhí)行。

截至目前，歐盟各國以及英國已經(jīng)根據(jù)GDPR對多個企業(yè)進行了處罰，其中罰款額度最高的超過2億美元，被處罰的企業(yè)涉及各個行業(yè)。

2019年7月8日，英國監(jiān)管機構(gòu)信息委員會辦公室（ICO）決定對英國航空公司做出高達1.83億英鎊的罰款，原因是該公司的大量用戶信息被轉(zhuǎn)移至欺詐網(wǎng)站上，攻擊者通過虛假的英國航空公司網(wǎng)站收集了大約50萬乘客的個人信息。此次信息泄露已經(jīng)持續(xù)了一年有余，航空公司方面負有不可推卸的安全責任。

其實我國也有相關(guān)的標準來規(guī)范數(shù)據(jù)保護的。2018年5月1日，《信息安全技術(shù)個人信息安全規(guī)范》（GB/T 35273—2017），其中明確規(guī)定：

收集個人信息前，應(yīng)向個人信息主體明確告知所提供產(chǎn)品或服務(wù)的不同業(yè)務(wù)功能分別收集的個人信息類型，以及收集、使用個人信息的規(guī)則（例如收集和使用個人信息的目的、收集方式和頻率、存放地域、存儲期限、自身的數(shù)據(jù)安全能力、對外共享、轉(zhuǎn)讓、公開披露的有關(guān)情況等），并獲得個人信息主體的授權(quán)同意。

有規(guī)范是第一步，具體的落實需要各方共同的努力。最近AI換臉應(yīng)用“ZAO”一夜爆紅被推到輿論風暴的中心再次印證了大家對于隱私保護的擔憂。在這個AI時代，如何權(quán)衡技術(shù)的發(fā)展與隱私的保護是值得我們深思的問題。

本文轉(zhuǎn)載自微信公眾號“新智元”。原標題《開學AI登場！南京高校用人臉識別查考勤管理學生，還敢逃課、玩手機？》文章為作者獨立觀點，不代表芥末堆立場，轉(zhuǎn)載請聯(lián)系原作者。