一

杭州十一中裝了一個(gè)智慧課堂行為管理系統(tǒng)。

里面有三個(gè)攝像頭，通過它對學(xué)生的課堂行為進(jìn)行捕捉。校長說，“它是一雙慧眼，可以洞察課堂上的一切。運(yùn)用這個(gè)系統(tǒng)，我們可以看到哪些同學(xué)是在專注聽課，哪些同學(xué)是在開小差。”

她還說，“再結(jié)合學(xué)生們的面部表情，比如高興、傷心，還是憤怒、反感等，將這些數(shù)據(jù)匯總到終端，就可以分析出這個(gè)學(xué)生在課堂上的學(xué)習(xí)狀態(tài)。”

從校長接受收集的視頻來看，攝像頭一裝好，學(xué)生學(xué)習(xí)的熱情高漲，表情比整容還整齊，幾乎全部是幸福的樣子。

但這事一經(jīng)曝出，立刻引來大量批評。我問了兩個(gè)朋友，他說在他們所在的國家，此事不可能出現(xiàn)，因?yàn)檫`法侵犯兒童人權(quán)，后果十分嚴(yán)重。我不知道，在中國此舉是否也屬違法，又有多嚴(yán)重。

二 

此事并非第一例。

去年中原某校就有這樣的視頻流出，我還曾為此寫了《“數(shù)字化校園”不等于裝一堆監(jiān)控》。其實(shí)從前年開始，包括我接觸到的一些所謂科技公司，已經(jīng)開始以各種面貌進(jìn)入學(xué)校。

它們滲入了教育教學(xué)的各個(gè)環(huán)節(jié)，無論是課堂、作業(yè)、考試都可以進(jìn)行實(shí)時(shí)控制，并使用所謂的大數(shù)據(jù)進(jìn)行分析。而真正的恐怖來自分析之后，大數(shù)據(jù)所給出的結(jié)果，所帶來的是相應(yīng)的制約措施，美其名曰“提升水平”。

在我看來，這些軟件都以捆綁學(xué)生的自由為目的。杭州十一中目前的狀況，讓我想起了邊沁所設(shè)計(jì)的圓形監(jiān)獄。

那個(gè)監(jiān)獄的模型，就是讓獄卒可以在任何角度看見罪犯，罪犯的一言一行一舉一動都無所遁形?，F(xiàn)在這一切正在由技術(shù)實(shí)現(xiàn)。

在影片《飛越瘋?cè)嗽骸防镆灿蓄愃频囊?guī)訓(xùn)，最嚴(yán)重的策略是切除腦前頁，最終讓一個(gè)人符合管制標(biāo)準(zhǔn)。但明顯學(xué)校不是監(jiān)獄，也不是瘋?cè)嗽?。我們給予學(xué)生的，不應(yīng)是捆綁，而是自由。

為什么我們的孩子，要遭遇這一切？

三

前一段，我跟孩子們在課上討論善惡問題。 

我們提到了百度和Google。百度的企業(yè)價(jià)值觀是“簡單可依賴”,Google的理念則是舉世皆知的“don't be evil（不作惡）”。

我們分析了魏則西事件和Google的醫(yī)藥廣告事件，最終得出結(jié)論，工具或者技術(shù)本身并不為惡，惡的是人。

不但是百度，包括歐美很多偉大的科技公司，是否每個(gè)人都知道，其實(shí)這些公司參與了全球多處惡性事件？很多監(jiān)控、追蹤、激發(fā)人性丑惡的東西，都是由他們開發(fā)構(gòu)建。就像facebook最近爆出的用戶信息買賣，就是非常典型的案例。 

我曾說，技術(shù)的發(fā)展和運(yùn)用，從來就不應(yīng)為了去控制一個(gè)人，而是要使每一個(gè)人得到解放，獲得更多的自由。如果所有的科技發(fā)展不是為了這樣一個(gè)目的，那么未來的世界將遠(yuǎn)比我們想象的恐怖。

我相信，這些進(jìn)入校園的科技公司不是不知道這些后果，但他們毫無節(jié)操和廉恥，仍然選擇了為惡。這樣的人心，我不知道為何會大行其道，而得不到遏制，其原因何在？ 

四

西哲有言，所有的奴役災(zāi)難，都是其民眾自作自受。王小波在一次社會調(diào)查中醒悟到：“所謂弱勢群體，就是有些話沒有說出來的人。就是因?yàn)檫@些話沒有說出來，所以很多人以為他們不存在或者很遙遠(yuǎn)?！闭f起來，世上所有的權(quán)衡，都來自于沉默與喧囂的對比。

沉默的那一邊，就是毫無力量的一側(cè)。善惡也是一樣。

當(dāng)我們佛系的看著所有惡橫行的時(shí)候，也就站到了沉默的一邊，就注定是一個(gè)無能的存在。而當(dāng)我們不再沉默的時(shí)候，天平就會逐漸傾斜。

所以在杭十一中這件事上，我必須舉雙手反對。

如果我選擇沉默，我擔(dān)心整個(gè)世界都會成為杭十一中的擴(kuò)大版。我們很可能陷入天網(wǎng)的世界。一個(gè)人的一切都將被控制，所有行為都會無所遁形，而你的一舉一動都會被計(jì)算機(jī)記錄，從而帶來相應(yīng)的獎懲。那將是史上絕無僅有的奴役。

在學(xué)校里，學(xué)生最討厭的老師一定包括生活老師。因?yàn)樯罾蠋煹穆氊?zé)就是對他們的自由進(jìn)行管制。而杭十一中這種利用科技作惡，并以此來監(jiān)控學(xué)生的行為，遠(yuǎn)遠(yuǎn)超過了生活老師的惡，是可忍孰不可忍。 

在《我，機(jī)器人》那部影片中，一切的變化都始于一個(gè)異樣的聲音，當(dāng)有一個(gè)機(jī)器人不再順從時(shí)，世界從此改變。相信我，那就是你。

本文轉(zhuǎn)自微信公眾號“白卷”，作者白宇極。文章為作者獨(dú)立觀點(diǎn)，不代表芥末堆立場。