圖片來源：unsplash

當(dāng)前，AI已經(jīng)滲入社會的方方面面，在教育領(lǐng)域中的應(yīng)用也在不斷普及和深入，尤其是在緊扣時代進(jìn)步潮流、敏銳洞察市場變化、快速響應(yīng)科技前沿的教育培訓(xùn)行業(yè)，AI更是大顯身手，受到了熱烈追捧和廣泛應(yīng)用，給教育培訓(xùn)行業(yè)帶來了蓬勃生機(jī)和旺盛活力。

“小荷才露尖尖角”，AI在教育培訓(xùn)行業(yè)中的應(yīng)用場景還有待進(jìn)一步拓展，其價值表現(xiàn)形式亦不甚清晰，同樣，AI應(yīng)用引發(fā)的倫理問題也才初露端倪，許多潛在風(fēng)險還沒有完全凸顯出來。那么，在這樣一個機(jī)遇和挑戰(zhàn)并存、契機(jī)與風(fēng)險同在的關(guān)鍵時期，對AI在教育培訓(xùn)行業(yè)中的應(yīng)用秉持一種既非辯護(hù)也非反對的理性審慎態(tài)度，在樂觀中保有一份謹(jǐn)慎，對AI熱進(jìn)行倫理層面的冷思考，是我們必須面對的一項重要而緊迫的時代課題。

回顧技術(shù)發(fā)展史不難發(fā)現(xiàn)，任何技術(shù)在閃耀奪目光芒時，也或多或少存在一些黑暗面，正如控制論之父諾伯特·維納所指出：“技術(shù)發(fā)展，對善和惡都帶來無限的可能性。”和其他技術(shù)一樣，AI也是一柄雙刃劍，它一方面為教育培訓(xùn)行業(yè)的創(chuàng)新發(fā)展帶來了難得機(jī)遇和巨大價值，另一方面也可能誘發(fā)負(fù)面影響和倫理風(fēng)險。和學(xué)校“志愿求公益”的旨?xì)w不同，教育培訓(xùn)行業(yè)“自愿逐私利”的本質(zhì)特點使其功利性更強(qiáng)、規(guī)范性更弱、監(jiān)管難度更大、倫理負(fù)載性更低，因而更容易滋生多方面的倫理問題。

首先，悖離教育的倫理訴求。

在利益驅(qū)使下，一些教育科技公司傾向于炒作時髦概念和時興技術(shù)，多數(shù)培訓(xùn)機(jī)構(gòu)為博取眼球，也變得急功近利，盲目追風(fēng)，其后果是AI應(yīng)用偏離教育的常識和本真，悖離教育內(nèi)在的倫理訴求。處于AI監(jiān)控下的教育，表演多于真實，形式優(yōu)于內(nèi)容，支配高于自主。

• 第一，AI監(jiān)控在某種程度上傷害了師生的人格尊嚴(yán)，是對學(xué)生自主學(xué)習(xí)能力和教師授課能力的不信任，在一開始就走向了教育的對立面。而且，某些教育軟件開發(fā)者為牟取利益或出于其他目的，往往會將特定的算法和技術(shù)天然地植入用戶設(shè)備中，以一種不易察覺的方式把新的行為代碼強(qiáng)加給學(xué)生，學(xué)生不知不覺中受到智能系統(tǒng)的調(diào)整、控制甚至誘導(dǎo)，這是不道德的教育；

• 第二，當(dāng)學(xué)生意識到一切行為都逃不過AI法眼時，其課堂表現(xiàn)是偽裝的，教學(xué)反饋是失真的，這容易助長學(xué)生形成表演性人格，妨礙學(xué)生養(yǎng)成表里如一的道德品質(zhì)，這是虛假的教育；

• 第三，長期使用AI教學(xué)輔助系統(tǒng)，會妨礙教師的專業(yè)發(fā)展，似乎離開了技術(shù)識別和系統(tǒng)反饋，教師就無法掌握課堂表現(xiàn)和教學(xué)狀況，這是不負(fù)責(zé)任的教育；

• 第四，單靠AI手段來提高課堂效率，而不是憑借先進(jìn)的教育理念、鮮活的教育內(nèi)容、高超的教育藝術(shù)、獨特的人格魅力來提高學(xué)生的抬頭率、參與度和獲得感，這是本末倒置、違反常識的教育；

• 第五，無節(jié)制地使用AI技術(shù)來追求教育的“精度”，將有血有肉的學(xué)生及其行為簡化為冰冷的數(shù)據(jù)，罔顧人的不確定性和多樣性，忽視教育的復(fù)雜性和情境性，會讓教育淪為情感和靈魂缺場的荒漠，這是缺乏溫度的教育。

其次，踐踏學(xué)生的隱私權(quán)利。

總體上說，AI應(yīng)用對學(xué)生隱私的侵犯主要體現(xiàn)在三個方面：

• 一是較為明顯的全面監(jiān)控，即在線學(xué)習(xí)平臺、可穿戴設(shè)備、萬物互聯(lián)、遍布的攝像頭和數(shù)字化生存方式共同構(gòu)筑起來的“數(shù)字圓形監(jiān)獄”隨時隨地都在窺探、跟蹤和分析學(xué)生的一言一行；

• 二是在利益的驅(qū)使下，培訓(xùn)機(jī)構(gòu)及其人員有可能竊取、販賣和濫用學(xué)生的敏感數(shù)據(jù)和私人信息；

• 三是不易察覺的數(shù)據(jù)挖掘，大數(shù)據(jù)是AI由弱變強(qiáng)的關(guān)鍵養(yǎng)分，沒有數(shù)據(jù)挖掘作為基礎(chǔ)，AI的發(fā)展如同無源之水、無本之木。

正因為此，大數(shù)據(jù)自身的海量、多樣、關(guān)聯(lián)、易提取和交叉檢驗等特征讓數(shù)據(jù)泄露和隱私侵犯更加容易和隱蔽，危害后果更嚴(yán)重。一些小的、簡單的、孤立的數(shù)據(jù)可能安全可靠，不會威脅到個人隱私，但是通過自動化技術(shù)積聚整合成一個信息整體后，各種各樣的數(shù)據(jù)就可以彼此疊加、聯(lián)動挖掘、復(fù)合運(yùn)算、相互佐證，看似不相干的碎片數(shù)據(jù)變成了有價值的信息關(guān)聯(lián)，很容易突破傳統(tǒng)的安全保護(hù)屏障而追溯到個人。而且大多時候，彼此關(guān)聯(lián)整合的數(shù)據(jù)對隱私的穿透力是1+1>2的。當(dāng)前，隱私問題已經(jīng)成為學(xué)生、家長乃至全社會的敏感神經(jīng)和關(guān)注焦點，切實保護(hù)好數(shù)據(jù)安全和用戶隱私，構(gòu)建一個相互信任的和諧環(huán)境，是AI在教育培訓(xùn)行業(yè)實現(xiàn)可持續(xù)發(fā)展的關(guān)鍵舉措。

再次，侵蝕學(xué)生的思考能力。

基于大數(shù)據(jù)算法的智能系統(tǒng)好比一盞有求必應(yīng)的阿拉丁神燈，可以根據(jù)用戶的興趣、需求、特征和知識基礎(chǔ)量身定制個性化的學(xué)習(xí)方案。更可怕的是，智能系統(tǒng)一直在源源不斷地汲取和分析用戶的各項數(shù)據(jù)，從而使決策的效率和質(zhì)量越來越高，一旦接近人腦水平甚至比用戶自己還了解自己的時候，他們極有可能放棄自主權(quán)利，心甘情愿地讓系統(tǒng)代為選擇。長此以往，難免形成智能依賴癥，隨之而來的是學(xué)生智力遲緩、好奇心萎縮、深度思考能力缺失。

在算法盛行的AI領(lǐng)域，學(xué)生可能逐漸喪失反思和批判的能力，而聽從諸如智能Agent或AI助手代替自己做出選擇。比如，AI可以為學(xué)生推送獨一無二的文章、視頻或網(wǎng)站，其后果是學(xué)生的閱讀品味受潮流和慣習(xí)裹挾而出現(xiàn)去我化和同質(zhì)化傾向，影響學(xué)生批判性思維的發(fā)展。

再如，AI個性化服務(wù)雖然可以為學(xué)生提供最優(yōu)化的學(xué)業(yè)方案和職業(yè)發(fā)展規(guī)劃，讓他們少走彎路，少冒風(fēng)險，但當(dāng)學(xué)生愿意接受其誘導(dǎo)走向“規(guī)定未來”（fixed future）的時候，他們變得服服帖帖，無形之中受到束縛，完全喪失了自我，其主體意識、創(chuàng)新精神、探索勇氣、思考能力已消磨殆盡。試想，如果學(xué)生不需要自己思考、選擇就能獲得最佳發(fā)展，卻因此喪失了自主選擇和深度感受生命過程的權(quán)利，他們的幸福何在？

最后，拘囿學(xué)生的知識視野。

AI時代是平均終結(jié)、個體科學(xué)興起的嶄新時代，個性化技術(shù)是AI的集大成者，也是教育培訓(xùn)行業(yè)的殺手锏。說到底，AI教育就是一種能夠讓“因材施教”的美好夙愿落地生根的個性化教育服務(wù)。

通過聚類分析，AI系統(tǒng)可以向細(xì)分的用戶精準(zhǔn)推送契合其真實需要的學(xué)習(xí)資源，為每位學(xué)生呈現(xiàn)不一樣的學(xué)習(xí)界面，這極大提高了信息傳播的有效性和針對性。但另一方面，精準(zhǔn)推送可能隔斷學(xué)生接觸更多資源的機(jī)會，讓學(xué)生的知識視野變得狹隘。

為了更好滿足細(xì)分群體的需要，智能推薦系統(tǒng)會對豐富多樣的資源進(jìn)行漏斗式的層層過濾，結(jié)果傳遞到學(xué)生手中的資源高度同質(zhì)化，他們正蝸居于自己的小“文化地帶”，觀點想法相似的人在此聚集交流，無形之中封閉了異質(zhì)思想的傳播渠道，斬斷了學(xué)生“日新又新”的機(jī)會。

如此一來，學(xué)生的觀念變得封閉，思維逐漸僵化，視野不斷窄化。精準(zhǔn)推送構(gòu)筑起來的觀點“隔離墻”和思想“同溫層”會形成信息繭房效應(yīng)，學(xué)生很可能成為孔子眼中的“三季人”。也就是說，學(xué)生往往被牽著鼻子走，絕大多數(shù)時候是根據(jù)自身興趣選擇信息資源和學(xué)習(xí)內(nèi)容，傾向于閱讀與自己觀點類似的信息，其后果是學(xué)生就像春蠶吐絲一樣，把自己裹得嚴(yán)嚴(yán)實實。更糟糕的是，持續(xù)不斷地為學(xué)生推送支持其自身觀點的信息和資料，長期浸泡在同質(zhì)化的信息海洋中，會讓他們越來越固執(zhí)，越來越排斥異己思想，出現(xiàn)叔本華所指出的那種現(xiàn)象：“人們會把自己視野的局限，當(dāng)作世界的極限。” 可見，精準(zhǔn)推送是碎片化閱讀和表淺化思考的溫床，也是導(dǎo)致學(xué)生缺乏主見、人云亦云、一葉障目的重要誘因。

總之，AI和教育融合不只是技術(shù)層面的問題，歸根結(jié)底還是倫理問題，教育培訓(xùn)行業(yè)中的AI應(yīng)用必須從倫理維度加以理解和審視。要想實現(xiàn)AI科學(xué)有效、安全合理的應(yīng)用，讓其真正造福于教育培訓(xùn)行業(yè)，除了要充分肯定和釋放AI的強(qiáng)大功能和巨大價值外，還要對AI的教育應(yīng)用有所限制，設(shè)立“禁區(qū)”，構(gòu)建相應(yīng)的倫理原則規(guī)范AI的使用行為，警惕和防范AI應(yīng)用可能給教育培訓(xùn)行業(yè)帶來的不利影響和倫理風(fēng)險。

本文轉(zhuǎn)載自微信公眾號“京師飛渡 FEdu”，作者為湖北民族大學(xué)教育學(xué)院鄒太龍（未來教育研究中心特約研究員），編輯甘霖，審稿陳超凡。