芥末堆芥末堆

職業(yè)歧視、種族偏見(jiàn)可以被量化?有人做出了這樣一個(gè)模型

作者:腦極體 發(fā)布時(shí)間:

職業(yè)歧視、種族偏見(jiàn)可以被量化?有人做出了這樣一個(gè)模型

作者:腦極體 發(fā)布時(shí)間:

摘要:或許有一天,每個(gè)人都會(huì)成為一個(gè)沒(méi)有偏見(jiàn)的人。

1.jpg

無(wú)論是中國(guó)人還是外國(guó)人,在個(gè)孩子起名字的時(shí)候都會(huì)有一定的寓意。尤其中國(guó)人的名字,紛繁復(fù)雜、各不相同,一個(gè)好名字往往就會(huì)給人非常深刻的印象。比如“高強(qiáng)”,往往會(huì)讓我們聯(lián)想到身材的高大和能力的出眾。

也就是說(shuō),甭管你見(jiàn)沒(méi)見(jiàn)過(guò)這個(gè)人,當(dāng)你看到他的名字的時(shí)候,你就已經(jīng)對(duì)他產(chǎn)生了第一印象。而這種印象與其本人的真實(shí)狀態(tài)幾乎毫無(wú)關(guān)聯(lián)。

不僅僅是看人的名字,人們對(duì)陌生人進(jìn)行判斷的時(shí)候,會(huì)根據(jù)很多因素產(chǎn)生刻板的印象。比如認(rèn)為北方人更粗獷,南方人更精細(xì);或者天然地存在歧視某地居民;或者對(duì)某種職業(yè)產(chǎn)生偏見(jiàn);或者非常敏感的種族主義問(wèn)題。

我們往往認(rèn)為陳規(guī)的觀念和偏見(jiàn)本質(zhì)上是主觀行為,在心理學(xué)研究上就很難對(duì)這種主觀行為進(jìn)行掌控。而在近期,面對(duì)人們的偏見(jiàn)問(wèn)題,科學(xué)家們卻在試圖開(kāi)發(fā)出一個(gè)模型,以對(duì)可能發(fā)生的不平等待遇進(jìn)行預(yù)測(cè)。

從“暈輪效應(yīng)”開(kāi)始,到量化偏見(jiàn)的模型

在認(rèn)知心理學(xué)當(dāng)中,有一個(gè)概念叫做“暈輪效應(yīng)”,由美國(guó)心理學(xué)家愛(ài)德華·桑戴克在上個(gè)世紀(jì)20年代提出。其認(rèn)為,當(dāng)認(rèn)知者對(duì)一個(gè)人的某個(gè)特征形成固定的好的或壞的印象之后,其還會(huì)對(duì)該人其他特征形成類似的推斷。最簡(jiǎn)單的比方,當(dāng)你開(kāi)始喜歡上一個(gè)人的時(shí)候,你會(huì)發(fā)現(xiàn)它所有的一切都是美好的;似乎也有那么點(diǎn)愛(ài)屋及烏的意思。

2.jpg

而實(shí)際上,愛(ài)德華對(duì)這種效應(yīng)持有的是否定的態(tài)度。也就是說(shuō),從一個(gè)局部的印象擴(kuò)展到整體,很容易產(chǎn)生對(duì)某個(gè)人的片面理解,由此而產(chǎn)生偏見(jiàn)。

在此之后,心理學(xué)家戴恩也做過(guò)一個(gè)實(shí)驗(yàn)。他通過(guò)給受試者提供不同類型的照片,比如有魅力、魅力中等和無(wú)魅力,然后讓其點(diǎn)評(píng)。最終那些看起來(lái)更有魅力的人會(huì)得到更多褒獎(jiǎng)的評(píng)價(jià),長(zhǎng)得越不好則積極的人格評(píng)價(jià)越少。

這種以貌取人,就是暈輪效應(yīng)的最基本體現(xiàn)。

但問(wèn)題在于,傳統(tǒng)上人們認(rèn)為這種主觀印象是很難固定的,畢竟每個(gè)人都不同。而最近來(lái)自伯克利大學(xué)和北京大學(xué)的研究人員則試圖在做這樣一件工作:通過(guò)建立一個(gè)模型,把人們的刻板印象和不平等待遇進(jìn)行量化,從而達(dá)到可以預(yù)測(cè)不平等待遇發(fā)生的可能性。

打個(gè)比方,小明和小紅都討厭小花,但小明更討厭??墒沁@個(gè)“更”到底是多大程度呢?研究人員要做的就是給小明的討厭程度打10分,小紅打7分。這樣就把人們偏見(jiàn)的程度進(jìn)行了量化,從而可以對(duì)這種心理進(jìn)行科學(xué)研究。

為了更直白地對(duì)人們的表現(xiàn)進(jìn)行研究,研究人員做了一系列的實(shí)驗(yàn)。其中有一項(xiàng)是心理學(xué)中的“獨(dú)裁者游戲”,給受試者10美元,他擁有對(duì)這10美元的絕對(duì)處置權(quán)利。在實(shí)驗(yàn)中,研究人員讓受試者根據(jù)給出的信息(職業(yè)、國(guó)家、種族等)來(lái)決定自己會(huì)拿出10美元中的多少給對(duì)方。結(jié)果表明,人們僅僅根據(jù)一條信息就給出了不同的金額,比如無(wú)家可歸的人受試者平均收到了5.1美元,“癮君子”則收了1.9美元,“律師”甚至只收了1.7美元。

在這項(xiàng)研究中,研究人員還借鑒了心理學(xué)當(dāng)中“熱情”和“能力”兩個(gè)因素對(duì)人們偏見(jiàn)的影響。很顯然受試者認(rèn)為律師是非常有能力的,因此不應(yīng)該得到更多的前;而且受試者還認(rèn)為愛(ài)爾蘭人更熱情只是能力差點(diǎn),因此得到的錢要比英國(guó)人更多一點(diǎn)。

3.jpg

實(shí)驗(yàn)結(jié)果表明,受試者通過(guò)“熱情”和“能力”對(duì)分錢的對(duì)象進(jìn)行分級(jí),與最終給予的錢的數(shù)量基本一致。

也就是說(shuō),通過(guò)這種模型的測(cè)試,研究人員可以對(duì)某人對(duì)某個(gè)職業(yè)、種族、國(guó)籍等群體產(chǎn)生何種程度的偏見(jiàn)和不平等待遇進(jìn)行預(yù)估,從而對(duì)社會(huì)上的不平等現(xiàn)象進(jìn)行把握和做出對(duì)策。該模型確實(shí)讓人眼前一亮,但如果能夠和下面這個(gè)研究成果結(jié)合起來(lái),或許關(guān)于人的偏見(jiàn)的預(yù)測(cè)會(huì)更加精準(zhǔn)。

D因素來(lái)了,黑暗人格或能給這個(gè)模型加點(diǎn)料

從某種程度上來(lái)說(shuō),人們對(duì)某個(gè)群體產(chǎn)生偏見(jiàn)的原因或許是認(rèn)識(shí)的片面,但還有一種可能就是:他就是刻意要對(duì)其進(jìn)行歧視。在這種情況下,他可能是一個(gè)黑暗人格之人。

人們一般認(rèn)為,黑暗人格的人往往在道德倫理和社會(huì)表現(xiàn)上存在一定違背常理的情況。比如說(shuō)自戀、變態(tài)、自傲、冷酷、腹黑等,這些不同的黑暗性格表現(xiàn)個(gè)不相同,但最近有人找到了它們之間共同的聯(lián)系,而這個(gè)聯(lián)系就被稱為“D因素”。

來(lái)自德國(guó)和丹麥的研究團(tuán)隊(duì)將D因素的特征分為九個(gè),即自我、馬基雅維利主義、道德缺失、自戀、心理權(quán)利、精神變態(tài)、施虐傾向、利己主義和懷恨在心。他們認(rèn)為,基本上擁有黑暗人格的人,或多或少都會(huì)呈現(xiàn)出這些特征,而在某一項(xiàng)特征上集中呈現(xiàn)。也就是說(shuō),如果你沾上了這九個(gè)特征中的其中一條,你就可以被認(rèn)為是一個(gè)黑暗人格之人;占的條數(shù)越多,你就越黑暗……

還不趕緊對(duì)照一下自己到底有多黑?

4.jpg

但是,影響黑暗人格的D因素與偏見(jiàn)的量化又有什么關(guān)系呢?

可以肯定的是,在擁有黑暗人格因素的人身上,偏見(jiàn)行為會(huì)得到放大。也就是說(shuō),假如一個(gè)正常人格的人給了律師1.7美元的話,那么黑暗人格的人可能會(huì)因?yàn)閷?duì)律師這一職業(yè)的天然印象(有錢、地位高等)而產(chǎn)生逆反,進(jìn)而在自己能夠成為掌控者的情況下對(duì)律師產(chǎn)生更嚴(yán)重的偏見(jiàn)。反映在給錢的數(shù)量上,可能就會(huì)遠(yuǎn)低于1.7美元。

那么,問(wèn)題就在這里。伯克利大學(xué)的研究人員想要將人們偏見(jiàn)的行為量化起來(lái),不僅要建立一個(gè)社會(huì)上對(duì)某一個(gè)群體的看法的普遍模型,還要考慮到產(chǎn)生偏見(jiàn)主體的個(gè)人因素。而其中的人格就是重要一環(huán)。

打個(gè)比方來(lái)說(shuō)。當(dāng)我們要預(yù)測(cè)一位求職者是否會(huì)通過(guò)面試官的考核的時(shí)候,首先我們要看求職者的姓名、籍貫、經(jīng)歷,給出一個(gè)其在普遍意義上是否符合用人的一般標(biāo)準(zhǔn)的初步判斷;然后,針對(duì)面試官的人格因素,再判斷求職者的條件會(huì)引起面試官怎樣的反應(yīng)。

從這個(gè)角度上來(lái)說(shuō),為了保證自己在面試時(shí)候?qū)γ嬖囌叩墓綄?duì)待,面試官就可以通過(guò)這個(gè)加入了黑暗人格因素的偏見(jiàn)模型對(duì)自己進(jìn)行測(cè)試,然后量化的得出自己可能會(huì)不由自主地對(duì)哪些人產(chǎn)生偏見(jiàn)。那么,在面試的時(shí)候,就可以達(dá)到提醒自己、避免犯錯(cuò)的效果。

而不僅僅是黑暗人格可以對(duì)模型的優(yōu)化起積極的作用,一些其他的人格因素的加入提高預(yù)測(cè)的精準(zhǔn)度。也就是說(shuō),對(duì)個(gè)人偏見(jiàn)的預(yù)測(cè),結(jié)合人格方面的因素或許會(huì)收到更好的效果。

人工智能、游戲優(yōu)化……偏見(jiàn)模型有什么用?

那么,這項(xiàng)在關(guān)乎心理學(xué)的研究模型,又能夠在現(xiàn)實(shí)中產(chǎn)生哪些作用呢?

可以確定的是,它絕不會(huì)淪為一項(xiàng)僅供娛樂(lè)的測(cè)試項(xiàng)目。或許在解決人工智能歧視問(wèn)題上,它還能發(fā)揮一定的效用。

我們知道,人工智能之所以會(huì)產(chǎn)生歧視問(wèn)題,其實(shí)就是對(duì)人類行為、職業(yè)、種族等進(jìn)行關(guān)聯(lián)分析后的結(jié)果。也就是說(shuō),沒(méi)有人告訴它醫(yī)生應(yīng)該是個(gè)男性而護(hù)士應(yīng)該是個(gè)女性,但它卻在經(jīng)過(guò)大量的數(shù)據(jù)學(xué)習(xí)之后,做出了最大可能的解。

5.jpg

那么,要解決這個(gè)問(wèn)題,則可以利用偏見(jiàn)模型來(lái)對(duì)其進(jìn)行訓(xùn)練。比如伯克利大學(xué)的研究人員為了這個(gè)實(shí)驗(yàn)總共找了大概1200人,那么為了對(duì)AI進(jìn)行訓(xùn)練,研究者可以進(jìn)一步擴(kuò)大參與實(shí)驗(yàn)的人員數(shù)量。通過(guò)對(duì)較大數(shù)量人群的偏見(jiàn)進(jìn)行量化,然后總結(jié)出哪些類型的人容易對(duì)人的哪些特征產(chǎn)生偏見(jiàn),并將這些結(jié)果交給AI進(jìn)行學(xué)習(xí)。在這種情況下,AI在做出判斷的時(shí)候就會(huì)多了一道對(duì)照結(jié)果進(jìn)行糾錯(cuò)的程序。

如此一來(lái),即將給出歧視結(jié)果的AI,將可能會(huì)在最后一刻對(duì)答案進(jìn)行優(yōu)化,從而大幅度減少歧視情況的發(fā)生。

另一方面,利用偏見(jiàn)模型將可能會(huì)對(duì)一些涉及人物角色類的游戲進(jìn)行優(yōu)化,以更好的增強(qiáng)玩家的沉浸體驗(yàn)。比如日本的很多游戲中設(shè)計(jì)的關(guān)于中國(guó)的人物形象,女性多為旗袍、馬尾或短發(fā),男性則多辮子、短衫或……和尚;而涉及西方人物的時(shí)候則往往是肌肉橫生、高大魁梧。這就是日本人對(duì)中國(guó)和西方人的刻板的、固有的印象。符合了大眾的普遍認(rèn)知,自然能獲得更多的玩家投入。那換個(gè)角度簡(jiǎn)單來(lái)說(shuō),在設(shè)計(jì)日本的人物形象的時(shí)候,矮小、衛(wèi)生胡、八字嘴,估計(jì)是最符合中國(guó)人對(duì)日本人的一貫印象,雖然在身材方面中國(guó)人已經(jīng)被日本超過(guò)……

6.jpg也就是說(shuō),深刻地了解到玩家對(duì)某種人物或場(chǎng)景的刻板印象,并按照大部分人的普遍印象進(jìn)行設(shè)計(jì),效果想必會(huì)好很多。

由此推開(kāi),把握住目標(biāo)人群對(duì)產(chǎn)品的一貫的印象,將可能成為眾多產(chǎn)品研發(fā)者的一把利器。

當(dāng)然,構(gòu)建偏見(jiàn)模型更重要的現(xiàn)實(shí)意義在于了解到人群的歧視模式并采取相應(yīng)科學(xué)的方法將其消解,或者幫助個(gè)人更好地了解自己所未嘗察覺(jué)的偏見(jiàn)弱點(diǎn),從而構(gòu)建一個(gè)更加和諧的群體。或許有一天,我們的世界里將不再存在種族、性別、職業(yè)等歧視,每個(gè)人都會(huì)成為一個(gè)沒(méi)有偏見(jiàn)的人。

本文轉(zhuǎn)自微信公眾號(hào)“腦極體”,作者小豪。文章為作者獨(dú)立觀點(diǎn),不代表芥末堆立場(chǎng)。

1、本文是 芥末堆網(wǎng)轉(zhuǎn)載文章,原文:腦極體
2、芥末堆不接受通過(guò)公關(guān)費(fèi)、車馬費(fèi)等任何形式發(fā)布失實(shí)文章,只呈現(xiàn)有價(jià)值的內(nèi)容給讀者;
3、如果你也從事教育,并希望被芥末堆報(bào)道,請(qǐng)您 填寫信息告訴我們。
來(lái)源:腦極體
芥末堆商務(wù)合作:王老師 18710003484
  • 職業(yè)歧視、種族偏見(jiàn)可以被量化?有人做出了這樣一個(gè)模型分享二維碼