據(jù)澎湃新聞5月15日?qǐng)?bào)道，去年11月，一篇“看臉識(shí)罪犯”的論文令學(xué)術(shù)界和輿論界炸開了鍋。

這篇上傳在預(yù)印本網(wǎng)站arXiv上的論文題為《基于面部圖像的自動(dòng)犯罪概率推斷》（Automated Inference on Criminality using Face Images）。在實(shí)驗(yàn)中，上海交通大學(xué)教授武筱林及其博士生張熙選取了1856張中國(guó)成年男子的面部照片，其中730張是已經(jīng)定罪的罪犯身份證照片（330張來(lái)自網(wǎng)上的通緝令，400張由一家簽署過保密協(xié)議的派出所提供），其余1126張是在網(wǎng)絡(luò)上抓取的普通人照片。經(jīng)過機(jī)器學(xué)習(xí)，算法鑒別出犯罪嫌疑人的準(zhǔn)確率達(dá)到89%。

研究使用的照片樣本。a組為罪犯，b組為非罪犯

此后，武筱林收到了雪片般飛來(lái)的郵件，有些就學(xué)術(shù)問題進(jìn)行了交流，有些則直接敦促他“撤稿”。而在半年之后，三名美國(guó)作者撰寫萬(wàn)字長(zhǎng)文，向武筱林隔空喊話，指責(zé)其研究在搞“科學(xué)種族主義”。

上述三名作者中，Blaise Agüera y Arcas是機(jī)器學(xué)習(xí)領(lǐng)域的著名工程師，2013年從微軟跳槽到谷歌；Margaret Mitchell同樣是谷歌的人工智能研究員；Alexander Todorov則是普林斯頓大學(xué)的神經(jīng)科學(xué)教授。

這篇洋洋灑灑的萬(wàn)字長(zhǎng)文，從提出“天生犯罪人”理論的意大利外科醫(yī)生龍勃羅梭，寫到對(duì)猶太人進(jìn)行面相研究的納粹教材，暗指武筱林的研究是這些“前輩”的繼任者。

武筱林

武筱林在文章中，三名美國(guó)作者在技術(shù)層面提出了一些質(zhì)疑，譬如實(shí)驗(yàn)樣本數(shù)據(jù)集過小，容易造成過擬合；罪犯組照片的著裝更為隨意，而非罪犯組的照片很多都穿著襯衫；此外，非罪犯組照片更多地在微笑。但文章最核心的擔(dān)憂是，由于人類司法系統(tǒng)中存在一些歧視（譬如美國(guó)司法對(duì)白人和黑人存在量刑歧視），用這些帶有歧視的人類數(shù)據(jù)訓(xùn)練機(jī)器，機(jī)器得到的結(jié)果也會(huì)是歧視性的。而若將這些內(nèi)嵌歧視的算法用作司法工具，那么就會(huì)形成一個(gè)歧視性的反饋循環(huán)，讓歧視在社會(huì)中更為鞏固。

“基于面部特征的深度學(xué)習(xí)絕不該應(yīng)用為‘加速’司法公正的工具，如果真的這么做的話，反而會(huì)讓不公正長(zhǎng)存于世?！蔽恼逻@樣結(jié)尾道。

5月14日，武筱林撰文向澎湃新聞進(jìn)行了獨(dú)家回應(yīng)。他指責(zé)這種隔空點(diǎn)名的方式并非“我們所熟悉的學(xué)術(shù)交流”，而是政治斗爭(zhēng)上扣帽子的手法。武筱林提到，他們?cè)谡撐闹忻鞔_聲明“沒有興趣也不夠格去解讀實(shí)驗(yàn)結(jié)果”，卻“被”解讀了。三位美國(guó)作者無(wú)視聲明，將論文原話斷章取義，湊成主觀臆斷強(qiáng)加于他們，扣上了一頂大帽子。

圖b標(biāo)注了存在差異性的3個(gè)特征點(diǎn)。表4為罪犯組和非罪犯組在3個(gè)特征點(diǎn)上的平均值和偏離值。

在文章中，武筱林還回應(yīng)了許多網(wǎng)友提出的“把教授自己的臉放進(jìn)去試試”的問題，澄清了一種常見的“基礎(chǔ)概率謬誤”，再次強(qiáng)調(diào)他們的研究無(wú)意也無(wú)法用于實(shí)踐。

此外，武筱林也對(duì)外界的幾點(diǎn)技術(shù)質(zhì)疑作出回應(yīng)。他總結(jié)道，“我們感謝所有針對(duì)論文的問題和討論，但堅(jiān)決反對(duì)歪曲我們的初衷”，“這既不專業(yè)，也很傲慢?！?

“僅僅在文章中用到（面相學(xué)）這個(gè)詞，就足夠貼一個(gè)科學(xué)種族主義的標(biāo)簽了嗎？”這是武筱林的疑問。

人工智能倫理討論無(wú)需扣帽子和歪曲事實(shí)

（原文為英文，由澎湃新聞?dòng)浾叻g）

2016年11月，我和我的博士生張熙在arXiv上貼出了一篇題為 “Automated Inference on Criminality using Face Images”的論文。該論文在各國(guó)學(xué)術(shù)界，尤其是互聯(lián)網(wǎng)上引起了廣泛的關(guān)注和爭(zhēng)議。近日，Arcas等三人在Medium網(wǎng)站上發(fā)表了《相面術(shù)的新外衣》（Physiognomy’s New Clothes）一文。我們贊同三位作者的觀點(diǎn)，即AI研究要有益于社會(huì)，但我們也發(fā)現(xiàn)，他們對(duì)于我們的工作，尤其是我們的研究動(dòng)機(jī)和目標(biāo)存在諸多誤讀。

扣帽子（name calling）

該文章（即《相面術(shù)的新外衣》，下同）的作者暗示我們有惡意的種族主義動(dòng)機(jī)。他們認(rèn)為這種暗示很明顯，導(dǎo)致我們立馬在網(wǎng)絡(luò)上，尤其是中國(guó)網(wǎng)民那里成了千夫所指。我們論文里從未宣稱要把我們的研究方法用作司法工具，我們對(duì)相關(guān)性的討論也從未延伸到因果關(guān)系。任何以客觀心態(tài)讀過我們論文的人，都會(huì)明白我們只是想知道，機(jī)器學(xué)習(xí)是否有潛力像人類一樣，對(duì)人臉形成社會(huì)性的看法。要知道，這種同時(shí)基于觀察者和被觀察者的看法是很復(fù)雜、很敏銳的。

我們的研究是在挑戰(zhàn)機(jī)器學(xué)習(xí)的上限，并將人臉自動(dòng)識(shí)別從生物學(xué)維度（比如種族、性別、年齡、表情等）拓展到社會(huì)心理學(xué)維度。我們只是好奇，能否教會(huì)機(jī)器復(fù)制人類對(duì)陌生人的第一印象（個(gè)性、風(fēng)格、器宇等），通過圖靈測(cè)試。正如我們?cè)谡撐闹兴?，直覺上，我們認(rèn)為對(duì)于面部的犯罪性印象是個(gè)比較容易測(cè)試的選擇，事后證明，這是個(gè)不幸的選擇。

“為了驗(yàn)證我們的假設(shè)，即一個(gè)人面部的物理特征與其內(nèi)在特質(zhì)、社會(huì)行為間存在相關(guān)性，運(yùn)用現(xiàn)代自動(dòng)分類器去區(qū)別罪犯和非罪犯，測(cè)試其準(zhǔn)確率是非常有說(shuō)服力的。如果面部特征和社會(huì)屬性真的相關(guān)，這兩類人群應(yīng)該是最容易區(qū)分的。這是因?yàn)?，犯罪需要人格中存在很多不正常（離群值）。如果分類器的區(qū)別率很低，那么我們就能有把握地否定對(duì)面部進(jìn)行社會(huì)性推定的做法。

令人震驚的是，來(lái)自谷歌的作者們將上述段落斷章取義，湊成了下述臆斷強(qiáng)加于我們。

“那些上唇更彎曲，兩眼間距更窄的人在社會(huì)秩序上更低級(jí)，傾向于（用武和張的原話說(shuō)）‘人格中存在很多不正常（離群值）’，最終導(dǎo)致在法律上更可能被判定犯罪?！?

我們認(rèn)同“犯罪性”（criminality）這個(gè)詞有點(diǎn)尖銳，我們應(yīng)該打上引號(hào)的。在使用這個(gè)詞的字面意思，把它作為機(jī)器學(xué)習(xí)的參考標(biāo)準(zhǔn)（“ground truth”）的同時(shí)，我們沒有警告讀者，輸入的數(shù)據(jù)存在噪點(diǎn)。這是我們的嚴(yán)重疏忽。然而，在論文中我們始終保持了一種嚴(yán)肅的中立性；在引言部分，我們聲明道：

“在本文中，我們無(wú)意也不夠格去討論社會(huì)偏見問題。我們只是好奇，全自動(dòng)的犯罪性推定能有多高的準(zhǔn)確率。一開始，我們的直覺是機(jī)器學(xué)習(xí)和計(jì)算機(jī)視覺會(huì)推翻面相學(xué)，但結(jié)果是相反的。”

我們清楚地聲明了無(wú)意也不夠格去解讀，但卻被來(lái)自谷歌的作者們過度解讀了。這不是我們習(xí)慣的學(xué)術(shù)交流方式。此外，我們還后悔不該選擇使用“physiognomy”這個(gè)詞。它最接近的中文翻譯是“面相學(xué)”。我們對(duì)這個(gè)詞在英語(yǔ)國(guó)家里固有的負(fù)面涵義不夠敏感。但是，僅僅在文章中用到這個(gè)詞就足夠貼一個(gè)科學(xué)種族主義的標(biāo)簽了嗎？