【文/ 馮象】

這是一本新書，《我是阿爾法》，封面畫著兩個(gè)人：機(jī)器人高出一頭，向人類伸出手來(lái)，可是那個(gè)抬頭仰視的人身子僵直，不愿握手。

“原本草稿上，兩人是一樣大的。后來(lái)我建議機(jī)器人大點(diǎn)，人小點(diǎn)?！弊髡唏T象先生說(shuō)。

他說(shuō)，國(guó)內(nèi)學(xué)界討論人工智能（AI），經(jīng)常落入一個(gè)誤區(qū)：把AI理解成了自動(dòng)化問題?？墒亲詣?dòng)化，從發(fā)明輪船火車開始，產(chǎn)業(yè)升級(jí)“騰籠換鳥”的挑戰(zhàn)，是人類社會(huì)一直在應(yīng)對(duì)的，至少有200年了。人工智能之所以值得探討，是因?yàn)榈仄骄€上升起了兩片陰霾：大失業(yè)同AI軍事化。終極的威脅則是，發(fā)展下去，人類可能會(huì)面臨一個(gè)遠(yuǎn)比自己聰明的物種，其行為、性格與思想意識(shí)人絕對(duì)無(wú)法理解。這，才是新問題。

已故的麻省理工教授明斯基（Marvin Minsky，1927—2016），人稱AI教父，曾說(shuō)：“智能的力量源于我們自身廣博的多樣性，而非某種獨(dú)一無(wú)二的完美原則所賜”（The Society of Mind,1986,p.308）。在他看來(lái)，本質(zhì)上，人的感情和心理意識(shí)跟演算、邏輯推理沒什么不同，都是智能的表現(xiàn)形式。人們引以為傲的各種智能，都可以還原為神經(jīng)元相互作用的過程。

今天，有了大數(shù)據(jù)的條件，機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)研究突飛猛進(jìn)。機(jī)器可以撇開“人類標(biāo)注樣本”或人的學(xué)習(xí)模式，自己尋找規(guī)律；或者基于海量的數(shù)據(jù)集，自我學(xué)習(xí)，實(shí)現(xiàn)升級(jí)。圍棋機(jī)器人AlphaGo Zero經(jīng)過三天自學(xué)，左右手互搏，下出來(lái)的棋，聶衛(wèi)平估計(jì)，棋力高達(dá)三十段。這是人類的頂級(jí)（九段）選手如果不借助機(jī)器，窮其一生也難以領(lǐng)會(huì)的棋藝。

“如此精密復(fù)雜的機(jī)器智能，若是拿我們現(xiàn)在的法律規(guī)范跟教義學(xué)說(shuō)，例如私法上的主體客體、侵權(quán)責(zé)任的認(rèn)定標(biāo)準(zhǔn)，用這些教科書概念來(lái)討論人機(jī)關(guān)系，分析各樣后果，肯定是徒勞的。同樣，人機(jī)倫理不能停留在抽象觀念的推演建構(gòu)，而應(yīng)立足于人類社會(huì)在21世紀(jì)晚期資本主義階段，所面臨的深刻危機(jī)”；“想象人機(jī)關(guān)系，即想象人類的未來(lái)”。近日，馮象接受《文匯學(xué)人》采訪，談?wù)摿巳藱C(jī)未來(lái)。

為換取便利和舒適，一鍵出讓隱私

文匯報(bào)：馮先生，我們先聊聊一則新聞，蘇富比拍賣涂鴉藝術(shù)家Banksy一幅名作。小錘落下，買賣成交，那幅畫卻逸出畫框，自行切割成了布條。畫家說(shuō)，他在畫框里藏了個(gè)機(jī)關(guān)，意在抗議資本市場(chǎng)拍賣藝術(shù)品。沒想到，拍賣品這么“毀掉”，身價(jià)反而更貴了。

這令人想起人類學(xué)家喜歡講的一個(gè)故事：部落祭禮半當(dāng)中，突然跳進(jìn)來(lái)一頭老虎，攪亂了儀式?？墒遣灰粫?huì)兒，老虎就被納入了這場(chǎng)儀式。換言之，部落祭禮具有很強(qiáng)的闡釋性，連危機(jī)也能包容。是否資本主義體系也有這個(gè)能力，可以消解形形色色的反抗呢？

馮象：對(duì)，誰(shuí)也不知道這家伙是誰(shuí)。他小心翼翼從不露面，而且搞了這么個(gè)機(jī)關(guān)，巧妙地“騙過”了拍賣行，做得非常漂亮。不過問題也在這兒——看上去像是造反，實(shí)則并沒有逃脫被市場(chǎng)機(jī)制收編、為文化冷戰(zhàn)利用的命運(yùn)。

此類反抗，從畢加索開始，套路都差不多。當(dāng)然畢加索厲害多了，“造反”的范圍廣，勁道大，還參加了共產(chǎn)黨。徐冰先生說(shuō)，當(dāng)代藝術(shù)是“一塊像癌細(xì)胞一樣的東西”，寄生在“整個(gè)世界經(jīng)濟(jì)、政治、文化的大的利益結(jié)構(gòu)之內(nèi)”。這話說(shuō)到點(diǎn)子上了。寄生體不可能改變宿主的利益結(jié)構(gòu)，反抗只是一種姿態(tài)?！澳亲藨B(tài)其實(shí)是宿主體制運(yùn)作的需要：那大體制需要一些癌細(xì)胞似的話語(yǔ)，包括行為藝術(shù)大腕兒什么的，來(lái)營(yíng)造異見、貶低道德，或改寫歷史、轉(zhuǎn)嫁責(zé)任”（《我是阿爾法》，頁(yè)72）。

文匯報(bào)：但您認(rèn)為，真正有可能顛覆資本主義體系的，是人工智能。為什么？

馮象：人工智能的近期風(fēng)險(xiǎn)，首先是“機(jī)器換人”，波及的行業(yè)有增無(wú)減，故稱“大失業(yè)”；再有就是AI軍事化。但在全球資本主義體系下，這趨勢(shì)是無(wú)法控制的。競(jìng)爭(zhēng)太厲害了，誰(shuí)也不敢落后；誰(shuí)不機(jī)器換人，不軍事化，誰(shuí)完蛋。這兩樣，人類過去沒經(jīng)歷過，一個(gè)非常痛苦，一個(gè)非常危險(xiǎn)。

危險(xiǎn)，還因?yàn)锳I技術(shù)不僅是“大國(guó)重器”，同時(shí)也跟日常生活攪在一塊兒。智能終端（如手機(jī)）滲透了我們的學(xué)習(xí)和工作、家庭內(nèi)外，而且一刻不停，永遠(yuǎn)在記錄，在挖掘，在上傳。

如今我們常態(tài)的人與人之間的關(guān)系，是人通過機(jī)器跟另一個(gè)人接觸：打招呼、聊天、點(diǎn)贊、炫酷或者罵人吵架。人與人直接交流的范圍在萎縮，而人機(jī)捆綁（包括人—機(jī)—人模式）的范圍在擴(kuò)大。直至我們每個(gè)人像一片電腦插件，插入一張無(wú)所不包的天網(wǎng)，由它發(fā)布的最新應(yīng)用程序（App）來(lái)組織安排每日的生活。

文匯報(bào)：這樣一個(gè)通過機(jī)器和他人發(fā)生關(guān)系的智能社會(huì)，從法學(xué)角度看，有什么特點(diǎn)呢？

馮象：傳統(tǒng)上，西方式法治社會(huì)是這樣的，頒布法典，做到“有法可依”還不夠；必須通過大眾文藝和媒體反復(fù)灌輸一套“真理”，諸如憲法至上、司法獨(dú)立、“把權(quán)力關(guān)進(jìn)制度籠子”之類，讓老百姓內(nèi)心形成規(guī)則意識(shí)，法律（包括惡法）才能得到普遍的遵循。不然，有法不依，法不責(zé)眾，法治就成了皇帝的新衣。

這好好干資本主義的規(guī)則意識(shí)，便是韋伯所謂資產(chǎn)者/發(fā)財(cái)奴的倫理，美其名曰“新教倫理”。不過，他是反果為因，說(shuō)顛倒了，以為人是為了獲拯救，才干下地獄的勾當(dāng)即發(fā)財(cái)?shù)?。可其?shí)呢，“富人進(jìn)天國(guó)，比駱駝穿針眼還難”（《馬可福音》10:25）。

智能社會(huì)不同，它是數(shù)碼規(guī)則引領(lǐng)潮流，算法制定，硬性的。硬規(guī)則的制定和實(shí)施，大多是商家行為，無(wú)須走政治程序醞釀?wù)撧q、表達(dá)民意，也不靠公眾/用戶的內(nèi)心約束或法治意識(shí)。你看我這手機(jī)，沒有下載打車軟件，我就被排除在了打車出行的硬規(guī)則之外。如需打車，就要請(qǐng)年輕人幫忙，獲準(zhǔn)進(jìn)一趟硬規(guī)則世界。

中國(guó)社會(huì)，雖然宣布了法治“初步建成”，似乎還是硬規(guī)則占優(yōu)勢(shì)。相對(duì)本本上的法條或軟規(guī)則，國(guó)人顯然更認(rèn)可“物理規(guī)則”。比如單位入口的路障、馬路中央的隔欄，沒有這些物理屏障即硬規(guī)則，光是立一塊牌子，貼一紙告示，怕是不起作用的。

這個(gè)現(xiàn)象，應(yīng)了一句流行的口號(hào)，“法無(wú)禁止皆可為”。意謂凡法律（軟規(guī)則）缺乏執(zhí)行力的地方，什么事都做得，從高鐵霸座、P2P騙局到“世界首例基因編輯嬰兒”。常有人怪罪國(guó)人的民族性格。

但回想起來(lái)，硬規(guī)則興盛，軟規(guī)則衰落，肇始于新時(shí)期，上世紀(jì)80年代，是跟整個(gè)社會(huì)的職業(yè)倫理、政治倫理的變化同步的。因?yàn)橹?，總體來(lái)說(shuō)，人比較規(guī)矩。不像現(xiàn)在，家家戶戶門窗安得比動(dòng)物園的鐵籠子還嚴(yán)實(shí)。