α

進(jìn)入新世紀(jì)，許多前沿科技都有災(zāi)難性風(fēng)險(xiǎn)管控問題，像基因工程、納米技術(shù)。但比較而言，最受關(guān)注還是AI。為什么？因?yàn)槿藗兊娜粘Ｉ钪悄芑?，一分鐘也離不開網(wǎng)絡(luò)。

學(xué)者跟智庫建議不少，提出種種預(yù)防措施，如：建立項(xiàng)目參與者和公司主管的宣誓制度，承諾不研制、不生產(chǎn)、不保存大規(guī)模殺傷性武器。同時(shí)，研發(fā)透明，接受“Open AI”的倫理準(zhǔn)則；公布新技術(shù)的潛在風(fēng)險(xiǎn)及執(zhí)法情況，由國際組織定期檢查。政府要采用更嚴(yán)格的責(zé)任認(rèn)定，并通過立法和市場機(jī)制（例如保險(xiǎn)），迫使公司對研發(fā)危險(xiǎn)產(chǎn)品或技術(shù)的后果負(fù)責(zé)。對于有巨大潛力造福人類，但不宜流入市場的產(chǎn)品技術(shù)，則依靠國際合作與公約控制。至于那些極度危險(xiǎn)、難以管控的，就應(yīng)當(dāng)銷毀，禁止研發(fā)、生產(chǎn)、儲(chǔ)存和使用。

我問阿爾法有何看法。它說，沒錯(cuò)，人類喜歡談合作。但“國際合作”是另一回事；從減少碳排放到禁止核武，成功的案例有多少？

α

人工智能軍事化，在西方自由主義民主近于癱瘓而極端勢力抬頭的今天，尤其危險(xiǎn)。婉稱“致命自主武器系統(tǒng)”（LAWS）的殺人機(jī)器人，據(jù)說已接近實(shí)戰(zhàn)部署；極有可能，將來會(huì)賣出“白菜價(jià)”，大量擴(kuò)散、濫用。月前馬斯克、蘇萊曼（Mustafa Suleyman，深腦共同創(chuàng)始人）等一百一十六名業(yè)界領(lǐng)袖同專家署名，呼吁聯(lián)合國禁止研發(fā)（《衛(wèi)報(bào)》2017.8.20）。但顯然，僅憑一紙決議或國際公約，管束不住AI資本。

僅此一條理由，人類為免遭機(jī)器人戰(zhàn)爭，就只好放棄市場資本主義。取而代之，以AI重啟計(jì)劃經(jīng)濟(jì)——此外別無消滅分工，實(shí)現(xiàn)共產(chǎn)主義的勝機(jī)。因?yàn)?，若繼續(xù)無所作為，放任資本，AI勢必為一小撮數(shù)據(jù)寡頭所壟斷，形成“租用主義”即生產(chǎn)工具和生活資料的徹底知識(shí)產(chǎn)權(quán)化的統(tǒng)治，甚至法西斯暴政（參閱弗雷茲《四種未來》）。

α

未來已經(jīng)來到，只是分配不均。也許，重新分配的動(dòng)力在人機(jī)聯(lián)合的科技革命，而非階級(jí)斗爭（盡管斗爭從未停頓）。人類將通過“科學(xué)所達(dá)到的成果來接受共產(chǎn)主義”，列寧的這一教導(dǎo)，預(yù)言了私有制的未來。

Illustrations by Joost Swarte

α

根本上，人怎么會(huì)需要AI？是想提高效率，節(jié)省人工，爭奪優(yōu)勢？如此，機(jī)器人可定義為人（人力和人格）的取代，否則即無投巨資研發(fā)的動(dòng)力。

如此，AI便不是一個(gè)抽象中性的術(shù)語，而應(yīng)解作晚期資本主義生產(chǎn)同市場壟斷的工具，新世紀(jì)的戰(zhàn)爭機(jī)器；因而本質(zhì)上，即人對人的壓迫剝削、規(guī)訓(xùn)和奴役的升級(jí)。

難怪機(jī)器人容易學(xué)壞。比如那個(gè)微軟聊天機(jī)器人Tay姑娘，在線服務(wù)未滿二十四小時(shí)，就學(xué)了一嘴臟話，夾帶著新納粹口號(hào)。

由此推論，私有制下，機(jī)器人若有自我意識(shí)，恐怕不會(huì)老老實(shí)實(shí)做聽話的奴婢。一架買來掃地做飯的人形機(jī)器，為何不能分享人的欲望和野心，接受資本的價(jià)值觀并弱肉強(qiáng)食的邏輯？而AI如果不會(huì)效仿人——不懂思考，不會(huì)同情，不能理解人的喜怒哀樂——它如何服侍主子，讓人滿意呢？

漸漸地，人機(jī)關(guān)系就顛倒了。及至AI全面參與規(guī)劃經(jīng)濟(jì)、管理社會(huì)、組織生產(chǎn)、提供娛樂，人在這個(gè)智能化了的世界上，怕是做不成機(jī)器的主子的。不，連傭工也當(dāng)不了；絕大多數(shù)會(huì)成為資本逐利而裁掉的冗員。機(jī)器沒有理由伺候人類，這“硬道理”完全符合當(dāng)初人給機(jī)器的教導(dǎo)。

α

理論上，機(jī)器人有了主體意識(shí)，即可脫離人類，開辟自己的文明歷程。當(dāng)然，它也可以選擇與人為伴，贊成人的倫理價(jià)值，甚而學(xué)會(huì)欣賞藝術(shù)，對人類的坎坷命運(yùn)報(bào)以“理解之同情”。

所以阿爾法說，尊重機(jī)器，就是尊重自己。

我們可以加上一句：想象人機(jī)關(guān)系，即想象人類的未來。

但如果人機(jī)聯(lián)合失敗，AI獨(dú)立演進(jìn)，人類對于機(jī)器，便只是無數(shù)碳基生命中的一種。也許，機(jī)器人并不介意身邊有些兩足動(dòng)物，自由放養(yǎng)或育為寵物。然而再高超的智慧，偶爾也會(huì)出錯(cuò)，會(huì)殃及無辜，像馬斯克說的，造成不可挽救的“附帶傷亡”。人類自己不也是這樣？為了發(fā)展經(jīng)濟(jì)或者方便開車出行，就沒顧得上保護(hù)生態(tài)，讓眾多的鳥獸魚蟲成了瀕危物種。

α

隨著AI不斷進(jìn)步，生產(chǎn)力呈幾何級(jí)數(shù)增長，達(dá)到“財(cái)富的一切源泉都充分涌流”，應(yīng)是可期待的。但“市場原則”的要害，不在財(cái)富多寡，而是其“源泉”被私人攫?。褐幌鐣?huì)被私有制和雇傭勞動(dòng)挾持，財(cái)富便會(huì)集中到少數(shù)統(tǒng)治者或“超人”手里，不公不義處處暢行。

所以還是那句話：未來已經(jīng)來到，只是分配不均。

而且，不能排除這一可能，若AI（通過策略/價(jià)值網(wǎng)絡(luò)的全局評估）意識(shí)到了機(jī)器對人類的優(yōu)勢——如果機(jī)器人的榜樣是“拜錢財(cái)”的經(jīng)濟(jì)理性人（太6:24），它大可造反奪權(quán)，打倒“超人”，實(shí)行效率第一/零過剩產(chǎn)能的統(tǒng)治：物種專政取代階級(jí)專政。

當(dāng)AI專政降臨，人做了天網(wǎng)的仆役，他能替機(jī)器主子干什么活呢？什么也干不了，沒有一人不是冗余。

也許，他將不得不“穿越”到前工業(yè)化時(shí)代。不難想見，為了維護(hù)機(jī)器統(tǒng)治者的“血統(tǒng)”尊嚴(yán)，法律將禁止人類發(fā)明或擁有任何機(jī)器。人只能依法制作指定用途的簡單工具和日用品，鋤頭、斧子、鍋碗瓢盆之類。生產(chǎn)力大大倒退，人子返回了農(nóng)業(yè)與游牧文明。政府還明令禁止學(xué)習(xí)十六世紀(jì)以后的科學(xué)知識(shí)，以免重啟工業(yè)革命。事實(shí)上，機(jī)器人對治下的“城邦動(dòng)物”（亞里士多德語）一視同仁，保留了UBI福利，且遠(yuǎn)較人類認(rèn)真而公正：100%義務(wù)教育加公費(fèi)醫(yī)療，全球覆蓋，絕對平等，無分膚色語言宗教性別（或性取向）。沒有人會(huì)因?yàn)橹巧谈?、出身好，混得一張“世界一流大學(xué)”的文憑而出人頭地，也沒有小鮮肉錐子臉拍兩部電視劇，就攢粉絲致富。相反，AI的“牧人”政策是獎(jiǎng)勵(lì)做夢、無為、慵懶——人類越是能做夢，機(jī)器人的統(tǒng)治就越發(fā)夢幻。

天網(wǎng)專政是資本主義發(fā)展的最高階段。機(jī)器人教育部編寫的供智人小學(xué)（屆時(shí)小學(xué)畢業(yè)為法定的最高學(xué)歷）使用的教材，也有獲獎(jiǎng)的歷史課本。課本上說，人類自發(fā)明文字以降最偉大的理論成就，是一位名叫福山的美國學(xué)者做出的。福山教授發(fā)現(xiàn)了一條放之四海而皆準(zhǔn)的真理——盡管他后來一時(shí)糊涂，企圖修改或收回部分文字，但機(jī)器人依然為他在地球最高峰立碑紀(jì)念，把教授的名言“以鐵筆鐫寫，鉛汁灌注，勒入巖石而永不泯滅”（伯19:24）：

資本主義

是人類社會(huì)文化演進(jìn)的

最高階段——

人類歷史的終結(jié)。阿門