新世界中的古老追求

各個(gè)主要的技術(shù)先進(jìn)國(guó)家都需要明白，它們正處于戰(zhàn)略轉(zhuǎn)型的門(mén)檻上，這種轉(zhuǎn)型與當(dāng)年核武器的出現(xiàn)同等重要，但影響將更加多樣化、分散化和不可預(yù)測(cè)。如果一個(gè)社會(huì)致力于擴(kuò)展人工智能前沿，就應(yīng)當(dāng)成立一個(gè)國(guó)家層面的機(jī)構(gòu)，來(lái)考量人工智能的防御和安全，并在各個(gè)相關(guān)部門(mén)之間建立橋梁。這個(gè)機(jī)構(gòu)應(yīng)被賦予兩項(xiàng)職能：維持本國(guó)的競(jìng)爭(zhēng)力，同時(shí)協(xié)調(diào)研究如何防止或至少限制不必要的沖突升級(jí)或危機(jī)。在此基礎(chǔ)上，與盟友和對(duì)手進(jìn)行某種形式的談判將是至關(guān)重要的。

如果要對(duì)這一方向進(jìn)行探索，那么世界兩大人工智能強(qiáng)國(guó)——美國(guó)和中國(guó)——就必須接受這一現(xiàn)實(shí)。兩國(guó)可能會(huì)得出這樣的結(jié)論：無(wú)論兩國(guó)新一階段的競(jìng)爭(zhēng)將以何種形式展開(kāi)，都應(yīng)就“不打前沿技術(shù)戰(zhàn)爭(zhēng)”形成共識(shí)。雙方政府可以委托某個(gè)團(tuán)隊(duì)或高級(jí)官員負(fù)責(zé)監(jiān)督，并直接向領(lǐng)導(dǎo)人報(bào)告潛在的危險(xiǎn)及規(guī)避方式。截至本書(shū)撰寫(xiě)時(shí)，這種努力與兩國(guó)的公眾情緒并不相符。然而，這兩個(gè)大國(guó)互相對(duì)峙而拒不進(jìn)行對(duì)話(huà)的時(shí)間越長(zhǎng)，發(fā)生意外的可能性就越大。一旦發(fā)生意外，雙方都會(huì)被其技術(shù)和部署預(yù)案所驅(qū)使，陷入雙方都不愿意看到的危機(jī)，甚至可能引發(fā)全球規(guī)模的軍事沖突。

國(guó)際體系的矛盾之處在于，每個(gè)大國(guó)都被驅(qū)使采取行動(dòng)，也必須采取行動(dòng)，從而最大限度地保障自身的安全；然而，為了避免危機(jī)接踵而來(lái)，每個(gè)國(guó)家都必須對(duì)維持普遍和平有一定的責(zé)任感。這個(gè)過(guò)程涉及對(duì)限制的認(rèn)識(shí)。軍事規(guī)劃人員或安全官員會(huì)根據(jù)可能發(fā)生的最壞情況考慮問(wèn)題（這樣做并沒(méi)錯(cuò)），并優(yōu)先尋求獲取應(yīng)對(duì)這些情況所需的能力。政治家（可能也就是上述這批人）則有義務(wù)考慮如何使用這些能力，以及使用之后的世界將會(huì)是什么樣子。

在人工智能時(shí)代，我們應(yīng)該對(duì)長(zhǎng)期以來(lái)的戰(zhàn)略邏輯進(jìn)行調(diào)整。在災(zāi)難真正發(fā)生之前，我們需要克服，或者至少是遏制這種自動(dòng)化的驅(qū)向。我們必須防止運(yùn)行速度比人類(lèi)決策者更快的人工智能做出一些具有戰(zhàn)略后果的、不可挽回的行為。防御力量自動(dòng)化的前提是不放棄人類(lèi)控制。該領(lǐng)域固有的模糊性，再加上人工智能的動(dòng)態(tài)性、突出性及其傳播的便利性，將使評(píng)估復(fù)雜化。在此前的時(shí)代，只有少數(shù)幾個(gè)大國(guó)或超級(jí)大國(guó)有責(zé)任限制自己的破壞性能力，以避免發(fā)生災(zāi)難。但不久后，隨著人工智能技術(shù)的擴(kuò)散，更多的行為體也必須承擔(dān)類(lèi)似的使命。

當(dāng)代領(lǐng)導(dǎo)人可以通過(guò)將常規(guī)能力、核能力、網(wǎng)絡(luò)能力和人工智能能力廣泛而動(dòng)態(tài)地結(jié)合在一起，來(lái)實(shí)現(xiàn)控制武器裝備的六大任務(wù)。

被用于軍用領(lǐng)域的人工智能（圖源：彭博社）

第一，相互對(duì)抗或敵對(duì)的國(guó)家的領(lǐng)導(dǎo)人必須定期對(duì)話(huà)，討論雙方都想避免的戰(zhàn)爭(zhēng)形式，就像美蘇在冷戰(zhàn)期間所做的那樣。為此，美國(guó)及其盟友應(yīng)該圍繞其共同的、固有的、不可侵犯的利益與價(jià)值觀組織起來(lái)，這些利益和價(jià)值觀包括在冷戰(zhàn)結(jié)束后幾代人的經(jīng)驗(yàn)。

必須對(duì)核戰(zhàn)略的未解難題給予新的關(guān)注，并認(rèn)識(shí)到其本質(zhì)正是人類(lèi)在戰(zhàn)略、技術(shù)和道德方面遭遇的巨大挑戰(zhàn)之一。幾十年來(lái)，對(duì)廣島和長(zhǎng)崎被核彈化為焦土的記憶迫使人們認(rèn)識(shí)到核問(wèn)題的不尋常性和嚴(yán)峻程度。正如美國(guó)前國(guó)務(wù)卿喬治·舒爾茨在2018年對(duì)國(guó)會(huì)所說(shuō)：“我擔(dān)心人們已經(jīng)失去了那種恐懼感。”擁核國(guó)家的領(lǐng)導(dǎo)人必須認(rèn)識(shí)到，他們有責(zé)任共同努力，以防止災(zāi)難的發(fā)生。

網(wǎng)絡(luò)與人工智能技術(shù)的領(lǐng)先大國(guó)應(yīng)該努力界定其理論和限制（即使其所有方面均未被公開(kāi)），并找出自身理論與競(jìng)爭(zhēng)大國(guó)之間的關(guān)聯(lián)點(diǎn)。如果我們的意圖是威懾而非使用，是和平而非沖突，是有限沖突而非普遍沖突，就需要以反映網(wǎng)絡(luò)和人工智能獨(dú)特蘊(yùn)含的措辭來(lái)重新理解和界定這些術(shù)語(yǔ)。

擁核國(guó)家應(yīng)承諾對(duì)其指揮控制系統(tǒng)和早期預(yù)警系統(tǒng)進(jìn)行內(nèi)部檢查。這類(lèi)失效保護(hù)檢查應(yīng)確定檢查步驟，以加強(qiáng)對(duì)網(wǎng)絡(luò)威脅和在未經(jīng)授權(quán)、疏忽或意外情況下使用大規(guī)模毀滅性武器行為的防范。這些檢查還應(yīng)包括選項(xiàng)，以排除對(duì)核指揮控制系統(tǒng)或早期預(yù)警系統(tǒng)相關(guān)設(shè)施的網(wǎng)絡(luò)攻擊。

世界各國(guó)，特別是技術(shù)強(qiáng)國(guó)，應(yīng)制定強(qiáng)有力和可接受的方法，在緊張局勢(shì)加劇和極端情況下盡量延長(zhǎng)決策時(shí)間。這應(yīng)該成為競(jìng)爭(zhēng)對(duì)手之間共同的概念性目標(biāo)，將控制不穩(wěn)定性和建立共同安全所需的步驟（既有當(dāng)前的，也有長(zhǎng)期的）聯(lián)系起來(lái)。在危機(jī)中，人類(lèi)必須對(duì)是否使用先進(jìn)武器承擔(dān)最終責(zé)任。競(jìng)爭(zhēng)對(duì)手尤其應(yīng)該努力就一種機(jī)制達(dá)成一致，以確保那些或許不可撤銷(xiāo)的決定是有利于人類(lèi)生存的。

主要的人工智能大國(guó)應(yīng)該考慮如何限制軍事化人工智能的繼續(xù)擴(kuò)散，或者依靠外交手段與武力威脅，開(kāi)展系統(tǒng)性的防擴(kuò)散工作。那些野心勃勃地想要將技術(shù)用于不可接受的破壞性目的的技術(shù)收購(gòu)者會(huì)是誰(shuí)？有哪些特定的人工智能武器值得我們特別關(guān)注？誰(shuí)來(lái)確保這條紅線不被逾越？老牌的核大國(guó)探索過(guò)這種防核擴(kuò)散概念，結(jié)果成敗參半。如果一種具有顛覆性和潛在破壞性的新技術(shù)被用于武裝世界上懷有最強(qiáng)烈敵意或道德上最不受約束政府的軍隊(duì)，那么戰(zhàn)略均勢(shì)可能難以實(shí)現(xiàn)，沖突也可能無(wú)法控制。

由于大多數(shù)人工智能技術(shù)具有軍民兩用特性，我們有責(zé)任在這場(chǎng)技術(shù)研發(fā)競(jìng)賽中保持領(lǐng)先。但這也同樣迫使我們?nèi)ダ斫馊斯ぶ悄芗夹g(shù)的局限性。等到危機(jī)來(lái)臨才開(kāi)始討論這些問(wèn)題就為時(shí)已晚了。一旦在軍事沖突中使用，人工智能技術(shù)的響應(yīng)速度之快，幾乎注定它將以比外交手段更快的速度產(chǎn)生結(jié)果。大國(guó)之間必須就網(wǎng)絡(luò)和人工智能武器展開(kāi)討論，哪怕只是為了形成一套共同的戰(zhàn)略概念話(huà)語(yǔ)，以及對(duì)彼此紅線的感知。要在最具破壞性的能力上實(shí)現(xiàn)相互制約，絕不能等到悲劇發(fā)生再去亡羊補(bǔ)牢。當(dāng)人類(lèi)開(kāi)始在創(chuàng)造新的、不斷演化的、擁有智能的武器方面展開(kāi)競(jìng)爭(zhēng)時(shí)，設(shè)限的失敗不會(huì)被歷史原諒。在人工智能時(shí)代，對(duì)國(guó)家優(yōu)勢(shì)的持久追求，仍須以捍衛(wèi)人類(lèi)倫理為前提。

本文系觀察者網(wǎng)獨(dú)家稿件，文章內(nèi)容純屬作者個(gè)人觀點(diǎn)，不代表平臺(tái)觀點(diǎn)，未經(jīng)授權(quán)，不得轉(zhuǎn)載，否則將追究法律責(zé)任。關(guān)注觀察者網(wǎng)微信guanchacn，每日閱讀趣味文章。