傅瑩：

尊敬的主持人，各位嘉賓，大家好！感謝主持人的介紹，上午大家談到宏觀(guān)的看法和主張。 我特別想呼應(yīng)一下許多人談到的，尤其是聯(lián)合國(guó)副秘書(shū)長(zhǎng)法布里齊奧·霍奇爾德、外交部國(guó)際經(jīng)濟(jì)司司長(zhǎng)王小龍和科技部戰(zhàn)略規(guī)劃司司長(zhǎng)許倞他們談到的，關(guān)于構(gòu)建人工智能?chē)?guó)際治理體系和機(jī)制的重要性和必要性。希望能在人工智能領(lǐng)域建立包容性很強(qiáng)的國(guó)際治理委員會(huì)通過(guò)共同探討、研究、吸納好的意見(jiàn)和建議，形成共同的國(guó)際規(guī)范，這是非常必要且緊迫的。

下面我主要從最近中美學(xué)者“人工智能與國(guó)際安全治理”合作項(xiàng)目的角度，談?wù)勥@個(gè)問(wèn)題。論壇開(kāi)始之前發(fā)布了我和美方項(xiàng)目牽頭人John Allen介紹研究成果的文章，今晚9點(diǎn)在關(guān)于《人工智能與國(guó)際安全：挑戰(zhàn)與機(jī)遇》的第三個(gè)分論壇上，中方團(tuán)隊(duì)的李彬老師會(huì)作更詳細(xì)的介紹，歡迎大家去聽(tīng)。

中國(guó)在人工智能治理問(wèn)題上向國(guó)際社會(huì)釋放了清晰的合作信號(hào)。今年11月，習(xí)近平主席在G20峰會(huì)上強(qiáng)調(diào)，中方支持圍繞人工智能加強(qiáng)對(duì)話(huà)，倡議適時(shí)召開(kāi)專(zhuān)題會(huì)議，推動(dòng)落實(shí)G20人工智能原則，引領(lǐng)全球人工智能的健康發(fā)展。我理解，今天這個(gè)論壇也是依據(jù)這個(gè)精神召開(kāi)的。

今年9月，中國(guó)國(guó)務(wù)委員兼外長(zhǎng)王毅提出《全球數(shù)據(jù)安全倡議》，表示希望國(guó)際社會(huì)在普遍參與的基礎(chǔ)上就人工智能的安全問(wèn)題達(dá)成國(guó)際協(xié)議，支持通過(guò)雙邊或多邊協(xié)議的形式確認(rèn)倡議中的承諾。他提出有效應(yīng)對(duì)數(shù)據(jù)安全風(fēng)險(xiǎn)應(yīng)遵循的三項(xiàng)原則,包括秉持多邊主義、兼顧安全發(fā)展和堅(jiān)守公平正義。

確實(shí)，技術(shù)革命往往伴隨不可預(yù)知的安全挑戰(zhàn)，在這方面，國(guó)際關(guān)注的焦點(diǎn)之一是智能武器的道德和技術(shù)風(fēng)險(xiǎn)。清華大學(xué)戰(zhàn)略與安全研究中心與多家國(guó)際機(jī)構(gòu)圍繞這個(gè)問(wèn)題開(kāi)展了研討，包括與美國(guó)布魯金斯學(xué)會(huì)的專(zhuān)家學(xué)者進(jìn)行的三輪系列研討，結(jié)合國(guó)際軍控經(jīng)驗(yàn)，尋找管控智能武器風(fēng)險(xiǎn)和國(guó)際安全治理的路徑。

專(zhuān)家們梳理了智能武器可能帶來(lái)的風(fēng)險(xiǎn)。一是由于人工智能技術(shù)不完善，智能武器可能導(dǎo)致更大的連帶傷害。二是智能武器的訓(xùn)練需要大量數(shù)據(jù)，數(shù)據(jù)的污染和形成的偏見(jiàn)可能導(dǎo)致嚴(yán)重后果。三是人機(jī)協(xié)同的挑戰(zhàn)，機(jī)器在可解釋性、學(xué)習(xí)性、常識(shí)性等方面的不足有可能放大發(fā)生沖突的風(fēng)險(xiǎn)，等等。

那么，既然人工智能武器化不可避免，專(zhuān)家們研究的方向是尋找合適的治理路徑。大家都認(rèn)為，人類(lèi)必須汲取歷史教訓(xùn)，例如對(duì)核武器的治理共識(shí)就發(fā)生的太晚，導(dǎo)致人類(lèi)曾經(jīng)面臨巨大威脅，互聯(lián)網(wǎng)的治理也沒(méi)有能夠在早期實(shí)現(xiàn)。大家希望這次對(duì)人工智能，尤其是智能武器的治理，人類(lèi)能走在技術(shù)變革的前面，充分認(rèn)識(shí)其風(fēng)險(xiǎn)，早些達(dá)成治理共識(shí)。

大家提出，需要采取軍事克制態(tài)度，限制智能武器的損害范圍，這一點(diǎn)也需要反映在公共教育當(dāng)中。在路徑方面，最重要的是如何使智能武器的發(fā)展和使用與現(xiàn)行國(guó)際法基本原則保持一致，包括《聯(lián)合國(guó)憲章》和武裝沖突法里面的相關(guān)原則，都是討論的重要依據(jù)。有中方學(xué)者主張建構(gòu)關(guān)于人工智能軍事行動(dòng)的國(guó)際規(guī)范，切實(shí)保證人在智能武器使用中的決定性作用等等。

誠(chéng)然，這都是學(xué)術(shù)層面的探討，參加項(xiàng)目的專(zhuān)家們都撰寫(xiě)了專(zhuān)題論文，可以提供給決策部門(mén)參考，這些路徑是否可行，還需要經(jīng)過(guò)大量的政策研究和論證。

這兩年中美關(guān)系出現(xiàn)緊張狀況，但是這個(gè)項(xiàng)目的研討并沒(méi)有受到大的影響，充分顯示了兩國(guó)學(xué)界的專(zhuān)業(yè)精神和對(duì)人類(lèi)共同命運(yùn)的責(zé)任感和使命感。專(zhuān)家們認(rèn)識(shí)到，現(xiàn)階段是構(gòu)建人工智能?chē)?guó)際安全規(guī)范的關(guān)鍵窗口期，希望兩國(guó)抓住這一難得的歷史性時(shí)機(jī)，制定人工智能通用規(guī)范。

中國(guó)對(duì)人工智能的發(fā)展、應(yīng)用乃至治理都是高度重視的。2017-2018年間，中央政治局分別圍繞大數(shù)據(jù)和人工智能進(jìn)行了兩次集體學(xué)習(xí)，習(xí)近平總書(shū)記指出：“要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范”，要“確保人工智能安全、可靠、可控?！?

中國(guó)在治理和立法方面也邁出實(shí)際步伐。例如，2018年中國(guó)國(guó)家標(biāo)準(zhǔn)化委員會(huì)發(fā)布《人工智能標(biāo)準(zhǔn)化白皮書(shū)》；2019年國(guó)家新一代人工智能治理委員會(huì)發(fā)布了8條治理原則；2019年國(guó)務(wù)院頒布了《兒童個(gè)人信息網(wǎng)絡(luò)保護(hù)規(guī)定》，加強(qiáng)對(duì)未成年人的信息保護(hù)；2020年經(jīng)全國(guó)人大通過(guò)頒布的《民法典》中對(duì)保護(hù)個(gè)人隱私做出明確規(guī)定，要求不得泄露、出售或非法向他人提供個(gè)人信息等。

總之，目前中美兩國(guó)是人工智能技術(shù)研究和應(yīng)用發(fā)展最快的國(guó)家，兩國(guó)需要也有條件加強(qiáng)協(xié)調(diào)與合作。近年其他許多國(guó)家學(xué)界也表現(xiàn)出對(duì)人工智能應(yīng)用的安全擔(dān)憂(yōu)，說(shuō)明這是人類(lèi)共同的難題，不是一國(guó)兩國(guó)能夠解決的。中美開(kāi)展對(duì)話(huà)與合作至關(guān)重要，將能夠?yàn)槿蚝献髫暙I(xiàn)智慧。我希望和相信這不是一場(chǎng)“零和游戲”，人工智能最終應(yīng)使得全人類(lèi)受益。