由清華大學(xué)戰(zhàn)略與安全研究中心承辦的2019世界和平論壇分會場之“人工智能：技術(shù)與治理”，于7月9日在京舉行。論壇就人工智能給人類帶來的影響、人工智能的發(fā)展方向、潛在風(fēng)險(xiǎn)和挑戰(zhàn)以及人工智能治理等議題進(jìn)行了研討。

會議由清華大學(xué)戰(zhàn)略與安全研究中心主任傅瑩主持，多位國際國內(nèi)知名專家和企業(yè)領(lǐng)袖出席論壇并發(fā)言。會上還發(fā)布了戰(zhàn)略與安全研究中心人工智能項(xiàng)目組的最新社會調(diào)研報(bào)告《中國青年視角下的人工智能風(fēng)險(xiǎn)與治理》。

（傅瑩主持分論壇）

近年來，人工智能逐漸成為國際社會廣泛關(guān)注的話題，人工智能技術(shù)的研發(fā)和應(yīng)用帶來的機(jī)遇與挑戰(zhàn)、倫理與法規(guī)等問題，在不同領(lǐng)域和學(xué)科引發(fā)了熱烈的討論。傅瑩說，每一次科技的重大突破性發(fā)展，都會帶來潛在的風(fēng)險(xiǎn)與挑戰(zhàn)，人工智能被視為可能會影響人類未來的顛覆性技術(shù)，同時，制定相應(yīng)規(guī)范的緊迫感也在上升?！爸袊谶@一領(lǐng)域已經(jīng)走在世界前列，剛剛發(fā)布了《人工智能北京共識》和《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，”傅瑩說：“但人工智能技術(shù)的影響不是局限在一國境內(nèi)的，風(fēng)險(xiǎn)和挑戰(zhàn)也往往是跨境和跨界的，是世界性的，因此，國際社會需要通過對話和努力，共同探尋人工智能國際治理的路徑。”

中國科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸在演中談到人工智能的兩類安全挑戰(zhàn)：一類是由人工智能本身技術(shù)不夠成熟引發(fā)的問題；另一類是人工智能作為一項(xiàng)新技術(shù)的“雙刃劍”特點(diǎn)帶來的。他認(rèn)為，需要從人的自律、規(guī)章制度、安全技術(shù)三個角度來思考應(yīng)對措施。同時，他期待看到不同國家、不同學(xué)科、科研機(jī)構(gòu)與行業(yè)之間的協(xié)同合作，以防止人工智能的濫用，使其最大程度服務(wù)于人類社會的福祉。

（中國科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸發(fā)表主旨講話）

電氣與電子工程師協(xié)會（IEEE）的約翰·哈文斯（John C. Havens）強(qiáng)調(diào)了制定人工智能領(lǐng)域“標(biāo)準(zhǔn)”的重要性。作為IEEE全球自動化及智能系統(tǒng)倫理倡議執(zhí)行主任，他表示，好的標(biāo)準(zhǔn)應(yīng)該容納廣泛參與，由各行各業(yè)的專家和從業(yè)人員、更多的年輕人以及不同國家和文化的人來共同制定。在約翰·哈文斯的論述的基礎(chǔ)上，黑斯廷斯中心顧問，耶魯大學(xué)生物倫理學(xué)跨學(xué)科中心科技與倫理學(xué)科主任溫德爾·瓦拉赫（Wendell Wallach）補(bǔ)充討論了如何將標(biāo)準(zhǔn)、規(guī)范和建議，真正落實(shí)到社會生產(chǎn)和生活中。

中國學(xué)者們在演講中回應(yīng)了不久前發(fā)布的《人工智能北京共識》和《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，他們十分關(guān)注中國在該領(lǐng)域與國際社會的互動。

“美國、歐洲、日本這些世界主要的經(jīng)濟(jì)體都出臺了自己的人工智能的戰(zhàn)略。”中國電子信息產(chǎn)業(yè)發(fā)展研究院（賽迪研究院）政策法規(guī)所所長欒群說：“但我相信我們也需要立足于中國文化的背景原則和規(guī)則?！弊鳛椤缎乱淮斯ぶ悄苤卫碓瓌t》的主要設(shè)計(jì)者之一，中國科學(xué)院自動化研究所的類腦智能研究中心副主任曾毅表示，AI的全球治理原則，其宗旨?xì)w根結(jié)底是以人為核心。“我們需要一種戰(zhàn)略性的設(shè)計(jì)來指導(dǎo)人工智能在未來30-40年的發(fā)展，”曾毅說：“我們需要將中國自身的哲學(xué)、思維和理念與世界分享，共同打造一個共享的未來?！?

與曾毅所說的中國傳統(tǒng)哲學(xué)中的“和諧”觀念相呼應(yīng)，香港中文大學(xué)系統(tǒng)工程與工程管理學(xué)系教授蒙美玲(Helen Meng)認(rèn)為，“人類和人工智能可以實(shí)現(xiàn)一種‘共生’的關(guān)系，就像小丑魚和?？粯?，他們互相依賴、互相保護(hù)?！被谌斯ぶ悄芘c語言認(rèn)知相關(guān)的項(xiàng)目研究，蒙美玲表達(dá)了人類可以通過AI打造“最優(yōu)工具”，進(jìn)而服務(wù)于社會福祉的積極展望。

會議進(jìn)行了兩輪的小組座談，國際國內(nèi)各行業(yè)共16位專家學(xué)者作為嘉賓，圍繞“人工智能”與“國際治理”展開了討論，并于與會的媒體、觀察員、學(xué)生和聽眾們進(jìn)行了活躍的互動。

（格雷戈里·艾倫談如何讓人工智能朝著“安全”的方向發(fā)展）

對于人工智能技術(shù)本身的發(fā)展，各國專家學(xué)者提出了豐富多樣的觀點(diǎn)。新美國安全中心兼職高級研究員格雷戈里·艾倫（Gregory Allen）打了個比方，他說，電剛投入使用時，出現(xiàn)過許多問題，包括大量的事故和失火，人類不斷完善技術(shù)，尤其對電的安全給予了高度的重視和投入，現(xiàn)在電已經(jīng)是非常安全的技術(shù)。因此，人們需要更多思考如何讓人工智能朝著“安全”的方向發(fā)展。馬孔·福斯特（Malcolm Forster）是復(fù)旦大學(xué)哲學(xué)學(xué)院特聘教授，他認(rèn)為，描述人工智能技術(shù)本身的概念和語言，解釋這個技術(shù)的方式，應(yīng)該便于人們獲取和理解。他相信在“理解”的基礎(chǔ)上才能制定更好的政策，實(shí)現(xiàn)更好的治理。清華大學(xué)人工智能研究院常務(wù)副院長孫茂松教授則表示，人工智能并不是“無所不能”的，“AlphaGo”也是在特定的條件，明確的邊界和單一的任務(wù)下才表現(xiàn)出優(yōu)勢。他說，正如機(jī)器翻譯可以用在旅游中卻很少用于外交場合，《孫子兵法》的出其不意只能教給人卻無法教給機(jī)器，有很多事是人工智能做不到的。孫茂松認(rèn)為，人工智能相關(guān)的討論很有價(jià)值，但政策和規(guī)范不宜超前。

人工智能與軍事相結(jié)合的問題也得到關(guān)注。斯德哥爾摩國際和平研究所的高級研究員司樂如（Lora Saalman）表示，人工智能的軍事化運(yùn)用也是“雙刃劍”。它擁有的“機(jī)器學(xué)習(xí)”和“自主能力”既可以增加預(yù)警、防御、偵查、模擬能力，增強(qiáng)穩(wěn)定性，也可以改善非戰(zhàn)略核武器和導(dǎo)彈系統(tǒng)，推動軍備競賽，加劇不對稱性，從而帶來不穩(wěn)定性。布魯金斯學(xué)會外交政策項(xiàng)目客座研究員湯姆·斯特凡尼克(Tom Stefanick)則認(rèn)為，現(xiàn)代AI并不大可能在可預(yù)見的未來改變大多數(shù)軍事系統(tǒng)，隨著持續(xù)性的在基礎(chǔ)人工智能、算法研究等方面的國際合作，AI的發(fā)展也不會帶來軍事方面的巨大差距。新美國安全中心高級研究員兼主任保羅·斯査瑞（Paul Scharre）則強(qiáng)調(diào)了“人”的重要性。他認(rèn)為人類的大腦是最好、最先進(jìn)的認(rèn)知系統(tǒng)，在軍事決策中，人類應(yīng)當(dāng)保持對人工智能的控制，由人類而不是機(jī)器做決策。

網(wǎng)絡(luò)安全也是人們關(guān)注的問題。北京師范大學(xué)網(wǎng)絡(luò)法治國際中心執(zhí)行主任吳沈括談到，新技術(shù)攻擊、新內(nèi)容攻擊、新內(nèi)容犯罪將是人工智能帶來的網(wǎng)絡(luò)安全挑戰(zhàn)。蘭德公司副首席技術(shù)官蘭德·沃茲曼（Rand Waltzman）則表達(dá)了對“黑客”問題的擔(dān)憂。他表示在AI領(lǐng)域三十多年的從業(yè)經(jīng)驗(yàn)體會是，最大的問題是防范AI黑客行為，這一話題雖然較少出現(xiàn)在相關(guān)討論中，但其風(fēng)巨大，不可忽視。

結(jié)合企業(yè)創(chuàng)新經(jīng)驗(yàn)，地平線創(chuàng)始人兼 CEO余凱，以及騰訊信息安全執(zhí)行委員會主任楊鵬，也分別以“計(jì)算的趨勢”和“科技向善”為關(guān)鍵詞進(jìn)行了分享，表達(dá)了企業(yè)與研究機(jī)構(gòu)共同努力，打造更加安全、可靠的人工智能技術(shù)的決心和希望。

（地平線CEO余凱介紹“計(jì)算的趨勢”）

會議還為青年提供了發(fā)聲的舞臺。在清華大學(xué)交叉信息研究院助理教授于洋的帶領(lǐng)下，清華大學(xué)電子工程系大三年級的敖騰隆和蔣建平兩位同學(xué)，發(fā)布了戰(zhàn)略與安全研究中心人工智能項(xiàng)目組的最新社會調(diào)研報(bào)告《中國青年視角下的人工智能風(fēng)險(xiǎn)與治理》。他們表示，相比較專家學(xué)者們對AI在政治、軍事、安全等領(lǐng)域的關(guān)注，青年群體更加關(guān)注AI對經(jīng)濟(jì)和社會的影響。在他們的調(diào)查中，青年群體對人工智能與就業(yè)、消費(fèi)、個人信息安全等問題有較高的關(guān)注。

（《中國青年視角下的人工智能風(fēng)險(xiǎn)與治理》社會調(diào)研報(bào)告發(fā)布）

在場的嘉賓、觀察員和聽眾也和發(fā)言的專家學(xué)者們進(jìn)行了熱烈的討論，話題涵蓋與AI相關(guān)的政策、教育、環(huán)境等各個方面。會議主持人傅瑩感謝了所有參與會議與討論的來賓，以及投入該領(lǐng)域的青年人們，希望大家的研究和討論不斷深入。“清華大學(xué)主辦的這個論壇叫世界和平論壇，”傅瑩說，“盡管形勢波云詭譎，只要我們都相信和平，我們就有理由繼續(xù)努力前行。”  

（記者：謝銘琪）（完）