8月29日，2019世界人工智能大會在上海舉行。外交部原副部長、清華大學(xué)戰(zhàn)略與安全研究中心主任傅瑩在世界人工智能大會治理論壇上發(fā)表“人工智能的治理與國際合作”為題的講話。以下為演講全文：

（文/傅瑩）

傅瑩

一、關(guān)于人工智能治理面臨的挑戰(zhàn)。

進(jìn)入21世紀(jì)的第二個十年，人工智能技術(shù)的應(yīng)用進(jìn)入快速發(fā)展的階段，隨著AlphaGo為代表的深度學(xué)習(xí)算法的成熟，人工智能技術(shù)出現(xiàn)大面積應(yīng)用的趨勢。我最近訪問了一些企業(yè)，昨天在上海還看了三家企業(yè)，可以明顯地感受到我國人工智能產(chǎn)業(yè)所呈現(xiàn)出來的蓬勃發(fā)展態(tài)勢?？梢云诖?，未來人類的生產(chǎn)和生活方式將發(fā)生更大的變化，生活將變得更加舒適和便利。

今年7月，我們在清華大學(xué)的世界和平論壇期間舉辦了三場論壇，邀請70多位國內(nèi)外專家學(xué)者和企業(yè)家圍繞人工智能的風(fēng)險和治理進(jìn)行研討。大家比較一致的看法是，人工智能技術(shù)是一把“雙刃劍”，一方面帶來科技革命和產(chǎn)業(yè)升級的重要機(jī)會，另一方面，也帶來新的安全風(fēng)險，在治理上人類將面臨與以往完全不同的難題。

例如，在立法上需要有新的思維。傳統(tǒng)的法律是要以社會基本共識為基礎(chǔ)的，因此往往要滯后于社會實(shí)踐。但是在人工智能技術(shù)上，我們恐怕沒有這樣奢侈的時間條件，因?yàn)檫@項(xiàng)技術(shù)的應(yīng)用影響之快、之大，遠(yuǎn)不同于傳統(tǒng)技術(shù)，治理的需求與技術(shù)的應(yīng)用幾乎同步出現(xiàn)。

再比如，傳統(tǒng)立法者關(guān)注的是人與人之間的關(guān)系。而人工智能作為“非人行為體”，未來會越來越廣泛地參與人類活動，那么，在人機(jī)共存，甚至人機(jī)沖突的情況下，如何面對和處置人類與機(jī)器的矛盾呢？“機(jī)器代替人”做決策的情況已經(jīng)不是想象中的事，波音737-MAX的空難就是一個重要的警示。

人工智能的到來對就業(yè)模式的快速沖擊也是前所未有的。清華大學(xué)戰(zhàn)略與安全研究中心人工智能項(xiàng)目組的于洋老師牽頭做的《中國青年視角下的人工智能技術(shù)（AI）風(fēng)險和治理》調(diào)查項(xiàng)目中，超過50%青年人表達(dá)的頭等關(guān)切是失業(yè)風(fēng)險。如同以往的技術(shù)革命，人工智能將取代大量程式化的工作崗位，同時也會創(chuàng)造出新型崗位和就業(yè)機(jī)會。挑戰(zhàn)在于，如何才能讓人才結(jié)構(gòu)的調(diào)整跑贏技術(shù)的更新迭代和產(chǎn)業(yè)結(jié)構(gòu)的躍升？

不能忽視的還有在倫理規(guī)范方面的新問題。例如國際上討論比較多的人群歧視和對個人隱私的尊重和保護(hù)等問題。有外國人對我說，中國人不需要隱私保護(hù)，我認(rèn)為這是偏見。我國立法高度重視對個人權(quán)利的維護(hù)。在本月全國人大常委會審議的民法典人格權(quán)編草案稿中，針對收集、處理自然人個人信息有明確規(guī)定，要求必須“征得該自然人或者其監(jiān)護(hù)人同意”等，而且把個人生物識別信息也納入保護(hù)的范圍。

二、我國在創(chuàng)新制度和手段、推進(jìn)人工智能治理方面加快部署。

習(xí)近平總書記明確要求，“要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險研判和防范”，“要確保人工智能安全、可靠、可控”，“要整合多學(xué)科力量，加強(qiáng)人工智能相關(guān)法律、倫理、社會問題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德?！?

總書記的要求是我們推進(jìn)人工智能治理的重要指導(dǎo)方針。黨中央和國務(wù)院對人工智能的部署采取的是發(fā)展和治理同步推進(jìn)的方針。今年2月科技部牽頭組建了中國國家新一代人工智能治理專業(yè)委員會，6月該委員會發(fā)布了新一代人工智能治理8條原則，強(qiáng)調(diào)發(fā)展負(fù)責(zé)任的人工智能。工信部在2017年就頒布了《促進(jìn)新一代人工智能健康發(fā)展三年行動計劃（2018-2020）》，其中也對治理提出要求?，F(xiàn)在的重要任務(wù)是如何讓這些規(guī)則和要求落地，形成有利于我國人工智能健康成長的良性環(huán)境。上海在人工智能的研發(fā)和應(yīng)用方面走在全國的前列，積極探索治理路徑，重視推進(jìn)國際合作。在科技部和工信部的支持下，上海推動建立了國家人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)和國家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)。可以期待，上海在人工智能治理的規(guī)則與制度的創(chuàng)新、開展國際合作方面也將走在全國的前列。

考慮到這個新興領(lǐng)域自身獨(dú)特的性質(zhì)，我們一方面要加快對立規(guī)和立法的研究，另一方面也要依靠科學(xué)界和企業(yè)界采取負(fù)責(zé)任的態(tài)度和行為。如果科學(xué)家在每一項(xiàng)新技術(shù)的研發(fā)中都能思考其負(fù)面風(fēng)險，如果制造商在每一個新技術(shù)的應(yīng)用中同步構(gòu)建風(fēng)險管理的解決辦法，那么，對這方面的挑戰(zhàn)就不難找到應(yīng)對辦法，其立法和規(guī)范也就不難走出新的路徑。

目前很多人工智能企業(yè)希望有法律責(zé)任和范圍的清晰界定，認(rèn)為這樣更有利于企業(yè)的發(fā)展，他們在采取一些自律措施的同時，也期待國內(nèi)整體規(guī)則環(huán)境和基礎(chǔ)條件更快得到完善。