【提問環(huán)節(jié)】

觀眾：兩位老師好，主持人好，我叫王洪丹，畢業(yè)于香港大學(xué)，同樣是一名互聯(lián)網(wǎng)從業(yè)人員。剛剛兩位老師多次提到人工智能是一把雙刃劍，今年未來(lái)科學(xué)研究所也發(fā)表一篇公開信，呼吁所有的人工智能實(shí)驗(yàn)室停止訓(xùn)練比ChatGPT4更強(qiáng)大的人工智能模型。一方面是擔(dān)憂人工智能可能會(huì)產(chǎn)生一些誤導(dǎo)性信息，另一方面是擔(dān)憂人工智能有可能會(huì)超越我們?nèi)祟惖乃季S，甚至是取代它。在這樣一個(gè)人工智能發(fā)展的時(shí)代下，安全和公眾的信任接下來(lái)將如何發(fā)展呢？謝謝。

張教授：我個(gè)人感覺大概這樣的，可能有點(diǎn)像核能、原子彈發(fā)展的歷史。當(dāng)核能開始發(fā)展的時(shí)候，大家相當(dāng)積極，但產(chǎn)生原子彈后大家非常悲觀，包括愛因斯坦，他的理論為此作出過貢獻(xiàn)，但他呼吁一定要停止核武器，他變成反戰(zhàn)的和平運(yùn)動(dòng)創(chuàng)始人之一。

你剛才講的科學(xué)家們的呼吁，我完全可以理解。但是我自己研究國(guó)際政治和國(guó)際關(guān)系，我的判斷是說不定人類還得走過去核武器發(fā)展的老路，還是大家不得不發(fā)展，不得不競(jìng)爭(zhēng)。

你看最近的報(bào)道，英國(guó)跟美國(guó)在談要在今年下半年在英國(guó)開一個(gè)人工智能國(guó)際會(huì)議，他們明確地說，要趕在中國(guó)人之前制定規(guī)則，要讓所謂的“民主國(guó)家”團(tuán)結(jié)在一起。當(dāng)然，我認(rèn)為這將是徒勞無(wú)益的，因?yàn)橹袊?guó)跟美國(guó)已經(jīng)處在第一方陣。但我擔(dān)心最終還是要通過這樣的競(jìng)爭(zhēng)，經(jīng)過摩擦、斗爭(zhēng)、交鋒到一個(gè)點(diǎn)上，人類智慧和理性才會(huì)回來(lái)。就跟核武器一樣，甚至已經(jīng)使用過了，最后超級(jí)大國(guó)之間、核武器國(guó)家之間才通過談判達(dá)成各種各樣的、比如核裁軍協(xié)議等等，但執(zhí)行時(shí)候還會(huì)碰到很多困難。在人工智能領(lǐng)域內(nèi)，我們可能也會(huì)經(jīng)歷這么一個(gè)跌宕起伏的過程。總之，我不是十分樂觀。

今年3月，圖靈獎(jiǎng)得主Yoshua Bengio、伯克利計(jì)算機(jī)科學(xué)教授Stuart Russell、特斯拉CEO埃隆·馬斯克、蘋果聯(lián)合創(chuàng)始人Steve Wozniak 等在內(nèi)的數(shù)千名對(duì)人工智能關(guān)注的人士發(fā)起一封公開信，呼吁暫停訓(xùn)練比GPT-4更強(qiáng)大的系統(tǒng)，期限為六個(gè)月，理由是這些模型對(duì)社會(huì)和人類存在潛在風(fēng)險(xiǎn)。

孫教授：我同意張教授的判斷。這個(gè)事不以人的意志為轉(zhuǎn)移，除非全球形成共識(shí)，否則停不下來(lái)。因?yàn)樯婕暗絿?guó)家競(jìng)爭(zhēng)，甚至是終極競(jìng)爭(zhēng)，通用人工智能還只是在一個(gè)很初級(jí)的階段。現(xiàn)在我們擔(dān)心什么？按它的算法，它現(xiàn)在這個(gè)能力都不應(yīng)該有。但它有了這個(gè)能力，就怕模型再做大以后會(huì)產(chǎn)生別的東西。

主持人：更何況萬(wàn)一迭代的速度越來(lái)越快。

孫教授：對(duì)。我剛才演講專門講了不確定性和確定性并存。當(dāng)前程不明確的時(shí)候，大家一定想要去一探究竟，這里邊主要的動(dòng)力其實(shí)是來(lái)自科學(xué)、科學(xué)研究。因?yàn)樽寵C(jī)器具有智能，初心實(shí)際上是來(lái)自科學(xué)。所以科學(xué)家就會(huì)往前走，但是他走到那一步，必然會(huì)影響社會(huì)，必然會(huì)影響產(chǎn)業(yè)，這件事就復(fù)雜化了。

張教授：這個(gè)點(diǎn)還沒有到，人類就是這樣前進(jìn)的。我想到德國(guó)哲學(xué)家康德說過一句名言，大意是誰(shuí)都知道戰(zhàn)爭(zhēng)不好，和平好。但最終可能還是要通過無(wú)數(shù)的戰(zhàn)爭(zhēng)才能實(shí)現(xiàn)和平，所以他認(rèn)為人應(yīng)該有智慧直接擁抱和平，而不是通過戰(zhàn)爭(zhēng)。但遺憾的是人類歷史往往不是這樣發(fā)展的。

這是很有哲理的。我希望我們?nèi)祟惖闹腔勰軌蛟缫稽c(diǎn)覺悟到這一點(diǎn)，然后形成共識(shí)一起來(lái)做事情，用中國(guó)人的智慧趨利避害，我們要超前十年、二十年、三十年把問題看清楚想清楚。

觀眾：兩位老師好，主持人好，我叫劉浩，是一位科技行業(yè)的創(chuàng)業(yè)者?，F(xiàn)在世界各國(guó)都認(rèn)識(shí)到人工智能是關(guān)系到國(guó)家競(jìng)爭(zhēng)和戰(zhàn)略博弈的一個(gè)關(guān)鍵因素，但是也沒有形成一個(gè)統(tǒng)一的治理模式。我的問題就是現(xiàn)在像歐盟、美國(guó)他們有怎樣的規(guī)范和治理？如何更好地推動(dòng)人工智能技術(shù)在多元文化中的交流，謝謝。

張教授：很多差別已經(jīng)明顯存在了。我們過去討論人權(quán)時(shí)候也說過，像歐洲很多國(guó)家，包括法國(guó)這樣的國(guó)家，到現(xiàn)在都認(rèn)為人臉識(shí)別是侵犯人權(quán)，但中國(guó)人擁抱新事物的熱情，真的是在基因里的，同時(shí)我們能夠守正創(chuàng)新，趨利避害，在發(fā)展過程中解決可能出現(xiàn)的問題。

至于國(guó)際標(biāo)準(zhǔn)的制定，某種意義上，因?yàn)橹袊?guó)應(yīng)用場(chǎng)景和應(yīng)用實(shí)踐非常之豐富，我覺得中國(guó)現(xiàn)在自己制定的、哪怕是中國(guó)國(guó)內(nèi)的各種標(biāo)準(zhǔn)，都可能產(chǎn)生全球的影響。比方說，你現(xiàn)在出門，走半個(gè)小時(shí)，被拍了一百次，實(shí)際上我們的公安系統(tǒng)如果要查人臉識(shí)別等，它是有一套比較嚴(yán)格的程序的。再比方說，我們的邊檢要有明確的授權(quán)才能查看你的手機(jī)和電腦，而美國(guó)的邊檢可以任意扣押、查看你的手機(jī)和電腦，這方面我們管理程序已經(jīng)比美國(guó)嚴(yán)格多了。

孫教授：國(guó)外特別是歐洲，包括聯(lián)合國(guó)對(duì)人工智能的科技倫理，這幾年出臺(tái)了幾個(gè)文件。我覺得主要的原則界定得還是比較清楚的。像美國(guó)，今年在美國(guó)總統(tǒng)科技顧問委員會(huì)下面專門成立了一個(gè)生成式人工智能的工作委員會(huì)，相當(dāng)于子委員會(huì)。

其實(shí)在人工智能科技倫理的大原則下，跟我們有很多是相通的，我認(rèn)為這方面應(yīng)該在聯(lián)合國(guó)框架下加強(qiáng)國(guó)際對(duì)話，盡早形成共識(shí)?，F(xiàn)在關(guān)鍵是在執(zhí)行層面對(duì)這一原則的界定可能有問題。比如說剛才講的隱私，保護(hù)隱私無(wú)論東西方都是提倡的，這是一個(gè)原則，大家都一樣，但到具體領(lǐng)域比如說視頻這塊你怎么處理，這其實(shí)又跟文化有關(guān)。所以擺到桌面上，大家心平氣和地談，其實(shí)是有可能達(dá)成某種共識(shí)的。這一塊我覺得應(yīng)該盡早制定國(guó)際性準(zhǔn)則。比如網(wǎng)信辦等七部門發(fā)布的規(guī)定，再早幾年科技部也有關(guān)于人工智能科技倫理的規(guī)定。這都為我們進(jìn)行國(guó)際對(duì)話，打下了非常好的基礎(chǔ)。

本文系觀察者網(wǎng)獨(dú)家稿件，文章內(nèi)容純屬作者個(gè)人觀點(diǎn)，不代表平臺(tái)觀點(diǎn)，未經(jīng)授權(quán)，不得轉(zhuǎn)載，否則將追究法律責(zé)任。關(guān)注觀察者網(wǎng)微信guanchacn，每日閱讀趣味文章。