“科技工作者總反感倫理學(xué)家挑刺，但人工智能是例外”

穆拉蒂認(rèn)為，ChatGPT應(yīng)該受到監(jiān)管?！皩?duì)于OpenAI和其他類似公司來說，以一種可控和負(fù)責(zé)任的方式讓公眾意識(shí)到這些問題非常重要，但我們是一小群人，我們還需要對(duì)這個(gè)系統(tǒng)投入更多，不僅僅是技術(shù)范圍的投入，還包括監(jiān)管機(jī)構(gòu)、政府和社會(huì)各界的參與。”她對(duì)《時(shí)代》雜志表示。

杜嚴(yán)勇指出，對(duì)ChatGPT等人工智能工具的監(jiān)管確實(shí)是非常重要的問題。作為國(guó)內(nèi)較早從事機(jī)器人與人工智能倫理研究的學(xué)者，他坦言，倫理學(xué)家研究科學(xué)技術(shù)可能會(huì)導(dǎo)致哪些社會(huì)影響，他們通常是帶著批判和質(zhì)疑的，“因此不少科技工作者對(duì)倫理學(xué)家比較‘反感’，覺得你們老是在質(zhì)疑，老是在批判?！?

“但人工智能是個(gè)例外?！倍艊?yán)勇表示，不管是科技工作者還是企業(yè)家，抑或社會(huì)公眾，大家普遍認(rèn)可人工智能技術(shù)應(yīng)該受到倫理和法律的約束。

時(shí)代周刊：ChatGPT的創(chuàng)造者認(rèn)為人工智能應(yīng)該受到監(jiān)管

“這些人工智能產(chǎn)品，包括聊天工具、機(jī)器人，應(yīng)該怎么使用？應(yīng)該在哪些場(chǎng)景中使用？都要有明確的管理辦法，這些單靠技術(shù)人員是無法完成的，要由政府、倫理學(xué)家共同參與，制定一個(gè)倫理框架或者有關(guān)的法律條文。”

杜嚴(yán)勇表示，新的技術(shù)不斷涌現(xiàn)，和法律相比，倫理更加“靈活”，倫理學(xué)家應(yīng)該提出倫理治理的框架體系，它的適用性和適用范圍更廣，適用時(shí)間也更長(zhǎng)。“在這些基本原則的指導(dǎo)下，面對(duì)一些普遍的人工智能產(chǎn)品，我們就知道怎么做。”

2022年3月，中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)了《關(guān)于加強(qiáng)科技倫理治理的意見》，提出了增進(jìn)人類福祉、尊重生命權(quán)利、堅(jiān)持公平公正、合理控制風(fēng)險(xiǎn)、保持公開透明等五項(xiàng)原則。

杜嚴(yán)勇表示，這五項(xiàng)原則就相當(dāng)于一個(gè)大的指導(dǎo)框架，“下一步我們可以對(duì)它進(jìn)行細(xì)化，在某個(gè)新的人工智能產(chǎn)品出來之后，去指導(dǎo)大家應(yīng)該如何使用?！?

另一方面，2022年12月，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》），自2023年1月10日起施行。

深度合成技術(shù)，即利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)。

《規(guī)定》明確，任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息。深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。

《規(guī)定》還要求，深度合成服務(wù)提供者應(yīng)當(dāng)落實(shí)信息安全主體責(zé)任；深度合成服務(wù)提供者提供深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。

有關(guān)部門就《規(guī)定》答編輯問時(shí)強(qiáng)調(diào)，出臺(tái)《規(guī)定》，能夠劃定深度合成服務(wù)的“底線”和“紅線”，維護(hù)網(wǎng)絡(luò)空間良好生態(tài)。

“算法監(jiān)管的先行者——中國(guó)，將注意力轉(zhuǎn)向治理‘深度偽造’。”美國(guó)《華爾街日?qǐng)?bào)》1月8日刊文，指出中國(guó)關(guān)于深度合成技術(shù)新規(guī)的實(shí)施，標(biāo)志著全球首次有主要監(jiān)管機(jī)構(gòu)對(duì)限制這一“最具爆炸性和爭(zhēng)議性”的人工智能新技術(shù)進(jìn)行全面的嘗試。

文章指出，在全球范圍內(nèi)，對(duì)濫用深度合成技術(shù)來生成“深度偽造”內(nèi)容的擔(dān)憂持續(xù)增長(zhǎng)。斯坦福大學(xué)研究學(xué)者、“數(shù)字中國(guó)項(xiàng)目”負(fù)責(zé)人格雷厄姆·韋伯斯特（Graham Webster）表示，中國(guó)正在和世界一起了解這些事情可能造成的影響，并且正在更快速地推進(jìn)強(qiáng)制性規(guī)則和執(zhí)法。

韋伯斯特表示，中國(guó)的規(guī)定將為中國(guó)以外的觀察人士提供一個(gè)研究案例，讓他們研究這種規(guī)則如何在現(xiàn)實(shí)世界中發(fā)揮作用，以及它們可能對(duì)企業(yè)產(chǎn)生何種影響。

報(bào)道還指出，美國(guó)的立法者也試圖解決“深度偽造”內(nèi)容的擴(kuò)散和潛在的濫用問題，但這些努力因所謂的“言論自由”而停滯不前。

此外，據(jù)路透社報(bào)道，歐盟內(nèi)部市場(chǎng)專員蒂埃里·布雷頓(Thierry Breton) 表示，擬議中的歐盟人工智能規(guī)則將解決外界對(duì)ChatGPT和人工智能技術(shù)風(fēng)險(xiǎn)的擔(dān)憂。報(bào)道稱，這是首次有歐盟高官對(duì)ChatGPT發(fā)表評(píng)論。

“正如ChatGPT 所展示的那樣，人工智能解決方案可以為企業(yè)和公民提供巨大的機(jī)會(huì)，但也會(huì)帶來風(fēng)險(xiǎn)。這就是為什么我們需要一個(gè)堅(jiān)實(shí)的監(jiān)管框架來確保基于高質(zhì)量數(shù)據(jù)的可信賴人工智能。”布雷頓說。

（江蘇科技大學(xué)科學(xué)技術(shù)史研究所副教授楊凱組稿）