（觀察者網(wǎng)訊）

AI生成內(nèi)容帶來的混亂，越發(fā)成為公眾需要面對(duì)的現(xiàn)實(shí)問題。

白宮當(dāng)?shù)貢r(shí)間21日宣布，美國七大AI企業(yè)已與拜登政府簽署協(xié)議，承諾采取自愿監(jiān)管措施管理AI技術(shù)開發(fā)風(fēng)險(xiǎn)，包括展開安全測(cè)試、為AI生成內(nèi)容添加數(shù)字水印等。

這“七巨頭”分別是谷歌、亞馬遜、臉書母公司Meta、微軟、AI企業(yè)Anthropic、Inflection和ChatGPT母公司OpenAI。上述企業(yè)高層當(dāng)天在白宮與總統(tǒng)拜登會(huì)面，《華爾街日?qǐng)?bào)》稱，在此之前，其中大多數(shù)公司已發(fā)表聲明宣布將與白宮合作，并強(qiáng)調(diào)系自愿設(shè)置“護(hù)欄”。

當(dāng)?shù)貢r(shí)間7月21日，美國華盛頓，美國總統(tǒng)拜登在白宮就人工智能發(fā)表講話。圖片來源：美聯(lián)社

拜登表示，AI對(duì)社會(huì)、經(jīng)濟(jì)和國家安全帶來巨大風(fēng)險(xiǎn)，也帶來難以置信的機(jī)遇，政府必須對(duì)新興技術(shù)可能對(duì)美國“民主和價(jià)值觀”構(gòu)成的威脅保持清醒和警惕。白宮聲明稱，這些公司的承諾強(qiáng)調(diào)了AI未來發(fā)展的三項(xiàng)基本原則，即安全、保障和信任，是朝著開發(fā)負(fù)責(zé)任的AI邁出“關(guān)鍵一步”。

具體而言，該協(xié)議的主要內(nèi)容包括：

在發(fā)布AI產(chǎn)品前，先由獨(dú)立專家進(jìn)行內(nèi)外部安全測(cè)試；

定期公開報(bào)告AI的能力和局限性，及其適當(dāng)和不適當(dāng)應(yīng)用的領(lǐng)域；

同意開發(fā)數(shù)字水印系統(tǒng)等強(qiáng)大技術(shù)機(jī)制，確保幫助用戶識(shí)別AI生成內(nèi)容；

優(yōu)先研究AI可能帶來的社會(huì)風(fēng)險(xiǎn)，以避免偏見與歧視、保護(hù)隱私。

其中最為引發(fā)關(guān)注的無疑是數(shù)字水印系統(tǒng)的開發(fā)，該措施可以降低“深度偽造”風(fēng)險(xiǎn)，有可能幫助到面臨AI生成內(nèi)容沖擊的藝術(shù)家和內(nèi)容創(chuàng)作者。

據(jù)英國廣播公司（BBC）22日?qǐng)?bào)道，歐盟內(nèi)部市場(chǎng)專員布雷頓6月訪問舊金山期間，和OpenAI首席執(zhí)行官阿爾特曼就討論了這個(gè)問題，后者當(dāng)時(shí)表示，他“很樂意在不久后”展示OpenAI在水印方面所做的工作。

據(jù)《華盛頓郵報(bào)》21日稱，谷歌技術(shù)人員此前也在今年5月發(fā)布的一篇博客文章中透露，公司正在開發(fā)AI生成內(nèi)容的數(shù)字水印技術(shù)，稱這是解決有關(guān)AI可能加劇錯(cuò)誤信息的擔(dān)憂的一種方式。此外，在AI局限性測(cè)試方面，企業(yè)也有過實(shí)踐先例。在大范圍推出GPT-4前，OpenAI專門組建了一支由50名學(xué)者和專家組成的“紅隊(duì)”，通過提出一些試探性、有一定危險(xiǎn)的問題，來測(cè)試和微調(diào)GPT-4的響應(yīng)方式。

白宮發(fā)布的會(huì)面成果事實(shí)清單

根據(jù)白宮發(fā)布的聲明，拜登政府還正在就AI監(jiān)管一事制定一項(xiàng)行政令，并將尋求推動(dòng)兩黨在國會(huì)通過相關(guān)立法。白宮沒有提供行政令的細(xì)節(jié)，但《紐約時(shí)報(bào)》稱，該行政令旨在解決另一個(gè)問題，即如何控制中國和其他競(jìng)爭(zhēng)對(duì)手獲取新AI程序或開發(fā)相關(guān)組件的能力，該令預(yù)計(jì)將涉及對(duì)先進(jìn)半導(dǎo)體以及大型語言模型出口的限制。

值得注意的是，不少媒體在報(bào)道時(shí)都指出，這項(xiàng)自愿協(xié)議并不具有約束力，其不包括具體的截止日期或報(bào)告要求，用詞也偏寬泛，政府機(jī)構(gòu)可能在后續(xù)監(jiān)管上面臨困難。事實(shí)上，如果上述企業(yè)不遵守承諾，被授權(quán)監(jiān)督履行的美國聯(lián)邦貿(mào)易委員會(huì)也只能訴諸消費(fèi)者保護(hù)法。相較之下，潛在的行政令可能會(huì)激起業(yè)界更多反對(duì)。

此外，盡管白宮和許多美媒都稱這些承諾是拜登政府在為AI技術(shù)加裝“護(hù)欄”方面的“最有力嘗試”，有分析認(rèn)為該協(xié)議并沒有直接解決AI監(jiān)管中的一個(gè)關(guān)鍵問題：AI模型訓(xùn)練的基礎(chǔ)數(shù)據(jù)庫來源的合法性和潛在侵權(quán)爭(zhēng)端?！栋蛡愔芸分赋觯笆龀兄Z并不包括強(qiáng)迫AI企業(yè)披露用于訓(xùn)練其AI系統(tǒng)的數(shù)據(jù)，但就在本月初，美國多名作家剛向Meta和OpenAI提起訴訟，指控其使用自己的書籍內(nèi)容訓(xùn)練AI模型。

“盡管白宮急于給人留下其在AI開發(fā)領(lǐng)域處于領(lǐng)先地位的印象，但問題是這些公司將能夠在多大程度上遵守這些自愿承諾?！薄栋蛡愔芸穼懙馈＜~約大學(xué)斯特恩商業(yè)與人權(quán)中心副主任保羅·巴雷特（Paul Barrett）也對(duì)媒體表示，白宮還需要做更多工作來防止AI風(fēng)險(xiǎn)。

本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。