【文/觀察者網(wǎng) 呂棟】

今年以來，隨著人工智能技術(shù)不斷發(fā)展，生成式人工智能（AIGC）成為絕對的市場焦點。為促進生成式人工智能技術(shù)健康發(fā)展和規(guī)范應用，國家互聯(lián)網(wǎng)信息辦公室近日起草了《生成式人工智能服務管理辦法（征求意見稿）》（下稱《征求意見稿》），并向社會公開征求意見。

從百度的“文心一言”到阿里的“通義千問”再到商湯的“日日新”，國內(nèi)各大廠相繼發(fā)布生成式人工智能產(chǎn)品。作為一項正快速發(fā)展的技術(shù)，AIGC可通過算法、模型、規(guī)則等方式生成各種類型的文本、圖片、聲音、視頻、代碼等內(nèi)容，市場應用前景廣泛。

然而，生成式人工智能技術(shù)也面臨著一些挑戰(zhàn)，其中包括知識產(chǎn)權(quán)、安全、倫理和數(shù)據(jù)等問題。針對這些挑戰(zhàn)，《征求意見稿》對人工智能生成內(nèi)容、主體責任、訓練數(shù)據(jù)和數(shù)據(jù)處理等方面都做出了規(guī)定，旨在保障生成式人工智能技術(shù)的合規(guī)性和安全性。

華東政法大學數(shù)據(jù)法律研究中心主任高富平解讀指出，我國對人工智能的研發(fā)一直采取鼓勵發(fā)展的態(tài)度。此次《征求意見稿》對人工智能的監(jiān)管措施，只是針對面向公眾提供的人機交互式的生成式人工智能，而不是針對所有人工智能的?！墩髑笠庖姼濉穼ι墒饺斯ぶ悄墚a(chǎn)品的開發(fā)提供了基本遵循，對此類產(chǎn)品的開發(fā)有積極的正向引導作用。

但與此同時也有學者提出，人工智能產(chǎn)業(yè)剛剛起步，業(yè)界還不清楚究竟會出現(xiàn)哪些問題，又需要設置哪些規(guī)則。在這種情況下，過于超前的立法也有可能會阻礙技術(shù)的發(fā)展和創(chuàng)新。

例如，《征求意見稿》提到：“提供生成式人工智能服務應當按照《中華人民共和國網(wǎng)絡安全法》規(guī)定，要求用戶提供真實身份信息。”對此，北京大學法學院教授薛軍表示：“生成式人工智能服務，在特定情況下更類似于搜索服務，本質(zhì)是一種智能檢索，應當允許用戶以游客的身份使用。比如，必應搜索引擎遷入了ChatGPT問答模型，普通游客都可以瀏覽使用。這樣，也可以更好保護用戶的隱私，方便網(wǎng)民使用?！?

AI生成的圖片

在生成內(nèi)容方面，《征求意見稿》提到：“利用生成式人工智能生成的內(nèi)容應當真實準確，采取措施防止生成虛假信息”，確立了內(nèi)容真實性的要求。但這一規(guī)定目前存在頗多爭議。

一些行業(yè)人士指出，從實踐的角度來看，生成內(nèi)容的真實準確性與生成式人工智能的技術(shù)原理是互相沖突的，人工智能生成內(nèi)容并不是從知識庫中搜索并拼湊出結(jié)果，生成結(jié)果是通過計算機算法得來的，所以對于生成信息的真實準確性，會存在一些不可避免的技術(shù)限制。

中國社會科學院大學法學院副教授、互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春表示，大模型服務提供者有責任積極采取與技術(shù)發(fā)展水平相適應的風險預防措施，及時響應監(jiān)管要求，對權(quán)利主體提出的合理訴求給出及時的回應。如果按照規(guī)定執(zhí)行，可以明確大模型服務提供者的具體治理義務，在其盡到與技術(shù)發(fā)展水平相應的義務的情況下，給予一定的免責規(guī)則。

在訓練數(shù)據(jù)方面，《征求意見稿》對預訓練數(shù)據(jù)提出了更多的要求，要求能夠保證訓練數(shù)據(jù)的“真實性、準確性、客觀性、多樣性”。

中國國家創(chuàng)新與發(fā)展戰(zhàn)略研究會副會長呂本富認為，“真實”“準確”缺乏明晰的衡量標準，網(wǎng)絡上的新聞、認知存在刷新、反轉(zhuǎn)等情況，且數(shù)據(jù)來源于網(wǎng)絡，需要發(fā)揮各個網(wǎng)站主體意識，從源頭上保障“真實準確客觀”。綜合來看，對提供者和使用者、傳播者的違法行為進行規(guī)制，或許更符合實際情況。

清華大學中國發(fā)展規(guī)劃研究院執(zhí)行副院長董煜則指出，數(shù)據(jù)訓練的規(guī)模會決定人工智能生成內(nèi)容的質(zhì)量，數(shù)據(jù)的數(shù)量和質(zhì)量比算法和模型更重要。從歐盟、美國、韓國、日本等國家針對預訓練數(shù)據(jù)合法性的要求來看，為了支持大模型的發(fā)展，他們允許使用各種出版物對生成式人工智能訓練數(shù)據(jù)進行分析。因此，如果由于真實性、版權(quán)等問題無法使用相關(guān)訓練數(shù)據(jù)，將對人工智能技術(shù)發(fā)展帶來很大的負面影響。

在責任認定方面，《征求意見稿》第五條提出，“利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務的組織和個人，包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔該產(chǎn)品生成內(nèi)容生產(chǎn)者的責任”。

對此，中國人民大學教授、國家發(fā)展與戰(zhàn)略研究院研究員劉永謀表示，生成式AI產(chǎn)品提供的服務大多是生成文本、圖像、聲音等信息內(nèi)容，在使用在不同的場景可能會產(chǎn)生不同的影響。作為內(nèi)容生產(chǎn)者的提供方，是無法確定使用者的具體用途的。比如說，一段由AI生成的正常的文字，或者一張AI繪制的圖片，平臺方是無法得知它是否被用于創(chuàng)作領域，還是用于一些灰黑產(chǎn)業(yè)的，其產(chǎn)生的后果其理所應當由內(nèi)容的使用方負責。

此外，《征求意見稿》第十五條規(guī)定“對于運行中發(fā)現(xiàn)、用戶舉報的不符合本辦法要求的生成內(nèi)容，除采取內(nèi)容過濾等措施外，應在3個月內(nèi)通過模型優(yōu)化訓練等方式防止再次生成”。

但在當前環(huán)境下，大型語言模型的參數(shù)規(guī)模在到達一個臨界值后，涌現(xiàn)能力變得越來越強。即使是OpenAI這樣的團隊，也很難解釋這樣的涌現(xiàn)現(xiàn)象。在這種情況下，人工智能基座大模型生成的內(nèi)容往往是難以精確預測和控制的，這是生成式人工智能方法的固有缺陷之一。

因此，清華大學人工智能研究院視覺智能研究中心主任鄧志東教授提出，“通過模型優(yōu)化訓練的方式防止再次生成侵權(quán)內(nèi)容，在技術(shù)上非常難以實現(xiàn)，而利用價值對齊的算法采取內(nèi)容過濾等措施或可實現(xiàn)。如果要求生成式人工智能產(chǎn)品服務提供方在收到侵權(quán)問題反饋時，第一時間過濾侵權(quán)內(nèi)容，并通過模型優(yōu)化訓練，實際上是非常困難的，人工智能立法應當在智能涌現(xiàn)能力和安全性中找到平衡”。

法立于上則俗成于下。劉永謀指出，未來新法規(guī)的出臺，將界定新技術(shù)服務的“底線”和“紅線”，使科技得以在合乎倫理的軌道上運行發(fā)展。同時也應注意到，新產(chǎn)業(yè)、新業(yè)態(tài)和新模式，雖然意味著新的風險，但也正在為生產(chǎn)力和經(jīng)濟增長注入新動能。新法規(guī)的制定，為市場留足發(fā)展空間，才會讓人工智能大范圍的得到普及，讓創(chuàng)新更進一步。

本文系觀察者網(wǎng)獨家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。