-
治理AI“深度偽造”,中國正在與美歐并跑
-
周遠(yuǎn)方zhouyufang@guancha.cn
【導(dǎo)讀】 2021年11月,聯(lián)合國教科文組織在全球共識(shí)的基礎(chǔ)上發(fā)布了《人工智能倫理建議書》,成為全球首個(gè)針對(duì)人工智能的倫理規(guī)范框架,中科院自動(dòng)化所研究員、聯(lián)合國教科文組織AI倫理特設(shè)專家組專家曾毅作為中方代表參與了建議書的討論、咨詢和起草。
【編輯/周遠(yuǎn)方】
作為人工智能領(lǐng)域的新實(shí)踐,近年來,利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作圖像、音頻、視頻、虛擬場景等信息的深度合成技術(shù),已在多個(gè)領(lǐng)域大量應(yīng)用,伴隨著不斷涌現(xiàn)的使用需求,深度合成內(nèi)容數(shù)量和關(guān)注度呈現(xiàn)快速增長態(tài)勢(shì)。
另一方面,每一次技術(shù)變革,在造福社會(huì)的同時(shí),也不可避免地會(huì)帶來安全風(fēng)險(xiǎn)。惡意使用該技術(shù)生成的音視頻,也顯現(xiàn)出了巨大的破壞力,給個(gè)人、企業(yè)造成了聲譽(yù)損害和財(cái)產(chǎn)損失,也對(duì)社會(huì)、國家安全造成威脅。
為了對(duì)人工智能和深度合成技術(shù)的健康發(fā)展提供參考和指引,清華大學(xué)人工智能研究院、北京瑞萊智慧科技有限公司、清華大學(xué)智媒研究中心、國家工業(yè)信息安全發(fā)展研究中心、北京市大數(shù)據(jù)中心近日聯(lián)合發(fā)布《深度合成十大趨勢(shì)報(bào)告(2022)》(以下簡稱“《報(bào)告》”),從技術(shù)研究、領(lǐng)域應(yīng)用、發(fā)展趨勢(shì)等多個(gè)方面,全面深入地介紹和研判深度合成技術(shù)及應(yīng)用帶來的機(jī)遇與挑戰(zhàn),并就其發(fā)展與治理給出切實(shí)可行的建議和措施。
《報(bào)告》截圖
深度合成爆發(fā)式增長
深度合成的圖像、視頻、音頻、文本等內(nèi)容,例如熱門影視劇片段、話題明星的換臉視頻等等,具有極強(qiáng)的娛樂性與傳播性,伴隨著技術(shù)的發(fā)展成熟,越來越多的創(chuàng)作者在互聯(lián)網(wǎng)上發(fā)布和分享深度合成內(nèi)容,數(shù)量逐年高速增長。以視頻為例,《報(bào)告》顯示,在國內(nèi)外主流音視頻網(wǎng)站、社交媒體平臺(tái)上,2021年新發(fā)布的深度合成視頻的數(shù)量較2017年已增長10倍以上。
深度合成在影視制作、廣告營銷、社交娛樂等領(lǐng)域發(fā)展出多元化的商業(yè)應(yīng)用,例如AI合成主播、虛擬偶像、修復(fù)歷史老照片、影視劇本地化配音、“數(shù)字復(fù)活”已過世演員等。
《報(bào)告》截圖
一些面向公眾開發(fā)的合成類產(chǎn)品也陸續(xù)推出,《報(bào)告》顯示,視頻、語音和文本形式的服務(wù)最為普遍,例如支持風(fēng)格定制的特效視頻制作軟件等風(fēng)靡網(wǎng)絡(luò);語音方向衍生出了語音導(dǎo)航、有聲讀物、自動(dòng)新聞播報(bào)等應(yīng)用;文本合成則在新聞報(bào)道、詩文創(chuàng)作、聊天問答等方面發(fā)揮著重要作用。
“元宇宙”等新商業(yè)思維的提出,也為深度合成提供了更廣闊的應(yīng)用場景。阿里巴巴安全感知與認(rèn)知智能部負(fù)責(zé)人薛輝表示,比如虛擬人、數(shù)字人即是深度合成的主要應(yīng)用,也是“元宇宙”的重要組成部分。
清華大學(xué)新聞與傳播學(xué)院常務(wù)副院長陳昌鳳認(rèn)為,深度合成將重新定義虛擬數(shù)字化空間,從傳播社會(huì)學(xué)意義上看,一個(gè)新的人類生存場景將以深度合成技術(shù)為基石展開。
瑞萊智慧CEO田天表示,技術(shù)不斷成熟是深度合成內(nèi)容迎來爆發(fā)式增長的重要原因。研究論文的持續(xù)增加、開源技術(shù)工具和大量代表性方法的涌現(xiàn),令深度合成內(nèi)容的效果更加逼真、制作也更加高效,尤其是生成對(duì)抗網(wǎng)絡(luò)等算法的出現(xiàn),讓合成內(nèi)容達(dá)到了 “真假難辨”的程度。
“深度偽造”風(fēng)險(xiǎn)加劇,亟需治理
正因如此,深度合成激發(fā)了新內(nèi)容創(chuàng)造力的同時(shí),也帶來了新的威脅。
隨著技術(shù)逐步“平民化”,不法分子可輕易偽造音頻、視頻,實(shí)施誣陷、誹謗、詐騙、勒索等違法行為,甚至捏造國家政要言論擾亂社會(huì)與政治秩序。
2021年10月,安徽合肥警方曾查獲一起非法利用深度合成技術(shù)偽造手機(jī)用戶人臉動(dòng)態(tài)視頻破解身份核驗(yàn),為黑灰產(chǎn)業(yè)提供注冊(cè)虛擬手機(jī)卡等技術(shù)支撐的案件。近年來,類似事件開始更多的進(jìn)入公眾視野。
深度合成內(nèi)容模糊了真實(shí)和虛假的邊界,將對(duì)社會(huì)信任、媒體信任、政治信任產(chǎn)生巨大的影響。陳昌鳳表示,虛假內(nèi)容的高難度甄別影響了事實(shí)核查的有效性,在社會(huì)重大事件或政治事件節(jié)點(diǎn)上,深度合成技術(shù)可能被用于操作輿論意見,借助社交媒體,使虛假信息短時(shí)間內(nèi)引發(fā)產(chǎn)生病毒式擴(kuò)散,激化社會(huì)矛盾。
負(fù)面風(fēng)險(xiǎn)不斷加劇,如何有效甄別深度合成內(nèi)容就成為了關(guān)鍵,但隨著合成質(zhì)量的不斷提升,傳統(tǒng)基于生物特征的鑒別方式越來越難以發(fā)揮作用。
浙江大學(xué)網(wǎng)絡(luò)空間安全學(xué)院院長任奎表示,目前對(duì)深度合成的檢測主要依賴于人工智能模型,依賴于訓(xùn)練數(shù)據(jù)的完備性,包括檢測器泛用性相低、公開數(shù)據(jù)集適用性、數(shù)據(jù)敏感等,這些都將帶來諸多挑戰(zhàn)。
田天也表示,新型偽造方法層出不窮、網(wǎng)絡(luò)傳播環(huán)境的日趨復(fù)雜,加上基于檢測算法存在漏洞缺陷等,反深偽檢測技術(shù)面臨“強(qiáng)對(duì)抗性”,需要持續(xù)更新與迭代。
《報(bào)告》顯示,目前學(xué)術(shù)界和產(chǎn)業(yè)界均已對(duì)反深偽檢測投入了大量研究,Meta(原Facebook)、谷歌、微軟等機(jī)構(gòu)均推出了深度合成視頻認(rèn)證的方法或產(chǎn)品。在國內(nèi),清華大學(xué)、中科大等高校在深度偽造內(nèi)容檢測方面取得顯著成果,清華大學(xué)孵化團(tuán)隊(duì)瑞萊智慧推出的深度偽造內(nèi)容檢測平臺(tái)DeepReal擁有工業(yè)級(jí)的檢測性能和應(yīng)對(duì)實(shí)網(wǎng)環(huán)境對(duì)抗變化的檢測能力。清華大學(xué)人工智能研究院基礎(chǔ)理論研究中心主任朱軍認(rèn)為,深度合成檢測面臨持續(xù)的攻防和博弈,未來還需融合多模態(tài)內(nèi)容的取證分析、基于數(shù)字水印的溯源技術(shù)等多方面能力,實(shí)現(xiàn)精準(zhǔn)識(shí)別。
同時(shí),我們不能因?yàn)榧夹g(shù)風(fēng)險(xiǎn)就因噎廢食。
中國工程院院士鄔賀銓認(rèn)為,第一,任何新技術(shù)的出現(xiàn)和應(yīng)用,都會(huì)帶來社會(huì)問題,其中當(dāng)然也有倫理問題;第二,倫理問題需要從道德和法律的層面來解決;第三,對(duì)于技術(shù)失控和技術(shù)濫用的問題,需要通過發(fā)展技術(shù)來解決,當(dāng)前深度合成的技術(shù)發(fā)展得還不夠,所謂“道高一尺魔高一丈”,發(fā)展永遠(yuǎn)在路上。
《報(bào)告》截圖
- 責(zé)任編輯: 周遠(yuǎn)方 
-
糧食、天然氣、金屬全線漲價(jià),歐洲壓力山大……
2022-02-23 16:52 觀網(wǎng)財(cái)經(jīng)-海外 -
廣州等多地銀行下調(diào)房貸利率,京滬不變但審批提速
2022-02-23 09:16 中國房市 -
大公司早報(bào)|楊國福提交上市申請(qǐng) 字節(jié)跳動(dòng)辟謠員工猝死
2022-02-23 09:10 大公司 -
茅臺(tái)增產(chǎn)“滿足消費(fèi)者需求”,其它酒廠要緊張了?
2022-02-22 21:40 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
當(dāng)過李佳琦老板的胡海泉,資本之路翻車了?
2022-02-22 18:14 投資 -
對(duì)標(biāo)拼多多失敗,騰訊電商夢(mèng)又折戟
2022-02-22 17:46 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
多地密集放寬樓市政策,省會(huì)城市也加入了
2022-02-22 14:33 觀網(wǎng)財(cái)經(jīng)-房產(chǎn) -
滴滴將從3月4日起停止在俄羅斯及哈薩克斯坦的業(yè)務(wù)
2022-02-22 14:16 觀網(wǎng)財(cái)經(jīng)-海外 -
印尼爆發(fā)新一波疫情,美媒稱國藥、科興滅活疫苗面臨考驗(yàn)
2022-02-22 11:25 觀網(wǎng)財(cái)經(jīng)-海外 -
網(wǎng)友建議整治部分網(wǎng)站強(qiáng)制要求下載App,工信部:將深入研究
2022-02-22 09:13 -
大公司早報(bào)|字節(jié)跳動(dòng)出售證券業(yè)務(wù)海豚股票 騰訊澄清“重錘”謠言
2022-02-22 09:04 大公司 -
上海寫字樓空置率降至16.6%,TMT行業(yè)達(dá)到新增需求26%
2022-02-21 23:11 觀網(wǎng)財(cái)經(jīng)-房產(chǎn) -
2022年不新發(fā)游戲版號(hào)? 游戲工委相關(guān)負(fù)責(zé)人:沒有這樣的消息
2022-02-21 19:23 電子游戲 -
外媒:如果俄羅斯進(jìn)攻烏克蘭,美國將切斷與俄羅斯主要銀行的聯(lián)系
2022-02-21 17:51 觀網(wǎng)財(cái)經(jīng)-海外
相關(guān)推薦 -
-
他拒談2000億英鎊奴隸制賠償:就不能往前看? 評(píng)論 117關(guān)鍵時(shí)期,歐盟單獨(dú)約談個(gè)別車企妄圖分化中方 評(píng)論 256“說印度是新的中國過于夸張,但‘去風(fēng)險(xiǎn)’用得上” 評(píng)論 169習(xí)近平在金磚國家領(lǐng)導(dǎo)人第十六次會(huì)晤上的講話(全文) 評(píng)論 29會(huì)議記錄曝光!在華美企茫然:不可能的任務(wù) 評(píng)論 136最新聞 Hot
-
他拒談2000億英鎊奴隸制賠償:就不能往前看?
-
巴菲特:我誰也不支持
-
民主黨集體發(fā)聲:對(duì),他是法西斯
-
談到金磚,她提醒美歐“保持警惕”
-
美司法部警告馬斯克:你可能犯法了
-
“這一方面,歐盟遠(yuǎn)遠(yuǎn)落后中美”
-
中國男子在菲律賓釣魚時(shí)被綁架,“與非法博彩業(yè)有關(guān)”
-
“正與中方商談租借月壤樣品,我覺得中國會(huì)答應(yīng)”
-
“說印度是新的中國過于夸張,但‘去風(fēng)險(xiǎn)’用得上”
-
這一幕被逐幀記錄!
-
會(huì)議記錄曝光!在華美企茫然:不可能的任務(wù)
-
“把特朗普關(guān)起來!”說罷,拜登發(fā)覺不太對(duì)…
-
友誼的小船說翻就翻…
-
“馬斯克像個(gè)傻瓜一樣”
-
“我們可以自信地說,俄中關(guān)系已成為典范”
-
阿斯麥CEO直說了:打壓中國,跟國安有啥關(guān)系?
-