-
世界人工智能大會(huì)召開,大模型、人形機(jī)器人集中亮相
“需要攜手合作,推動(dòng)人工智能健康發(fā)展”
人工智能技術(shù)發(fā)展日新月異,關(guān)于人工智能的治理、安全等問題也逐漸成為社會(huì)各界關(guān)注的新焦點(diǎn)。如何保障人工智能的安全使用?如何讓人工智能更好地為生產(chǎn)生活提供幫助?多位專家在本屆大會(huì)開幕式上分享了他們的觀點(diǎn)。
清華大學(xué)蘇世民學(xué)院院長、清華大學(xué)人工智能國際治理研究院院長薛瀾表示,全世界的人工智能發(fā)展存在巨大的鴻溝,不但阻礙全球發(fā)展,也對(duì)全球治理造成很大的影響。他認(rèn)為,國際社會(huì)需要攜手合作,促進(jìn)企業(yè)、政府共同推動(dòng)人工智能健康發(fā)展。
薛瀾指出,聯(lián)合國193個(gè)成員國在2015年共同通過了《聯(lián)合國2030年可持續(xù)發(fā)展議程》,提出全球要?dú)v時(shí)15年時(shí)間讓全球進(jìn)入到可持續(xù)發(fā)展軌道。去年聯(lián)合國有關(guān)會(huì)議透露,完成目標(biāo)的情況不容樂觀,部分目標(biāo)甚至出現(xiàn)倒退的情況。
薛瀾發(fā)表講話視頻截圖
薛瀾說:“有分析表明,人工智能對(duì)可持續(xù)發(fā)展的169個(gè)子目標(biāo)中的134個(gè)有積極的促進(jìn)作用,也可能對(duì)其中59個(gè)產(chǎn)生一些不利的影響。我們要從宏觀的角度看待人工智能的積極影響和潛在的不利影響。”
他表示,如何推動(dòng)人工智能的健康發(fā)展,盡可能讓它收益最大化,把風(fēng)險(xiǎn)降到最低,中國在這些年的實(shí)踐中已建立起一個(gè)相對(duì)完整的體系。在產(chǎn)業(yè)應(yīng)用方面,有一系列法律法規(guī)來推動(dòng)人工智能合理發(fā)展;針對(duì)算法算力以及數(shù)據(jù)治理也有規(guī)則框架;針對(duì)具體應(yīng)用場景,也出臺(tái)了相應(yīng)的治理規(guī)則。
“我們構(gòu)建了一個(gè)多維度、多層次、多領(lǐng)域、多舉措的體系。”薛瀾說。
他強(qiáng)調(diào),在全球范圍內(nèi),人工智能發(fā)展還面臨很多挑戰(zhàn),“一個(gè)國家?guī)淼娘L(fēng)險(xiǎn)就是全球的風(fēng)險(xiǎn),所以這些問題我們必須共同努力解決。國際社會(huì)現(xiàn)在可以說對(duì)安全問題非常重視,但對(duì)發(fā)展存在的鴻溝,AI鴻溝這方面關(guān)注可能還不夠。應(yīng)該說,有很多工作需要進(jìn)一步地討論?!?
薛瀾表示,要通過多途徑建立國際交流,加強(qiáng)政府間多邊對(duì)話機(jī)制,用科學(xué)的力量助力完善國際機(jī)制,促進(jìn)企業(yè)、政府共同推動(dòng)人工智能健康發(fā)展。
上海人工智能實(shí)驗(yàn)室主任、清華大學(xué)惠妍講席教授周伯文表示,當(dāng)前以大模型為代表的生成式人工智能快速發(fā)展,但隨著能力不斷提升,模型自身及其應(yīng)用也帶來了一系列潛在風(fēng)險(xiǎn)的顧慮。
周伯文指出,從公眾對(duì)人工智能風(fēng)險(xiǎn)的關(guān)注程度來看,首先是數(shù)據(jù)泄露、濫用、隱私及版權(quán)相關(guān)的內(nèi)容風(fēng)險(xiǎn),其次是惡意使用帶來的偽造、虛假信息等相關(guān)的使用風(fēng)險(xiǎn),還有偏見、歧視等倫理問題,是否會(huì)對(duì)就業(yè)結(jié)構(gòu)等社會(huì)系統(tǒng)性問題帶來挑戰(zhàn),甚至在一些科幻電影中還出現(xiàn)了人工智能失控等擔(dān)憂。
周伯文發(fā)表講話視頻截圖
周伯文表示,這些風(fēng)險(xiǎn)有的已初露端倪,但更多是潛在風(fēng)險(xiǎn),防范它們需各界共同努力。他認(rèn)為,有這些擔(dān)憂的根本原因在于目前的人工智能發(fā)展是失衡的,“我們?cè)谌斯ぶ悄馨踩矫娴耐度?,是遠(yuǎn)遠(yuǎn)落后于性能的。目前世界上99%的算力用于模型的預(yù)訓(xùn)練,只有不到1%用于安全優(yōu)先的考量?!?
他認(rèn)為,人們需要找到人工智能安全優(yōu)先,但又能保證性能長期發(fā)展的技術(shù)體系。“我們把這樣一種技術(shù)思想體系叫做‘AI-45度平衡律’。這是指從長期的角度來看,我們要大體上沿著45度的安全與性能平衡發(fā)展,所謂的平衡是指短期內(nèi)可以有波動(dòng),但不能長期低于45度?!?
周伯文介紹說,實(shí)現(xiàn)“AI-45度平衡率”有多種技術(shù)體系,上海人工智能實(shí)驗(yàn)室近期在探索一條以因果為核心的路徑,并將其取名為可信AGI的“因果之梯”。它將可信AGI的發(fā)展分為三個(gè)遞進(jìn)階段:泛對(duì)齊、可干預(yù)、能反思。
其中,泛對(duì)齊”主要包含當(dāng)前最前沿的人類偏好對(duì)齊技術(shù);“可干預(yù)”主要包含通過對(duì)AI系統(tǒng)進(jìn)行干預(yù),探究其因果機(jī)制的安全技術(shù);“能反思”則要求AI系統(tǒng)不僅追求高效執(zhí)行任務(wù),還能審視自身行為的影響和潛在風(fēng)險(xiǎn),從而在追求性能的同時(shí),確保安全和道德邊界不被突破。
“目前,AI安全和性能技術(shù)發(fā)展主要停留在第一階段,部分在嘗試第二階段,但要真正實(shí)現(xiàn)AI的安全與性能平衡,我們必須完善第二階段并勇于攀登第三階段?!敝懿恼f,“沿著可信AGI的‘因果之梯’拾級(jí)而上,我們相信可以構(gòu)建真正可信AGI,實(shí)現(xiàn)人工智能的安全與卓越性能的完美平衡?!?
本文系觀察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
標(biāo)簽 2024世界人工智能大會(huì)- 責(zé)任編輯: 陳思佳 
-
首次公開!731部隊(duì)最大支隊(duì)人員檔案披露
2024-07-06 08:57 -
日菲將締結(jié)“歷史性協(xié)議”,又“劍指中國”?
2024-07-06 08:13 日本 -
習(xí)近平同塔吉克斯坦總統(tǒng)拉赫蒙舉行會(huì)談
2024-07-06 07:35 觀察者頭條 -
中國和塔吉克斯坦關(guān)于發(fā)展新時(shí)代全面戰(zhàn)略合作伙伴關(guān)系的聯(lián)合聲明
2024-07-05 22:45 -
巴勒斯坦申請(qǐng)主辦世預(yù)賽,在約旦河西岸
2024-07-05 22:34 -
普京會(huì)見歐爾班
2024-07-05 21:27 俄羅斯之聲 -
兩國元首宣布,建立新時(shí)代中塔全面戰(zhàn)略合作伙伴關(guān)系
2024-07-05 21:19 -
“拜登敗局已定,民主黨金主已經(jīng)看好他倆了”
2024-07-05 21:15 美國大選 -
習(xí)近平同塔吉克斯坦總統(tǒng)拉赫蒙舉行大范圍會(huì)談
2024-07-05 20:51 中國外交 -
習(xí)近平檢閱塔吉克斯坦儀仗隊(duì),用塔語問候“大家好”
2024-07-05 19:57 中國外交 -
賈利利真的穩(wěn)了?
2024-07-05 19:51 伊朗局勢(shì) -
正式接任!斯塔默發(fā)表就職演講
2024-07-05 19:24 不列顛 -
習(xí)近平同塔吉克斯坦總統(tǒng)舉行會(huì)談
2024-07-05 18:23 中國外交 -
英國首相蘇納克稱將辭去首相和黨首職務(wù)
2024-07-05 18:18 不列顛 -
一懷孕中國女子在菲律賓被捕,被指為綁架勒索團(tuán)伙頭目
2024-07-05 18:17 -
中國駐韓國大使邢海明即將離任
2024-07-05 18:16 中國外交 -
習(xí)近平出席塔吉克斯坦總統(tǒng)拉赫蒙舉行的歡迎儀式
2024-07-05 18:10 中國外交 -
“特朗普不想拜登退選”,原因扎心了…
2024-07-05 17:53 美國大選 -
瓦努阿圖總理、所羅門群島總理將訪華
2024-07-05 17:02 中國外交
相關(guān)推薦 -
衛(wèi)星圖片曝光,伊朗最高領(lǐng)袖發(fā)聲 評(píng)論 41向西還是向俄?這個(gè)前蘇聯(lián)國家做出抉擇 評(píng)論 130英聯(lián)邦領(lǐng)導(dǎo)人一致同意,英國:不賠 評(píng)論 120他提前威脅:若美國打貿(mào)易戰(zhàn)將報(bào)復(fù) 評(píng)論 102拜登希望“這次襲擊就是結(jié)束”,但有人公開唱反調(diào) 評(píng)論 112最新聞 Hot
-
向西還是向俄?這國關(guān)鍵選舉結(jié)果顯現(xiàn),歐爾班祝賀
-
她終于為哈里斯站臺(tái):投特朗普就是反對(duì)女性
-
他提前威脅:若美國打貿(mào)易戰(zhàn)將報(bào)復(fù)
-
法官因“健康理由”請(qǐng)辭,以總理逮捕令案再遭拖延
-
拜登希望“這次襲擊就是結(jié)束”,但有人公開唱反調(diào)
-
匯豐香港加入CIPS,“人民幣使用與中國經(jīng)濟(jì)不成比”
-
貝索斯向特朗普示好?《華盛頓郵報(bào)》放棄30多年大選傳統(tǒng)
-
“如果再次當(dāng)選美國總統(tǒng),我就公布肯尼迪遇刺事件檔案”
-
“7年才能撤完需急救的加沙兒童…”
-
塞爾維亞總理被她“放鴿子”,只因?yàn)閯傄娺^俄部長
-
低調(diào)的“懺悔日”行動(dòng),以色列竟提前通知伊朗?
-
三波!以色列襲擊伊朗數(shù)十個(gè)戰(zhàn)略目標(biāo)
-
美高官找補(bǔ):中方領(lǐng)先了,但美國還沒出手
-
拜登正式道歉
-
“從美國沒撈到好處,印度掉頭找中國去”
-
緊盯中國!英首相:不能對(duì)太平洋視而不見
-