-
可能對(duì)人類構(gòu)成深遠(yuǎn)風(fēng)險(xiǎn)?馬斯克等千人呼吁暫停訓(xùn)練高級(jí)AI
-
周毅是故意的還是不小心?
最后更新: 2024-05-08 19:37:51【文/觀察者網(wǎng) 周毅 編輯 呂棟】
馬斯克等1000名科技人士,日前簽署了一封特殊的公開(kāi)信。
據(jù)未來(lái)生命研究所(Future of Life Institute)網(wǎng)站披露,該網(wǎng)站曾以公開(kāi)信的方式發(fā)起倡議,呼吁所有AI(人工智能)實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。截至北京時(shí)間3月29日下午13時(shí)許,在該網(wǎng)站上,這封公開(kāi)信獲得了包括馬斯克在內(nèi)的1126名人士的聯(lián)名簽署。
綜合目前的公開(kāi)資料來(lái)看,這項(xiàng)倡議的宗旨在于為人類留出時(shí)間,思考AI開(kāi)發(fā)的合規(guī)性和安全性,并助力人類展開(kāi)相關(guān)的工作。對(duì)于此,GPT-4認(rèn)為,“6個(gè)月的時(shí)間可能對(duì)于實(shí)現(xiàn)這一目的具有一定的挑戰(zhàn)性?!?
未來(lái)生命研究所網(wǎng)站截圖
公開(kāi)信認(rèn)為,高級(jí)AI可能代表地球生命史上的深刻變化,人類應(yīng)以相應(yīng)的關(guān)懷和資源進(jìn)行規(guī)劃和管理——但不幸的是,對(duì)應(yīng)級(jí)別的規(guī)劃和管理并沒(méi)有發(fā)生。此外,最近幾個(gè)月AI實(shí)驗(yàn)室們陷入了一場(chǎng)失控的競(jìng)賽(an out-of-control race),但包括這些AI系統(tǒng)的創(chuàng)造者們,都無(wú)法完全去理解、預(yù)測(cè)或者可靠地控制(reliably control)它們。
公開(kāi)信寫道,廣泛的研究表明,具有與人類競(jìng)爭(zhēng)智能的人工智能系統(tǒng)可能對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn),這一觀點(diǎn)得到了頂級(jí)人工智能實(shí)驗(yàn)室的承認(rèn)。
公開(kāi)信表示,人們只應(yīng)在這樣的背景下去開(kāi)發(fā)強(qiáng)大的人工系統(tǒng):確信它們的影響是積極的,確信它們的風(fēng)險(xiǎn)是可控的。信件還援引了OpenAI(ChatGPT的開(kāi)發(fā)者)在其最新聲明中的表態(tài),“在某個(gè)時(shí)候,在開(kāi)始訓(xùn)練未來(lái)的AI系統(tǒng)之前,對(duì)它進(jìn)行獨(dú)立審查可能很重要?!?
“現(xiàn)在就是那個(gè)時(shí)候。”公開(kāi)信認(rèn)為。
公開(kāi)信呼吁,所有AI實(shí)驗(yàn)室立即暫停至少6個(gè)月的訓(xùn)練工作——對(duì)象是那些比GPT-4更強(qiáng)大的AI系統(tǒng)。公開(kāi)信稱,這種暫停應(yīng)該是公開(kāi)的和可驗(yàn)證的,并且包括所有關(guān)鍵參與者。如果不能迅速實(shí)施這樣的暫停,政府應(yīng)該介入并暫停。
“這并不意味著總體上暫停AI開(kāi)發(fā),”公開(kāi)信表示,AI實(shí)驗(yàn)室和獨(dú)立專家應(yīng)該利用這次暫停,共同開(kāi)發(fā)和實(shí)施一套用于高級(jí)AI設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議,并由獨(dú)立的外部專家進(jìn)行嚴(yán)格審計(jì)和監(jiān)督。此外,公開(kāi)信還呼吁,AI開(kāi)發(fā)人員必須與政策制定者合作,以顯著加快開(kāi)發(fā)強(qiáng)大的AI治理系統(tǒng)。
未來(lái)生命研究所網(wǎng)站顯示,該組織成立于2014年,它的目標(biāo)是“引導(dǎo)變革性技術(shù)造福于生活,遠(yuǎn)離極端大規(guī)模的風(fēng)險(xiǎn)?!本W(wǎng)站信息顯示,其注冊(cè)地址在美國(guó)賓夕法尼亞州蒙哥馬利縣。經(jīng)查證,在2020年6月聯(lián)合國(guó)發(fā)布的《數(shù)字合作路線圖》中,該機(jī)構(gòu)是該活動(dòng)在AI領(lǐng)域的民間倡議者(Champions)之一。
網(wǎng)站最新頁(yè)面顯示,在該公開(kāi)信的聯(lián)合簽名欄,有眾多大學(xué)學(xué)者、工程師和企業(yè)創(chuàng)始人和高管在列。例如“圖靈獎(jiǎng)”獲得者約書亞·本希奧、特斯拉CEO馬斯克、蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等。這份名單中也包括一些編輯、教師和學(xué)生的名字。
未來(lái)生命研究所網(wǎng)站截圖
對(duì)于此事,“GPT-4怎么看”?
ChatGPT在回答提問(wèn)時(shí)表示,其原因?yàn)榇_保AI研究在安全和倫理方面的合規(guī)性,防止技術(shù)濫用,為制定有效規(guī)范和監(jiān)管措施留出時(shí)間。對(duì)于這一行動(dòng)的影響,GPT-4稱,這將提高AI領(lǐng)域的安全意識(shí),推動(dòng)政策制定和監(jiān)管措施的完善,促使AI技術(shù)更加負(fù)責(zé)任地發(fā)展。
當(dāng)被問(wèn)道,“在你看來(lái),6個(gè)月的時(shí)間是否足以讓人們實(shí)現(xiàn)這一目的?”GPT-4認(rèn)為,雖然這段時(shí)間可以讓政策制定者、研究人員和社會(huì)討論開(kāi)始關(guān)注AI安全和倫理問(wèn)題,但要完全解決這些問(wèn)題并制定全面的規(guī)范和監(jiān)管措施可能需要更長(zhǎng)時(shí)間。然而,6個(gè)月的暫停確實(shí)可以作為一個(gè)良好的起點(diǎn),引發(fā)關(guān)注并推動(dòng)相關(guān)方面加快行動(dòng)。
“6個(gè)月的時(shí)間可能對(duì)于實(shí)現(xiàn)這一目的具有一定的挑戰(zhàn)性?!?
OpenAI網(wǎng)站截圖
本文系觀察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
標(biāo)簽 ChatGPT- 責(zé)任編輯: 周毅 
-
王炸芯片,難再成蘋果救星
2024-05-08 18:18 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
ST陽(yáng)光:控股股東涉嫌內(nèi)幕交易被證監(jiān)會(huì)擬罰款2.32億元
2024-05-07 20:57 -
華為蘋果同日對(duì)決,背后還有中韓面板之爭(zhēng)
2024-05-07 17:23 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
歷史性一幕!iPhone在華市場(chǎng)份額跌出前五
2024-05-07 11:13 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
45億加碼“五五購(gòu)物節(jié)”,拼多多助力上?!捌础背鼍?/a>
2024-05-06 19:32 -
美國(guó)?Tiktok法案的起草人,引火燒身了
2024-05-06 18:47 觀網(wǎng)財(cái)經(jīng)-金融 -
舒適賽道紅利釋放,紅豆股份品牌轉(zhuǎn)型出成效
2024-05-06 13:33 -
“五一”近3億人次出游,較2019年同期增長(zhǎng)28.2%
2024-05-06 12:16 觀察者頭條 -
巴菲特股東大會(huì)要點(diǎn)來(lái)了!回應(yīng)減持蘋果、巨額現(xiàn)金儲(chǔ)備等
2024-05-05 08:28 -
武廣高鐵、滬杭客專等4條高鐵線漲價(jià),漲幅近20%
2024-05-04 14:13 高鐵世紀(jì) -
深圳將取消福田、南山之外區(qū)域住房限購(gòu)?深圳住建局回應(yīng)
2024-05-04 10:27 觀網(wǎng)財(cái)經(jīng)-房產(chǎn) -
庫(kù)克涉華最新發(fā)聲
2024-05-04 10:14 跨國(guó)企業(yè)在中國(guó) -
20張營(yíng)業(yè)執(zhí)照只有3家實(shí)存?央媒:?jiǎn)栴}在下頭,根子在上頭
2024-05-03 11:21 基層治理 -
上海推出商品住房“以舊換新”活動(dòng)
2024-05-03 09:39 觀網(wǎng)財(cái)經(jīng)-房產(chǎn) -
中俄東線天然氣管道最新進(jìn)展
2024-05-03 09:30 國(guó)企備忘錄 -
31省份“一季報(bào)”:蘇魯浙增速超6%,山西總量下滑
2024-05-02 21:39 宏觀經(jīng)濟(jì) -
美聯(lián)儲(chǔ)維持利率不變,納指兩連跌星巴克重挫
2024-05-02 07:42 觀網(wǎng)財(cái)經(jīng)-海外 -
南京公積金新政:包括宣城、馬鞍山在內(nèi)的南京都市圈9城互認(rèn)互貸
2024-05-01 19:50 觀網(wǎng)財(cái)經(jīng)-房產(chǎn) -
美國(guó)當(dāng)前經(jīng)濟(jì)數(shù)據(jù)中,也許藏著高官接連訪華的答案
2024-05-01 09:24 -
余承東不再擔(dān)任華為終端BG CEO
2024-05-01 08:53 觀網(wǎng)財(cái)經(jīng)-科創(chuàng)
相關(guān)推薦 -
-
三波!以色列襲擊伊朗數(shù)十個(gè)戰(zhàn)略目標(biāo) 評(píng)論 399目睹這些場(chǎng)景,良心不會(huì)痛嗎 評(píng)論 280“金磚為什么火?因?yàn)闆](méi)走西方拉幫結(jié)派的老路” 評(píng)論 78IMF對(duì)華講公道話,美媒酸了 評(píng)論 78美國(guó)發(fā)布首份AI備忘錄,“得防中國(guó)戰(zhàn)略突襲” 評(píng)論 110最新聞 Hot
-
三波!以色列襲擊伊朗數(shù)十個(gè)戰(zhàn)略目標(biāo)
-
美高官:中方領(lǐng)先了,但美國(guó)還沒(méi)出手呢
-
緊盯中國(guó)!英首相:不能對(duì)太平洋視而不見(jiàn)
-
他反思:歐盟必須停止對(duì)世界說(shuō)教,才能對(duì)抗中俄
-
對(duì)華關(guān)系,英財(cái)相居然對(duì)美國(guó)“慕了”
-
目睹這些場(chǎng)景,良心不會(huì)痛嗎
-
“金磚為什么火?因?yàn)闆](méi)走西方拉幫結(jié)派的老路”
-
“公用火力發(fā)電比例高于中國(guó),美領(lǐng)導(dǎo)地位?!?/a>
-
他倆定期“秘密對(duì)話”?克宮回應(yīng)
-
以色列襲擊黎巴嫩南部,致3名記者死亡
-
美衛(wèi)星解體恐殃及中國(guó),“很難評(píng)估有多糟糕”
-
怕特朗普攪局,歐盟擬加碼“長(zhǎng)期維持”對(duì)俄制裁
-
“伊朗已下令準(zhǔn)備開(kāi)戰(zhàn),考慮發(fā)射1000枚導(dǎo)彈回?fù)簟?/a>
-
英國(guó)國(guó)王承認(rèn)了,但也沒(méi)有提賠償
-
美國(guó)發(fā)布首份AI備忘錄,“得防中國(guó)戰(zhàn)略突襲”
-
“英國(guó)軍情五處完全在胡說(shuō)八道”
-