-
可能對人類構成深遠風險?馬斯克等千人呼吁暫停訓練高級AI
-
周毅是故意的還是不小心?
最后更新: 2024-05-08 19:37:51【文/觀察者網 周毅 編輯 呂棟】
馬斯克等1000名科技人士,日前簽署了一封特殊的公開信。
據未來生命研究所(Future of Life Institute)網站披露,該網站曾以公開信的方式發(fā)起倡議,呼吁所有AI(人工智能)實驗室立即暫停訓練比GPT-4更強大的AI系統至少6個月。截至北京時間3月29日下午13時許,在該網站上,這封公開信獲得了包括馬斯克在內的1126名人士的聯名簽署。
綜合目前的公開資料來看,這項倡議的宗旨在于為人類留出時間,思考AI開發(fā)的合規(guī)性和安全性,并助力人類展開相關的工作。對于此,GPT-4認為,“6個月的時間可能對于實現這一目的具有一定的挑戰(zhàn)性?!?
未來生命研究所網站截圖
公開信認為,高級AI可能代表地球生命史上的深刻變化,人類應以相應的關懷和資源進行規(guī)劃和管理——但不幸的是,對應級別的規(guī)劃和管理并沒有發(fā)生。此外,最近幾個月AI實驗室們陷入了一場失控的競賽(an out-of-control race),但包括這些AI系統的創(chuàng)造者們,都無法完全去理解、預測或者可靠地控制(reliably control)它們。
公開信寫道,廣泛的研究表明,具有與人類競爭智能的人工智能系統可能對社會和人類構成深遠的風險,這一觀點得到了頂級人工智能實驗室的承認。
公開信表示,人們只應在這樣的背景下去開發(fā)強大的人工系統:確信它們的影響是積極的,確信它們的風險是可控的。信件還援引了OpenAI(ChatGPT的開發(fā)者)在其最新聲明中的表態(tài),“在某個時候,在開始訓練未來的AI系統之前,對它進行獨立審查可能很重要?!?
“現在就是那個時候?!惫_信認為。
公開信呼吁,所有AI實驗室立即暫停至少6個月的訓練工作——對象是那些比GPT-4更強大的AI系統。公開信稱,這種暫停應該是公開的和可驗證的,并且包括所有關鍵參與者。如果不能迅速實施這樣的暫停,政府應該介入并暫停。
“這并不意味著總體上暫停AI開發(fā),”公開信表示,AI實驗室和獨立專家應該利用這次暫停,共同開發(fā)和實施一套用于高級AI設計和開發(fā)的共享安全協議,并由獨立的外部專家進行嚴格審計和監(jiān)督。此外,公開信還呼吁,AI開發(fā)人員必須與政策制定者合作,以顯著加快開發(fā)強大的AI治理系統。
未來生命研究所網站顯示,該組織成立于2014年,它的目標是“引導變革性技術造福于生活,遠離極端大規(guī)模的風險?!本W站信息顯示,其注冊地址在美國賓夕法尼亞州蒙哥馬利縣。經查證,在2020年6月聯合國發(fā)布的《數字合作路線圖》中,該機構是該活動在AI領域的民間倡議者(Champions)之一。
網站最新頁面顯示,在該公開信的聯合簽名欄,有眾多大學學者、工程師和企業(yè)創(chuàng)始人和高管在列。例如“圖靈獎”獲得者約書亞·本希奧、特斯拉CEO馬斯克、蘋果聯合創(chuàng)始人史蒂夫·沃茲尼亞克等。這份名單中也包括一些編輯、教師和學生的名字。
未來生命研究所網站截圖
對于此事,“GPT-4怎么看”?
ChatGPT在回答提問時表示,其原因為確保AI研究在安全和倫理方面的合規(guī)性,防止技術濫用,為制定有效規(guī)范和監(jiān)管措施留出時間。對于這一行動的影響,GPT-4稱,這將提高AI領域的安全意識,推動政策制定和監(jiān)管措施的完善,促使AI技術更加負責任地發(fā)展。
當被問道,“在你看來,6個月的時間是否足以讓人們實現這一目的?”GPT-4認為,雖然這段時間可以讓政策制定者、研究人員和社會討論開始關注AI安全和倫理問題,但要完全解決這些問題并制定全面的規(guī)范和監(jiān)管措施可能需要更長時間。然而,6個月的暫停確實可以作為一個良好的起點,引發(fā)關注并推動相關方面加快行動。
“6個月的時間可能對于實現這一目的具有一定的挑戰(zhàn)性?!?
OpenAI網站截圖
本文系觀察者網獨家稿件,未經授權,不得轉載。
標簽 ChatGPT- 責任編輯: 周毅 
-
王炸芯片,難再成蘋果救星
2024-05-08 18:18 觀網財經-科創(chuàng) -
ST陽光:控股股東涉嫌內幕交易被證監(jiān)會擬罰款2.32億元
2024-05-07 20:57 -
華為蘋果同日對決,背后還有中韓面板之爭
2024-05-07 17:23 觀網財經-科創(chuàng) -
歷史性一幕!iPhone在華市場份額跌出前五
2024-05-07 11:13 觀網財經-科創(chuàng) -
45億加碼“五五購物節(jié)”,拼多多助力上?!捌础背鼍?/a>
2024-05-06 19:32 -
美國?Tiktok法案的起草人,引火燒身了
2024-05-06 18:47 觀網財經-金融 -
舒適賽道紅利釋放,紅豆股份品牌轉型出成效
2024-05-06 13:33 -
“五一”近3億人次出游,較2019年同期增長28.2%
2024-05-06 12:16 觀察者頭條 -
巴菲特股東大會要點來了!回應減持蘋果、巨額現金儲備等
2024-05-05 08:28 -
武廣高鐵、滬杭客專等4條高鐵線漲價,漲幅近20%
2024-05-04 14:13 高鐵世紀 -
深圳將取消福田、南山之外區(qū)域住房限購?深圳住建局回應
2024-05-04 10:27 觀網財經-房產 -
庫克涉華最新發(fā)聲
2024-05-04 10:14 跨國企業(yè)在中國 -
20張營業(yè)執(zhí)照只有3家實存?央媒:問題在下頭,根子在上頭
2024-05-03 11:21 基層治理 -
上海推出商品住房“以舊換新”活動
2024-05-03 09:39 觀網財經-房產 -
中俄東線天然氣管道最新進展
2024-05-03 09:30 國企備忘錄 -
31省份“一季報”:蘇魯浙增速超6%,山西總量下滑
2024-05-02 21:39 宏觀經濟 -
美聯儲維持利率不變,納指兩連跌星巴克重挫
2024-05-02 07:42 觀網財經-海外 -
南京公積金新政:包括宣城、馬鞍山在內的南京都市圈9城互認互貸
2024-05-01 19:50 觀網財經-房產 -
美國當前經濟數據中,也許藏著高官接連訪華的答案
2024-05-01 09:24 -
余承東不再擔任華為終端BG CEO
2024-05-01 08:53 觀網財經-科創(chuàng)
相關推薦 -
-
“金磚為什么火?因為沒走西方拉幫結派的老路” 評論 12IMF對華講公道話,美媒酸了 評論 64普京回應“朝軍援俄”傳聞 評論 236“我們目前世界領先,但中國人正敲開我們的大門” 評論 153最新聞 Hot
-
美國發(fā)布首份AI備忘錄,“得防中國戰(zhàn)略突襲”
-
“英國軍情五處完全在胡說八道”
-
普京回應“朝軍援俄”傳聞
-
被批“中國有支票美國有清單”,他又畫餅忽悠…
-
又嗆上了:野蠻人也好意思自詡捍衛(wèi)文明…
-
沒中國能成嗎?澳大利亞部長這么說
-
特朗普威脅襲擊莫斯科市中心?普京回應
-
“我們目前世界領先,但中國人正敲開我們的大門”
-
“我不太喜歡談論競爭,但我開的是小米”
-
盧卡申科評“朝軍援俄”:胡說八道,普京不是這性格
-
“不止美德,北約至少七國反對”
-
華裔老板拒絕“背書”哈里斯,加州第一大報編委辭職
-
英高級外交官搶、奪、撕...扎哈羅娃怒斥
-
連他都不敢說,“怕被特朗普報復”
-
134條!金磚通過《喀山宣言》,“將在聯合國分發(fā)”
-
“我們愿做一切符合中國利益的事”
-