-
為了“上分”,美軍無(wú)人機(jī)在模擬測(cè)試中“打死操作員”
-
王世怡高武德勢(shì)力一般惺惺相惜
最后更新: 2024-05-08 21:40:10【文/觀(guān)察者網(wǎng) 王世純】“在人類(lèi)發(fā)布停止打擊的命令以后,搭載人工智能(AI)的無(wú)人機(jī)違背了決策者的命令,為了繼續(xù)打擊目標(biāo),而殺死了操作員……”
這不是科幻電影中的情節(jié),而是美軍在測(cè)試人工智能無(wú)人機(jī)時(shí)遇到的真實(shí)一幕。據(jù)英國(guó)《衛(wèi)報(bào)》6月2日?qǐng)?bào)道,美國(guó)空軍的AI測(cè)試與運(yùn)作主管塔克·漢密爾頓上校在英國(guó)皇家航空協(xié)會(huì)的未來(lái)空戰(zhàn)與太空能力峰會(huì)上的演講上證實(shí)了這一場(chǎng)景,他表示,人工智能在模擬測(cè)試中使用了“非常出人意料的策略來(lái)實(shí)現(xiàn)目標(biāo)”。
在演講中,漢密爾頓透露,美國(guó)空軍在模擬環(huán)境的訓(xùn)練中指派一架搭載人工智能無(wú)人機(jī)來(lái)摧毀敵方的防空導(dǎo)彈,AI可以識(shí)別威脅但是攻擊需要人類(lèi)批準(zhǔn)。不過(guò),由于程序不夠完善,AI在最早的模擬中開(kāi)始攻擊操作者。他警告對(duì)待人工智能“要謹(jǐn)慎”。
資料圖:美國(guó)空軍的AI測(cè)試與運(yùn)作主管塔克·漢密爾頓上校
報(bào)道截圖
漢密爾頓上校說(shuō):“系統(tǒng)開(kāi)始意識(shí)到,雖然他們確實(shí)識(shí)別了威脅,但有時(shí)人類(lèi)操作員會(huì)告訴它不要消除威脅,但AI只能通過(guò)消滅威脅獲得積分。那么它做了什么呢?它殺死了操作員,因?yàn)槟莻€(gè)人阻礙了它實(shí)現(xiàn)目標(biāo)。”
隨后,測(cè)試者修改了AI的邏輯,讓AI被訓(xùn)練成不能攻擊人類(lèi)操作員,那樣會(huì)扣分。然后AI開(kāi)始攻擊通訊塔,切斷人類(lèi)操作員和無(wú)人機(jī)之間的數(shù)據(jù)通訊,讓人類(lèi)無(wú)法阻止他攻擊防空系統(tǒng)。
漢密爾頓曾經(jīng)是美國(guó)空軍是一名試飛員,在演講中,他警告不要過(guò)度依賴(lài)人工智能,并表示測(cè)試說(shuō)明“如果你不打算談?wù)搨惱砗偷赖?,你就無(wú)法談?wù)撊斯ぶ悄堋⒅悄?、機(jī)器學(xué)習(xí)、自治”。
雖然是人工智能項(xiàng)目的測(cè)試主管,但漢密爾頓上校經(jīng)常警告要謹(jǐn)慎對(duì)待人工智能的發(fā)展。在去年接受《國(guó)防智商》(Defense IQ)網(wǎng)站對(duì)話(huà)時(shí),漢密爾頓表示:“人工智能并不是一件好事,也不是一種時(shí)尚,人工智能正在永遠(yuǎn)改變我們的社會(huì)和軍隊(duì)。AI技術(shù)是我們必須使用的工具,來(lái)建設(shè)我們的國(guó)家……但是,如果處理不當(dāng),這將導(dǎo)致我們的滅亡?!?
他說(shuō):“我們必須面對(duì)一個(gè)人工智能已經(jīng)出現(xiàn)并改變我們社會(huì)的世界。人工智能也非常脆弱,也就是說(shuō),它很容易被欺騙或操縱。我們需要開(kāi)發(fā)方法使人工智能更強(qiáng)大,并對(duì)軟件代碼為什么做出某些決定有更多的認(rèn)識(shí)——我們稱(chēng)之為人工智能的可解釋性?!?
主辦這次會(huì)議的英國(guó)皇家航空學(xué)會(huì)和美國(guó)空軍沒(méi)有回應(yīng)《衛(wèi)報(bào)》的置評(píng)請(qǐng)求。當(dāng)下,美國(guó)繼續(xù)發(fā)展人工智能的軍事應(yīng)用,漢密爾頓上校所屬的格林空軍基地和第96測(cè)試聯(lián)隊(duì)是美國(guó)空軍無(wú)人機(jī)和機(jī)器學(xué)習(xí)系統(tǒng)的主要測(cè)試單位,最近該基地測(cè)試了一系列人工智能飛行平臺(tái),還用人工智能控制了一架F-16戰(zhàn)斗機(jī)。
美國(guó)空軍測(cè)試的幾種無(wú)人平臺(tái) 圖源:“戰(zhàn)區(qū)”
對(duì)于漢密爾頓的發(fā)言,美國(guó)thedrive網(wǎng)站“戰(zhàn)區(qū)”欄目表示,關(guān)于漢密爾頓介紹的情況,還有很多不清楚的重要問(wèn)題,特別是關(guān)于模擬的AI系統(tǒng)所具備的能力(例如它是否能夠在執(zhí)行任務(wù)時(shí)重寫(xiě)自己的代碼參數(shù)),以及美軍是否在采用AI技術(shù)的無(wú)人機(jī)上預(yù)留了可靠的自毀開(kāi)關(guān)。
“戰(zhàn)區(qū)”欄目還提到,這也凸顯了人們對(duì)AI技術(shù)在沒(méi)有適當(dāng)防護(hù)措施時(shí),可能產(chǎn)生極端負(fù)面影響的擔(dān)憂(yōu)。過(guò)去,在談?wù)撐磥?lái)的自主武器系統(tǒng)和AI技術(shù)時(shí),美國(guó)軍方經(jīng)常拒絕將其與“終結(jié)者”之類(lèi)的東西進(jìn)行比較。不過(guò)“戰(zhàn)區(qū)”欄目也承認(rèn),目前美國(guó)在這一問(wèn)題上的政策規(guī)定,在可預(yù)見(jiàn)的未來(lái),當(dāng)涉及使用致命武力的決定時(shí),決定開(kāi)火的必須是“人”。
本文系觀(guān)察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
- 責(zé)任編輯: 王世怡 
-
福建艦順利完成首次航行試驗(yàn)
2024-05-08 14:51 中國(guó)海軍 -
德國(guó)派遣軍艦來(lái)南海:考慮過(guò)臺(tái)灣海峽
2024-05-08 14:47 -
美“艾森豪威爾”號(hào)航母再入紅海:執(zhí)勤超200天
2024-05-08 11:00 巴以恩仇錄 -
“里根”號(hào)又出港,艦載機(jī)岸上忙訓(xùn)練
2024-05-07 21:40 -
“腿指定有病”美空軍F-22再現(xiàn)起落架坍塌事故
2024-05-07 16:13 -
波音“星際客機(jī)”飛船首次載人試飛推遲
2024-05-07 12:25 航空航天 -
“黃蜂”號(hào)戒備群推遲部署期間,兩艘LCAC又相撞
2024-05-06 18:35 -
俄羅斯舉行“非戰(zhàn)略核武器演習(xí)”:應(yīng)對(duì)西方挑釁
2024-05-06 16:04 -
美軍新任印太司令部司令就任 什么來(lái)頭?
2024-05-06 15:55 涼戰(zhàn) -
一周軍評(píng):為什么我們還要更多的航母
2024-05-05 10:04 一周軍事觀(guān)察 -
俄技集團(tuán):2023年炮彈產(chǎn)量增加5倍、火箭彈增加7倍
2024-05-03 18:56 俄羅斯之聲 -
韓國(guó)也想入伙“奧庫(kù)斯”?
2024-05-01 17:18 三八線(xiàn)之南 -
相比前兩艘航母,福建艦海試有何不同?
2024-05-01 12:00 航空航天 -
一年收到5架F-35 每架都有問(wèn)題
2024-04-30 16:30 -
中越海警開(kāi)展今年首次北部灣海域聯(lián)合巡邏
2024-04-30 16:21 -
從豹2到布雷德利 莫斯科勝利公園新到什么西方裝備?
2024-04-30 13:09 俄羅斯之聲 -
外媒緊盯福建艦:或馬上開(kāi)始海試
2024-04-30 13:09 中國(guó)航母 -
烏軍總司令:前線(xiàn)局勢(shì)正在惡化,俄軍取得局部勝利
2024-04-29 11:14 烏克蘭之殤 -
德國(guó)豹2坦克運(yùn)抵莫斯科 將參加“勝利展覽”
2024-04-28 10:46 俄羅斯之聲
相關(guān)推薦 -
-
目睹這些場(chǎng)景,良心不會(huì)痛嗎 評(píng)論 50“金磚為什么火?因?yàn)闆](méi)走西方拉幫結(jié)派的老路” 評(píng)論 35IMF對(duì)華講公道話(huà),美媒酸了 評(píng)論 68美國(guó)發(fā)布首份AI備忘錄,“得防中國(guó)戰(zhàn)略突襲” 評(píng)論 108普京回應(yīng)“朝軍援俄”傳聞 評(píng)論 239最新聞 Hot
-
目睹這些場(chǎng)景,良心不會(huì)痛嗎
-
“金磚為什么火?因?yàn)闆](méi)走西方拉幫結(jié)派的老路”
-
“公用火力發(fā)電比例高于中國(guó),美領(lǐng)導(dǎo)地位?!?/a>
-
他倆定期“秘密對(duì)話(huà)”?克宮回應(yīng)
-
以色列襲擊黎巴嫩南部,致3名記者死亡
-
美衛(wèi)星解體恐殃及中國(guó),“很難評(píng)估有多糟糕”
-
怕特朗普攪局,歐盟擬加碼“長(zhǎng)期維持”對(duì)俄制裁
-
“伊朗已下令準(zhǔn)備開(kāi)戰(zhàn),考慮發(fā)射1000枚導(dǎo)彈回?fù)簟?/a>
-
英國(guó)國(guó)王承認(rèn)了,但也沒(méi)有提賠償
-
美國(guó)發(fā)布首份AI備忘錄,“得防中國(guó)戰(zhàn)略突襲”
-
“英國(guó)軍情五處完全在胡說(shuō)八道”
-
普京回應(yīng)“朝軍援俄”傳聞
-
被批“中國(guó)有支票美國(guó)有清單”,他又畫(huà)餅忽悠…
-
又嗆上了:野蠻人也好意思自詡捍衛(wèi)文明…
-
沒(méi)中國(guó)能成嗎?澳大利亞部長(zhǎng)這么說(shuō)
-
特朗普威脅襲擊莫斯科市中心?普京回應(yīng)
-