-
僅用一張貼紙就能在AI前隱身 安全監(jiān)控?cái)z像還安全么?
關(guān)鍵字:實(shí)驗(yàn)結(jié)果:顯著降低警報(bào),安全攝像頭還安全嗎?
通過(guò)實(shí)驗(yàn)結(jié)果評(píng)估 patch 的有效性。過(guò)程與訓(xùn)練過(guò)程相同(包括隨機(jī)變換),將結(jié)果應(yīng)用于 Inria 測(cè)試集上來(lái)進(jìn)行評(píng)估。
換句話說(shuō),研究人員提出一個(gè)問(wèn)題:監(jiān)控系統(tǒng)產(chǎn)生的警報(bào),有多少可以通過(guò)使用貼紙來(lái)規(guī)避?
上表所示為使用不同貼紙的警報(bào)觸發(fā)分析結(jié)果。可以清楚地看到,貼紙(OBJ-CLS,OBJ 和 CLS)顯著降低了警報(bào)數(shù)量。
上圖所示為在 Inria 測(cè)試集中使用不同貼紙的效果對(duì)比示例。首先將 YOLOv2 檢測(cè)器用于沒(méi)有貼 patch 的圖像中(第 1 行),然后是使用隨機(jī)貼紙(第 2 行)以及生成的最佳貼紙的效果(第 3 行)。在大多數(shù)情況下,貼紙能夠成功地將人員隱藏在探測(cè)器中。如果效果不好,則可能是貼紙沒(méi)有和人對(duì)齊。因?yàn)樵趦?yōu)化期間,貼紙的中心對(duì)齊是僅僅由圖像邊框確定的。
上圖測(cè)試了印刷版貼紙?jiān)诂F(xiàn)實(shí)世界中的效果。一般情況下,效果還是不錯(cuò)的。由于上文所述的圖像訓(xùn)練對(duì)齊的原因,將貼紙保持在正確位置似乎是非常重要的。
結(jié)果生成的 “補(bǔ)丁”,可以應(yīng)用在衣服、包或其他物體上,佩戴這種 “補(bǔ)丁” 的人將成為隱形人 —— 使用 AI 檢測(cè)算法無(wú)法檢測(cè)到。
這種方法也可以用來(lái)隱藏某些對(duì)象。例如,如果監(jiān)視系統(tǒng)被設(shè)計(jì)為檢測(cè)物體而不是人,那么 “補(bǔ)丁” 也可以將汽車(chē)之類(lèi)的物體隱藏起來(lái)。
可以想象,這種伎倆可以讓騙子躲避安全攝像頭?!拔覀兊墓ぷ髯C明,使用對(duì)抗性補(bǔ)丁繞過(guò)攝像機(jī)監(jiān)控系統(tǒng)是可能的,” 作者之一 Wiebe Van Ranst。
Van Ranst 說(shuō),將這種方法應(yīng)用于現(xiàn)成的視頻監(jiān)控系統(tǒng)應(yīng)該不會(huì)太難?!澳壳拔覀冞€需要知道使用的是哪種檢測(cè)器。我們未來(lái)想做的是生成一個(gè)補(bǔ)丁,可以同時(shí)在多個(gè)檢測(cè)器上工作,” 他說(shuō)?!叭绻@種方法有效,那么這個(gè)補(bǔ)丁也很有可能對(duì)監(jiān)控系統(tǒng)中使用的檢測(cè)器有效?!?
當(dāng)然,這個(gè) “補(bǔ)丁” 目前并非萬(wàn)無(wú)一失,如果它在畫(huà)面中不是清晰可見(jiàn)的,或者角度發(fā)生了變化,AI 系統(tǒng)都能迅速 “發(fā)現(xiàn)” 畫(huà)面中的人類(lèi)。
不過(guò),這項(xiàng)研究是學(xué)術(shù)界首次嘗試使用 2D 打印技術(shù)將人類(lèi)從檢測(cè)系統(tǒng)中隱藏起來(lái)。之前的工作主要是使用帶有特殊框架的眼鏡來(lái)欺騙人臉識(shí)別軟件,或使用對(duì)抗樣本欺騙圖像分類(lèi)系統(tǒng),例如用一張貼紙就能令 AI 將香蕉誤認(rèn)為是烤面包機(jī),用幾張貼紙就能將自動(dòng)駕駛系統(tǒng) “騙” 進(jìn)反車(chē)道。
論文地址:
https://arxiv.org/pdf/1904.08653.pdf
開(kāi)源地址:
https://gitlab.com/EAVISE/adversarial-yolo
- 原標(biāo)題:一張貼紙欺騙AI,對(duì)抗性補(bǔ)丁讓人類(lèi)隱身,監(jiān)控?cái)z像危險(xiǎn)了!
- 責(zé)任編輯:李嘉
- 最后更新: 2019-04-24 18:15:17
-
人類(lèi)首次檢測(cè)到火星疑似地震
2019-04-24 17:47 航空航天 -
“孫悟空”大戰(zhàn)“阿麗塔”,聯(lián)想Z6 Pro和小米9你選誰(shuí)?
2019-04-24 17:20 手機(jī) -
廈門(mén)大學(xué)成功發(fā)射一枚帶翼回收火箭
2019-04-24 15:51 航空航天 -
“吉林一號(hào)”今年新增20顆衛(wèi)星 將首次海上發(fā)射
2019-04-24 15:48 航空航天 -
中國(guó)電信率先實(shí)現(xiàn)首個(gè)5G SA語(yǔ)音通話
2019-04-24 14:28 5G -
SK海力士新增動(dòng)產(chǎn)抵押信息 抵押金額高達(dá)35億美元
2019-04-24 14:25 -
英國(guó)將允許華為“有限”參與5G網(wǎng)絡(luò)建設(shè)
2019-04-24 10:46 -
為了京東,劉強(qiáng)東應(yīng)該辭去CEO
2019-04-24 09:49 互聯(lián)網(wǎng)大佬 -
中國(guó)空間站公開(kāi)征集科學(xué)實(shí)驗(yàn)和技術(shù)試驗(yàn)項(xiàng)目
2019-04-23 17:45 航空航天 -
中國(guó)聯(lián)通5G國(guó)際合作聯(lián)盟:美日德法英等8國(guó)企業(yè)加入
2019-04-23 16:13 5G -
進(jìn)軍韓國(guó)!華為下月將在首爾開(kāi)設(shè)5G服務(wù)中心
2019-04-23 13:17 -
氫燃料電池“中國(guó)芯”研發(fā)獲得突破
2019-04-23 09:45 中國(guó)精造 -
華為推出“世界首款”5G車(chē)載模組
2019-04-23 09:18 -
三星:Galaxy Fold將推遲上市做進(jìn)一步改進(jìn)
2019-04-23 08:40 -
格芯宣布出售紐約州300mm晶圓廠,安森美4.3億美元接盤(pán)
2019-04-23 08:12 -
華為P30系列臺(tái)灣開(kāi)賣(mài),引3500人排隊(duì)搶購(gòu)創(chuàng)紀(jì)錄
2019-04-22 22:24 華為 -
騰訊:登錄新游戲基礎(chǔ)準(zhǔn)入年齡從13周歲提升至16周歲
2019-04-22 20:27 -
首款全國(guó)產(chǎn)固態(tài)硬盤(pán)控制芯片發(fā)布:讀寫(xiě)速度500MB/s
2019-04-22 16:43 -
華為將為非洲國(guó)家杯推出首個(gè)5G手機(jī)網(wǎng)絡(luò)
2019-04-22 15:52
相關(guān)推薦 -
IMF對(duì)華講公道話,美媒酸了 評(píng)論 27美國(guó)發(fā)布首份AI備忘錄,“得防中國(guó)戰(zhàn)略突襲” 評(píng)論 90普京回應(yīng)“朝軍援俄”傳聞 評(píng)論 225“我們目前世界領(lǐng)先,但中國(guó)人正敲開(kāi)我們的大門(mén)” 評(píng)論 150“不止美德,北約至少七國(guó)反對(duì)” 評(píng)論 84最新聞 Hot
-
美國(guó)發(fā)布首份AI備忘錄,“得防中國(guó)戰(zhàn)略突襲”
-
“英國(guó)軍情五處完全在胡說(shuō)八道”
-
普京回應(yīng)“朝軍援俄”傳聞
-
被批“中國(guó)有支票美國(guó)有清單”,他又畫(huà)餅忽悠…
-
又嗆上了:野蠻人也好意思自詡捍衛(wèi)文明…
-
沒(méi)中國(guó)能成嗎?澳大利亞部長(zhǎng)這么說(shuō)
-
特朗普威脅襲擊莫斯科市中心?普京回應(yīng)
-
“我們目前世界領(lǐng)先,但中國(guó)人正敲開(kāi)我們的大門(mén)”
-
“我不太喜歡談?wù)摳?jìng)爭(zhēng),但我開(kāi)的是小米”
-
盧卡申科評(píng)“朝軍援俄”:胡說(shuō)八道,普京不是這性格
-
“不止美德,北約至少七國(guó)反對(duì)”
-
華裔老板拒絕“背書(shū)”哈里斯,加州第一大報(bào)編委辭職
-
英高級(jí)外交官搶、奪、撕...扎哈羅娃怒斥
-
連他都不敢說(shuō),“怕被特朗普?qǐng)?bào)復(fù)”
-
134條!金磚通過(guò)《喀山宣言》,“將在聯(lián)合國(guó)分發(fā)”
-
“我們?cè)缸鲆磺蟹现袊?guó)利益的事”
-