-
字節(jié)跳動(dòng)大模型訓(xùn)練被實(shí)習(xí)生攻擊,涉事者已被辭退
界面新聞從知情人士處獲悉,此事發(fā)生在今年6月,起因是某高校的博士在字節(jié)跳動(dòng)商業(yè)化技術(shù)團(tuán)隊(duì)實(shí)習(xí),因?qū)F(tuán)隊(duì)資源分配不滿,使用攻擊代碼破壞團(tuán)隊(duì)的模型訓(xùn)練任務(wù)。
10月18日,多個(gè)微信群流傳一則消息:“某頭部大廠的大模型訓(xùn)練被實(shí)習(xí)生入侵,注入了破壞代碼,導(dǎo)致其訓(xùn)練成果不可靠,可能需要重新訓(xùn)練。據(jù)稱遭到入侵的代碼注入了8000多張卡,帶來的損失可能超過千萬美元?!?
界面新聞從知情人士處獲悉,該頭部大廠為字節(jié)跳動(dòng)。此事發(fā)生在今年6月,起因是某高校的博士在字節(jié)跳動(dòng)商業(yè)化技術(shù)團(tuán)隊(duì)實(shí)習(xí),因?qū)F(tuán)隊(duì)資源分配不滿,使用攻擊代碼破壞團(tuán)隊(duì)的模型訓(xùn)練任務(wù)。
界面新聞向字節(jié)跳動(dòng)方面求證此事,截至目前,官方未進(jìn)行回應(yīng)。
傳聞顯示,該田姓實(shí)習(xí)生利用了HF(huggingface)的漏洞,在公司的共享模型里寫入破壞代碼,導(dǎo)致模型的訓(xùn)練效果忽高忽低,無法產(chǎn)生預(yù)期的訓(xùn)練效果,而且AML團(tuán)隊(duì)無法核查原因。但傳聞曝出之后,該實(shí)習(xí)生還在某微信群里辟謠稱,自己發(fā)完論文后就從字節(jié)跳動(dòng)離職,這個(gè)當(dāng)口有另一個(gè)人鉆漏洞改模型代碼,把鍋扣到自己頭上。
界面新聞從知情人士處了解到,字節(jié)跳動(dòng)內(nèi)部已經(jīng)調(diào)查明確此事為田姓實(shí)習(xí)生所為。目前,該實(shí)習(xí)生已被辭退,字節(jié)跳動(dòng)同時(shí)把此事同步給陽光誠(chéng)信聯(lián)盟和企業(yè)反舞弊聯(lián)盟,以及該實(shí)習(xí)生所在的學(xué)校。但這名實(shí)習(xí)生被辭退后到處“辟謠”甩鍋,稱是其他人所為。
但該實(shí)習(xí)生攻擊的并不是豆包大模型,而是商業(yè)化技術(shù)團(tuán)隊(duì)的模型訓(xùn)練任務(wù),影響了該技術(shù)團(tuán)隊(duì)的一些業(yè)務(wù)進(jìn)展,但整體對(duì)公司造成的損失并沒有傳聞中的超過千萬美元那么大。
一位技術(shù)安全專家告訴界面新聞,HF漏洞產(chǎn)生肯定是單一性集中訓(xùn)練,此事暴露了字節(jié)跳動(dòng)技術(shù)訓(xùn)練存在安全管理問題。公司既沒做權(quán)限隔離,也沒有做好共用代碼的審計(jì)。正常情況下,每次大的代碼變動(dòng)必須做審計(jì),無論誰做操作都有痕跡記錄,一個(gè)人想動(dòng)代碼是不可能的。
上述技術(shù)安全專家表示,目前行業(yè)通用的做法是做三級(jí)隔離導(dǎo)向性部署,每一級(jí)只有鏡像,每次先掃描。調(diào)用按次算、必須密鑰。每一級(jí)完成后,才能進(jìn)入下一級(jí),而上一級(jí)自動(dòng)刪除,進(jìn)行分級(jí)訓(xùn)練。
(界面新聞?dòng)浾?肖芳)
- 原標(biāo)題:字節(jié)跳動(dòng)大模型訓(xùn)練被實(shí)習(xí)生攻擊,涉事者已被辭退
- 責(zé)任編輯: 林鈴錦 
-
政策組合拳下,四季度經(jīng)濟(jì)怎么走?
2024-10-19 09:02 觀網(wǎng)財(cái)經(jīng)-宏觀 -
印度手機(jī)出貨單季增長(zhǎng)9%,vivo超小米首成第一
2024-10-18 22:09 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
科大訊飛三季度扭虧,前三季度回款150億
2024-10-18 20:58 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
外媒稱蘋果曾與比亞迪秘密合作開發(fā)汽車電池,比亞迪否認(rèn)
2024-10-18 18:20 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
第十批藥品集采開啟,62品種263品規(guī)創(chuàng)歷年之最
2024-10-18 18:17 觀網(wǎng)財(cái)經(jīng)-健康 -
自然資源部:涉及國(guó)家安全,必須存儲(chǔ)于境內(nèi)
2024-10-18 18:14 -
京東金融:不存在網(wǎng)傳“擠兌”情況
2024-10-18 17:16 觀網(wǎng)財(cái)經(jīng)-金融 -
學(xué)會(huì)反思的國(guó)產(chǎn)大模型,真變強(qiáng)了?
2024-10-18 16:17 -
滬指大漲近3%,創(chuàng)業(yè)板指飆升近8%!兩市成交額創(chuàng)9日以來新高
2024-10-18 15:12 金融觀察 -
滬深兩市成交突破1.5萬億,芯片行業(yè)ETF放量飆升
2024-10-18 14:10 觀網(wǎng)財(cái)經(jīng)-金融 -
吳清:加快落實(shí)中長(zhǎng)資金入市,嚴(yán)懲違規(guī)減持
2024-10-18 13:59 觀網(wǎng)財(cái)經(jīng)-宏觀 -
央行兩項(xiàng)新工具今日實(shí)施!“預(yù)計(jì)還有降準(zhǔn)降息”
2024-10-18 12:50 觀網(wǎng)財(cái)經(jīng)-金融 -
諾基亞在中國(guó)裁員近2000人,在華份額已不到5%
2024-10-18 11:19 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
李德仁院士提出“時(shí)空智能學(xué)”
2024-10-18 10:00 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
歐洲央行宣布降息25個(gè)基點(diǎn)
2024-10-17 20:34 金融觀察 -
存量房貸下調(diào)后還有紅包:下月起定價(jià)機(jī)制可重新協(xié)商?
2024-10-17 18:35 觀網(wǎng)財(cái)經(jīng)-金融 -
?茅臺(tái)在香港降價(jià)千元?門店員工稱暫未接到通知
2024-10-17 18:04 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
成都將迎大規(guī)模拆遷?房小團(tuán)發(fā)布澄清聲明
2024-10-17 16:23 觀網(wǎng)財(cái)經(jīng)-房產(chǎn)
相關(guān)推薦 -
全國(guó)最大!哈密百萬千瓦“光熱+光伏”項(xiàng)目并網(wǎng)發(fā)電 評(píng)論 37“中國(guó)在非洲真正贏得了民心,就連斯威士蘭…” 評(píng)論 75“日企抱團(tuán)是絕望之舉,中國(guó)工廠效率質(zhì)量都是第一” 評(píng)論 123“她下月訪華,盡管特朗普?qǐng)F(tuán)隊(duì)表達(dá)了擔(dān)憂” 評(píng)論 54最新聞 Hot
-
“沙特曾多次警告德國(guó)提防嫌疑人”
-
特朗普最新任命!這次包括火箭隊(duì)老板、真人秀制作人
-
巴勒斯坦三個(gè)政治派別發(fā)表聯(lián)合聲明
-
“中國(guó)在非洲真正贏得了民心,就連斯威士蘭…”
-
“日企抱團(tuán)是絕望之舉,中國(guó)工廠效率質(zhì)量都是第一”
-
“中國(guó)有能力讓夢(mèng)想照進(jìn)現(xiàn)實(shí),將贏得史詩般競(jìng)爭(zhēng)”
-
被災(zāi)民暴罵到當(dāng)場(chǎng)破防,馬克龍發(fā)飆:你該慶幸你在法國(guó)!
-
美高校敦促國(guó)際學(xué)生抓緊回來:萬一把中印拉黑名單呢
-
美國(guó)政府“逃過一劫”
-
“澤連斯基要求歐盟新外長(zhǎng):對(duì)華批評(píng)要降調(diào)”
-
澳大利亞來了,中國(guó)就得走人?澳總理這么回應(yīng)
-
美媒感慨:基建狂魔發(fā)力,我們又要被超越了
-
英國(guó)剛公布新任大使,特朗普顧問就痛罵:傻X
-
“來自中國(guó)的老大哥能確保我們…”
-
俄羅斯的報(bào)復(fù)來了
-
澤連斯基罵普京“傻子”,俄方怒斥
-