1月13日，抖音發(fā)布“2024網(wǎng)絡(luò)黑產(chǎn)治理盤(pán)點(diǎn)”。

盤(pán)點(diǎn)內(nèi)容顯示，過(guò)去一年，該平臺(tái)持續(xù)打擊網(wǎng)絡(luò)黑色產(chǎn)業(yè)鏈，通過(guò)升級(jí)AI大模型技術(shù)、迭代風(fēng)控策略、優(yōu)化舉報(bào)機(jī)制等系列舉措，加強(qiáng)對(duì)網(wǎng)絡(luò)黑產(chǎn)的識(shí)別和治理能力，共計(jì)封禁欺詐、水軍和違規(guī)導(dǎo)流相關(guān)黑產(chǎn)賬號(hào)超600萬(wàn)個(gè)。

在攔截欺詐信息方面，抖音統(tǒng)計(jì)發(fā)現(xiàn)，2024年，仿冒領(lǐng)導(dǎo)、親友、官方客服和刷單詐騙、購(gòu)物詐騙是最受關(guān)注的欺詐類(lèi)型。

對(duì)此，平臺(tái)根據(jù)黑產(chǎn)作弊鏈路，在評(píng)論、建群、拉人等多個(gè)場(chǎng)景阻斷黑產(chǎn)觸達(dá)受害者，上線反詐客服“驗(yàn)證助手”，并根據(jù)黑產(chǎn)的特征每月迭代反詐策略200個(gè)以上，在站內(nèi)外多個(gè)渠道發(fā)送反詐提醒，日均保護(hù)潛在受害人200萬(wàn)次。去年，警方根據(jù)抖音提供的線索，打擊詐騙團(tuán)伙69個(gè)，抓獲犯罪嫌疑人451名。

在識(shí)別網(wǎng)絡(luò)水軍方面，去年抖音搭建了刷手、買(mǎi)手用戶模型，精準(zhǔn)識(shí)別風(fēng)險(xiǎn)賬號(hào)，并實(shí)施攔截異常操作，阻斷水軍造假途徑；通過(guò)大模型技術(shù)提升識(shí)別能力，對(duì)機(jī)器賬號(hào)和受騙用戶差異化處置。

一年來(lái)，抖音日均攔截違規(guī)信息6200萬(wàn)次，共封禁賬號(hào)110萬(wàn)個(gè)，并將涉嫌違法行為的線索上報(bào)相關(guān)部門(mén)。過(guò)去一年，根據(jù)抖音提供的線索，警方抓獲水軍黑產(chǎn)犯罪嫌疑人90名。

除了欺詐和水軍，黑產(chǎn)集中的另一方向是違規(guī)外鏈。黑產(chǎn)組織通過(guò)作弊手段繞過(guò)平臺(tái)風(fēng)控策略，在多種渠道插入二維碼、聯(lián)系方式、圖片、網(wǎng)址等，引導(dǎo)用戶點(diǎn)擊跳轉(zhuǎn)至第三方違規(guī)、違法網(wǎng)站。

為應(yīng)對(duì)黑產(chǎn)新手法，抖音風(fēng)控團(tuán)隊(duì)在前置識(shí)別的基礎(chǔ)上，新增了自動(dòng)黑樣本庫(kù)，通過(guò)AI技術(shù)可自動(dòng)識(shí)別、歸類(lèi)違規(guī)行為并進(jìn)行處置；結(jié)合黑產(chǎn)行為模式，升級(jí)視頻截取關(guān)鍵幀模型能力；新增彈幕場(chǎng)景模型，有效運(yùn)行該場(chǎng)景的違規(guī)攔截策略。

2024年，抖音封禁黑產(chǎn)相關(guān)違規(guī)賬號(hào)超120萬(wàn)個(gè)，同時(shí)警方根據(jù)抖音提供的線索，打擊違規(guī)導(dǎo)流團(tuán)伙8個(gè)，抓獲嫌疑人40名。

本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。