4月22日，抖音發(fā)布《2025第一季度黑產(chǎn)治理數(shù)據(jù)報(bào)告》。據(jù)公開(kāi)數(shù)據(jù)顯示，自2025年以來(lái)，抖音持續(xù)加強(qiáng)對(duì)黑色產(chǎn)業(yè)鏈的打擊，隨著AI能力在治理場(chǎng)景的深度利用，平臺(tái)在黑產(chǎn)違規(guī)場(chǎng)景的巡檢、預(yù)警、研判等環(huán)節(jié)的效率都獲得了大幅提升。
今年第一季度，抖音封禁水軍、欺詐和違規(guī)導(dǎo)流相關(guān)黑產(chǎn)賬號(hào)260萬(wàn)個(gè)，并將涉嫌違法犯罪的線索上報(bào)有關(guān)部門(mén)。
搭建AI智能體，網(wǎng)絡(luò)水軍巡檢效率提升10倍
今年以來(lái)，抖音風(fēng)險(xiǎn)治理團(tuán)隊(duì)在大模型基礎(chǔ)上，以“AI能力”為核心，構(gòu)建覆蓋風(fēng)險(xiǎn)感知、智能決策、閉環(huán)處置的治理體系，系統(tǒng)性提升AI在復(fù)雜場(chǎng)景下的風(fēng)險(xiǎn)治理應(yīng)用，單個(gè)案例的處理時(shí)間達(dá)秒級(jí)，各環(huán)節(jié)運(yùn)行綜合準(zhǔn)確率達(dá)到85%以上。
以網(wǎng)絡(luò)水軍治理為例，雖然在長(zhǎng)時(shí)間的治理中平臺(tái)已經(jīng)有了一套流程并完成了部分內(nèi)容自動(dòng)化運(yùn)行，但日常的研判、回掃等工作仍以人工處置為主。隨著大模型的發(fā)展，工作人員借用AI能力搭建出不同的智能機(jī)器人工具，在風(fēng)險(xiǎn)發(fā)現(xiàn)、風(fēng)險(xiǎn)預(yù)警、線上巡檢、風(fēng)險(xiǎn)研判、風(fēng)險(xiǎn)回掃等多個(gè)環(huán)節(jié)實(shí)現(xiàn)線上自動(dòng)運(yùn)營(yíng)。尤其在“刷量”的識(shí)別和處置上，人工智能極大提高了處置鏈路的效率，不僅能3分鐘內(nèi)完成自動(dòng)研判，且準(zhǔn)確率高達(dá)95%以上。
在今年第一季度的試運(yùn)行中，平臺(tái)網(wǎng)絡(luò)水軍服務(wù)違規(guī)的巡檢效率提升了10.25倍，日均攔截違規(guī)請(qǐng)求6000萬(wàn)次，封禁水軍賬號(hào)超20萬(wàn)個(gè)。
加強(qiáng)欺詐安全提醒，每日發(fā)送反詐短信超80萬(wàn)條
本季度，仿冒抖音客服的詐騙套路仍在升級(jí)、變化。
抖音持續(xù)在多個(gè)產(chǎn)品頁(yè)面強(qiáng)化反詐提醒，并升級(jí)“驗(yàn)證助手”工具，用戶可輸入電話、短信、網(wǎng)址等驗(yàn)證相關(guān)信息是否來(lái)自抖音官方，并查看官方客服與自己的聯(lián)系記錄，日均保護(hù)此類詐騙潛在受害人5萬(wàn)名。同時(shí)，用戶也可直接撥打95152進(jìn)行核實(shí)。
此外，虛假人設(shè)和交易導(dǎo)流詐騙，也是今年以來(lái)黑產(chǎn)團(tuán)伙重點(diǎn)開(kāi)展的詐騙手段。詐騙分子用虛假人設(shè)以交友、賺錢(qián)等噱頭，或以私下交易為由，將用戶引導(dǎo)至其他平臺(tái)，誘導(dǎo)其下載第三方軟件實(shí)施詐騙。因詐騙行為大多發(fā)生在非公共流域，并涉及多個(gè)平臺(tái)，平臺(tái)的治理難度也隨之增加。
抖音反詐中心工作人員提醒，請(qǐng)勿輕信陌生人邀請(qǐng)您去第三方平臺(tái)“交友”“賺錢(qián)”的信息，私聊請(qǐng)注意保護(hù)財(cái)產(chǎn)安全，不要留下電話等隱私信息，如遇上述違規(guī)行為可第一時(shí)間向平臺(tái)舉報(bào)。
今年一季度，抖音進(jìn)一步完善了仿冒、購(gòu)物、刷單、交友等多個(gè)場(chǎng)景的安全模型，重點(diǎn)解決小眾聊天場(chǎng)景下詐騙問(wèn)題，并結(jié)合海外IP、異常關(guān)注、頻繁催更等行為進(jìn)行識(shí)別并防范易受騙人群被高危用戶欺詐。針對(duì)殺豬盤(pán)、色情導(dǎo)流交易等高危場(chǎng)景，加大短信、電話外呼等用戶提醒功能。
2025年至今，抖音共封禁欺詐相關(guān)賬號(hào)140萬(wàn)個(gè)，每日下發(fā)提醒短信超80萬(wàn)條，撥打反詐預(yù)警電話近17萬(wàn)次。
建立多賬號(hào)鏈路識(shí)別體系，阻斷違規(guī)外鏈導(dǎo)流風(fēng)險(xiǎn)
今年以來(lái)，違規(guī)導(dǎo)流手段呈現(xiàn)出多鏈路特點(diǎn)。不同于單賬號(hào)作弊，平臺(tái)只需識(shí)別到違規(guī)內(nèi)容，即可精準(zhǔn)對(duì)賬號(hào)做出處罰；多鏈路手段下，黑產(chǎn)團(tuán)伙在投稿、評(píng)論、用戶資料、彈幕等場(chǎng)景利用多個(gè)賬號(hào)配合操作，平臺(tái)需把鏈路上的每一個(gè)賬號(hào)、每一個(gè)違規(guī)導(dǎo)流信息都進(jìn)行定位、分析、整理，才能保證處罰合理合規(guī)并減少遺漏。僅靠人工，很難回溯出完整的黑產(chǎn)鏈條。
為了解決此類難題，抖音平臺(tái)搭建了多個(gè)賬號(hào)長(zhǎng)鏈路的風(fēng)險(xiǎn)識(shí)別體系，從事前、事中、事后等多個(gè)環(huán)節(jié)切斷黑產(chǎn)賬號(hào)之間聯(lián)系并將違規(guī)賬號(hào)統(tǒng)一處置，同時(shí)結(jié)合大模型對(duì)于內(nèi)容理解的優(yōu)勢(shì)，自動(dòng)梳理黑產(chǎn)鏈路的每個(gè)環(huán)節(jié)并識(shí)別出關(guān)鍵證據(jù)進(jìn)行保存。在AI技術(shù)的深度運(yùn)用下，一季度站內(nèi)相關(guān)違規(guī)的舉報(bào)量下降了73.3%，平臺(tái)封禁導(dǎo)流違規(guī)賬號(hào)近100萬(wàn)個(gè)，處置違規(guī)視頻內(nèi)容745萬(wàn)條，并將線索上報(bào)相關(guān)部門(mén)，配合打擊違規(guī)導(dǎo)流團(tuán)伙。
