提升AI治理能力，抖音一季度封禁涉水军、欺诈等黑产账号260万个

4月22日，抖音发布《2025第一季度黑产治理数据报告》。据公开数据显示，自2025年以来，抖音持续加强对黑色产业链的打击，随着AI能力在治理场景的深度利用，平台在黑产违规场景的巡检、预警、研判等环节的效率都获得了大幅提升。

今年第一季度，抖音封禁水军、欺诈和违规导流相关黑产账号260万个，并将涉嫌违法犯罪的线索上报有关部门。

搭建AI智能体，网络水军巡检效率提升10倍

今年以来，抖音风险治理团队在大模型基础上，以“AI能力”为核心，构建覆盖风险感知、智能决策、闭环处置的治理体系，系统性提升AI在复杂场景下的风险治理应用，单个案例的处理时间达秒级，各环节运行综合准确率达到85%以上。

以网络水军治理为例，虽然在长时间的治理中平台已经有了一套流程并完成了部分内容自动化运行，但日常的研判、回扫等工作仍以人工处置为主。随着大模型的发展，工作人员借用AI能力搭建出不同的智能机器人工具，在风险发现、风险预警、线上巡检、风险研判、风险回扫等多个环节实现线上自动运营。尤其在“刷量”的识别和处置上，人工智能极大提高了处置链路的效率，不仅能3分钟内完成自动研判，且准确率高达95%以上。

在今年第一季度的试运行中，平台网络水军服务违规的巡检效率提升了10.25倍，日均拦截违规请求6000万次，封禁水军账号超20万个。

加强欺诈安全提醒，每日发送反诈短信超80万条

本季度，仿冒抖音客服的诈骗套路仍在升级、变化。

抖音持续在多个产品页面强化反诈提醒，并升级“验证助手”工具，用户可输入电话、短信、网址等验证相关信息是否来自抖音官方，并查看官方客服与自己的联系记录，日均保护此类诈骗潜在受害人5万名。同时，用户也可直接拨打95152进行核实。

此外，虚假人设和交易导流诈骗，也是今年以来黑产团伙重点开展的诈骗手段。诈骗分子用虚假人设以交友、赚钱等噱头，或以私下交易为由，将用户引导至其他平台，诱导其下载第三方软件实施诈骗。因诈骗行为大多发生在非公共流域，并涉及多个平台，平台的治理难度也随之增加。

抖音反诈中心工作人员提醒，请勿轻信陌生人邀请您去第三方平台“交友”“赚钱”的信息，私聊请注意保护财产安全，不要留下电话等隐私信息，如遇上述违规行为可第一时间向平台举报。

今年一季度，抖音进一步完善了仿冒、购物、刷单、交友等多个场景的安全模型，重点解决小众聊天场景下诈骗问题，并结合海外IP、异常关注、频繁催更等行为进行识别并防范易受骗人群被高危用户欺诈。针对杀猪盘、色情导流交易等高危场景，加大短信、电话外呼等用户提醒功能。

2025年至今，抖音共封禁欺诈相关账号140万个，每日下发提醒短信超80万条，拨打反诈预警电话近17万次。

建立多账号链路识别体系，阻断违规外链导流风险

今年以来，违规导流手段呈现出多链路特点。不同于单账号作弊，平台只需识别到违规内容，即可精准对账号做出处罚；多链路手段下，黑产团伙在投稿、评论、用户资料、弹幕等场景利用多个账号配合操作，平台需把链路上的每一个账号、每一个违规导流信息都进行定位、分析、整理，才能保证处罚合理合规并减少遗漏。仅靠人工，很难回溯出完整的黑产链条。

为了解决此类难题，抖音平台搭建了多个账号长链路的风险识别体系，从事前、事中、事后等多个环节切断黑产账号之间联系并将违规账号统一处置，同时结合大模型对于内容理解的优势，自动梳理黑产链路的每个环节并识别出关键证据进行保存。在AI技术的深度运用下，一季度站内相关违规的举报量下降了73.3%，平台封禁导流违规账号近100万个，处置违规视频内容745万条，并将线索上报相关部门，配合打击违规导流团伙。