抖音集团张莹:以AI技术构建反诈体系,筑牢平台安全防线
创始人
2025-10-01 10:18:45
0次

通信世界网消息(CWW)9月25日,智创“新”北京暨2025(第二十二届)北京互联网大会在京举办。抖音集团反诈治理专项负责人张莹出席大会并发表了题为《抖音反诈AI探索与实践》的精彩演讲。她在演讲中谈道:“抖音基于自研的大模型基座,建立‘召回—识别—研判’的反欺诈用户模型架构,运用文本、图片、视频、行为等多维度信息构建多模态大模型,欺诈识别效果得到了显著提升;同时建设小样本模型智能生成平台,内置大模型能力,模型训练时效性从周级别减少至小时级别,大大降低模型训练门槛,提高线上对抗效率。”

抖音集团反诈治理专项负责人 张莹

当前面临端外与端内两大诈骗场景

当前诈骗场景复杂多变,且诈骗技术持续升级,给抖音的反诈工作带来多重压力,主要体现在场景多样与技术对抗两方面。

从诈骗场景来看,可分为端外与端内两类。在端外诈骗中,冒充客服是典型诈骗类型,此类诈骗不仅成本极低,且变体繁多、更新速度快,行为链路发生在抖音APP外。更值得警惕的是,原本易被识别的境外诈骗电话,已逐渐转为境内号码拨打,大幅降低了用户的辨别难度,中老年群体因防范意识相对薄弱,成为主要受害对象,一旦受骗,可能导致毕生积蓄损失,甚至引发家庭悲剧;此外,仿冒公职人员身份、伪造虚假APP及机构名称等传统端外诈骗形式也依然存在。

端内诈骗则涵盖刷单引流、交友、购物、招工等多种类型,部分诈骗分子还会通过在抖音站内发布任务,引导用户跳转至第三方 APP 或小程序实施诈骗,给平台的审核与防控工作带来极大阻碍。

此外,张莹介绍,在技术对抗层面,借助AI内容创作工具,诈骗内容生成更便捷,且作弊手法更隐蔽;黑灰产用户会伪装成普通用户,通过建立信任关系引导他人跳转至境外小程序实施诈骗;同时,诈骗行为多出现在跨平台场景,还会利用自动化攻击与智能代理网络基建搭建假网站,进一步增加了反诈工作的难度。

端内外欺诈治理双管齐下 成效显著

针对上述挑战,张莹表示,抖音成立了反诈专项工作组,聚焦关键痛点开展攻坚,通过技术创新构建起全方位的反诈治理体系,并取得显著成效。

在治理办法上,抖音重点围绕冒充客服场景与端内诈骗场景推进工作。在冒充客服场景中,平台开发了验证助手工具,并结合AI大模型能力,打造从识别到阻断的全流程防护。用户在抖音“我的客服”板块可使用验证助手,验证官方账号、邮箱、短信、客服等信息,辅助用户辨别真伪;若系统识别到用户存在高风险,会触发人工客服实时触达,提示风险并进行阻断。同时,平台推出官方动态验证口令机制,当官方客服来电时,会向用户发送动态码用于身份验证,还会同步展示官方联系记录,增强用户对官方客服沟通的心智与安全感。

此外,抖音与通管局、运营商等协同共治,明确“95152”为统一官方服务热线,实现官方来电统一验证。在端内诈骗治理中,平台自研AI大模型,通过搭建四层标签体系提升风险识别效率,同时利用海量风险数据构建小模型智能生成平台,将模型训练反馈周期从周级缩短至小时级;借助豆包、COZE平台及DeepSeek能力搭建的智能Agent模型,还实现了诈骗线索的全自动研判与结构化呈现。

在治理成效方面,经过近三个月的专项治理,抖音成功将冒充客服及端内诈骗风险降至低水位线,有效前置识别并拦截了大量风险信息,其中冒充客服场景的风险阻断率超过98%,成功劝阻众多潜在受害用户。

张莹表示,未来,抖音将继续深化与相关部门的协同共治,整合资源、形成合力,探索电话语义识别等前置阻断技术,持续履行企业社会责任,为用户营造安全的平台环境。

相关内容

热门资讯

国产大模型下调推理服务价格,南... 近日,国内某大模型企业宣布下调其flash系列模型服务价格,输入缓存命中、输入缓存未命中及输出价格最...
解码青年人AI生活《2026有... 中新网深圳9月5日电(记者索有为)《2026有意思生活方式报告》(下称《报告》)4日在全国首个有意思...
OpenAI 最强 AI 生图... 9月9日消息,OpenAI 9 月 9 日官宣发布 ChatGPT Images 2.5,图像生成延...
探索AI供应链产业化路径京东推... 2026年以来,人工智能应用范围加速拓展,持续从数字空间走向现实生活,广泛融入生产线、仓储厂房、配送...
教育部发文!AI生成内容,教师... 一篇论文,因为AI使用不当,相关高校师生被通报处理。 9月2日,安徽财经大学公布“教师与学生涉嫌学术...
AI识别出近800种可充当乳化... 英国利兹大学食品科学与营养学院和爱丁堡大学科学家携手,开发出一款 人工智能(AI)工具,能从数千万种...
搭上低空经济、AI文旅?两连板... 桂林旅游(000978)回应市场热点。 9月8日,桂林旅游再度涨停,斩获2连板。当天晚间,该公司披露...
硅谷:我们不能被硅谷“AI刹车... 【文/底线思维】 OpenAI首席科学家Jakub Pachocki最近写了一篇文章,题目叫《An ...