文|朱晓帆

最近，有网友发消息称，“张文宏是不是带货了？”视频中，张文宏在卖一种蛋白棒，让不少老人信以为真，疯狂跟单。

仔细看网友提供的视频，张文宏正在反复介绍一种产品，口型是他的、声音也是他的，乍一看跟真的似的。但仔细一看，视频画质潦草、口型也对不太上，对AI多少有一些了解的人们可以分辨出来，这是AI合成的视频，但互联网了解不深的老年人的确不好甄别真伪。这段视频也在网友曝光后，从账号内被删除，只剩商品橱窗里还保留着售卖的页面，并显示已售1180件商品。

当下，AI合成技术已经非常成熟且已被频繁应用在短视频制作中。调取一段录像，输入一段语音，便能提取克隆相关的嗓音特质，并针对“自行设计”的台词，智能修改口型。一段足以“以假乱真”的“带货”视频，再加上张文宏的名人效应，其形象和言论具有一定的权威性和影响力，让不少消费者信以为真。

对此，张文宏医生也表示既愤怒又无奈。他曾多次向平台投诉类似账号，但这样的卖货账号不止一个，且一直在换，让人筋疲力尽。“这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。”不难想象，受害者们发现真相后的沮丧与失落。

在类似的AI合成冒充名人的骗局中，上当者比比皆是。据报道，今年11月，江西一位老人到银行办理业务，声称要贷款200万元给男朋友“靳东”拍戏。经调查发现，老人手机里的“靳东”出自由AI合成的视频；今年10月，老牌港星黄百鸣通过社交媒体郑重声明，有人盗用其过去影片，利用AI替换声音，代言一个不知名的药膏品牌；更有甚者，已然过世的名人，也有被“借尸还魂”带货的……

在AI技术面前，“眼见为实”“有图有真相”的常规认知正在被挑战，人们对于网络信息传播的信任感也在被挑战。一些由AI合成的虚假视频内容，成为别有用心之人的造谣敛财工具，不仅影响着公众人物的专业形象和社会公信力，更破坏了互联网的诚信体系。

《中国互联网络发展状况统计报告》显示，截至2024年6月，我国网民规模近11亿人。快速发展的AI技术带来了相关信息的爆炸式增长，网民的媒介素养良莠不齐，造成了AI信息甄别困难。因此，治理也应当提速，跟上技术发展的步伐。2023年，国家网信办等七部门联合发文了《生成式人工智能服务管理暂行办法》，今年9月，国家网信办就人工智能生成合成内容标识办法公开征求意见，但也要看到，通过造假获取的收益大于受到惩处的风险与成本，才让这样的风气屡禁不止。

在加大对AI造假行为的打击力度之外，强化平台的责任、提升公众的媒介素养和自我保护意识也至关重要。建立一个健康的网络生态体系，是大家最朴素的愿望，也需要多方共同努力。

来源：光明日报