文 | 吴三川

假张文宏深夜带货、假靳东迷倒一众大妈、假雷军辣评世间百态……最近一段时间，AI假名人轮番出没，再度引发深度伪造被滥用的热议。

AI诈骗并不新鲜。不过，正是因为如此，它更值得持续关注。毕竟，AI的技术演进速度非常快，如果监管的步伐不能跟上，其所带来的破坏力是难以想象的。以深度伪造（Deep Fake）为例，早期这项技术多少有一些门槛，如今不少开源或免费工具能以很低的成本批量生成内容。另据《2024人工智能安全报告》，2023年基于AI的深度伪造欺诈增长了3000%，仅今年上半年，AI诈骗案案值已超过1.85亿元。

“张文宏”深夜带货，就是很有代表性的治理难题。比如，利用AI技术合成的“张文宏”，和电视机上出现的张文宏，对一些老人来说并无二致，容易让人信以为真，甚至在名人光环加持下不断扩散。尽管合成视频并非毫无破绽，但如果没有进行过专业训练，也并非一眼就能识破，更不必说，AI能以假乱真到这种程度，已经超出了他们的日常认知。然而，据张文宏本人回应，这样的卖货账号已出现多个，而且一直在变，他多次向平台投诉，但都收效甚微。

难道正主还奈何不了“李鬼”？不得不说，和其他形式的网络侵权一样，AI仿冒名人同样具有隐蔽性强、危害大、取证难的特征。一方面，它不仅涉嫌侵犯肖像权、名誉权和隐私权，还可能构成消费欺诈。另一方面，要证明侵权违法事实存在，形成完整的证据链，需经过复杂的鉴定程序，这难免动摇一些人的维权决心。

这需要多方合力破解。从法律层面来看，《互联网信息服务深度合成管理规定》明确指出，使用人脸生成、人脸替换、合成人声等技术时，应有显著标识，以免公众混淆。据消费者权益保护法，经营者提供商品或者服务有欺诈行为的，应当假一赔三。相关部门应加大查处力度，形成有力震慑。除此之外，为了降低维权和治理成本，不妨尝试建立统一的司法鉴定标准，进一步明确AI换脸技术的使用规范和违法界限。

用技术打败技术的思路，对平台同样适用。有专家表示，除非作品是在本平台用AI方式完成，否则短视频平台目前无法判定它是不是AI合成。对此，平台应肩负起主体责任，加大技术研发投入，优化管理流程，堵住相关漏洞，对滥用AI合成的账号动一番真格。最近，对AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，某平台发布公告，累计关闭账号超200个，公开了四个典型案例，并针对相关情况开展专项治理。这些举措亮明了态度，同时也为监管部门顺藤摸瓜、深度治理创造了条件。

从“魔改经典”到“欺世盗脸”，AI再好用也不可滥用。这是技术时代的应有共识，也是事关你我的共同课题。

【作者】 高维

南方评论