张文宏遭遇“AI换脸”,虚假带货必须受严惩
创始人
2024-12-13 21:43:09
0

图片来源:视觉中国

知名传染病学专家张文宏,竟然在深夜直播,大肆推销某个牌子的蛋白棒?事实上,这些场景与张文宏本人没有任何关系,可以说纯属伪造。近日,据媒体报道,网上有无良商家通过AI换脸、合成人声等手段,将张文宏的面容与声音移花接木,用于直播带货,让不少消费者落入彀中。

面对这些明目张胆的侵权行为,张文宏在接受采访时表示:“这样的卖货账号不止一个,且一直在变,我多次向平台投诉但屡禁不绝。很多不明真相的老百姓、特别是有些对AI不是很熟悉的、年纪较大的市民,就很容易相信。”除此之外,张文宏也考虑求助警方,但对方看不见、摸不着,经常更换账号,很难找到准确的报警对象。对此,上海市消保委副秘书长唐健盛认为,这种做法非常恶劣,已经构成了对消费者的欺诈,相关监管部门应对其予以严厉处罚。

近年来,直播带货的形式越来普及,也越来越受欢迎。就行业格局而言,直播带货界已经从以少数头部主播为主,发展到了人人可播、处处可播,各个平台“全覆盖”的阶段。一方面,这是电子商务繁荣发展、进一步深耕下沉市场的体现,但另一方面,这也使得直播带货领域泥沙俱下、鱼龙混杂,出现了诸多不利于消费者权益的乱象。其中,以次充好、出售假冒伪劣商品的有之,制造人设、编造话术忽悠观众的有之,像这次一样,用AI工具伪托名人出来带货的亦有之。事实上,张文宏早已不是这种“套路”的第一个伪造对象,恐怕也不会是最后一个。

新兴技术的发展,本身是一件好事。不论是直播,还是AI,单独看来都给广大网民带来了诸多便利。但是,技术发展太快,有时也会为心术不正者提供新的“坑人”手段,而制度的约束又不能很快跟上技术进步的步伐,于是就会出现暂时性的监管盲区。

当前,“AI换脸”技术才刚刚普及不久,其可能侵犯名人肖像权、欺骗消费者的情况,尚未得到针对性的约束,目前平台也还没有太好的识别方案,这才导致这种骗人的直播间总能见缝插针,找机会就播,如果一个号被封了,就换号再来。也正因如此,才会出现张文宏口中找不到“报警对象”的情况。

总的来说,这种假托名人形象带货的做法,之所以一直存在,根本原因就在于通过造假获取的收益,大于受到惩处的风险与成本。因此,从有关部门到网络平台,加大对这类行为的打击力度,使其付出更沉重的代价,是最核心的治理对策。虽然针对“AI换脸”的相关规范仍需进一步完善,但是,即便只看现有的法律法规,盗用他人肖像、姓名,在推销商品时进行虚假宣传,都属违法行为。对此,有关部门不妨拿起法律武器,对其予以更严肃的追究,在封禁违规账号之外,通过罚款、勒令停业等处罚,直接查办操弄这些手段的经营主体。平台也应在这一过程中积极配合,让造假者无法藏身于众多虚拟账号的“掩护”之下,不得不直面其侵权行为造成的后果。

有人说,互联网时代,人与人之间的信任是最宝贵的东西。其中原因,便在于有太多因素影响着网上信息的真实性。为了建立更理想的网络空间,让网络环境变得可信是十分重要的一环,这样人们才能放心地通过网络交流、交易,互通有无。在这条路上,滥用“AI换脸”伪装他人的现象,是必须消灭的一个“拦路虎”。

相关内容

中消协“618”消费维权报...
中国消费者协会(简称“中消协”)26日发布“618”消费维权舆情分...
2026-06-27 08:54:17
字节与Anthropic打...
文 | 最话FunTalk,作者 | 林书,编辑 | 刘宇翔 6...
2026-06-26 22:40:47
在Soul App,他们一...
1980年,英国技术哲学家大卫·科林格里奇在 《技术的社会控制》中...
2026-06-26 22:39:24
首个开源鸿蒙机器人操作系统...
6月26日,M-Robots开源社区在2026开放原子开源生态大会...
2026-06-26 22:36:34
曹操出行牵手上海人工智能研...
观点网讯:6月25日,曹操出行与上海人工智能研究院达成战略合作,正...
2026-06-26 18:44:30
从“用AI”到“造AI”:...
AI浪潮袭来已有数年。从最初的观望、焦虑,到后来的尝试、落地,再到...
2026-06-26 18:40:45

热门资讯

2024云栖大会|阿里云升级无... 北京商报讯(记者魏蔚)9月20日,阿里云无影AI云电脑在2024云栖大会上展出,该版本基于最新的终端...
MWC2025荣耀多款AI技术... 人民财讯3月6日电,2025世界移动通信大会(MWC 2025)上,荣耀MagicBook Pro ...
原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
摩尔线程发布AI算力笔记本MT... 钛媒体App 12月20日消息,摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
摩尔线程AI生图摩笔马良全新升... 快科技8月7日消息,作为国产GPU的杰出代表,摩尔线程在当下火爆的AIGC浪潮中也推出了自己的软硬一...
微软 Azure AI 语音服... IT之家 8 月 23 日消息,微软Azure AI 语音服务允许开发者构建多语言生成式 AI 语音...
谷歌打磨 Gemini AI ... IT之家 8 月 31 日消息,谷歌于 8 月 27 日发布博文,宣布旗下 Gemini AI 支持...
青云QingCloud Kub... 日前,青云科技宣布开源 Thanos 的企业级发行版 Whizard,为企业带来真正高可用、可扩展、...
Macos系统上一款强大的卸载... App Cleaner mac中文版是Mac os系统上一款强大 的mac卸载工具,以帮助您完全卸载...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...