张文宏遭遇“AI换脸”,虚假带货必须受严惩
创始人
2024-12-13 21:43:09
0

图片来源:视觉中国

知名传染病学专家张文宏,竟然在深夜直播,大肆推销某个牌子的蛋白棒?事实上,这些场景与张文宏本人没有任何关系,可以说纯属伪造。近日,据媒体报道,网上有无良商家通过AI换脸、合成人声等手段,将张文宏的面容与声音移花接木,用于直播带货,让不少消费者落入彀中。

面对这些明目张胆的侵权行为,张文宏在接受采访时表示:“这样的卖货账号不止一个,且一直在变,我多次向平台投诉但屡禁不绝。很多不明真相的老百姓、特别是有些对AI不是很熟悉的、年纪较大的市民,就很容易相信。”除此之外,张文宏也考虑求助警方,但对方看不见、摸不着,经常更换账号,很难找到准确的报警对象。对此,上海市消保委副秘书长唐健盛认为,这种做法非常恶劣,已经构成了对消费者的欺诈,相关监管部门应对其予以严厉处罚。

近年来,直播带货的形式越来普及,也越来越受欢迎。就行业格局而言,直播带货界已经从以少数头部主播为主,发展到了人人可播、处处可播,各个平台“全覆盖”的阶段。一方面,这是电子商务繁荣发展、进一步深耕下沉市场的体现,但另一方面,这也使得直播带货领域泥沙俱下、鱼龙混杂,出现了诸多不利于消费者权益的乱象。其中,以次充好、出售假冒伪劣商品的有之,制造人设、编造话术忽悠观众的有之,像这次一样,用AI工具伪托名人出来带货的亦有之。事实上,张文宏早已不是这种“套路”的第一个伪造对象,恐怕也不会是最后一个。

新兴技术的发展,本身是一件好事。不论是直播,还是AI,单独看来都给广大网民带来了诸多便利。但是,技术发展太快,有时也会为心术不正者提供新的“坑人”手段,而制度的约束又不能很快跟上技术进步的步伐,于是就会出现暂时性的监管盲区。

当前,“AI换脸”技术才刚刚普及不久,其可能侵犯名人肖像权、欺骗消费者的情况,尚未得到针对性的约束,目前平台也还没有太好的识别方案,这才导致这种骗人的直播间总能见缝插针,找机会就播,如果一个号被封了,就换号再来。也正因如此,才会出现张文宏口中找不到“报警对象”的情况。

总的来说,这种假托名人形象带货的做法,之所以一直存在,根本原因就在于通过造假获取的收益,大于受到惩处的风险与成本。因此,从有关部门到网络平台,加大对这类行为的打击力度,使其付出更沉重的代价,是最核心的治理对策。虽然针对“AI换脸”的相关规范仍需进一步完善,但是,即便只看现有的法律法规,盗用他人肖像、姓名,在推销商品时进行虚假宣传,都属违法行为。对此,有关部门不妨拿起法律武器,对其予以更严肃的追究,在封禁违规账号之外,通过罚款、勒令停业等处罚,直接查办操弄这些手段的经营主体。平台也应在这一过程中积极配合,让造假者无法藏身于众多虚拟账号的“掩护”之下,不得不直面其侵权行为造成的后果。

有人说,互联网时代,人与人之间的信任是最宝贵的东西。其中原因,便在于有太多因素影响着网上信息的真实性。为了建立更理想的网络空间,让网络环境变得可信是十分重要的一环,这样人们才能放心地通过网络交流、交易,互通有无。在这条路上,滥用“AI换脸”伪装他人的现象,是必须消灭的一个“拦路虎”。

相关内容

行进中国|AI+鸿蒙 共建...
人民网“行进中国”湖南调研采访团 拓维信息推进“AI+鸿蒙”战略...
2025-07-05 06:12:34
百度AI岗扩招超六成
本报讯(记者 孙奇茹)记者昨日获悉,“百度AIDU计划”招聘岗位近...
2025-07-05 06:10:46
中企利用AI技术提升医疗保...
参考消息网7月4日报道据美国消费者新闻与商业频道网站6月26日报道...
2025-07-04 21:42:16
拥抱AI:开放与理性|如何...
7月4日,2025亚布力论坛第十一届创新年会在浙江杭州圆满举行。在...
2025-07-04 21:42:04
卓易信息:通过多智能体协作...
证券之星消息,卓易信息(688258)07月04日在投资者关系平台...
2025-07-04 18:13:00
日媒赞叹:中国正低调打造一...
【文/观察者网 王一】“中国提供社会福利的方式发生了一种悄无声息但...
2025-07-04 18:11:58

热门资讯

原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...