张文宏遭遇“AI换脸”,虚假带货必须受严惩
创始人
2024-12-13 21:43:09
0次

图片来源:视觉中国

知名传染病学专家张文宏,竟然在深夜直播,大肆推销某个牌子的蛋白棒?事实上,这些场景与张文宏本人没有任何关系,可以说纯属伪造。近日,据媒体报道,网上有无良商家通过AI换脸、合成人声等手段,将张文宏的面容与声音移花接木,用于直播带货,让不少消费者落入彀中。

面对这些明目张胆的侵权行为,张文宏在接受采访时表示:“这样的卖货账号不止一个,且一直在变,我多次向平台投诉但屡禁不绝。很多不明真相的老百姓、特别是有些对AI不是很熟悉的、年纪较大的市民,就很容易相信。”除此之外,张文宏也考虑求助警方,但对方看不见、摸不着,经常更换账号,很难找到准确的报警对象。对此,上海市消保委副秘书长唐健盛认为,这种做法非常恶劣,已经构成了对消费者的欺诈,相关监管部门应对其予以严厉处罚。

近年来,直播带货的形式越来普及,也越来越受欢迎。就行业格局而言,直播带货界已经从以少数头部主播为主,发展到了人人可播、处处可播,各个平台“全覆盖”的阶段。一方面,这是电子商务繁荣发展、进一步深耕下沉市场的体现,但另一方面,这也使得直播带货领域泥沙俱下、鱼龙混杂,出现了诸多不利于消费者权益的乱象。其中,以次充好、出售假冒伪劣商品的有之,制造人设、编造话术忽悠观众的有之,像这次一样,用AI工具伪托名人出来带货的亦有之。事实上,张文宏早已不是这种“套路”的第一个伪造对象,恐怕也不会是最后一个。

新兴技术的发展,本身是一件好事。不论是直播,还是AI,单独看来都给广大网民带来了诸多便利。但是,技术发展太快,有时也会为心术不正者提供新的“坑人”手段,而制度的约束又不能很快跟上技术进步的步伐,于是就会出现暂时性的监管盲区。

当前,“AI换脸”技术才刚刚普及不久,其可能侵犯名人肖像权、欺骗消费者的情况,尚未得到针对性的约束,目前平台也还没有太好的识别方案,这才导致这种骗人的直播间总能见缝插针,找机会就播,如果一个号被封了,就换号再来。也正因如此,才会出现张文宏口中找不到“报警对象”的情况。

总的来说,这种假托名人形象带货的做法,之所以一直存在,根本原因就在于通过造假获取的收益,大于受到惩处的风险与成本。因此,从有关部门到网络平台,加大对这类行为的打击力度,使其付出更沉重的代价,是最核心的治理对策。虽然针对“AI换脸”的相关规范仍需进一步完善,但是,即便只看现有的法律法规,盗用他人肖像、姓名,在推销商品时进行虚假宣传,都属违法行为。对此,有关部门不妨拿起法律武器,对其予以更严肃的追究,在封禁违规账号之外,通过罚款、勒令停业等处罚,直接查办操弄这些手段的经营主体。平台也应在这一过程中积极配合,让造假者无法藏身于众多虚拟账号的“掩护”之下,不得不直面其侵权行为造成的后果。

有人说,互联网时代,人与人之间的信任是最宝贵的东西。其中原因,便在于有太多因素影响着网上信息的真实性。为了建立更理想的网络空间,让网络环境变得可信是十分重要的一环,这样人们才能放心地通过网络交流、交易,互通有无。在这条路上,滥用“AI换脸”伪装他人的现象,是必须消灭的一个“拦路虎”。

相关内容

热门资讯

国产大模型下调推理服务价格,南... 近日,国内某大模型企业宣布下调其flash系列模型服务价格,输入缓存命中、输入缓存未命中及输出价格最...
解码青年人AI生活《2026有... 中新网深圳9月5日电(记者索有为)《2026有意思生活方式报告》(下称《报告》)4日在全国首个有意思...
OpenAI 最强 AI 生图... 9月9日消息,OpenAI 9 月 9 日官宣发布 ChatGPT Images 2.5,图像生成延...
探索AI供应链产业化路径京东推... 2026年以来,人工智能应用范围加速拓展,持续从数字空间走向现实生活,广泛融入生产线、仓储厂房、配送...
教育部发文!AI生成内容,教师... 一篇论文,因为AI使用不当,相关高校师生被通报处理。 9月2日,安徽财经大学公布“教师与学生涉嫌学术...
AI识别出近800种可充当乳化... 英国利兹大学食品科学与营养学院和爱丁堡大学科学家携手,开发出一款 人工智能(AI)工具,能从数千万种...
搭上低空经济、AI文旅?两连板... 桂林旅游(000978)回应市场热点。 9月8日,桂林旅游再度涨停,斩获2连板。当天晚间,该公司披露...
硅谷:我们不能被硅谷“AI刹车... 【文/底线思维】 OpenAI首席科学家Jakub Pachocki最近写了一篇文章,题目叫《An ...