“张文宏深夜带货”?不能让AI伪造肆意横行
创始人
2024-12-14 23:13:53
0

文|朱晓帆

最近,有网友发消息称,“张文宏是不是带货了?”视频中,张文宏在卖一种蛋白棒,让不少老人信以为真,疯狂跟单。

仔细看网友提供的视频,张文宏正在反复介绍一种产品,口型是他的、声音也是他的,乍一看跟真的似的。但仔细一看,视频画质潦草、口型也对不太上,对AI多少有一些了解的人们可以分辨出来,这是AI合成的视频,但互联网了解不深的老年人的确不好甄别真伪。这段视频也在网友曝光后,从账号内被删除,只剩商品橱窗里还保留着售卖的页面,并显示已售1180件商品。

当下,AI合成技术已经非常成熟且已被频繁应用在短视频制作中。调取一段录像,输入一段语音,便能提取克隆相关的嗓音特质,并针对“自行设计”的台词,智能修改口型。一段足以“以假乱真”的“带货”视频,再加上张文宏的名人效应,其形象和言论具有一定的权威性和影响力,让不少消费者信以为真。

对此,张文宏医生也表示既愤怒又无奈。他曾多次向平台投诉类似账号,但这样的卖货账号不止一个,且一直在换,让人筋疲力尽。“这些假的AI合成信息就像蝗灾一样,一次又一次发生,像漫天飞过来的蝗虫一样害人。”不难想象,受害者们发现真相后的沮丧与失落。

在类似的AI合成冒充名人的骗局中,上当者比比皆是。据报道,今年11月,江西一位老人到银行办理业务,声称要贷款200万元给男朋友“靳东”拍戏。经调查发现,老人手机里的“靳东”出自由AI合成的视频;今年10月,老牌港星黄百鸣通过社交媒体郑重声明,有人盗用其过去影片,利用AI替换声音,代言一个不知名的药膏品牌;更有甚者,已然过世的名人,也有被“借尸还魂”带货的……

在AI技术面前,“眼见为实”“有图有真相”的常规认知正在被挑战,人们对于网络信息传播的信任感也在被挑战。一些由AI合成的虚假视频内容,成为别有用心之人的造谣敛财工具,不仅影响着公众人物的专业形象和社会公信力,更破坏了互联网的诚信体系。

《中国互联网络发展状况统计报告》显示,截至2024年6月,我国网民规模近11亿人。快速发展的AI技术带来了相关信息的爆炸式增长,网民的媒介素养良莠不齐,造成了AI信息甄别困难。因此,治理也应当提速,跟上技术发展的步伐。2023年,国家网信办等七部门联合发文了《生成式人工智能服务管理暂行办法》,今年9月,国家网信办就人工智能生成合成内容标识办法公开征求意见,但也要看到,通过造假获取的收益大于受到惩处的风险与成本,才让这样的风气屡禁不止。

在加大对AI造假行为的打击力度之外,强化平台的责任、提升公众的媒介素养和自我保护意识也至关重要。建立一个健康的网络生态体系,是大家最朴素的愿望,也需要多方共同努力。

来源:光明日报

相关内容

文旅服务莫要过度依赖AI
今年全国两会期间,“人工智能+”被频频提及,具身智能等新概念引发热...
2025-03-16 07:42:04
一位投资人的硬核观察:被D...
编者按 2025年,腾讯科技联动AI浪潮的创新者,推出“AI未来指...
2025-03-15 22:43:16
交万元得到的炒股“内幕消息...
今天是3·15国际消费者权益日。近年来,在资本市场,虚假信息如暗流...
2025-03-15 22:42:55
FSD神话破灭?小鹏图灵A...
上市7分钟,大定5000台! 25款小鹏G6昨晚发布后就拿下了一个...
2025-03-15 20:43:41
315打假AI,蘑菇物联对...
随着DeepSeek等通用大模型技术的突破,AI在设备预测性维护、...
2025-03-15 20:42:16
“苏小保维权助手”来啦!江...
扬子晚报网3月15日讯(记者 薛玲 马燕)在刚刚结束的两会中,政府...
2025-03-15 18:40:58

热门资讯

原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
支持 AI 扩图,华为 Pur... 2024-07-28 09:05:02作者:姚立伟 华为Pura 70 Pro手机今日推出鸿蒙Ha...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
吞噬星空维妮娜美图/高清壁纸/... 国漫女神|《吞噬星空》维妮娜美图/高清壁纸/AI手机壁纸/无水印 国漫女神|《吞噬星空》维妮娜美图...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 商... 最近,各家的AI 9笔记本开始陆续登场,其实大家并不一定非选AI 9 HX 370,主要是这颗CPU...
AI智能+高效清洁!萤石RS2... 目前扫拖机器人市场的竞争非常激烈,在上下水扫拖一体机市场也出现了很多所谓的创新产品。但是对于这些产品...
2024年度中国银行业发展报告... 21世纪经济报道 记者李愿 北京报道 10月19日,中国银行业协会在2024金融街论坛年会·金融街之...