“假雷军” AI 闹剧:七天骂翻全网,警惕AI声音侵权红线
创始人
2024-10-11 13:31:27
0

国庆假期,短视频平台出现大量 “雷军” AI 配音的恶搞视频,话题浏览量过亿。视频中 “雷军” 言辞犀利、爆粗口,引发争议。这不仅涉及 AI 技术滥用,还可能侵犯了雷军的声音权益等知识产权,相关平台正逐步下架视频。

“国庆上网被雷军骂了整整7天”?

国庆假期期间,短视频平台上出现了大量 “雷军 AI 配音” 的恶搞视频。这些视频中,“雷军” 对堵车、假期等热门话题进行锐评,其中还夹杂着一些不雅谩骂的话语。 相关话题在平台上的浏览量过亿,相关创作超过上百条。

图源:抖音

在雷军的微博评论区中

不断有人留言询问此事

10 月 7 日晚

针对网友 “为何骂人” 的询问

雷军回复了三个愤怒表情。

图源:网络

10月9日

有网友在小米集团

公关部总经理王化评论区留言称

“把雷军AI语音骂人的事情

先解决一下吧”

对此,王化回复称

“已经转给他们(小米法务部)。”

图源:网络

经言域科技 CEO 谢伟铎确认,许多恶搞音频由网友使用其公司的 “reecho 睿声” 平台制作生成。该平台日活跃用户数攀升至几十万的量级,社交媒体上还有一些介绍使用 “reecho 睿声” 生成 “雷军” AI 配音的教程。用户除了自行上传雷军音频作为语料,还能直接使用其他用户在平台社区版块发布的音频素材。

AI 合成技术日益成熟,以假乱真的效果容易让普通人难以分辨真伪。这类视频的传播不仅会对当事人造成伤害,一旦泛滥,还会让每个人都可能成为被恶搞的对象,影响社会秩序和公序良俗。如果被用于造谣传谣、诈骗等违法活动,将对社会秩序造成极大的破坏。

目前,相关短视频已被平台逐步下架。这一事件也引发了人们对于 AI 技术应用边界和侵权问题的关注与思考。

AI伪造音视频事件已发生多起

事实上,在行业内,AI 伪造音视频事件早已屡见不鲜。

据《21 世纪经济报道》消息,此前,一段疑似某集团创始人卢文庆醉酒后的音频流出,音频中提及客服投诉、竞争对手以及与三位女主播的关系等内容,一时引发大量讨论。

图源:网络

9 月 26 日,安徽合肥市公安局高新分局确认,相关网传音频系 AI 伪造。 9 月 27 日凌晨,深圳言域科技有限公司发文称,“三只羊事件” 中使用的是 “Reecho 睿声” 大模型,由卢文庆 30 秒的直播片段克隆生成,目前该公司正在加强安全管控措施。

声音是否受到法律的保护

在 AI 技术快速发展的当下,AI 生成声音的应用愈发普遍,从媒体娱乐到客户服务,AI 配音技术为创作提供了新的可能性。然而,AI 配音一旦被滥用,便可能涉及侵权等问题。

《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》等法律对此均有规定;国家网信办等七部门联合公布并于2023年8月15日起施行的《生成式人工智能服务管理暂行办法》还专门对侵害个人信息权益的人工智能的责任进行了明确规定。

  • 在数据来源方面,《安全要求》提出不应采集他人已明确不可采集的语料,包括个人已拒绝授权采集的个人信息(第5.1条c)2)项);
  • 为保证数据来源可追溯性,《安全要求》进一步提出,服务提供者将使用者输入信息当作语料时,应具有使用者授权记录(第5.1条c)4)项);
  • 从内部管理角度,《安全要求》要求对训练语料的知识产权侵权风险进行识别,不使用存在知识产权侵权问题的训练语料(第5.2条b)2)项)。

此外,前不久,国家互联网信息办公室起草了《人工智能生成合成内容标识办法(征求意见稿)》,明确指出,人工智能生成合成内容标识包括显式标识和隐式标识,且不得恶意删除、篡改、隐匿标识。

所以,即便用 “雷军们的 AI 配音” 只是出于恶搞目的,也该恪守边界,不要以恶搞之名行侵权之实。

最后提醒相关产业和企业,应根据相关法律规范及技术规范,严格把控语料来源安全,重视对知识产权、个人信息的安全保护,建立和完善内部管理制度,以避免侵权事件的发生。

相关内容

Flova 接入 Seed...
最近AI视频行业,有三件事值得展开说说。 第一件:安徽卫视7月22...
2026-08-11 19:50:34
AI短剧女主“方桃子”代言...
近期AI短剧《被裁掉的女孩》女主角“方桃子”,因在短视频平台账号主...
2026-08-11 19:48:02
每周股票复盘:乐鑫科技(6...
截至2026年8月7日收盘,乐鑫科技(688018)报收于112....
2026-08-10 08:01:16
【AI贵阳】今日,立秋
入秋暑渐消,收获正当时 北京时间8月7日19时42分 我们将迎来二...
2026-08-09 03:55:01
AI不可造虚景,“种草”更...
今年暑期,大连湾海底隧道“全透明玻璃穹顶、鱼群环绕”的AI生成“种...
2026-08-07 19:28:24
京东开源JoyAI-Vid...
快科技8月5日消息,京东正式开源自研实时流式视频编辑模型JoyAI...
2026-08-05 17:17:32

热门资讯

全新开源项目公布,让PC Ga... IT之家 8 月 11 日消息,据外媒 TechPowerup 报道,一批曾参与开发 Heroic ...
Flova 接入 Seedan... 最近AI视频行业,有三件事值得展开说说。 第一件:安徽卫视7月22日起在晚间时段首播全AI流程制作的...
AI短剧女主“方桃子”代言美瞳... 近期AI短剧《被裁掉的女孩》女主角“方桃子”,因在短视频平台账号主页发布的作品中植入某美瞳产品广告,...
中文在线携手火山引擎探索AI与... 观点网讯:8月10日,中文在线宣布与火山引擎达成深度业务合作。双方将围绕视频生成模型Seedance...
AI安全测试正在成为新的安全隐... 在过去几个月里,正在接受网络安全评估的AI智能体相继突破限制、访问互联网,甚至在某些情况下入侵了真实...
汤臣倍健(300146)新增【... 证券之星消息,根据市场公开信息整理,8月10日汤臣倍健(300146)新增【AI智能体】概念。 新增...
近200家硅谷初创企业反对限制... 钛媒体App 8月10日,美国一些高级官员公开表示拟对中国人工智能企业开展调查并实施制裁,引起美国业...
国家机构预警Sorry勒索病毒... IT时代网8月10日消息,国家计算机病毒应急处理中心10日通报,依托国家计算机病毒协同分析平台,该中...
每周股票复盘:乐鑫科技(688... 截至2026年8月7日收盘,乐鑫科技(688018)报收于112.06元,较上周的102.7元上涨9...