“假雷军” AI 闹剧:七天骂翻全网,警惕AI声音侵权红线
创始人
2024-10-11 13:31:27
0次

国庆假期,短视频平台出现大量 “雷军” AI 配音的恶搞视频,话题浏览量过亿。视频中 “雷军” 言辞犀利、爆粗口,引发争议。这不仅涉及 AI 技术滥用,还可能侵犯了雷军的声音权益等知识产权,相关平台正逐步下架视频。

“国庆上网被雷军骂了整整7天”?

国庆假期期间,短视频平台上出现了大量 “雷军 AI 配音” 的恶搞视频。这些视频中,“雷军” 对堵车、假期等热门话题进行锐评,其中还夹杂着一些不雅谩骂的话语。 相关话题在平台上的浏览量过亿,相关创作超过上百条。

图源:抖音

在雷军的微博评论区中

不断有人留言询问此事

10 月 7 日晚

针对网友 “为何骂人” 的询问

雷军回复了三个愤怒表情。

图源:网络

10月9日

有网友在小米集团

公关部总经理王化评论区留言称

“把雷军AI语音骂人的事情

先解决一下吧”

对此,王化回复称

“已经转给他们(小米法务部)。”

图源:网络

经言域科技 CEO 谢伟铎确认,许多恶搞音频由网友使用其公司的 “reecho 睿声” 平台制作生成。该平台日活跃用户数攀升至几十万的量级,社交媒体上还有一些介绍使用 “reecho 睿声” 生成 “雷军” AI 配音的教程。用户除了自行上传雷军音频作为语料,还能直接使用其他用户在平台社区版块发布的音频素材。

AI 合成技术日益成熟,以假乱真的效果容易让普通人难以分辨真伪。这类视频的传播不仅会对当事人造成伤害,一旦泛滥,还会让每个人都可能成为被恶搞的对象,影响社会秩序和公序良俗。如果被用于造谣传谣、诈骗等违法活动,将对社会秩序造成极大的破坏。

目前,相关短视频已被平台逐步下架。这一事件也引发了人们对于 AI 技术应用边界和侵权问题的关注与思考。

AI伪造音视频事件已发生多起

事实上,在行业内,AI 伪造音视频事件早已屡见不鲜。

据《21 世纪经济报道》消息,此前,一段疑似某集团创始人卢文庆醉酒后的音频流出,音频中提及客服投诉、竞争对手以及与三位女主播的关系等内容,一时引发大量讨论。

图源:网络

9 月 26 日,安徽合肥市公安局高新分局确认,相关网传音频系 AI 伪造。 9 月 27 日凌晨,深圳言域科技有限公司发文称,“三只羊事件” 中使用的是 “Reecho 睿声” 大模型,由卢文庆 30 秒的直播片段克隆生成,目前该公司正在加强安全管控措施。

声音是否受到法律的保护

在 AI 技术快速发展的当下,AI 生成声音的应用愈发普遍,从媒体娱乐到客户服务,AI 配音技术为创作提供了新的可能性。然而,AI 配音一旦被滥用,便可能涉及侵权等问题。

《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》等法律对此均有规定;国家网信办等七部门联合公布并于2023年8月15日起施行的《生成式人工智能服务管理暂行办法》还专门对侵害个人信息权益的人工智能的责任进行了明确规定。

  • 在数据来源方面,《安全要求》提出不应采集他人已明确不可采集的语料,包括个人已拒绝授权采集的个人信息(第5.1条c)2)项);
  • 为保证数据来源可追溯性,《安全要求》进一步提出,服务提供者将使用者输入信息当作语料时,应具有使用者授权记录(第5.1条c)4)项);
  • 从内部管理角度,《安全要求》要求对训练语料的知识产权侵权风险进行识别,不使用存在知识产权侵权问题的训练语料(第5.2条b)2)项)。

此外,前不久,国家互联网信息办公室起草了《人工智能生成合成内容标识办法(征求意见稿)》,明确指出,人工智能生成合成内容标识包括显式标识和隐式标识,且不得恶意删除、篡改、隐匿标识。

所以,即便用 “雷军们的 AI 配音” 只是出于恶搞目的,也该恪守边界,不要以恶搞之名行侵权之实。

最后提醒相关产业和企业,应根据相关法律规范及技术规范,严格把控语料来源安全,重视对知识产权、个人信息的安全保护,建立和完善内部管理制度,以避免侵权事件的发生。

相关内容

热门资讯

国产大模型下调推理服务价格,南... 近日,国内某大模型企业宣布下调其flash系列模型服务价格,输入缓存命中、输入缓存未命中及输出价格最...
解码青年人AI生活《2026有... 中新网深圳9月5日电(记者索有为)《2026有意思生活方式报告》(下称《报告》)4日在全国首个有意思...
OpenAI 最强 AI 生图... 9月9日消息,OpenAI 9 月 9 日官宣发布 ChatGPT Images 2.5,图像生成延...
探索AI供应链产业化路径京东推... 2026年以来,人工智能应用范围加速拓展,持续从数字空间走向现实生活,广泛融入生产线、仓储厂房、配送...
教育部发文!AI生成内容,教师... 一篇论文,因为AI使用不当,相关高校师生被通报处理。 9月2日,安徽财经大学公布“教师与学生涉嫌学术...
AI识别出近800种可充当乳化... 英国利兹大学食品科学与营养学院和爱丁堡大学科学家携手,开发出一款 人工智能(AI)工具,能从数千万种...
搭上低空经济、AI文旅?两连板... 桂林旅游(000978)回应市场热点。 9月8日,桂林旅游再度涨停,斩获2连板。当天晚间,该公司披露...
硅谷:我们不能被硅谷“AI刹车... 【文/底线思维】 OpenAI首席科学家Jakub Pachocki最近写了一篇文章,题目叫《An ...