【e公司观察】“雷军骂人”争议火热 AI克隆的边界在哪里?
创始人
2024-10-09 21:52:28
0次

国庆假期期间,抖音等短视频平台上出现大量“雷军骂人”的恶搞视频。

在视频中,作为企业家流量担当的“雷军”,锐评了假期长短、堵车、调休等热门话题,言辞犀利,且时有不雅脏话穿插其间。部分平台上相关话题浏览量过亿。有网友调侃“雷总,最近你怎么在骂人”“国庆上网被雷军骂了整整7天”。

对此事件,雷军回复了三个愤怒表情,以表达态度。这一方面说明,其本人已经知晓此事;另一方面也揭示了作为企业圈顶级流量背后,所掩藏的气愤和无奈。

此类视频中的声音并非出自雷军本人,而是AI配音。去年网络平台上也曾有一批AI克隆语音爆火出圈,以“AI孙燕姿”为代表的AI克隆歌手语音包风靡一时,同时也有利用AI克隆“郭德纲秀英语”等嫁接式品类出现,不过,当时市场普遍认为,它们给市场带来的更多是娱乐效应。

与前一轮不同,本轮克隆雷军声音的AI语音,迅速引发广泛争议。这一方面与AI克隆和雷军本人平日风格之间的巨大反差有关;还有一个更重要的原因是,“雷军骂人”已经具有恶搞意味,部分内容已超出一般开玩笑玩梗的程度。

例如,除了骂人、吐槽之外,还有具有造谣嫌疑的,比如“雷军”说要投资建设某某大学等;还有的内容骇人听闻,比如“雷军”说要用小米SU7撞人等。当前,这些视频正在被平台下架中。

与此前AI同类应用的娱乐性相比,这一轮更多的是引发了市场某种程度上的反感和担忧。对此我们可以从多个角度观察。

比如在法律视角下,擅自使用他人肖像和声音进行编辑合成,甚至发布具有辱骂和诽谤性质的内容,侵犯相关民事权利。再比如,在技术伦理视角下,如何最大程度避免技术应用中的“人格误导”,完善训练过程的数据保护等。

从产业视角来看,这种现象映射出,很多AI应用在现阶段仍然处于草莽时代,边界感尚不明晰。例如,目前市面上有大量AI配音的小程序,用户可以随意选择多元人物声音,或者输入文字生成对应声音,便可借用他人的声音发表言论。

肇始于2022年底的AIGC浪潮以来,包括字节跳动、百度、阿里、腾讯等在内的互联网大厂都已经推出基础大模型,并且拥有很强的泛化应用能力。这些创新技术应用本无边界。以AI配音为例,一方面,它能为创作提供了新的可能性,让内容创作更加多元化;另一方面,AI配音也存在被滥用的风险,不当使用可能会涉及侵权等问题。此前,就有直播带货顶流陷入“录音门”,事后警方发布通报,证实了AI工具伪造,并传播不实内容。

实际上,AI生图同样如此:一方面为创作者提供方便,另一方面也有可能被滥用违法。倘若沿着市场担忧的路径往更多元方向演进,AI换脸、AI裸照等更加恐怖的事件,不排除发生的可能。从这个角度看,“雷军骂人”很可能会成为AIGC泛化应用过程中的一个重要案例。

任何机遇都会同时伴随挑战。对于大模型企业来说,一方面需要关注技术本身的迭代,另一方面也要紧守数字伦理的底线。而对于监管来说,在某些特定阶段,AI监管曾面临“不知何处下手”的问题,而“雷军骂人”案例说明,防止技术滥用就是其中的重要一维。诚如比尔盖茨所言,“须确保数字技术为我们带来的是好处,而不是伤害。”

相关内容

热门资讯

国产大模型下调推理服务价格,南... 近日,国内某大模型企业宣布下调其flash系列模型服务价格,输入缓存命中、输入缓存未命中及输出价格最...
解码青年人AI生活《2026有... 中新网深圳9月5日电(记者索有为)《2026有意思生活方式报告》(下称《报告》)4日在全国首个有意思...
OpenAI 最强 AI 生图... 9月9日消息,OpenAI 9 月 9 日官宣发布 ChatGPT Images 2.5,图像生成延...
探索AI供应链产业化路径京东推... 2026年以来,人工智能应用范围加速拓展,持续从数字空间走向现实生活,广泛融入生产线、仓储厂房、配送...
教育部发文!AI生成内容,教师... 一篇论文,因为AI使用不当,相关高校师生被通报处理。 9月2日,安徽财经大学公布“教师与学生涉嫌学术...
AI识别出近800种可充当乳化... 英国利兹大学食品科学与营养学院和爱丁堡大学科学家携手,开发出一款 人工智能(AI)工具,能从数千万种...
搭上低空经济、AI文旅?两连板... 桂林旅游(000978)回应市场热点。 9月8日,桂林旅游再度涨停,斩获2连板。当天晚间,该公司披露...
硅谷:我们不能被硅谷“AI刹车... 【文/底线思维】 OpenAI首席科学家Jakub Pachocki最近写了一篇文章,题目叫《An ...