添加显著标识,防止AI生成内容“鱼目混珠”
创始人
2024-09-15 12:27:27
0

我们每天上网看到的海量图文、视频,有多少是人工智能生成合成的?如何准确分辨AI文章、AI图片、AI视频?

9月14日,国家互联网信息办公室发布《人工智能生成合成内容标识办法(征求意见稿)》,《征求意见稿》拟规定,服务提供者提供的生成合成服务,包括文本、音频、图片、视频、虚拟场景等,均应适当位置添加显著的提示标识;服务提供者提供生成合成内容下载、复制、导出等方式时,应当确保文件中含有满足要求的显式标识。

这一规定,非常具有现实针对性、必要性。近年来,人工智能深度合成技术已在多个领域大量应用,从图文、视频生成到在线问答,各种应用更是层出不穷。毫无疑问,AI工具能让我们的内容生产、知识传播事半功倍,而且随着AI的学习能力越来越强,未来其内容“生产”能力甚至会超过人类。

但另一方面,深度合成内容的效果更加逼真、制作更加高效,也让合成内容达到了“真假难辨”的程度。当真假交融难辨,眼见不再为实,人工智能技术就像一柄双刃剑,也会给社会带来信息失真、认知混乱等问题。

2022年11月,国家网信办出台《互联网信息服务深度合成管理规定》,对深度合成内容的用途、标记、使用范围以及滥用处罚作出了具体规定。此次《征求意见稿》进一步明确,不管是文本、音频、图片还是视频,都必须“在适当位置添加显著的提示标识”。这是对服务提供者的明确要求:只要是AI工具生成的,无论是一篇文章还是一张图片,都需要添加显著标识。

这其实也是在提醒受众,网络信息鱼龙混杂,你看到“内幕”文章、“劲爆”图片或“震撼”视频时,首先要注意是不是AI生成的,是不是应该采信,如何去辨别,一定要多加个心眼。

值得注意的是,随着技术逐步“平民化”,不法分子可轻易利用AI造谣、生产虚假新闻。就在不久前,有媒体起底了一个MCN机构,可以利用AI每天生成 4000-7000 篇谣言文章,这些文章因为AI技术的加持,看上去非常“真实合理”,那些不熟悉互联网技术的受众,看到此类“有图有真相”的信息内容,很容易信以为真。

有媒体调查,使用一个国产AI,一篇AI文章的成本只要0.00138元,1分钱就可以生成7篇文章。如此“无本万利”,很容易被不法分子利用,“地铁行凶”“西安突发爆炸”“重庆巫溪一民房发生爆炸事故”等虚假图片、视频都曾产生恶劣的社会影响,背后其实就是AI批量制造的谣言。

标识人工智能生成合成内容,从技术上来说并不难实现。有专家就建议,平台完全可以接入AI内容生成平台的大模型系统,实时进行数据识别对比,然后附加不可删除的数字水印,或者“此图片/视频为AI合成”等文字说明。

此次《征求意见稿》强调,“任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识”,就是在提醒AI服务提供者和平台,绝不能因为享受了AI工具带来的“流量红利”,就采取睁一只眼、闭一只眼的姑息态度。清朗的网络空间,绝不能让AI内容鱼目混珠,模糊了真实的边界;如果有信息被甄别为谣言,平台更应该立刻进行标注、清理。

人工智能生成合成的能力超出了传统的认知,也让我们意识到:很多网络文章看上去很“科学”,很多网络视频看上去特别“真实”,未必一定就可靠,先别急着相信。不妨先找一找,内容的显要位置,到底有没有“此图片/视频为AI合成”的标识?

(原题为《添加显著标识,防止AI生成内容“鱼目混珠”》 作者 李勤余 来源 澎湃新闻)

相关内容

「嵌入式AI硬件开源运营平...
i黑马讯 近日,深圳宇凡微电子有限公司的「嵌入式AI硬件开源运营平...
2025-08-27 19:44:01
一张照片+一段音频生成“电...
智东西 作者 | 王涵 编辑 | 漠影 智东西8月27日消息,昨夜...
2025-08-27 13:15:53
港股早参丨国务院印发“人工...
【市场复盘】 8月26日,港股三大指数集体下跌。截至收盘,恒生指数...
2025-08-27 10:43:15
开源证券给予舍得酒业增持评...
每经AI快讯,开源证券8月26日发布研报称,给予舍得酒业(6007...
2025-08-26 22:15:50
政策驱动AI技术落地,小米...
近日,国务院常务会议审议通过《关于深入实施 “人工智能 +” 行动...
2025-08-26 21:43:30
AI时代,你我皆是艺术家
艺术是一时巧思,也是一门科学。从古巴比伦王的空中花园到尼罗河畔的狮...
2025-08-26 19:13:35

热门资讯

原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...