“AI”亮身份,太必要了
创始人
2025-04-17 06:47:47
0

原标题:“AI”亮身份,太必要了

国家互联网信息办公室等四部门近期联合发布《人工智能生成合成内容标识办法》(下称《办法》),并同步出台配套强制性国家标准。小小标识,为何得到国家多部门重视,又将如何改变人们所处的网络内容环境?

标识小,作用大

接到“领导”视频电话要求紧急转账20万;社会名人被AI配音后刷屏社交平台;“顶流明星在澳门输了10亿”的假新闻实则为AI捏造……在AI技术为内容合成带来便利的同时,其“双刃剑”效应也逐渐凸显:金融诈骗、身份冒充、虚假新闻等问题时有发生,眼见不一定为实,有图、有视频也不一定有真相。

“借助AI手段炮制虚假信息正催发公众的‘信任危机’,并对正规的内容创作生态造成冲击。”中国社会科学院大学互联网法治研究中心主任刘晓春对半月谈记者说,相关不法行为往往只需要极低的制作成本和违规成本。除虚假信息外,由AI导致的数据安全、隐私保护等与用户直接相关的问题,也需要强有力的监管措施介入。

2022年以来,我国已陆续出台多部法律法规对AI生成内容作出约束。但业内人士认为,此前出台的相关法律法规在内容识别上的要求较为宽泛,而《办法》将推动AI内容的标识从“原则性规定”走向“操作性规范”。

让人工智能技术“可信赖”

“《办法》重点解决‘哪些是生成的’‘谁生成的’‘从哪里生成的’等问题。”国家网信办有关负责人表示,要通过标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,让人工智能技术“可信赖”。

刘晓春等受访专家认为,《办法》聚焦人工智能“生成合成内容标识”关键点,提出具体操作规范:

——构建信任机制。《办法》要求AI生成内容添加显式标识(文字、声音提示)和隐式标识(元数据嵌入)。前者是在AI生成内容中,通过添加显式标识,让用户一眼可知“哪些是生成的”;后者则为厘清内容是“谁生成的”“从哪里生成的”。

——厘清责任主体。《办法》针对不同主体,着力构建全链条责任机制:用户发布生成内容需主动声明;社交平台等互联网应用需审核AI服务标识材料;服务提供者应当确保生成合成内容含有满足要求的显式标识,并在文件元数据中添加隐式标识等。

业内人士认为,《办法》主要从立法层面提出管理要求,与之配套的强制性国家标准主要提出具体实施方式和操作方法。例如规定元数据字段格式、标识显眼度阈值等,避免相关主体“凭感觉合规”。

拒绝“野蛮生产”,迎来“规范竞争”

“推动强制标识制度,与我国人工智能生成内容技术发展和应用阶段相匹配,是具有广泛社会共识和现阶段在技术上较为可行的方案。”刘晓春认为,提升人工智能生成内容的透明度和可追溯性,有助于增强公众信任感,推动行业从“野蛮生长”转向“规范竞争”。

国家网信办有关负责人表示,“统筹发展和安全”是《办法》的总体思路之一,这一治理理念体现在诸多实施细则上。例如一些大型企业和主要的AI服务提供商履行“标识义务”已有一段时间,但一些中小企业、传统企业等或将需要技术调整的过程,面临标识技术投入压力。为此,《办法》创新提出文本符号标识等低成本标识方法。

据了解,《办法》将从9月1日开始实施。刘晓春认为,其间几个月的施行过渡期,既是为企业理解规范、针对性地开展功能研发预留时间,也为提升用户认知和公众AI素养提供窗口期。“‘人的因素’应融入人工智能标识管理的全过程。”公安部第三研究所副所长金波认为,要着重提升公众对信息内容真实性、来源可追溯性的评估能力。(孙文豪)

来源:半月谈网

相关内容

AI学什么(第15期):开...
大家好,我是蓝衣剑客,欢迎来到「AI学什么」——一个专注于AI科普...
2025-08-20 21:43:32
特朗普缓禁TikTok,字...
去年,美国多数议员以中国科技巨头字节跳动威胁国家安全为由,推动立法...
2025-08-20 15:45:37
华瑞指数云发布AI原生数据...
在人工智能作为引领新一轮科技革命和产业变革的战略性技术迅猛发展之际...
2025-08-20 12:43:56
重磅!华为发布突破性技术—...
华为在2025金融AI推理应用落地与发展论坛上,正式发布了一项AI...
2025-08-20 06:43:38
广发证券“易淘金App”完...
近日,广发证券旗下“易淘金App”完成全方位AI原生化升级,实现从...
2025-08-19 23:15:25
“区域AI枢纽”与“广西桥...
原标题:在新加坡AI现场@广西 “区域AI枢纽”与“广西桥头堡”的...
2025-08-19 23:13:59

热门资讯

原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...