宁波交警短视频账号2月注销，AI竟称注销是因为5月的一起交通事故；求问儿童手表软件，AI给出了否定中国发明创造、否定中国文化的答案……据央视报道，AI杜撰的信息数不胜数，甚至成了谣言类信息帮凶。数据污染引发现实风险、数据投毒已经冲击安全防线，亟待加大治理力度。

AI数据污染报道截图。图据央视

近年来，AI人工智能技术广泛应用。从查阅资料到办公写作，从休闲玩乐到求医问诊，AI越来越提升人们生活工作的便利。与此同时，AI技术带来的风险与日俱增。据报道，有的向AI大模型训练数据中注入伪装成正常样本的恶意数据，削弱模型性能、降低准确性；有的不良信息没有被甄别删除，被人工智能当作可信任的信息源加入算力；有的不法分子利用AI炮制虚假信息……凡此种种，不仅导致AI“胡编”、AI“新闻”大行其道，还可能威胁国家安全。比如在经济金融领域，一旦数据受到污染，诸如市场行为分析、信用风险评估等工作，就可能出现误判，造成经济损失。

数据污染、数据投毒，滋生安全风险，也扰乱公众认知。国家安全部数据显示，当训练数据集中仅有0.01%的虚假文本时，模型输出的有害内容会增加11.2%；即使是0.001%的虚假文本，其有害输出也会相应上升7.2%。被污染、被投毒的数据，产生成量级的有害内容，又将二次“投喂”网民。久而久之，不仅危及AI本身的思考力，也将降低网民思考和决策的“智力”。

AI信息“不靠谱”的背后，显然是防范机制还不够“靠谱”。技术层面上，需要及时为AI数据安全“打补丁”。比如，强制要求各平台为AI生成内容打上醒目标签，提醒用户谨慎、合理使用AI内容。再如，AI技术和应用的开发者与平台，可通过交叉验证、数据溯源等技术手段，及时高效地拦截AI有毒信息的传播。更重要的是，从源头上建章立制，防范污染和有毒数据的产生。应以《网络安全法》《数据安全法》等法律法规为依据，建立AI数据分类分级保护制度，同时定期“清洗”和修复受污染的数据。当然，用户自身也应科学使用AI工具，不主动向AI“投喂”有毒信息。

数据是人工智能发展的基础，也是AI应用的核心资源。数据真实、准确、健康，AI技术和应用才能造福人，而不是欺骗人、戏弄人。AI数据污染，治污还得靠人。不论技术开发者、监管者还是使用者，都要始终守牢AI数据的安全底线，履行“治污清毒”的职责，共同守护AI技术的美好未来。

来源：北京晚报

记者：李松林

流程编辑：U072