又有人利用AI炮制灾情谣言被查处。2月8日11时许，四川省宜宾市筠连县沐爱镇金坪村2组突发山体滑坡，当救援救灾工作还在紧张地开展，一些蹭热度的AI谣言已经在网络搅局了。

公安部网安局2月15日通报：近期，有网民为借“四川宜宾山体滑坡灾害”博取流量，使用AI技术炮制随意捏造灾害发生的时间、地点及受灾、救灾情况，形成“四川凉山发生山体滑坡灾害”系列谣言并传播，引发当地群众恐慌和网民质疑，扰乱视听。公安机关网安部门立即开展网络谣言打处工作，涉事网民周某、许某鑫均被处以行政处罚。

值得注意的是，前不久西藏日喀则发生地震，也有不少AI生成的图片以假乱真。这可能也是身处AI时代必须警惕的问题：大量由AI生成的内容，包括文字、图片、视频等，和人类自己生产的真实信息相混合，难分彼此。其危害不只是造成社会恐慌和扰乱网络传播秩序，更在于对信息生态的污染和破坏。

监管部门及时打击是必须的，通报相关典型案例形成震慑也是必要的。另一方面，当类似的AI谣言层出不穷，当AI谣言成了灾害事故的寄生虫，也需思考的是：如何从源头上加以遏制？

既然每逢社会关注度高、牵动人心的灾害事故出现，总有别有用心的人想蹭热点、博流量，那么平台可否立即启动相关“应急预案”，提前监测和预防可能出现的谣言，及早掐断传播路径，将其影响力压缩在最小范围？应急不仅仅是对灾害、事故的应急，还要同步到网络上。

利用AI造谣传谣，危害性不容小觑。去年6月，浙江警方追查一则不实火灾消息，破获了一起利用AI造谣的非法谋利案件，该团伙仅有3人，却在一个月内使用AI生成发布了3000多个虚假视频。以前是造谣一张嘴，现在可能是千张嘴、万张嘴。

AI应该成为“谣言粉碎机”而不是“制造机”。有人建议强制AI学习法律，乃至所有条款，当使用者出现违反法律的情形时，AI可以警告提醒乃至拒绝执行命令。人们也期盼这样一款AI或功能：输入某条消息，AI可以迅速找到其制作源头，乃至梳理出整个传播链条，从而方便监管部门查处相关责任人。

说一千道一万，无论工具怎么变，利用工具做好事或作恶的依然是人。AI的B面，同样是人性的B面。

AI只是一种技术工具，治理AI谣言，一方面需加大打击力度，及时斩断炮制AI谣言的幕后黑手和背后的黑灰产业链。另一方面，也要坚持科技向上向善，将这一理念深刻融入到AI的开发与进化中，不断完善技术和治理规则，有效挤压网络谣言和虚假信息的生存空间。

（原题为《AI应成谣言“粉碎机”而非“制造机”》 来源 澎湃新闻）