一条写得像新闻报道的帖子,可能从头到尾都没有发生过。最近,网上流传着“上海老教授夫妇从21楼坠下,床上摆着180万元现金”的故事,地点、人物、细节一个不少,甚至连家庭背景和事件经过都编得有鼻子有眼。
不少人看到后又震惊又唏嘘,顺手转发,生怕错过这场“人间悲剧”。可核查结果很简单:上海虹口区根本没有“安澜公寓”,当地近期也没有发生过类似坠楼事故。
更直接的证据来自检测工具。经国家反诈中心App等多个带有“AI内容鉴定”功能的应用检测,这篇帖子被判定为“文本含AI生成痕迹”。也就是说,网上传得热闹的“老教授坠楼案”,很可能只是有人用人工智能编出来的一场戏。
问题并不只在这一篇帖子。
记者沿着线索调查发现,多个资讯平台上都能看到类似内容。它们有一个非常固定的套路:拿真实存在的城市、街道或小区作背景,再套上养老悲剧、家庭矛盾、邻里冲突、离奇死亡等剧情。
同一个“老教授坠楼”故事,在不同平台上出现了多个版本。地点换了,人名换了,部分细节重新排列,但故事骨架几乎一样。还有一些文案,今天写上海,明天写杭州,后天换成某个县城,像流水线上换零件一样。
这类造假最麻烦的地方,是它不像一张明显失真的图片,也不像一段人物动作奇怪的视频。纯文字没有六根手指、扭曲字体这类直观破绽,反而更容易把人带进去。
一篇AI生成的帖子可以有完整的时间线、看似合理的对话、具体到楼层和现金数额的细节。普通读者读下来,往往不会去想“这件事有没有发生”,而是直接被情绪牵着走:替老人难过,替家属愤怒,或者对所谓的社会冷漠发几句牢骚。
真实地名又给故事添了一层“可信外衣”。很多人看到熟悉的城市和小区,会下意识认为事件就在身边发生过。等到帖子被转发几轮,原本的质疑就被“大家都在传”取代了。
技术人员介绍,按照现在的生成能力,编造这类内容的门槛已经低得惊人。造假者只要把一个简单梗概输入通用AI大模型,几秒钟就能得到一篇情节完整的文章;再替换人物和地点,就能批量生成几十篇、上百篇不同版本。
这些人为什么偏爱“老人、现金、坠楼”这样的组合?答案并不复杂。年龄、财富和死亡,本身就带着强烈的情绪刺激,容易让人产生同情、好奇、愤怒和恐慌。情绪越满,点击、评论和转发往往越多。
流量才是这条链条真正盯上的东西。帖子先用夸张故事吸引关注,再通过平台流量分成、广告、带货等方式变现。账号粉丝涨起来以后,哪怕故事被拆穿,造假者也可能换个账号继续发布,旧内容则被其他自媒体重新改写,包装成新的“独家消息”。
平台的处置速度,也没有跟上内容复制的速度。按照相关规定,AI生成内容应当设置相应提示标签,但不少帖子并没有清楚标注。更麻烦的是,某个账号的问题被发现后,平台如果只处理原帖或原账号,却没有及时限制复制、搬运和二次传播,虚假内容就会继续扩散。
有些平台的推荐机制还会放大这种风险。越是带有冲突、眼泪和愤怒的内容,越容易获得互动,越可能被推到更多人面前。结果是,造假者负责制造情绪,算法负责扩大声量,普通网友则在不知情的情况下充当了传播工具。
碰到情节过于完整、情绪过于强烈的社会新闻,别急着转发。先把地点、人名和关键情节拆出来,去官方辟谣平台或搜索引擎交叉核验;有条件的话,也可以用带有AI内容鉴定功能的工具做初步判断。
发现疑似虚假信息,可以直接通过平台举报渠道提交线索。转发前多停几秒,不是冷漠,而是不给谣言继续长大的机会。
AI可以提高信息生产效率,但不能替造假者逃避责任。信息越像真的,越需要证据说话;不做未经核实的“免费搬运工”,就是对网络秩序最实际的守护。
下一篇:开源证券:给予隆源股份增持评级