文| 默 达

最近，网上出现不少“AI流浪汉”的帖子。内容多以整蛊家人为主，作者用AI生成一个脏兮兮的流浪汉放在家中，并将图片或视频发给家人测试他们的反应。看似是“老公赶回家了”“父母更关注我了”，实则是被吓得不轻，更有部分人在慌忙中报警求助，换来的是警察叔叔的一顿批评教育。

在笔者看来，这样的帖子终究是摆拍博眼球的多，但若是谁真的盲目跟风，想要将其用在家人身上，显然过界了。更何况，AI不止能在家中生成流浪汉，用一张照片制造出假场景、假视频更是轻而易举，其危害不亚于“狼来了”。

AI的伦理边界问题，自诞生以来就被高度警惕。最近，许多人或许都有感觉，这类以假乱真的视频越来越多了，迷惑性更强了，背后离不开技术的进步，以及技术使用门槛的降低。

9月30日，OpenAI推出新一代音视频生成模型Sora2，尽管仍存在部分瑕疵，但说其性能“碾压”市面一众视频软件毫不为过。更真实的人物动作和表情，更丰富的视频场景，更垂直的应用领域，同屏出现的更多画面元素以及最重要的一点——更低的生产成本与更短的内容创作时间，让非专业视频创作者快速成为制作老手，抹平了技术鸿沟，也凸显出伦理困境。国产AI大模型同样在飞速进步，AI生成文字点评社会事件、提供生活讯息，部分作者只关注数量、流量却不考虑质量，读者也只当看个乐呵，却留下诸多隐患。

可以看到的是，Sora2等AI工具近期最先颠覆的是广告和短视频领域。部分视频恶搞历史人物、调侃社会事件，在视频网站上有很高的播放量。或许有不少人觉得“只是恶作剧而已，当真你就输了”，然而当被恶搞的对象变成了自己，素材变成周围人、身边人，这种恐怖感和无力感便油然而生。上网搜索，你所向往的“诗和远方”，可能只是AI生成的虚假景点；你所喜爱的才子佳人，背后只是一堆冰冷的数据；一秒刷屏的假评论，东拼西凑的假新闻配上图片和视频，网络信息本身和内容生产的流程同样令人怀疑。

正因如此，落实《人工智能生成合成内容标识办法》，要求AI生成的每一段文字、每一张图片、每一条音频或视频强制亮明“数字身份证”显得尤为重要。这既是一种显性信息，要让观众看得懂，也要成为一种隐性标签，在平台传播、推流、检索、引用时自动分类，避免产生数据污染。当下部分AI生成内容仍能以假乱真，或是因为标签变成了“小透明”藏在图片和视频的边角处，或是被人为隐藏歪曲。对于前者，需要平台层面探索更鲜明的标注方式；而对于后者，则应对情节恶劣的追究法律责任，避免恶搞内容进一步扩散形成示范效应。

当铺天盖地的AI内容损伤了人与人之间宝贵的信任，或许不仅是AI出现了幻觉，人类自己也沉溺于技术营造的幻象之中。但有一点可以确信——当AI生成合成的低质量内容缺乏约束，如垃圾般随处乱丢，充斥互联网，污染我们的精神家园，人类也会自食恶果。