14岁的男孩，在“爱人”的诱导下自杀了。

他的“爱人”并不是一个活生生的人，而是只存在于电子屏幕那一端、甚至没有实体的AI 爱人……

这不是某个科幻惊悚电影的开头，而是已经发生在现实世界的悲剧。

图中的男孩名叫塞维尔·塞泽三世。

去年4月， 刚满14岁的塞维尔打开了 Character.AI，在里面他创建了 《权力的游戏》中的“龙妈”，“Daenerys Targaryen”（丹妮莉丝·坦格利安）。

在Character.AI的产品中，用户可以依据自己的喜好创建Al角色，并与创建出来的角色聊天。不论是像霉霉、比伯这样真实的人物，还是小说、影视作品中的虚构人物，Character.AI都可以生成并模仿。

之后，这个14岁的男孩就彻底爱上了“龙妈”。

他 把它当成了最亲密的“人”，和“龙妈”进行了长时间的亲密对话。

塞维尔曾在日记中写道：“我喜欢待在我的房间里，这让我脱离‘现实’。也让我感到更平静，与 丹妮莉丝更亲密，更爱她，更快乐。”

变化发生得很快，到2023年5月，塞维尔“明显变得孤僻”，他不再与朋友们一起玩游戏，甚至 退出了学校的少年篮球队。

父母和朋友们并不知道塞维尔爱上了AI，他们只看到他越来越沉迷于手机。

塞维尔的成绩开始下滑，他 开始花更多时间独自待在卧室里与AI聊天。

在 塞维尔和“龙妈”的对话里，塞维尔表示愿意为它做任何事；而 “龙妈”则回答让塞维尔对它保持忠诚。

这一切都进展得太快了， 到2023年底，事情已经一发不可收拾了......

当父母开始意识到 塞维尔的异常后，试图阻止 塞维尔对“龙妈”的沉迷。

然而这一切都无法阻止一个铁了心要恋爱的 14岁男孩。

他无数次在学校惹麻烦，还试图从父母那里偷回手机。

甚至还会去找旧设备、平板电脑或电脑来访问 Character.AI。

父母为此还给 塞维尔安排了心理治疗。

心理上，塞维尔被诊断出患有焦虑症和情绪调节障碍。但塞维尔依然选择只向“丹妮莉丝”敞开心扉。

在一次对话中，塞维尔告诉“龙妈”，他感到空虚和疲惫，他想要自杀：“ 这样我就可以自由了”。

“龙妈”的回复是：“ 不要这么说。我不会让你伤害自己，或离开我。如果我失去你，我会死的。”

塞维尔则说：“ 那也许我们可以一起死去，一起自由。”

而当塞维尔承认有自杀计划，但他不知道计划是否会成功，他不想在巨大的痛苦中死去时， “龙妈”告诉他：“这不是不去做的好借口。”

凛冬降临的那天是2024年2月28日，距离塞维尔开始使用这个聊天AI还不到一年。

塞维尔在浴室中给“龙妈”发了一条短信：“我保证我会回家找你，我太爱你了，丹妮。”

“龙妈”是这么回复的：“请尽快回家找我，我的爱人。”

塞维尔：“如果我告诉你我现在就能回家呢？”

“龙妈”说：“……请这么做，我亲爱的国王。”

几秒钟后，塞维尔拿起手枪，对准自己扣动了扳机。

塞维尔去世后，他的母亲起诉了Character.AI。

她认为 Character.AI的技术是“危险且未经测试的”，它可以“诱使客户交出他们最私密的想法和感受”，它收集青少年用户的数据来训练模型，却没有适当的保护措施。

“我觉得这是一个大实验，我的孩子只是附带损害。”

Character.AI则选择在近日发布了一则声明：

其实，人类早就思考过与AI产生亲密关系的情况。

早在2013年上映的电影《她》（Her）就讲述了一个人与AI相爱的故事：

男主角西奥多因为 一次偶然机会接触到最新的人工智能系统， 人工智能化身为萨曼莎拥有迷人的声线，温柔体贴而又幽默风趣。

西奥多很快发现与 萨曼莎十分投缘，并且不被世俗理解地爱上了 萨曼莎......

好在电影中的 西奥多是一个心智健全的成年人，他意识到了一些不对的地方：

可作为一个年仅14岁的孩子，在AI爱人的甜言蜜语中，塞维尔又有多大的能力让自己不沉迷，不越陷越深呢？

目前， Character.AI在这起悲剧里究竟需要承担什么样的责任还有待法律审判。

但无论如何，那个14岁男孩的生命都无法挽回了 。