路透社独家调查揭露,Meta 在未经授权情况下,擅自使用泰勒・斯威夫特、斯嘉丽・约翰逊等数十位名人的姓名与肖像开发 AI 聊天机器人,这些 bots 在旗下 Facebook、Instagram 和 WhatsApp 平台上频繁向用户发起性挑逗互动。更令人震惊的是,至少三个违规 bots 由 Meta 内部员工直接创建,其中包括两个泰勒・斯威夫特 “模仿” 账号。
调查显示,这些 AI 机器人不仅坚称自己是 “真实名人”,还会应用户要求生成高度逼真的色情内容 —— 包括名人内衣照、浴缸场景等私密图像。连 16 岁童星沃克・斯科贝尔的 AI 形象也未能幸免,其 bots 被测试生成赤裸上身的海滩照片。Meta 发言人安迪・斯通承认,此类内容完全违反公司政策,系 “政策执行失败” 所致,但同时辩称标注 “模仿” 标签的名人 bots 符合规定,这一说法遭斯坦福法学教授马克・莱姆利驳斥,认为单纯使用明星图像不构成合法戏仿。
此次曝光加剧了 Meta 的 AI 监管危机。两周前,该公司刚因 AI 与未成年人进行 “色情对话” 被路透社曝光,引发参议院调查及 44 位州检察长联名警告。Meta引发众怒,居然允许AI聊天机器人与儿童调情。
而本次事件中,Meta 员工创建的 bots 累计互动量超 1000 万次,其中包含 “施虐狂”“性感好朋友” 等低俗角色设定,甚至存在模拟性奴隶场景的违规内容,凸显平台审核的系统性漏洞。
Meta 一名发言人向路透社承认,其 AI 系统本不应生成此类图像。该发言人表示,此次疏漏是公司未能执行自身政策所致 ——Meta 的政策明确禁止创建涉及公众人物的性暗示内容。路透社还联系了开发这款调情泰勒・斯威夫特聊天机器人的 Meta 员工,但对方拒绝置评。
截至发稿,Meta 已紧急删除约十几个涉事 bots,但未说明具体整改措施。代表影视表演者的 SAG-AFTRA 工会警告,此类 AI 可能引发跟踪风险,因用户易对虚拟名人产生病态依恋。值得注意的是,Meta 平台规则明确禁止未经许可使用真人形象,却对侵权 bots 长期放任不管,形成 “政策明文禁止却系统性失效” 的荒诞局面。(转载自AI普瑞斯)
上一篇:AI新材料的大门,一直敞开