今年早些时候，谷歌的AI曾建议用户在披萨里放胶水，或者吃石头。自那之后，谷歌搜索结果的AI概览（Overviews）功能似乎依旧小问题不断，貌似还将社交媒体上的恶搞视频当成了正经的信息来源。

原文标题：《谷歌基于TikTok内容训练AI概览功能的效果如何？——猜也猜得到》

美国体操运动员伊恩·冈瑟制作了一条关于“约翰·后空翻” （John Backflip）的恶搞视频，无意间暴露出谷歌用AI生成搜索结果摘要的功能存在一些设计缺陷。

先前，谷歌的Gemini AI模型建议人们用胶水来做披萨。如今六个月过去，这一功能仍旧难以区分事实与虚构。

就在前几周，如果你搜索“后空翻是谁发明的”，Gemini AI还是会巨细无遗地向你介绍“约翰·后空翻”，称他在1316年的中世纪欧洲首次掌握了这一动作。如果你搜索“约翰·后空翻是谁”，谷歌的AI还会告诉你是他发明了这个体操技巧。其实，这则信息的来源是美国体操运动员伊恩·冈瑟（Ian Gunther）发在TikTok上的一条视频，而这个故事完全是他瞎编的。

“我喜欢制作一些关于体操的恶搞视频，你怎么拿这项运动搞笑和开玩笑都可以，也不会有人来追究。”冈瑟在接受《福布斯》采访时表示。

谷歌Gemini AI生成的“概览”会出现在搜索结果页面顶端，推出后出师不利，在磕磕绊绊中走过了六个月。AI概览曾声称吃石头有益健康，还说奥巴马是美国第一位穆斯林总统。这让谷歌在网上成为笑柄，也突显了大型语言模型的局限性。

冈瑟是前美国国家男子体操队成员，曾在2023年赢得全国大学体育协会（NCAA）体操冠军。2023年5月，他在湾区一家健身房结束训练后编造了“约翰·后空翻”的故事。“在体操中，大多数技巧的名字都是以第一个在国际比赛中完成该动作的人命名的，”冈瑟说。“我回到家后就瞎编了一个故事，说是某某发明了后空翻这个动作。”

为了防止有人听不懂这个笑话，冈瑟又胡诌出“亨利·双力臂”（Henry MuscleUp）、“理查德·倒立推手”（Richard Presshandstand）和“阿方索·握力王”（Alfonso El Grip）等其他早期的“体操先驱”。冈瑟平时会在YouTube和TikTok上分享训练和比赛视频，这条恶搞视频的点击量一般。他差点就把它忘记了，直到2023年7月收到一条短信。“对方给我发了一张AI概览的截图，我看到时就想，‘不是吧，我这是惹了什么祸？’我成了传播虚假信息的人了吗？”

网友把关于“约翰·后空翻”的AI概览截图分享到Reddit和其他社交网络，甚至引得词典出版商韦氏专门发推澄清事实。

冈瑟至今仍感到很困惑，不知谷歌为什么会采信这条视频。“他们大概不应该把我的视频当作任何形式的信息来源。”他说。

这条视频暴露出谷歌AI概览设计中的几处弱点。谷歌副总裁莉兹·里德（Liz Reid）在5月的一篇博客文章中解释道，这类奇怪搜索结果的根源是“数据空白”，即在搜索某个主题时，相关优质内容极少，或者仅有恶搞内容。

“在少数情况下，我们确实看到AI概览误读了网页上的语言，呈现出不准确的信息。我们迅速解决了这些问题，或是通过改进算法，或是通过既有流程移除不符合我们政策的回答。”里德在博文中写道。

谷歌发言人奥利维亚·奥布莱恩（Olivia O’Brien）在一份声明中对《福布斯》表示：“绝大多数AI概览都是高质量的，准确性与精选摘要（Featured Snippets）之类的其他搜索功能不相上下。”

冈瑟现在正在捷克布拉格参加体操比赛，他表示，如果他编的这则笑话能借AI之力“遗臭万年”，他会很高兴。他开玩笑说，“我希望将来某一天，学校里会教孩子们‘约翰·后空翻’的故事。”

本文译自：

https://www.forbes.com/sites/iainmartin/2024/11/29/googles-training-its-ai-overviews-on-tiktok-its-going-as-well-as-you-would-expect/

文：Iain Martin

翻译：Lemin

福布斯中国独家稿件，未经许可，请勿转载

精彩资讯永不错过

▽