linux办公网
用AI数据训练AI效果怎样？国际最新研究称可能最终导致崩溃
创始人
2024-07-27 13:05:12
0次

中新网北京7月27日电 (记者 孙自法)国际学术期刊《自然》最新发表一篇计算机科学论文指出，用人工智能(AI)生成的数据集训练未来几代机器学习模型可能会污染它们的输出，这个概念称为“模型崩溃”。

该研究显示，原始内容会在AI数代内变成不相关的胡言乱语，显示出使用可靠数据训练AI模型的重要性。

生成式AI工具越来越受欢迎，如大语言模型等，这类工具主要用人类生成的输入进行训练。不过，随着这些AI模型在互联网不断壮大，计算机生成内容可能会以递归循环的形式被用于训练其他AI模型或其自身。

论文第一作者兼共同通讯作者、英国牛津大学Ilia Shumailov和同事及合作者一起，用数学模型演示了AI模型可能会如何出现模型崩溃。他们证明了一个AI可能会忽略训练数据中的某些输出(如不太常见的文本)，导致其只用一部分数据集来自我训练。

随后，论文作者还研究了AI模型会如何应对主要用人工智能生成的训练数据集。他们发现，给模型输入AI生成的数据会减弱今后几代模型的学习能力，最终导致模型崩溃。他们测试的几乎所有递归训练语言模型都容易出现重复短语。比如，一个用中世纪建筑文本作为原始输入的测试到第九代的输出已经是一串野兔的名字。

论文作者指出，为了让人工智能成功使用其自身输出进行训练，本次研究认为用AI生成数据训练一个模型并非不可能，但必须对数据进行严格过滤。与此同时，依赖人类生成内容的科技公司或许能比竞争对手训练出更高效的AI模型。(完)

进行 数据 国际 输出 模型 训练 效果 科学论文 研究 内容 原创新闻 人工智能 文本 论文

上一篇：这个国产 AI 助手的悬浮球，做了苹果想做但没做到的事

下一篇：AI如何跨界赋能产业创新？ 这些科技工作者有话说

相关内容

法拉电子涨6.31%，开源...
今日法拉电子（600563）涨6.31%，收盘报190.04元。 ...
2026-06-26 00:51:32
壮大长期资本耐心资本 护航...
中外专家热议资本如何护航人工智能发展。 贺觉渊/摄 证券时报记者 ...
2026-06-25 20:10:45
从拼算力到拼电力：AI重塑...
来源：证券时报 每一届夏季达沃斯，“能源”都是绕不开的话题。但在2...
2026-06-25 09:32:00
下一代数据库技术展现大幅减...
钛媒体App 6月25日消息，为破解人工智能（AI）智能体常见的“...
2026-06-25 09:29:24
AI全球治理，中国要成为规...
人工智能治理水平不仅关乎一国数字主权、社会稳定与产业繁荣，更攸关全...
2026-06-25 09:28:07
“AI幻觉”一本正经地胡编...
“AI幻觉”一本正经地胡编乱造，侵权责任谁担？ “AI幻觉”指大语...
2026-06-25 09:28:06

热门资讯

2024云栖大会|阿里云升级无... 北京商报讯（记者魏蔚）9月20日，阿里云无影AI云电脑在2024云栖大会上展出，该版本基于最新的终端...
MWC2025荣耀多款AI技术... 人民财讯3月6日电，2025世界移动通信大会（MWC 2025）上，荣耀MagicBook Pro ...
原创 2... #春日生活好物种草季#近年来，笔记本电脑市场迎来技术爆发期，尤其在手机厂商跨界入局后，轻薄本在性能、...
摩尔线程发布AI算力笔记本MT... 钛媒体App 12月20日消息，摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
摩尔线程AI生图摩笔马良全新升... 快科技8月7日消息，作为国产GPU的杰出代表，摩尔线程在当下火爆的AIGC浪潮中也推出了自己的软硬一...
微软 Azure AI 语音服... IT之家 8 月 23 日消息，微软Azure AI 语音服务允许开发者构建多语言生成式 AI 语音...
谷歌打磨 Gemini AI ... IT之家 8 月 31 日消息，谷歌于 8 月 27 日发布博文，宣布旗下 Gemini AI 支持...
青云QingCloud Kub... 日前，青云科技宣布开源 Thanos 的企业级发行版 Whizard，为企业带来真正高可用、可扩展、...
Macos系统上一款强大的卸载... App Cleaner mac中文版是Mac os系统上一款强大 的mac卸载工具，以帮助您完全卸载...
AMD锐龙AI 9 HX 37... 2024年6月3日，AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...