用AI数据训练AI效果怎样？国际最新研究称可能最终导致崩溃
创始人
2024-07-27 13:05:12
0次
中新网北京7月27日电 (记者 孙自法)国际学术期刊《自然》最新发表一篇计算机科学论文指出，用人工智能(AI)生成的数据集训练未来几代机器学习模型可能会污染它们的输出，这个概念称为“模型崩溃”。
该研究显示，原始内容会在AI数代内变成不相关的胡言乱语，显示出使用可靠数据训练AI模型的重要性。
生成式AI工具越来越受欢迎，如大语言模型等，这类工具主要用人类生成的输入进行训练。不过，随着这些AI模型在互联网不断壮大，计算机生成内容可能会以递归循环的形式被用于训练其他AI模型或其自身。
论文第一作者兼共同通讯作者、英国牛津大学Ilia Shumailov和同事及合作者一起，用数学模型演示了AI模型可能会如何出现模型崩溃。他们证明了一个AI可能会忽略训练数据中的某些输出(如不太常见的文本)，导致其只用一部分数据集来自我训练。
随后，论文作者还研究了AI模型会如何应对主要用人工智能生成的训练数据集。他们发现，给模型输入AI生成的数据会减弱今后几代模型的学习能力，最终导致模型崩溃。他们测试的几乎所有递归训练语言模型都容易出现重复短语。比如，一个用中世纪建筑文本作为原始输入的测试到第九代的输出已经是一串野兔的名字。
论文作者指出，为了让人工智能成功使用其自身输出进行训练，本次研究认为用AI生成数据训练一个模型并非不可能，但必须对数据进行严格过滤。与此同时，依赖人类生成内容的科技公司或许能比竞争对手训练出更高效的AI模型。(完)
相关内容
热门资讯
“20后”AI原住民已经踏入小...
本文章节： 01、AI原住民入学了！不要再用传统眼光看他们！ 02、AI秒出答案，孩子为什么还要学习...
“用了AI，就成了过街老鼠？”
架起手机，打开录像，8月18日晚上10点多，网文作者“鬼谷道长”坐到电脑前，开始写小说最新章节。 和...
从单一Agent到组织智能：i...
9月2日，菠萝智云（浙江）科技有限公司在北京东城区玖安广场和平·in OPC社区举办的“iPollo...
AI三秒出图，海马体却排起长队...
AI三秒出图的时代，厦门海马体一家门店周末单日涌进一百多单，近八成是开学季入学照——这不是逆势，而是...
福建仙游县突发山洪，一栋三层民...
连日来，福建莆田仙游县遭遇短时强降雨，龙华镇一村庄暴发山洪，湍急的洪水冲垮村内一栋三层民房。记者向村...
原创 被...
在国际舞台上，阿富汗塔利班的外交努力与现实无疑是一个令人关注的焦点。近日，塔利班再次遭到上合组织（上...
开源证券：给予普昂医疗买入评级
开源证券股份有限公司诸海滨,车欣航近期对普昂医疗进行研究并发布了研究报告《北交所信息更新：糖尿病护理...
开源证券：给予基康技术增持评级
开源证券股份有限公司诸海滨,杨懿宁近期对基康技术进行研究并发布了研究报告《北交所信息更新：公司聚焦水...
智汇西岸聚力AI——2026年...
4月27日下午，市经济信息化委组织的2026年首期“沪企行”高成长企业创始人下午茶(AI专场)活动成...
开源证券：给予五新智能买入评级
开源证券股份有限公司诸海滨,余中天近期对五新智能进行研究并发布了研究报告《北交所信息更新：2026H...