linux办公网
研究：AI大型语言模型越聪明就越有可能编造事实
创始人
2024-09-29 14:29:18
0次

一项新研究发现，随着大型语言模型(LLM)变得越来越强大，它们似乎也越来越容易编造事实，而不是避免或拒绝回答它们无法回答的问题。该研究发表在《自然》杂志上，研究人员研究了一些业界领先的商业LLM：OpenAI的GPT和Meta的LLaMA，以及由研究小组BigScience创建的开源模型BLOOM。研究发现，虽然这些LLM的回答在许多情况下变得更加准确，但总体上可靠性更差，给出错误答案的比例比旧模型更高。研究人员称，解决这些问题最简单的方法是让LLM不那么急于回答一切，可以设置一个阈值，当问题具有挑战性时，让聊天机器人说“不，我不知道”，但如果聊天机器人被限制为只回答它们知道的东西，可能会暴露技术的局限性。

来源：金融界AI电报

Meta 机器人 语言 阈值 模型 问题 OpenAI 事实 局限性 研究 电报

上一篇：微星笔记本多款新品开启预约：搭载AMD锐龙AI 300

下一篇：今起报名！上海AI（ChatGPT）应用操作入门培训来啦！

相关内容

消息称Meta下月启动首轮...
IT之家4月18日消息，北京时间今天（4月18日）凌晨，据路透社援...
2026-04-18 11:16:43
Meta押注AI数字人 正...
来源：环球市场播报 Meta正在打造人工智能版马克・扎克伯格，可代...
2026-04-18 11:12:52
AI赋能千行百业一线观察｜...
编者按：新华网“AI赋能千行百业一线观察”系列融合报道，走进产业一...
2026-04-13 21:54:36
豫园股份涨7.08%，开源...
今日豫园股份（600655）涨7.08%，收盘报4.99元。 20...
2026-04-13 21:47:59
白天练AI，晚上“练队友”
羊城晚报记者 刘克洪 11日至12日，2026电竞粤超深圳站在深圳...
2026-04-13 13:53:33
MiniMax M2.7开...
4月13日消息，MiniMax M2.7 于今日正式开源。该公司宣...
2026-04-13 13:49:10

热门资讯

2024云栖大会|阿里云升级无... 北京商报讯（记者魏蔚）9月20日，阿里云无影AI云电脑在2024云栖大会上展出，该版本基于最新的终端...
MWC2025荣耀多款AI技术... 人民财讯3月6日电，2025世界移动通信大会（MWC 2025）上，荣耀MagicBook Pro ...
原创 2... #春日生活好物种草季#近年来，笔记本电脑市场迎来技术爆发期，尤其在手机厂商跨界入局后，轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日，AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案，以下是几款备受推崇的工具： 触站AI：强烈推荐！...
骁龙本这么猛？联想YOGA A... 在人人都是自媒体的时代，一部手机可以解决出镜拍摄问题，而商务出差、大量码字、图像处理等需求用笔记本则...
摩尔线程发布AI算力笔记本MT... 钛媒体App 12月20日消息，摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域，CentOS与Ubuntu...
苹果macOS 15.1：允许... 苹果公司在其最新的macOS 15.1版本中，推出了一项引人注目的新功能——允许用户将Mac App...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻，随着生成式AI的流行，各家手机厂商都在积极备战AI手机...