linux办公网
研究：AI大型语言模型越聪明就越有可能编造事实
创始人
2024-09-29 14:29:18
0次

一项新研究发现，随着大型语言模型(LLM)变得越来越强大，它们似乎也越来越容易编造事实，而不是避免或拒绝回答它们无法回答的问题。该研究发表在《自然》杂志上，研究人员研究了一些业界领先的商业LLM：OpenAI的GPT和Meta的LLaMA，以及由研究小组BigScience创建的开源模型BLOOM。研究发现，虽然这些LLM的回答在许多情况下变得更加准确，但总体上可靠性更差，给出错误答案的比例比旧模型更高。研究人员称，解决这些问题最简单的方法是让LLM不那么急于回答一切，可以设置一个阈值，当问题具有挑战性时，让聊天机器人说“不，我不知道”，但如果聊天机器人被限制为只回答它们知道的东西，可能会暴露技术的局限性。

来源：金融界AI电报

Meta 机器人 语言 阈值 模型 问题 OpenAI 事实 局限性 研究 电报

上一篇：微星笔记本多款新品开启预约：搭载AMD锐龙AI 300

下一篇：今起报名！上海AI（ChatGPT）应用操作入门培训来啦！

相关内容

AI陪伴“火”了，靠谱吗？
【解码数智+⑨·记者观察】 过去一年，大学生王诗航陆续购入6款AI...
2026-06-23 10:52:31
某国家机关工作人员使用开源...
今天， “保密观”发文—— 近年来，人工智能技术飞速发展，各类AI...
2026-06-23 07:52:51
华为AI通信专利获授权：设...
【CNMO科技消息】随着人工智能技术加速向终端设备普及，如何让不同...
2026-06-22 20:32:22
刚刚，百度开源拿下全球第一...
新智元报道 【新智元导读】百度开源Unlimited OCR！3...
2026-06-22 20:30:12
全球首个！京东全栈开源Jo...
一场火灾发生的瞬间，监控系统可以实时发出警报；独居老人在家摔倒，A...
2026-06-22 17:47:51
科沃斯集团618双品牌全渠...
2026年618大促落幕，又到阶段性成果结算时刻。 科沃斯集团交出...
2026-06-22 17:47:25

热门资讯

2024云栖大会|阿里云升级无... 北京商报讯（记者魏蔚）9月20日，阿里云无影AI云电脑在2024云栖大会上展出，该版本基于最新的终端...
MWC2025荣耀多款AI技术... 人民财讯3月6日电，2025世界移动通信大会（MWC 2025）上，荣耀MagicBook Pro ...
原创 2... #春日生活好物种草季#近年来，笔记本电脑市场迎来技术爆发期，尤其在手机厂商跨界入局后，轻薄本在性能、...
摩尔线程发布AI算力笔记本MT... 钛媒体App 12月20日消息，摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
摩尔线程AI生图摩笔马良全新升... 快科技8月7日消息，作为国产GPU的杰出代表，摩尔线程在当下火爆的AIGC浪潮中也推出了自己的软硬一...
微软 Azure AI 语音服... IT之家 8 月 23 日消息，微软Azure AI 语音服务允许开发者构建多语言生成式 AI 语音...
谷歌打磨 Gemini AI ... IT之家 8 月 31 日消息，谷歌于 8 月 27 日发布博文，宣布旗下 Gemini AI 支持...
青云QingCloud Kub... 日前，青云科技宣布开源 Thanos 的企业级发行版 Whizard，为企业带来真正高可用、可扩展、...
Macos系统上一款强大的卸载... App Cleaner mac中文版是Mac os系统上一款强大 的mac卸载工具，以帮助您完全卸载...
AMD锐龙AI 9 HX 37... 2024年6月3日，AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...