linux办公网
研究：AI大型语言模型越聪明就越有可能编造事实
创始人
2024-09-29 14:29:18
0次

一项新研究发现，随着大型语言模型(LLM)变得越来越强大，它们似乎也越来越容易编造事实，而不是避免或拒绝回答它们无法回答的问题。该研究发表在《自然》杂志上，研究人员研究了一些业界领先的商业LLM：OpenAI的GPT和Meta的LLaMA，以及由研究小组BigScience创建的开源模型BLOOM。研究发现，虽然这些LLM的回答在许多情况下变得更加准确，但总体上可靠性更差，给出错误答案的比例比旧模型更高。研究人员称，解决这些问题最简单的方法是让LLM不那么急于回答一切，可以设置一个阈值，当问题具有挑战性时，让聊天机器人说“不，我不知道”，但如果聊天机器人被限制为只回答它们知道的东西，可能会暴露技术的局限性。

来源：金融界AI电报

Meta 机器人 语言 阈值 模型 问题 OpenAI 事实 局限性 研究 电报

上一篇：微星笔记本多款新品开启预约：搭载AMD锐龙AI 300

下一篇：今起报名！上海AI（ChatGPT）应用操作入门培训来啦！

相关内容

Flova 接入 Seed...
最近AI视频行业，有三件事值得展开说说。 第一件：安徽卫视7月22...
2026-08-11 19:50:34
中文在线携手火山引擎探索A...
观点网讯：8月10日，中文在线宣布与火山引擎达成深度业务合作。双方...
2026-08-11 19:44:25
AI安全测试正在成为新的安...
在过去几个月里，正在接受网络安全评估的AI智能体相继突破限制、访问...
2026-08-11 19:40:06
近200家硅谷初创企业反对...
钛媒体App 8月10日，美国一些高级官员公开表示拟对中国人工智能...
2026-08-11 19:35:40
智能体AI或将推动企业级A...
来自微软Azure与德克萨斯大学奥斯汀分校的研究人员指出，随着企业...
2026-08-09 16:58:37
据The Informat...
据The Information：法律AI初创公司Harvey正洽...
2026-08-09 03:52:17

热门资讯

全新开源项目公布，让PC Ga... IT之家 8 月 11 日消息，据外媒 TechPowerup 报道，一批曾参与开发 Heroic ...
玩偶恶搞 我在即梦发现了一个超...
Flova 接入 Seedan... 最近AI视频行业，有三件事值得展开说说。 第一件：安徽卫视7月22日起在晚间时段首播全AI流程制作的...
AI短剧女主“方桃子”代言美瞳... 近期AI短剧《被裁掉的女孩》女主角“方桃子”，因在短视频平台账号主页发布的作品中植入某美瞳产品广告，...
中文在线携手火山引擎探索AI与... 观点网讯：8月10日，中文在线宣布与火山引擎达成深度业务合作。双方将围绕视频生成模型Seedance...
AI安全测试正在成为新的安全隐... 在过去几个月里，正在接受网络安全评估的AI智能体相继突破限制、访问互联网，甚至在某些情况下入侵了真实...
汤臣倍健（300146）新增【... 证券之星消息，根据市场公开信息整理，8月10日汤臣倍健（300146）新增【AI智能体】概念。 新增...
近200家硅谷初创企业反对限制... 钛媒体App 8月10日，美国一些高级官员公开表示拟对中国人工智能企业开展调查并实施制裁，引起美国业...
国家机构预警Sorry勒索病毒... IT时代网8月10日消息，国家计算机病毒应急处理中心10日通报，依托国家计算机病毒协同分析平台，该中...
每周股票复盘：乐鑫科技（688... 截至2026年8月7日收盘，乐鑫科技（688018）报收于112.06元，较上周的102.7元上涨9...