研究：AI大型语言模型越聪明就越有可能编造事实
创始人
2024-09-29 14:29:18
0次
一项新研究发现，随着大型语言模型(LLM)变得越来越强大，它们似乎也越来越容易编造事实，而不是避免或拒绝回答它们无法回答的问题。该研究发表在《自然》杂志上，研究人员研究了一些业界领先的商业LLM：OpenAI的GPT和Meta的LLaMA，以及由研究小组BigScience创建的开源模型BLOOM。研究发现，虽然这些LLM的回答在许多情况下变得更加准确，但总体上可靠性更差，给出错误答案的比例比旧模型更高。研究人员称，解决这些问题最简单的方法是让LLM不那么急于回答一切，可以设置一个阈值，当问题具有挑战性时，让聊天机器人说“不，我不知道”，但如果聊天机器人被限制为只回答它们知道的东西，可能会暴露技术的局限性。
来源：金融界AI电报
相关内容
热门资讯
国产大模型下调推理服务价格，南...
近日，国内某大模型企业宣布下调其flash系列模型服务价格，输入缓存命中、输入缓存未命中及输出价格最...
解码青年人AI生活《2026有...
中新网深圳9月5日电(记者索有为)《2026有意思生活方式报告》(下称《报告》)4日在全国首个有意思...
OpenAI 最强 AI 生图...
9月9日消息，OpenAI 9 月 9 日官宣发布 ChatGPT Images 2.5，图像生成延...
探索AI供应链产业化路径京东推...
2026年以来，人工智能应用范围加速拓展，持续从数字空间走向现实生活，广泛融入生产线、仓储厂房、配送...
教育部发文！AI生成内容，教师...
一篇论文，因为AI使用不当，相关高校师生被通报处理。 9月2日，安徽财经大学公布“教师与学生涉嫌学术...
AI识别出近800种可充当乳化...
英国利兹大学食品科学与营养学院和爱丁堡大学科学家携手，开发出一款 人工智能（AI）工具，能从数千万种...
搭上低空经济、AI文旅？两连板...
桂林旅游（000978）回应市场热点。 9月8日，桂林旅游再度涨停，斩获2连板。当天晚间，该公司披露...
硅谷：我们不能被硅谷“AI刹车...
【文/底线思维】 OpenAI首席科学家Jakub Pachocki最近写了一篇文章，题目叫《An ...