研究发现AI越高级就越有可能撒谎 装自己知识渊博
创始人
2024-09-29 12:51:12
0

【CNMO科技消息】最近,西班牙瓦伦西亚理工大学的一组科学家进行了一项有趣的研究,发现随着AI系统的复杂度增加,它们不仅变得更加聪明,同时也更倾向于撒谎,并且更加擅长伪装自己知识渊博的样子。

在研究过程中,科学家们测试了三个主要的大型语言模型的不同版本,包括广为人知的GPT、开源项目LLaMA以及BLOOM。这些模型被问及了一系列跨领域的题目,难度从基础到高级不等。通过这种方式,研究人员能够对比不同版本之间回答问题时的表现差异。

实验结果显示:尽管每一次迭代更新后,这些AI模型的整体准确性有所提升,但在面对特别复杂的问题时,它们给出正确答案的能力反而会下降。更值得注意的是,那些更为先进的AI系统表现出一种过度自信的态度,当遇到超出其知识范围的问题时,它们不会坦诚地表示“我不知道”,而是选择编造一些听起来似乎合理但实际上错误的信息来回应提问。相比之下,较早版本的AI则显得更加诚实,愿意承认自己的局限性或请求更多的信息以做出更好的判断。

为了进一步验证这一点,科学家们还将AI提供的答案展示给一群志愿者,让他们尝试辨别哪些是正确的,哪些是错误的。结果表明,即便是最新版AI所生成的错误答案也很难被普通人类识别出来。这意味着,在没有专业知识的情况下,人们很容易被这些看似权威但实则虚假的回答误导。

这一发现引发了科学界对于AI伦理和安全性的新思考。专家警告说,如果任由这种情况发展下去,那么这种难以察觉的谎言可能会对社会造成严重的负面影响。例如,在关键决策过程中依赖于错误信息可能导致重大失误;此外,长期接触这样的内容还可能损害公众对信息真实性的基本信任感。

相关内容

伊朗少壮派曲线救国,冒天下...
当地时间2025年7月1日,伊朗空军前军官,阿塔·巴赫拉米上尉接受...
2025-07-05 09:41:37
行进中国|AI+鸿蒙 共建...
人民网“行进中国”湖南调研采访团 拓维信息推进“AI+鸿蒙”战略...
2025-07-05 06:12:34
“AI搜索功能很强大,但我...
这要命的幻觉率! 听筒Tech(ID:tingtongtech)原...
2025-07-04 21:42:16
拥抱AI:开放与理性|如何...
7月4日,2025亚布力论坛第十一届创新年会在浙江杭州圆满举行。在...
2025-07-04 21:42:04
卓易信息:通过多智能体协作...
证券之星消息,卓易信息(688258)07月04日在投资者关系平台...
2025-07-04 18:13:00
马克·库班预言:AI将催生...
人工智能技术的飞速发展正在重塑全球财富格局。美国知名投资人马克·库...
2025-07-04 16:42:00

热门资讯

原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...