原创 法律能否要求AI讲真话
创始人
2024-08-09 06:39:02
0

英国《新科学家》周刊网站8月7日文章,原题:人工智能聊天机器人能否受到“说真话”法律义务的约束 人们能要求人工智能讲真话吗?或许不能,但一个伦理学家团队表示,从法律上来说,人工智能开发商应该承担减少犯错风险的责任。“我们只是在尝试创建一种激励构架,让公司在创建(大语言模型)系统时更重视真实性或准确性,”牛津大学伦理学家布伦特·米特尔施塔特说。

基于对大量文本的统计分析,大语言模型聊天机器人,例如ChatGPT能对用户提出的问题生成类似人类的回答。然而,尽管它们的答案通常看起来令人信服,但也容易出错,这是一种被称为“幻觉”的缺陷。米特尔施塔特说:“我们拥有这些极其令人印象深刻的生成式人工智能系统,但它们也会频繁出错,从我们对这种系统基本机能的了解来看,没有根本的解决方法。”

米特尔施塔特表示,对大语言模型系统来说,这是一个重大问题,因为它们正在被应用于政府决策,在这种情况下,它们诚实地承认自己的知识局限性就变得至关重要。为解决这个问题,他们提出一系列应对措施:当被问及与事实有关的问题时,人工智能应该像人一样。这意味着它们要诚实,秉持“知之为知之,不知为不知,是知也”的态度。“要点在于采取必要步骤,让它们真正做到谨言慎行,”米特尔施塔特说,“如果对某件事不确定,它们不要只是为了让人们信服而编造一些东西。相反,它们应该说,‘嘿,你知道吗?我不知道。让我来研究一下。我会回复你的。’”

这似乎是一个值得称赞的目标,但在英国德蒙福特大学网络安全教授伊尔克·鲍伊腾看来,伦理学家提出的这些要求在技术上未必可行。开发商正尝试让人工智能实事求是,但到目前为止,事实证明这是一项极其“劳动密集型”的任务,甚至不切实际。“我不明白,他们怎么期望法律要求强制执行这种命令,我认为这在技术上根本行不通,”鲍伊腾说。

为此,米特尔施塔特及其同事们提出一些更直接的措施,可能使人工智能更“诚实”。他说,这些模型应该列出答案的信息源,目前许多模型都在这样做以证明它们给出答案的可信度,此外,更广泛地使用一种被称为“检索增强”的技术来给出答案,也可能限制这些模型产生“幻觉”的可能性。他还认为,应该缩减在政府决策等高风险领域部署人工智能的规模,或者应该限制模型可利用的信息源。“如果我们有一个仅在医学中使用的语言模型,我们就应该限制它,让它只能在高质量医学期刊上搜索学术文章。”

米特尔施塔特声称,改变观念也很重要,“如果我们能摆脱所谓(大语言模型)善于回答事实性问题、或者它们至少会给你一个可靠答案的想法,而是认为它们有助于为你提供更多相关的信息,那就太好了。”

但荷兰乌得勒支大学法学院副教授卡塔琳娜·戈安塔表示,这些研究人员过于关注技术,因此对公共话语中长期存在的谎言问题关注不够。“在这种背景下,仅将矛头指向大语言模型会制造一种假象,即人类非常勤奋细致,永远不会犯此类错误。问问你遇到的任何法官,他们都遇到过律师玩忽职守的可怕经历,反之亦然——这并非一个机器的问题。”(作者克里斯·斯托克尔-沃克,王会聪译)▲

相关内容

“苏小保维权助手”来啦!江...
扬子晚报网3月15日讯(记者 薛玲 马燕)在刚刚结束的两会中,政府...
2025-03-15 18:40:58
龙坤智慧取得基于 AI 大...
金融界 2025 年 3 月 15 日消息,国家知识产权局信息显示...
2025-03-15 17:11:47
智谱AI密集披露融资细节,...
图片来源:界面图库 界面新闻记者 | 伍洋宇 界面新闻编辑 ...
2025-03-15 16:14:16
驯服AI,更懂物理!何恺明...
新智元报道 编辑:英智 【新智元导读】何恺明团队提出的去噪哈密顿...
2025-03-15 16:13:49
Siri升级推迟 苹果高管...
苹果公司负责智能助手Siri的高管对员工表示,关键功能的发布延迟“...
2025-03-15 11:14:12
“东莞智媒AI产业赋能基地...
近日,“东莞智媒AI产业赋能基地”正式揭牌,依托东莞融媒集群,打造...
2025-03-15 09:41:33

热门资讯

原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
支持 AI 扩图,华为 Pur... 2024-07-28 09:05:02作者:姚立伟 华为Pura 70 Pro手机今日推出鸿蒙Ha...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
吞噬星空维妮娜美图/高清壁纸/... 国漫女神|《吞噬星空》维妮娜美图/高清壁纸/AI手机壁纸/无水印 国漫女神|《吞噬星空》维妮娜美图...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 商... 最近,各家的AI 9笔记本开始陆续登场,其实大家并不一定非选AI 9 HX 370,主要是这颗CPU...
AI智能+高效清洁!萤石RS2... 目前扫拖机器人市场的竞争非常激烈,在上下水扫拖一体机市场也出现了很多所谓的创新产品。但是对于这些产品...
2024年度中国银行业发展报告... 21世纪经济报道 记者李愿 北京报道 10月19日,中国银行业协会在2024金融街论坛年会·金融街之...