苹果AI新增反幻觉指令,严防智能回复“胡说八道”
创始人
2024-08-07 13:43:51
0

近日,随着macOS 15.1测试版的发布,网友在其中发现了苹果公司针对Apple Intelligence智能回复(Smart Reply)功能的一系列重要内部指令。这些指令以JSON文件的形式存在,详细且严谨地规定了该功能的工作流程,其中最引人瞩目的要求是:系统“不要编造事实,不要产生幻觉”。

智能回复作为苹果邮件应用的一项创新功能,旨在通过先进的智能技术,自动分析邮件内容并生成多个可能的回复选项,以便用户快速响应。然而,随着生成式AI技术的广泛应用,这类系统也面临着一个共同的问题——“幻觉”现象,即系统有时会生成虚假或误导性的信息,从而影响用户体验和信任度。

为了有效解决这一问题,苹果公司在系统内部新增了严格的反幻觉指令。根据泄露的指令内容,智能回复功能现在被明确要求仅提取邮件中明确提出的问题,并基于这些问题提供相关的回答选项。这一举措从根本上限制了AI系统在生成回复时的自由度,避免了因无根据的推断而产生的错误或误导性信息。

苹果公司对智能回复功能的这一改进,不仅体现了其在提升用户体验方面的持续努力,也反映了该公司对AI技术可能带来的潜在风险的深刻认识。苹果CEO蒂姆·库克曾在公开场合表示,尽管苹果在人工智能方面取得了重大进展,但AI幻觉等问题仍然无法完全避免。因此,苹果始终致力于通过技术手段减少这类问题的发生,以提高AI系统的准确性和可靠性。

相关内容

Siri升级推迟 苹果高管...
苹果公司负责智能助手Siri的高管对员工表示,关键功能的发布延迟“...
2025-03-15 11:14:12
“东莞智媒AI产业赋能基地...
近日,“东莞智媒AI产业赋能基地”正式揭牌,依托东莞融媒集群,打造...
2025-03-15 09:41:33
布局加速,小米计划 202...
【环球网科技综合报道】3月14日消息,据日本经济新闻报道,小米公司...
2025-03-15 09:14:29
AI生成合成内容应添标识
本报综合 近日,国家互联网信息办公室、工业和信息化部、公安部、国家...
2025-03-15 07:14:10
创意信息新注册《AI能力感...
证券之星消息,近日创意信息(300366)新注册了4个项目的软件著...
2025-03-15 06:41:37

热门资讯

原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
支持 AI 扩图,华为 Pur... 2024-07-28 09:05:02作者:姚立伟 华为Pura 70 Pro手机今日推出鸿蒙Ha...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
吞噬星空维妮娜美图/高清壁纸/... 国漫女神|《吞噬星空》维妮娜美图/高清壁纸/AI手机壁纸/无水印 国漫女神|《吞噬星空》维妮娜美图...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 商... 最近,各家的AI 9笔记本开始陆续登场,其实大家并不一定非选AI 9 HX 370,主要是这颗CPU...
AI智能+高效清洁!萤石RS2... 目前扫拖机器人市场的竞争非常激烈,在上下水扫拖一体机市场也出现了很多所谓的创新产品。但是对于这些产品...
2024年度中国银行业发展报告... 21世纪经济报道 记者李愿 北京报道 10月19日,中国银行业协会在2024金融街论坛年会·金融街之...