应对AI提示注入攻击,OpenAI为ChatGPT推出锁定模式与风险标签
创始人
2026-02-14 11:20:36
0

IT之家 2 月 14 日消息,OpenAI 于 2026 年 2 月 13 日发布公告,宣布为 ChatGPT 新增高级安全设置。

OpenAI 表示,随着 AI 系统开始承担更复杂的任务,尤其是涉及网页与外部应用的场景,安全风险也随之激增,其中一种日益凸显的新型风险便是“提示注入”(prompt injection)。在此类攻击中,第三方会通过提示词误导 AI 以使其执行恶意指令,或诱导其泄露内部敏感信息。

为帮助用户与组织降低提示注入攻击风险,OpenAI 宣布推出两项新的防护措施,IT之家总结如下:

  • 其一是 ChatGPT 的“Lockdown Mode(锁定模式)”,这是一项面向高风险用户的可选高级安全设置;
  • 其二是针对部分可能引入额外风险的能力,在 ChatGPT、ChatGPT Atlas 与 Codex 中统一新增“Elevated Risk”风险标签。

OpenAI 称,这些新增措施建立在其现有的多层防护之上,包括沙箱机制、针对基于 URL 的数据外泄的防护、监测与执行机制,以及企业级控制功能,例如基于角色的访问控制与审计日志等。

据介绍,锁定模式是一项可选的高级安全设置,主要面向少量高度重视安全的用户群体,例如大型组织的高管或安全团队,用于提升对高级威胁的防护能力。

OpenAI 强调,大多数用户并不需要启用锁定模式。其核心目标是通过严格限制 ChatGPT 与外部系统的交互方式,降低提示注入等攻击导致的数据外泄风险。

OpenAI 表示,锁定模式会以确定性方式禁用 ChatGPT 中某些可能被攻击者利用的工具与能力,从而避免攻击者通过提示注入等手段,将用户对话或已连接应用中的敏感数据外传。

作为例子,OpenAI 提到,在锁定模式下,ChatGPT 的网页浏览功能将被限制为仅访问已缓存内容。该限制旨在防止敏感数据在浏览过程中被攻击者获取或外泄。对于某些无法提供强确定性数据安全保证的功能,锁定模式下则会直接完全禁用。

OpenAI 同时指出,ChatGPT 的商业订阅版本已提供企业级数据安全能力,而锁定模式是在此基础上的进一步增强。该模式目前适用于 ChatGPT Enterprise、ChatGPT Edu、ChatGPT for Healthcare 与 ChatGPT for Teachers。管理员可以在 Workspace Settings 中通过创建新角色来启用锁定模式。启用后,锁定模式会在现有管理员设置之上叠加额外限制。

由于部分关键工作内容仍依赖外部应用,OpenAI 表示 Workspace 管理员仍可获得更细粒度的控制能力:管理员可以精确选择哪些应用、以及这些应用内的哪些具体操作,可在锁定模式下提供给用户使用。

OpenAI 还提到,除锁定模式外,其 Compliance API Logs Platform 还可提供对应用使用情况、共享数据与连接来源的更详细可见性,帮助管理员保持监管与审计能力。OpenAI 表示,计划在未来几个月将锁定模式提供给消费者用户。

在风险标签方面,OpenAI 表示,AI 产品在连接应用与网页后往往更有帮助,公司也在保护连接数据安全方面投入大量工作。但与此同时,某些与网络相关的能力会引入新的风险,而这些风险尚未被行业现有的安全与防护措施完全解决。OpenAI 认为,一部分用户可能愿意承担这些风险,因此重要的是让用户能够自行决定是否、以及如何使用这些能力,尤其是在处理个人私密数据时。

OpenAI 表示,其做法是在产品内为可能引入额外风险的功能提供使用指引。为使这一指引更清晰、更一致,公司正在标准化对一小部分现有能力的标注方式。这些功能将以统一的“Elevated Risk”标签呈现在 ChatGPT、ChatGPT Atlas 与 Codex 中,使用户在不同产品中遇到同类能力时都能获得一致提示。

OpenAI 以 Codex 举例称,在其编程助手产品中,开发者可以授予 Codex 网络访问权限,使其能够在网页上执行诸如查阅文档等操作。但相关设置界面将显示“风险提升”标签,并提供明确说明,包括启用后会发生哪些变化、可能引入哪些风险、以及何时适合开启该访问权限。

相关内容

梧桐街区迎科技风景 上海A...
中新社上海7月9日电 (记者 郑莹莹 康玉湛)2026世界人工智能...
2026-07-09 23:09:40
支付宝“碰一下”全面AI升...
7月8日,支付宝宣布“碰一下”完成AI升级,百万级商家侧设备整体升...
2026-07-09 18:48:41
阶跃星辰将发布AI智能体手...
阶跃星辰即将发布AI终端品牌、智能体系统及其首款AI智能体手机。此...
2026-07-09 14:34:36
告别被动 AI 助手!努比...
端侧AI喊了两年,手机厂商们的落地方式终于开始出现分化了。 202...
2026-07-09 10:46:17
韩国探索AI长片赛道
放眼全球,多国在加速布局人工智能(AI)影视落地。从剧本构思、虚拟...
2026-07-08 23:04:00
AI“医路”狂奔 法治“缰...
诊疗结束,患者才知报告出自AI(人工智能);挂了专家号,专家却转头...
2026-07-08 11:35:56

热门资讯

2024云栖大会|阿里云升级无... 北京商报讯(记者魏蔚)9月20日,阿里云无影AI云电脑在2024云栖大会上展出,该版本基于最新的终端...
MWC2025荣耀多款AI技术... 人民财讯3月6日电,2025世界移动通信大会(MWC 2025)上,荣耀MagicBook Pro ...
原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
摩尔线程AI生图摩笔马良全新升... 快科技8月7日消息,作为国产GPU的杰出代表,摩尔线程在当下火爆的AIGC浪潮中也推出了自己的软硬一...
摩尔线程发布AI算力笔记本MT... 钛媒体App 12月20日消息,摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
微软 Azure AI 语音服... IT之家 8 月 23 日消息,微软Azure AI 语音服务允许开发者构建多语言生成式 AI 语音...
谷歌打磨 Gemini AI ... IT之家 8 月 31 日消息,谷歌于 8 月 27 日发布博文,宣布旗下 Gemini AI 支持...
Macos系统上一款强大的卸载... App Cleaner mac中文版是Mac os系统上一款强大 的mac卸载工具,以帮助您完全卸载...
青云QingCloud Kub... 日前,青云科技宣布开源 Thanos 的企业级发行版 Whizard,为企业带来真正高可用、可扩展、...
8月20日基金净值:前海开源中... 证券之星消息,8月20日,前海开源中国稀缺资产混合A最新单位净值为1.43元,累计净值为1.43元,...