命中率超 98%:微软披露侧信道攻击,可窥探你和 AI 聊天内容
创始人
2025-11-10 08:45:11
0

IT之家 11 月 10 日消息,微软安全研究团队于 11 月 8 日发布博文,披露名为“Whisper Leak”的严重隐私漏洞,是一种针对现代 AI 聊天服务的侧信道攻击。

IT之家援引博文介绍,这一攻击技术的核心在于,它不需要破解 TLS 等主流加密协议,而是通过分析加密网络流量的元数据(即数据包的大小、传输时序和序列模式)来推断用户与 AI 的对话主题。

由于 AI 服务为提供流畅体验,普遍采用 token-by-token 流式传输应答,这种行为恰好在网络层留下了独特的“指纹”,让攻击成为可能。

研究人员通过训练机器学习模型,证明了这种攻击的有效性。他们采集了大量 AI 应答的加密数据包轨迹,发现不同主题的对话会产生系统性差异的元数据模式。

例如,关于“洗钱”等敏感话题的提问,其应答数据包的节奏和大小组合,与普通日常对话显著不同。在受控的实验环境中,分类器识别特定敏感话题的准确率惊人地超过了 98%,表明其在现实世界中进行大规模、高精度定点监控的潜力。

此漏洞暴露了广泛的 AI 聊天服务所面临的系统性风险。互联网服务提供商(ISP)、公共 Wi-Fi 上的恶意行为者等攻击者都可能利用 Whisper Leak,观察用户网络流量,识别和标记敏感对话。

这对记者、活动家以及寻求法律或医疗建议的普通用户构成了严重威胁,因为即使对话内容本身是加密的,对话的“主题”也可能被暴露,从而引发后续的审查或风险。

在微软遵循负责任披露原则通报业界后,多家主流 AI 供应商已迅速采取行动。现行的缓解措施主要分为三类:

  • 一是通过随机填充或内容混淆来破坏数据包大小与原文长度的关联性;
  • 二是采用 tokens 批处理,将多个 tokens 打包后再发送,以降低时间精度;
  • 三是主动注入虚拟数据包,干扰流量模式。

这些措施在提升安全性的同时,也带来了延迟增加、带宽消耗增大等代价,迫使服务商在用户体验和隐私保护之间做出权衡。

对普通用户而言,在处理高度敏感信息时,优先选择非流式应答模式,并避免在不受信任的网络中进行查询,是当前有效的防护手段。

相关内容

开源之争,撕裂硅谷
文|熔财经 每文 7月24日,黄仁勋发出了人生第一条X(原推特)...
2026-08-03 07:40:41
把AI搬进Linux:媒体...
导语:最近有开发者基于Debian推出了Shadowfetch,一...
2026-08-02 19:14:38
苹果macOS 26.6正...
IT之家 7 月 28 日消息,苹果今日向 Mac 电脑用户推送了...
2026-08-02 19:09:05
智谱官方谈“闭源的矛与开源...
IT之家 7 月 23 日消息,北京智谱华章科技股份有限公司官方微...
2026-07-24 20:48:49
小牛电动联合开源鸿蒙,将推...
IT之家 7 月 24 日消息,小牛电动官方今日宣布,联合开源鸿蒙...
2026-07-24 20:46:29
OpenAI模型失控,中国...
7月22日,人工智能研究公司OpenAI确认,上周AI平台Hugg...
2026-07-24 20:40:30

热门资讯

韩国启动全民AI成长阶梯项目,... 2026年8月3日,韩国科学技术信息通信部正式启动全民AI成长阶梯项目,项目整合全民AI学习馆、全民...
从全民AI入门到创业孵化,韩国... 8月3日,财闻海外资讯消息,韩国科学技术信息通信部正式启动全民AI成长阶梯项目,整合全民AI学习馆、...
AI赋能包 | 产品介绍⑪——... 产品介绍 短视频AI剪辑与碰一碰批量发布系统是一套面向企业短视频矩阵营销的“AI剪辑+碰一碰发布”系...
PandaAI李昱琦:AI交易... 上证报中国证券网讯(记者 胡尧)8月1日,在上海虹口举行的PandaAI第三届因子大赛颁奖典礼暨AI...
真人短剧被AI“抢饭碗”?从业... “去年下半年AI短剧开始兴起,过完年真人短剧行情跌到谷底。真人短剧拍摄量锐减,大量专门承接平台真人剧...
Genspark 发布 Gen... 用 Al-Native 的方式,打造一款新时代的 Office。 8 月 3 日,在 AGI Pla...
原生统一多模态进阶!Sense... 今年4月,商汤科技发布了SenseNova U1,首次完整展示了基于NEO-Unify架构的原生统一...
开放通用智能,MiniMax ... 8月3日,据MiniMax消息,MiniMax正式开源新一代通用视频模型MiniMax H3。据介绍...
商汤科技开源多模态模型Sens... IT之家 8 月 3 日消息,商汤科技今日宣布,面向社区开源轻量级统一多模态模型的预览版本 Sens...
MiniMax开源H3,视频模... 长期封闭的视频模型赛道,出现了一个开源旗舰。 7月31日,MiniMax发布视频旗舰模型H3,并在8...