从“影子AI”到大模型投毒,如何破解AI供应链攻击风险?
创始人
2026-08-24 15:37:47
0

随着大模型、AI智能体在企业生产、办公、业务系统大规模落地,企业AI部署形态日趋多元。与此同时,AI供应链攻击风险持续攀升,第三方开源模型、AI插件、技能文件已经成为攻击者的重要突破口。

卡巴斯基的一项统计数据显示,2026年上半年,卡巴斯基已检测到超过9.2万次伪装成Al服务的恶意攻击。自2026年2月起,卡巴斯基开始扫描系统上的OpenClaw Skills活动。目前每月能检测到超过两万次恶意OpenClaw Skills活动事件。

针对上述现状,卡巴斯基近期在广州正式推出面向AI原生安全的全新解决方案卡巴斯基AI Protect(KAIP)。据介绍,该产品聚焦AI供应链风险、大模型文件投毒、恶意AI Agent等新型威胁,兼顾传统网络攻击防御,旨在帮助企业实现AI业务创新与风险管控并行发展。

AI通过供应链、绕过管控等方式威胁企业

公开威胁数据显示,网络平台已出现上百个恶意大模型、数百个遭投毒的模型文件;攻击者上传伪装成正常权重文件的恶意模型,加载即可执行恶意指令,直接入侵企业内网业务系统。

具体到目前的危机来源,卡巴斯基大中华区CTO张殷提出,目前企业普遍面临着来自AI供应链、“影子AI”等层面的危机。

卡巴斯基大中华区CTO张殷

AI供应链即大多数企业不具备自研大模型能力、普遍依赖第三方开源模型。在这种情况下,一旦模型被投毒成功,模型会被攻击者控制。他进一步指出,供应链早已成为攻击者重点瞄准的环节。企业从互联网下载并加载第三方模型或技能(Skill)时,看似在执行正常任务,实则可能正在为攻击者窃取企业密钥、登录凭证和敏感配置信息,并直接外传至互联网,而企业在这一过程中往往毫无察觉。

另外,“影子AI”也成为威胁之一。AI员工普遍对AI工具抱有热情企业未统一配置AI工具时员工自行安装使用。张殷认为,此类风险源于双重缺位的叠加:一方面企业对AI使用的管控不到位,另一方面员工的安全意识同样不到位,两者叠加导致泄密事件陆续发生。

他举例称,此前攻击者曾通过某模型聊天软件的聊天界面,直接就能看到其他用户的完整对话记录。无论海外还是国内的模型,一旦被入侵,模型底层的日志便可被尽数捞取,用户与模型的私密对话一览无余。

“龙虾”、skill等产品带来新的威胁进入点

卡巴斯基大中华区总经理郑启良在现场提到,国内AI产业已迈入经济主战场,企业正加速推进AI落地。但他看到企业优先追求业务上线效率,却容易低估AI供应链安全、模型投毒、恶意智能体、提示注入攻击等现实威胁,而这类风险已直接影响企业经营损益。与此同时,还有不少企业存在认知误区,误以为私有化部署大模型就足够安全,忽视外部模型权重、AI插件与技能脚本潜藏的恶意载荷。

郑启良在会后接受媒体采访时表示,尽管AI可以处理99%的攻击,但最终还有1%的攻击是AI无法胜任的,AI没有办法替代安全公司,但却可以为AI公司带来更多的生意。

近期,国内外有不少模型企业也在做模型安全。郑启良告诉南都记者,“龙虾”、skill这样的产品的出现也带来了新的威胁进入点,这可能是大家开始密集关注AI安全的原因。“现在大家都认为智能体无所不能,只要训练、投入很小,什么事情都可以去做。变成说进入成本非常低,那它就很容易被投毒。对企业内部运维来说,这是一个薄弱点,在做信息安全、网络安全的人都会考虑到,这种突破口越少越好,暴露在外头越少越好”。

他进一步表示,模型公司与安全公司之间的关系是相互合作,目前也与多家模型厂商在合作中。“很多模型厂商在做算法的时候,也会考量什么时候可能会‘出格’,什么时候要重新设计。对安全这一块我想是‘术业有专攻’。当然我们也在训练自己的内部大模型。”

此外,目前,阿里云、腾讯云、华为云等国内云厂商均为卡巴斯基客户,其安全引擎、红蓝对抗、渗透测试等环节仍需采购专业能力。据悉,在与国内企业合作时,双方会互相检测对方的硬件和软件,从源头上减少安全隐患。

卡巴斯基是一家成立于1997年的全球网络安全与数字隐私公司,迄今为止已有超过十亿台设备受到卡巴斯基的保护。据了解,目前卡巴斯基在华业务一直处于扩张状态,仅在过去2年,卡巴斯基就增加了1/3的人员,去年中国区营收业绩增速超过20%。

采写:南都N视频记者 林文琪

相关内容

AI业务将贡献增量,东方证...
8月24日,东方证券研报指出,华阳集团汽车电子拓展顺利,AI业务将...
2026-08-24 16:56:15
培养聚变人才 国资委推进聚...
(观察者网 讯)8月19日,由国务院国资委主办的中央企业未来能源领...
2026-08-24 15:39:18
从“影子AI”到大模型投毒...
随着大模型、AI智能体在企业生产、办公、业务系统大规模落地,企业A...
2026-08-24 15:37:47
老板电器的AI生意,最难复...
当厨电行业的竞争维度从“谁的风量更大”转向“谁能真正把AI带入厨房...
2026-08-24 12:01:13
“医生,AI说你诊断错了”
作者:张木亭 编辑:阳千鱼 排版:魏蔚 文内AI制图:丛敏 7月1...
2026-08-24 10:26:24

热门资讯

教育AI产品飞象老师正式上线3... 钛媒体App 8月24日,教育AI产品飞象老师今日正式上线3.0版本。本次更新核心在于将应用开发所需...
AI业务将贡献增量,东方证券:... 8月24日,东方证券研报指出,华阳集团汽车电子拓展顺利,AI业务将贡献增量。公司上半年归母净利润4....
小米发布首款AI旗舰SoC芯片 今日,小米发布首款AI旗舰SoC-玄戒O3。据悉该芯片采用3nm工艺制程,所有主要模块全部部署了硬件...
Model 和 Agent 越... 作者 | 可可 核心观点:Model 提供智能,Agent 提供行动,Product 负责把记忆、流...
培养聚变人才 国资委推进聚变+... (观察者网 讯)8月19日,由国务院国资委主办的中央企业未来能源领域人才特训班,以线上加线下结合的方...
从“影子AI”到大模型投毒,如... 随着大模型、AI智能体在企业生产、办公、业务系统大规模落地,企业AI部署形态日趋多元。与此同时,AI...
在闲鱼卖AI,普通人的搞钱天堂... 过去几年,所有人听到的AI故事都是宏大且遥远的。 是硅谷巨头砸下百亿美金研发大模型,是黄仁勋靠AI芯...
老板电器的AI生意,最难复制的... 当厨电行业的竞争维度从“谁的风量更大”转向“谁能真正把AI带入厨房”,一家企业的决策层构成,就变成了...
原创 A... 最近这一年以来,所有的存储芯片,不管是NAND闪存,还是DRAM内存,都是暴涨的。 而所有的消费电子...