从“影子AI”到大模型投毒,如何破解AI供应链攻击风险?
创始人
2026-08-24 15:37:47
0次

随着大模型、AI智能体在企业生产、办公、业务系统大规模落地,企业AI部署形态日趋多元。与此同时,AI供应链攻击风险持续攀升,第三方开源模型、AI插件、技能文件已经成为攻击者的重要突破口。

卡巴斯基的一项统计数据显示,2026年上半年,卡巴斯基已检测到超过9.2万次伪装成Al服务的恶意攻击。自2026年2月起,卡巴斯基开始扫描系统上的OpenClaw Skills活动。目前每月能检测到超过两万次恶意OpenClaw Skills活动事件。

针对上述现状,卡巴斯基近期在广州正式推出面向AI原生安全的全新解决方案卡巴斯基AI Protect(KAIP)。据介绍,该产品聚焦AI供应链风险、大模型文件投毒、恶意AI Agent等新型威胁,兼顾传统网络攻击防御,旨在帮助企业实现AI业务创新与风险管控并行发展。

AI通过供应链、绕过管控等方式威胁企业

公开威胁数据显示,网络平台已出现上百个恶意大模型、数百个遭投毒的模型文件;攻击者上传伪装成正常权重文件的恶意模型,加载即可执行恶意指令,直接入侵企业内网业务系统。

具体到目前的危机来源,卡巴斯基大中华区CTO张殷提出,目前企业普遍面临着来自AI供应链、“影子AI”等层面的危机。

卡巴斯基大中华区CTO张殷

AI供应链即大多数企业不具备自研大模型能力、普遍依赖第三方开源模型。在这种情况下,一旦模型被投毒成功,模型就会被攻击者控制。他进一步指出,供应链早已成为攻击者重点瞄准的环节。企业从互联网下载并加载第三方模型或技能(Skill)时,看似在执行正常任务,实则可能正在为攻击者窃取企业密钥、登录凭证和敏感配置信息,并直接外传至互联网,而企业在这一过程中往往毫无察觉。

另外,“影子AI”也成为威胁之一。“影子AI”即员工普遍对AI工具抱有热情、但企业未统一配置AI工具时员工自行安装使用。张殷认为,此类风险源于双重缺位的叠加:一方面企业对AI使用的管控不到位,另一方面员工的安全意识同样不到位,两者叠加导致泄密事件陆续发生。

他举例称,此前攻击者曾通过某模型聊天软件的聊天界面,直接就能看到其他用户的完整对话记录。无论海外还是国内的模型,一旦被入侵,模型底层的日志便可被尽数捞取,用户与模型的私密对话一览无余。

“龙虾”、skill等产品带来新的威胁进入点

卡巴斯基大中华区总经理郑启良在现场提到,国内AI产业已迈入经济主战场,企业正加速推进AI落地。但他看到企业优先追求业务上线效率,却容易低估AI供应链安全、模型投毒、恶意智能体、提示注入攻击等现实威胁,而这类风险已直接影响企业经营损益。与此同时,还有不少企业存在认知误区,误以为私有化部署大模型就足够安全,忽视外部模型权重、AI插件与技能脚本潜藏的恶意载荷。

郑启良在会后接受媒体采访时表示,尽管AI可以处理99%的攻击,但最终还有1%的攻击是AI无法胜任的,AI没有办法替代安全公司,但却可以为AI公司带来更多的生意。

近期,国内外有不少模型企业也在做模型安全。郑启良告诉南都记者,“龙虾”、skill这样的产品的出现也带来了新的威胁进入点,这可能是大家开始密集关注AI安全的原因。“现在大家都认为智能体无所不能,只要训练、投入很小,什么事情都可以去做。变成说进入成本非常低,那它就很容易被投毒。对企业内部运维来说,这是一个薄弱点,在做信息安全、网络安全的人都会考虑到,这种突破口越少越好,暴露在外头越少越好”。

他进一步表示,模型公司与安全公司之间的关系是相互合作,目前也与多家模型厂商在合作中。“很多模型厂商在做算法的时候,也会考量什么时候可能会‘出格’,什么时候要重新设计。对安全这一块我想是‘术业有专攻’。当然我们也在训练自己的内部大模型。”

此外,目前,阿里云、腾讯云、华为云等国内云厂商均为卡巴斯基客户,其安全引擎、红蓝对抗、渗透测试等环节仍需采购专业能力。据悉,在与国内企业合作时,双方会互相检测对方的硬件和软件,从源头上减少安全隐患。

卡巴斯基是一家成立于1997年的全球网络安全与数字隐私公司,迄今为止已有超过十亿台设备受到卡巴斯基的保护。据了解,目前卡巴斯基在华业务一直处于扩张状态,仅在过去2年,卡巴斯基就增加了1/3的人员,去年中国区营收业绩增速超过20%。

采写:南都N视频记者 林文琪

相关内容

热门资讯

国产大模型下调推理服务价格,南... 近日,国内某大模型企业宣布下调其flash系列模型服务价格,输入缓存命中、输入缓存未命中及输出价格最...
解码青年人AI生活《2026有... 中新网深圳9月5日电(记者索有为)《2026有意思生活方式报告》(下称《报告》)4日在全国首个有意思...
OpenAI 最强 AI 生图... 9月9日消息,OpenAI 9 月 9 日官宣发布 ChatGPT Images 2.5,图像生成延...
探索AI供应链产业化路径京东推... 2026年以来,人工智能应用范围加速拓展,持续从数字空间走向现实生活,广泛融入生产线、仓储厂房、配送...
教育部发文!AI生成内容,教师... 一篇论文,因为AI使用不当,相关高校师生被通报处理。 9月2日,安徽财经大学公布“教师与学生涉嫌学术...
AI识别出近800种可充当乳化... 英国利兹大学食品科学与营养学院和爱丁堡大学科学家携手,开发出一款 人工智能(AI)工具,能从数千万种...
搭上低空经济、AI文旅?两连板... 桂林旅游(000978)回应市场热点。 9月8日,桂林旅游再度涨停,斩获2连板。当天晚间,该公司披露...
硅谷:我们不能被硅谷“AI刹车... 【文/底线思维】 OpenAI首席科学家Jakub Pachocki最近写了一篇文章,题目叫《An ...