探索新路径 筑牢AI产业安全根基
创始人
2025-03-03 08:51:50
0

近来,DeepSeek遭到黑客持续攻击,侧面反映出国产大模型面临的安全困境。

不可否认,以DeepSeek为代表的中国开源大模型的崛起,不仅降低了大模型训练和部署的成本,加速了人工智能技术的普及,也打破了技术封锁与商业壁垒的双重禁锢,推动人工智能行业走向更加开放的新时代。但是,如同一把双刃剑,作为开源大模型,DeepSeek同样需要面对所有开源软件共同的安全挑战:由于源代码开放,开源软件的安全问题比闭源软件更加复杂,攻击者可以自由查看、修改源代码,进而引发潜在的安全漏洞。

这并非杞人忧天,DeepSeek的遭遇就证实了这个规律:一方面,来自外部的网络攻击持续时间长、破坏力大、手段多、变化快;另一方面,在部署和应用中发现的漏洞,暴露出多种安全风险。

有鉴于此,2025开年以来,各家安全公司严阵以待,纷纷探索新路径、新范式,以筑牢网络安全防线,为国产大模型保驾护航。

比如,亚信安全与亚信科技近日联合发布的大模型安全解决方案,其思路可以归纳为“以人工智能护航人工智能”,不仅融合了亚信科技大模型产品在重点行业领域的丰富实践经验,而且依托亚信安全在大模型安全领域的研究成果和技术实力,打造了兼具实战需求和大模型发展要求的安全解决方案,由云安全防护系统、大模型安全网关、终端数据防护系统、AI应用风险防护系统四大系统提供防护,为大模型建立起覆盖基础层、模型层、工具层和AI应用层的四层纵深防护。与此同时,该方案还提供两项专业服务,即人工智能风险评测和人工智能安全服务,定期进行风险评测评估,护航大模型及应用安全。

今后,随着越来越多应用场景的落地,国产大模型仍将面临层出不穷的新风险。大模型安全不应该只是“亡羊补牢”,更应该未雨绸缪,重构安全体系。

对此,多位受访专家表示,应重视大模型在安全架构、漏洞响应、数据合规等方面的“系统性短板”,从多个层面入手,综合运用多种手段,打造全方位、多层次的安全防护网络,尤其是要建设大模型的“原生安全”能力。

更为重要的是,大模型在安全领域的应用潜力巨大,凭借其卓越的推理能力、定制化的训练方式和开源特性,能够有效提升各种安全任务的执行效率和准确性。因此,探索大模型在安全领域的创新应用、以大模型治理大模型安全问题成为重要方向。

业界已经形成共识,大模型是一个覆盖多行业的交叉生态系统,大模型安全风险的综合治理不仅仅只是技术问题,需要政府、企业、科研机构等多方力量参与其中,群策群力,夯实国产大模型发展的基础,打开思路为人工智能产业保驾护航。

作者:□吴蔚

来源:经济参考报

相关内容

聚焦AI+大模型、三维重建...
中新网北京5月31日电 (记者 孙自法)记者5月31日从中国图像图...
2026-06-01 00:57:14
国泰海通:维持海外AI算力...
国泰海通维持海外AI 算力及应用产业链“增持”评级。其研报指出,O...
2026-06-01 00:54:38
小米开源可控视频音效生成模...
IT之家 5 月 29 日消息,小米大模型应用团队今日发布 Con...
2026-06-01 00:41:13
制造业大市如何拥抱AI?绍...
“此次圆桌研讨凝聚起产业发展共识,后续浙江将持续整合各方资源,汇聚...
2026-05-30 05:50:45
德勤:聚焦AI驱动产业变革...
上证报中国证券网讯(记者 汪友若)5月27日,“2026德勤中国高...
2026-05-28 21:01:39
全球首次单机降服万亿巨模D...
从数学、代码、复杂推理,到多轮工具调用,大模型的很多能力的提升都离...
2026-05-28 20:34:56

热门资讯

2024云栖大会|阿里云升级无... 北京商报讯(记者魏蔚)9月20日,阿里云无影AI云电脑在2024云栖大会上展出,该版本基于最新的终端...
MWC2025荣耀多款AI技术... 人民财讯3月6日电,2025世界移动通信大会(MWC 2025)上,荣耀MagicBook Pro ...
原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
摩尔线程发布AI算力笔记本MT... 钛媒体App 12月20日消息,摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
摩尔线程AI生图摩笔马良全新升... 快科技8月7日消息,作为国产GPU的杰出代表,摩尔线程在当下火爆的AIGC浪潮中也推出了自己的软硬一...
谷歌打磨 Gemini AI ... IT之家 8 月 31 日消息,谷歌于 8 月 27 日发布博文,宣布旗下 Gemini AI 支持...
微软 Azure AI 语音服... IT之家 8 月 23 日消息,微软Azure AI 语音服务允许开发者构建多语言生成式 AI 语音...
青云QingCloud Kub... 日前,青云科技宣布开源 Thanos 的企业级发行版 Whizard,为企业带来真正高可用、可扩展、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
Macos系统上一款强大的卸载... App Cleaner mac中文版是Mac os系统上一款强大 的mac卸载工具,以帮助您完全卸载...