近年来，AI得到广泛应用，这一方面为数字化转型升级注入强劲动力，另一方面也让国家安全与个人信息保护面临更多挑战。

今天，“保密观”与你一起了解相关案例，探讨AI时代的“攻”与“防”。

威胁国家安全的“隐形武器”

AI被广泛应用于智能搜索、内容创作、办公助手等场景，其学习和决策高度依赖于海量数据的“喂养”。这也决定了，用户向AI工具输入的每一条信息，都可能被其收集与存储，引发系列风险。

泄露相关人员信息数据。据公开报道，因开源库发生故障，某境外AI模型的部分用户可以看到其他活跃用户聊天记录中的标题甚至是名字、支付地址等隐私信息，造成个人信息泄露。如果不注意防范，相关人员信息数据可能成为境外间谍情报机关实施拉拢策反、渗透破坏活动的指引，造成国家安全风险隐患。

敏感数据被非法下载。据国家安全部近日披露的一起典型案例，个别单位直接使用开源框架建立联网大模型，导致攻击者未经授权即可自由访问内部网络，从而引发数据泄露和安全风险。案例显示，某单位工作人员违规使用开源AI工具处理内部文件，因电脑系统默认开启公网访问且未设置密码，导致敏感资料被境外IP非法访问、下载。

此外，AI技术中的“深度伪造”技术用于影视、游戏、广告等行业，可创作出更多逼真、有趣的虚拟角色和场景，翻新娱乐体验。然而，一旦被滥用或恶意使用，将给社会稳定和国家安全带来诸多风险。国家安全机关发现，某境外反华敌对势力通过深度伪造技术生成虚假视频，企图向境内传播，误导舆论、制造恐慌，对我国家安全构成威胁。

不法分子牟利的新工具

AI的使用不仅关乎宏观国家安全，也正渗透进社会经济的微观层面，成为不法分子牟利的新工具。

谢运(化名)是一名“网络黄牛”。2023年5月至2024年6月，他为低价抢购茅台酒加价转卖牟利，从信息贩子赵令(化名)处违法购买了大量公民身份信息，在特定微信小程序上成功注册，并由专攻技术破解的张质(化名)使用AI换脸技术合成动态人脸视频，通过销售茅台酒小程序的人脸识别验证。

经查，3人利用AI换脸、非法获取个人信息等技术，将他人“大头照”生成眨眼的动态视频，通过人脸验证，进而在网上购得茅台酒谋取差价。其中，谢运购买3400多条个人信息，涉及身份证、手机号及560余张头像照片等，抢购60余瓶茅台酒再转卖，非法获利1.2万余元。张质为谢运提供AI换脸技术服务，破解人脸识别认证系统，非法获利6000余元。赵令在网上搜罗公民个人信息，出售给谢运，非法获利1万余元。

2025年8月7日，浙江省绍兴市上虞区法院对此案作出判决，谢运、张质、赵令都受到法律惩罚。这一案例不仅关乎个人信息保护，还清晰地暴露出，一旦人脸识别等关键生物认证技术被AI轻易破解，将影响建立在其上的保密规则，如涉密场所的门禁系统等，严重威胁国家秘密安全。

“保密观”有话说

面对AI带来的新挑战，我们必须保持清醒、积极应对，守护好安全底线，才能让技术真正服务于发展。

对机关单位而言，必须遵守 “涉密不上网、上网不涉密”的核心原则，严禁使用AI工具处理国家秘密、工作秘密和不宜公开的敏感信息。同时，构建起“人防、物防、技防”相结合的立体保密防线。

对企业而言，可结合实际情况加强技术防护，分析识别异常流量，同时强化身份验证，有针对性地部署防范深度伪造技术的程序。

对于个人用户，要强化隐私保护意识，例如，在使用AI相关技术时，要花时间细读其隐私政策。如果平台提供设置选项，尽量选择“拒绝分享使用记录”，以降低数据被用作模型训练和意外泄露的风险。