（图片来源：摄图网）

（记者 陈晓晟）日前，在2024年国家网络安全宣传周主论坛上，全国网络安全标准化技术委员会发布了《人工智能安全治理框架》1.0版。分析认为此举将有助我国构建全方位AI治理体系。五年前，中国电信就已经把AI作为主要技术方向进行布局，如今《人工智能安全治理框架》1.0版的出炉，也将对中国电信全力打造AI时代安全保障体系形成助力。

AI安全受到多方重视

AI技术的发展，带来很多网络安全、数据安全之外新的安全威胁和挑战，日益受到多方重视。

AI发展和安全是一体两翼的统一整体。AI技术在实际应用中存在诸多安全风险，既包括技术内生问题，也包括数据安全、算法歧视等技术开发过程中的风险，更涉及技术滥用等应用层面的影响。业界普遍认为目前AI存在的三大安全隐患：其一为AI应用的滥用问题；其二为数据采集和流通渠道的安全问题；其三为更不易被监管的算法模型自身的安全性和可靠性问题。

在全国政协委员、中国工程院院士吴世忠看来，AI安全既有“近忧”，也有“远虑”。从“近忧”看，AI大模型落地应用主要面临的安全风险有生成不当内容、产生隐私问题、引发技术攻击等。“远虑”则是AI技术发展失速、伦理规范和道德约束的缺乏。

360集团创始人周鸿祎曾经以无人驾驶为例介绍，未来真正实现无人驾驶汽车，驾驶座上没有人时，如果车厂运营中心遭到网络攻击，后果远超想象。轻则是车辆跟车厂失去联系，很多车只能趴窝无法行驶。更严重的是“黑客控制了车厂服务器”，就可以给它所控制的自动驾驶汽车下达各种指令，可能导致车门打不开，或者一路狂奔，后果非常严重。

此外，除了无人驾驶领域，许多不法分子还利用AI进行换脸、换声等操作，侵害公民个人隐私。一张“人像照片”、一段近距离的人物视频都有可能成为犯罪分子的新工具。

华龙证券研报指出，当前人工智能产业尚处于发展阶段，人工智能的安全问题在全球范围内受到各方重视。在AI安全治理领域，数据加密、隐私保护、算法可解释性和透明度等环节是AI产业健康发展的基石，有望迎来相应技术突破。

加快AI安全技术研发

中国电信很早就认识到AI技术存在的不容忽视的安全挑战，已经从多方面入手加快AI安全技术研发，强化数据安全治理，打造新型安全管理和运营体系，加大科技创新研发投入，实现AI安全技术突破。

技术方面，中国电信联合高校成立安全领域前沿研究实验室，例如与哈尔滨工业大学（深圳）联合成立“网络空间对抗技术联合攻关研究实验室”，推动产学研深度融合，共同探索网络空间对抗技术等领域的突破 ，构建更为紧密的安全产业生态以及生成式AI安全治理体系 ；积极投身科研工作，建成“中心-省-边缘-端”四级算力布局，总智算规模达16EFLOPS（FP16）；自主研发了语义、语音、图像和多模态的星辰大模型，并积极推进多模态大数据AI融合PaaS底座进程研究进程，为AI安全技术的研发和应用提供了坚实的技术基础 。

中国电信翼支付系统还针对新兴的“AI换脸”欺诈方式，自主研发了金融级KYC证件识别产品“侦图”平台。这个平台利用先进的技术，如“级联+双路卷积+多尺度特征融合”，交叉校验用户上传的证件信息，并比对人脸进行精确识别，有效阻挡了“AI换脸”相关欺诈模式的入侵。例如，在支付场景中，侦图平台能够准确识别用户身份，防止不法分子利用AI换脸技术进行欺诈行为，保障用户的支付安全。

随着AI技术的不断发展，中国电信将继续在AI安全领域进行投入和创新，以提供更加安全、可靠的服务体验。

此外，中国电信持续深化与产业链伙伴的战略合作，与国内顶尖科研院所、科技企业成立大模型协会和生态联盟，强化数据开放合作、强化应用开放合作、强化高端人才合作、强化规则防范风险。

积极打造“AI+安全”创新应用

上周，2024年国家网络安全宣传周暨网络安全博览会在广州开展。中国电信以“AI链接生态 安全智领未来”为主题，精彩亮相本次展会，展示其在AI时代深耕网络安全，发挥云网融合的优势，以创新驱动网络安全防护，构建适应AI时代的全新安全屏障的最新成果。

“云猎”无人机侦测反制系统是低空安全的守护者，以精准的侦测能力和高效的反制策略，一站式全方位保障低空领域安全，确保个人隐私和公共安全不受侵害。量子加密改造是中电信量子集团提出的国内首个量子密码解决方案，结合量子安全技术和商用密码技术，提供基础IT架构和系统的量子密码改造服务，已广泛应用于政务云和企业IT系统。云堤·抗D作为中国电信首创云网协同的“运营商级”抗DDoS产品，在全球分布式部署36个防护节点，监控和防护IP超过1.7亿，DDoS防护能力超过5000G，实现对DDoS攻击的精准识别和全面防护。天翼安全大脑利用云网安全数据优势和AI算法，构建云侧安全数据分析能力，提供下一代防火墙、流量控制等服务。协助客户构建云侧运营分析、边侧威胁阻断、端侧贴身防护的立体防护体系，解决最后一公里安全防护需求……

未来，中国电信将继续秉持总体国家安全观，把握AI技术发展机遇，强化科技创新，构建可信可控的数字信息基础设施，提升AI安全治理水平，与合作伙伴共同打造安全生态，为数字中国建设贡献力量。