2024年9月9日，在2024年国家网络安全宣传周网络安全技术高峰论坛主论坛暨粤港澳大湾区网络安全大会上，全国网络安全标准化技术委员会（以下简称“网安标委”）发布了《人工智能安全治理框架》（以下简称《框架》）1.0版。网安标委秘书处主要负责人表示，《框架》对推动社会各方积极参与、协同推进人工智能安全治理具有重要促进作用。

构建多方共治的人工智能安全治理生态

网安标委秘书长杨建军在会上发布了《框架》1.0版。他指出，随着人工智能的持续发展，人工智能的应用不断深化，其面临的全挑战和风险也日趋复杂。为贯彻落实全球人工智能治理倡议，加强人工智能安全制度建设，网安标委制定了《框架》，旨在推动社会各界就人工智能安全治理的原则和举措达成共识。

全国网络安全标准化技术委员会发布重磅成果《人工智能安全治理框架》。

网安标委秘书处主要负责人表示，《框架》1.0版的发布，对推动社会各方积极参与、协同推进人工智能安全治理具有重要促进作用，为培育安全、可靠、公平、透明的人工智能技术研发和应用生态，促进人工智能的健康发展和规范应用，提供了基础性、框架性技术指南。同时，也有助于在全球范围推动人工智能安全治理国际合作，推动形成具有广泛共识的全球人工智能治理体系，确保人工智能技术造福于人类。

多维度治理人工智能安全风险

《框架》分为治理原则、安全风险、技术应对与综合治理措施、安全开发应用指引四大板块。《框架》以鼓励人工智能创新发展为第一要务，以有效防范化解人工智能安全风险为出发点和落脚点，提出了包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对，开放合作、共治共享等人工智能安全治理的原则。在安全风险板块中，《框架》按照风险管理的理念，紧密结合人工智能技术特性，分析人工智能风险来源和表现形式。针对模型算法安全、数据安全和系统安全等内生安全风险和网络域、现实域、认知域、伦理域等应用安全风险，《框架》提出相应技术应对和综合防治措施，以及人工智能安全开发应用指引，明确了人工智能模型算法研发者、服务提供者、重点领域使用者和社会公众等不同主体的安全规范。

《框架》的发布标志着中国在推动人工智能技术安全治理取得了重要进展，也为未来的技术改进和标准化提供了方向。

网安标委还宣布将继续推动人工智能安全标准的研制与落地，确保高质量的标准体系能够有效支撑框架的执行。同时，未来将在人工智能安全领域加强宣传贯彻，推动各行业的应用推广，促进人工智能技术的健康、安全发展。

出品：南都大数据研究院

采写：见习记者 陈袁

设计：刘妍妍