近日，联合国发布了一份关于人工智能（AI）治理的重要报告，呼吁国际社会共同努力，建立一个真正意义上的全球性 AI 监管和治理机制。

这份由联合国秘书长的高级别 AI 咨询机构（High Level Advisory Body on AI）撰写的报告提出了一系列建议，旨在应对 AI 带来的风险，同时确保其变革性潜力能够在全球范围内得到公平分享。

报告强调，AI 全球治理的必要性是毋庸置疑的。AI 技术的原材料，包括关键矿产到训练数据，都来自全球各地。

通用 AI 技术会跨越国界部署，在全球范围内产生了多种应用。同时，AI 的快速发展在全球范围内集中了权力和财富，带来了地缘政治和经济影响。

图 | 联合国公布的到目前为止的 AI 治理规划路线图（来源：联合国官网）

更重要的是，目前没有人完全理解 AI 的所有内部运作机制，无法完全控制其输出或预测其演变。

与此同时，决策者也不对开发、部署或使用他们不了解的系统负责。而这些决策很可能产生全球性的负面效应和下游影响。

为了应对 AI 治理安排中的现有差距，该咨询机构提出了几项重要建议：

• 成立独立的国际 AI 科学小组，由来自不同学科的专家组成，以个人身份自愿服务。
• 启动双年度政府间和多方利益相关者 AI 治理政策对话，这可以在现有联合国会议的间隙举行，为联合国 193 个成员国提供一个讨论风险和达成行动共识的平台。
• 成立“AI 标准小组”，负责开发和维护一个定义和适用标准的手册，用于评估 AI 系统。
• 设立全球 AI 基金，预计会由一个新的独立治理结构管理，旨在弥合 AI 发展中的鸿沟，特别是支持南半球国家的发展。
• 制定全球 AI 数据框架，建立“市场塑造数据管理和交换机制”，以促进全球本地 AI 生态系统的蓬勃发展。
• 在联合国秘书处内设立 AI 办公室，以轻量级、灵活的结构更好地统一这些倡议。

该报告还建议联合国重视较贫穷国家，特别是南半球国家，使其能够从 AI 中受益并参与其治理。

这些措施包括建立 AI 标准和数据共享系统，以及分配培训和教育资源，以帮助各国进行 AI 治理。

一些建议可以通过现有的全球数字契约（Global Digital Compact）来实现，该契约旨在解决国家间的数字和数据鸿沟问题。

英国南安普敦大学计算机科学荣誉教授温迪·霍尔（Wendy Hall）是咨询机构中唯一的英国专家，她强调：“AI 必须为人类的利益而发展，如果没有治理，它有可能以有害于社会的方式演变。

我们迫切需要一种全球性的方法来应对 AI 的挑战，确保它造福每个人。”

然而，AI 治理目前并非一场真正的全球对话。报告指出，虽然已有数百份关于 AI 治理的指南、框架和原则被各国政府、公司、联盟和国际组织采纳，但没有一个具有真正的全球影响力。这导致了代表性、协调性和执行力方面的问题。

这种权力分配的不平等也反映在整个国际体系中。

联合国秘书长安东尼奥·古特雷斯（António Guterres）在 2024 年 1 月的达沃斯世界经济论坛上指出，许多成员国在联合国成立时仍处于殖民统治之下，因此在今天的讨论中“声量微乎其微”。

他呼吁改革二战后建立的国际体系，以便在全球挑战上采取有效行动。

2024 年 3 月，美国向联合国提交了一项决议，呼吁成员国拥抱“安全、可靠和值得信赖的 AI”发展。

同年 7 月，中国提出了自己的决议，强调在 AI 开发中的合作以及使技术广泛可用。所有联合国成员国都签署了这两项协议。

富裕国家之间在 AI 观点上的差异已经导致市场出现裂痕。欧盟引入了全面的 AI 法规，其数据使用控制促使一些美国公司限制了其产品的可用性。

美国政府采取的放任自由态度也导致加利福尼亚州提出了自己的、更严格的 AI 规范。

面对这些挑战，联合国 AI 咨询机构的报告为建立共同立场铺平了道路。

牛津大学教授克里斯·拉塞尔（Chris Russell）认为：“将分析锚定在人权方面是非常有说服力的。

它为工作提供了广泛且有力的国际法基础，并关注人们遭受的具体伤害。”

然而，AI 正在以如此快的速度发展，联合国将无法单独管理全球合作。

“联合国在 AI 治理方面显然有重要作用，但它需要成为一种分布式架构。”他说，“各个国家也需要直接参与其中。”

最后，虽然各国政府可能将 AI 视为获得战略优势的方式，但许多科学家在对 AI 的担忧上达成了一致。

本周早些时候，一群来自西方和中国的著名学者在奥地利维也纳举行的 AI 安全会议后，联合呼吁在 AI 安全问题上加强合作。

总的来说，这份联合国报告为国际社会在 AI 治理方面的合作提供了一份蓝图。

然而，正如咨询机构成员阿隆德拉·纳尔逊（Alondra Nelson）所说：“细节决定成败。”

未来，联合国及其成员国如何选择落实这一合作蓝图，将决定全球 AI 治理的成败。

参考资料：

https://arstechnica.com/ai/2024/09/united-nations-wants-to-treat-ai-with-same-urgency-as-climate-change/

https://www.un.org/techenvoy/ai-advisory-body

https://www.computerweekly.com/news/366611263/UN-body-urges-globally-inclusive-and-distributed-AI-governance

运营/排版：何晨龙