当地时间2024 年9 月29 日（周日），美国加州州长加文•纽瑟姆(Gavin Newsom) 否决了一项具有里程碑意义、美国首个防止人工智能滥用的州法案。该法案简称为SB1047，要求训练成本超过1亿美元的人工智能系统在向公众发布之前接受安全测试，其开发者应为其模型造成的严重损害承担责任。此外，该法案还要求科技公司在系统被滥用或失控时启用人工智能技术的“终止开关” 。

这项决定，获得了硅谷许多实力雄厚的科技公司、风险投资公司以及前众议院议长南希•佩洛西的支持。但也不可避免遭到SB1047 法案起草者及支持者的批评和“善意提醒”。

该法案的起草人、旧金山州参议员斯科特•维纳(Scott Wiener) 表示，这一否决对“所有相信对大型企业进行监督的人”来说是一个“挫折”，这些企业正在做出影响公众安全和福利的关键决策。

一、科技友好型州长

纽瑟姆州长深知，加州作为AI 科技公司的集中地，出台一部以限制风险为关注点的法案，将在美国全境引起的“萨克拉门托效应”。因此，他在做这个决定中，采取了更为保守谨慎、且顺应整个美国AI 监管趋势的态度。

加州之所以能够“成为人工智能相关立法的主要中心”——全球“50 家领先的人工智能公司”中有32 家位于加州，是 因为其“多样化和积极进取的劳动力”，以及“对知识自由的自由精神的培养”。

这位州长表示，“作为未来的管理者和创新者，我非常重视监管这个行业的责任。”

这再次说明，纽瑟姆本科技友好的倾向性，他在其否决意见中清晰地表达了该州对商业持所持有的开放态度。

二、州长认为“争论的关键”所在

在加州州长的否决意见中，他确实点出了SB 1047 法案的一个关键缺陷： 监管的门槛是否应该基于开发人工智能模型所需的成本和计算数量。

正如《互联网法律评论》在之前文章中的分析，从理论上，计算资源越大的人工智能模型，其能力及可能造成的危害也越大；但反过来，SB1047 主要针对的是能够制造大规模杀伤性武器和具有网络攻击能力的人工智能， 这类风险类型和性质与开发成本并不一定是绝对挂钩的关系。

换句话说，“较小的、专业化的模型，也可能会出现与SB1047 所针对的（最昂贵的）模型一样、甚至更危险的情况”。

另外，加州州长认为，对于真正具有“高风险性质”的部署场景——如涉及关键决策或使用敏感数据，该法案却没有予以考虑。

因此，如果SB 1047 仅以最昂贵和最大规模的型号为基础，建立一个监管框架， 不仅无法真正保护公众免受技术威胁，还会给公众一种控制这种快速发展技术的“虚假的安全感”。

三、州长压力：SB 1047 的支持和反对者

尽管Anthropic 和马斯克谨慎地支持该法案，但反对法案的科技公司更多，也更有动力动用其游说团体。

在这一问题上，OpenAI 和Meta 还联手进行了游说。OpenAI 甚至使用了“威胁的口吻”，其首席战略官Jason Kwon 在8 月份致参议员维纳的一封信中警告说，该法案可能会阻碍进步，并迫使公司离开加州。

然而，SB 1047 之所以能够在加州州议会获得通过，说明它还是获得了相当一部分关注人工智能风险的组织和群体的认可。

加州同样是全球最大的娱乐市场，超过120 名好莱坞大咖于上周写了一封公开信，敦促他签署该法案，信中写道：“最强大的人工智能模型可能很快就会带来严重风险。”签署人包括《星球大战》的导演JJ Abrams 、《阿凡达》的主演Laz Alonso 、《指环王》的演员肖恩·奥斯汀（Sean Patrick Duke）、《复仇者联盟》主演保罗·贝坦尼(Paul Bettany)等。

图片：美国 好莱坞演职人员支持SB1047，致信加州州长（网址： https://artists4safeai.com/）

9 月初，超过100 名领先人工智能公司的现任或前任员工——包括OpenAI 、Anthropic 、谷歌的DeepMind 和Meta ——也写信给纽瑟姆，警告这些同样的风险，并认为SB 1047 “针对此类风险实施合理的保障措施，是可行且适当的”。

图片：人工智能员工致信加州州长，支持SB1047

四、加州并未放弃责任

为了平衡这一部分团体的意见，州长表示，实际上他已经在过去1 个月内签署了一系列基于“人工智能风险管理”法案的出台，防止滥用色情深度伪造技术以及保护演员的数字肖像权，包括：

1 、SB 926：规定制作和传播看似真实并导致被摄者“严重情绪困扰”的真实人物的色情图片属于违法行为；

2 、SB 981：要求社交媒体平台为用户创建举报自己色情深度伪造视频的途径，公司必须在调查期间暂时屏蔽相关内容；

4 、AB 2602：保护艺术家不受允许使用其数字声音或图像的合同约束，无论是代替其实际作品还是用于训练人工智能；

5 、AB 1836：保护艺术家的数字肖像，即使在死后也是如此——这意味着娱乐公司在制作数字复制品之前必须获得表演者家人或遗产的许可。

不仅如此，纽瑟姆州长表示，他正在与“人工智能教母”李飞飞以及其他领先的研究人员和行业领袖合作，致力于加州“为生成式人工智能的部署制定负责任的护栏”。

不过，以上加州已经签署和准备中的AI 监管法案，主要针对的是已经发生的、可见的利用AI 技术的违法活动，与SB 1047 所关注的以及众多科技从业者所呼吁的与武器和战争相关的“真正的风险”，有着天壤之别。

加州人工智能法案即将通过，或将与欧盟AI法案形成协同

作者：《互联网法律评论》

【免责声明】本文撰写所需的信息采集自合法公开的渠道，我们无法对信息的真实性、完整性和准确性提供任何形式的保证。本文仅为分享、交流信息之目的，不构成对任何企业、组织和个人的决策依据。

《互联网法律评论》提供业界解决方案

互联网法律国际监管动态研究

互联网产业投资和政策监管研究

互联网企业：极端地缘政治冲突中的公关战略研究

合作联系

zhangying@cggthinktank.com