本周，备受争议的美国加州的AI法案将迎来最后的表决和签署阶段。一旦实施，主流AI大模型或将受到更加严格的监管。

这项法案全称为《前沿人工智能模型安全创新法案》（编号SB-1047），旨在为训练成本超过1亿美元或者达到一定算力的AI大模型建立明确安全标准，要求开发者进行部署前的安全测试、模拟黑客攻击、安装网络安全保障，以及为举报人提供保护等。法案将允许加州执法者对造成“严重损害”的大模型开发者追究法律责任，比如造成多人伤亡或者5亿美元以上的损失。

该法案自今年2月提出以来持续引发多方争议。一众AI研究人员、创业者或科技巨头们认为，法案许多条款并不合理并将扼制创新。支持者则认为，AI应该受到约束，需要有一套法律标准来监管。

法案也得到了马斯克的支持，拥有xAI公司的他在社交平台上表示，加州AI法案应该获得通过。此前曾表达过反对声音的OpenAI态度有所转变，表示支持法案的某些条款。反对该法案的知名学者、斯坦福大学计算机科学教授李飞飞则表示，法案并不能解决其想要解决的问题，还将限制创新。

报道称，该法案此前已在州参议院获得通过，预计将在本周末前在州众议院进行投票表决。由于多次修订，该法案将返回议会进行最终投票。如果获得通过，将送交加州州长Gavin Newsom签署。

加州AI法案引发硅谷分歧

加州州参议员、该法案的共同起草人Scott Wiener指责一些反对者通过“散布恐慌”来阻止该州立法的通过。

Wiener表示：“一些反对者发表了很多戏剧性言论和错误言论。大型实验室一再明确承诺对其（AI）大型模型进行安全评估，而这正是该法案要求的内容。法案的目的就是将自愿承诺转变为强制性要求。”

Wiener在本周三与该法案的支持者举行了在线新闻发布会，支持者包括被誉为AI“教父”之一的Yoshua Bengio、AI安全中心主任Dan Hendrycks以及AI初创公司Ava的CEO Thibault Duchemin等。

8月27日，马斯克在社交媒体上发文表达对加州AI法案的支持。他说道，“这是一个艰难的决定，会让一些人不满，但综合考虑，我认为加州应该通过SB 1047 AI安全法案。在过去20多年里，我一直是AI监管的倡导者，就像我们监管任何对公众有潜在风险的产品/技术一样。”

尽管OpenAI此前曾明确反对加州AI法案，但此次该公司首席战略官Jason Kwon在写给Wiener的信中表示，支持法案的某些条款。不过，Kwon仍然认为AI监管应由美国联邦政府决定，而不是用各州法律来拼凑。

日前，OpenAI曾公开表示反对这一法案，该公司首席战略官贾森·权在称，法案威胁到“加州作为人工智能全球领导者的独特地位”。

OpenAI的竞争对手Anthropic对该法案提出一系列修改意见后，表示对法案“谨慎认可”。公司CEO称，该法案目前“利大于弊”。

与此同时，该法案也遭到李飞飞等科学家以及头部AI企业的强烈抨击。斯坦福大学计算机科学教授李飞飞表示，SB 1047法案并不能解决其想要解决的问题，而且会严重损害人工智能学术界、开源社区等，因为开发者将承担过量的责任，这将限制他们创新。

谷歌、Meta和Andreessen Horowitz等大型科技公司也认为该法案威胁了创新和研究。一些人担心这会使加州处于不利地位，甚至可能失去位于硅谷的AI公司。