美国争议AI大模型安全法遭否决!加州州长害怕AI公司被赶走
创始人
2024-09-30 17:22:42
0

智东西

编译 | 尹明顺

编辑 | 漠影

智东西9月30日消息,据路透社报道,美国加利福尼亚州参议员(Scott Wiene)于今年2月7日拟定的《SB-1047前沿AI大模型安全创新法案》(简称SB-1047法案)于今日凌晨,被加州州长Gavin Newsom彻底否决。其认为,该法案可能会将AI公司赶出加州,并对科技创新造成阻碍。

据悉,SB-1047法案主要用于增强大模型安全性、透明性、完善AI使用规范条例,该法案一经提出就引发极大争议。

法案要求对许多最先进的AI模型进行安全测试,这些模型的开发成本超过1亿美元,需要特定数量的计算能力。此外,法案还将通过设立一个州级机构,负责监督所谓“前沿模型”的开发。

对此,多家科技公司对SB-1047法案都表达了抗拒态度。Meta认为该法案有可能对AI在加州的开发和部署产生不利作用。Facebook母公司的首席科学家Yann LeCun曾在社交媒体X的一篇帖子中称该法案可能对研究工作产生负面影响。

OpenAI的ChatGPT也认为AI应该由联邦政府监管,但SB-1047创造了一个充满不确定的法律环境。它认为该法案将对AI发展构成威胁,并可能导致企业家和工程师离开该州。

一、AI发展迅速,SB-1047法案提出利弊交加

生成式AI可以根据提示创建文本、照片和视频,这令人兴奋,也让人担忧。因为AI的使用可能会使得一些工作岗位不那么被需要,会对选举造成颠覆性影响,还可能在某些方面因超越人类而造成灾难性影响。

Wiener称,在AI的发展变得难以驾驭或无法控制之前,有必要通过立法来保护公众。

但一些领导人对此发出了质疑,如今AI产业在加利福尼亚州快速发展,如果该法案通过,确立为正式法律条例,可能会使那些AI公司在该州未来的发展受到影响。

Newsom认为:“我们不能等到发生重大灾难后才采取行动来保护公众”,但他同样觉得,该法案目前尚待完善,将其正式立法可能会对AI公司在加州的发展造成阻力,不利于科技创新。

▲美国加州州长Gavin Newsom(图源:X平台个人社交帐号)

科技行业联盟“进步商会”(Chamber of Progress)对Newsom的否决意见表达了赞赏,称“加利福尼亚州的科技与经济一直依赖于竞争和开放的环境才得以蓬勃发展。”

对于Newsom的否决,Wiener回应称,此行会使得加利福尼亚州的安全性降低,这意味着“那些想要创造极其强大技术的公司不会面临任何强制性限制”。他补充说:“行业的自愿承诺是缺少执行性的,对公众来说几乎没什么好结果。”

二、SB-1047“BUG”众多,急需打造AI风险科学分析体系

Newsom出面彻底否决了该法案,除去认为该法案不利科技创新与AI发展外,他还给出了这样的一个原因:“我并不认为我们应该遵循那些没有基于AI系统和能力的实际发展轨迹进行实证分析所得出的解决方案。”

他补充道,该法案没有考虑到AI模型是否部署在高风险环境中。这一点很关键,因为在低风险环境中并不需要如此严格的监管措施。

另外,Newsom还解释称,法案对于AI对关键决策的影响也未进行说明,也没有定义何为敏感数据。这一点的模糊界定会使得法案难以对隐私以及数据进行有效保护。

Newsom称自己已经请了生成式AI的领先专家帮助加州开发“护栏”,并将专注于开发一种基于经验与科学的AI轨迹分析模型。他还命令美国各州机构完善对与AI使用相关的潜在灾难性事件的风险评估体系。

此处的护栏,意指一套机制或者系统,主要是用于保护技术使用安全并预防可能存在的风险。而AI轨迹分析模型,则是对AI未来发展路径进行预测的一种科学分析手段。

Newsom还签署了另一项法案,要求该州评估生成式AI对加利福尼亚州关键基础设施构成的潜在威胁。

Newsom说,他将在下一届立法会议期间与立法机构合作,推动AI立法。

这一行动恰好发生在这样一个时刻,美国国会关于设立人AI保障措施的立法工作陷入了停滞状态,而与此同时,拜登政府正在积极推动关于人工智能监管监督的提案。

结语:SB-1047法案在过去的半年里争议良多

众多团体强烈反对SB-1047法案的提出与落实。其中包括谷歌(旗下的Alphabet)、微软支持的OpenAI和Meta Platforms在内的公司都在开发生成式AI模型,它们都对该提案表达了担忧。众议院议长南希·佩洛西(Nancy Pelosi)在内的一些美国国会民主党人也反对过该法案。

但该法案也有很多的支持者,其中包括特斯拉首席执行官埃隆·马斯克(Elon Musk),他经营着一家名为xAI的AI公司。亚马逊支持的Anthropic认为,该法案的益处可能大于成本,但也补充说,仍有一些方面含混不清,令人担忧。

来源:路透社、X

相关内容

AI学什么(第15期):开...
大家好,我是蓝衣剑客,欢迎来到「AI学什么」——一个专注于AI科普...
2025-08-20 21:43:32
刚刚,直线崩了!“一字断魂...
【导读】东方甄选创新高之后,直线跳水,从涨超20%到跌20%! 中...
2025-08-20 15:45:50
特朗普缓禁TikTok,字...
去年,美国多数议员以中国科技巨头字节跳动威胁国家安全为由,推动立法...
2025-08-20 15:45:37
DeepSeek开源新模型...
IT之家 8 月 20 日消息,DeepSeek 昨天深夜在 Hu...
2025-08-20 09:44:29
重磅!华为发布突破性技术—...
华为在2025金融AI推理应用落地与发展论坛上,正式发布了一项AI...
2025-08-20 06:43:38
广发证券“易淘金App”完...
近日,广发证券旗下“易淘金App”完成全方位AI原生化升级,实现从...
2025-08-19 23:15:25

热门资讯

原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...