加州AI法案引争议,李飞飞、吴恩达、本吉奥、辛顿意见不一
创始人
2024-08-08 18:38:24
0

美国加州已成人工智能监管斗争焦点。日前,美国人工智能初创企业、科技巨头、学术界联合反对加州安全法案SB-1047(《前沿人工智能模型安全创新法案》),认为该法案将使得AI创新冷却,但支持者认为对AI的监管比对理发店的监管更少。

8月6日,“AI教母”李飞飞在社交媒体上表示,虽然这项法案本意是好的,但它不仅很难达到它的目的,还会深深伤害人工智能学术界、开源社区等。李飞飞表示,人工智能是一项文明技术,将对每个人产生深远的影响。人工智能政策必须鼓励创新,设置适当限制,并减轻这些限制的影响;否则,最好的结果是达不到目标,最坏的情况下是导致可怕甚至是意想不到的后果。

但杰弗里·辛顿(Geoffrey Hinton)和约书亚·本吉奥(Yoshua Bengio)等计算机科学研究人员以及法律学者共同签署了一封致加州州长的信,支持SB-1047法案。信中说,“废除这项法案的基本措施将是一个历史性的错误,在一年内,当下一代更强大的人工智能系统发布时,这个错误将变得更加明显。”他们将法案描述为“对这项技术进行有效监管的最低限度”。

法案或阻碍创新生态

SB-1047法案已提交州立法机构,在加州参议院和两个州议会委员会获得通过,几乎没有遭到反对意见。该法案要求人工智能大模型的开发人员进行安全测试,以降低AI技术造成“灾难性伤害”的风险。所谓的灾难性伤害,法案将其定义为造成至少5亿美元损失或大规模人员伤亡的网络攻击。

法案适用于达到一定计算能力且训练成本超过1亿美元的人工智能模型。无论公司总部在哪里,只要在加州开展业务,都被涵盖在监管范围内。李飞飞说,这种阈值的设定是武断的,这一措施非但不会提供保障,只会限制包括学术界在内的各个部门的创新。“今天,学术领域的人工智能模型低于这一门槛,但如果我们要重新平衡私营和公共部门人工智能的投资,学术界将受到SB-1047的监管。我们的人工智能生态系统将因此变得更糟。”

法案要求,开发人员必须确保人工智能在开始有危险行为时可以被人类关闭。今年7月,著名AI学者吴恩达(Andrew Ng)表示,他对SB-1047法案深感担忧,法案可能会使人工智能大模型的构建者承担责任,如果该法案以目前的形式通过,它将扼杀人工智能模型构建者,尤其是开源开发者。

深度学习大牛、纽约大学教授、Meta首席科学家杨立昆(Yann LeCun)表示,监管机构应该监管应用,而不是技术,规范基础技术会阻碍创新。让技术开发人员为不良使用承担责任,只会阻止技术发展。最奇怪的是,所有这些规定都是基于完全假设的科幻小说场景。杨立昆认为,这些监管将杀死整个人工智能生态系统,“不仅仅是初创公司,还有学术研究。”

SB-1047也受到了产业界的强烈抵制。“如果它按照书面规定生效,将对加州的创新产生寒蝉效应。”创业加速器Y Combinator公共政策主管卢瑟·洛威(Luther Lowe)说。Meta和OpenAI也对该法案提出了担忧,谷歌、微软和Anthropic则提出了冗长的修正案。

反对者说,该法案没有具体规定这些测试应该是什么,也没有规定由谁组成一个新的委员会来监督遵守情况。微软在概述对该法案的反对意见信中表示,支撑该法案监管架构的基本要素尚未到位,有可能导致投资错位、产生误导性结果,以及错失集中资源的机会。

反对者的另一个担忧是,如果存在不合理的风险,可能导致或造成严重伤害,该法案将禁止发布人工智能大模型。“这个模糊的标准创造了一个法律雷区。”风险投资公司安德森·霍洛维茨(Andreessen Horowitz)的合伙人安妮·米德哈(Anjney Midha)表示,“目前的技术根本无法保证不会出现这些假设的情况。”米德哈认为,该法案将阻止大型开发商向公众提供模型,从而破坏依赖这种开放性进行创新的生态系统。

加州是许多人工智能创新的发源地。吴恩达说,他担心这个反竞争、反创新的提案在立法机构中得到了如此多的关注。“更糟糕的是,其他司法管辖区经常效仿加州,如果他们在这种情况下这样做,那将是可怕的。”

对AI的监管比理发店少

“我并不反对人工智能治理。”李飞飞在署名文章中表示,过去一年与美国总统拜登的多次对话中,她表达了需要一种“登月计划”的心态来刺激美国人工智能教育、研究和发展。“然而,SB-1047的限制过于武断,不仅会使加州的人工智能生态系统降温,还会对整个国家的人工智能产生令人不安的下游影响。”

但旧金山民主党州参议员斯科特·维纳(Scott Wiener)表示正与科技行业接触,对改革持开放态度。“科技行业有些人反对任何形式的监管,不管它是什么,即使是合理的、宽松的监管。”维纳认为,该法案只是将该行业制定的安全标准编纂成法律,“这并不是过分的规定。”

杰弗里·辛顿(Geoffrey Hinton)和约书亚·本吉奥(Yoshua Bengio)等计算机科学研究人员以及法律学者共同签署了一封致加州州长的信,支持SB-1047法案,否认该法案会阻碍创新的说法,并指出按照书面规定,该法案只适用于最大的人工智能模型。信中说,“废除这项法案的基本措施将是一个历史性的错误,在一年内,当下一代更强大的人工智能系统发布时,这个错误将变得更加明显。”他们将法案描述为“对这项技术进行有效监管的最低限度”,“相对于我们面临的风险规模,这是一项非常宽松的立法。”

本吉奥和辛顿都是图灵奖获得者,与杨立昆同被称为“人工智能教父”。“对可能带来灾难性风险的人工智能系统的监管比对三明治店或理发店的监管要少。”信中说,“作为最了解这些系统的一些专家,我们可以自信地说,这些风险是可能的而且是足够重要的,需要进行安全测试和常识性预防措施。”

“我担心,科技公司在争夺市场份额和利润最大化的过程中,无法独自解决这些重大风险。这就是为什么我们需要为那些处于这场竞赛前沿的人制定一些规则。”本吉奥说。

上个月在接受Vox采访时,维纳说,该法案已经被修改,以回应来自开源社区的批评。当前版本免除了原始开发人员在模型不再受其控制时的关闭要求,并且当其他人对其模型进行重大修改时限制了原始开发人员的责任,将重大修改版本视为新模型。

在华盛顿,从美国范围内监管人工智能的提议几乎没有取得进展。但科罗拉多州和犹他州最近通过了美国首批人工智能监管法律,监管范围比加州SB-1047法案更窄。倡导对人工智能模型训练数据进行监管的非营利组织透明度联盟(Transparency Coalition)称,目前美国各州立法机构正在审议大约400项与人工智能相关的法案。加州立法机构大约有30项法案正处于不同阶段,其目标包括从保护知识产权到扩大儿童色情的定义,将人工智能生成的图像包括在内。

相关内容

杨少华被儿子过度“消费”?...
7月9日,天津市曲艺团微信公众号发布讣告称,天津市曲艺团著名相声表...
2025-07-10 19:41:02
八成受访消费企业今年拟引入...
7月10日下午,由南方都市报主办的“2025高品质消费品牌TOP1...
2025-07-10 11:43:05
AI教育概念异动拉升 竞业...
每经AI快讯,7月10日,早盘AI教育概念异动拉升,竞业达直线涨停...
2025-07-10 11:41:56
“上岗”即用的AI客服、A...
目前,随着AI的大范围应用,各类AI Agent产品如雨后春笋般出...
2025-07-10 11:13:02
中国电信刘桂清:拥抱AI,...
瑞士时间7月9日,人工智能向善全球峰会(AI for Good S...
2025-07-10 11:12:36
夏夜在公园里抓“季鸟猴”,...
小暑过后,蝉鸣阵阵的盛夏随之开启。北京土话称蝉的幼虫为“季鸟猴”。...
2025-07-09 13:41:33

热门资讯

原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...