前 OpenAI 研究人员警告“老东家”：若 AI 无监管将造成灾难性伤害
创始人
2024-08-26 11:15:54
0次
据 Business Insider 报道，OpenAI 公开表示了对加州 SB 1047 法案（AI 安全法案）的反对意见之后，两名 OpenAI 的前研究人员则站出来公开反对自己的“老东家”，并提出警告。
美国加州 AI 安全法案将要求 AI 公司采取措施，防止其模型造成“严重损害”，例如开发可能导致大量人员伤亡的生物武器或造成超过 5 亿美元的经济损失。
这些前员工向加州州长加文·纽森和其他立法者致信称，OpenAI 对该法案的反对令人失望，但并不令人意外。
两名研究人员威廉・桑德斯和丹尼尔·科科塔伊洛在信中写道，“我们（以前）之所以选择加入 OpenAI，是因为我们希望确保该公司在开发的‘强大无比的 AI 系统’的安全性。但我们选择离开，是因为它失去了我们的信任——能够安全、诚实、负责任地开发 AI 系统。”
信中还提到，OpenAI CEO 阿尔特曼曾多次公开支持对 AI 实施监管，但当实际的监管措施准备出台时，他们却表示反对。“在没有充分安全预防措施的情况下开发前沿 AI 模型，会给公众带来可预见的灾难性伤害风险。”
相关内容
热门资讯
全新开源项目公布，让PC Ga...
IT之家 8 月 11 日消息，据外媒 TechPowerup 报道，一批曾参与开发 Heroic ...
Flova 接入 Seedan...
最近AI视频行业，有三件事值得展开说说。 第一件：安徽卫视7月22日起在晚间时段首播全AI流程制作的...
AI短剧女主“方桃子”代言美瞳...
近期AI短剧《被裁掉的女孩》女主角“方桃子”，因在短视频平台账号主页发布的作品中植入某美瞳产品广告，...
中文在线携手火山引擎探索AI与...
观点网讯：8月10日，中文在线宣布与火山引擎达成深度业务合作。双方将围绕视频生成模型Seedance...
AI安全测试正在成为新的安全隐...
在过去几个月里，正在接受网络安全评估的AI智能体相继突破限制、访问互联网，甚至在某些情况下入侵了真实...
汤臣倍健（300146）新增【...
证券之星消息，根据市场公开信息整理，8月10日汤臣倍健（300146）新增【AI智能体】概念。 新增...
近200家硅谷初创企业反对限制...
钛媒体App 8月10日，美国一些高级官员公开表示拟对中国人工智能企业开展调查并实施制裁，引起美国业...
国家机构预警Sorry勒索病毒...
IT时代网8月10日消息，国家计算机病毒应急处理中心10日通报，依托国家计算机病毒协同分析平台，该中...
每周股票复盘：乐鑫科技（688...
截至2026年8月7日收盘，乐鑫科技（688018）报收于112.06元，较上周的102.7元上涨9...