linux办公网
前 OpenAI 研究人员警告“老东家”：若 AI 无监管将造成灾难性伤害
创始人
2024-08-26 11:15:54
0次

据 Business Insider 报道，OpenAI 公开表示了对加州 SB 1047 法案（AI 安全法案）的反对意见之后，两名 OpenAI 的前研究人员则站出来公开反对自己的“老东家”，并提出警告。

美国加州 AI 安全法案将要求 AI 公司采取措施，防止其模型造成“严重损害”，例如开发可能导致大量人员伤亡的生物武器或造成超过 5 亿美元的经济损失。

这些前员工向加州州长加文·纽森和其他立法者致信称，OpenAI 对该法案的反对令人失望，但并不令人意外。

两名研究人员威廉・桑德斯和丹尼尔·科科塔伊洛在信中写道，“我们（以前）之所以选择加入 OpenAI，是因为我们希望确保该公司在开发的‘强大无比的 AI 系统’的安全性。但我们选择离开，是因为它失去了我们的信任——能够安全、诚实、负责任地开发 AI 系统。”

信中还提到，OpenAI CEO 阿尔特曼曾多次公开支持对 AI 实施监管，但当实际的监管措施准备出台时，他们却表示反对。“在没有充分安全预防措施的情况下开发前沿 AI 模型，会给公众带来可预见的灾难性伤害风险。”

加州 警告 公司 模型 OpenAI 开发 研究人员 系统 法案 监管 阿尔特曼 加文·纽森

上一篇：原创 AI机器人炒菜！餐饮行业正在进行一场颠覆式的“变革”！

下一篇：关于前两天用AI写文章《如何面对教师工资下降的焦虑？》的说明

相关内容

热门资讯

国产大模型下调推理服务价格，南... 近日，国内某大模型企业宣布下调其flash系列模型服务价格，输入缓存命中、输入缓存未命中及输出价格最...
AI新手用拼豆庆祝教师节
解码青年人AI生活《2026有... 中新网深圳9月5日电(记者索有为)《2026有意思生活方式报告》(下称《报告》)4日在全国首个有意思...
OpenAI 最强 AI 生图... 9月9日消息，OpenAI 9 月 9 日官宣发布 ChatGPT Images 2.5，图像生成延...
探索AI供应链产业化路径京东推... 2026年以来，人工智能应用范围加速拓展，持续从数字空间走向现实生活，广泛融入生产线、仓储厂房、配送...
教育部发文！AI生成内容，教师... 一篇论文，因为AI使用不当，相关高校师生被通报处理。 9月2日，安徽财经大学公布“教师与学生涉嫌学术...
夏夜逛吃记 #剪映让好作品告别...
AI识别出近800种可充当乳化... 英国利兹大学食品科学与营养学院和爱丁堡大学科学家携手，开发出一款 人工智能（AI）工具，能从数千万种...
搭上低空经济、AI文旅？两连板... 桂林旅游（000978）回应市场热点。 9月8日，桂林旅游再度涨停，斩获2连板。当天晚间，该公司披露...
硅谷：我们不能被硅谷“AI刹车... 【文/底线思维】 OpenAI首席科学家Jakub Pachocki最近写了一篇文章，题目叫《An ...