前OpenAI研究人员警告“老东家”：若AI无监管将造成灾难性伤害
创始人
2024-08-24 14:16:28
0次
IT之家 8 月 24 日消息，据《商业内幕》北京时间今天上午报道，OpenAI 公开表示了对加州 SB 1047 法案（AI 安全法案）的反对意见之后，两名 OpenAI 的前研究人员则站出来公开反对自己的“老东家”，并提出警告。
美国加州 AI 安全法案将要求 AI 公司采取措施，防止其模型造成“严重损害”，例如开发可能导致大量人员伤亡的生物武器或造成超过 5 亿美元（IT之家注：当前约 35.66 亿元人民币）的经济损失。
这些前员工向加州州长加文・纽森和其他立法者致信称，OpenAI 对该法案的反对令人失望，但并不令人意外。
两名研究人员威廉・桑德斯和丹尼尔・科科塔伊洛在信中写道，“我们（以前）之所以选择加入 OpenAI，是因为我们希望确保该公司在开发的‘强大无比的 AI 系统’的安全性。但我们选择离开，是因为它失去了我们的信任 —— 能够安全、诚实、负责任地开发 AI 系统。”
信中还提到，OpenAI CEO 阿尔特曼曾多次公开支持对 AI 实施监管，但当实际的监管措施准备出台时，他们却表示反对。“在没有充分安全预防措施的情况下开发前沿 AI 模型，会给公众带来可预见的灾难性伤害风险。”
相关内容
热门资讯
IBM推出AI支出分析工具，帮...
钛媒体App 8月6日，IBM旗下Apptio于8月6日宣布，正式推出“IBM Apptio AI ...
“AI教父”辛顿警告：AI可能...
凤凰网科技讯 北京时间8月6日，据《商业内幕》报道，有“AI教父”之称的计算机科学家杰弗里·辛顿(G...
滨海湾“AI Yeah校”首期...
8月5日晚，2026年滨海湾新区“AI Yeah校”首期课程在滨海湾港澳青年创新创业基地开课。 今年...
2026粤港澳大湾区动画电影周...
8月6日下午，2026粤港澳大湾区动画电影周在东莞正式启幕，并同步举办粤港澳影视政策解读及平行对话会...
石化老城“炼数据” 粤西抢跑A...
茂名市容。 资料图 7月的石化老城茂名，距市中心20公里以内的金塘产业园内，一处工地上机器轰鸣。 这...
122轮测试19次违规，美AI...
当地时间8月4日，英国政府设立的英国人工智能安全研究所发布题为《网络测评中AI智能体出现未授权自主行...
国际AI安全榜单今日放榜：中国...
本文转自【央视新闻客户端】； 今天（8月5日），国际公认的AI安全基准CyberGym公布最新排名。...
黄仁勋官宣Alpamayo 2...
英伟达CEO黄仁勋在X上发文称，今天正式推出Alpamayo 2 Super，这是英伟达面向自动驾驶...
“AI小法官”提升法治教育实效
原标题：福建省厦门市康乐第二小学推动人工智能与法治教育融合——“AI小法官”提升法治教育实效 “偷看...