AIPress.com.cn报道
微软AI CEO Mustafa Suleyman近日向人工智能行业发出警告,呼吁企业停止将“控制(containment)”与“协作或对齐(alignment)”混为一谈,并强调在推动更高级人工智能系统之前,必须优先确保其可控性。
苏莱曼在社交平台X上表示,“你无法操控一个你无法控制的系统”,并指出,如果缺乏明确的控制边界,对齐更像是在“请求系统自我约束”。他认为,当前行业在竞逐超智能的过程中,正在忽视这一根本问题。
在相关论述中,苏莱曼区分了控制与对齐的不同内涵。他指出,控制关注的是为AI系统设定硬性边界、限制其自主行为和能力范围;而对齐则侧重于确保系统在价值和动机层面不对人类造成伤害。两者既非同义,也无法相互替代。
苏莱曼表示,行业普遍倾向于优先讨论对齐问题,却在缺乏成熟控制机制的情况下不断扩大AI系统的能力与自主性,这种路径在技术和治理层面都存在风险。他认为,先建立控制框架,再谈对齐目标,是更为稳妥的顺序。
这些观点出自他近期发表在微软AI博客上的文章《迈向人文主义超智能》(Towards Humanist Superintelligence)。在文中,苏莱曼提出“人文主义超智能”的概念,主张将研发重点放在医疗、清洁能源等具体应用领域,而非不受约束地追求通用人工智能或完全自主的系统形态。
苏莱曼在接受媒体采访时表示,他认为“控制”和“对齐”都应被视为AI研发中的“红线”,任何一家企业都不应越过。他同时承认,这一立场在当前行业中仍属于相对少见的观点。
报道称,在微软与OpenAI的合作关系调整后,微软得以推进更为独立的AI研发路径。苏莱曼表示,他正在组建一支以“保持人类控制”为核心原则的高级AI研究团队。
在谈及行业其他人物时,苏莱曼表示自己与多家AI公司高层保持沟通,并形容埃隆·马斯克为“推土机式人物”,同时肯定其直言不讳的风格。他则评价OpenAI CEO Sam Altman“勇敢且高效”,并指出其在大规模算力基础设施建设上的推进速度在业内领先。(AI普瑞斯编译)
下一篇:AI陪伴的“热”与“惑”