OpenAI安全团队集体出走，超级对齐团队人去楼空

OpenAI安全团队集体出走，超级对齐团队人去楼空

OpenAI的超级对齐（Superalignment）团队已经名存实亡。联合创始人Ilya Sutskever离职，团队负责人Jan Leike跳槽到Anthropic，核心成员陆续离开。这个曾经承载着"确保AI安全超越人类"使命的团队，如今人去楼空。

超级对齐团队的解散是OpenAI内部理念分歧的集中体现。这个团队成立于2023年，目标是解决超级智能的对齐问题——如何确保比人类更聪明的AI系统按照人类的意图行事。OpenAI承诺将20%的计算资源分配给这个团队。

但据离职员工透露，承诺的计算资源从未到位。"我们一直在请求更多的GPU来做安全研究，但总是被拒绝，"一位前团队成员在社交媒体上发文称。"公司 priorities 明显是产品发布和收入增长，安全问题被放在了次要位置。"

Jan Leike在离职后发表了一系列推文，直言不讳地批评OpenAI的安全文化。他说："安全文化和流程在追求光鲜产品的过程中被抛在了一边。"这些言论在AI安全社区引发了广泛讨论。

Ilya Sutskever的离开尤其引人注目。作为OpenAI的联合创始人和首席科学家，Ilya是公司技术方向的灵魂人物。他的离开被外界解读为对OpenAI商业化路线的无声抗议。离职后，Ilya创立了一家新的AI公司SSI（Safe Superintelligence），明确表示将把安全作为首要任务。

OpenAI对这些批评的回应是成立了新的安全团队，由Sam Altman直接领导。但外界对这个新团队的独立性表示质疑——向CEO汇报的安全团队能否真正独立于商业利益做出判断？

这一事件的影响可能会超出OpenAI本身。如果行业领先者的安全团队都无法维持，其他公司是否会效仿？AI安全研究的资金来源是否会受到影响？这些都是值得关注的问题。

对于AI行业来说，安全与商业化的平衡是一个永恒的难题。超级对齐团队的解散或许标志着一个时代的结束——那个AI安全研究受到高度重视的时代。未来，安全责任可能会更多地分散到整个行业，而不是由一家公司来承担。