Jan Leike宣布加入Anthropic，继续负责超级对齐

两周前Jan Leike从OpenAI超级对齐离职。

//

Jan Leike刚刚在X上宣布，已加入Anthropic，继续负责超级对齐任务，致力于可扩展监督、从弱到强的概括和自动对齐研究。

Jan Leike曾是OpenAI超级对齐（Superalignment）团队的联合负责人，他与Ilya等人一起离职。

从OpenAI离职后，他发文公开了离职原因，主要包括：

• 不同意 OpenAI 领导层的意见
• 应关注未来模型的准备/安全
• 偏离正确轨道
• 团队面临资源短缺
• 安全文化和流程被降低优先级
• OpenAI 必须成为一家以安全为第一的 AGI 公司

超级对齐是OpenAI在2023年7月成立的安全团队，目的是用科技与技术突破来引导和控制比人类聪明得多的人工智能系统，目标在四年内（也就是2027年之前）解决这个问题。

该团队原本由Ilya Sutskever和Jan Leike共同领导，并投入了公司20%的计算资源。

但在Sam Altman的领导下，OpenAI倾向于把更多的资源投入到更快落地的模型，矛盾与冲突不可调和，最终超级团队解散。

昨天，OpenAI刚刚宣布开启训练下一代前言模型。