前OpenAI安全主管跳槽，加盟竞争对手Anthropic，继续做超级对齐
编译 | Alyssa
编辑 | 李水青
智东西5月29日消息，据美国知名科技媒体Business Insider报道，前OpenAI高管Jan Leike于当地时间5月29日宣布加入竞争对手Anthropic。
Leike在X上称：“我很兴奋能加入Anthropic团队，继续推进超级对齐任务！我的新团队将致力于可扩展的监督机制、弱到强泛化以及自动化对齐研究。如果你也对加入我们感兴趣，欢迎通过私信联系我。”
▲Jan Leike在X上的官宣推文
Leike在不到两周前离开OpenAI，通过X平台宣布离职，指责ChatGPT制造商将“吸引眼球的产品”置于“安全文化和流程”之前。
Leike曾与OpenAI联合创始人Ilya Sutskever共同领导OpenAI的超级对齐团队，该团队负责防止超级智能失控，现已解散，剩余成员并入核心研究团队。Sutskever也已辞职。
Anthropic由前OpenAI员工Dario Amodei和Daniela Amodei兄妹于2021年创立，亚马逊已对其投资40亿美元，并持有少数股权，该公司一直试图将自己定位为比竞争对手更有安全意识的公司。Anthropic透露将利用亚马逊云服务的服务器和芯片来训练和运行大语言模型。
除Leike和Sutskever外，OpenAI近期还有其他员工离职，如政策研究员Gretchen Krueger于上周在X平台上表示已于5月14日辞职，她认同其他人表达的一些关于安全问题的担忧。
OpenAI当地时间5月28日宣布，已由董事Bret Taylor、 Sam Altman、 Nicole Seligman和Adam D’Angelo监督成立了安全与保障委员会，并开始测试其“下一代前沿模型”。
来源：Business Insider