当前位置:首页|资讯|OpenAI

前OpenAI安全主管跳槽,加盟竞争对手Anthropic,继续做超级对齐

作者:智东西发布时间:2024-05-29

编译 | Alyssa

编辑 | 李水青

智东西5月29日消息,据美国知名科技媒体Business Insider报道,前OpenAI高管Jan Leike于当地时间5月29日宣布加入竞争对手Anthropic。

Leike在X上称:“我很兴奋能加入Anthropic团队,继续推进超级对齐任务!我的新团队将致力于可扩展的监督机制、弱到强泛化以及自动化对齐研究。如果你也对加入我们感兴趣,欢迎通过私信联系我。”

▲Jan Leike在X上的官宣推文

Leike在不到两周前离开OpenAI,通过X平台宣布离职,指责ChatGPT制造商将“吸引眼球的产品”置于“安全文化和流程”之前。

Leike曾与OpenAI联合创始人Ilya Sutskever共同领导OpenAI的超级对齐团队,该团队负责防止超级智能失控,现已解散,剩余成员并入核心研究团队。Sutskever也已辞职。

Anthropic由前OpenAI员工Dario Amodei和Daniela Amodei兄妹于2021年创立,亚马逊已对其投资40亿美元,并持有少数股权,该公司一直试图将自己定位为比竞争对手更有安全意识的公司。Anthropic透露将利用亚马逊云服务的服务器和芯片来训练和运行大语言模型。

除Leike和Sutskever外,OpenAI近期还有其他员工离职,如政策研究员Gretchen Krueger于上周在X平台上表示已于5月14日辞职,她认同其他人表达的一些关于安全问题的担忧。

OpenAI当地时间5月28日宣布,已由董事Bret Taylor、 Sam Altman、 Nicole Seligman和Adam D’Angelo监督成立了安全与保障委员会,并开始测试其“下一代前沿模型”。

来源:Business Insider


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1