OpenAI成立新安全委员会，Altman领导，90天后“交卷”
智东西
编译 | Alyssa
编辑 | 李水青
智东西5月29日消息，当地时间5月28日，OpenAI官网发文称，OpenAI董事会宣布成立安全与保障委员会，该委员会由董事长Bret Taylor和其他董事会成员Adam D’Angelo、 Nicole Seligman及CEO Sam Altman领导。该委员会将负责向董事会提出关于OpenAI项目和运营的关键安全与安全决策的建议，并计划在90天内完成初步建议。
▲OpenAI官宣成立新安全委员会截图
随着OpenAI开始训练其下一代前沿模型，预期这些系统将使OpenAI在通往通用人工智能的道路上达到新的能力水平。
OpenAI在官网中写道：“尽管我们在构建和发布兼具行业领先能力和安全性的模型方面引以为豪，但我们欢迎在这个重要时刻进行一场全面的讨论。”
安全与保障委员会的首要任务是在接下来的90天内评估并进一步完善OpenAI的流程与防护措施。90天后，委员会将向全体董事会汇报其建议。经全体董事会审议后，OpenAI将以符合安全与保密原则的方式，公开分享采纳建议的更新情况。
该委员会还包括OpenAI的技术与政策专家：准备工作负责人Aleksander Madry、安全系统负责人Lilian Weng、对齐科学负责人John Schulman、安全负责人Matt Knight以及首席科学家Jakub Pachocki。
此外，OpenAI还将聘请并咨询其他安全、安保和技术领域的外部专家支持相关工作，包括为OpenAI提供安全咨询的前网络安全官员Rob Joyce和John Carlin。
来源：OpenAI