当前位置:首页|资讯|OpenAI|人工智能

OpenAI承诺向美国政府提供其下一代AI模型早期使用权

作者:鞭牛士发布时间:2024-08-01

鞭牛士报道,8月1日消息,据外电报道,Sam Altman 在推文中透露,OpenAI 将向美国人工智能安全研究所提供其下一代模型的早期使用权,作为其安全工作的一部分。

显然,该公司一直在与该联盟合作推动人工智能评估的科学发展。美国国家标准与技术研究所 (NIST) 已于今年早些时候正式成立人工智能安全研究所,尽管副总统卡马拉·哈里斯 (Kamala Harris)早在 2023 年英国人工智能安全峰会上就宣布了这一消息。

根据NIST 对该联盟的描述,它旨在制定基于科学和经验支持的人工智能测量和政策指南和标准,为全球人工智能安全奠定基础。

该公司与 DeepMind去年同样承诺与英国政府共享 AI 模型。

正如TechCrunch指出的那样,人们越来越担心 OpenAI 在寻求开发更强大的 AI 模型时,安全性不再是首要任务。

有人猜测,董事会出于安全方面的考虑,决定将 Sam Altman 踢出公司——他很快就恢复了原职。然而,该公司当时在一份内部备忘录中告诉员工,这是因为沟通中断。

今年 5 月,OpenAI 承认解散了其创建的超级对齐团队,以确保在公司推进生成人工智能工作的同时,人类的安全。

在此之前,OpenAI 联合创始人兼首席科学家 Ilya Sutskever离开了公司,他是该团队的领导者之一。同样是该团队领导者之一的 Jan Leike 也辞职了。

他在一系列推文中表示,他长期以来一直与 OpenAI 领导层在公司的核心优先事项上意见不一,并且安全文化和流程已经让位于闪亮的产品。

OpenAI在 5 月底成立了一个新的安全小组,但由包括 Altman 在内的董事会成员领导,引发了人们对自我监督的担忧。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1