当前位置:首页|资讯|OpenAI|人工智能

OpenAI宣布组建团队以提高AI模型安全性

作者:DoNews发布时间:2023-09-21

原标题:OpenAI宣布组建团队以提高AI模型安全性

DoNews9月20日消息,OpenAI 宣布推出“红队网络”(Red Teaming Network),并邀请各领域专家加入,以提高其人工智能(AI)模型的安全性。

OpenAI 表示,“红队网络”是一个由经验丰富且值得信赖的专家组成的社区,可以帮助公司更广泛地进行风险评估,而不是在主要模型部署之前进行一次性参与和选择过程。

据报道,“红队”在识别人工智能系统中的偏见和评估安全过滤器方面发挥着至关重要的作用,已经成为人工智能模型开发过程中的关键一步,尤其是在生成式技术得到更广泛采用的情况下。

OpenAI 向不同领域的专家发出邀请,包括具有语言学、生物识别、金融和医疗保健背景的专家。该公司强调了各种专业知识对人工智能评估的重要性,包括但不限于认知科学、法律、网络安全、经济学和医疗保健等领域。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1