当前位置:首页|资讯|OpenAI

消息称OpenAI正在组建新团队,以防范AI相关“灾难性”风险

作者:三言财经发布时间:2023-10-28

原标题:消息称OpenAI正在组建新团队,以防范AI相关“灾难性”风险

OpenAI当地时间周四宣布,公司正在组建一个新团队,以降低与AI相关的“灾难性风险”,将对AI可能引发的重大问题进行跟踪、评估、预测和保护。

OpenAI称,“我们深信前沿AI模型的能力将超过目前最先进的现有模型,并可能造福全人类,但它们也带来了越来越严重的风险。”该团队将努力减轻核威胁、生物、化学和放射性威胁等一系列AI可能引发的重大风险,以及AI“自我复制”等行为带来的潜在风险。

OpenAI表示,公司需要确保拥有高能力AI系统安全所需的理解、基础设施。该团队将由原麻省理工学院可部署机器学习中心主任Aleksander Madry领导,并将制定、维护一项“风险知情开发政策”,用以概述公司在评估和监控AI大模型所做的工作。(IT之家)


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1