当前位置:首页|资讯|亚马逊|谷歌|微软|OpenAI|人工智能

陈根:7巨头出席白宫峰会,为防范AI风险做出八项承诺

作者:陈根谈科技发布时间:2023-07-25

原标题:陈根:7巨头出席白宫峰会,为防范AI风险做出八项承诺

文/陈根

当地时间7月21日,包含亚马逊、谷歌、微软、OpenAI、Meta、Anthropic和Inflection在内的7家人工智能公司参与了白宫峰会,这些公司的代表与美国总统拜登会面,并表示同意拜登政府提出的一系列AI保障措施,以防范人工智能的潜在风险。

这7家领先的AI企业自愿签署协议,承诺对其AI系统进行内部和外部安全测试,其中部分测试将由独立专家进行,旨在防范一些重要的风险来源,如生物安全和网络安全,及其更广泛的社会影响等等。同时,这些公司也承诺与整个行业、政府、民进及学术界共享AI风险管理的信息。

除此之外,这7家企业承诺对网络安全和内部威胁防护措施进行投资,保护专有模型和未发布模型的权重不被泄露;致力于促进第三方发现与报告AI系统中的漏洞;致力于开发有力的技术机制如水印系统,使用户知晓哪些内容由AI生成;报告其AI系统的功能、局限性及适用与不适用的领域;研究AI可能带来的社会风险,包含偏见和歧视等等;开发和部署先进的AI系统,以帮助解决社会面临的最大挑战,如癌症或气候变暖等等。

这让我们看到了正在到来的人工智能时代,人类有基本的共识,就是要借助于技术的约束来让AI技术服务于人类,让AI成为人类社会的效率提升工具。

这也是全世界所有从事于AI开发与训练企业需要学习的地方,就是在追求AI技术发展的同时,必须要考虑对AI技术的监管,以及要考虑AI万一偏离设想后的风险管控与干预。训练AI服务于人类社会很难,但是如何在AI自我学习的情况下,能够管控AI不偏离服务人类社会的这个设想更难。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1