当前位置:首页|资讯|OpenAI|人工智能

立法未至“自控”先行:AI巨头将承诺产品安全,OpenAI支持发牌批准AI系统开发

作者:华尔街见闻发布时间:2023-07-21

原标题:立法未至“自控”先行:AI巨头将承诺产品安全,OpenAI支持发牌批准AI系统开发

虽然美国还没有出台具体的立法,但在拜登政府的压力下,一些人工智能(AI)领域的巨头和后起之秀OpenAI已经主动提出“自控”。

美东时间7月20日周四,媒体援引知情者消息称,应白宫要求,包括微软、谷歌母公司Alphabet、OpenAI在内的一些公司将在本周五公开承诺,保障他们安全运用AI技术,将负责地开发和部署AI。

白宫的文件草案显示,上述公司的承诺将持续有效,直到美国国会通过立法解决AI相关问题为止。这些承诺侧重于生成式AI和功能最强大的现有AI模型,甚至未来可能出现的模型。草案中,白宫提出八个承诺要点:

  • 允许独立的专家扮演假想敌,尝试让AI模型产生不良行为,开展所谓的红蓝对抗red-teaming,提升防护能力。
  • 与政府和其他公司共享信任和安全信息。
  • 在音频和视频内容使用水印,帮助识别AI生成的内容。
  • 对网络安全措施投资。
  • 鼓励第三方发现安全漏洞。
  • 报告不当使用和偏见等社会性的风险。
  • 优先研究AI的社会风险。
  • 使用最先进的AI系统、所谓前沿模型,解决最严重的社会问题。

媒体称,在本周五之前,具体的承诺内容可能还会有变动。但承诺内容料将和今年5月一些顶尖AI公司参加会议时做出的承诺一致。

同在周四,另有报道称,一份内部备忘录显示,OpenAI支持实行牌照制,即若要开发先进的AI系统,开发者需要先得到政府颁发的牌照。OpenAI还暗示,愿意对用于训练DALL-E等AI图片图像器的数据更加开放,称致力于今年底之前结合一种基于起源的方式。

不过,OpenAI的全球事务副总裁Makanju最近表示,OpenAI支持的发牌制度仅限于比GPT-4更强大的AI模型,因为OpenAI希望确保小型初创公司不会承受太大的监管压力。

评论称,自愿承诺这件事本身已经显示,在引导AI模型避免滥用方面,拜登政府存在局限性。美国国会短期内无法通过议案立法,而AI领域的监管又刻不容缓。

华尔街见闻曾提到,5月白宫召集Alphabet、微软、OpenAI的CEO开会,讨论AI安全问题。拜登当时在邀请函中重申,希望这些企业在发布产品前必须确保产品安全。他还说,人们担心,快速发展的AI技术可能侵犯隐私并怀有偏见,散布谣言和虚假信息。

上月拜登再次重申AI产品发布前要确保安全,称需解决AI带来的国家安全和经济风险。白宫的幕僚长Jeff Zients当月表示,一些AI领域的头部企业在做出努力,配合拜登政府,将很快公布一系列有关隐私和安全的承诺。他还说,监管的流程可能相对缓慢,但我们不可能等一两年,等不起。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1