当前位置:首页|资讯|ChatGPT|华尔街|OpenAI|阿尔特曼

ChatGPT创始人呼吁加强监管AI:如果这项技术出了问题,就会有大问题

作者:集微网发布时间:2023-05-17

集微网消息,《华尔街日报》5月16日报道称,OpenAI的首席执行官奥特曼(Sam Altman)已经前往美国国会参加听证会,他在会上呼吁为先进的人工智能(AI)系统制定许可和安全标准。

“我们理解人们担心它会如何改变我们的生活方式。奥特曼16日首次在国会露面时说:“如果这项技术出了问题,就会出大问题。”

他呼吁称,应当成立一个机构,为任何超过一定规模的AI颁发许可证,并可以取消许可证,确保一切符合安全标准。

奥特曼表示OpenAI会预先测试并不断更新其工具,以确保安全。他认为,让公众广泛使用这些工具,实际上有助于公司识别和减轻风险。

《华尔街日报》称,16日的听证会表明,消费者已经对ChatGPT等人工智能系统的迅速采用,产生了广泛的担忧。这一技术会如何 影响政治、知识产权、新闻报道、军事行动,甚至多样性和包容性都是美国当前讨论的主题。

“重要的是要明白,ChatGPT-4是一个工具,而不是一个生物,”奥特曼说。“这是一个人们可以很好地控制的工具。”

例如,这项技术在就业市场上,“将完全自动化一些工作”,并将创造出会更好的新产品。”

议员们称周二的听证会是了解新人工智能系统的第一步,这反映出尽管两党成员都认为需要联邦监管,但在国会的回应上缺乏共识。

“我们能否在技术创新与我们的伦理和道德责任之间取得平衡”密苏里州共和党参议员霍利(Josh Hawley)问道。

伊利诺伊州民主党参议员迪克·德宾(Dick Durbin)是几位将人工智能的崛起与社交媒体行业的早期发展相提并论的参议员之一。而当时,社交媒体并未受到国会的“强监管”。

“当涉及到网络平台时,政府倾向于让路,”他说。“当我看到网络平台和它们造成的危害时,我不确定我对结果是否满意......我不想再犯这样的错误。”

近期,奥特曼在美国首都华盛顿频频与议员见面。本月早些时候,他还在白宫与副总统哈里斯会谈。哈里斯告诉OpenAI、谷歌和微软等公司,他们有责任确保自己的产品是安全的。

在周二的听证会上,几名议员提出了对美国选举的担忧,担心人工智能系统可能被用来传播虚假信息或以其他方式操纵选民。

另一位证人、纽约大学名誉教授加里·马库斯(Gary Marcus)警告议员们,人工智能正在促进虚假信息的爆炸,使人们难以区分事实和虚构。他举例说,辩护律师在刑事审判中质疑证据。

“任何人都可以否认任何事情,”他说。“我们制造的机器就像瓷器商店里的公牛,强大、鲁莽、难以控制。”

奥特曼将人工智能工具与早期照片编辑软件进行了比较。他认为,人们“真的很快就认识到,图像可能会被PS。”

16日的听证会上,另一位行业证人、IBM首席隐私和信任官克里斯蒂娜•蒙哥马利(Christina Montgomery)呼吁议员在监管人工智能的具体用途时要精确,而不是监管技术本身。

她在书面证词中说:“一个可以分享餐馆推荐或起草电子邮件的聊天机器人,对社会的影响与一个支持信贷、住房或就业决策的系统不同。”

蒙哥马利还说,没有必要设立一个新的政府机构来监管人工智能。这一声明遭到了参议院司法委员会中共和党最高人物、南卡罗来纳州共和党参议员格雷厄姆(Lindsey Graham)的谴责。

“我不明白你怎么能说,我们不需要一个机构来处理也许是有史以来最具变革性的技术。”格雷厄姆说道。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1