当前位置:首页|资讯|OpenAI|ChatGPT|教育

OpenAI首席技术官:ChatGPT的火爆超出预期,将彻底改变学习方式,但必须受到更多监管

作者:每日经济新闻发布时间:2023-02-06

原标题:OpenAI首席技术官:ChatGPT的火爆超出预期,将彻底改变学习方式,但必须受到更多监管

每经记者:文巧 每经编辑:兰素英

当地时间2月5日,OpenAI的首席技术官Mira Murati在接受《时代周刊》采访时表示,ChatGPT有可能真正彻底改变人类的学习方式,具有进行个性化教育的巨大潜力。

她同时表示,ChatGPT面临的核心挑战仍是“模型偏差”。对于人工智能,关键的问题在于如何以符合人类价值观的方式管理其使用。因此,需要监管机构进行介入,以防止ChatGPT等生成式AI系统对社会产生潜在负面影响。

Murati负责领导该公司旗下的DALL-E和ChatGPT项目。去年11月,ChatGPT在发布后迅速“引爆”全球,它不仅让所有人疯狂,也让科技巨头“慌了”——微软产品将全线接入ChatGPT,ChatGPT被亚马逊用于许多不同的工作职能中;而大受威胁的谷歌选择投资ChatGPT竞品公司Anthropic AI,并宣布将推出同类产品Apprentice Bard。

据瑞银分析师团队,自11月底发布以来,ChatGPT的月活跃用户已达到1亿,速度快于TikTok或Instagram。“在互联网领域发展的20年里,我们想象不到有哪个互联网应用发展得(比ChatGPT)更快。”

对于ChatGPT的大火,Mira Murati也称这超乎想象。“我们没有预料到将‘孩子’带到这个世界会带来这种程度的兴奋。事实上,我们甚至对它感到有些不安,我很好奇它会在哪些领域开始为人们带来效用,而不仅仅是新颖性和纯粹的好奇心,”她这样说道。

在采访中,Mira Murati也提到了ChatGPT面临的核心挑战:与所有的大型语言模型相似,它可能会以一种非常自信的方式编造事实。

她说道,“我们选择了对话的方式,因为对话不仅能与模型交互,并且能提供反馈。如果认为模型的答案不正确,你可以说,‘你确定吗? 我认为实际上......’。这样,模型就有机会与你来回交流,类似于我们与另一个人交谈的方式。”

当被问及这一突破性的技术旨在解决什么问题时,Mira Murati表示,“它有可能真正彻底改变我们的学习方式。借助ChatGPT等工具,你可以无休止地与模型对话,以符合你理解水平的方式进行学习,因此它具有帮助我们进行个性化教育的巨大潜力。”

在ChatGPT推出以后,越来越多的行业人士开始警告AI可能带来的风险。例如,为防止学术作弊,纽约和西雅图等最大的学区最近已禁止在其设备和网络中使用ChatGPT,许多大学也在考虑采取类似措施。

对此,Mira Murati称,“这是一个特别的时刻,我们有责任(引导)这项技术如何去塑造这个社会。它(带来的影响)是双向的,技术塑造我们,我们也要塑造它。”

Mira Murati同时承认,还有很多难题需要解决。“例如,你如何让模型做你想让它做的事情,以及你如何确保它符合人类意图并最终为人类服务。还有很多关于社会影响的问题,以及伦理和哲学问题。”她表示。“AI可能被滥用,也可能被坏人利用。关键的问题在于,如何在全球范围内管理该技术的使用,以及如何以符合人类价值观的方式管理AI的使用。

对于这一点,她认为,重要的是要引入不同的声音,比如哲学家、社会科学家、艺术家和人文学科人士(的看法)。

与此同时,Mira Murati还说道,对于OpenAI和像其一样的公司来说,以一种可控和负责任的方式将其引入公众意识非常重要。“但我们是一小群人,我们还需要对这个系统进行更多的投入,不仅仅是技术范围的投入,还需要包括监管机构、政府和社会各界的参与。”

当被问及监管机构现在介入是否为时过早时,Murati称,“现在介入并不早。考虑到这些技术将产生的影响,每个人都开始参与进来是非常重要的。”

每日经济新闻


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1