当前位置:首页|资讯|GPT-5|阿尔特曼|OpenAI|AGI

GPT-5会有质的飞跃!Sam Altman最新专访透露了哪些重要信息?

作者:新榜发布时间:2024-04-08

原标题:GPT-5会有质的飞跃!Sam Altman最新专访透露了哪些重要信息?

“我认为算力将成为未来的货币,它可能会是世界上最宝贵的商品。”
“我预计到未来十年末,甚至可能更早,我们将拥有非常强大的系统,当我们看到它们时会说,哇,这真的很了不起。”
“通往AGI的道路是一场巨大的权力斗争。”

3月19日,知名科技博主Lex Fridman发布了他与OpenAI CEO Sam Altman的访谈视频,时长近2小时。

这是Sam Altman第二次接受他的专访,期间谈论了OpenAI董事会事件、Ilya Sutskever(伊利亚·苏茨克沃尔,OpenAI首席科学家)的现状、Elon Musk(埃隆·马斯克)的诉讼、Sora、GPT-4、记忆与隐私、Q*项目、GPT-5、Google和Gemini等话题。

“头号AI玩家”对此进行了编译,以下是我们整理后的访谈要点。(看完你会发现,Sam的回复滴水不漏,大概OpenAI也不需要公关团队了🙃)

通往AGI的道路是一场巨大的权力斗争

“那绝对是我职业生涯中最痛苦的经历,混乱、羞耻、令人沮丧,还有很多其他负面的事情。但其中也有很棒的时刻。”Sam Altman首先谈到了去年底OpenAI董事会的动荡事件,这段经历虽然艰难,但也让他学会了如何在压力下建立更有韧性的组织结构。

他认为在OpenAI成立和创造AGI之间的某个时候,肯定会发生一些疯狂和爆炸性的事件,可能还会有更多这样的事情发生。在他看来,通往AGI的道路将是一场巨大的权力斗争

OpenAI董事会的权力过大了吗?在他看来,在大多数公司结构中,董事会通常对股东负责。而非营利组织的董事会拥有相当大的权力,他们实际上只对自己负责。他真正希望的是,OpenAI的董事会能够尽可能地对整个世界负责。

Sam Altman很满意现在新组建的董事会,他认为董事会成员需要拥有不同的专业知识,可以提供多元的观点,并不是每个人都必须是技术专家。

Ilya Sutskever没见过AGI

Ilya Sutskever是OpenAI的联合创始人之一,但许久未公开露面。Sam Altman表示自己非常尊重Ilya Sutskever,希望与他长期合作,但关于Ilya Sutskever的近期计划没有什么可透露的。

此前,被认为是OpenAI“宫斗事件”的始作俑者Ilya Sutskever不知去向,消失在了公众视野之中。唯一一次“露面”,还是以署名的形式出现在OpenAI的博客里。

这么长时间的销声匿迹,很难不让人遐想。有个流传的段子说,Ilya Sutskever因为见识到了AGI,他非常担忧AI的安全性问题,所以和Sam Altman产生了分歧。

Altman对此回应称,Ilya从来没有见过AGI。“我们任何人都还没有,我们也还没造出AGI”。

Altman强调Ilya非常重视关于AGI及其对社会影响的安全问题,他们在过去几年中花了很多时间一起讨论AGI的意义,以及如何确保正确地实现这一使命。

至于为什么Ilya最近较为沉默,Altman认为他是一个深思熟虑的人,可能一直在以积极的方式进行灵魂深处的探索。

马斯克的诉讼令人难过

近期Elon Musk起诉了OpenAI,指控Sam Altman和OpenAI违背了公司成立时达成的一项协议,即开发技术以造福人类而不是利润。

“我们在每一步都做出了合理的决策。”Altman认为这场诉讼是不合适的,这不符合一个AI创业者的行为,因为他知道马斯克也有过类似被攻击的经历,所以他对这场诉讼感到更加难过。尽管如此,他还是希望未来能和马斯克恢复友好关系。

此外,他提到,如果能重来,他可能会给OpenAI选一个不同的名字。OpenAI正在做的众多事情中,他认为最重要的就是实现AI普惠,让先进的AI技术为公共利益服务。

至于是否开源,他说:“我们应该开源部分技术,而其他的则不必。这件事往往会变成一种信仰之争,很难保持中立,但我相信寻找平衡点才是正确的做法。”

他相信开源模型一定有立足之地,尤其是对于较小的模型,人们可以在本地运行,这方面确实存在巨大的需求。

Sora对世界的理解更胜一筹

今年2月以来,OpenAI推出的AI视频模型Sora引起业内热议。Sam Altman提到第一次看Sora视频时的情景——

“你会看到有人走过来,挡住画面几秒钟后又走开,而被遮挡的东西依旧在那儿。我当时就想,这效果挺不错的。或者,有时候,你能看到它展现出一系列动作中物理规律的那种精准(程度),真的让人印象深刻。”

相比GPT-4,Sora在理解世界的能力上会更胜一筹吗?Sam Altman认为所有这些模型对世界的理解比大多数人想象的要多,但现在仍然存在许多问题。他相信这些模型会越来越强大,就像DALL·E从第一个版本迭代到现在,这种进步还会继续。

在发布Sora之前,OpenAI必须确保它的效率达到人们的期望,在这方面还有大量的工作需要完成。

Sam Altman认为未来很多视频,比如YouTube上的视频,可能大多数在制作过程中都会运用到AI工具,但核心仍然是由人来思考、构思、负责部分执行,并指导整个项目的运作。

现在OpenAI还在研究生成面部图像的技术,虽然进展顺利,但要在视频中生成特定人物而非通用面孔,这个过程还是挺棘手的。

GPT-4挺糟糕的

Q:“你认为GPT-4和GPT-4 Turbo最令人印象深刻的能力有哪些?”
A:“我觉得这挺糟糕的。”

Sam Altman提到GPT-3刚面世那会儿,大家觉得它很了不起,但GPT-4出现后,回头看GPT-3就觉得它糟透了,与未来的模型相比,现在的GPT-4同样显得逊色。他预计“GPT-5和GPT-4之间的差距将和GPT-4与GPT-3的差距一样大”。

最近Sam Altman习惯把GPT-4当作头脑风暴的搭档,他希望将来能看到更多这样的使用场景。现在GPT-4 Turbo的上下文窗口从8K token增加到128K,大部分情况下,我们不会用到这个上下文窗口的极限,但未来我们可能会找到新的应用方式。

同时他还强调,用GPT处理知识性任务时,通常需要事后去核实事实,比如检查它有没有编造一些假消息。随着即将推出的新版本,这种产生错误信息的情况会有很大的改善,但今年他们还暂时无法解决这些问题。

ChatGPT拥有记忆,但只是个开始

ChatGPT现在拥有记忆功能,用户可以选择让AI记住或忘记某些信息。

Sam Altman表示他们刚刚开始这方面的探索,他觉得人们想要的,是一个能够逐渐认识我并且随着时间的推移越来越有帮助的模型。这还仅仅是个起点。

“想象一下,如果我们回溯并且假设有数万亿的上下文长度可供利用,我能把我这一生中与任何人的每一次对话都放进去,把所有的邮件往来都输进去,每当我提出问题时都能调用这些信息,那将是非常酷的一件事。”

对于隐私与实用性的平衡问题,他觉得解决方法很直接,就是要给用户选择的权利。

神秘的Q*项目

关于传闻中神秘的Q*项目,Sam Altman没有透露什么具体细节。他强调增强这些系统的推理能力是一个重要的发展方向,是OpenAI想要深入探索的,但到目前为止他们还没彻底攻克这个难题。

OpenAI在模型研发中采用了迭代部署方式,从GPT-1到4都选择了公开发布,这是为了确保世界能够关注AI的进展,并在AGI真正到来之前,有时间思考和建立所需的系统、结构和治理。

但他认为这种发布策略在某种程度上没能达成目标,“也许我们应该考虑换个方式来发布GPT-5或类似的产品”。

GPT-5不确定何时发布

被问到GPT-5什么时候会发布时,Sam Altman回答说不知道,但他提到OpenAI“今年会推出一个非常棒的新模型,现在还不确定它叫什么名字”。

在接下来的几个月里,OpenAI将推出许多不同的东西,在谈论类似GPT-5的模型之外,有一系列其他的重要产品需要优先发布。

OpenAI是怎么取得关键突破的?Sam Altman表示这是一种分布式的、持续不断的创新过程,需要团队成员有的能纵观全局来思考。过去他对科技行业的大多数前沿领域都有一个清晰的地图,而现在他已经不太拥有这样的全局视角了。

Lex Fridman接着说:“你已经不是以前的那个Sam了。”

否认7万亿美金的募资

此前,Sam Altman被曝出正从中东地区筹集总计高达美元7万亿的资金,以支持OpenAI的一项半导体计划。对话中,他否认自己说过诸如“我们要募集7万亿美元”之类的话

他认为算力将会成为未来的“货币”,它可能会变成世界上最宝贵的资源,我们应该大规模地投资以生产更多的算力。而在这个过程中,有许多难点。能源问题是最为棘手的,建造数据中心、供应链问题、制造足够的芯片也都不容忽视。

谈到OpenAI与谷歌、Meta、xAI等科技公司的竞争,奥特曼表示,科技竞争带来的好处是加速产品的研发和创新,但也可能导致一场军备竞赛。

他觉得,人们可以把AGI的开始时间想象成一个四象限坐标图,包括慢启动和快启动,以及长期和短期的时间线。他认为短期、慢启动是最安全的象限,也是他最希望所处的象限,实现人工智能的慢启动。

世界不需要Google的翻版

相比取代谷歌的地位,做一个更出色的搜索产品,Sam Altman认为,世界并不需要一个谷歌的翻版,或许存在一种全新的、更好的方法,来协助人们寻找、利用并整合信息。事实上,对于某些场景而言,ChatGPT已经做到了这一点。

对于商业模式,在互联网早期,广告是必要的,但现在世界更富有,人们愿意为没有广告的产品付费。他相信会有适合大模型(LLMs)的广告模式,也相信存在一种不带偏见地参与交易流的方式。

针对最近Gemini在生成图像中出现的偏见问题,他说团队在努力避免出现这类问题,会把模型应有的行为标准写出来并公开发布,接受大家的反馈。

期待GPT-5变得更聪明

Sam Altman对于GPT-5感到期待的是“它会变得更聪明”,不仅仅是在某些特定领域,而是各个方面整体的提升。也许在未来,更多人会用自然语言的方式进行编程。

另外,Altman强调了实体化人工智能(具身智能)的重要性。他希望在过渡阶段能看到在现实世界操作的人形机器人。他认为,如果通用人工智能只能通过人类来完成现实世界的任务,那将是令人沮丧的。OpenAI将在某个时间以某种方式重新投入到机器人研究中。

任何人都不能控制AGI的发展

Sam Altman认为AGI的定义因人而异,更倾向于讨论具体的能力而非一个模糊的里程碑。他表示,在2030年之前,我们可能会拥有非常强大的系统,但这个不会被视为AGI的终点,而是一个起点。

尽管像GPT 3.5这样的模型不会立刻改变世界,但它们已经改变了人们对未来的期望。AGI的发展应该是经济增长和技术进步的一部分,而不是一个奇点的转变。

Altman认为,不应该由任何个人完全控制AGI或OpenAI,而是需要一个健全的治理体系。他提到了自己在OpenAI董事会被罢免的经历,并表示即使在经历了一系列事件后,他从未想要拥有对OpenAI的超级控制权,并不认为任何个人应该控制AGI的发展。

谈及“如果能和AGI交流,会问些什么”,Sam Altman说:“请给我解释一下物理学的万物理论,我很想知道答案。”


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1