当前位置:首页|资讯|GPT-4|GPT-5

现在做GPT-4智能体,或将提前达到GPT-5效果

作者:爱吃酸汤肥牛卷达人发布时间:2024-03-31

原标题:现在做GPT-4智能体,或将提前达到GPT-5效果

近日红杉资本(Sequoia)在美国举行的AI Ascent活动上,Sequoia 三位合伙人 Sonya Huang、Pat Grady 以及 Konstantine Buhler 汇集了 100 位领先的 AI 创始人和研究人员,一起探讨了 AI 的机会、现状以及影响等话题。

其中,AI 领域重要人物、斯坦福大学计算机科学系和电气工程系的客座教授、Landing.ai和Coursera联合创始人、Google Brain创建者吴恩达(Andrew Ng)围绕AI Agent话题进行了一场演讲。

吴恩达表示,AI Agents 代表了人工智能的未来发展方向。输入Prompt 让大模型生成文章,就像让一个人写作,但不能用回退键(删除修改)。AI Agents 的工作方式跟人类更相像。

根据吴恩达分享的数据,你使用 GPT-3.5 进行零样本提示,它的正确率是48%。GPT-4 的表现要好得多,正确率是 67%。但是如果你在 GPT-3.5 的基础上建立一个 AI 智能体的工作流,它甚至能比 GPT-4 做得更好。

换句话说,如果我们现在基于 GPT-4 做一个 AI 智能体的工作流,甚至可以提前到达 GPT-5 的水平。

具体来说,吴恩达认为,AI Agents 有四种设计模式:

一、反思(让模型检查和修正自己的输出);

二、工具(调用搜索、代码执行等外部工具);

三、规划(拆解复杂任务,制定执行计划);

四、多 Agent 协作(让模型扮演不同角色,通过协作完成任务)

吴恩达坦言,Agents工作流的出现,语言模型的能力有望在今年得到显著提升。随之而来的是,Token生成速度变得至关重要,甚至比大模型能力提升更重要,甚至还要让模型花更多时间推理和迭代。(大模型要生成大量token来自己阅读和推理,速度越快越好)

吴恩达在演讲中对GPT-5、Claude-5、Gemini2充满期待。

他认为,在Agentic方法加持下,未必要等到最新最强的模型才能体验到交互式AI的威力。“AGI 仍然是一个遥远的目标,但Agentic工作流无疑是通往AGI的重要一步。”

对于未来 AI 的发展,吴恩达提及,一方面,人类会慢慢适应和智能体协作解决任务的新模式,很多任务不再像搜索引擎那样,你输入问题马上得到结果,而是异步的,你给 AI 提供一个任务,然后 AI 会去完成,完成后再通知你,类似于老板和员工的关系;另一方面,AI 智能体的能力也会越来越强,越来越快。

值得注意的是,除了吴恩达之外,此次红杉资本AI Ascent活动中,还邀请了OpenAI 创始成员、前特斯拉 AI 高级总监,AI 大神 Andrej Karpathy;Mistral AI创始人Arthur Mensch;Anthropic 联合创始人兼总裁 Daniela Amodei 等人多位 AI 领域的大咖人物。

其中,Andrej Karpathy的对话内容引起多方关注。他不仅剖析了 OpenAI 背后故事和 AGI 技术发展前景,而且还谈及特斯拉CEO马斯克(Elon Musk)的人格魅力等。

ndrej表示,几年前,AGI 看起来还很遥远,但现在它似乎近在咫尺。目前的发展方向是构建类似“大型语言模型操作系统 (LLMOS)”的平台,它可以连接文本、图像、音频等各种模态,并与现有的软件基础设施相结合。

ndrej透露,OpenAI 正在构建 LLMOS 平台,并可能会提供一些默认应用程序,但这并不意味着其他公司没有机会。Karpathy 认为,就像早期的 iPhone 应用一样,现在人们正在探索 LLM 的功能和局限性,未来将出现一个充满活力的应用生态系统,针对不同领域进行微调。

“我认为在算法方面,我想了很多的一个问题是扩散模型和自回归模型之间的明显区别。它们都是表示概率分布的方法。事实证明,不同的模态显然适合其中之一。我认为可能有一些空间来统一它们,或者以某种方式将它们联系起来。”Andrej表示。

ndrej指出,仅仅拥有资金和计算资源并不足以训练出这些模型,还需要基础设施、算法和数据方面的专业知识。他还强调了完全开源模型的重要性,因为它们允许更深入的定制和改进。

不过,目前,大模型依然面临弥合扩散模型和其他生成模型之间的差距,提高模型运行的能量效率,改进模型的精度和稀疏性等问题,尤其是冯·诺依曼架构具有局限性的。

ndrej坦言,他从马斯克(Elon Musk)的合作中学到了很多东西,包括,保持团队精简、强大和技术性;营造充满活力和高强度的文化氛围;领导者与团队保持紧密联系;以及积极消除瓶颈并快速做出决策。

“我想说,马斯克管理公司的方式非常独特。我觉得人们并没有真正意识到它有多特别。即便是听别人讲,你也很难完全理解。我觉得这很难用语言描述。我甚至都不知道从何说起。但这确实是一种非常独特、与众不同的方式。

用我的话说,他在管理全球最大的创业公司。我觉得我现在也很难描述清楚,这可能需要更长时间来思考和总结。不过首先,他喜欢由实力强大且技术含量高的小团队来组成公司。

在其他公司,发展的过程中团队规模往往会变大。而马斯克则总是反对团队过度扩张。为了招募员工,我不得不做很多努力。我必须恳求他允许我招人。http://jspwzg.cn/gp/393849.html。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1