AI 智能体的宣传很好,现实不太妙。
随着大语言模型的不断进化与自我革新,性能、准确度、稳定性都有了大幅的提升,这已经被各个基准问题集验证过了。
但是,对于现有版本的 LLM 来说,它们的综合能力似乎并不能完全支撑得起 AI 智能体。
多模态、多任务、多领域俨然已成为 AI 智能体在公共传媒空间内的必须要求,但是在具体的功能实践中所展现的真实效果却差强人意,这似乎也再次提醒各个 AI 智能体初创公司以及大型科技巨头认清现实:脚踏实地一点,先别把摊子铺得太大,从 AI 增强功能开始做起。
近日,一篇就 AI 智能体在宣传和真实表现上的差距而撰写的博客中,强调了一个观点:「AI 智能体在宣传上是个巨人,而现实却很不妙。」
不可否认的是,自主 AI 智能体能够执行复杂任务的前景已经引起极大的兴奋。通过与外部工具和功能的交互,LLMs 可以在没有人为干预的情况下完成多步骤的工作流程。
但现实证明,这比预期的要更具挑战性。
WebArena 排行榜(一个真实可复现的网络环境,用于评估实用智能体的性能)对 LLM 智能体在现实任务中的表现进行了基准测试,结果显示即使是表现最好的模型,成功率也只有 35.8%。
WebArena 排行榜对 LLM 智能体在现实任务中的表现进行的基准测试结果:SteP 模型在成功率指标上表现最为良好,达到了 35.8%,而知名的 GPT-4 的成功率仅达到了 14.9%。
「AI 智能体」这个术语并没有真正被定义,对智能体究竟是什么也存在很多的争议。
AI 智能体可以定义为「一个被赋予行动能力的 LLM(通常在 RAG 环境中进行函数调用),以便在环境中对如何执行任务做出高层次的决策。」
当前,构建 AI 智能体主要有以下两种架构方法:
理论上,具有无限上下文长度和完美注意力的单一智能体是理想的。由于上下文较短,在特定问题上,多智能体系统总是比单一系统效果差。
在见证了许多 AI 智能体的尝试之后,作者认为它们目前仍为时过早、成本过高、速度过慢且不够可靠。许多 AI 智能体初创公司似乎在等待一个模型突破,以开启智能体产品化的竞赛。
AI 智能体在实际运用中的表现并不够成熟,这体现在输出不精确、性能差强人意、成本较高、赔偿风险、无法获得用户信任等问题:
目前,以下几家初创公司正在涉足 AI 智能体领域,但大多数仍处于实验阶段或仅限邀请使用:
它们中似乎只有 MultiOn 在追求「给出指令并观察其执行」的方法,这与 AI 智能体的承诺更为一致。
其他所有公司都在走记录和重放的 RPA(record-and-replay)路线,这在现阶段可能是为保证可靠性所必需的。
同时,一些大公司也在将 AI 功能带到桌面和浏览器,并且看起来将会在系统层面上获得本地的 AI 集成。
OpenAI 宣布了他们的 Mac 桌面应用程序,可以与操作系统屏幕互动。
在 Google I/O 大会上,Google 演示了 Gemini 自动处理购物退货。
微软宣布了 Copilot Studio,它将允许开发人员构建 AI 智能体机器人。
这些技术演示令人印象深刻,人们可以拭目以待这些智能体功能在公开发布并在真实场景中测试时的表现,而不是仅限于精心挑选的演示案例。
作者强调:「AI 智能体被过度炒作了,大多数还没有准备好用于关键任务。」
然而,随着基础模型和架构迅速进步,他表示人们仍可以期待看到更多成功的实际应用。
AI 智能体最有前途的前进道路可能是这样的:
通过结合严格约束的 LLMs、良好的评估数据、人机协同监督和传统工程方法,就可以在自动化等复杂任务方面实现可靠且良好的结果。
对于 AI 智能体是否会自动化乏味重复的工作,例如网络抓取、填表和数据录入?
作者:「是的,绝对会。」
那 AI 智能体是否会在没有人们干预的情况下自动预订假期?
作者:「至少在近期内不太可能。」
原文链接:https://www.kadoa.com/blog/ai-agents-hype-vs-reality
本文来自微信公众号“机器之心”(ID:almosthuman2014),编辑:亚鹂,36氪经授权发布。