Meta发布可检查其他AI模型工作的AI模型

鞭牛士报道，10月21日消息，据路透社报道，Facebook 母公司 Meta 周五宣布，其研究部门发布了几种新的人工智能 (AI) 模型。其中的亮点之一是具有突破性的自学评估器，这是一种旨在减少人类参与 AI 系统开发的工具。

据路透社报道，这一进展代表着朝着创建能够自我改进和独立解决问题的自主 AI 代理迈出了重要一步。

这款新工具最初是在 8 月份的一篇研究论文中提出的，它采用了思维链技术，将复杂问题分解为更小的逻辑步骤。OpenAI 最近的模型采用了这种方法，提高了对科学、编码和数学等领域复杂问题的回答准确性。

Meta 的研究人员进一步突破了界限，只使用人工智能生成的数据来训练评估者，绕过了此阶段对人工输入的需求。

据 路透社报道， 包括 Jason Weston 在内的该项目研究人员强调了能够可靠评估自身工作的人工智能模型的潜力。这种能力可以为从错误中学习的自主人工智能系统铺平道路，该领域的许多人认为这是一个重大进步。这样的系统可以充当智能数字助理，能够在极少或完全不需要人工干预的情况下处理各种任务。

韦斯顿说：我们希望，随着人工智能越来越超越人类，它将能够更好地检查自己的工作并超越人类的平均能力。”他补充说，自学和自我评估的能力是人工智能达到超人水平的关键。

这些自我改进模型的主要优势之一在于它们有可能取代传统方法，例如从人类反馈中进行强化学习 (RLHF)。RLHF 需要具有专业知识的人类注释者，既昂贵又低效。相比之下，能够自我评估的 AI 模型可以简化开发并提高准确性，而无需人工监督。

其他科技巨头，包括谷歌和 Anthropic，也探索了类似的概念，特别是人工智能反馈强化学习 (RLAIF)。然而，与 Meta 不同，这些公司通常不会将他们的模型发布给公众使用。Meta 更开放地分享其研究成果，可能会推动人工智能社区取得更广泛的进步。