最近,OpenAI 向公众披露了其对 AI 发展阶段的界定标准。
据彭博社报道,OpenAI 提出了一套支持「自定义」AI 进化等级的分类系统,以此来帮助人们更清晰地理解关于 AI 的安全和未来发展。
OpenAI 发言人指出,该分级系统被划分为从能够与人类进行基本对话的人工智能(Level 1)开始,一直到能够独立完成组织任务的高级人工智能(Level 5)。
具体等级如下:
第一级(Level 1):聊天机器人,具有对话语言能力的 AI
第二级(Level 2):推理者,能解决人类级别问题的 AI
第三级(Level 3):代理,能采取行动的 AI 系统
第四级(Level 4):创新者,能辅助发明的 AI
第五级(Level 5):组织者,可以完成组织工作的 AI
这些等级的划分是由 OpenAI 高管和其他高级管理人员共同制定的,并且 OpenAI 计划广泛收集来自员工、投资者以及董事会成员的反馈,以便未来对等级系统进行持续的评估和调整。
报道称,OpenAI 内部认为自己处于第一级,但即将迈入第二级「推理者」,即能够解决基本问题任务的系统,类似于拥有像博士学位但没有工具的人类,
此前,OpenAI 公司领导层曾在内部会议上演示了一个涉及 GPT-4 模型的研究项目。知情人士透露,OpenAI 认为该模型已经掌握了一些接近人类推理的新技能。
OpenAI 多年来一直强调,其目标是构建能够造福全人类的通用人工智能(AGI)。
OpenAI CEO Sam Altman 曾预测 AGI 将会在五年内实现。包括英伟达 CEO 黄仁勋也认为,如果我们对 AGI 的定义是「能够通过人类测试」的计算机,那么其很快就能实现。
(给 AI)你所能想象到的任何一项测试,把测试清单列出来、放在计算机科学行业的面前,我猜在五年内,我们将能够在每一项测试上取得良好表现。
实际上,AI 研究人员长期在讨论定义 AGI 的标准,也许一百个专家学者就有一百个 AGI 定义。去年 11 月,Google Deepmind 的研究人员也提出了一个包含多个递进层次的 AGI 划分等级。
Level 0:无 AI
Level 1: 涌现,媲美不熟练的人类或比之更好
Level 2: 胜任,达到 50% 的人类水平
Level 3: 专家,到达 90% 的人类水平
Level 4: 大师 ,达到 99% 的人类水平
Level 5: 超人类,胜过 100% 人类
依据划分原则,彼时的 ChatGPT 只是被划分到 Level 1 级别,而 Imagen 是 Level 3 级别,AlphaGo 则被划分为 Level 4 级别。
前不久,OpenAI CTO Mira Murati 在参加母校达特茅斯工程学院的访谈时,也提到 ChatGPT 这些 AI 系统虽然整体尚未达到人类水平,但在特定任务中已经媲美人类。
像 GPT-3 这样的系统,大概可以说智能水平相当于一个幼儿。而像 GPT-4 这样的系统更像是高中生的智能水平。
在未来几年,我们期望看到针对特定任务的博士级别的智能。
在谈到 AI 安全问题时,她强调智能和安全性是相辅相成的。
她认为,引导一个更为智能的系统,其实更为简单直接。毕竟我们只需告诉它,「好的,不要做这些事情」即可。