【花师小哲】鉴定网络热门（？）AI（20）——DeepMind的AGI发展之路

通用人工智能，简称AGI（也有强人工智能之类的称呼），算是AI发展的一个重要目标，但是AGI具体应该怎么定义现在很多人也说不清楚。几个月前GPT-4刚发布那会，一篇长报告说GPT-4已经让人看到了AGI的曙光，不过，“曙光”又是一个很模糊的词，也就是说其实“AGI的曙光”本身也更像是一句废话。

不过有一点是很清楚的，如果我们不知道什么是AGI，那么我们就不能说AGI是否来到。现有的AGI定义比较多也比较乱，所以Deepmind最近发表了如下文章，主要讲了AGI发展的6项基本原则和AGI的6个阶段。

6个阶段这里就不展开了，因为真的很没有意思，就单纯拿“和人类对比性能如何”作为评价标准，好俗套的比较，指的注意的一点是，在这个标准下最低级是No AI，也就是一般的编程都可以称为0阶段AI。按照这个表的标准，ChatGPT目前还在1阶段。

这里重点讲下AGI发展的6项基本原则。这6项基本原则不是像机器人三原则那样，也不是要规定清楚AGI是什么，而更像是给出关于我们如何看待和促进AGI发展的一些思想上的小建议：

（1）关注能力，而非过程。这一点其实在着重强调“AI的思维和人的思维不一定一样”，或者说AGI不一定按照人类的方式思考。之前动态也说了，这篇专栏其实也是想借这篇论文说一下我的一些其他方面的看法，这里就稍微展开一点。

这一点其实非常重要。虽然我们常说人工神经网络是仿照人类神经网络做的，但人工神经网络的发展脉络并不是朝着“越来越像人类大脑”的方向前进的，而是朝着能提升性能的方向前进的。当然，即使不考虑这一点，人工神经网络和人的大脑的差别依然非常大。很多人都很好奇AI究竟能否理解语言，也许就像迪杰斯特拉大佬说的那样，这个问题就和问“潜水艇是否会游泳”一样，可能没什么意义，毕竟机器不会用人的思维去理解语言。

我挺喜欢的一位UP有时候也会拿AI说事，当然我知道很多时候UP主嘛，也要制造节目效果，但有些话语真的让人有些不爽。（当然，如果有朋友知道这个UP的也不要过去找事，一般人对AI有误解太正常了，而且也不是什么原则上的问题）简单来说，在一款比较复杂的游戏中，不管是民间还是官方都在尝试训练AI玩游戏，民间的AI表现的比较傻，经常撞火堆，官方的AI训练了8小时终于学会了拿道具，然后就被UP拿来当节目效果了。可问题是，难道人类的婴儿生下来8个小时就能学会打开电脑、加载游戏并在游戏中学会拿道具吗？觉得8小时学会拿道具太花时间的这种思维就是建立在“AI已经具有人类大部分的常识”的基础上的（而且官方也不一定是强化学习高手，用的估计也是一些通用的强化学习方法，没有为自己的游戏量身定制），然而AI一开始又不知道什么是道具，什么是火堆，也不知道碰火堆会受伤。即使是以规则为基底的AI，也不是说我加一条“不要碰火堆”AI就能马上学会的，不存在这样的魔法代码，“不能碰火堆”本身其实是一个极其复杂的动作，对于AI来说是需要学会非常多步的决策的，这并不容易。

当然，现在有一些拿GPT-4V（就是带视觉的GPT-4）来打游戏的研究了，毕竟GPT-4V是有一定常识的，但是GPT-4V也是经过少说几个月的训练才能掌握这些常识知识的。

（2）注重通用性与技能水平。简单来说就是综合看多项指标，不展开。

（3）专注于认知和元认知任务。人工智能是一门融合学科，虽然主要还是计算机，但还是融合了心理学、人类学等非常多学科的，其中比较重要的就是认知科学。没错，包括厦大智能系的前身就是认知科学系

（4）关注最高潜力，而非实际落地水平。这一点有点迷惑，不过基本上是为了早点宣布AGI的到来吧，这里简单提一嘴（之前也提过几次），中国的AI落地水平还是高的

（5）注重生态有效性。这里的生态指的是AI生态，不是说搞AI需要低碳。基本是说我们不要只盯着AI技术本身，还要推进数据集、benchmark等发展

（6）关注整条AGI之路的发展，而非单一的终点。

我个人感觉这篇文章还是粗糙的，不过也算是第一次做这样的AGI发展之路的分析了。