Meta首席AI科学家：ChatGPT并无特别的变革创新

神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。

编者按：去年底以来，ChatGPT 就像是一股热浪一样迎面扑来，在全球互联网圈爆火。在许多人眼中，OpenAI 公司推出的这款聊天机器人极具革新意义，但对于行业专业人士而言，他们却有不同的看法。这篇文章来自编译，作者在文中分享了 Meta 公司首席人工智能科学家对于 ChatGPT 的看法。

Meta 首席人工智能科学家杨立昆（Yann LeCun）。图片来源：Collective[i] Forecast

近段时间，美国人工智能研究公司 OpenAI 推出的聊天机器人 ChatGPT 突然爆火，许多人都认为，它在回应人类提问时能够及时生成自然语言话语方面有巨大的发展前景。

在许多人眼中，ChatGPT 富有十足的新鲜感和趣味感，并且是目前为止全世界独一无二的产品。只不过，人工智能领域的许多学者却不敢苟同这种看法。

“就底层技术而言，ChatGPT 不是特别创新。”Facebook 母公司 Meta 首席人工智能科学家杨立昆（Yann LeCun）前不久通过 Zoom 视频与其他媒体记者和企业高管分享道。

“它没有任何革新的内容，但公众却认为这是一款革新的产品。”他补充说，“只能说，这款产品的确做得很好。”

杨立昆还表示，许多公司和研究实验室都已经开发出了这种数据驱动型人工智能系统。因此， ChatGPT 是这一领域独一无二的产品这一说法并不准确。

“相比于其他公司或实验室，OpenAI 完全没有任何特别的领先地位。”他说。

“我指的其他公司，不仅包括谷歌和 Meta 公司，还包括其他已经掌握了类似技术的初创公司。”他补充说，“这并不是特别高深的领域，相反，许多公司都拥有这样的技术，只要你愿意去发现和探索，你就会发现这背后没有什么秘密。”

杨立昆称，事实上，许多公司在多年前就已经开发出了 ChatGPT 以及用于开发这款产品的 GPT-3 生成型预训练转换模型所使用的技术。

“需要注意的是，ChatGPT 所使用的 Transformer 架构是以自监督方式来完成预训练的。”他说，“一直以来，甚至在 OpenAI 公司成立之前，我就已经在主张采用自监督学习（Self-supervised learning）的方式。”

“我提到的 Transformer 架构最早是由谷歌公司发明出来的。”杨立昆说。他还指出，谷歌在 2017 年就推出了语言神经网络，包括 GPT-3 模型等大量语言程序都是基于这一技术开发出来的。

他还补充说，这种语言程序的研究工作可以追溯到几十年前。

“大型语言模型最早是由加拿大计算机科学家、蒙特利尔学习算法研究所（MILA）首席人工智能科学家约书亚·本吉奥（Yoshua Bengio）于约 20 年前提出的。在那个时候，这个最早的神经网络语言模型算得上是大型语言模型。只不过，按照今天的标准，它不再是大型的。”杨立昆说。

本吉奥在“注意力”方面的研究工作后来也被谷歌公司采纳，并用于开发 Transformer 自然语言处理模型。这也是所有语言模型中的一项关键技术。

此外，OpenAI 推出的 ChatGPT 还广泛采用了一项通过人类反馈进行强化学习（reinforcement learning）的技术，这项技术允许人工辅助对机器输出内容进行排名，从而优化结果，这与谷歌搜索引擎的网页排名技术非常相似。杨立昆称，这项技术也不是由 OpenAI 公司开创的，而是由谷歌旗下的人工智能公司 DeepMind 开创的。

他还表示，与其说 ChatGPT 是一个科学上的突破项目，不如说它是一项成功的工程实践。他还把 ChatGPT 和另外两个类似程序进行了比较。一个是 2011 年参加美国知名电视智力问答竞赛节目《危险边缘》（Jeopardy）的 IBM Watson 计算机，另一个是赢得 2005 年美国国防高级研究计划局（DARPA）举办的大挑战机器人车辆竞赛（Grand Challenge）、德国企业家塞巴斯蒂安·特龙（Sebastian Thrun）发明的自动驾驶汽车。

“就底层技术而言，特龙开发的那项获奖技术也并没有多大的创新。”杨立昆说，“它只是在工程方面设计非常优秀。”

“同样，OpenAI 公司的 ChatGPT 也是如此。”他补充说，“但我不会为此对它提出批评。”

杨立昆受 Collective[i] 邀请参加了其举办的 Collective[i] Forecast 在线互动讨论系列，并发表了长达一个半小时的讲话。该组织方 Collective[i] 自称是一个旨在优化 B2B 销售的人工智能平台。

在正式发言之前，杨立昆对《纽约时报》（The New York Times）记者凯德·梅兹（Cade Metz）提问时发表的有关 OpenAI 的言论作出了回应。梅兹问道，Meta 公司的人工智能团队，即杨立昆领导的人工智能实验室 FAIR，是否能像 OpenAI 公司那样取得在公众心目中被认为有革新性的进展。

“我们是否能期待 Meta 取得突破？对于这个问题，我表示很肯定。”杨立昆说，“我指的并不只是文本生产，还有创作辅助工具。”其中，就包括生成型艺术。“我认为这肯定将是一项重大突破。”

他还提到，Meta 公司将通过自动生成品牌宣传的媒体内容来帮助小企业实现品牌宣传。

“目前，通过 Facebook 投放广告的商店数量大约有 1200 万家，其中大多是母婴店，他们没有资源来设计全新且足够吸引眼球的广告。”杨立昆说，“因此，对于他们而言，生成型艺术就大有帮助。”

发言期间，在谈到 ChatGPT 时，杨立昆还说道，“许多人可能会问，为什么谷歌或者 Meta 没有推出类似的系统。”

“对此，我想说的是，谷歌和 Meta 需要考虑声誉问题和有关风险。毕竟，如果生成的文本存在错误，或者带有误导性的内容，那恐怕就不好了。”他笑着说。

由于在计算机科学等领域有突出贡献，2019 年，杨立昆和 MILA 研究所的本吉奥以及多伦多大学教授、谷歌大脑（Google Brain）研究员杰弗里·辛顿（Geoffrey Hinton）共同获得了计算机学界最高奖项图灵奖。他们三人可以说是推动开创了今天的人工智能深度学习时代。

OpenAI 公司获得了微软的投资，微软也因此独家获得了这家初创公司正在编译的代码，并将其逐步融入到其推出的包括 Azure 云计算服务在内的多种软件产品中。

译者：俊一