早晚实现人机合一！Open AI首席科学家专访：ChatGPT可能已有意识，AI万世不朽

原标题：早晚实现人机合一！Open AI首席科学家专访：ChatGPT可能已有意识，AI万世不朽

文丨Blink162、Congerry

ChatGPT可能已经有意识了。

世界需要清醒地认识到AI真正的力量，尽管这是他们亲手创造出来的。

总有一天，人类会主动选择与机器融合，甚至成为人工智能的一部分，而这么做是为了保持自身竞争力。

……以上观点均出自OpenAI首席科学家Ilya Sutskever 在《麻省理工科技评论》的最新访谈。

他不是一个公众人物，鲜少露面，也不喜欢参与社交活动，但某种程度上是离ChatGPT最近的人，或者说世界上最了解ChatGPT的人。

在这次最新访谈中，他总结了自己的工作：

他的新工作重点不是制造下一代GPT或图像制造机DALL·E，而是研究如何阻止AGI的失控。

AI让"永远不会发生"变成了"会比你想象的更快发生"

“AI将万世不朽、震撼整个世界。它的诞生如同开天辟地。”

Sutskever眼睛亮亮地说出了这句话，事实上他说的很多话都很crazy，他本身气质也有些“科学怪人”的味道。

但这种疯狂程度已经比前一两年好多了，并不是他变了，而是人类预期变了，毕竟这一年大家都被ChatGPT教做人了。

正如他自己所说，ChatGPT已经改写了很多人对未来的预期，把"永远不会发生"变成了"会比你想象的更快发生"。

事实上，Sutskever自身也经历过一个“反向”的预期管理过程。在去年 11 月，OpenAI 发布了一款免费聊天机器人，说白了就是重新包装了一些现有技术，并不是那么地创新，但这个产品却颠覆了世界。

当时，OpenAI 并不知道自己要发布的产品意味着什么。

Sutskever 表示，公司内部的期望已经低得不能再低了：“我承认，这让我有点尴尬——我不知道我是否应该这样做，但管他呢，这是事实——当我们制作 ChatGPT 时，我并不知道它有什么好处。当你问它一个事实问题时，它给了你一个错误的答案。我认为这会很不起眼，人们会说，‘你为什么搞这样的产品？这很无聊！'”

Sutskever个人认为，ChatGPT最吸引人的地方就是便利。ChatGPT 背后的大型语言模型已经存在了几个月。但将其包装在一个易于访问的界面中并免费赠送，让数十亿人第一次意识到 OpenAI 和其他人正在构建的东西。

后面的故事大家也都知道了。

而如今在他看来，当下最重要的是要讨论这一切的方向。

超级智能的工作才刚刚开始，Sutskever说，这需要研究机构进行广泛的改革。

不过，对于他希望设计的保障措施，他心中已经有了一个范例：能像父母看待孩子那样看待人类的AI。他说：“在我看来，这是黄金标准。”他说，“毕竟人们真的关心孩子。AI有孩子吗？没有，但我希望它能这么想。”

但这还只是解决了AI失控及相关监管的挑战，而人类又该如何和AI共存？Sutskever也有他自己的看法

"有一种可能性——以今天的标准来看可能很疯狂，但以未来的标准来看就不那么疯狂了——那就是许多人会选择成为人工智能的一部分。这可能是人类试图跟上时代的方式。一开始，只有最大胆、最有冒险精神的人才会尝试这样做。也许其他人会跟进，或者不会。”

师从Hinton，共同制造深度学习的“大爆炸时刻”

在一个没有 OpenAI 的世界里，Sutskever 仍将载入人工智能史册。

作为一名以色列裔加拿大人，Sutskever 出生在前苏联，但从五岁起就在耶路撒冷长大（至今仍能说俄语、希伯来语和英语）。之后，Sutskever移居加拿大，在多伦多大学师从人工智能先驱Geoffrey Hinton。

2000 年代初，Sutskever加入Hinton的团队时，大多数人工智能研究人员都认为神经网络是一条死胡同，但Hinton是个例外。Sutskever 说："这就是生成式人工智能的开端。这真的很酷，只是还不是很好"。

Sutskever 对大脑非常着迷：它们是如何学习的，以及如何在机器中重新创建或至少模仿这一过程。和Hinton一样，Sutskever看到了神经网络的潜力，以及Hinton用来训练神经网络的试错技术，即深度学习。

2012年，Sutskever、Hinton和Hinton的另一名研究生Alex Krizhevsky建立了一个名为AlexNet的神经网络，经过训练，AlexNet识别照片中物体的能力远远超过了当时的其他软件。

这是深度学习的大爆炸时刻。

AlexNet 获得成功后，谷歌也来敲门了。谷歌收购了Hinton的衍生公司 DNNresearch，并聘请了 Sutskever。

不过Sutskever并没有在谷歌工作太久。2014 年，他受聘成为 OpenAI 的联合创始人。而这家由一众大佬筹建的新公司，从一开始就把目光投向了开发 AGI（人工智能），而当时很少有人认真对待这一前景。

事实上，OpenAI 一开始也是举步维艰。

Sutskever说："在我们启动 OpenAI 的时候，有一段时间我并不确定将如何继续取得进展。"但我有一个非常明确的信念，那就是：不能与深度学习对赌。不知怎的，每次遇到障碍，研究人员都会在半年或一年内找到绕过它的方法。"

事实证明，Sutskever是对的。

2016 年，OpenAI 的第一个 GPT 大型语言模型（该名称代表 "生成预训练转换器"）问世。随后，GPT-2 和 GPT-3 相继问世。然后是引人注目的文本到图像模型 DALL-E。

再之后就是风靡全球的ChatGPT。

AGI只是一个有用的门槛、一个参考点、一种理念

ChatGPT的成功，使AGI 在机器学习领域内，不再是一个肮脏的词。经过数个月的发酵，AI成为了当之无愧的顶流。

Sutskever说： "我们现在有人在谈论人工智能会发展到什么程度，有人在谈论 AGI 或超级智能。不仅仅是研究人员，各国政府也在谈论它。"

"你可以用 AGI 做很多了不起的事情，不可思议的事情：实现医疗自动化，让医疗成本低一千倍，医疗效果好一千倍，治愈很多疾病，真正解决全球变暖问题。"

但也有很多人担心：'天哪，人工智能公司能否成功管理这项巨大的技术？

对AGI的定义，Sutskever认为："AGI 并不是一个科学术语。"它只是一个有用的门槛，一个参考点，一种理念。如果一个人能完成某项任务，那么人工智能也能完成。在这一点上，你可以说你拥有了AGI。"

Sutskever一直受到这个想法的启发和激励。"当时还不叫 AGI，但你知道，就像让神经网络做所有事情一样。我并不总是相信它们能做到。但这是一座需要攀登的山峰。”

随着人工智能的井喷式发展，AI威胁论开始出现。近日，Hinton、吴恩达、LeCunAI等多位大佬都下场为“人类灭绝论”正面开撕，马斯克也忍不住场边围观。

Sutskever也表示，"不仅要关注大型语言模型的潜在机遇，还要关注其风险和弊端显然重要的是，任何人构建的任何超级智能都不能叛变。”

而对于人类和AI在未来该如何共存，Sutskever认为，许多人会选择成为人工智能的一部分，这可能是人类试图跟上时代的方式。

如果您有什么想说的，欢迎屏幕前你们在评论区留言讨论！我们将为点赞、评论、关注的同学们送上红包🧧不限量哟~