对话OpenAI前工程师：为什么伟大不能被计划
1月21日，“瞰见未来”2024复旦大学管理学院新年论坛在复旦大学相辉堂隆重举行。中科院院士、ChatGPT核心研发科学家、管理与人文学者、科创企业家、新物种企业创始人齐聚一堂，在跨学科展望中探讨人类如何在物理世界建造，在精神世界扩容，激荡科技创新思想，共话人文历史启悟，站在时代新起点，打开通向未来之门。
对话嘉宾
ChatGPT核心研发科学家、OpenAI前研究员、《为什么伟大不能被计划》作者
- 肯尼斯·斯坦利（Kenneth Stanley）
- 乔尔·雷曼（Joel Lehman）
复旦大学管理学院信息管理与商业智能系教授
- 窦一凡
窦一凡：与50年前人工智能诞生之初相比，到OpenAI公司的创立，再到此时此刻，人工智能创新领域发生了哪些变化？人工智能的研究人员又面临哪些新的机遇？
乔尔·雷曼：人工智能在过去几十年里发生了翻天覆地的变化。我学术生涯的开端就是在肯尼斯·斯坦利的指导下进行神经网络的相关研究。当时的研究可能涉及10个、20个或者30个神经元，而现在我们讨论的神经网络包含几十亿个神经元。从这个角度看，这就像是一个戏剧性的阶段转变。就我们正在使用的计算量和数据量而言，人们谈论的范式也有起伏。
人工智能研究领域里，人们对未来的态度始终在“夏天”和“冬天”中切换，有时更加乐观，有时更加悲观。我们在《为什么伟大不能被计划》一书中提到了伟大发现的“踏脚石”，在研发一项技术的基础上无意中实现了另一项技术，这就是“踏脚石”。看上去有些令人费解，但人工智能的发展史就是这样。
肯尼斯·斯坦利：对于人工智能研究人员来说，也许最大的变化之一，就是20-25年前，我们只从第一性原理出发，就能创造出一些全新的东西。我一开始做研究的时候，基本上一个人就能解决所有事情，而且成果可以与当时最尖端的技术一较长短。因此，你就有更大的几率去证明你的想法，一步步取得成功。但现在，情况完全不同了，比如，你得有一个巨大的团队，配齐最先进的GPU。
窦一凡：你们提出了“无目标探索”模式，我们有那么多学生在学习各类课程，你们认为哪一门课程与这一模式最密切相关？
乔尔·雷曼：从我的经验来看，你必须做一些不完全受指导的事情，可以是看起来和技术创新毫无关系的领域。有时候，你可以把它当作一块“踏脚石”，朝着一个目标性不强但更有创意的方向发展。比如，形成你自己的艺术风格，就像学习创意写作，可以培养一些另辟蹊径的直觉，不循规蹈矩，而是走出一条自己的路。
有些本科课程或多或少有所帮助，例如，它能指引我们开始尝试科学研究。但如果你要进行的是涉及创造性探索和创新的宽泛性研究，那你就去关注参与研究的途径，而不是“死磕”课程和学科的内容。
肯尼斯·斯坦利：我认为大多数课程的设计基本上都和我们在书中提到的理念背道而驰。但我想说的另一点是，如果说世界上有什么东西和它类似，那可能就是“投资”。多次投资，有些可能失败，有些可能成功，从某种意义上说，这就是在探索。
你不需要每一次都成功，但你愿意尝试不同的东西。我们在《为什么伟大不能被计划》里讲的就是，在不知道会通向何方的情况下，选择朝着不同的方向进行探索，只要发现了足够多的有趣的“踏脚石”，其中一些就很可能会取得成功。我认为这在一定程度上就和投资人做的事差不多。
窦一凡：很多学生在成长过程中没有经历过无目标的探索，因此对他们来说，可能就要在课堂之外进行思考。在大学这几年里，他们要积累怎样的“踏脚石”才能让自己的思维更加开阔，就像肯尼斯说的“形成投资人的思维模式”？
乔尔·雷曼：我们这本书的核心原则之一就是培养这种顺着“踏脚石”前行的能力。我们经常含蓄地教导成年人不要厌恶失败，帮助他们意识到失败并没有想得那么糟，这是提升心理层面的行动。
还有一方面是培养兴趣。你真正感兴趣的是什么？关注这个世界上能让你兴奋的事物，不论是艺术、历史还是数学，去发掘能激发自己兴趣的任何领域、任何活动。
肯尼斯·斯坦利：人们在很小的时候就被灌输他们应该做什么，似乎这才是通往成功的道路。正因如此，人们失去了跟着兴趣前行的能力。
这听起来挺简单，好像就是因为一件事有趣，就去做它，但实际上，这非常难，它就像肌肉一样需要锻炼。例如，去做一些你不确定是否最终能导向成功的事。这就是我们提倡的“无目标探索”。
这是我认为大家可以尝试的，而且因人而异。你觉得有趣的，我不一定觉得有趣，但你需要学会相信自己的直觉，认准自己觉得有趣的事情并找出做这件事可以获得的“奖励”。如果你想要变得有创造力，这一点很重要。
窦一凡：假如科学家们都变为管理者了，那学管理的人能干什么？有没有什么建议？
肯尼斯·斯坦利：每个人都有独特的才能，即便是同一专业的两个人，他们的才能也不尽相同。所以某个管理专业人士可能有特别振奋人心的愿景，能够联结业务相关的人和社区，而某个科学家并不具备这种能力。科学家也可能与行业相关社区建立联系，但他们也需要有领导技能，事实上，有些科学家有，有些没有。因此，我更愿意从整体上审视一个人，而不是他作为科学家抑或管理者的身份。
乔尔·雷曼：在企业运作方面，管理学专业人士掌握了大量的知识，而这些是科学家所不具备的。我认为，管理者可以学习如何管理研究人员，了解采用何种管理风格营造出良好的工作环境——一种能够支持、培养研究人员的环境，让研究人员能做出有趣的发现。
肯尼斯·斯坦利：这是一个复杂的问题。如果你真的了解人工智能研究，你就会知道，要成为一个成功的研究团队领导者，需要的不仅仅是一些等级证书，还需要具备激励人心、随机应变的能力，知道什么时候放弃、什么时候转向。你不需要知道如何进行研究，也不需要亲力亲为，你只需要把握研究实验室和研究员的工作动态，知道建立怎样的文化、环境去带领团队取得成功。
窦一凡：投资者会用真金白银来支持你们的“无目标探索”吗？
肯尼斯·斯坦利：这是个非常有趣的问题。投资人表面上看起来都是非常客观的，他们想知道收入、预期利润这些客观的数据。“你怎么能没有目标呢？”大多数投资人会这样去思考，但也有特殊情况。比如，通过投资来促进探索。他们发现，我们的团队探索能力很强，可能会研究出一些有趣的东西，尽管并不知道它将会是什么，更不确定何时才会有收入。但团队能够说服投资人出资支持他们的研究。
如果你仔细观察，就可能发现很多这样的案例，甚至可以说OpenAI也是如此。埃隆·马斯克投资OpenAI时，根本就没有类似5年之后创造出ChatGPT的计划。所以我认为，你会发现投资人有时候是愿意投“无目标探索”的。我们写这本书的一个原因，就是要让更多的投资人愿意这么做。
窦一凡：2024年对于人工智能来说意味着什么？
乔尔·雷曼：要准确预测技术的走向是非常困难的。因此一个有趣的想法是，在2024年，人工智能会不会成为一场“战争”？目前我们并不确定当下观察到的趋势是否还会延续，2024年可能并不像我们期望的那样具有划时代的意义。
如果准入门槛降低，每个人都可以应用大模型，人们会尝试更多想法、解锁更多新应用。从社会角度来看，其结果可能会推动人工智能的落地与应用，但对创新者而言，这样似乎会让竞争变得更加白热化。
肯尼斯·斯坦利：2024年，我们要面对一个很大的问题，即人工智能是会延续之前的发展势头还是会出现一些减缓的迹象。显然，行业增长放缓会引起人们的担忧，但这取决于研究中的未知因素，所以也是可能发生的。
除此之外，制定战略计划往往是非常困难的，现在我们正在经历大规模的爆炸和重组，很多人涌入人工智能领域，好像突然之间，每个人都与人工智能有关。这是一种过度饱和的迹象。
事实上，正如我们在书里提到的，加入已经形成的“浪潮”是有危险的，这种做法与“新奇性探索”理念是相悖的。新奇的事物一旦出现，所有人都朝着这个方向前进，这是加入竞争而非远离竞争。如果你并不确信自己就是这一领域最优秀的，那世界上最优秀的人一定会和你竞争。
窦一凡：谢谢你们！回答这些问题并不容易，正如你们所提到的“这是一个很庞大的问题”。但这也是为什么伟大不能被计划的原因，所以让我们一起期待2024年，相信你们的回答将会带给学生们启发，再次谢谢肯尼斯，谢谢乔尔！