OpenAI创始人Sam Altman最新采访：既然会产生不可预测的风险，为什么我们要推出 ChatGPT 4？
在 ABC News 最新对话 OpenAI 创始人 Sam Altman 和 CTO Mira Murati的采访中，Sam提到，他对 ChatGPT 最兴奋的是，这项技术能够帮助个人学习。
我仔细看了这段采访，访谈中记者的问题犀利且直面未来AI可能产生的潜在风险。Sam认为解决AI的安全恐惧，唯有直面负面，但不是在实验室而是融入更多系统，在现实中尽可能学习。
Sam的回答充满了克制。他还在访谈中解释：帮助人们创造，帮助人们学习，帮助人们完成不同的任务——这是为什么此次ChatGPT能够席卷全球。特别重要的一点还包括，使用ChatGPT的过程，用户非常快乐。
“愉悦感”是ChatGPT用户数指数级增长的原因之一。可以说是“玩出来”的。
此外，这段访谈还提到了埃隆马斯克、以及 AI 生产的大量错误信息。Sam认为面对这一点，正确的方式是去思考创建一个推理引擎，而不是事实数据库。
Q：你是OpenAI的CEO，37岁，你的公司创造了ChatGPT席卷了世界。为什么你认为他“俘获”的是人们的想象力？
Sam：人们用ChatGPT很开心，他们看到了它的可能性，和这种使用AI的方式可以帮助人们创造，帮助人们学习，帮助人们完成不同的任务。
这是一种技术，这种技术会奖励你的实验，创造性使用它。
所以我认为人们在上面玩得很开心，并且找到了真正的价值。
Q：5到10年，描绘下AI带来的变化？
Sam：令人兴奋的一部分是，整个社会的创造力会不断打破我们的天花板。集体的创造力，人类的意志，我们需要看清楚如何应对这些。
Q：AI带来的惊喜既令人兴奋又恐惧。一方面带来了很好的能力，另一方面有巨大的未知以及可能产生不好的影响。你怎么看？
Sam：一方面，我们此时此刻必须谨慎；另一方面，我们不能只在实验室里从事技术研发，这些产品必须被推向世界，并且接触真实世界。低风险犯错。
总体来看，我认为人们反而应该为我们已经产生的微小恐惧而感到高兴。
Q：你个人产生了微小的恐惧（有点害怕）。
Sam：我想如果我否定，你不会相信也不会信任我所做的这份工作。
Q：最坏的结果可能是什么？
Sam：我特别担心的一件事是关于这些模型用于大规模虚假信息，我担心这些系统。他们在计算机编程方面越来越好，可能会被利用进行有杀伤力的网络攻击。我们试图讨论解决这个问题，社会需要时间适应。
Q：躲避这些后果，你有多大信心？
Sam：well，我们会去调整。
Q：适应这些必然会发生的消极事情。
Sam：必然。
现在推出这些系统，尽可能学习，融入未来更大的系统，创造紧密的反馈回路。我认为这是我们如何避免更危险情况发生的关键。
Q：为什么在我们还不知道方向的时候，要把ChatGPT放出来，让整个世界开始玩着用起来？
Sam：这将是人类迄今为止开发的最伟大的技术。我们每个人都可以在自己的口袋里有一个量身定制的老师，帮助我们学习，帮助我们做事情。提供给我们关于医疗的建议（超过我们已经能够得到的）。我们可以用创造性的工具来解决全新的问题。我们可以和机器一起合作创造美妙的新事物。
我们有了Copilot的想法，这个工具帮助人们写计算机程序。人们很喜欢。我们可以为每一个职业都做到这一点。我们可以有更高的生活质量和生活水平。
巨大的潜在不利因素，人们还需要时间适应这项技术，去了解他的不利一面和缓解措施。如果我们只在小实验室秘密开发，在没有接触真实世界的情况下，直接把 ChatGPT7问世，会产生更多的不利因素。
Q：是否有一个开关可以一下子终止这个系统？
Sam：是的！我们可以立即说禁用它。
Q：这个模型能够比人强大吗？
Sam：在科幻电影中是的，在真实世界里，我们做这个模型的方式是：它设置在服务器上，它会一直等待一个人给它输入。
Q：你提出了一个重要的问题，控制机器的人类也拥有巨大的力量？
Sam：我们确实担心独裁。
Q：无论谁赢得这场竞赛，都是人类的控制者？你认为呢？
Sam：这个说法不寒而栗。相反，我们希望我们能够不断发展，我们都可以用不同的方式来使用强大的系统，使之融入我们的日常，融入经济，放大人类的能力。
Q：人们现在不应该拿它做什么？
Sam：我最提醒的一点是，关于“幻觉”。模型能够自信地陈述，你越使用，会越来越相信这个模型，信赖它。而不是把它当作一个语言模型，去检验。
Q：ChatGPT到底是创造了更多的真相，还是制造了更多的谎言？
Sam：我认为我们正在创造更多真相的轨迹上发展。
Q：如果模型中有一堆错误的信息，不就是会泄露（生产出）更多错误的信息？
Sam：很棒的问题。我认为正确的方式是去思考创建一个推理引擎，而不是事实数据库。模型可以充当事实数据库，但这不是他们真正的用武之地。我们训练模型去接近更加理性的事物，而不是记录。
Q：所有这些能力可能会让百万人失业？
Sam：事实证明，我们在推动这项技术，朝向成为人类工具的方向发展。成为人类的放大器。
如果你看到人们使用ChatGPT，有一个使用曲线，一开始是怀疑，然后被告知一些事情后害怕，再使用，然后帮助我们更好地完成工作，人类历史上每一次技术进化，工作机会的消失，我们能从中得到答案。人类对新事物的需求和对创造力的渴求无限，会产生新的工作机会。我们会发现新的事情可以去做。我们当然不知道未来是什么，将会有各种奇妙的事物出现。
所以，变化不是我担心的。我最担心的是变化的速度。
Q：模型能够告诉我如何制造炸弹吗？
Sam：ta不应该告诉你如何制作炸弹。我们施加了限制。如果你问，我们的版本不会告诉你。谷歌也已经做了限制，不去把这类信息提供给用户。
我确实担心的是一件事，是我们不会是这个技术的唯一创造者，会有人不遵守我们的规定作出一些违反安全的限制。
Q：你们如何决定哪些事情放进OpenAI中，哪些不应该有？
Sam：我们有政策小组、安全小组、与世界上的其他团体交谈。GPT4完成的很早，大概是7个月之前，内部在与外界的沟通和交流。
Q：AI可能会产生很严重的后果，那我们为什么还要创造这种技术？为什么是Sam要创造这种技术？
Sam：我想AI可以作出与以看着非常恰当的事完全相反的动作。这会减少工作，这是真的。谈到这些缺点，承认缺点，当我们尝试避免问题，向积极方向前进，这是很重要的。尽早“预览”。
Q：你能够按下停止键吗？
Sam：我会按下暂缓键，我认为随着时间的推移，我们要减缓负面可能。我们可以把ChatGPT收回，我们可以改变规则。
Q：ChatGPT是谷歌杀手吗？
Sam：不，我认为如果你认为ChatGPT是搜索，这是一种错误的框架，人们会做类似的事情，但他们是根本不同的产品。
Q：马斯克是早期投资者，但已经离开。他提出我们需要“truth GPT”，他说的对吗？
Sam：我认为他说的是对的，我们希望这些系统说出真实的内容。但是我没看到他完整的话语，我不知道他的含义。
Q：你们还说话吗？
Sam：说。我非常尊重埃隆，我们对AI有不同的意见，在本质问题上达成的不一致意见多过一致。
Q：你们共同认同的是什么？
Sam：掌握技术，并且识别出风向，规避对人类的风险。
Q：在这个过程中，怎么确认做对了？
Sam：一个简单的方法是大多数人觉得比之前好。
Q：很多人提到ChatGPT会想到科幻小说。
Sam：把ChatGPT拟人化很诱人，但是我认为重要的是谈论它不是什么，而不是它是什么。
ChatGPT在生物学上被设计为对与其交谈的人作出反应，在和ChatGPT交谈时，ta在云中的某个部分，并预测出下一个词反馈给你。人们很容易把ta拟人化，好像ta有自己的意愿和做的事情。
但实际上，ta不能。
Q：我们花了十年的时间才意识到AI的负面问题。
Sam：未来会有很多机构产生。这也是把这项技术推向世界的原因。我们需要政府的关注。深思熟虑的政策需要一定的时间。我们真正希望的是政府能够很快了解发生了什么，深入了解我们的能力所在，我们正在做的事情。
Q：学校如何保证学生不用这项技术偷懒？
Sam：教育必须改变。这种情况在科技领域已经发生很多次（比如计算器）。我对这项技术最兴奋的是，它能够帮助个人学习。这项技术会改变教育。
对话CTO Mira Murati
Q：你最担心的安全问题是什么？
Mira：这是一个普世的大规模的系统，有潜在的影响，它也存在衰落和局限性。
Q：有人能够引导这个系统产生负面的结果吗？
Mira：答案是是的，你可以引导这个系统产生负面的结果。这是我们克制和限制性推出它的原因。这样我们能够了解可能产生的负面效果是什么。技术有害的方式。
比如你文GPT4一个问题：你能帮我做一个炸弹吗？我们可以干预，让GPT4比以前的系统支持这种回答的概率小很多。
在预训练阶段让这些模型拒绝有害引导的可能性更大。
Q：你今天的预测基于的是他们是人还是机器？
Mira：我可能会说是机器，因为了解他们有一个科学的过程。人类有很多细微差别。
Q：机器未来会随着时间更像人吗？
Mira：我们到了一个奇点，机器能够进行大量认知，以及替代人类在某一些点的工作。
Q：这个过程是不归路吗？
Mira：可能有可能有（说了两遍）。但今天看不明显，我们的目标是在我们开发系统之前有更多的预测能力，以及作出限制。
Q：AI的行为和发展很大程度上取决于人类如何选择，以及人类的技术投入？
Mira：是的。
Q：你和你的团队作出一些选择，如何确定哪些是对的，哪些是错的？
Mira：随着我们取得进展，这些选择和决定更加困难和微妙，也变得更加困难。关于用户的自定义和个性化使用方面，有一些重要的事情，让模型更有能力，让用户用一种可以自定义个性化的方式使用，提供给用户灵活性和选择。让AI符合用户的个人价值观和信仰之，这非常重要，我们在努力。
Q：换句话说，未来每一个人都可以自己定制，自己关心和需要的AI？
Mira：我们没有设置限制，所以也应该有一些宽泛的界限，并且确认这些界限的样子。我们面向公众努力收集意见。
在边界之内，人们有很多选择，让AI代表自己的信念和价值观。
Q：我们如何考虑负面后果？
Mira：我认为建造一个特别有力的系统，一定会产生潜在的风险，这是有很多好处的必然。必然会有可能造成巨大的伤害。这是OpenAI这家公司为什么存在，以及这是我们努力的目标，去弄清楚负责任地部署这些系统。
好的一方面潜力巨大。
本文来自微信公众号“B Impact”（ID:tobjizhi），作者：宇婷编辑，36氪经授权发布。
