专访OpenAI最大竞争对手：AI发展速度未放缓，可能对人类产生巨大威胁

划重点

1 阿莫代伊认为，人工智能的发展速度并未放缓，他担心技术竞赛可能会给人类带来潜在风险。

2 阿莫代伊担心，AI的快速发展可能会导致权力和财富集中到少数人手中。

3 在阿莫代伊看来，奥特曼等人倡导的普遍基本收入方案不足以解决经济不平等问题。

腾讯科技讯 6月25日消息，据国外媒体报道，人工智能初创企业Anthropic的首席执行官达里奥·阿莫代伊（Dario Amodei）最近登上了《时代》周刊封面，该公司也被评选为2024年最具影响力的100家公司之一。在《时代》周刊的封面故事中，阿莫代伊深入探讨了Anthropic在当下人工智能竞赛中的地位、公司的核心理念、对人工智能安全性的关切、经济不平等问题以及全民基本收入等话题。

6月20日，Anthropic在这场技术竞赛中发起了最新攻势，发布了其最新版本的聊天机器人——Claude 3.5 Sonnet。该公司声明称，这款模型在推理、编码以及某些数学领域均创下了新的行业标杆，超越了OpenAI最新发布的GPT-4o。阿莫代伊在当天的发布会上表示：“Claude 3.5 Sonnet的发布标志着，我们正向与技术互动方式的革命性转变迈进。对于Claude，我们的目标不仅仅是构建更加完善的大语言模型，更是要开发一个能够与人类和软件以有意义的方式协作的人工智能系统。”

阿莫代伊指出，Anthropic的员工普遍持有这样的观点：他们并不认为人工智能的发展会停滞不前，反而更担心它可能给人类社会带来的潜在风险。他强调，Anthropic致力于前沿人工智能系统的研究，并不断创新安全策略。然而，作为OpenAI的主要竞争对手，Anthropic也发布了一系列强大的工具供公众和企业使用。阿莫代伊本人也认为，这是一场充满危险的竞赛，其结果可能非常糟糕。

阿莫代伊还谈到了人工智能对财富分配的影响。他警示说，人工智能的迅猛发展有可能加剧权力和财富向少数人集中的趋势，为此许多科技人士呼吁普及全民基本收入。然而，在阿莫代伊看来，全民基本收入不足以从根本上解决权力和财富不平等的问题。他认为，人工智能的发展需要以一种更加根本性的方式改变社会结构，我们需要构建一个更为全面和创新的解决方案，以确保每个人都能公平地参与经济活动。

以下为专访节选全文：

问：Anthropic被公认为是最年轻的“前沿”人工智能实验室，规模也最小，而竞争对手们拥有更多的资本支持。那么，你们是否将自己视为这一领域的弱者？

阿莫代伊：当然，你引用的这些事实都是真实的。但随着时间的推移，这些事实正在变得不那么绝对。我们已签署了一系列大型计算交易，并筹得了数十亿美元的资金支持。相比之下，我们的一些竞争对手所拥有的资金可能更少。因此，当我再说我们是弱者时，可能让人感到有些尴尬。然而，相对于这个领域的巨头而言，我们确实处于相对较弱的地位，这一点无可否认。

问：人工智能的“缩放定律”表明，随着系统训练中所使用的计算能力和数据的增加，它们的能力或效能也会相应增强。在你们的系统中，有哪些尚未发布但你已经预见到的功能？

阿莫代伊：我们最近才发布了新的模型，因此并没有太多秘密功能未予公布。在某种程度上，我不打算深入探讨这些细节。但我们确实清楚，技术进步仍在持续。我们尚未看到任何迹象表明这种进步正在趋于平缓。然而，我们所生活的世界充满了不确定性，技术发展的脚步随时可能停止。每次当我训练一个新的模型时，我都会观察它，心中总是充满了一种不确定的情感，担心在某个时刻我们可能会发现，这个模型并没有如我们所愿变得更加强大。

如果这种“规模扩大的影响”真的停止，从某种程度上说，这对整个世界都是有利的。它将对所有参与者构成一种约束。但这不是我们可以选择的。当然，这些模型带来了许多令人兴奋的好处。大多数情况下，这就是自然法则。我们无法选择，只能发现我们生活在哪个世界，并尽我们所能去适应和面对。

问：你希望通过Anthropic的文化实现什么样的目标？

阿莫代伊：我们实施了一项捐赠匹配计划，允许员工向任何慈善机构捐赠高达25%的股权，公司也将提供相应的捐赠。这一计划旨在吸引那些对公共利益怀有浓厚兴趣的员工。对于重视公共利益的员工来说，我们的股票授予计划显得更具吸引力。当然，这并不意味着我们剥夺了员工获得经济激励的机会，而是为公司的文化定下了基调。

在安全方面，公众的观点与我们的理念之间存在一定的差异。我们并不自诩为一家专门从事人工智能安全的公司，而是一家以公共利益为导向的公司。我们并不认为人工智能系统本身具有固有的危险性，这是一个需要通过实证来回答的问题。我更希望Anthropic成为一家让每位员工都关注公共目的的公司，而不仅仅是一家专注于人工智能安全或系统失调的特定问题公司。在公司内部，我认为我们已经成功实现了这一目标，我们的员工拥有不同的观点，但他们共同秉持着对公共目标的坚定承诺。

问：如果唐纳德·特朗普（Donald Trump）在今年年底当选美国总统，这对人工智能的安全将意味着什么？

阿莫代伊：无论下一任总统是谁，我们都将与他们合作，尽我们所能向他们解释，美国需要在人工智能技术上保持领先地位，同时我们也必须为这项技术本身提供合理的保障。我要传达的信息是一致的。显然，不同的政府会有不同的观点和立场，我预计选举结果将影响政府的政策走向。然而，我能做的就是表达我对这个世界真实状况的看法。

问：我们是否应该担忧“强化学习”作为让人工智能系统更安全的方法之一，因为它虽然能将模型引导至有益无害的方向，但并未完全消除其潜在的危险能力，这些能力仍可能通过“越狱”等技术被利用？

阿莫代伊：我并不认为这种方法本身是脆弱的。相反，我认为我们目前仍处于如何有效管理和利用这些系统的科学探索阶段。在早期阶段，系统可能会出现“幻觉”现象，也可能“越狱”。正如在发展的初期阶段，我们试图让模型在某些情境下表现得更加友好，但在其他情况下，它可能会给出冗长或不相关的回答。我们试图引导模型向好的方向发展，并避免潜在的不良行为，这确实是一项挑战。

我认为我们的模型不是一个完美的解决方案，而且可能永远无法达到完美的状态。我们可以将其视为一个多层次的瑞士奶酪模型：每一层都有其弱点或漏洞，但如果你有多层这样的模型叠加，那么任何潜在的威胁都将难以渗透这多层防线。没有一种单一的解决方案能够完全控制这些模型，我们需要将多种不同的方法和策略结合起来。

问：鉴于风险如此之高，你认为使用这种策略是否足够负责任？

阿莫代伊：我当然更希望生活在一个理想的世界中，但遗憾的是，我们生活的现实世界中充满了各种经济压力，不仅企业之间存在竞争，国家之间也是如此。然而，如果我们能够证明这些风险是真实存在的，并且我们有能力去应对，那么我希望我们能够让世界至少停下来思考一下这个问题。我们需要以合作的方式来解决这个问题。但我并不天真地认为这样的时刻会频繁出现。毕竟，让一列正在高速行驶的列车停下来是极其困难的，即使可能，也只能在特殊情况下短暂实现。

问：Meta推出了开源人工智能模型，其功能与你们的模型相近。你对这种策略有何看法？你认为它是否负责任？

阿莫代伊：我们主要关注的是模型的强大性，而非其是否开源。在实践中，我认为这些大型公司中的大多数，在达到我担忧的某个性能阈值之前，会选择停止开源。我最终认为，开源作为一个关注点几乎是在转移视线。人们可能认为开源模式会破坏我们的商业模式，但事实是，我们的竞争对手是任何能够生产出强大模型的人。当这些模型被托管在云端时——我更倾向于将它们称为开放权重模型——它们产生的经济效益与其他服务无异。

问：微软最近表示，他们正在内部训练一个大语言模型，可能能够与他们投资的OpenAI竞争。同样，亚马逊——作为你们的支持者之一——也在进行类似的研发。谷歌亦是如此。你是否担心，那些目前处于领先地位的小型人工智能实验室，可能只是暂时领先于这些资源丰富得多的科技公司？

阿莫代伊：在我们的文化中，始终强调的一点是“用更少的资源做更多的事情”。我们始终努力维持一种状态，即便使用更少的计算资源，我们也能与拥有更多资源的公司做得一样好甚至更好。最终，我们的竞争优势在于我们作为研究人员和工程师的创造力。我认为，创新产品比单纯的计算能力更为重要。诚然，你需要大量的计算资源，我们已有大量证据支持这一点，并且未来还将有更多。但只要我们能够更有效地利用这些资源，只要我们能用更少的资源实现更多的功能，那么这些资源最终会流向具有创新能力的公司。

问：Anthropic已经筹集了大约70亿美元资金，足以支付下一代模型的培训费用，你曾提到这可能需要数十亿美元。随着对下一代模型的培训需求增加，你是否开始考虑筹集更多的资金？你预计这些资金将来自哪里？

阿莫代伊：尽管我们已经为下一个阶段做了充足的准备，但在更长期时间内，我们仍需要筹集更多的资金。关于资金的来源，这很难预测，可能是来自传统投资者、大型计算服务提供商，或是我们尚未考虑到的其他多样化渠道。

问：关于资金来源，政府是一个很少被提及但潜在庞大的资源。他们拥有大量资金——尽管这可能涉及政治难题——你是否考虑过或讨论过与政府合作的可能性？

阿莫代伊：随着人工智能技术的日益强大，政府在其构建和部署中应该发挥关键作用。这不仅仅是监管问题，更关系到国家安全。在某种程度上，某些技术方面是否应该成为全国性的项目？我认为模型在政府内部会有诸多应用场景。我坚信，随着时间的推移，最强大的模型可能会被视为对国家安全至关重要的资产。

我期望政府能更积极地参与其中，并以负责任的方式领导这项技术。这可能意味着政府将深度参与技术的研发。目前，这种合作形式尚未出现。但鉴于我们正在构建的技术如此强大，一旦其达到某种力量水平，个人或公司是否应该成为其核心将是一个值得严肃讨论的问题。我预计在未来不久——可能是两到五年内——这将成为一次非常重要的对话，具体形式将取决于当时的情况。

问：你如何看待当前世界上存在的不平等问题？

阿莫代伊：我认为当前世界的不平等程度确实严重。数十亿人每天的生活费不足1美元，这是一个亟待解决的问题。

问：从OpenAI首席执行官山姆·奥特曼（Sam Altman）等人士的观点中，我们听到的是，如果能提高底层民众的生活水平，那么亿万富翁的存在似乎是可以接受的。你如何看待这种程度的不平等所带来的权力不平衡问题？

阿莫代伊：对于权力的高度集中，我持较为悲观的态度。回顾美国历史，也存在过类似的时期，如镀金时代，那时实业家几乎接管了政府。我认为这种权力集中可能过于极端。当然，一定程度的经济不平等可能是经济运行的必要条件。

关于基本收入保障的概念，如果我们找不到更好的解决方案，那么它当然是一种可行的选择，毕竟有总比没有要好。但我更希望看到一个每个人都能做出贡献的世界。如果只有少数人能赚取数万亿美元的财富，然后政府再将这些财富分配给底层民众，这在我看来是一种反乌托邦的设想。虽然这总比什么都不做要好，但我坚信这不是我们真正追求的理想世界。

我坚信，如果人工智能的进步速度如我们所预测的那样，那么人工智能系统在很多方面都将超越人类，甚至可能在人类所从事的大部分工作中表现得更好。因此，我们真的需要重新审视和思考很多问题。在短期内，我们应该关注人类与人工智能的互补性，确保它们能够协同工作。但从长远来看，我们需要深入思考如何重新组织经济，以及人类如何定义和看待自己的生活。这是一个全社会需要共同参与的对话，而非单个个体或公司能够解决的。我唯一担忧的是，如果技术发展迅速，我们必须尽快找到解决这些问题的办法。

本文来自“腾讯科技”，编译：金鹿，36氪经授权发布。