AI大模型到底应不应该开源？Meta和OpenAI为此展开了较量

划重点

• 1、对于尖端人工智能模型是否应该开源，以Meta为代表的老牌科技巨头与以OpenAI为代表的AI新贵之间产生了分歧。
• 2、OpenAI、Anthropic和其他专有软件制造商表示，政府应该监管最强大的人工智能模型，以防被恶意利用，但此举可能对依赖开源模型的其他创企。
• 3、扎克伯格则认为，开源模式对美国保持竞争力至关重要，而科技行业可以解决对开源模式安全的担忧。

人工智能领导者和政策制定者在一个关键问题上存在分歧，即尖端的人工智能模型是否过于强大，不能随便交付给任何人?

这个问题让Meta等科技巨头与以OpenAl为代表的AI新贵之间产生了分歧，前者最近在互联网上免费提供了其生成式人工智能的代码，后者则出售ChatGPT等专有人工智能模型的访问权限，但不共享代码。OpenAI、Anthropic和其他专有软件制造商表示，政府应该监管最强大的人工智能模型，这样坏人就不能轻易利用它们。这可能会阻碍Meta和越来越依赖开源模式的初创公司的发展。

许多业内人士表示，开源人工智能的进步将这个问题推到了科技高管和政策制定者之间的讨论中。此外，这个话题也在上个月的美国参议院人工智能洞察论坛上被提及。当时，包括Meta首席执行官马克·扎克伯格（Mark Zuckerberg）在内的高管认为，开源模式对美国保持竞争力至关重要，科技行业可以解决对开源模式安全的担忧。扎克伯格说:“最好是由美国公司制定标准，这些公司可以与我们的政府合作，塑造这些模式，而不是让其他国家在开源代码方面发挥领导作用。”

大语言模型，也就是聊天机器人ChatGPT和其他生成式AI背后的人工智能系统，它们可以自动完成一系列任务。但它们也引发了人们的担忧，即邪恶团体或政府可能会使用免费提供的大语言模型或相关的人工智能程序来创建图像或视频，以传播虚假信息或利用软件安全漏洞。

一些政治家和高管，如前谷歌首席执行官埃里克·施密特(Eric Schmidt)表示，由于美国公司在这类人工智能方面处于领先地位，因此通过发布开源软件来浪费这种领先地位会损害美国的国家安全利益。

施密特在今年5月的《华尔街日报》CEO理事会峰会上表示:“世界上有一小部分邪恶的人，如果你给他们一个超大的工具，他们真的可以造成伤害。”

没有迹象表明拜登政府或美国国会计划立即处理这个问题，这给了科技高管更多的时间来展开辩论。虽然他们中的大多数人都同意功能不那么强大的开源模型应该广泛使用，但他们在尖端模型是否足够安全、可以广泛发布的问题上存在分歧，因为这些模型接受了大量数据的训练。

例如，Anthropic反对开源高级人工智能系统，而Meta支持发布当前一代的尖端模型。微软处于这两种观点的中间位置，它继续提供某些新模型的开源版本，但也支持为未来的AI版本强制授权。谷歌尚未明确表示是否希望对开源人工智能进行监管。

谷歌发言人朱莉·麦卡利斯特(Julie McAlister)表示:“获得政府批准，可能是确保前沿人工智能安全的重要依据。政策制定者需要考虑重要问题并权衡利弊，比如对创新和新进入者的影响。”

什么样的模型才算强大？

任何监管开源人工智能模型的努力都将面临一项艰巨的任务，即确定哪些模型过于强大，尤其是在像人工智能这样发展迅速的领域。2019年，OpenAI最初推迟发布完整版GPT-2，因为担心它可能被用来产生“大规模的欺骗性、偏见或辱骂性语言”。但是Meta在7月发布的Llama 2比GPT-2更强大。

Llama 2的发布迫使行业和监管机构采取行动。纽约风险投资工作室Betaworks的创始人约翰·博思威克(John Borthwick)说，直到最近，大多数人还认为，开源大语言模型在技术上落后于专有模式两到四年。他说，多亏Meta发布了Llama 2和其他开源工具，比如由阿布扎比的一个团队开发的Falcon，“一切都改变了”。

解决潜在滥用的一种方法是授权政府在最大的人工智能模型(包括开源模型)发布之前对其进行评估，这种方法在最近几个月得到了广泛的关注。然后，政府将检查它们的创建者是否已采取措施，防止用户将它们用于有害目的，如进行网络攻击。

OpenAI首席执行官萨姆·奥特曼(Sam Altman)今年5月在国会作证时呼吁进行此类评估，称联邦政府应该考虑对研发最先进模型的公司(包括开源模型)提出许可要求。这样的审查将确保系统不会失控。

与OpenAI一样，向企业销售专有人工智能软件的Anthropic也支持这样的政府评估。该公司首席执行官达里奥·阿莫代伊(Dario Amodei)在9月份的TechCrunch Disrupt上说：“我们需要确保这些大型模型经过适当的测试，以确保它们不会被用于开发生物武器等目的。”

对开源模型的担忧可能会直接让销售专有人工智能软件的公司受益。OpenAI每年将通过销售专有人工智能软件获得超过10亿美元的收入，而Meta进军开源人工智能可能会减缓OpenAI的增长。

开源为创企提供了一条生命线？

出售大模型访问权限的想法遭到了初创公司和其他开发者的反对，他们担心监管会限制对这项技术的访问，并让OpenAI、微软和谷歌等老牌企业对这项技术产生更大的影响。虽然谷歌和微软已经发布了部分技术的开源版本，但它们出售的是对其尖端模型的访问权限。他们的云计算部门将从开源模式中获益，因为使用代码的开发人员需要租用服务器。

像Andreessen Horowitz这样的初创公司投资者一直在试图让立法者相信过度监管的危险。他们的合作伙伴认为，如果创业公司无法获得开源人工智能，他们将别无选择，只能从大型科技公司购买软件。该公司的联合创始人马克·安德森(Marc Andreessen)在最近的一篇博客文章中写道:“无论如何，对开源都不应该设定监管障碍。”

这些观点与那些希望在自己的产品中使用人工智能技术的应用程序开发者产生了共鸣。他们开始使用Meta的开源人工智能软件Llama 2，作为付费购买OpenAI、微软和其他公司专有软件的替代方案。这些初创公司可以修改和定制这些开源模型，为各种产品提供动力，比如聊天机器人和自动编码工具。

人工智能助理初创公司Lindy的创始人弗洛伦特·克里韦洛(Florent Crivello)表示，Llama 2为初创企业提供了一条生命线，“像我这样的人希望开源模式存在，因为我不喜欢把我所有的钱都给OpenAI。”与此同时，他补充说，对失控人工智能系统可能伤害人类的担忧也是合理的，应该会促使监管机构放慢这项技术的发展。

本文来自“腾讯科技”，作者：金鹿，36氪经授权发布。