当前位置:首页|资讯|人工智能|马斯克|阿尔特曼|OpenAI

人工智能应该开源吗?

作者:实在智能RPA发布时间:2024-03-11


人工智能应该开源吗?

关于 X 的争论首先是由特斯拉首席执行官埃隆·马斯克 (Elon Musk) 对 OpenAI 及其首席执行官萨姆·奥尔特曼 (Sam Altman) 的诉讼引发的。

著名风险投资家马克·安德森 (Marc Andreessen) 和维诺德·科斯拉 (Vinod Khosla) 之间的推文之战凸显了关于如何开发和分发生成式人工智能的相反观点。

人工智能应该开源吗?

人工智能应该开源还是闭源?

风险投资界最著名的两位人物马克·安德森 ( Marc Andreessen ) 和维诺德·科斯拉 (Vinod Khosla ) 在过去几天里就硅谷最具争议性的话题之一“人工智能应该开源还是闭源?”进行了激烈讨论!

安德森等开源人工智能技术的支持者表示,他们主张开放共享科学、提高透明度以及防止大型科技公司垄断强大技术等。科斯拉等封闭式人工智能支持者表示,公司或其他私人实体提供了一种防范其潜在危险和滥用的方法。

开源人工智能是免费分发的,供公众构建和共享,而封闭或专有的人工智能则由其创建者私人控制和共享。但这两种方法并不相互排斥,它们可以共存。一个例子是公司在开源代码之上构建私有系统。

人工智能应该开源吗?

马克·安德森 (Marc Andreessen),安德森·霍洛维茨基金联合创始人。

关于 X 的争论首先是由埃隆·马斯克 (Elon Musk)对 OpenAI 及其首席执行官萨姆·奥尔特曼 (Sam Altman) 提起的诉讼引发的,并强调了为人工智能的分布和安全性问题找到明确答案的难度——特别是对于监管机构、大型科技公司、科学家和政府仍然不知道这项技术会发展多远、发展多快。

在参与这场争论的科技巨头中,Meta倡导开源人工智能,并发布了 Llama 2 模型供公众下载和修改。总部位于巴黎的 Mistral AI 发布了具有开放“权重”的模型,这些权重是构成模型内部工作原理的数值参数。与此同时,业界最大的人工智能初创公司 OpenAI 和 Anthropic 都销售闭源人工智能模型。

人工智能应该开源吗?

维诺德·科斯拉 (Vinod Khosla),科斯拉风险投资公司创始人。

安德森周六发帖称科斯拉正在“游说禁止开源”。Andreessen Horowitz 联合创始人发表此番言论之前,科斯拉在马斯克提起诉讼后表达了对 Altman 和 OpenAI 的支持,该诉讼指控两家公司违反了公司的创始协议,即以利润优先的方式致力于公共开源人工智能。 

这位 Khosla Ventures 的创始人同时也是 OpenAI 盈利性部门的支持者,他回应称,人工智能类似于核武器,因此开源会带来国家安全风险。Khosla 最近的帖子引用了 OpenAI 技术远见者Ilya Sutskever的评论,即“不分享科学是完全可以的”。

Khosla Ventures 的一位发言人指出,Khosla 之前曾发表过支持开源技术的帖子,但他认为大型人工智能模型是需要严密保护的“国家安全和技术”优势。

安德森霍洛维茨没有回应置评请求。 

两个阵营普遍认为,大型语言模型(为 ChatGPT 提供支持并经过大量数据训练的算法)并不是一项完全开发的技术。ChatGPT 和其他人工智能工具可

以生成幻觉、有偏见的结果以及有害或令人反感的输出。另外,它们的使用和训练成本非常高,并且消耗大量能源。 

对于一些开源支持者来说,这些人工智能模型中的技术差距意味着它们必须在科学家和学者社区中公开开发,然后再被商业利益封闭。 艾伦人工智能研究所 (Allen Institute for AI) 首席执行官阿里·法哈迪 (Ali Farhadi) 表示:“我们相信,这是我们第一次大规模部署一项我们无法真正理解的技术。”艾伦人工智能研究所是一家非营利性研究机构,成立于 2014 年年底。

人工智能应该开源吗?

艾伦人工智能研究所 (Allen Institute for AI) 首席执行官阿里·法哈迪 (Ali Farhadi) 表示:“我们相信,这是我们第一次大规模部署一项我们无法真正理解的技术。”艾伦人工智能研究所是一家非营利性研究机构,成立于 2014 年年底。

Farhadi 和其他开源倡导者很快指出,人工智能已经由科学家分享他们的研究成果开发了几十年——早在 2017 年谷歌研究人员分享支撑大型语言模型的“transformer”模型之前。

一些美国立法者同意科斯拉的观点,即自由分发的人工智能可以在外国对手中得到发展,因此应该受到相应的保护。许多闭源人工智能公司都认同这一信念的核心,那就是该技术给人类带来了生存风险,并可能导致灾难。

Altman 表示,OpenAI 严肃对待其安全义务,人工智能的开发应非常谨慎,但他也表示,它提供了巨大的商业可能性。

软件领域的开源运动始于几十年前,通过 Linux 等项目的流行,为这场开放与封闭式辩论的迭代走向提供了一些线索:开源软件支撑着几乎所有形式的技术,包括云技术。计算,其商业化帮助创建了这样的公司亚马逊变成庞然大物。

但它也给企业和政府带来了网络安全风险,因为它们很容易下载和修改。 

专家表示,封闭技术和开源技术一直共存。Meta 的生成人工智能副总裁 Ahmad Al-Dahle 认为这是一种“错误的二分法”,任何一方都会获胜。

“从根本上说,开源将发挥非常重要的作用,”AI21 的联合创始人兼联合首席执行官 Ori Goshen 说,AI21 是一家构建专有模型的人工智能初创公司。“在这个世界上,即使是像我们这样的专有提供商,基本模型也将成为开源,但其他一切都将是您最珍贵的知识产权。”



Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1