AI大模型让科技巨头更具话语权，拜登政府正监督ChatGPT寻求意见
如果监管机构现在不采取行动，生成式人工智能的热潮将进一步让大型科技公司获得更多的力量，这是来自人工智能研究机构的一份新报告得出的核心论点，这是有道理的。想要理解背后的原因，我们要考虑当前人工智能的繁荣依赖于两件事：大量的数据和足够的计算能力。
真正能同时拥有这两种资源的只有大公司。尽管初创公司推出了一些最令人兴奋的应用程序，如 OpenAI 的聊天机器人 ChatGPT 和 Stability.AI 的 Stable Diffusion，但它们依赖于与大型科技公司的合作和合同，这让他们能够获得其庞大的数据和计算资源。
“几家大型科技公司准备通过人工智能巩固地位，而不是将其民主化，”非营利研究机构 AI Now Institute 的主管莎拉·迈尔斯·韦斯特（Sarah Myers West）说。
目前，大型科技公司已经扼住了人工智能发展的喉咙。但迈尔斯·韦斯特认为，我们实际上正处于一个十字路口。这是一个新的科技炒作周期的开始，这意味着立法者和监管机构有一个独特的机会来确保人工智能技术的未来十年更加民主和公平。
这种科技繁荣与以往的不同之处在于，我们对人工智能可能犯错并导致灾难性后果的方式有了更好的理解。世界各地的监管机构都在密切关注相关问题。中国刚刚公布了一项关于生成式人工智能的法案草案，要求提高透明度和监督，而欧盟正在讨论人工智能法案（AI Act），该法案将要求科技公司对生成式人工智能系统的工作方式更加透明。它还计划通过一项法案，让他们对人工智能技术造成的伤害负责。
美国一直以来都不愿监管其科技行业，但这次有了些许改变。拜登政府正在就如何监督 ChatGPT 等人工智能模型寻求意见——例如，要求科技公司进行审计和影响评估，或强制人工智能系统在发布前达到某些标准。这是美国为遏制人工智能的危害而采取的最具体的措施之一。
与此同时，美国联邦贸易委员会（FTC，Federal Trade Commissio）主席莉娜·可汗（Lina Khan）也强调了大型科技公司在数据和计算能力方面的优势，并誓言要确保人工智能行业存在竞争。该机构已经发出了进行反垄断调查和打击欺诈性商业行为的威胁。美国目前对人工智能领域的新关注，在一定程度上是因为 AI Now Institute 组织的许多成员包括迈尔斯·韦斯特在内，他们都曾在联邦贸易委员会工作过一段时间。
迈尔斯·韦斯特说，她的经历告诉她，人工智能监管不必从白纸开始。监管机构应该加强现有数据保护和竞争法的执行，而不是等待欧盟的人工智能法案等具体规定出炉，这需要数年时间才能实施。迈尔斯·韦斯特说，我们今天所知道的人工智能在很大程度上依赖于大量的数据，所以数据政策也是人工智能政策。
举个例子：ChatGPT 一直面临着欧洲和加拿大数据保护部门的严格审查，它在意大利也因涉嫌非法从网上窃取个人数据和滥用个人数据而被屏蔽。对监管的呼吁不仅仅来自政府官员。我们也看到了有趣的事情：过去数十年，许多科技公司都在与监管做斗争，但如今包括 OpenAI 在内的大多数科技公司都声称他们欢迎监管。
所有人仍在争论的最大问题是，应该如何监管人工智能。尽管科技公司声称他们支持监管，但在推出人工智能产品时，他们仍在延用“先发布，后问问题”的方式。他们急于发布图像和文本生成的人工智能模型作为产品，尽管这些模型存在重大缺陷：它们胡编乱造，扩大有害偏见，侵犯版权，还包含安全漏洞。
AI Now Institute 的报告称，白宫提议通过算法审计等措施来解决人工智能问责机制，但这些行动都是在产品发布之后才会实施，因此不足以减轻人工智能的危害。迈尔斯·韦斯特表示，政府需要采取更有力、更迅速的行动，以确保公司首先证明他们的模型适合发布。
“我们应该非常警惕那些不会给公司带来负担的做法。有很多监管方法，本质上是让更广泛的公众和监管机构来根除人工智能造成的危害，”迈尔斯·韦斯特说，重要的是，监管机构需要迅速采取行动。“当科技公司违反法律时，就需要承担后果。”
支持：Ren
原文：
https://www.technologyreview.com/2023/04/18/1071727/generative-ai-risks-concentrating-big-techs-power-heres-how-to-stop-it/
