当前位置:首页|资讯|OpenAI|谷歌

美国加州AI法案即将“转正”,科技圈炸锅,担心伤害开发者

作者:智东西发布时间:2024-08-31

编译 |  徐豫

智东西8月30日消息,据The Information报道,美国加州的人工智能(AI)法案(SB-1047)8月29日已在加州立法机构表决通过,经由州长Gavin Newsom签署后,将于2026年1月1日生效。

Newsom尚未表态是否会签署该法案。如果Newsom否决SB-1047,州参、众两议院可以再次投票表决,但两院都需要达到至少2/3的票数,才能推翻州长的否决。据《纽约时报》8月28日报道,Newsom需要在9月30日前做决定。若限期内,这项AI法案未被签署或否决,将直接成为加州的正式法律。

SB-1047全称为《前沿人工智能模型安全创新法案》,今年2月由美国旧金山的州参议员Wiener提出,旨在为具有一定规模的AI系统建立安全标准。如果AI系统本身,或是基于AI系统的产品给用户带来“严重伤害”,用户可依据这部首创法案,向相关的AI开发者追究法律责任。

假设你开发了一个自动驾驶汽车系统。某天,有陌生人入侵了这个系统,并引发了一场车祸。作为这个自动驾驶汽车系统的开发者,你可能会违反SB-1047,被要求为涉事系统的“伤人行为”负责,并支付罚款。

随着SB-1047立法程序的推进,AI开发者围绕该法案的争论愈演愈烈。

科技大佬、知名风投人士、AI开发者纷纷通过社交媒体发声,希望有更多人站出来,说服州长执行一票否决权。

“我们还有时间阻止SB-1047成为正式法律。”谷歌大脑联合创始人、百度前首席科学家吴恩达呼吁人们向州长提出异议。他认为,法律监管的对象理应是部分具有危害性的AI应用,而非整个通用AI模型。

“软件定义网络之父”、a16z(Andreessen Horowitz)合伙人Martin Casado在社交媒体平台上写道,“希望加州州长Newsom听取本土专家的意见,SB-1047的发起人Wiener基本上无视了专业建议”。

▲部分科技、风投公司和组织针对加州AI法案争议“站队”:红色代表反对,黄色代表中立,绿色代表支持(图源:The Information)

“红方”——包括OpenAI、Meta、谷歌、苹果、亚马逊在内,多家科技大厂高层共同签字反对SB-1047,希望减轻AI研究和创新的负担。

现阶段选择支持SB-1047正式立法的“绿方”,有AI创企xAI的创始人马斯克、AI先驱斯图尔特·拉塞尔(Stuart Russell),以及一些担心AI失控风险的组织。他们则期待SB-1047能对AI领域形成有效约束。

一、开源AI难溯源,但新AI法案要求“谁开发谁监管”

对开源AI开发者“不友好”,SB-1047因此饱受争议。

该法案要求开源AI开发者评估,基于其AI系统创建的所有AI模型和产品,包括微调模型、以其他方式修改的模型——“越狱”和嵌入其他软件的模型等。同时,开源AI开发者还需监控这些模型和产品潜在的“任何风险”,并负有法律责任。

问题在于,人们通常直接将开源的AI系统下载到个人设备上。其开发者可能不知情,即便监测到,也难以管理其他开发者或用户最后会如何使用它们。

许多免费提供开源AI的开发者,其初衷并非赚钱和盈利。然而,如果该法案最终通过,这些开发者很可能不仅挣不到钱,还要替散布在互联网各个角落的用户,为那些不可控的行为,承担法律责任和大额损失。

二、罚款金额高,定责不清晰,还可能误伤小公司

按照SB-1047的规定,若AI系统造成“他人死亡或人身伤害”、“财产损失”等后果,加州执法机构可对该AI系统的开发者,处以AI业务总营收10%至30%的罚款。

一位AI开发者政策研究人员称,这意味着,包括灾难性事件在内,任何财产损失都可能导致动辄数千万美元的罚款。例如,黑客可能会利用AI触发消防喷淋系统,造成水灾等财产损失。

不少该法案的反对者认为,SB-1047中关于“实际造成重大伤害或财产损失”的责任等级界定模糊。该法案将重大伤害的违法情形解释为“大规模伤亡”、“超过5亿美元的损失”或其他“同等严重”的伤害。然而,其并未进一步注明伤害等级如何区分、不同伤害等级的罚款金额等具体标准。

据业内人士Chris Lengerich透露,AI开发者需要花费大量金钱和时间,去摸索这些词语的法律边界。但实际上,这些模棱两可的条文,没有人能真正解释清楚,还可能给AI开发者带来无法预料的大额财产损失。

该法案还要求AI开发者雇佣专业审计员,独立评估和验证其AI系统,以符合法规要求。

许多小型AI创企各方面的资源,特别是资金实力,往往与OpenAI、谷歌等科技大厂相差甚远。SB-1047的适用范围,是模型训练花费超1亿美元、调整或微调现有模型花费超1000万美元的AI开发者。有业内人士认为,按照现有规定,一些小型AI创企会被错误划入该法案的监管范围,一旦违法,很可能付不起罚款。

结语:加州AI法案波及的,不只是加州“土著”

许多AI开发者的公司总部都设在加州。OpenAI声称,SB-1047可能导致一些AI创企搬离加州。谷歌则担忧这项新法案“可能会将AI创新赶出加州”。

但AI明星创企Anthropic CEO Dario Amodei并不认可这种说法,“总部迁出加州这一言论,不过是夸张的调侃,是谈判的筹码”。他在8月28日的采访中谈道,这种说法是无稽之谈,该法案适用于任何在加州开展业务的个人和企业,而不仅仅是一些总部在加州的公司。

Amodei仍持续观望,他既不反对该法案的通过,也不在明面上支持它。目前,美国软件巨头微软也对SB-1047保持中立态度。

此外,美国加州立法机构通过的这项AI法案,也可能会对美国其他州,甚至其他国家的AI立法产生长足的影响。

来源:The Information、《纽约时报》

文章来源微信公众号“智东西(ID:zhidxcom)”,36氪经授权后发布。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1