加利福尼亚州立法机构通过了全面的人工智能安全法案

（爱云资讯消息）加利福尼亚州议会和参议院已经通过了《前沿人工智能模型安全与保障法案》(SB 1047)，这是美国首个针对人工智能的重大监管法案之一。

这项法案在硅谷以及其他地方引发了激烈的争论，它要求在加州运营的人工智能公司在训练高级基础模型之前采取一系列预防措施。这些措施包括确保能够迅速而完全关闭模型，确保模型不受不安全的后训练修改的影响，以及保持一个评估模型或其衍生品是否特别容易造成或促成重大危害的测试程序。

该法案的主要起草人、参议员斯科特·威纳(Scott Wiener)表示，SB 1047是一项非常合理的法案，要求大型人工智能实验室做他们已经承诺要做的事情：对他们的大型模型进行灾难性安全风险的测试。“我们今年花了很多时间，与开源倡导者、Anthropic以及其他人一起，对法案进行了完善和改进。SB 1047与我们对可预见的人工智能风险的了解相吻合，它值得被采纳。”

SB 1047的反对者（包括OpenAI和Anthropic、议员Zoe Lofgren和Nancy Pelosi以及加州商会）认为，该法案过于关注灾难性危害，可能会过度伤害小型、开源AI开发者。为此，法案进行了修订，将潜在的刑事惩罚改为民事惩罚，缩小了赋予加州检察长执行权的范围，并调整了加入该法案所创建的前沿模型委员会的要求。

据报道，人工智能安全法案将提交给加利福尼亚州州长加文·纽森（Gavin Newsom），他将在9月底之前决定该法案的命运。