美国加州州议会通过《前沿人工智能模型安全法案》

---

美国东部时间2024年8月28日，加利福尼亚州州议会通过了《前沿人工智能模型安全创新法案》（法案编号为“1047”）。该提案要求人工智能模型在部署前进行安全测试认证，旨在对人工智能模型实施全国首个安全标准。

目前，众议院以 41 比 9 的投票结果通过了该法案，法案将送回州参议院批准修正案再提交给州长，州长加文·纽森尚未公开对该法案发表意见。

SB1047法案主要内容节选

人工智能系统风险评估

强制性评估：部署人工智能系统的组织必须进行风险评估，以评估对隐私、安全和公共安全的潜在影响，包括识别与人工智能决策过程相关的风险并实施缓解策略。

透明度要求：公司必须向公众披露这些风险评估的结果，确保人工智能系统的安全性和可靠性更加透明。

人工智能安全标准和指南

安全标准：该法案为人工智能技术的开发和部署制定了安全标准，涵盖了系统稳健性、错误处理和防止滥用等各个方面。

道德使用指南：该法案为 AI 的道德使用提供了指南，包括公平性、非歧视性和尊重个人权利的考虑。

问责和监督

AI 问责办公室：该法案在加州科技部内设立了一个AI问责办公室，负责监督遵守法案中规定的安全和透明度要求。

执行机制：该办公室有权调查投诉、进行审计并对不遵守 AB 107规定的行为处以罚款。

公众和利益参与者相关

公开报告：组织必须定期提供有关其 AI 系统性能和安全性的报告。这些报告向公众开放，以确保问责制并建立对 AI 技术的信任。

利益相关者咨询：该法案要求与利益相关者（包括社区团体、民间社会组织和行业专家）进行协商，以收集有关 AI 安全和问责措施的意见。

数据隐私和安全

数据保护措施：该法案包括保护 AI 系统处理的个人数据的条款。组织必须实施强有力的数据保护措施，以防止未经授权访问和滥用个人信息。

影响评估：组织必须进行数据影响评估，以了解和解决与 AI 技术相关的潜在隐私风险。

--THE END--

来源：加州州议会官网、digital democracy等网络公开资料