据 Cointelegraph 报道，加州立法者推动了一项备受争议的人工智能（AI）安全法案。8月28日，参议院法案（SB）1047通过了州议会，目前等待州长Gavin Newsom的最终决定，他将在9月30日前决定是否签署成法或否决。

该法案由旧金山民主党参议员Scott Wiener起草，要求对大多数先进的AI模型进行安全测试，包括开发成本超过1亿美元或计算能力超标的模型。开发者需提供“紧急停止”方案，并接受第三方安全审计。

该法案遭到科技界和州政界的强烈反对，认为会阻碍创新。众议院前议长Nancy Pelosi称其“弊大于利”。Abundance Institute的AI政策负责人Neil Chilson警告称，该法案可能会影响到小公司和模型。

尽管如此，Amazon的Anthropic表示支持，认为其好处可能超过成本。前卡内基梅隆大学教授Eric Daimler呼吁华盛顿以SB 1047为例，制定更有效的AI安全法规。

此外，加州还在讨论其他AI法案，如禁止在福利和健康服务呼叫中心使用AI的SB 1220，以及要求AI生成内容加水印的AB 3211，后者得到了OpenAI和Microsoft的支持。