加州州长加文·纽瑟姆 (Gavin Newsom) 否决了一项有争议的人工智慧 (AI) 法案，称该法案将扼杀创新，无法保护公众免受该技术「真正」的担忧。该法案的支持者指出，它将制定一些关于大规模人工智慧模型的首批国家法规，并为国家人工智慧安全法打开大门。
9月30日，纽瑟姆遭到矽谷的强烈反对后，拒绝了SB 1047，即《前沿人工智慧模式安全创新法案》。该法案建议对人工智慧模型和其他保障措施进行强制安全测试，科技巨头担心这会阻碍创新。
纽森认为，该法案过于注重对现有顶级人工智能公司的监管，而未能保护公众免受新技术带来的“真正”危害。
他说道：
相反，该法案对最基本的功能都实施了严格的标准——只要大型系统部署了它。我不认为这是保护公众免受技术带来的真正威胁的最佳方法。
– 加文·纽瑟姆
参议员批评否决，称其对公共安全造成挫折
该法案的起草人、民主党州参议员斯科特·韦纳 (Scott Weiner) 表示，法案的否决对所有相信对大型企业进行监督的人来说都是一个挫折，因为这些企业所做的重大决策影响着公众的安全、福利和地球的未来。
SB 1047 要求开发者（包括 OpenAI、Meta 和 Google 等主要参与者）为他们的人工智能模型实施“终止开关”，并制定计划以减轻极端风险。此外，该法案还允许州检察长在人工智能模型构成持续威胁（例如人工智能电网接管）的情况下起诉人工智能开发者。
该法案专门针对开发成本超过 1 亿美元且需要大量处理能力的系统。目前还没有人工智能模型达到这一门槛，但一些专家表示，这种情况可能会在明年发生改变。
安全法案引发争议，纽森提倡基于科学的人工智能监管
纽森表示，他已咨询了顶尖的人工智能安全专家，以帮助加州制定有效的法规，优先考虑对人工智能发展的潜在风险进行科学分析。他强调，他的政府将继续推动强有力的安全协议，并坚称监管机构不能等到发生重大灾难才采取行动。
尽管否决了 SB 1047，但纽森强调，他的政府在过去一个月已经签署了 18 多项与人工智能监管相关的法案。
在纽森做出决定之前，该法案就一直不受政界人士、顾问和大型科技公司的欢迎。众议院议长佩洛西和OpenAI等公司都表示，这将极大地阻碍人工智能的发展。
Abundance Institute 人工智能政策负责人 Neil Chilson 警告称，虽然该法案主要针对成本超过 1 亿美元的模型，但其范围很容易扩大，也打击规模较小的开发商。
然而，有些人对该法案持开放态度。亿万富翁埃隆·马斯克正在构建自己的人工智能模型“Grok”，他是少数支持该措施和更广泛的人工智能法律的科技巨头之一。马斯克在 8 月 26 日的 X 帖子中表示，加州应该通过 SB 1047 人工智能安全法案，但他承认支持该法案是一个“艰难的决定”。
