加州立法者推动了一项人工智能安全法案，该法案一直引起科技行业争议，并遭到主要参与者和民选官员的反对。

8 月 28 日，参议院法案 (SB) 1047 在州议会获得通过，目前等待州长加文·纽瑟姆的最终决定。纽瑟姆必须在 9 月 30 日之前决定是否签署该法案或予以否决。

SB 1047 由旧金山民主党参议员斯科特·维纳 (Scott Wiener) 起草。维纳认为，必须在人工智能进一步发展至无法控制的程度之前制定立法。

该法案要求对大多数最先进的人工智能模型进行安全测试；无论是开发成本超过 1 亿美元的模型，还是超过一定计算能力的模型。

它将要求加利福尼亚州的开发商——包括 ChatGPT 制造商 OpenAI、Meta 和谷歌等大公司——为这些模型制定“终止开关”，以防它们变得无法管理，并且要求第三方审计员参与这些模型的安全审计。

如果受到人工智能电网接管等模型的持续威胁，开发商还将可能被州检察长起诉。

SB 1047 推迟

虽然维纳认为该法案是必要的，以防止人工智能系统出错造成不可逆转的社会损害，但并非所有人都支持 SB 1047。

该法案遭到了科技行业主要参与者和州政界人士的强烈反对，他们称该法案将阻碍该州的创新者。

值得注意的是，加州名誉议长南希·佩洛西对该法案发表评论称，对于加州在人工智能发展方面处于领先地位而言，该法案“弊大于利”。

丰盛研究所 (Abundance Institute) 人工智能政策负责人 Neil Chilson 警告称，虽然该法案主要针对一定成本和水平的模型，但它“试图”为人工智能训练创建一个“合理谨慎”的标准。

来源：Neil Chilson

他说，这最终可能会造成过度扩张，并影响到较小的公司和模式。

业内的科技公司尤其不喜欢这项法案，OpenAI 带头反对该法案，称其将阻碍增长。然而，维纳对这些说法提出了质疑。

谷歌和 Meta Platforms 也在一封信中向加州州长纽森表达了他们的担忧。

然而，在对该法案的意见拉锯战中，亚马逊的 Anthropic 表示支持，称其好处“可能超过成本”，尽管该法案仍存在一些模糊之处。

卡内基梅隆大学前计算机科学教授、奥巴马政府校友埃里克戴姆勒表示，他“深切关注”人工智能安全问题，并呼吁华盛顿以 SB 1047 为例。他还表示，他相信存在“更有效的解决方法”。

来源：Eric Daimler

SB 1047 并不是目前正在讨论的唯一一项加州 AI 法案。SB 1220 禁止在提供 SNAP 和 Medicaid 等福利和医疗服务的呼叫中心使用 AI，这也引发了业界的质疑。

然而，加州的 AB 3211 要求在 AI 生成的内容上添加水印，并获得了 OpenAI 和微软等科技公司的支持。

正在开发其模型 Grok 的亿万富翁埃隆·马斯克表示支持全面的人工智能安全法规。

Cointelegraph 联系了加州的法律专家和人工智能开发人员，以更好地了解这些法案的气氛。

人工智能之眼：台湾的人工智能无人机“地狱景观”计划，法学硕士太笨，无法摧毁人类