コインテレグラフによると、カリフォルニア州知事ギャビン・ニューサムは、この法案がイノベーションを妨げ、この技術がもたらす真の脅威に対処できないとして、物議を醸している人工知能（AI）法案を拒否した。SB1047法案は、最先端の人工知能モデルのための安全で安心なイノベーション法案として知られ、シリコンバレーからの強い反対を受けて9月30日に拒否された。この法案は、AIモデルの安全性テストを義務付け、その他のガードレールを実装することを目的としており、テクノロジー企業はこれがイノベーションを阻害することを懸念していた。

ニューサム知事は9月29日の声明で、この法案は既存の大手AI企業の規制に重点を置きすぎていて、新技術がもたらす本当の脅威から国民を十分に保護していないと批判した。同知事は、この法案は大規模システムの最も基本的な機能にさえ厳しい基準を適用しており、国民を守るための最善のアプローチではないと主張した。

サンフランシスコの民主党上院議員スコット・ウィーナーが起草したこの法案は、OpenAI、Meta、Googleなどの大手企業を含むカリフォルニア州の開発者に対し、AIモデルの「キルスイッチ」を実装し、極度のリスクを軽減するための計画を公開することを義務付けるものだった。さらに、AIグリッド乗っ取りなどのモデルによる脅威が継続した場合、AI開発者は州司法長官から訴えられる可能性がある。

ニューサム知事は、カリフォルニア州が科学に基づいた軌道分析の作成に重点を置いた実用的なガードレールを開発できるよう、AI の安全性に関する一流の専門家と協議したと述べた。また、州政府機関に対し、AI 開発に起因する潜在的な大惨事のリスク評価を拡大するよう命じた。SB 1047 を拒否したにもかかわらず、ニューサム知事は AI の適切な安全プロトコルの必要性を強調し、規制当局は大惨事が起きるまで国民を守るための行動を待つことはできないと強調した。

この法案は、議員、顧問、大手テクノロジー企業から大きな反対を受けた。下院議長ナンシー・ペロシやOpenAIなどの企業は、この法案がAIの成長を著しく妨げると主張した。アバンダンス研究所のAI政策責任者ニール・チルソン氏は、この法案は主に1億ドル以上の費用がかかるモデルを対象としているが、その範囲は簡単に拡大され、小規模な開発者にも影響を与える可能性があると警告した。

しかし、一部のテクノロジーリーダーは法案を支持した。独自のAIモデル「Grok」を開発している億万長者のイーロン・マスク氏は、法案とより広範なAI規制に賛成する数少ない人物の1人だった。8月26日のXへの投稿で、マスク氏は「カリフォルニア州はおそらくSB 1047 AI安全法案を可決するはずだ」と述べたが、法案を支持するのは「難しい決断」だと認めた。