カリフォルニア州知事ギャビン・ニューサム氏は、激しい議論を呼んでいる人工知能（AI）法案を拒否した。法案はイノベーションを妨げ、AI技術がもたらす「本当の」脅威から国民を守ることができないと主張している。

ニューサム知事は9月30日、シリコンバレーから大きな反発を受けていたSB1047（最先端の人工知能モデルのための安全で安心なイノベーション法案）を拒否した。

AIモデルやその他のガードレールの安全性テストを義務化することを提案したが、テクノロジー企業はそれがイノベーションを阻害することを懸念している。

ニューサム知事は9月29日の声明で、この法案は新技術がもたらす「本当の」脅威から国民を守ることなく、既存の大手AI企業の規制に重点を置きすぎていると述べた。

「その代わりに、この法案は、大規模システムに導入される限り、最も基本的な機能にさえ厳しい基準を適用します。これが、テクノロジーがもたらす本当の脅威から国民を守るための最善のアプローチだとは思えません。」

サンフランシスコの民主党上院議員スコット・ウィーナー氏が執筆したSB 1047は、ChatGPTメーカーのOpenAI、Meta、Googleなどの大手を含むカリフォルニアの開発者に対し、AIモデルに「キルスイッチ」を実装し、極度のリスクを軽減するための計画を公開することを義務付けるものでもある。

この法案が施行されれば、AI グリッド乗っ取りのようなモデルによる継続的な脅威が発生した場合、AI 開発者は州司法長官から訴えられる可能性もある。

ニューサム知事は、世界トップクラスのAI安全専門家らに、カリフォルニア州が「科学に基づいた軌道分析」の作成に重点を置いた「実用的なガードレールの開発」に協力するよう依頼したと述べた。また、州政府機関に対し、AI開発に起因する潜在的な大惨事のリスク評価を拡大するよう命じたと付け加えた。

ニューサム知事はSB1047を拒否したが、AIに対する適切な安全プロトコルを採用する必要があると述べ、規制当局は「大惨事が起こるまで国民を守るための行動を起こさない」余裕はないとも付け加えた。

ニューサム氏は、政権が過去30日間でAI規制に関する18以上の法案に署名したと付け加えた。

政治家、大手テクノロジー企業がAI安全法案に反対

ニューサム知事の決定に至るまで、この法案は議員、顧問、大手テクノロジー企業の間で不評だった。

ナンシー・ペロシ下院議長やOpenAIなどの企業は、これがAIの成長を著しく妨げるだろうと述べた。

アバンダンス研究所のAI政策責任者ニール・チルソン氏は、この法案は主に一定のコストと規模のモデル（1億ドル以上のモデル）を対象としているが、その範囲は簡単に拡大され、小規模な開発者も取り締まる可能性があると警告した。

しかし、この法案に前向きな人もいる。「Grok」と呼ばれる独自のAIモデルを開発している億万長者のイーロン・マスク氏は、この法案とAI規制の拡大を支持する数少ないテクノロジーリーダーの一人だ。

マスク氏は8月26日のXへの投稿で「カリフォルニア州はおそらくSB1047 AI安全法案を可決するはずだ」と述べたが、法案を支持するのは「難しい判断」だと認めた。

雑誌: 高度な AI システムはすでに「自己認識」している - ASI アライアンス創設者