人類に対する「重大な危害」を阻止するための安全プロトコルをAI開発者に導入することを義務付けるカリフォルニア州の法案が、シリコンバレーの技術コミュニティに波紋を呼んでいる。
カリフォルニア州の「最先端の人工知能モデルのための安全で安心なイノベーション法」（SB 1047 としても知られる）は、AI 開発者に、大量死傷者や大規模なサイバー攻撃などの事態を防ぐための安全プロトコルの実装を義務付けるものである。
これは2月にカリフォルニア州の民主党議員によって提案された。
提案された規制では、AI モデルに「緊急停止」ボタンを設置することを義務付け、AI の安全対策に関する第三者による年次監査を義務付け、コンプライアンスを監視し、違反に対して重い罰則を課す新しいフロンティア モデル部門 (FMD) を設置します。
しかし、議会からは反対意見が出ており、米国下院議員のロ・カーナ氏は8月13日にSB1047に反対する声明を発表し、「現在の法案は効果がなく、個人起業家や中小企業を罰し、カリフォルニアの革新精神を傷つける」と懸念を表明した。
シリコンバレーを代表するカーナ氏は、「労働者を保護し、誤報、ディープフェイク、富の格差の拡大などの潜在的なリスクに対処する」ためのAI法の必要性を認めた。
この法案はシリコンバレーからも反対されており、アンドリーセン・ホロウィッツなどのベンチャーキャピタル企業は、この法案がスタートアップ企業に負担をかけ、イノベーションを阻害すると主張している。
8月2日、a16zの最高法務責任者ジェイクマール・ラマスワミ氏は、法案の起草者の一人であるスコット・ウィーナー上院議員に書簡を送り、「恣意的で変動的な基準のため、スタートアップ企業に負担をかけることになる」と主張した。
また、フェイフェイ・リー氏やアンドリュー・ン氏など著名な業界研究者からも反発があり、彼らはこれが AI エコシステムとオープンソース開発に悪影響を与えると考えている。
8月6日、コンピューター科学者のリー氏はフォーチュン誌にこう語った。
「SB-1047が法律として可決されれば、私たちの成長しつつあるAIエコシステム、特に今日のテクノロジー大手に対してすでに不利な立場にある公共部門、学術界、そして『リトルテック』の部分に悪影響を与えるだろう。」
関連: 規制当局はオープンソースAIを制限する取り組みにおいて誤った方向に進んでいる
一方、大手テクノロジー企業は、AIを過度に規制すると言論の自由が制限され、技術革新がカリフォルニアから追い出される可能性があると主張している。
Metaの主任AI科学者であるヤン・ルカン氏は、6月のXへの投稿で、この法案は研究努力に悪影響を及ぼすだろうとし、「研究開発を規制することはAIエコシステムに破滅的な結果をもたらすだろう」と主張した。
この法案は5月に超党派の支持を得て上院を通過し、現在は下院に送られており、8月31日までに可決されなければならない。
雑誌：AIはすでにビットコインよりも多くの電力を消費している可能性があり、ビットコインのマイニングを脅かす