連邦裁判所の判事は、選挙のディープフェイクを事実上禁止する2週間前のカリフォルニア州法に対して暫定的差し止め命令を出した。
この法律（AB 2839）は、選挙の120日以内、および選挙後60日以内に、犯人の投稿が政治候補者に似ている場合、誰でもAIディープフェイクに対する損害賠償を求めて訴訟を起こすことができると規定している。
ジョン・A・メンデス判事は、人工知能とディープフェイクは重大なリスクをもたらすが、この法律は憲法修正第1条に違反する可能性が高いため「違憲」であると述べた。
「裁判所は、AB 2839 はカリフォルニア州の言論の自由規定にも違反していると判断します。」
この決定は、Xで「ミスター・レーガン」として知られるクリストファー・コールズ氏をめぐる事件から出たもので、同氏は7月にカマラ・ハリス米国副大統領を揶揄する物議を醸すAI改変キャンペーン動画を制作し、後にXの会長イーロン・マスク氏によって共有された。
カマラ・ハリス選挙広告パロディ pic.twitter.com/5lBxvyTZ3o
— ミスター・レーガン🇺🇸 (@MrReaganUSA) 2024年7月26日
コールズを代理する弁護士は、カリフォルニア州知事ギャビン・ニューサムが9月17日に新法に署名した翌日、カリフォルニア州のロブ・ボンタ司法長官とシャーリー・N・ウェーバー国務長官を相手取り、新法の阻止を求めて訴訟を起こした。
この法律により、カリフォルニア州の裁判官はAIディープフェイクの配布者に対し、削除を命じることができ、さもなければ罰金を科せられる可能性がある。
メンデス判事は、コールズ氏が「州憲法上の主張で勝訴する可能性が高い」と述べ、10月2日に仮差し止め命令の申し立てを認めた。
「AB 2839の大部分はメスではなくハンマーとして機能し、ユーモアのある表現を妨げ、アメリカの民主的な議論にとって非常に重要な自由で束縛のない意見交換を違憲的に抑制する鈍器として機能している。」
コールズ事件におけるジョン・A・メンデス判事の判決の抜粋。出典：選挙法ブログ
メンデス氏はさらに、コールズ社の弁護士が主張する、ハリス氏のAIディープフェイクは単なる「風刺」であり、憲法修正第1条で保護されるべきものだという意見に同意した。
「デジタル操作されたメディア環境に対する十分な根拠のある恐怖は正当化されるかもしれないが、この恐怖は、憲法修正第1条によって保護されている批評、パロディ、風刺の長年の伝統を、立法者に無制限に押し潰す権限を与えるものではない。」
言論の自由活動家であるテスラのCEO、イーロン・マスク氏は、この判決を勝利とみなした。
出典: イーロン・マスク
AB 2839 は、ここ数か月の間にニューサム知事の机に届いたいくつかの新しい AI 関連法案のうちの 1 つです。
ニューサム知事は最近、AIモデルの安全性テストを義務付ける提案である最先端人工知能モデルのための安全で安心なイノベーション法案（SB 1047）を9月30日に拒否権発動した。
ニューサム氏は、SB 1047は「善意に基づくものだが」、カリフォルニア州の新興AI企業に不必要な制限を課す可能性があると述べた。
雑誌: 高度な AI システムはすでに「自己認識」している - ASI アライアンス創設者