アリゾナ州のエイドリアン・フォンテス国務長官によると、来たる米国選挙を前に、人工知能（AI）が偽情報の「増幅装置」となる可能性があるという。フォンテス氏は日曜日、NBCの「ミート・ザ・プレス」でその懸念を表明した。

フォンテス氏の発言は、バイデン大統領がX（旧Twitter）に「AIとその技術に取り組む企業は世界を変えることになるが、まずは我々の信頼を獲得しなければならない」と投稿したことを受けて出された。大統領は、安全で責任あるイノベーションを促進するために全力を尽くすと述べ、企業にもその取り組みに加わるよう求めた。

AIによる偽情報は拡大鏡

フォンテス氏は海兵隊での訓練を思い出した。新兵訓練やその他の軍事訓練では、敵の武器を評価しなければならなかったという。敵の武器に対抗できるよう、できる限りの訓練をしなければならなかったという。

こちらもお読みください: マイクロソフト、今後の選挙でAIによる偽情報キャンペーンが行われると警告

国務長官はAIを武器に例え、AIは武器ではなく、むしろ誤情報や偽情報の拡大装置であり増幅装置であると述べた。

「私がやりたかったのは、私たちの選挙管理官がこの問題に精通していること、各郡内でこの問題に対処し、取り組むための手順があることを確かめることです。なぜなら、私たちの選挙は郡レベルでも行われているからです。」

エイドリアン・フォンテス

「我々はまた、メディアパートナーがこれにどう反応し、認識すべきかを知ることができるよう、選挙管理官数名とメディア関係者による机上演習も実施した」と彼は付け加えた。

AIだけが問題なのではなく、国務長官は国内テロについて言及しながら、「テロとは政治的な結果をもたらす脅威や暴力と定義される。これはまさにそのことだ」と述べた。

「偽」ジョー・バイデンの電話はAIによる偽情報を裏付ける

選挙に対するAIの潜在的な脅威は目新しいものではない。今年1月初旬、ジョー・バイデン米大統領の声を装った偽のロボコールがテレビ番組やニュース記事で話題になった。偽の電話は綿密に仕立てられており、バイデン氏が以前使っていた言葉「なんて馬鹿げた話だ」という言葉から始まっていた。

このペルソナタッチの後、電話は続き、こう言った。

「今週の火曜日に投票しても、共和党はドナルド・トランプ氏を再び選出しようとするだけです。あなたの投票が意味するのは、今週の火曜日ではなく、11月です。」

これは明らかに、その日に投票所に行かないよう有権者を説得する試みだった。ロボコールは2日前にも再び広まり、その際に電話の背後にいた政治コンサルタントのスティーブン・クレイマーは600万ドルの損害賠償と24件の刑事訴追を受けた。

バラク・オバマ氏はイリノイ州スプリングフィールドでバイデン氏を副大統領候補として発表した。出典：ホワイトハウス。

連邦通信委員会によると、クレイマー氏に科された罰金は、生成AI関連の犯罪としては初めてのものだという。同委員会はまた、ロボコールを送信したとされるリンゴ・テレコムに対しても200万ドルの罰金を科すことを提案した。

リンゴ・テレコムは、これらの通話の作成には関与していないとしているが、同社が取った措置は業界基準と連邦規制に準拠している。しかし、懸念されるのは、これらの通話が元州民主党議長のキャシー・サリバン氏の個人番号から発信されたように見えることだ。

AP通信によると、サリバン氏は木曜日の電子メールで「選挙を不正に操作しようとすると、大きな代償が伴う」と書いた。

偽情報キャンペーンはより安価に

AI のおかげで、詐欺行為は、詐欺をしたい人にとってはより安価で手頃なものになった。投票率向上プロジェクトを専門とする会社を経営するクレイマー氏は、有権者に「AI 問題」への注意を喚起するための電話を送るのに 500 ドル支払ったと語った。クレイマー氏は以前、録音を作成するためにマジシャンに 150 ドル支払ったと AP に語っていた。

こちらもお読みください：ウォーレン・バフェット氏、AI詐欺が成長産業になると警告

ワイアードは昨年、AIによる偽情報キャンペーンの構築コストはわずか400ドルだと報じた。同誌は、一般的なAIツールを使用して反ロシアのツイートや記事を作成した開発者について報じたが、このプロジェクトは、それがいかに安価かつ簡単に実行できるかを強調することを目的としていた。

ニュースメディアによると、ネア・ポーという名の人物が、AIの危険性と偽情報について人々を啓蒙するためにこのキャンペーンを企画したという。ポーは電子メールで次のように述べた。

「フィッシング攻撃やスパム、ソーシャルエンジニアリングに特効薬がないのと同じように、これに特効薬があるとは思いません。」

偽情報の研究者は、AI は偽情報を広めるための高度にパーソナライズされたキャンペーンを企画したり、ソーシャル メディア アカウントを運営したりするために使用できると述べている。注目すべき点は、Facebook と Instagram が最近、中国共産党のコミュニケーション メカニズムと関連付けられることが多いネットワークに何らかの形で接続されていた数千のアカウントをブロックしたことだ。

ウォーレン・バフェット氏は、AI詐欺が次の大きな「成長産業」になるだろうと述べている。

研究者らによると、偽アカウントは今では、リーチを拡大し本物らしく見せるためにオーガニックな方法を使用するようになり、より洗練された方法で偽情報キャンペーンを展開しているという。伝説の投資家ウォーレン・バフェットの言葉を忘れてはならない。彼はAI詐欺は「史上最も急成長している産業」になる可能性があると語った。

詐欺と選挙偽情報は、どちらも人々を誤導するために使われるという点で共通している。バフェット氏が言うように、「詐欺には大きな利益と大きな損害をもたらす可能性があり、それがどのように展開するかは私には全く分からない」。

クリプトポリタンのアーミル・シェイク記者によるレポート