米司法省（DOJ）は火曜日、米法執行当局がロシア政府と関係のあるAI搭載ソーシャルメディアボットファームに関連する2つのドメインを押収したと発表した。
「これは、サイバーやサイバーを利用した国家安全保障上の脅威に関して、FBIを含む司法省が採用している混乱を優先する戦略の強力な例です」と司法省の広報担当者はデクリプトに語った。「私たちは、これらの行為者を防御し特定する方法を進化させ続けています。」
同庁が公開した文書によると、サイバー犯罪者は生成AIを使って偽のソーシャルメディアプロフィールを作成し、その多くはアメリカ人を名乗っており、それをツイッターに親ロシア的なメッセージを投稿するために使用していた。
「本日の行動は、ロシアが支援する生成AI強化ソーシャルメディアボットファームを阻止する初の試みだ」と米連邦捜査局（FBI）のクリストファー・レイ長官は声明で述べた。
「ロシアは、このボットファームを利用してAIが生成した外国の偽情報を広め、AIの支援を受けて活動を拡大し、ウクライナのパートナーを弱体化させ、ロシア政府に有利な地政学的物語に影響を与えようとした。」
このボットファームは、アリゾナ州に拠点を置くドメインプロバイダーNamecheapが発行したドメイン（mlrtr.comおよびotanmail.com）とプライベートメールサービスを使用してランダムなメールアドレスを生成し、Twitterにプロフィールを作成したとされています。
ある例では、ミネアポリス在住者を名乗るボットアカウントが、自らを「ヒューマニスト」と称し、ビットコインのハッシュタグを付けていた。
合計すると、ボットファームは2022年6月11日から2024年3月1日の間に968を超えるTwitterアカウントを作成しました。
Namecheapは特定の調査についてはコメントできないと述べたが、Decryptに対しては「当社のプラットフォーム上でのあらゆる形態の不正行為に積極的に対抗している」と語った。
「当社のサービスを利用する悪質な行為者を特定し、迅速に排除する効果的な戦術は広く知られています」とネームチープはツイッターで述べた。「当社は法執行機関と連携し、当社のプラットフォームでの不正行為や違法行為に関連する米国の召喚状、裁判所命令、令状を執行します。」
サイバーセキュリティの専門家にとって、公開されている生成 AI モデルと標準化された開発ツールは、国家が支援するサイバー犯罪者にとって魅力的です。
「Telegram、X、Metaなどのプラットフォームが提供する生成AIと開発者APIの組み合わせは、悪意を持って使用されると非常に危険です」と、ブロックチェーンセキュリティ企業Halbornの共同創設者兼CTOであるスティーブ・ウォルブロー氏はTelegram経由で述べた。
「通常、この機能により、ユーザーはソーシャルメディアでの存在感を自動化、管理、または強化することができます。しかし、悪意のある人物の手に渡ると、人々やオンラインコミュニティを欺くための非常に説得力のある方法になります。」
ウォルブロー氏は、AI 駆動型ボットのみで構成されている Telegram グループを指摘し、これを利用して偽りの誇大宣伝や社会的証明を作り出し、この作り出された熱狂に基づいて何も知らない被害者を詐欺に投資するよう説得し、ボットを操作する詐欺師に投資金を盗まれる可能性があると述べた。
「これは大規模に偽情報を拡散するために使用されるソーシャルエンジニアリングの戦術であるが、詐欺師がミームコインを『ポンプ＆ダンプ』して無知なユーザーから多額の資金を盗むのを助けるために使用する戦術でもある」とウォルブロー氏は付け加えた。
「削除とそれに伴う勧告は、米国とその同盟国がこうした妨害や押収のようなさまざまな手法を試みていることを示唆している…なぜなら、現在、運営者は直接の手の届かないところにいるからだ」とシチズン・ラボの上級研究員ジョン・スコット＝レイルトン氏はツイッターのスレッドで述べた。
「攻撃者は学習し、進化し、すぐに米国を標的に戻ってくると予想される」
新着情報: @TheJusticeDept が、ロシアが運営する AI 対応の Twitter 偽情報ボット ファームを破壊しました。
@X には約 1000 のアカウントがあります。
アメリカ人を装い、ロシア政府の主張を広めた。
この 1/https://t.co/QOsWnoVUCf の背後にある興味深い調査 pic.twitter.com/pvbVZM3nLj
— ジョン・スコット・レールトン (@jsrailton) 2024年7月9日
偽アカウントを一掃する作戦は、6月にアリゾナ州連邦地方裁判所がX Corp（別名Twitter）のサーバーの捜索とNamecheapのドメインの押収を許可する2件の捜索・押収令状を提出したことから始まった。Twitterは、利用規約違反を理由に、報告されたアカウントを自主的に停止した。
「X社はこの事件の重要なパートナーであり、ボットを削除し独自の調査を行うという彼らの自主的な努力を高く評価している」と司法省の広報担当者は述べた。
「悪意ある行為者がAIの犯罪的悪用を加速させているため、司法省は対応し、国際パートナーや民間部門と協力して阻止行動を優先する」とリサ・モナコ司法副長官は声明で述べた。
「我々はボットファームを閉鎖し、違法に取得されたインターネットドメインを押収し、敵と戦うことを躊躇しません。」
司法省によると、この作戦はFBI、サイバー国家ミッションフォース、カナダとオランダの政府パートナー、そしてツイッターを含むソーシャルメディア企業と連携して実施された。
「司法省はこれらの措置により、ボットファームを使って米国内外で偽情報を拡散するという、ロシア政府が支援するAIを利用したプロパガンダ活動を阻止した」とメリック・B・ガーランド司法長官は声明で述べた。
「ロシア政府がウクライナで残忍な戦争を続け、世界中の民主主義を脅かしている中、司法省はロシアの侵略に対抗し、アメリカ国民を守るために、あらゆる法的権限を行使し続ける」
詐欺や偽情報の拡散に利用されているのは、偽のTwitterアカウントだけではありません。最近では、ミュージシャンのドージャ・キャット、女優のシドニー・スウィーニー、伝説のヘビーメタルバンド、メタリカなど、著名芸能人の正規のTwitterアカウントを狙ったサイバー攻撃が急増し、仮想通貨詐欺の拡散に利用されています。