メタは最近のセキュリティレポートで、ロシアが米国選挙に関するオンライン詐欺キャンペーンに生成型人工知能（AI）ツールを採用していると述べている。このテクノロジー大手は、キャンペーンを阻止したため、ほとんどの取り組みは失敗に終わったと主張している。

Meta によれば、生成 AI 戦略は最小限の生産性と利益しかもたらさなかった。これは、同社が自社のプラットフォーム上で協調的不正行為 (CIB) を検出し、取り締まることができたためである。

メタは、ロシアが政治的影響力キャンペーンの主な発信源であると特定している

第2四半期のMeta Adversarial Threat Reportでは、特にFacebookとInstagramのプラットフォーム上でのCIBキャンペーンのほとんどがロシアで行われていることが確認されています。2017年以降、ロシアは39件の秘密作戦を担当しており、イランと中国はそれぞれ30件と11件で2位と3位となっています。

これらのロシアのキャンペーンは偽のアカウントやページに大きく依存しており、その中核となる戦術の 1 つは複数のアカウントを取得することでした。内容の点では、ロシアが 2022 年にウクライナに侵攻して以来、これらすべてが同じメッセージを広め、侵攻を正当化しているように見えます。

ロシアの AI キャンペーンのサンプル (出典: Meta)

Metaは、11月の大統領選挙が近づくにつれて、今後数ヶ月で米国のユーザーをターゲットにしたキャンペーンがさらに出現すると予測している。キャンペーンでは反ウクライナのメッセージを広め、ウクライナを支持する候補者を攻撃する可能性が高い。

それはこう言った。

「今から11月の米国選挙までの間、ロシアを拠点とする活動によって、ウクライナへの支援に反対する候補者を支持する論評が広められ、ウクライナ防衛への支援を主張する人たちが批判されると予想している。」

こうした欺瞞的なキャンペーンでは、根強い脅威とAIの多用にもかかわらず、Metaは、こうした悪意ある活動を検出し、防止する非常に効果的な方法を開発したと主張している。同社は投稿の内容ではなく、アカウントの行動パターンに焦点を当てており、自動化された行動をより効果的に検出できるようになっている。

ロシアの選挙介入の歴史

メタが悪質な政治的影響力キャンペーンを制限することに積極的に取り組んでいるのは驚くことではない。同社は、プラットフォーム上でそのようなキャンペーンを防止または削除できなかったとして、規制当局から非難されている。今年5月、欧州連合はメタが選挙の公正性に関する規則を遵守していないことに対する調査を開始した。

一方、ロシアは、特に選挙期間中に、ライバルとなる世界の大国に対する影響力行使キャンペーンを支援してきた歴史がある。同国は、TumblrやPayPalなどのアプリを含むあらゆるソーシャルメディアプラットフォームでのキャンペーンを通じて、2016年の米国選挙の結果に影響を与えたと非難されている。

グーグルを含むあらゆるプラットフォーム上の数百万のソーシャルメディア投稿を分析した調査によると、ロシア政府は複数の工作員を通じて米国の選挙プロセスに関する偽情報を広め、選挙プロセスを弱体化させようとしていたことが判明した。調査では、多くの人からロシアのトロールファームとみなされているインターネットリサーチエージェンシー（IRA）というグループが、このキャンペーンを主導していたことが特定された。

あらゆる形式のコンテンツを簡単に生成できる生成AI技術の登場により、今回の選挙では影響力拡大キャンペーンにAIが利用される可能性が非常に高まるのではないかとの懸念が高まっている。これまでに、複数のセキュリティ専門家がAI利用の事例を特定している。しかし、候補者同士でさえ、AI利用を非難し合っている。