中国杭州の身元不明の企業が最近、ChatGPT を使用したランサムウェア攻撃の被害に遭い、同国で初めて AI チャットボット関連の逮捕者が出た。

中国当局は先月末、北京で2人、内モンゴルで2人の計4人のサイバー犯罪者が拘束されたことを明らかにした。容疑者はChatGPTを利用してランサムウェアのコードを最適化し、ネットワークスキャンを実施し、システムに侵入し、マルウェアを展開し、金銭を脅し取ったと自白した。

この攻撃により、同社のネットワークはランサムウェアによってブロックされ、犯罪者はアクセスを回復するために2万テザーの暗号通貨の支払いを要求した。

ランサムウェアの使用が増加

ランサムウェアは、世界中の政府、企業、個人が直面する最も深刻なサイバー脅威の 1 つに急速に成長しました。この悪意のあるソフトウェアはファイルやシステムを暗号化し、身代金の要求が満たされるまでアクセスできない状態にします。

2021年、ランサムウェアによる被害は世界全体で推定200億ドルを超えた。中国だけでもその年の攻撃は13％増加し、サイバー犯罪者は16億ドルを超える金銭を奪い去った。

この逮捕は、ChatGPTが中国のランサムウェア事件に関与した初めてのケースだ。しかし、チャットボット自体は攻撃に直接関与していなかった可能性が高い。

代わりに、被告はマルウェア コードを最適化するために ChatGPT の自然言語機能を使用したことを認めました。AI の会話型の性質により、フィードバックや提案を提供することで、ランサムウェア プログラムを簡単に改良できます。

中国ではChatGPTへのアクセスが制限されている

ChatGPTは世界中で絶大な人気を誇っているが、中国では規制に直面している。開発元のOpenAIは、中国本土のIPアドレスからのチャットボットへのアクセスをブロックしている。

一部のユーザーは中国国外で登録されたVPNを使用して制限を回避しています。しかし、そのようなサービスを提供する企業に対する法的リスクは不明です。

当局は、ChatGPTへのアクセスが広がれば「犯罪を犯したり噂を広めたりする可能性がある」と警告している。しかし、このAIへの関心は依然として高く、テクノロジー企業はOpenAIの画期的な製品のライバル製品の開発を競っている。

生成AIは、説得力のあるディープフェイクも可能にする。中国警察は今年夏、ローン詐欺取り締まりでこれに直面した。この技術の危険性が明らかになったため、世界中の規制当局は最善の対応を検討している。

AIが作成したマルウェアに関する懸念

ChatGPT は、会話調の口調と、ほとんどのトピックに対する雄弁で人間のような応答で有名になりました。しかし、その高度な言語スキルは、マルウェアの最適化などの悪意のある用途にも危険なほど効果的です。

サイバーセキュリティ研究者は、ChatGPT が偽のフィッシング ページ、悪意のあるコンピュータ コード、その他の脅威を生成するのがいかに簡単であるかを明らかにしました。簡単なプロンプトで、AI は検出を回避するようにカスタマイズされた高度なランサムウェアを生成します。

ChatGPT のようなチャットボットは、学習したことを決して忘れません。蓄積された知識により、マルウェアのコーディング、システムのハッキング、ターゲットの欺瞞などのスキルがさらに向上します。

AIの創造的性質はより広範なリスクをもたらす

AI チャットボットは、ソフトウェアの脆弱性以外にも、誤報に関するリスクも生み出します。説得力のある人間のような文章により、ソーシャル ネットワークや Web サイトに、信憑性があるように見える偽のコンテンツが溢れかえる可能性があります。

生成 AI は同様に、詐欺目的でディープフェイクのオーディオ/ビデオ メディアやクローン音声の作成も可能にします。技術が進歩するにつれて、なりすまし詐欺や偽の有名人メディアが大きな脅威となります。

さらに、AI トレーニング データセットと所有権をめぐる法的および倫理的問題も依然として残っています。ChatGPT のようなシステムは、著作権で保護された膨大な量の書籍、記事、歌、画像、その他のコンテンツを同意なしに取り込みます。

生成型AIの能力が飛躍的に向上するにつれ、悪用された場合の被害の可能性も高まり続けています。しかし、慎重な規制とサイバーセキュリティの警戒により、新たな脅威を軽減することができます。