サイバーセキュリティ企業SlashNextが火曜日に発表した新しいレポートによると、AIによるサイバー犯罪は急速に拡大しており、先月のWormGPTの発見に続き、ダークウェブ上でいくつかの新しいツールが登場したことでさらに加速しているという。
1 週間後にリリースされた WormGPT と FraudGPT は、サイバー犯罪者が被害者に対して使用することを目的として開発されている人工知能ツールのほんの一角に過ぎないと SlashNext は結論づけています。FraudGPT だけでも、フィッシング詐欺 Web ページの作成、悪意のあるコードの記述、ハッキング ツールの作成、詐欺メールの作成などの機能を備えて構築されています。
SlashNextの研究者らは、Telegram経由でCanadianKingpin12という匿名の人物と接触したと述べた。
「調査中、私たちは潜在的な買い手の役割を担い、CanadianKingpin12とその製品であるFraudGPTを詳しく調査しました」とSlashNextは述べた。「私たちの主な目的は、FraudGPTが技術的な能力と有効性の点でWormGPTより優れているかどうかを評価することでした。」
販売者は FraudGPT を披露しながら、DarkBart と DarkBert という新しい AI チャットボットが登場すると言ったため、チームは予想以上のものを手に入れました。CanadianKingpin12 は、これらのチャットボットはインターネットにアクセスでき、Google の画像認識技術である Google Lens と統合できるため、チャットボットはテキストと画像の両方を送信できると主張しました。
SlashNext は、DarkBert は当初、データ インテリジェンス企業 S2W によってサイバー犯罪と戦うための正当なツールとして設計されたが、犯罪者がその技術をサイバー犯罪に転用したのは明らかだと指摘している。
CanadianKingpin12 は研究者に対し、DarkBert は高度なソーシャルエンジニアリング攻撃を支援し、コンピュータシステムの脆弱性を悪用し、ランサムウェアを含む他のマルウェアを配布することもできると語った。
「ChatGPTには、違法または悪質な使用例から保護するためのガードレールが備わっています」と、ブロックチェーンセキュリティ企業Halbornの最高執行責任者David Schwed氏は以前、TelegramでDecryptに語っていた。「[WormGPTとFraudGPT]にはそのようなガードレールがないため、マルウェアを開発するよう依頼することができます。」
SlashNextは、販売者はポリシー違反（具体的には、公共の「クリアネット」上のオンラインフォーラムを通じてFraudGPTへのアクセスを販売しようとしたこと）によりフォーラムから追放されたため、通信手段を暗号化されたメッセンジャーアプリに切り替えざるを得なかったと述べた。
クリアネット、またはサーフェスウェブは、検索エンジンからアクセスできる一般的なインターネットを指します。契約上、ダークネットまたはダークウェブは検索エンジンによってインデックス化されず、ダークネットのウェブサイトは通常、Google 検索では見つかりません。ダークウェブはサイバー犯罪者やシルクロードなどの違法オンラインマーケットプレイスと関連付けられていますが、ジャーナリストや反体制派など多くのユーザーが、自分の身元を隠しプライバシーを保護するためにダークウェブを利用しています。
AI 生成のサイバー犯罪ツールの急速な発展に対抗するため、SlashNext は企業に対し、サイバーセキュリティのトレーニングを積極的に実施し、強化された電子メール検証対策を実施するようアドバイスしています。
サイバー犯罪者がより高度な悪意あるツールを作成するために AI に目を向けるようになる中、ウェブ セキュリティ企業 Immunefi の別のレポートでは、サイバー セキュリティの専門家は AI をサイバー犯罪と戦うために使用してもあまり成果を上げていないと述べている。同社のレポートによると、調査対象となった専門家の 64% が OpenAI のチャットボットの精度は「限定的」であると述べ、61% がエクスプロイトを特定するための専門知識が不足していると述べている。
「これらの機能の真の影響を正確に測ることは難しいが、サイバー犯罪者を狙う者にとって障壁が低くなることは当然期待できる」とSlashNextは述べた。「さらに、1か月足らずの間にWormGPTからFraudGPT、そして今度はDarkBERTへと急速に進化したことは、悪意のあるAIがサイバーセキュリティとサイバー犯罪の状況に重大な影響を及ぼしていることを浮き彫りにしている。」