AI生成画像が、オンラインで誤情報を広める偽のソーシャルメディアプロフィールを数千作成するために使用されています。プラットフォームX（旧Twitter）の研究によると、1500万アカウントの初期サンプルから、AI生成画像を持つ7700以上の偽アカウントが特定されました。
偽のプロフィールは陰謀論や政治的プロパガンダを広めていることが判明しており、実際のプロフィールよりもフォロワーが少なく、フォローしているアカウントも少ない可能性が高いです。研究者たちは、これらの偽アカウントがターゲットを絞った誤情報と政治的プロパガンダを広めるために作成されたと考えています。
将来的には、研究者たちは新しいAIモデルを使用して、さらに高い率で潜在的な偽プロフィールを特定する計画を立てています。
出典
<p>偽のソーシャルメディアプロフィール：AI生成画像による誤情報の拡散という投稿が最初にCoinBuzzFeedに登場しました。</p>