Le immagini del profilo generate dall'intelligenza artificiale vengono utilizzate da alcuni account per manipolare messaggi politici e schemi crittografici. I ricercatori tedeschi hanno trovato quasi 8.000 account che utilizzano facce sintetiche, principalmente per amplificare messaggi politici e schemi crittografici. La maggior parte di questi account è stata creata nel 2023 e tendono ad avere meno follower e a interagire meno con i loro follower.
Lo studio ha anche scoperto che alcuni di questi account falsi facevano parte di attacchi di spam coordinati, concentrandosi su questioni come la guerra in Ucraina, le elezioni negli Stati Uniti, il COVID-19 e le politiche di vaccinazione. Inoltre, questi account promuovevano truffe crittografiche e contenuti sessuali. I ricercatori prevedono di espandere le capacità di rilevamento per individuare immagini AI generate da altri modelli e migliorare la loro metodologia per identificare comportamenti non autentici coordinati tra le piattaforme social.
Fonte
<p>Il post AI Generated Profile Pics Boost Political Messages and Crypto Scams è apparso per la prima volta su CoinBuzzFeed.</p>