Le forze dell'ordine statunitensi hanno sequestrato due domini collegati a una bot farm di social media basata sull'intelligenza artificiale collegata al governo russo, ha annunciato martedì il Dipartimento di Giustizia degli Stati Uniti (DOJ).

"Questo è un chiaro esempio della strategia dirompente che il Dipartimento, compreso l'FBI, ha adottato quando si tratta di minacce informatiche e abilitate dal cyber alla sicurezza nazionale", ha detto a Decrypt un portavoce del Dipartimento di Giustizia. “Continuiamo a evolvere il modo in cui difendiamo e identifichiamo questi attori”.

Secondo i documenti rilasciati dall’agenzia, i criminali informatici hanno utilizzato l’intelligenza artificiale generativa per creare falsi profili di social media, molti dei quali affermavano di essere americani, che sono stati poi utilizzati per pubblicare messaggi filo-russi su Twitter.

"Le azioni di oggi rappresentano la prima volta nell'interruzione di una bot farm generativa di social media potenziata dall'intelligenza artificiale sponsorizzata dalla Russia", ha affermato in una nota il direttore del Federal Bureau of Investigation (FBI) degli Stati Uniti, Christopher Wray. 

“La Russia intendeva utilizzare questa bot farm per diffondere disinformazione estera generata dall’intelligenza artificiale, ampliando il proprio lavoro con l’assistenza dell’intelligenza artificiale per indebolire i nostri partner in Ucraina e influenzare le narrazioni geopolitiche favorevoli al governo russo”.

La bot farm avrebbe utilizzato domini (mlrtr.com e otanmail.com) emessi dal provider di domini Namecheap con sede in Arizona, servizi di posta elettronica privati ​​per generare indirizzi email casuali e creato profili su Twitter. 

In un esempio, un account bot pretendeva di essere un residente di Minneapolis che si descriveva come un “umanista” e includeva un hashtag per Bitcoin.

In totale, la bot farm ha creato oltre 968 account Twitter tra l’11 giugno 2022 e il 1 marzo 2024.

Sebbene Namecheap abbia affermato di non poter commentare alcuna indagine specifica, la società ha dichiarato a Decrypt che "combatte attivamente tutte le forme di abuso sulla nostra piattaforma".

"Siamo ampiamente riconosciuti per le nostre tattiche efficaci volte a identificare e abbattere rapidamente i malintenzionati che utilizzano i nostri servizi", ha scritto Namecheap tramite Twitter. "Lavoriamo a fianco delle forze dell'ordine e implementiamo mandati di comparizione, ordinanze e/o mandati di tribunale statunitensi relativi ad abusi o attività illegali sulla nostra piattaforma."

Per gli esperti di sicurezza informatica, i modelli di intelligenza artificiale generativa disponibili al pubblico e gli strumenti di sviluppo standardizzati sono attraenti per i criminali informatici sponsorizzati dallo stato.

"La combinazione di intelligenza artificiale generativa e API per sviluppatori fornita da piattaforme come Telegram, X e Meta può essere molto pericolosa se utilizzata in modo dannoso", ha affermato Steve Walbroehl, cofondatore e CTO della società di sicurezza blockchain Halborn, tramite Telegram. 

“In una situazione normale, questa funzionalità consente agli utenti di automatizzare, gestire o potenziare la propria presenza sui social media. Ma nelle mani di un cattivo attore, è un metodo molto convincente per fuorviare le persone e le comunità online”.

Walbroehl ha indicato i gruppi Telegram, composti interamente da robot guidati dall'intelligenza artificiale, che potrebbero essere utilizzati per creare false pubblicità e prove sociali e convincere vittime ignare a investire in truffe basate su questo entusiasmo fabbricato, solo per vedere i loro investimenti rubati dai truffatori che controllano il sistema. robot.

"Sebbene si tratti di una tattica di ingegneria sociale utilizzata per distribuire disinformazione su larga scala, è anche una tattica utilizzata dai truffatori per aiutare a 'pump and dump' monete meme per rubare grandi quantità di capitale da utenti ingenui", ha aggiunto Walbroehl.

"Le eliminazioni e gli avvisi di accompagnamento suggeriscono che gli Stati Uniti e i loro alleati stanno provando varie tecniche come queste interruzioni e sequestri... perché gli operatori sono attualmente fuori dalla loro portata diretta", ha osservato il ricercatore senior del Citizen Lab John Scott-Railton in un thread su Twitter. 

"Aspettatevi che gli operatori imparino, si evolvano e tornino subito a prendere di mira gli Stati Uniti."

NOVITÀ: @TheJusticeDept ha appena interrotto una bot farm di disinformazione su Twitter gestita da russi e abilitata all'intelligenza artificiale.

Quasi 1000 account su @X.

Travestiti da americani e promossi le narrazioni del governo russo.

Affascinante investigazione dietro questo 1/https://t.co/QOsWnoVUCf pic.twitter.com/pvbVZM3nLj

— John Scott-Railton (@jsrailton), 9 luglio 2024

L'operazione per sradicare gli account falsi è iniziata a giugno con la presentazione di due mandati di perquisizione e sequestro da parte della Corte distrettuale dell'Arizona degli Stati Uniti che autorizzavano la perquisizione dei server di X Corp (alias Twitter) e il sequestro dei domini a Namecheap. Twitter ha sospeso volontariamente gli account segnalati, citando violazioni dei termini di servizio.

"X è un partner importante in questo caso e apprezziamo i suoi sforzi volontari per rimuovere questi robot e condurre le proprie indagini", ha affermato il portavoce del Dipartimento di Giustizia.

“Mentre gli attori maligni accelerano il loro uso improprio dell’intelligenza artificiale, il Dipartimento di Giustizia risponderà e daremo priorità alle azioni dirompenti con i nostri partner internazionali e il settore privato”, ha affermato in una nota il vice procuratore generale Lisa Monaco. 

“Non esiteremo a chiudere le bot farm, a impossessarci di domini Internet ottenuti illegalmente e a combattere i nostri avversari”.

L'operazione è stata condotta in collaborazione con l'FBI, la Cyber ​​National Mission Force, partner governativi in ​​Canada e nei Paesi Bassi, nonché società di social media tra cui Twitter, ha affermato il Dipartimento di Giustizia.

"Con queste azioni, il Dipartimento di Giustizia ha interrotto una campagna di propaganda sostenuta dal governo russo e abilitata all'intelligenza artificiale per utilizzare una bot farm per diffondere disinformazione negli Stati Uniti e all'estero", ha affermato il procuratore generale Merrick B. Garland in una nota. 

“Mentre il governo russo continua a condurre la sua brutale guerra in Ucraina e a minacciare le democrazie di tutto il mondo, il Dipartimento di Giustizia continuerà a impiegare tutte le nostre autorità legali per contrastare l’aggressione russa e proteggere il popolo americano”.

Non si tratta solo di account Twitter falsi utilizzati per promuovere truffe e disinformazione. Recentemente, un'ondata di attacchi informatici contro gli account Twitter legittimi di importanti artisti dello spettacolo, tra cui la musicista Doja Cat, l'attrice Sydney Sweeney e la leggendaria band heavy metal Metallica, è stata utilizzata per promuovere truffe crittografiche.