Les autorités américaines chargées de l'application des lois ont saisi deux domaines liés à une ferme de robots de médias sociaux alimentée par l'IA et liée au gouvernement russe, a annoncé mardi le ministère américain de la Justice (DOJ).
"Il s'agit d'un bon exemple de la stratégie de perturbation d'abord que le ministère, y compris le FBI, a adoptée en ce qui concerne les menaces cybernétiques et cybernétiques à la sécurité nationale", a déclaré un porte-parole du DOJ à Decrypt. « Nous continuons d’évoluer dans la manière dont nous défendons et identifions ces acteurs. »
Selon des documents publiés par l'agence, les cybercriminels ont utilisé l'IA générative pour créer de faux profils sur les réseaux sociaux, dont beaucoup prétendaient être américains, qui ont ensuite été utilisés pour publier des messages pro-russes sur Twitter.
"Les actions d'aujourd'hui représentent une première dans la perturbation d'une ferme de robots de médias sociaux générative et améliorée par l'IA parrainée par la Russie", a déclaré Christopher Wray, directeur du Federal Bureau of Investigation (FBI) des États-Unis, dans un communiqué.
« La Russie avait l’intention d’utiliser cette ferme de robots pour diffuser la désinformation étrangère générée par l’IA, en intensifiant son travail avec l’aide de l’IA pour affaiblir nos partenaires en Ukraine et influencer les récits géopolitiques favorables au gouvernement russe. »
La ferme de robots aurait utilisé des domaines (mlrtr.com et otanmail.com) émis par le fournisseur de domaines Namecheap basé en Arizona, des services de messagerie privés pour générer des adresses e-mail aléatoires et créé des profils sur Twitter.
Dans un exemple, un compte de robot prétendait être un résident de Minneapolis qui se décrivait comme un « humaniste » et incluait un hashtag pour Bitcoin.
Au total, la ferme de robots a créé plus de 968 comptes Twitter entre le 11 juin 2022 et le 1er mars 2024.
Bien que Namecheap ait déclaré ne pouvoir commenter aucune enquête spécifique, la société a déclaré à Decrypt qu'elle « combat activement toutes les formes d'abus sur notre plateforme ».
"Nous sommes largement reconnus pour nos tactiques efficaces permettant d'identifier et d'éliminer rapidement les mauvais acteurs utilisant nos services", a écrit Namecheap via Twitter. "Nous travaillons aux côtés des forces de l'ordre et mettons en œuvre les assignations à comparaître, les ordonnances judiciaires et/ou les mandats américains liés aux abus ou aux activités illégales sur notre plateforme."
Pour les experts en cybersécurité, les modèles d’IA générative accessibles au public et les outils de développement standardisés sont attrayants pour les cybercriminels parrainés par l’État.
"La combinaison de l'IA générative et des API de développement fournies par des plateformes comme Telegram, X et Meta peut être très dangereuse si elle est utilisée de manière malveillante", a déclaré Steve Walbroehl, co-fondateur et CTO de la société de sécurité blockchain Halborn, via Telegram.
« Dans une situation normale, cette fonctionnalité permet aux utilisateurs d'automatiser, de gérer ou de renforcer leur présence sur les réseaux sociaux. Mais entre les mains d’un mauvais acteur, c’est une méthode très convaincante pour tromper les gens et les communautés en ligne.
Walbroehl a souligné les groupes Telegram, entièrement composés de robots pilotés par l'IA, qui pourraient être utilisés pour créer un faux battage médiatique et une preuve sociale et convaincre des victimes sans méfiance d'investir dans des escroqueries basées sur cet enthousiasme fabriqué, pour ensuite se faire voler leurs investissements par les escrocs contrôlant le réseau. des robots.
"Bien qu'il s'agisse d'une tactique d'ingénierie sociale utilisée pour diffuser de la désinformation à grande échelle, c'est également une tactique utilisée par les escrocs pour aider à "pomper et vider" des pièces de monnaie afin de voler de grandes quantités de capital à des utilisateurs naïfs", a ajouté Walbroehl.
« Les retraits et les avis qui les accompagnent suggèrent que les États-Unis et leurs alliés essaient diverses techniques telles que ces perturbations et saisies… parce que les opérateurs sont actuellement hors de leur portée directe », a observé John Scott-Railton, chercheur principal au Citizen Lab, dans un fil Twitter.
« Attendez-vous à ce que les opérateurs apprennent, évoluent et reviennent immédiatement en ciblant les États-Unis. »
NOUVEAU : @TheJusticeDept vient de perturber une ferme de robots de désinformation Twitter gérée par la Russie et basée sur l'IA.
Près de 1000 comptes sur @X.
Se faisant passer pour des Américains et promouvant les récits du gouvernement russe.
Une enquête fascinante derrière ce 1/https://t.co/QOsWnoVUCf pic.twitter.com/pvbVZM3nLj
– John Scott-Railton (@jsrailton) 9 juillet 2024
L'opération visant à éliminer les faux comptes a débuté en juin avec le dépôt de deux mandats de perquisition et de saisie du tribunal de district des États-Unis pour l'Arizona autorisant la perquisition des serveurs de X Corp (alias Twitter) et la saisie des domaines de Namecheap. Twitter a volontairement suspendu les comptes signalés, invoquant des violations des conditions d'utilisation.
"X est un partenaire important dans cette affaire et nous apprécions leurs efforts volontaires pour supprimer ces robots et mener leur propre enquête", a déclaré le porte-parole du DOJ.
"Alors que des acteurs malveillants accélèrent leur utilisation criminelle de l'IA, le ministère de la Justice réagira et nous donnerons la priorité aux actions perturbatrices avec nos partenaires internationaux et le secteur privé", a déclaré la procureure générale adjointe Lisa Monaco dans un communiqué.
« Nous n’hésiterons pas à fermer les fermes de robots, à saisir les domaines Internet obtenus illégalement et à combattre nos adversaires. »
L'opération a été menée en collaboration avec le FBI, la Cyber National Mission Force, des partenaires gouvernementaux au Canada et aux Pays-Bas, ainsi que des sociétés de médias sociaux, dont Twitter, a indiqué le DOJ.
"Avec ces actions, le ministère de la Justice a perturbé une campagne de propagande soutenue par le gouvernement russe et basée sur l'IA visant à utiliser une ferme de robots pour diffuser de la désinformation aux États-Unis et à l'étranger", a déclaré le procureur général Merrick B. Garland dans un communiqué.
« Alors que le gouvernement russe continue de mener sa guerre brutale en Ukraine et menace les démocraties du monde entier, le ministère de la Justice continuera de déployer toutes nos autorités judiciaires pour contrer l’agression russe et protéger le peuple américain. »
Il ne s’agit pas uniquement de faux comptes Twitter utilisés pour promouvoir les escroqueries et la désinformation. Récemment, une série de cyberattaques ciblant les comptes Twitter légitimes d'artistes de premier plan, notamment le musicien Doja Cat, l'actrice Sydney Sweeney et le légendaire groupe de heavy metal Metallica, ont été utilisées pour promouvoir des escroqueries cryptographiques.