Las autoridades policiales estadounidenses confiscaron dos dominios conectados con una granja de bots de redes sociales impulsada por inteligencia artificial vinculada al gobierno de Rusia, anunció el martes el Departamento de Justicia de Estados Unidos (DOJ).

"Este es un claro ejemplo de la estrategia de priorizar la disrupción que el Departamento, incluido el FBI, ha adoptado cuando se trata de amenazas cibernéticas y cibernéticas a la seguridad nacional", dijo un portavoz del Departamento de Justicia a Decrypt. "Seguimos evolucionando en la forma en que defendemos e identificamos a estos actores".

Según documentos publicados por la agencia, los ciberdelincuentes utilizaron IA generativa para crear perfiles falsos en las redes sociales, muchos de los cuales afirmaban ser estadounidenses, que luego se utilizaron para publicar mensajes prorrusos en Twitter.

"Las acciones de hoy representan la primera vez en interrumpir una granja de bots de medios sociales mejorada con IA generativa patrocinada por Rusia", dijo en un comunicado el director de la Oficina Federal de Investigaciones (FBI) de Estados Unidos, Christopher Wray. 

"Rusia tenía la intención de utilizar esta granja de robots para difundir desinformación extranjera generada por IA, ampliando su trabajo con la ayuda de IA para socavar a nuestros socios en Ucrania e influir en las narrativas geopolíticas favorables al gobierno ruso".

La granja de bots supuestamente utilizó dominios (mlrtr.com y otanmail.com) emitidos por el proveedor de dominios Namecheap, con sede en Arizona, servicios de correo electrónico privados para generar direcciones de correo electrónico aleatorias y perfiles creados en Twitter. 

En un ejemplo, una cuenta de bot pretendía ser un residente de Minneapolis que se describió a sí mismo como un "humanista" e incluyó un hashtag para Bitcoin.

En total, la granja de bots creó más de 968 cuentas de Twitter entre el 11 de junio de 2022 y el 1 de marzo de 2024.

Aunque Namecheap dijo que no podía comentar sobre ninguna investigación específica, la compañía le dijo a Decrypt que "combate activamente todas las formas de abuso en nuestra plataforma".

"Somos ampliamente reconocidos por nuestras tácticas efectivas para identificar y acabar rápidamente con los malos actores que utilizan nuestros servicios", escribió Namecheap a través de Twitter. "Trabajamos junto con las autoridades e implementamos citaciones, órdenes judiciales y/o órdenes judiciales estadounidenses relacionadas con abusos o actividades ilegales en nuestra plataforma".

Para los expertos en ciberseguridad, los modelos de IA generativa disponibles públicamente y las herramientas de desarrollo estandarizadas son atractivos para los ciberdelincuentes patrocinados por el Estado.

"La combinación de IA generativa y API de desarrollador proporcionadas por plataformas como Telegram, X y Meta puede ser muy peligrosa si se usa de manera maliciosa", dijo a través de Telegram el cofundador y CTO de la firma de seguridad blockchain Halborn, Steve Walbroehl. 

“En una situación normal, esta funcionalidad permite a los usuarios automatizar, gestionar o aumentar su presencia en las redes sociales. Pero en manos de un mal actor, es un método muy convincente para engañar a las personas y a las comunidades en línea”.

Walbroehl señaló los grupos de Telegram, compuestos en su totalidad por robots impulsados ​​por inteligencia artificial, que podrían usarse para crear publicidad falsa y pruebas sociales y convencer a víctimas desprevenidas para que inviertan en estafas basadas en este entusiasmo fabricado, solo para que los estafadores que controlan el sistema les roben sus inversiones. robots.

"Si bien es una táctica de ingeniería social utilizada para distribuir desinformación a escala, también es una táctica utilizada por los estafadores para ayudar a 'bombear y tirar' monedas meme para robar grandes cantidades de capital de usuarios ingenuos", añadió Walbroehl.

"Los derribos y los avisos que los acompañan sugieren que Estados Unidos y sus aliados están probando varias técnicas como estas interrupciones e incautaciones... porque los operadores están actualmente fuera de su alcance directo", observó el investigador principal del Citizen Lab John Scott-Railton en un hilo de Twitter. 

"Esperemos que los operadores aprendan, evolucionen y regresen inmediatamente apuntando a Estados Unidos".

NUEVO: @TheJusticeDept acaba de interrumpir una granja de robots de desinformación de Twitter con inteligencia artificial administrada por Rusia.

Casi 1000 cuentas en @X.

Se hicieron pasar por estadounidenses y promovieron narrativas del gobierno ruso.

Una investigación fascinante detrás de esto 1/https://t.co/QOsWnoVUCf pic.twitter.com/pvbVZM3nLj

– John Scott-Railton (@jsrailton) 9 de julio de 2024

La operación para erradicar las cuentas falsas comenzó en junio con la presentación de dos órdenes de registro e incautación del Tribunal de Distrito de los Estados Unidos para Arizona que autorizaban la búsqueda de los servidores de X Corp (también conocido como Twitter) y la incautación de los dominios de Namecheap. Twitter suspendió voluntariamente las cuentas denunciadas, citando violaciones de los términos de servicio.

"X es un socio importante en este caso y valoramos sus esfuerzos voluntarios para eliminar estos robots y realizar su propia investigación", dijo el portavoz del Departamento de Justicia.

“A medida que los actores malignos aceleren su uso criminal de la IA, el Departamento de Justicia responderá y daremos prioridad a las acciones disruptivas con nuestros socios internacionales y el sector privado”, dijo la Fiscal General Adjunta Lisa Monaco en un comunicado. 

"No dudaremos en cerrar las granjas de bots, confiscar dominios de Internet obtenidos ilegalmente y luchar contra nuestros adversarios".

La operación se llevó a cabo en colaboración con el FBI, la Cyber ​​National Mission Force, socios gubernamentales de Canadá y los Países Bajos, así como empresas de redes sociales, incluido Twitter, dijo el Departamento de Justicia.

“Con estas acciones, el Departamento de Justicia ha interrumpido una campaña de propaganda respaldada por el gobierno ruso y habilitada por IA para utilizar una granja de robots para difundir desinformación en los Estados Unidos y en el extranjero”, dijo el Fiscal General Merrick B. Garland en un comunicado. 

“Mientras el gobierno ruso continúa librando su brutal guerra en Ucrania y amenaza a las democracias en todo el mundo, el Departamento de Justicia seguirá desplegando todas nuestras autoridades legales para contrarrestar la agresión rusa y proteger al pueblo estadounidense”.

No se trata sólo de cuentas falsas de Twitter que se utilizan para promover estafas y desinformación. Recientemente, se ha utilizado una serie de ataques cibernéticos dirigidos a cuentas legítimas de Twitter de artistas destacados, incluido el músico Doja Cat, la actriz Sydney Sweeney y la legendaria banda de heavy metal Metallica, para promover estafas criptográficas.