As autoridades policiais dos EUA apreenderam dois domínios conectados a um bot farm de mídia social alimentado por IA vinculado ao governo da Rússia, anunciou o Departamento de Justiça dos EUA (DOJ) na terça-feira.

“Este é um forte exemplo da estratégia de interrupção que o Departamento, incluindo o FBI, adotou quando se trata de ameaças cibernéticas e cibernéticas à segurança nacional”, disse um porta-voz do DOJ ao Decrypt. “Continuamos evoluindo na forma como defendemos e identificamos esses atores.”

De acordo com documentos divulgados pela agência, os cibercriminosos usaram IA generativa para criar perfis falsos nas redes sociais, muitos alegando serem americanos, que foram então usados ​​para publicar mensagens pró-Rússia no Twitter.

“As ações de hoje representam a primeira vez na interrupção de uma fazenda de bots de mídia social generativa e aprimorada por IA, patrocinada pela Rússia”, disse o diretor do Federal Bureau of Investigation (FBI) dos EUA, Christopher Wray, em um comunicado. 

“A Rússia pretendia usar esta fazenda de bots para disseminar a desinformação estrangeira gerada pela IA, ampliando o seu trabalho com a assistência da IA ​​para minar os nossos parceiros na Ucrânia e influenciar narrativas geopolíticas favoráveis ​​ao governo russo.”

O bot farm supostamente usou domínios (mlrtr.com e otanmail.com) emitidos pelo provedor de domínio Namecheap, com sede no Arizona, serviços de e-mail privados para gerar endereços de e-mail aleatórios e criou perfis no Twitter. 

Em um exemplo, uma conta de bot supostamente era um residente de Minneapolis que se descreveu como um “humanista” e incluiu uma hashtag para Bitcoin.

No total, o bot farm criou mais de 968 contas no Twitter entre 11 de junho de 2022 e 1º de março de 2024.

Embora a Namecheap tenha dito que não poderia comentar nenhuma investigação específica, a empresa disse ao Decrypt que “combate ativamente todas as formas de abuso em nossa plataforma”.

“Somos amplamente reconhecidos por nossas táticas eficazes para identificar e derrubar rapidamente atores mal-intencionados que usam nossos serviços”, escreveu Namecheap via Twitter. “Trabalhamos em conjunto com as autoridades policiais e implementamos intimações, ordens judiciais e/ou mandados dos EUA relacionados a abuso ou atividades ilegais em nossa plataforma.”

Para os especialistas em segurança cibernética, os modelos generativos de IA disponíveis publicamente e as ferramentas padronizadas para desenvolvedores são atraentes para os cibercriminosos patrocinados pelo Estado.

“A combinação de IA generativa e APIs de desenvolvedor fornecidas por plataformas como Telegram, X e Meta pode ser muito perigosa se usada de forma maliciosa”, disse o cofundador e CTO da empresa de segurança blockchain Halborn, Steve Walbroehl, via Telegram. 

“Numa situação normal, esta funcionalidade permite aos utilizadores automatizar, gerir ou aumentar a sua presença nas redes sociais. Mas nas mãos de um mau ator, é um método muito convincente para enganar as pessoas e as comunidades online.”

Walbroehl apontou para grupos do Telegram, compostos inteiramente por bots controlados por IA, que poderiam ser usados ​​para criar falsa campanha publicitária e prova social e convencer vítimas inocentes a investir em golpes baseados nesse entusiasmo fabricado, apenas para ter seus investimentos roubados pelos golpistas que controlam o robôs.

“Embora seja uma tática de engenharia social usada para distribuir desinformação em grande escala, é também uma tática usada por golpistas para ajudar a ‘bombear e despejar’ moedas meme para roubar grandes quantidades de capital de usuários ingênuos”, acrescentou Walbroehl.

“As remoções e os avisos que as acompanham sugerem que os EUA e aliados estão a tentar várias técnicas como estas perturbações e apreensões… porque os operadores estão atualmente fora do seu alcance direto”, observou John Scott-Railton, investigador sénior do Citizen Lab, num tópico do Twitter. 

“Espere que as operadoras aprendam, evoluam e voltem imediatamente visando os EUA.”

NOVO: @TheJusticeDept acaba de interromper um bot farm de desinformação do Twitter, controlado por IA e controlado pela Rússia.

Quase 1000 contas no @X.

Disfarçados de americanos e promovendo narrativas do governo russo.

Investigação fascinante por trás disso 1/https://t.co/QOsWnoVUCf pic.twitter.com/pvbVZM3nLj

-John Scott-Railton (@jsrailton) 9 de julho de 2024

A operação para erradicar as contas falsas começou em junho com a apresentação de dois mandados de busca e apreensão do Tribunal Distrital dos Estados Unidos para o Arizona, autorizando a busca nos servidores da X Corp (também conhecida como Twitter) e a apreensão dos domínios da Namecheap. O Twitter suspendeu voluntariamente as contas denunciadas, alegando violações dos termos de serviço.

“X é um parceiro importante neste caso e valorizamos seus esforços voluntários para remover esses bots e conduzir sua própria investigação”, disse o porta-voz do DOJ.

“À medida que atores malignos aceleram o uso criminoso indevido da IA, o Departamento de Justiça responderá e daremos prioridade a ações disruptivas com os nossos parceiros internacionais e o setor privado”, disse a procuradora-geral adjunta, Lisa Monaco, num comunicado. 

“Não hesitaremos em encerrar fazendas de bots, confiscar domínios da Internet obtidos ilegalmente e levar a luta até nossos adversários.”

A operação foi conduzida em colaboração com o FBI, a Força Missionária Nacional Cibernética, parceiros governamentais no Canadá e na Holanda, bem como empresas de mídia social, incluindo o Twitter, disse o DOJ.

“Com essas ações, o Departamento de Justiça interrompeu uma campanha de propaganda apoiada pelo governo russo e habilitada por IA para usar um bot farm para espalhar desinformação nos Estados Unidos e no exterior”, disse o procurador-geral Merrick B. Garland em um comunicado. 

“Enquanto o governo russo continua a travar a sua guerra brutal na Ucrânia e a ameaçar as democracias em todo o mundo, o Departamento de Justiça continuará a mobilizar todas as nossas autoridades legais para combater a agressão russa e proteger o povo americano.”

Não são apenas contas falsas do Twitter que são usadas para promover fraudes e desinformação. Recentemente, uma série de ataques cibernéticos direcionados a contas legítimas no Twitter de artistas proeminentes, incluindo a musicista Doja Cat, a atriz Sydney Sweeney e a lendária banda de heavy metal Metallica, foram usados ​​para promover fraudes criptográficas.