As autoridades policiais dos EUA apreenderam dois domínios conectados a um bot farm de mídia social alimentado por IA vinculado ao governo da Rússia, anunciou o Departamento de Justiça dos EUA (DOJ) na terça-feira.
“Este é um forte exemplo da estratégia de interrupção que o Departamento, incluindo o FBI, adotou quando se trata de ameaças cibernéticas e cibernéticas à segurança nacional”, disse um porta-voz do DOJ ao Decrypt. “Continuamos evoluindo na forma como defendemos e identificamos esses atores.”
De acordo com documentos divulgados pela agência, os cibercriminosos usaram IA generativa para criar perfis falsos nas redes sociais, muitos alegando serem americanos, que foram então usados para publicar mensagens pró-Rússia no Twitter.
“As ações de hoje representam a primeira vez na interrupção de uma fazenda de bots de mídia social generativa e aprimorada por IA, patrocinada pela Rússia”, disse o diretor do Federal Bureau of Investigation (FBI) dos EUA, Christopher Wray, em um comunicado.
“A Rússia pretendia usar esta fazenda de bots para disseminar a desinformação estrangeira gerada pela IA, ampliando o seu trabalho com a assistência da IA para minar os nossos parceiros na Ucrânia e influenciar narrativas geopolíticas favoráveis ao governo russo.”
O bot farm supostamente usou domínios (mlrtr.com e otanmail.com) emitidos pelo provedor de domínio Namecheap, com sede no Arizona, serviços de e-mail privados para gerar endereços de e-mail aleatórios e criou perfis no Twitter.
Em um exemplo, uma conta de bot supostamente era um residente de Minneapolis que se descreveu como um “humanista” e incluiu uma hashtag para Bitcoin.
No total, o bot farm criou mais de 968 contas no Twitter entre 11 de junho de 2022 e 1º de março de 2024.
Embora a Namecheap tenha dito que não poderia comentar nenhuma investigação específica, a empresa disse ao Decrypt que “combate ativamente todas as formas de abuso em nossa plataforma”.
“Somos amplamente reconhecidos por nossas táticas eficazes para identificar e derrubar rapidamente atores mal-intencionados que usam nossos serviços”, escreveu Namecheap via Twitter. “Trabalhamos em conjunto com as autoridades policiais e implementamos intimações, ordens judiciais e/ou mandados dos EUA relacionados a abuso ou atividades ilegais em nossa plataforma.”
Para os especialistas em segurança cibernética, os modelos generativos de IA disponíveis publicamente e as ferramentas padronizadas para desenvolvedores são atraentes para os cibercriminosos patrocinados pelo Estado.
“A combinação de IA generativa e APIs de desenvolvedor fornecidas por plataformas como Telegram, X e Meta pode ser muito perigosa se usada de forma maliciosa”, disse o cofundador e CTO da empresa de segurança blockchain Halborn, Steve Walbroehl, via Telegram.
“Numa situação normal, esta funcionalidade permite aos utilizadores automatizar, gerir ou aumentar a sua presença nas redes sociais. Mas nas mãos de um mau ator, é um método muito convincente para enganar as pessoas e as comunidades online.”
Walbroehl apontou para grupos do Telegram, compostos inteiramente por bots controlados por IA, que poderiam ser usados para criar falsa campanha publicitária e prova social e convencer vítimas inocentes a investir em golpes baseados nesse entusiasmo fabricado, apenas para ter seus investimentos roubados pelos golpistas que controlam o robôs.
“Embora seja uma tática de engenharia social usada para distribuir desinformação em grande escala, é também uma tática usada por golpistas para ajudar a ‘bombear e despejar’ moedas meme para roubar grandes quantidades de capital de usuários ingênuos”, acrescentou Walbroehl.
“As remoções e os avisos que as acompanham sugerem que os EUA e aliados estão a tentar várias técnicas como estas perturbações e apreensões… porque os operadores estão atualmente fora do seu alcance direto”, observou John Scott-Railton, investigador sénior do Citizen Lab, num tópico do Twitter.
“Espere que as operadoras aprendam, evoluam e voltem imediatamente visando os EUA.”
NOVO: @TheJusticeDept acaba de interromper um bot farm de desinformação do Twitter, controlado por IA e controlado pela Rússia.
Quase 1000 contas no @X.
Disfarçados de americanos e promovendo narrativas do governo russo.
Investigação fascinante por trás disso 1/https://t.co/QOsWnoVUCf pic.twitter.com/pvbVZM3nLj
-John Scott-Railton (@jsrailton) 9 de julho de 2024
A operação para erradicar as contas falsas começou em junho com a apresentação de dois mandados de busca e apreensão do Tribunal Distrital dos Estados Unidos para o Arizona, autorizando a busca nos servidores da X Corp (também conhecida como Twitter) e a apreensão dos domínios da Namecheap. O Twitter suspendeu voluntariamente as contas denunciadas, alegando violações dos termos de serviço.
“X é um parceiro importante neste caso e valorizamos seus esforços voluntários para remover esses bots e conduzir sua própria investigação”, disse o porta-voz do DOJ.
“À medida que atores malignos aceleram o uso criminoso indevido da IA, o Departamento de Justiça responderá e daremos prioridade a ações disruptivas com os nossos parceiros internacionais e o setor privado”, disse a procuradora-geral adjunta, Lisa Monaco, num comunicado.
“Não hesitaremos em encerrar fazendas de bots, confiscar domínios da Internet obtidos ilegalmente e levar a luta até nossos adversários.”
A operação foi conduzida em colaboração com o FBI, a Força Missionária Nacional Cibernética, parceiros governamentais no Canadá e na Holanda, bem como empresas de mídia social, incluindo o Twitter, disse o DOJ.
“Com essas ações, o Departamento de Justiça interrompeu uma campanha de propaganda apoiada pelo governo russo e habilitada por IA para usar um bot farm para espalhar desinformação nos Estados Unidos e no exterior”, disse o procurador-geral Merrick B. Garland em um comunicado.
“Enquanto o governo russo continua a travar a sua guerra brutal na Ucrânia e a ameaçar as democracias em todo o mundo, o Departamento de Justiça continuará a mobilizar todas as nossas autoridades legais para combater a agressão russa e proteger o povo americano.”
Não são apenas contas falsas do Twitter que são usadas para promover fraudes e desinformação. Recentemente, uma série de ataques cibernéticos direcionados a contas legítimas no Twitter de artistas proeminentes, incluindo a musicista Doja Cat, a atriz Sydney Sweeney e a lendária banda de heavy metal Metallica, foram usados para promover fraudes criptográficas.