O crime cibernético gerado por IA está se expandindo rapidamente, acelerado pelo lançamento de várias novas ferramentas na darkweb, além da descoberta do WormGPT no mês passado, de acordo com um novo relatório divulgado na terça-feira pela empresa de segurança cibernética SlashNext.
WormGPT e FraudGPT, lançados uma semana depois, são apenas a ponta do iceberg no desenvolvimento de ferramentas de inteligência artificial que os cibercriminosos pretendem empregar contra as vítimas, conclui SlashNext. Somente o FraudGPT foi desenvolvido com a capacidade de criar páginas da web de golpes de phishing, escrever códigos maliciosos, criar ferramentas de hacking e escrever cartas fraudulentas.
Os pesquisadores do SlashNext disseram que contrataram um indivíduo com pseudônimo chamado CanadianKingpin12 via Telegram.
“Durante nossa investigação, assumimos o papel de um comprador potencial para nos aprofundarmos no CanadianKingpin12 e em seu produto, FraudGPT”, disse SlashNext. “Nosso principal objetivo era avaliar se o FraudGPT superou o WormGPT em termos de capacidades tecnológicas e eficácia.”
A equipe conseguiu mais do que esperava quando o vendedor – enquanto exibia o FraudGPT – disse que novos chatbots de IA chamados DarkBart e DarkBert estão chegando. Esses chatbots, afirmou CanadianKingpin12, terão acesso à Internet e podem ser integrados à tecnologia de reconhecimento de imagem do Google, Google Lens, que permitiria ao chatbot enviar texto e imagens.
SlashNext observa que o DarkBert foi inicialmente projetado pela empresa de inteligência de dados S2W como uma ferramenta legítima para combater o crime cibernético, mas que os criminosos claramente redirecionaram a tecnologia para cometer crimes cibernéticos.
CanadianKingpin12 disse aos pesquisadores que DarkBert pode até ajudar em ataques avançados de engenharia social, explorar vulnerabilidades em sistemas de computador e distribuir outros malwares, incluindo ransomware.
"O ChatGPT possui proteções para proteção contra casos de uso ilegais ou nefastos", disse David Schwed, diretor de operações da empresa de segurança blockchain Halborn, ao Decrypt no Telegram. "[WormGPT e FraudGPT] não têm essas proteções, então você pode pedir para desenvolver malware para você."
SlashNext disse que o vendedor foi forçado a mudar as comunicações para aplicativos de mensagens criptografados depois de ser banido de um fórum devido a violações de políticas – especificamente, tentando vender acesso ao FraudGPT por meio de fóruns online na “rede clara” pública.
A rede clara, ou web de superfície, refere-se à Internet geral acessível pelos motores de busca. Nos contratos, a darknet ou darkweb não é indexada pelos motores de busca, e os sites da darknet normalmente não podem ser encontrados por meio de uma pesquisa no Google. Embora a darkweb tenha sido associada a cibercriminosos e a mercados online ilegais como o Silk Road, muitos utilizadores – como jornalistas ou dissidentes políticos – confiam na darkweb para ocultar a sua identidade e proteger a sua privacidade.
Para se defenderem contra o rápido desenvolvimento de ferramentas de cibercrime geradas por IA, a SlashNext aconselha as empresas a serem proativas na sua formação em segurança cibernética e a implementarem medidas melhoradas de verificação de e-mail.
À medida que os cibercriminosos recorrem à IA para criar ferramentas maliciosas mais avançadas, um relatório separado da empresa de segurança web Immunefi afirma que os especialistas em segurança cibernética não estão a ter muita sorte na utilização da IA para combater o crime cibernético. Seu relatório afirma que 64% dos especialistas entrevistados disseram que o chatbot da OpenAI fornecia “precisão limitada”, com 61% afirmando que faltava conhecimento especializado para identificar explorações.
“Embora seja difícil avaliar com precisão o verdadeiro impacto dessas capacidades, é razoável esperar que elas reduzam as barreiras para aspirantes a cibercriminosos”, disse SlashNext. “Além disso, a rápida progressão do WormGPT para o FraudGPT e agora para o DarkBERT em menos de um mês ressalta a influência significativa da IA maliciosa no cenário da segurança cibernética e do crime cibernético.”