La cybercriminalité générée par l'IA se développe rapidement, accélérée par le lancement de plusieurs nouveaux outils sur le darkweb au-delà de la découverte de WormGPT le mois dernier, selon un nouveau rapport publié mardi par la société de cybersécurité SlashNext.
WormGPT et FraudGPT, publiés une semaine plus tard, ne sont que la pointe de l'iceberg dans le développement d'outils d'intelligence artificielle que les cybercriminels visent à utiliser contre leurs victimes, conclut SlashNext. FraudGPT à lui seul a été conçu avec la capacité de créer des pages Web d'escroquerie par phishing, d'écrire du code malveillant, de créer des outils de piratage et d'écrire des lettres frauduleuses.
Les chercheurs de SlashNext ont déclaré avoir engagé un individu pseudonyme nommé CanadianKingpin12 via Telegram.
"Au cours de notre enquête, nous avons assumé le rôle d'un acheteur potentiel pour approfondir nos connaissances sur CanadianKingpin12 et leur produit, FraudGPT", a déclaré SlashNext. "Notre objectif principal était d'évaluer si FraudGPT surpassait WormGPT en termes de capacités technologiques et d'efficacité."
L'équipe a obtenu plus que ce qu'elle avait prévu puisque le vendeur, tout en affichant FraudGPT, a déclaré que de nouveaux chatbots IA appelés DarkBart et DarkBert arrivaient. Selon CanadianKingpin12, ces chatbots auront accès à Internet et pourront s'intégrer à la technologie de reconnaissance d'image de Google, Google Lens, ce qui permettra au chatbot d'envoyer à la fois du texte et des images.
SlashNext note que DarkBert a été initialement conçu par la société de renseignement sur les données S2W comme un outil légitime pour lutter contre la cybercriminalité, mais que les criminels ont clairement réutilisé la technologie pour commettre des cybercrimes.
CanadianKingpin12 a déclaré aux chercheurs que DarkBert peut même participer à des attaques avancées d'ingénierie sociale, exploiter les vulnérabilités des systèmes informatiques et distribuer d'autres logiciels malveillants, notamment des ransomwares.
"ChatGPT a mis en place des garde-fous pour se protéger contre les cas d'utilisation illégaux ou néfastes", a déclaré David Schwed, directeur des opérations de la société de sécurité blockchain Halborn, à Decrypt sur Telegram. "[WormGPT et FraudGPT] ne disposent pas de ces garde-fous, vous pouvez donc leur demander de développer des logiciels malveillants pour vous."
SlashNext a déclaré que le vendeur avait été contraint de basculer ses communications vers des applications de messagerie cryptées après avoir été banni d'un forum en raison de violations de la politique, en particulier en essayant de vendre l'accès à FraudGPT via des forums en ligne sur le « net » public.
Le réseau clair, ou Web de surface, fait référence à l'Internet général accessible par les moteurs de recherche. Dans les contrats, le darknet ou le darkweb n’est pas indexé par les moteurs de recherche, et les sites web du darknet ne peuvent généralement pas être trouvés via une recherche Google. Même si le darkweb est associé à des cybercriminels et à des marchés en ligne illégaux comme la Route de la Soie, de nombreux utilisateurs, comme des journalistes ou des dissidents politiques, s'appuient sur le darkweb pour masquer leur identité et protéger leur vie privée.
Pour se défendre contre le développement rapide d'outils de cybercriminalité générés par l'IA, SlashNext conseille aux entreprises d'être proactives dans leur formation en cybersécurité et de mettre en œuvre des mesures renforcées de vérification des e-mails.
Alors que les cybercriminels se tournent vers l'IA pour créer des outils malveillants plus avancés, un rapport distinct de la société de sécurité Web Immunefi indique que les experts en cybersécurité n'ont pas beaucoup de chance d'utiliser l'IA pour lutter contre la cybercriminalité. Son rapport indique que 64 % des experts interrogés ont déclaré que le chatbot d’OpenAI offrait une « précision limitée », et 61 % d’entre eux ont déclaré qu’il manquait de connaissances spécialisées pour identifier les exploits.
« Bien qu’il soit difficile d’évaluer avec précision le véritable impact de ces capacités, il est raisonnable de s’attendre à ce qu’elles abaissent les barrières pour les aspirants cybercriminels », a déclaré SlashNext. "De plus, la progression rapide de WormGPT vers FraudGPT et maintenant DarkBERT en moins d'un mois souligne l'influence significative de l'IA malveillante sur le paysage de la cybersécurité et de la cybercriminalité."