Les institutions financières sont confrontées à une menace croissante liée à la fraude sophistiquée liée à l’IA
De nombreuses institutions financières ont du mal à suivre la sophistication croissante de la fraude basée sur l’IA, ce qui crée un besoin crucial de méthodes de détection et de prévention améliorées.
Dans le monde de la finance, l’intelligence artificielle (IA) est apparue à la fois comme un outil et comme génératrice de nouveaux problèmes. Elle apporte innovation, productivité et efficacité aux entreprises, mais elle a également introduit des défis complexes que de nombreuses institutions financières ne sont pas préparées à relever.
Depuis l’avènement des outils d’IA accessibles, de nombreuses institutions financières sont confrontées à un manque d’outils permettant d’identifier et de séparer avec précision la fraude à l’IA des autres types de fraude.
Cette incapacité à différencier les différents types de fraude au sein de leurs systèmes laisse ces institutions dans un angle mort et rend difficile la compréhension de la portée et de l’impact de la fraude induite par l’IA.
Cointelegraph a entendu Ari Jacoby, expert en fraude à l'IA et PDG de Deduce, pour mieux comprendre comment les institutions financières peuvent identifier et séparer la fraude à l'IA, ce qui peut être fait pour prévenir ce type de fraude avant qu'elle ne se produise et comment sa croissance rapide peut avoir un impact sur le marché. toute l’industrie.
Identification des fraudes par l'IA
Étant donné que le principal défi réside dans le fait que la plupart des institutions financières n’ont actuellement aucun moyen de faire la distinction entre la fraude générée par l’IA et tous les autres types, celle-ci est regroupée en une seule catégorie de fraude.
Jacoby a déclaré que la combinaison d'informations personnelles identifiables légitimes - telles que les numéros de sécurité sociale, les noms et les dates de naissance - avec des adresses e-mail socialement modifiées et des numéros de téléphone légitimes rend la détection par les systèmes existants presque impossible.
Jacoby a déclaré que cela rend la prévention et la correction des principaux facteurs de fraude extrêmement difficiles, en particulier à mesure que de nouveaux types de fraude se multiplient.
« L’IA est particulièrement difficile à détecter en raison de sa capacité à créer des identités synthétiques et réalistes à une échelle qui rend presque impossible son identification par la technologie. »
Selon le PDG de Deduce, le défi des solutions réside dans le fait que la technologie évolue rapidement, tout comme les compétences de ceux qui commettent des fraudes à l’IA. Cela signifie que les institutions financières doivent désormais être au top de leur forme pour comprendre où l’IA entre en jeu dans de tels cas de fraude.
Trouver des solutions
Selon Jacoby, la première étape dans la mise en œuvre de solutions consiste à analyser les modèles d'activité en ligne des individus et des groupes d'identités afin de détecter les actions frauduleuses qui peuvent sembler légitimes mais qui constituent en réalité une fraude.
Il a déclaré que les méthodes traditionnelles de prévention de la fraude ne suffisent tout simplement plus et que les institutions financières devront devenir « sans relâche proactives » dans leur quête pour empêcher l’explosion continue de la fraude générée par l’IA.
Cela ne signifiera probablement pas la mise en œuvre d’une seule solution : cela impliquera la création d’un programme à plusieurs niveaux qui permettra d’identifier les fraudeurs existants persistant au sein de la clientèle existante tout en s’efforçant d’empêcher de nouvelles fausses identités avant leur infiltration.
« En superposant les solutions, en utilisant des ensembles de données massifs pour identifier des modèles et en analysant plus précisément les scores de confiance, ce type de fraude peut être mieux atténué. »
Jacoby a déclaré que la plupart des équipes de lutte contre la fraude financière avec lesquelles ils discutent déplacent le risque « d'un cran vers la droite », tout ce qui était auparavant classé comme à faible risque étant désormais à risque moyen, et qu'elles prennent des mesures supplémentaires pour prévenir la fraude à toutes les étapes de la vie du client. faire du vélo.
« Ils prennent au sérieux la menace de fraude liée à l’IA ; c’est l’un des problèmes majeurs qui affligent le secteur financier, et nous n’en sommes qu’aux premiers stades de l’avancée de cette technologie.
Jacoby a souligné que la fraude a augmenté de 20 % d'une année sur l'autre, l'essor de l'IA augmentant considérablement la prévalence des identités synthétiques.
"La fraude basée sur l'IA est aujourd'hui l'aspect de la fraude à l'identité qui connaît la croissance la plus rapide et représentera un problème de plus de 100 milliards de dollars cette année."
Au-delà des institutions financières traditionnelles, les fausses pièces d’identité générées par l’IA ont également la possibilité de remodeler les mesures KYC des échanges cryptographiques et la cybersécurité dans son ensemble.
Le problème est suffisamment vaste pour qu’il soit déjà examiné par les régulateurs. Le 2 mai, la commissaire de la Commodity Futures Trading Commission (CFTC) des États-Unis, Kristin Johnson, a avancé trois propositions visant à réglementer les technologies de l'IA telles qu'elles s'appliquent aux marchés financiers américains.
En particulier, l’introduction de sanctions plus sévères pour ceux qui utilisent intentionnellement les technologies de l’IA pour se livrer à des fraudes, des manipulations de marché ou pour contourner les réglementations.
Si les institutions financières et les régulateurs n’agissent pas maintenant, ils risquent de ne pas être en mesure de trouver la bonne solution. #Write2Earn