Un membru al personalului unei companii cu sediul în Hong Kong le-a dat escrocilor 25 de milioane de dolari în ianuarie 2024, după ce s-a îndrăgostit de un videoclip fals care i-a uzurpat șeful ei de finanțe și mai mulți membri ai personalului. Acest eveniment servește ca un exemplu al riscului tot mai mare de fraudă sofisticată și dificilă de detectat în sectorul financiar. Infractorii folosesc tehnologia AI generativă pentru a produce deepfake convingătoare, discurs fals și documente falsificate. Acesta este motivul pentru care sectorul bancar și clienții săi sunt în pericol grav.

Acest episod este un precursor deprimant al mediului din ce în ce mai periculos în care se află în prezent instituțiile financiare. Pe baza previziunilor Centrului pentru Servicii Financiare de la Deloitte, pierderile cauzate de furturi în SUA ar putea ajunge la 40 de miliarde de dolari până în 2027 – o creștere anuală de 32% față de cele 12,3 miliarde de dolari în daune din 2023.

Foto: Deloitte

Impactul perturbator al IA generativă

Potențialul perturbator al IA generativă provine din capacitatea sa de a crea medii sintetice extrem de convingătoare, inclusiv videoclipuri deepfake, voci fictive și documente falsificate. Capacitățile de auto-învățare ale acestei tehnologii își îmbunătățesc în mod continuu priceperea înșelătoare, depășind sistemele tradiționale de detectare concepute pentru a identifica frauda pe baza unor reguli și modele predefinite.

Mai mult, accesibilitatea instrumentelor AI generative pe dark web a democratizat disponibilitatea acestora, permițând o piață subterană înfloritoare, unde software-ul de escrocherie este ușor vândut la prețuri cuprinse între doar 20 de dolari și mii de dolari. Această democratizare a făcut ca numeroase instrumente antifraudă să fie ineficiente, lăsând instituțiile financiare gata să se adapteze.

Foto: 2023 tipuri de crime, IC3Report

Atacurile de compromitere a e-mailurilor de afaceri (BEC) sunt un domeniu în care frauda generativă AI este deosebit de predispusă să apară. FBI a documentat 21.832 de cazuri de fraudă BEC doar în 2022, pagubele estimate la peste 2,7 miliarde de dolari. Într-un scenariu de implementare „violent”, Deloitte proiectează că AI generativă poate crește pierderile de fraudă prin e-mail la peste 11,5 miliarde de dolari până în 2027.

Un pericol potențial pentru identificarea de la Deepfakes

Tehnologia Deepfake amenință, de asemenea, procedurile de verificare a identității, care din trecut au fost văzute ca un bastion al securității. Potrivit cercetărilor recente, industria financiară va vedea o creștere uimitoare de 700% a evenimentelor deepfake numai în 2023. Sectorul IT este îngrijorător de lent în a crea metode fiabile pentru identificarea înregistrărilor audio false, ceea ce expune un risc serios.

Foto: IC3Report

Chiar dacă în mod tradițional, băncile au fost primele care au folosit tehnologii noi pentru a combate frauda, ​​un studiu al Trezoreriei SUA a emis un avertisment, afirmând că „cadrurile existente de gestionare a riscurilor ar putea să nu fie adecvate pentru a acoperi tehnologiile IA emergente”. Instituțiile se luptă deja între ele pentru a încorpora capabilități de învățare automată și inteligență artificială în sistemele lor de identificare și reacție a înșelătoriilor, automatizând procedurile pentru a identifica și a analiza mai rapid activitățile îndoielnice.

Pentru a-și consolida apărarea împotriva fraudei cu cardul de credit, motorul Decision Intelligence al Mastercard examinează miliarde de puncte de date pentru a anticipa autenticitatea tranzacțiilor, în timp ce JPMorgan a integrat modele de limbaj uriașe pentru a identifica indicii de intruziune a e-mailului.

Dezvoltarea unui plan de apărare sănătos

Pentru a rămâne competitive, instituțiile financiare trebuie să adopte o abordare diversificată, deoarece mediul generativ de fraudă AI se schimbă în mod constant. Combinarea intuiției umane cu tehnologiile contemporane este crucială pentru a anticipa și a contracara noile strategii ale escrocilor. Întrucât mediul periculos este în continuă evoluție, echipele antifraudă trebuie să adopte o cultură de învățare și adaptare constantă. Acest lucru se datorează faptului că nicio soluție nu poate atenua în mod adecvat situația.

Foto: IC3Report

Restructurarea guvernanței, a alocării resurselor și a strategiei într-un mod cuprinzător va fi necesară pentru ca instituțiile să fie rezistente la viitor împotriva fraudei. Lucrul împreună atât în ​​interiorul, cât și în afara sectorului financiar va fi esențial, deoarece frauda generativă AI reprezintă un pericol pentru organizații întregi. Împreună cu furnizori terți de încredere de tehnologie, băncile pot dezvolta răspunsuri eficiente prin definirea responsabilităților precise și rezolvarea problemelor de răspundere.

În plus, consolidarea educației și conștientizării clienților este esențială pentru construirea rezistenței împotriva fraudei. Punctele de contact obișnuite de comunicare, cum ar fi alertele push pentru aplicațiile bancare, pot notifica clienții despre posibilele pericole și pot descrie măsurile de precauție pe care instituțiile lor financiare le iau pentru a-și proteja banii. 

Instituțiile sunt implicate activ în crearea de noi reglementări ca urmare a atenției sporite a agențiilor de reglementare față de beneficiile și riscurile AI generative. Băncile pot crea o evidență detaliată a sistemelor și procedurilor lor prin includerea echipelor de conformitate la începutul procesului de dezvoltare a tehnologiei. Acest lucru va facilita monitorizarea reglementărilor și va garanta conformitatea cu cerințele în schimbare.

Punerea de bani în talent și inovare continuă

Cel mai important lucru de reținut este că băncile trebuie să acorde o prioritate ridicată investițiilor în capitalul uman, angajării și educând membrii personalului să recunoască, să oprească și să raporteze fraudele ajutate de IA. Aceste investiții sunt necesare pentru a se menține în fruntea curbei în fața unui oponent care se dezvoltă rapid, chiar dacă pot pune temporar o povară asupra finanțelor.

Este nevoie de o strategie multidisciplinară pentru a dezvolta o forță de muncă care cunoaște subtilitățile fraudei AI generative, combinând cunoștințele din domenii precum știința datelor, securitatea cibernetică și analiza comportamentală. Instituțiile financiare pot dezvolta personal cu abilitățile necesare pentru a identifica și a atenua în mod proactiv noile pericole prin promovarea unei culturi a învățării continue și a schimbului de informații.

Băncile pot lua în considerare, de asemenea, utilizarea lucrătorilor contractuali, a echipelor interne de inginerie și a contractorilor externi pentru a crea tehnologii de detectare a fraudei proprietare. Încurajând o cultură a învățării și adaptării continue, această strategie maximizează alocarea resurselor și permite reacții rapide la noile provocări.

Când David Birch, directorul Consult Hyperion, a declarat că instituțiile financiare trebuie să aibă un plan solid pentru a aborda furtul de identitate determinat de AI, el a subliniat că identificarea este prima linie de apărare. El a continuat subliniind că sistemele de identificare trebuie să poată rezista și să se adapteze schemelor de fraudă în continuă evoluție pentru a proteja imaginea serviciului și pentru a proteja clienții legitimi.

Instituțiile financiare trebuie să se pregătească pentru o luptă prelungită, deoarece IA generativă continuă să schimbe mediul fraudei. Prin adoptarea unei abordări proactive și multidimensionale care integrează tehnologia de ultimă oră cu experiența umană, conformitatea cu reglementările și colaborarea cu industrie, companiile își pot consolida apărarea împotriva numărului tot mai mare de scheme de fraudă extrem de complexe conduse de inteligența artificială.

Se preconizează că pierderile potențiale vor depăși 40 de miliarde de dolari numai în Statele Unite până în 2027, așa că mizele sunt enorme. Cu toate acestea, instituțiile financiare pot reduce riscurile și pot proteja integritatea operațiunilor lor, acordând o prioritate mai mare investițiilor în oameni, tehnologie și lucru în echipă. Acest lucru va garanta că clienții lor vor continua să aibă încredere în ei într-un mediu digital din ce în ce mai complicat.

Postarea Deloitte prezice o creștere explozivă a pierderilor prin fraudă: inteligența artificială generativă ar putea costa instituțiile financiare din SUA 40 de miliarde de dolari până în 2027 a apărut prima dată pe Metaverse Post.