Zaměstnanec společnosti se sídlem v Hongkongu dal v lednu 2024 podvodníkům 25 milionů USD poté, co se zamiloval do hluboce falešného videa, které se vydávalo za její finanční šéfku a několik zaměstnanců. Tato událost slouží jako příklad rostoucího rizika sofistikovaných a obtížně odhalitelných podvodů řízených umělou inteligencí ve finančním sektoru. Zločinci používají generativní technologii umělé inteligence k vytváření přesvědčivých deepfakes, falešných řečí a padělaných dokumentů. Bankovní sektor a jeho klienti jsou proto ve vážném ohrožení.

Tato epizoda je depresivní předzvěstí stále nebezpečnějšího prostředí, ve kterém se finanční instituce aktuálně nacházejí. Na základě předpovědí Centra pro finanční služby společnosti Deloitte mohou ztráty způsobené krádežemi v USA do roku 2027 dosáhnout ohromujících 40 miliard dolarů – 32% roční nárůst z 12,3 miliardy dolarů za škody způsobené zločinem v roce 2023.

Foto: Deloitte

Rušivý dopad generativní umělé inteligence

Rušivý potenciál generativní umělé inteligence pramení z její schopnosti vytvářet vysoce přesvědčivá syntetická média, včetně hluboce falešných videí, fiktivních hlasů a padělaných dokumentů. Schopnosti samoučení této technologie neustále zlepšují její klamavou schopnost a překonávají tradiční detekční systémy určené k identifikaci podvodů na základě předem definovaných pravidel a vzorů.

Navíc dostupnost generativních nástrojů umělé inteligence na temném webu demokratizovala jejich dostupnost a umožnila prosperující podzemní tržiště, kde se podvodný software snadno prodává za ceny od pouhých 20 dolarů až po tisíce dolarů. Tato demokratizace učinila řadu nástrojů proti podvodům neúčinnými a finanční instituce se musely přizpůsobit.

Foto: 2023 typů kriminality, IC3Report

Útoky na kompromitaci obchodních e-mailů (BEC) jsou jednou z oblastí, kde je generativní podvod s umělou inteligencí obzvláště náchylný. FBI jen v roce 2022 zdokumentovala 21 832 případů podvodů BEC, přičemž škody se odhadují na více než 2,7 miliardy dolarů. Ve scénáři „násilné“ implementace společnost Deloitte plánuje, že generativní umělá inteligence může do roku 2027 zvýšit ztráty z podvodů e-mailů na více než 11,5 miliardy dolarů.

Potenciální nebezpečí identifikace od Deepfakes

Technologie Deepfake také ohrožuje postupy ověřování identity, které byly historicky považovány za pevnost zabezpečení. Podle nedávného výzkumu zažije finanční průmysl jen v roce 2023 překvapivý 700% nárůst v případě deepfake událostí. IT sektor je znepokojivě pomalý při vytváření spolehlivých metod pro odhalování falešných zvukových nahrávek, což představuje vážné riziko.

Foto: IC3Report

Přestože banky byly tradičně prvními, kdo použily nové technologie k boji proti podvodům, studie amerického ministerstva financí vydala varování, že „stávající rámce řízení rizik nemusí být dostatečné pro pokrytí nově vznikajících technologií umělé inteligence“. Instituce již mezi sebou soupeří o začlenění schopností strojového učení a umělé inteligence do svých systémů identifikace a reakce podvodů a automatizují postupy k rychlejší identifikaci a prozkoumání sporných aktivit.

Aby posílil svou obranu proti podvodům s kreditními kartami, engine Decision Intelligence společnosti Mastercard zkoumá miliardy datových bodů, aby předvídal autentičnost transakcí, zatímco JPMorgan integroval obrovské jazykové modely pro identifikaci náznaků narušení e-mailu.

Vypracování zdravého obranného plánu

Aby finanční instituce zůstaly konkurenceschopné, musí zaujmout diverzifikovaný přístup, protože prostředí generativních podvodů s umělou inteligencí se neustále mění. Kombinace lidské intuice se současnými technologiemi je zásadní pro předvídání a maření nových strategií podvodníků. Vzhledem k tomu, že nebezpečné prostředí se neustále vyvíjí, musí týmy pro boj proti podvodům přijmout kulturu neustálého učení a přizpůsobování. Je to proto, že žádné řešení nemůže situaci adekvátně zmírnit.

Foto: IC3Report

Restrukturalizace řízení, alokace zdrojů a komplexní strategie budou nezbytné pro budoucí instituce odolné proti podvodům. Spolupráce uvnitř i vně finančního sektoru bude zásadní, protože generativní podvody s umělou inteligencí představují nebezpečí pro celé organizace. Spolu se spolehlivými dodavateli technologií třetích stran mohou banky vyvinout efektivní reakce tím, že definují přesné odpovědnosti a vyřeší problémy s odpovědností.

Kromě toho je pro budování odolnosti proti podvodům zásadní posílení vzdělávání a informovanosti zákazníků. Běžné komunikační kontaktní body, jako jsou push výstrahy v bankovních aplikacích, mohou klienty upozorňovat na možná nebezpečí a popisovat opatření, která jejich finanční instituce přijímají k ochraně svých peněz. 

Instituce se aktivně podílejí na vytváření nových regulací v důsledku zvýšené pozornosti regulačních agentur k výhodám a rizikům generativní umělé inteligence. Banky mohou vytvářet důkladné záznamy o svých systémech a postupech tím, že zahrnou týmy pro dodržování předpisů v raných fázích procesu vývoje technologie. To usnadní regulační monitorování a zaručí shodu s měnícími se požadavky.

Vkládání peněz do talentu a neustálé inovace

Nejdůležitější věcí k zapamatování je, že banky musí klást vysokou prioritu na investice do lidského kapitálu, zaměstnávání a vzdělávání zaměstnanců, aby rozpoznali, zastavili a nahlásili podvody s pomocí AI. Tyto investice jsou nezbytné k udržení náskoku tváří v tvář rychle se rozvíjejícímu protivníkovi, i když mohou dočasně zatížit finance.

Rozvoj pracovní síly, která má znalosti o jemnosti generativních podvodů s umělou inteligencí, vyžaduje multidisciplinární strategii a kombinuje znalosti z oblastí, jako je datová věda, kybernetická bezpečnost a behaviorální analytika. Finanční instituce mohou rozvíjet zaměstnance s nezbytnými dovednostmi k identifikaci a proaktivnímu zmírňování nových nebezpečí podporou kultury neustálého učení a sdílení informací.

Banky mohou také zvážit použití smluvních pracovníků, interních inženýrských týmů a externích dodavatelů k vytvoření vlastních technologií pro detekci podvodů. Tím, že podporuje kulturu neustálého učení a přizpůsobování, tato strategie maximalizuje alokaci zdrojů a umožňuje rychlé reakce na nové výzvy.

Když David Birch, ředitel Consult Hyperion, prohlásil, že finanční instituce potřebují mít solidní plán, jak se vypořádat s krádeží identity řízenou umělou inteligencí, zdůraznil, že identifikace je první linií obrany. Dále zdůraznil, že identifikační systémy musí být schopny odolat neustále se vyvíjejícím podvodným schématům a přizpůsobit se jim, aby chránily image služby a chránily legitimní klienty.

Finanční instituce se musí připravit na vleklý boj, protože generativní umělá inteligence neustále mění prostředí podvodů. Prostřednictvím přijetí proaktivního a vícerozměrného přístupu, který integruje nejmodernější technologii s lidskou zkušeností, dodržováním předpisů a průmyslovou spoluprací, mohou podniky posílit svou obranu proti rostoucímu počtu extrémně složitých podvodných schémat poháněných umělou inteligencí.

Očekává se, že potenciální ztráty překročí 40 miliard dolarů jen ve Spojených státech do roku 2027, takže sázky jsou obrovské. Finanční instituce však mohou snížit rizika a chránit integritu svých operací tím, že dají vyšší prioritu investicím do lidí, technologií a týmové práce. To zaručí, že jejich klienti jim budou i nadále věřit ve stále komplikovanějším digitálním prostředí.

The post Deloitte předpovídá explozivní nárůst ztrát z podvodů: Generativní umělá inteligence by mohla stát americké finanční instituce do roku 2027 40 miliard dolarů appeared first on Metaverse Post.