У січні 2024 року співробітниця гонконзької компанії віддала шахраям 25 мільйонів доларів США після того, як потрапила на глибоке фейкове відео, яке видавало себе за її фінансового керівника та кількох співробітників. Ця подія є прикладом зростаючого ризику складного та складного для виявлення шахрайства за допомогою ШІ у фінансовому секторі. Злочинці використовують генеративну технологію штучного інтелекту для створення переконливих дипфейків, фальшивих промов і підроблених документів. Тому банківський сектор та його клієнти знаходяться у серйозній небезпеці.

Цей епізод є гнітючим попередником дедалі небезпечнішого середовища, в якому зараз перебувають фінансові установи. Згідно з прогнозами Центру фінансових послуг Deloitte, збитки від крадіжок у США можуть сягнути приголомшливих 40 мільярдів доларів до 2027 року — це на 32% річне збільшення порівняно з 12,3 мільярдами доларів США у 2023 році.

Фото: Deloitte

Руйнівний вплив Generative AI

Проривний потенціал Generative AI випливає з його здатності створювати дуже переконливі синтетичні медіа, включаючи глибокі підроблені відео, вигадані голоси та підроблені документи. Можливості самонавчання цієї технології постійно вдосконалюють її здатність до омани, випереджаючи традиційні системи виявлення, призначені для виявлення шахрайства на основі попередньо визначених правил і шаблонів.

Більше того, доступність генеративних інструментів штучного інтелекту в темній мережі демократизувала їх доступність, створивши процвітаючий підпільний ринок, де шахрайське програмне забезпечення легко продається за ціною від 20 доларів до тисяч доларів. Ця демократизація зробила численні інструменти боротьби з шахрайством неефективними, змушуючи фінансові установи з усіх сил адаптуватися.

Фото: 2023 види злочинів, IC3Report

Напади на компрометацію ділової електронної пошти (BEC) є однією із сфер, де особливо схильне до генеративного шахрайства ШІ. Лише у 2022 році ФБР задокументувало 21 832 випадки шахрайства з BEC, збитки яких оцінюють у понад 2,7 мільярда доларів. У «насильницькому» сценарії впровадження Deloitte прогнозує, що генеративний штучний інтелект може збільшити збитки від шахрайства електронною поштою до понад 11,5 мільярдів доларів до 2027 року.

Потенційна небезпека для ідентифікації через Deepfakes

Технологія Deepfake також загрожує процедурам перевірки особи, які історично вважалися оплотом безпеки. Згідно з нещодавніми дослідженнями, лише у 2023 році фінансова індустрія побачить приголомшливий 700-відсотковий сплеск подій deepfake. ІТ-сектор надзвичайно повільно створює надійні методи виявлення фальшивих аудіозаписів, що створює серйозний ризик.

Фото: IC3Report

Незважаючи на те, що традиційно банки були першими, хто використовував новітні технології для боротьби з шахрайством, дослідження, проведене Казначейством США, випустило попередження, в якому зазначено, що «існуючі системи управління ризиками можуть бути недостатніми для охоплення нових технологій ШІ». Установи вже змагаються одна з одною, щоб включити можливості машинного навчання та штучного інтелекту в свої системи ідентифікації та реагування на шахрайство, автоматизувавши процедури для більш швидкої ідентифікації та вивчення сумнівної діяльності.

Щоб посилити захист від шахрайства з кредитними картками, система Decision Intelligence від Mastercard перевіряє мільярди точок даних, щоб передбачити автентичність транзакцій, а JPMorgan інтегрував величезні мовні моделі для виявлення ознак вторгнення електронної пошти.

Розробка повноцінного плану захисту

Щоб залишатися конкурентоспроможними, фінансові установи повинні застосовувати диверсифікований підхід, оскільки середовище шахрайства зі штучним інтелектом постійно змінюється. Поєднання людської інтуїції з сучасними технологіями має вирішальне значення для передбачення та запобігання новим стратегіям шахраїв. Оскільки небезпечне середовище постійно змінюється, командам із боротьби з шахрайством необхідно прийняти культуру постійного навчання та адаптації. Це тому, що жодне рішення не може адекватно полегшити ситуацію.

Фото: IC3Report

Реструктуризація управління, розподіл ресурсів і комплексна стратегія будуть необхідні для того, щоб інституції захищалися від шахрайства в майбутньому. Спільна робота як у фінансовому секторі, так і за його межами буде дуже важливою, оскільки шахрайство зі штучним інтелектом становить небезпеку для цілих організацій. Разом із надійними сторонніми постачальниками технологій банки можуть розробити ефективні заходи, визначивши чіткі обов’язки та вирішуючи питання відповідальності.

Крім того, посилення освіти та обізнаності клієнтів має важливе значення для створення стійкості до шахрайства. Звичайні точки зв’язку, як-от push-сповіщення в банківських програмах, можуть сповіщати клієнтів про можливі небезпеки та описувати запобіжні заходи, яких їхні фінансові установи вживають, щоб захистити їхні гроші. 

Інституції активно беруть участь у створенні свіжих нормативних актів у результаті підвищеної уваги регуляторних органів до переваг і ризиків генеративного ШІ. Банки можуть створити ретельний облік своїх систем і процедур, включивши команди відповідності на початку процесу розробки технологій. Це полегшить регулятивний моніторинг і гарантує відповідність мінливим вимогам.

Вкладайте гроші в таланти та постійні інновації

Найважливіше пам’ятати, що банки повинні надавати пріоритет інвестуванню в людський капітал, найму та навчанню співробітників розпізнавати, припиняти та повідомляти про шахрайство за допомогою ШІ. Ці інвестиції необхідні, щоб залишатися попереду перед обличчям суперника, що швидко розвивається, навіть якщо вони можуть тимчасово обтяжувати фінанси.

Потрібна міждисциплінарна стратегія, щоб створити робочу силу, яка має знання про тонкощі шахрайства зі штучним інтелектом, поєднуючи знання з таких областей, як наука про дані, кібербезпека та поведінкова аналітика. Фінансові установи можуть розвивати персонал з необхідними навичками для виявлення та проактивного пом’якшення нових небезпек, сприяючи культурі постійного навчання та обміну інформацією.

Банки також можуть розглянути можливість залучення контрактних працівників, внутрішніх інженерних груп і зовнішніх підрядників для створення власних технологій виявлення шахрайства. Заохочуючи культуру постійного навчання та адаптації, ця стратегія максимізує розподіл ресурсів і дозволяє швидко реагувати на нові виклики.

Коли Девід Бірч, директор Consult Hyperion, заявив, що фінансовим установам потрібен надійний план боротьби з крадіжкою особистих даних за допомогою ШІ, він підкреслив, що ідентифікація є першою лінією захисту. Далі він підкреслив, що системи ідентифікації повинні мати можливість протистояти шахрайським схемам, що постійно розвиваються, і адаптуватися до них, щоб захистити імідж сервісу та захистити законних клієнтів.

Фінансовим установам необхідно підготуватися до тривалої боротьби, оскільки генеративний ШІ продовжує змінювати середовище шахрайства. Завдяки застосуванню проактивного та багатовимірного підходу, який поєднує найсучасніші технології з людським досвідом, дотриманням нормативних вимог і співпрацею з галуззю, підприємства можуть зміцнити свій захист від зростаючої кількості надзвичайно складних схем шахрайства, керованих штучним інтелектом.

Очікується, що до 2027 року лише в Сполучених Штатах потенційні збитки перевищать 40 мільярдів доларів, тому ставки величезні. Проте фінансові установи можуть зменшити ризики та захистити цілісність своїх операцій, приділяючи вищий пріоритет інвестиціям у людей, технології та командну роботу. Це буде гарантією того, що їхні клієнти й надалі довірятимуть їм у все більш складному цифровому середовищі.

Повідомлення Deloitte прогнозує різке зростання збитків від шахрайства: генеративний штучний інтелект може коштувати фінансовим установам США 40 мільярдів доларів до 2027 року вперше з’явився на Metaverse Post.