Hong Kong merkezli bir şirketin personeli, kendisinin finans şefi ve birkaç çalışanının kimliğine bürünen deepfake bir videoya kanmasının ardından Ocak 2024'te dolandırıcılara 25 milyon ABD doları bağışladı. Bu olay, finans sektöründe artan karmaşık ve tespit edilmesi zor yapay zeka kaynaklı dolandırıcılık riskinin bir örneği olarak hizmet ediyor. Suçlular, ikna edici derin sahtekarlıklar, sahte konuşmalar ve sahte belgeler üretmek için üretken yapay zeka teknolojisini kullanıyor. Bu nedenle bankacılık sektörü ve müşterileri ciddi tehlike altında.
Bu olay, finansal kurumların şu anda kendilerini içinde buldukları giderek daha tehlikeli hale gelen ortamın iç karartıcı bir habercisidir. Deloitte Finansal Hizmetler Merkezi'nin tahminlerine göre, ABD'deki hırsızlık kayıpları 2027 yılına kadar şaşırtıcı bir şekilde 40 milyar dolara ulaşabilir; bu, 2023'teki 12,3 milyar dolarlık suç zararlarına kıyasla yıllık bazda %32'lik bir artış.
Fotoğraf: “Deloitte”
Üretken Yapay Zekanın Yıkıcı Etkisi
Üretken yapay zekanın yıkıcı potansiyeli, derin sahte videolar, hayali sesler ve sahte belgeler de dahil olmak üzere oldukça ikna edici sentetik medya oluşturma yeteneğinden kaynaklanıyor. Bu teknolojinin kendi kendine öğrenme yetenekleri, önceden tanımlanmış kurallara ve kalıplara dayalı olarak dolandırıcılığı tespit etmek için tasarlanan geleneksel tespit sistemlerini geride bırakarak, aldatıcı yeteneğini sürekli olarak geliştirmektedir.
Dahası, üretken yapay zeka araçlarının karanlık ağdaki erişilebilirliği, bunların kullanılabilirliğini demokratikleştirerek, dolandırıcılık yazılımlarının yalnızca 20 dolardan binlerce dolara kadar değişen fiyatlara kolayca satıldığı, gelişen bir yeraltı pazarını mümkün kıldı. Bu demokratikleşme, çok sayıda dolandırıcılıkla mücadele aracını etkisiz hale getirdi ve finans kurumlarının uyum sağlama konusunda çabalamasına neden oldu.
Fotoğraf: 2023 suç türleri, IC3Report
İş e-postası güvenliği (BEC) saldırıları, üretken yapay zeka dolandırıcılığının özellikle meydana gelme eğiliminde olduğu alanlardan biridir. FBI, yalnızca 2022 yılında 21.832 BEC dolandırıcılığı vakasını belgeledi ve zararların 2,7 milyar doların üzerinde olduğu tahmin ediliyor. Deloitte, "şiddetli" bir uygulama senaryosunda, üretken yapay zekanın e-posta dolandırıcılığı kayıplarını 2027 yılına kadar 11,5 milyar doların üzerine çıkarabileceğini öngörüyor.
Deepfakes'ten Kaynaklanan Potansiyel Kimlik Tehlikesi
Deepfake teknolojisi aynı zamanda tarihsel olarak güvenliğin kalesi olarak görülen kimlik doğrulama prosedürlerini de tehdit ediyor. Son araştırmalara göre finans sektörü, yalnızca 2023 yılında deepfake olaylarında %700 oranında şaşırtıcı bir artış görecek. BT sektörü, sahte ses kayıtlarını tespit etmek için güvenilir yöntemler oluşturma konusunda endişe verici derecede yavaştır ve bu da ciddi bir risk oluşturmaktadır.
Fotoğraf: IC3Report
Her ne kadar geleneksel olarak dolandırıcılıkla mücadelede yeni teknolojileri ilk kullananlar bankalar olsa da, ABD Hazinesi'nin yaptığı bir çalışma, "mevcut risk yönetimi çerçevelerinin yeni ortaya çıkan yapay zeka teknolojilerini kapsamak için yeterli olmayabileceğini" belirten bir uyarı yayınladı. Kurumlar, makine öğrenimi ve yapay zeka yeteneklerini dolandırıcılık tespit ve tepki sistemlerine dahil etmek, şüpheli faaliyetleri daha hızlı tespit etmek ve incelemek için prosedürleri otomatikleştirmek için halihazırda birbirleriyle yarışıyor.
Mastercard'ın Karar İstihbaratı motoru, kredi kartı sahtekarlığına karşı savunmasını güçlendirmek için işlemin gerçekliğini tahmin etmek üzere milyarlarca veri noktasını incelerken JPMorgan, e-posta izinsiz giriş belirtilerini belirlemek için devasa dil modellerini entegre etti.
Sağlıklı Bir Savunma Planı Geliştirmek
Rekabetçi kalabilmek için, üretken yapay zeka dolandırıcılık ortamı sürekli değiştiğinden finansal kurumların farklı bir yaklaşım benimsemesi gerekiyor. İnsan sezgisini çağdaş teknolojilerle birleştirmek, dolandırıcıların yeni stratejilerini tahmin etmek ve engellemek için çok önemlidir. Tehlikeli ortam sürekli olarak geliştiği için, dolandırıcılıkla mücadele ekiplerinin sürekli öğrenme ve uyum sağlama kültürünü benimsemeleri gerekmektedir. Bunun nedeni, hiçbir çözümün durumu yeterince hafifletememesidir.
Fotoğraf: IC3Report
Yönetişimin, kaynak tahsisinin ve stratejinin kapsamlı bir şekilde yeniden yapılandırılması, kurumları sahtekarlığa karşı geleceğe hazır hale getirmek için gerekli olacaktır. Üretken yapay zeka dolandırıcılığının tüm kuruluşlar için tehlike oluşturması nedeniyle finans sektörünün hem içinde hem de dışında birlikte çalışmak önemli olacaktır. Bankalar, güvenilir üçüncü taraf teknoloji tedarikçileriyle birlikte, kesin sorumlulukları tanımlayarak ve yükümlülük sorunlarını çözerek etkili yanıtlar geliştirebilir.
Ayrıca müşteri eğitiminin ve farkındalığının güçlendirilmesi, dolandırıcılığa karşı direnç oluşturmak için çok önemlidir. Bankacılık uygulamalarındaki anlık uyarılar gibi düzenli iletişim temas noktaları, müşterileri olası tehlikeler konusunda bilgilendirebilir ve finansal kurumlarının paralarını korumak için aldıkları önlemleri açıklayabilir.
Düzenleyici kurumların üretken yapay zekanın yararlarına ve risklerine artan ilgisinin bir sonucu olarak kurumlar, yeni düzenlemelerin oluşturulmasında aktif olarak yer alıyor. Bankalar, uyum ekiplerini teknoloji geliştirme sürecinin erken safhalarına dahil ederek sistem ve prosedürlerinin kapsamlı bir kaydını oluşturabilirler. Bu, düzenleyici izlemeyi kolaylaştıracak ve değişen gereksinimlere uygunluğu garanti edecektir.
Yeteneğe ve Devam Eden Yeniliğe Para Harcamak
Unutulmaması gereken en önemli şey, bankaların insan sermayesine yatırım yapmaya, yapay zeka destekli dolandırıcılığı tespit etmek, durdurmak ve raporlamak için personel istihdam etmeye ve eğitmeye yüksek öncelik vermesi gerektiğidir. Bu yatırımlar, finansmana geçici bir yük getirse bile, hızla gelişen bir rakip karşısında diğerlerinden önde olmak için gereklidir.
Üretken yapay zeka dolandırıcılığının incelikleri hakkında bilgi sahibi olan ve veri bilimi, siber güvenlik ve davranışsal analitik gibi alanlardaki bilgileri birleştiren bir iş gücü geliştirmek çok disiplinli bir strateji gerektirir. Finansal kurumlar, sürekli öğrenme ve bilgi paylaşımı kültürünü teşvik ederek yeni tehlikeleri tespit etmek ve proaktif olarak azaltmak için gerekli becerilere sahip personel yetiştirebilir.
Bankalar ayrıca özel dolandırıcılık tespit teknolojileri oluşturmak için sözleşmeli çalışanları, iç mühendislik ekiplerini ve dış yüklenicileri kullanmayı da düşünebilir. Sürekli öğrenme ve adaptasyon kültürünü teşvik eden bu strateji, kaynak tahsisini en üst düzeye çıkarır ve yeni zorluklara hızlı tepki verilmesine olanak tanır.
Consult Hyperion Direktörü David Birch, finansal kurumların yapay zeka kaynaklı kimlik hırsızlığıyla mücadele etmek için sağlam bir plana sahip olmaları gerektiğini belirttiğinde, tanımlamanın ilk savunma hattı olduğunu vurguladı. Hizmetin imajını korumak ve meşru müşterileri korumak için tanımlama sistemlerinin sürekli gelişen dolandırıcılık planlarına direnebilmesi ve bunlara uyum sağlayabilmesi gerektiğini vurguladı.
Üretken yapay zekanın dolandırıcılık ortamını değiştirmeye devam etmesi nedeniyle finansal kurumların uzun süreli bir mücadeleye hazırlanmaları gerekiyor. İşletmeler, en son teknolojiyi insan deneyimi, mevzuata uygunluk ve sektör işbirliğiyle birleştiren proaktif ve çok boyutlu bir yaklaşımın benimsenmesi yoluyla, yapay zekanın yol açtığı giderek artan sayıda son derece karmaşık dolandırıcılık planlarına karşı savunmalarını güçlendirebilir.
Potansiyel kayıpların yalnızca ABD'de 2027 yılına kadar 40 milyar doları aşması bekleniyor, dolayısıyla riskler çok büyük. Ancak finansal kurumlar insana, teknolojiye ve ekip çalışmasına yapılan yatırımlara daha fazla öncelik vererek riskleri azaltabilir ve operasyonlarının bütünlüğünü koruyabilirler. Bu, müşterilerinin giderek daha karmaşık hale gelen dijital ortamda onlara güvenmeye devam edeceğini garanti edecektir.
Deloitte Dolandırıcılık Kayıplarında Büyük Artış Tahmin Ediyor: Üretken Yapay Zeka, ABD Finansal Kurumlarına 2027'ye Kadar 40 Milyar Dolara Maliyet Olabilir yazısı ilk olarak Metaverse Post'ta çıktı.
