Deepfake dolandırıcılıkları, Hong Kong Menkul Kıymetler ve Vadeli İşlemler Komisyonu'nun uyardığı rahatsız edici bir trend. Bu dolandırıcılıklar kripto işini etkiliyor. Dolandırıcılar, en son yapay zeka teknolojisini kullanarak insanları kandırmak için Elon Musk gibi tanınmış kişileri tasvir eden derin sahte filmler gibi karmaşık stratejiler kullanıyor. Sahte kripto planlarının reklamını yapmak için deepfake teknolojisini kullanan Hong Kong merkezli bir kuruluşun son vakasını inceleyeceğiz ve bu tür dürüst olmayan taktiklerin daha geniş sonuçlarını aydınlatacağız.
2024'te Deepfake Dolandırıcılığının Yükselişi
Teknik yeniliklerin hızlı olduğu bir dönemde yaşadığımız için dolandırıcılar, dijital ekosistemlerdeki zayıflıklardan yararlanmak için stratejilerini sürekli değiştiriyor. Deepfake teknolojisi, bilgisayar korsanlarının alet çantasında güçlü bir silah haline geldi. Hedeflenen kişilerin seslerini ve yüz ifadelerini taklit etmek için AI algoritmalarını kullanır. Bu gerçekçi simülasyonların kullanımıyla sanatçılar sahte ses veya video kayıtları üretebilir ve sahtekarlık eylemleri gerçekleştirmek için başarılı bir şekilde tanınmış kişilermiş gibi davranabilirler.
2024'te dünya çapında 40'tan fazla seçimle birlikte bu önemli bir konu haline geldi. Teknolojideki, özellikle de deepfake gibi sentetik medyadaki ilerlemeler, medyanın bir bilgisayar tarafından mı üretildiğini yoksa gerçek olaylara mı dayandığını belirlemeyi zorlaştırdı. Deepfake'lerin seçimler üzerindeki etkisi belirsizliğini koruyor ancak örnekler, bunların çeşitli şekillerde kullanılabileceğini gösteriyor.
Akademisyenler bu konuyla ilgili birçok makale ve kitap yayınladılar. Gazeteciler doğrulama ve doğrulama amaçlı eğitimler almış, hükümetler “büyük komitelerde” ve üstünlük merkezlerinde yer almıştır. Dayanıklılık stratejilerinin geliştirilmesi, kütüphaneleri odak noktaları haline getirdi. Kaynak, eğitim ve analiz sunmak için bazı yeni kuruluşlar ortaya çıktı. Bu çalışmanın sonucunda sosyal, psikolojik, politik ve teknik bir olgu olarak yanlış bilgilendirmeye ilişkin daha sofistike bir anlayış ortaya çıktı.
Siyasi deepfake'ler, kadınlara ve kızlara zorbalık yapmak ve kötü muamelede bulunmak ya da göreve aday olanlar hakkında yanlış bilgiler yaymak gibi birçok biçime bürünebilir. Deepfake sesin karmaşıklığı onu tanımlamayı zorlaştırıyor ve deepfake seslerin hâlâ emekleme aşamasında olduğunu ve yüksek kaliteden yoksun olduğunu unutmamak çok önemli.
Bu dolandırıcının alması gereken miktar sıfır dolar. pic.twitter.com/wvM3HJYql6
- Dr. Anastasia Maria Loupis (@DrLoupis) 13 Şubat 2024
Olası olayların oylama komisyonları, adaylar, medya ve seçmenler tarafından nasıl ele alınacağı belirsizliğini koruyor. Demokratik seçimlerin bütünlüğü, sahtekarların beceriksizliğine bağlı olamaz. Demokrasiyi baltalamak için kullanılan bir diğer taktik de seçim sürecinin geçerliliğine ilişkin söylentilerin ve komploların yayılmasıdır.
Bir sonraki seçim öncesinde yanlış bilgi sorunuyla mücadele etmek için demokratik süreçlerin dayanıklılığı dikkate alınmalıdır. Üstün soruşturmalar sağlayabilecek tarafsız bir medya sistemi kamu yararına hizmet ediyor mu? Gerektiğinde karar verebilecek bağımsız mahkemeler mevcut mu? Politikacılar ve siyasi partiler demokratik ilkelere kişisel çıkarların önünde yeterince öncelik veriyor mu? Bu soruların yanıtları bu seçim yılında ortaya çıkabilir.
Hong Kong Dolandırıcılığı Ortaya Çıktı
Son zamanlarda, Hong Kong Menkul Kıymetler ve Vadeli İşlemler Komisyonu, AI Quantum veya Quantum AI adını kullanan bir grubun dahil olduğu endişe verici bir vaka hakkında kamuya bilgi verdi. Bu suç örgütü, son teknoloji ürünü yapay zeka destekli bitcoin ticaret hizmetleri sağladığını iddia etti. Ancak soruşturmacıların bulduğu kanıtlar, kuruluşun sanal varlıklarla ilgili dolandırıcılık faaliyetlerinde paravan olarak hareket ettiğine işaret ediyor.
Hong Kong Merkezli Kripto Borsası, Hizmetleri Tanıtmak İçin Elon Musk'un Deepfake'ini Kullanıyor pic.twitter.com/GG61JbT3R9
— CryptoAlerts365 (@CryptoAlerts365) 13 Mayıs 2024
Failler, planlarının güvenilirliğini artırmak için, Elon Musk'u yanlış bir şekilde teknolojilerinin arkasındaki deha olarak tasvir eden deepfake videolardan yararlanmaya başvurdular. Dolandırıcılar, bu uydurma klipleri yayarak ve sahte bir "haber" sitesi kurarak potansiyel kurbanları kandırmaya ve yasa dışı çabalarını meşrulaştırmaya çalıştı. Bu güven manipülasyonu, deepfake dolandırıcılıklarının sinsi doğasını ve bunların dijital ortamda gezinen şüphelenmeyen bireyler için yarattığı zorlukları vurguluyor.
Koreli bir kadın, Elon Musk'un sahte bir videosuna aşık oldu ve dolandırıcıya 50 bin dolardan fazla para gönderdi pic.twitter.com/6x8AIJvmrb
- Pubity (@pubity) 5 Mayıs 2024
Hızlı Eylem ve Devam Eden Endişeler
Hong Kong yetkililerinin acil müdahalesi, grubun tüm web sitelerinin ve sosyal medya sayfalarının kapatılmasına yol açtı. Ancak dolandırıcılığın yol açtığı hasarın tam boyutu hala bilinmiyor; bu da daha fazla dikkat ve sağlam siber güvenlik önlemlerine acil ihtiyaç olduğunu gösteriyor. Bu olay, deepfake teknolojisinin oluşturduğu yaygın tehdidin ve bu teknolojinin kötü niyetli istismarına karşı korunma zorunluluğunun açık bir hatırlatıcısıdır.
Bu dava münferit bir olay değildir; bu, dolandırıcıların dünya çapında dolandırıcılık planları yapmak için deepfake teknolojisini kullandığı daha geniş bir eğilimin parçası. Nijerya'daki "Yahoo Boys" gibi kötü şöhretli gruplar tarafından gerçekleştirilen aşk dolandırıcılıklarından, Elon Musk gibi yüksek profilli kişileri ve Singapur Başbakanı Lee Hsien Loong gibi siyasi liderleri hedef alan ayrıntılı kimliğe bürünme taktiklerine kadar, derin sahte dolandırıcılıkların çoğalması, bunun geniş kapsamlı sonuçlarının altını çiziyor teknolojik manipülasyondur.
Kongrenin yokluğunda eyaletler ve uluslararası düzenleyiciler, yapay zeka tarafından üretilen seçim içeriğinin yayılmasını kontrol etmek için harekete geçiyor. Yaklaşık on eyalet, yapay zekayı seçmenleri aldatmak için kullananları cezalandırmak için yasalar kabul etti; Wisconsin valisi, yapay zekayı siyasi reklamlarda ifşa etmeyen kişilere para cezası verecek iki partili bir yasa tasarısını imzaladı. Michigan yasaları, yapay zeka tarafından üretilen bir deepfake'i seçimden sonraki 90 gün içinde bilerek yayan herkesi cezalandırıyor. Ancak cezaların potansiyel suçluları caydırmaya yeterli olup olmadığı belli değil. Sınırlı tespit teknolojisi ve az sayıda belirlenmiş personel nedeniyle uygulayıcılar, bir videonun veya görüntünün gerçekten yapay zeka tarafından üretilip üretilmediğini hızlı bir şekilde doğrulamakta zorlanabilir.
Hükümet yetkilileri, yapay zeka tarafından üretilen seçim içeriğinin yayılmasını kontrol etmek için politikacılardan ve teknoloji şirketlerinden gönüllü anlaşmalar istiyor. Avrupa Komisyonu Başkan Yardımcısı Vera Jourova, Avrupa üye ülkelerindeki önemli siyasi partilere, manipülatif tekniklerin kullanılmasına direnmeleri için mektuplar gönderdi, ancak politikacılar ve siyasi partiler, onun talebini yerine getirmemeleri halinde hiçbir sonuçla karşılaşmayacak.
OpenAI, yapay zeka tarafından üretilen siyasi materyallerin dağıtımını ele almak için sosyal medya şirketleriyle ilişkiler kurmaya çalıştı. Ancak şirketler taahhütlerini yerine getirmedikleri takdirde herhangi bir cezayla karşılaşmayacaklar.
Toplum, deepfake teknolojisinin ortaya çıkardığı etik ve düzenleyici zorluklarla boğuşurken, bunun kötüye kullanımıyla mücadele etmek, farklı sektörlerdeki paydaşların ortak çabalarını gerektiriyor. Dijital ekosistemleri dolandırıcılıktan korumak için farkındalığın artırılması ve sıkı yaptırım önlemleri hayati önem taşıyor. Gerçekliğin sorunsuz bir şekilde manipüle edilebildiği bir çağda, sürekli gelişen çevrimiçi etkileşim ortamında yön bulmada anlayış ve şüphecilik son derece önemlidir.
Hong Kong Menkul Kıymetler Komisyonu, Kripto Sektörünü Hedef Alan Deepfake Dolandırıcılıkları Konusunda Uyardı: Yatırımcı Güvenliğine Yönelik Etkiler yazısı ilk olarak Metaverse Post'ta ortaya çıktı.
