TLDR
Yapay zeka, ses klonlama, kişiselleştirilmiş kimlik avı, kimlik sahtekarlığı ve derin sahte şantaj gibi çeşitli dolandırıcılık türlerini geliştirmek için kullanılıyor
Morgan Freeman kendisinin izinsiz yapay zeka ses taklitlerine karşı konuştu
Scarlett Johansson ve Drake gibi ünlüler, yapay zeka tarafından oluşturulan içeriğin kendi seslerini taklit etmesiyle ilgili sorunlarla karşılaştı
Eğlence sektöründe yapay zeka teknolojisinin kötüye kullanılmasına ilişkin endişeler artıyor
Uzmanlar, yapay zeka destekli dolandırıcılıklara karşı korunmak için dikkatli olunmasını ve siber güvenlik konusunda en iyi uygulamaları öneriyor
Yapay zeka (AI) teknolojisi ilerledikçe, dolandırıcılar bu teknolojiyi kötü amaçlarla kullanmanın yeni yollarını buluyor.
Ses klonlamadan derin sahte şantaja kadar yapay zeka destekli dolandırıcılıklar daha karmaşık hale geliyor ve tespit edilmesi zorlaşıyor.
Aynı zamanda ünlüler, yapay zeka tarafından oluşturulan içeriklerde seslerinin ve benzerliklerinin izinsiz kullanılmasına karşı çıkıyor.
En endişe verici AI dolandırıcılıklarından biri, aile ve arkadaşların ses klonlamasını içerir. Dolandırıcılar artık yalnızca birkaç saniyelik ses kullanarak sevdiklerinin seslerinin ikna edici sahte versiyonlarını oluşturabiliyor.
Bu sentetik sesler, para veya yardım isteyen sahte imdat çağrıları oluşturmak için kullanılabilir. Uzmanlar, bilinmeyen numaralardan gelen beklenmedik aramalara karşı dikkatli olunmasını ve arayanın kimliğinin normal iletişim kanalları aracılığıyla doğrulanmasını tavsiye ediyor.
Kişiselleştirilmiş kimlik avı ve spam e-postalar da büyüyen bir başka tehdittir. Yapay zeka dil modelleri artık veri ihlallerinden elde edilen kişisel bilgileri kullanarak özelleştirilmiş spam mesajları oluşturabiliyor.
Bu özel mesajlar, geleneksel genel spam'lardan çok daha ikna edicidir. Mesaj kişiselleştirilmiş görünse bile kullanıcıların dikkatli olmaları ve şüpheli kaynaklardan gelen bağlantılara tıklamaktan veya ekleri açmaktan kaçınmaları tavsiye edilir.
Kimlik sahtekarlığı da yapay zekayla birlikte daha karmaşık hale geliyor. Dolandırıcılar artık hedef kişi gibi görünen ve kimlik doğrulama için kullanılan birçok kişisel bilgiye erişebilen yapay zeka kişilikleri oluşturabiliyor.
Bu, müşteri hizmetleriyle iletişime geçerken bireylerin kimliğine bürünmelerini kolaylaştırır. Uzmanlar, çok faktörlü kimlik doğrulamanın kullanılmasını ve şüpheli hesap etkinliklerine karşı dikkatli olunmasını öneriyor.
Belki de en endişe verici gelişme, yapay zeka tarafından üretilen deepfake'lerin şantaj amacıyla kullanılmasıdır.
Gelişmiş görüntü oluşturma modelleri artık neredeyse herkesin gerçekçi sahte çıplak görüntülerini oluşturabiliyor ve dolandırıcılar bunu gasp için bir araç olarak kullanabilir. Bu rahatsız edici bir eğilim olsa da uzmanlar, bu sahte görsellerin genellikle ayırt edici işaretlerden yoksun olduğunu ve bariz kusurlara sahip olabileceğini belirtiyor. Mağdurların bu tür olayları yetkililere bildirmeleri tavsiye ediliyor.
Eğlence sektörü özellikle izinsiz yapay zeka taklitlerinden etkilendi.
Son zamanlarda aktör Morgan Freeman, kendisinin sosyal medyada dolaşan yapay zeka ses taklitlerine karşı çıktı. Freeman yaptığı açıklamada, hayranlarına "yapay zekanın izinsiz kullanımına dikkat çekmede gösterdikleri dikkat ve destek için" teşekkür etti. ses beni taklit ediyor." Böyle bir teknoloji karşısında "özgünlük ve bütünlüğü" korumanın önemini vurguladı.
İnanılmaz hayranlarıma, bir yapay zekanın izinsiz kullanımına dikkat çekme konusunda gösterdikleri dikkat ve destek için teşekkür ederim. beni taklit eden ses. Adanmışlığınız özgünlük ve bütünlüğün en üst düzeyde kalmasına yardımcı olur. Minnettar.#AI#dolandırıcılık#taklit#IdentityProtection
- Morgan Freeman (@morgan_freeman) 28 Haziran 2024
Freeman endişelerinde yalnız değil. Diğer ünlüler de yapay zeka tarafından oluşturulan içeriklerde benzer sorunlarla karşılaştı.
Scarlett Johansson'un hukuk ekibi yakın zamanda OpenAI'ye, projeye katılmayı reddetmesine rağmen sesine oldukça benzeyen bir yapay zeka kişisel ses asistanı konusunda meydan okudu.
Rapçi Drake ayrıca Tupac Shakur ve Snoop Dogg'un yapay zeka tarafından üretilen taklitlerini bir şarkıda kullandığı için tartışmalarla karşı karşıya kaldı ve bu da Shakur'un malikanesinden bir durdurma ve vazgeçme emrine yol açtı.
Morgan Freeman ve Ünlüler Yetkisiz Yapay Zeka Taklitlerine Karşı Konuşuyor yazısı ilk olarak Blockonomi'de yayınlandı.
