ABD Adalet Bakanlığı'nın (DOJ) Salı günü yaptığı açıklamaya göre, ABD kolluk kuvvetleri yetkilileri, Rusya hükümetine bağlı yapay zeka destekli bir sosyal medya bot çiftliğiyle bağlantılı iki alan adını ele geçirdi.
Bir DOJ sözcüsü Decrypt'e şunları söyledi: "Bu, FBI da dahil olmak üzere Bakanlığın ulusal güvenliğe yönelik siber ve siber destekli tehditler söz konusu olduğunda benimsediği kesintiye öncelik verme stratejisinin güçlü bir örneğidir." "Bu aktörleri savunma ve tanımlama şeklimizde gelişmeye devam ediyoruz."
Teşkilatın yayınladığı belgelere göre siber suçlular, çoğu Amerikalı olduğunu iddia eden sahte sosyal medya profilleri oluşturmak için üretken yapay zekayı kullandı ve bu profiller daha sonra Twitter'da Rusya yanlısı mesajlar yayınlamak için kullanıldı.
ABD Federal Soruşturma Bürosu (FBI) Direktörü Christopher Wray, yaptığı açıklamada, "Bugünkü eylemler, Rusya'nın sponsorluğunda, üretken, yapay zeka destekli bir sosyal medya bot çiftliğini sekteye uğratmada bir ilki temsil ediyor" dedi.
"Rusya, bu bot çiftliğini yapay zeka tarafından üretilen yabancı dezenformasyonu yaymak, Ukrayna'daki ortaklarımızı baltalamak ve Rus hükümetinin lehine jeopolitik anlatıları etkilemek için yapay zekanın yardımıyla çalışmalarını ölçeklendirmek için kullanmayı amaçladı."
Bot çiftliğinin Arizona merkezli alan adı sağlayıcısı Namecheap tarafından verilen alan adlarını (mlrtr.com ve otanmail.com), rastgele e-posta adresleri oluşturmak için özel e-posta hizmetlerini kullandığı ve Twitter'da profiller oluşturduğu iddia ediliyor.
Bir örnekte, kendisini "hümanist" olarak tanımlayan ve Bitcoin için bir hashtag içeren bir Minneapolis sakini olduğu iddia edilen bir bot hesabı.
Bot grubu, 11 Haziran 2022 ile 1 Mart 2024 arasında toplamda 968'den fazla Twitter hesabı oluşturdu.
Namecheap herhangi bir özel soruşturma hakkında yorum yapamayacağını söylese de şirket Decrypt'e "platformumuzdaki her türlü kötüye kullanımla aktif olarak mücadele ettiğini" söyledi.
Namecheap, Twitter üzerinden şunları yazdı: "Hizmetlerimizi kullanan kötü aktörleri tespit edip hızla ortadan kaldırmaya yönelik etkili taktiklerimizle geniş çapta tanınıyoruz." "Kolluk kuvvetleriyle birlikte çalışıyoruz ve platformumuzda kötüye kullanım veya yasa dışı faaliyetlerle ilgili ABD mahkeme celplerini, mahkeme emirlerini ve/veya emirlerini uyguluyoruz."
Siber güvenlik uzmanları için, kamuya açık üretken yapay zeka modelleri ve standartlaştırılmış geliştirici araçları, devlet destekli siber suçlular için caziptir.
Blockchain güvenlik firması Halborn'un kurucu ortağı ve CTO'su Steve Walbroehl, Telegram aracılığıyla şunları söyledi: "Telegram, X ve Meta gibi platformlar tarafından sağlanan üretken yapay zeka ve geliştirici API'lerinin birleşimi, kötü niyetli olarak kullanıldığında çok tehlikeli olabilir."
"Normal bir durumda bu işlevsellik, kullanıcıların sosyal medya varlıklarını otomatikleştirmesine, yönetmesine veya güçlendirmesine olanak tanıyor. Ancak kötü bir aktörün elinde insanları ve çevrimiçi toplulukları yanıltmak için oldukça ikna edici bir yöntem.”
Walbroehl, tamamen yapay zeka destekli botlardan oluşan Telegram gruplarının sahte abartı ve sosyal kanıt oluşturmak ve şüphelenmeyen kurbanları bu üretilmiş coşkuya dayanarak dolandırıcılıklara yatırım yapmaya ikna etmek için kullanılabileceğini, ancak yatırımlarının interneti kontrol eden dolandırıcılar tarafından çalınmasını sağlayabileceğini belirtti. botlar.
Walbroehl, "Bu, geniş ölçekte dezenformasyon dağıtmak için kullanılan bir sosyal mühendislik taktiği olsa da, aynı zamanda dolandırıcılar tarafından saf kullanıcılardan büyük miktarda sermaye çalmak için meme-coin'leri 'pompalayıp boşaltmaya' yardımcı olmak için kullanılan bir taktiktir" diye ekledi.
Citizen Lab Kıdemli Araştırmacısı John Scott-Railton bir Twitter yazışmasında şunları gözlemledi: "Yayından kaldırmalar ve buna eşlik eden tavsiyeler, ABD ve müttefiklerinin bu kesintiler ve ele geçirmeler gibi çeşitli teknikleri denediğini gösteriyor... çünkü operatörler şu anda onların doğrudan erişiminin ötesinde."
"Operatörlerin öğrenmesini, gelişmesini ve ABD'yi hedeflemeye hemen geri dönmesini bekleyin."
YENİ: @TheJusticeDept, Rusya tarafından işletilen yapay zeka destekli Twitter dezenformasyon bot çiftliğini bozdu.
@X'te neredeyse 1000 hesap.
Amerikalı kılığına girildi ve Rus hükümetinin anlatıları desteklendi.
Bu olayın arkasında büyüleyici hafiyelik 1/https://t.co/QOsWnoVUCf pic.twitter.com/pvbVZM3nLj
- John Scott-Railton (@jsrailton) 9 Temmuz 2024
Sahte hesapların kökünü kazıma operasyonu, Haziran ayında Amerika Birleşik Devletleri Arizona Bölge Mahkemesi'nden, X Corp'un (diğer adıyla Twitter) sunucularının aranmasına ve Namecheap'teki alan adlarına el konulmasına izin veren iki arama ve el koyma emrinin sunulmasıyla başladı. Twitter, hizmet şartlarının ihlal edildiğini öne sürerek rapor edilen hesapları gönüllü olarak askıya aldı.
Adalet Bakanlığı sözcüsü, "X bu davada önemli bir ortak ve onların bu botları kaldırma ve kendi soruşturmalarını yürütme konusundaki gönüllü çabalarına değer veriyoruz" dedi.
Başsavcı Vekili Lisa Monaco yaptığı açıklamada, "Kötü niyetli aktörler yapay zekanın suç niteliğindeki kötüye kullanımını hızlandırdıkça, Adalet Bakanlığı buna karşılık verecek ve uluslararası ortaklarımız ve özel sektörle birlikte yıkıcı eylemlere öncelik vereceğiz" dedi.
"Bot çiftliklerini kapatmaktan, yasa dışı olarak elde edilen internet alanlarına el koymaktan ve mücadeleyi düşmanlarımıza taşımaktan çekinmeyeceğiz."
DOJ, operasyonun FBI, Siber Ulusal Görev Gücü, Kanada ve Hollanda'daki hükümet ortaklarının yanı sıra Twitter dahil sosyal medya şirketleriyle işbirliği içinde yürütüldüğünü söyledi.
Başsavcı Merrick B. Garland yaptığı açıklamada, "Bu eylemlerle Adalet Bakanlığı, ABD ve yurt dışına dezenformasyon yaymak için bir bot çiftliği kullanmaya yönelik Rusya hükümeti destekli, yapay zeka destekli propaganda kampanyasını sekteye uğrattı" dedi.
"Rus hükümeti Ukrayna'da acımasız savaşını sürdürürken ve dünya çapındaki demokrasileri tehdit ederken, Adalet Bakanlığı Rus saldırganlığına karşı koymak ve Amerikan halkını korumak için tüm yasal yetkilerimizi kullanmaya devam edecektir."
Dolandırıcılığı ve dezenformasyonu teşvik etmek için kullanılanlar yalnızca sahte Twitter hesapları değil. Son zamanlarda, aralarında müzisyen Doja Cat, aktris Sydney Sweeney ve efsanevi heavy metal grubu Metallica'nın da bulunduğu önde gelen eğlence sanatçılarının meşru Twitter hesaplarını hedef alan bir dizi siber saldırı, kripto dolandırıcılıklarını teşvik etmek için kullanıldı.
