Amerykańskie organy ścigania przejęły dwie domeny powiązane z farmą botów mediów społecznościowych wykorzystującą sztuczną inteligencję i powiązaną z rządem Rosji, ogłosił we wtorek Departament Sprawiedliwości USA (DOJ).

„To mocny przykład strategii polegającej na zakłóceniach, którą Departament Sprawiedliwości, w tym FBI, przyjął w odniesieniu do zagrożeń cybernetycznych i cyberzagrożeń dla bezpieczeństwa narodowego” – powiedział Decrypt rzecznik Departamentu Sprawiedliwości. „Nadal ewoluujemy w sposobie, w jaki bronimy i identyfikujemy tych aktorów”.

Według dokumentów udostępnionych przez agencję cyberprzestępcy wykorzystali generatywną sztuczną inteligencję do tworzenia fałszywych profili w mediach społecznościowych, z których wiele podało się za Amerykanów, które następnie wykorzystywano do publikowania prorosyjskich wiadomości na Twitterze.

„Dzisiejsze działania są pierwszymi w zakłócaniu sponsorowanej przez Rosję farmy generatywnych botów mediów społecznościowych wzmocnionych sztuczną inteligencją” – oznajmił w oświadczeniu dyrektor Federalnego Biura Śledczego USA (FBI). 

„Rosja zamierzała wykorzystać tę farmę botów do rozpowszechniania zagranicznej dezinformacji generowanej przez sztuczną inteligencję, skalując swoje prace przy pomocy sztucznej inteligencji, aby osłabiać naszych partnerów na Ukrainie i wpływać na narracje geopolityczne korzystne dla rosyjskiego rządu”.

Farma botów rzekomo wykorzystywała domeny (mlrtr.com i otanmail.com) wydane przez dostawcę domen Namecheap z siedzibą w Arizonie, prywatne usługi e-mail w celu generowania losowych adresów e-mail oraz tworzyła profile na Twitterze. 

W jednym przykładzie konto bota rzekomo należało do mieszkańca Minneapolis, który określił siebie jako „humanistę” i umieścił hashtag Bitcoin.

W sumie farma botów utworzyła ponad 968 kont na Twitterze między 11 czerwca 2022 r. a 1 marca 2024 r.

Chociaż Namecheap stwierdziło, że nie może komentować żadnego konkretnego dochodzenia, firma powiedziała Decrypt, że „aktywnie zwalcza wszelkie formy nadużyć na naszej platformie”.

„Jesteśmy powszechnie rozpoznawani dzięki naszej skutecznej taktyce identyfikowania i szybkiego eliminowania złych podmiotów korzystających z naszych usług” – napisał Namecheap na Twitterze. „Współpracujemy z organami ścigania i wdrażamy amerykańskie wezwania do sądu, nakazy sądowe i/lub nakazy związane z nadużyciami lub nielegalną działalnością na naszej platformie”.

Dla ekspertów ds. cyberbezpieczeństwa publicznie dostępne generatywne modele sztucznej inteligencji i ustandaryzowane narzędzia programistyczne są atrakcyjne dla cyberprzestępców sponsorowanych przez państwo.

„Połączenie generatywnej sztucznej inteligencji i interfejsów API programistów udostępnianych przez platformy takie jak Telegram, X i Meta może być bardzo niebezpieczne, jeśli zostanie użyte w złośliwy sposób” – powiedział za pośrednictwem Telegram współzałożyciel i dyrektor ds. technicznych firmy Halborn zajmującej się bezpieczeństwem blockchain, Steve Walbroehl. 

„W normalnej sytuacji ta funkcjonalność umożliwia użytkownikom automatyzację, zarządzanie lub zwiększanie swojej obecności w mediach społecznościowych. Jednak w rękach złego aktora jest to bardzo przekonująca metoda wprowadzania ludzi i społeczności internetowych w błąd”.

Walbroehl wskazał na grupy na Telegramie, składające się wyłącznie z botów opartych na sztucznej inteligencji, które można wykorzystać do wywołania fałszywego szumu i dowodu społecznego oraz przekonania niczego niepodejrzewających ofiar do inwestowania w oszustwa oparte na tym sztucznym entuzjazmie, tylko po to, aby ich inwestycje zostały skradzione przez oszustów kontrolujących boty.

„Chociaż jest to taktyka inżynierii społecznej stosowana do rozpowszechniania dezinformacji na dużą skalę, jest to również taktyka stosowana przez oszustów, aby pomóc w „pompowaniu i zrzuceniu” monet memów w celu kradzieży dużych ilości kapitału od naiwnych użytkowników” – dodał Walbroehl.

„Zabicia i towarzyszące im porady sugerują, że Stany Zjednoczone i ich sojusznicy próbują różnych technik, takich jak zakłócenia i przejęcia… ponieważ operatorzy są obecnie poza ich bezpośrednim zasięgiem” – zauważył w wątku na Twitterze starszy badacz w Citizen Lab John Scott-Railton. 

„Oczekuj, że operatorzy nauczą się, będą ewoluować i zaraz wrócą, celując w USA”.

NOWOŚĆ: @TheJusticeDept właśnie przerwał prowadzoną przez Rosję farmę botów dezinformacyjnych na Twitterze, obsługującą sztuczną inteligencję.

Prawie 1000 kont na @X.

Udawał Amerykanów i promował narracje rosyjskiego rządu.

Fascynujące śledztwo za tym 1/https://t.co/QOsWnoVUCf pic.twitter.com/pvbVZM3nLj

— John Scott-Railton (@jsrailton) 9 lipca 2024 r

Operacja wykorzenienia fałszywych kont rozpoczęła się w czerwcu wraz ze złożeniem przez Sąd Okręgowy Stanów Zjednoczonych dla Arizony dwóch nakazów przeszukania i zajęcia, zezwalających na przeszukanie serwerów X Corp (znanego również jako Twitter) i zajęcie domen firmy Namecheap. Twitter dobrowolnie zawiesił zgłoszone konta, powołując się na naruszenia warunków korzystania z usługi.

„X jest ważnym partnerem w tej sprawie i doceniamy ich dobrowolne wysiłki na rzecz usunięcia tych botów i przeprowadzenia własnego dochodzenia” – powiedział rzecznik Departamentu Sprawiedliwości.

„W miarę jak złośliwe podmioty przyspieszają wykorzystywanie sztucznej inteligencji do celów przestępczych, Departament Sprawiedliwości zareaguje, a my wspólnie z naszymi partnerami międzynarodowymi i sektorem prywatnym nadamy priorytet działaniom zakłócającym” – stwierdziła w oświadczeniu zastępca prokuratora generalnego Lisa Monaco. 

„Nie zawahamy się zamknąć farm botów, przejąć nielegalnie uzyskane domeny internetowe i podjąć walkę z naszymi przeciwnikami”.

Departament Sprawiedliwości podał, że operację przeprowadzono we współpracy z FBI, Cyber ​​National Mission Force, partnerami rządowymi w Kanadzie i Holandii, a także firmami z mediów społecznościowych, w tym Twitterem.

„Dzięki tym działaniom Departament Sprawiedliwości przerwał wspieraną przez rosyjski rząd i wykorzystującą sztuczną inteligencję kampanię propagandową mającą na celu wykorzystanie farmy botów do szerzenia dezinformacji w Stanach Zjednoczonych i za granicą” – stwierdził w oświadczeniu prokurator generalny Merrick B. Garland. 

„Ponieważ rosyjski rząd w dalszym ciągu prowadzi brutalną wojnę na Ukrainie i zagraża demokracjom na całym świecie, Departament Sprawiedliwości będzie w dalszym ciągu wysyłał wszystkie nasze organy prawne, aby przeciwdziałać rosyjskiej agresji i chronić naród amerykański”.

Do promowania oszustw i dezinformacji wykorzystywane są nie tylko fałszywe konta na Twitterze. Niedawno do promowania oszustw związanych z kryptowalutami wykorzystano serię cyberataków wymierzonych w legalne konta na Twitterze znanych artystów, w tym muzyka Doja Cat, aktorki Sydney Sweeney i legendarnego zespołu heavymetalowego Metallica.