Americké orgány činné v trestním řízení zabavily dvě domény spojené s robotickou farmou sociálních médií poháněnou umělou inteligencí napojenou na ruskou vládu, oznámilo v úterý americké ministerstvo spravedlnosti (DOJ).

"Toto je silný příklad strategie narušení jako první, kterou ministerstvo, včetně FBI, přijalo, pokud jde o kybernetické a kybernetické hrozby pro národní bezpečnost," řekl mluvčí ministerstva spravedlnosti Decryptu. "Pokračujeme ve vývoji ve způsobu, jakým tyto aktéry bráníme a identifikujeme."

Podle dokumentů zveřejněných agenturou kyberzločinci použili generativní umělou inteligenci k vytvoření falešných profilů na sociálních sítích, z nichž mnozí tvrdili, že jsou Američané, které pak byly použity k zveřejňování proruských zpráv na Twitteru.

"Dnešní akce představují první krok v narušení Ruskem sponzorované generativní farmy sociálních médií vylepšené AI," uvedl v prohlášení ředitel amerického Federálního úřadu pro vyšetřování (FBI) Christopher Wray. 

„Rusko mělo v úmyslu využít tuto farmu robotů k šíření zahraničních dezinformací generovaných umělou inteligencí, rozšířit svou práci s pomocí umělé inteligence, aby podkopalo naše partnery na Ukrajině a ovlivnilo geopolitické narativy příznivé pro ruskou vládu.

Farma botů údajně používala domény (mlrtr.com a otanmail.com) vydané poskytovatelem domén Namecheap se sídlem v Arizoně, soukromé e-mailové služby pro generování náhodných e-mailových adres a vytvářela profily na Twitteru. 

V jednom příkladu byl účet robota údajně obyvatelem Minneapolis, který se popisoval jako „humanista“ a obsahoval hashtag pro bitcoiny.

Farma robotů vytvořila celkem přes 968 Twitter účtů mezi 11. červnem 2022 a 1. březnem 2024.

Ačkoli Namecheap uvedl, že nemůže komentovat žádné konkrétní vyšetřování, společnost Decryptu řekla, že „aktivně bojuje proti všem formám zneužívání na naší platformě“.

"Jsme široce uznáváni pro naši efektivní taktiku k identifikaci a rychlému odstranění špatných aktérů pomocí našich služeb," napsal Namecheap na Twitteru. „Pracujeme společně s orgány činnými v trestním řízení a implementujeme předvolání, soudní příkazy a/nebo příkazy v USA související se zneužíváním nebo nezákonnou činností na naší platformě.“

Pro odborníky na kybernetickou bezpečnost jsou veřejně dostupné generativní modely umělé inteligence a standardizované vývojářské nástroje atraktivní pro státem sponzorované kyberzločince.

„Kombinace generativní umělé inteligence a vývojářských API poskytovaných platformami jako Telegram, X a Meta může být velmi nebezpečná, pokud je použita se zlým úmyslem,“ uvedl spoluzakladatel a technický ředitel blockchainové bezpečnostní firmy Halborn Steve Walbroehl prostřednictvím Telegramu. 

„V normální situaci tato funkce umožňuje uživatelům automatizovat, spravovat nebo posilovat jejich přítomnost na sociálních sítích. Ale v rukou špatného herce je to velmi přesvědčivá metoda, jak uvést lidi a online komunity v omyl.“

Walbroehl poukázal na skupiny telegramů, složené výhradně z robotů řízených umělou inteligencí, které lze použít k vytvoření falešného humbuku a sociálních důkazů a přesvědčit nic netušící oběti, aby investovaly do podvodů na základě tohoto vyrobeného nadšení, jen aby jejich investice ukradli podvodníci ovládající roboti.

„I když jde o taktiku sociálního inženýrství používanou k šíření dezinformací ve velkém měřítku, je to také taktika, kterou používají podvodníci, aby pomohli ‚vyčerpat‘ meme-coiny a ukrást velké množství kapitálu od naivních uživatelů,“ dodal Walbroehl.

„Zastavení šíření a doprovodná doporučení naznačují, že USA a spojenci zkoušejí různé techniky, jako jsou tato přerušení a zabavení... protože operátoři jsou v současné době mimo jejich přímý dosah,“ poznamenal na Twitteru vedoucí výzkumný pracovník Citizen Lab John Scott-Railton. 

„Očekávejte, že se operátoři naučí, vyvinou a vrátí se a zacílí na USA.“

NOVINKA: @TheJusticeDept právě narušil ruskou dezinformační botu na Twitteru s umělou inteligencí.

Téměř 1000 účtů na @X.

Maskovaný za Američany a propagovaný příběhy ruské vlády.

Fascinující detekce za tím 1/https://t.co/QOsWnoVUCf pic.twitter.com/pvbVZM3nLj

— John Scott-Railton (@jsrailton) 9. července 2024

Operace na vykořenění falešných účtů začala v červnu podáním dvou příkazů k prohlídce a zabavení od Okresního soudu Spojených států pro Arizonu, které povolují prohledání serverů společnosti X Corp (aka Twitter) a zabavení domén společnosti Namecheap. Twitter nahlášené účty dobrovolně pozastavil s odvoláním na porušení podmínek služby.

"X je v tomto případě důležitým partnerem a oceňujeme jejich dobrovolné úsilí odstranit tyto roboty a provést jejich vlastní vyšetřování," řekl mluvčí DOJ.

"Vzhledem k tomu, že zlovolní aktéři urychlují své zločinné zneužívání AI, ministerstvo spravedlnosti zareaguje a upřednostníme rušivé akce s našimi mezinárodními partnery a soukromým sektorem," uvedla v prohlášení náměstkyně generálního prokurátora Lisa Monaco. 

"Nebudeme váhat zavřít farmy botů, zabavit nelegálně získané internetové domény a bojovat proti našim protivníkům."

Operace byla provedena ve spolupráci s FBI, Cyber ​​National Mission Force, vládními partnery v Kanadě a Nizozemsku a také společnostmi sociálních médií včetně Twitteru, uvedl DOJ.

"Těmito akcemi ministerstvo spravedlnosti narušilo ruskou vládou podporovanou propagandistickou kampaň s umělou inteligencí s cílem využít farmu botů k šíření dezinformací ve Spojených státech a v zahraničí," uvedl v prohlášení generální prokurátor Merrick B. Garland. 

"Vzhledem k tomu, že ruská vláda nadále vede svou brutální válku na Ukrajině a ohrožuje demokracie po celém světě, ministerstvo spravedlnosti bude i nadále nasazovat všechny naše právní orgány, aby čelily ruské agresi a chránily americký lid."

Nejsou to jen falešné účty na Twitteru používané k propagaci podvodů a dezinformací. V poslední době byly k propagaci kryptografických podvodů použity záplavy kybernetických útoků zaměřených na legitimní twitterové účty prominentních bavičů, včetně hudebníka Doja Cat, herečky Sydney Sweeney a legendární heavymetalové skupiny Metallica.