Правоохоронні органи США конфіскували два домени, пов’язані з ботофермою соціальних мереж на основі ШІ, пов’язаною з урядом Росії, повідомило у вівторок Міністерство юстиції США (DOJ).

«Це яскравий приклад стратегії, спрямованої на зрив, яку Департамент, включаючи ФБР, застосував, коли йдеться про кіберзагрози національній безпеці», — сказав Decrypt представник Міністерства юстиції. «Ми продовжуємо вдосконалювати спосіб захисту та ідентифікації цих акторів».

Згідно з документами, оприлюдненими агентством, кіберзлочинці використовували генеративний штучний інтелект для створення фальшивих профілів у соціальних мережах, багато з яких видавалися за американців, які потім використовували для публікації проросійських повідомлень у Twitter.

«Сьогоднішні дії є першими у знищенні спонсорованої Росією генеративної ботоферми соціальних медіа на основі штучного інтелекту», — сказав у заяві директор Федерального бюро розслідувань (ФБР) США Крістофер Рей. 

«Росія мала намір використовувати цю ботоферму для поширення іноземної дезінформації, згенерованої ШІ, масштабуючи свою роботу за допомогою ШІ, щоб підірвати наших партнерів в Україні та вплинути на геополітичні наративи, сприятливі для російського уряду».

Ферма ботів нібито використовувала домени (mlrtr.com і otanmail.com), надані постачальником доменів Namecheap із штату Арізона, приватні служби електронної пошти для створення випадкових електронних адрес і створювала профілі в Twitter. 

В одному прикладі обліковий запис бота нібито був жителем Міннеаполіса, який назвав себе «гуманістом» і включив хештег для Bitcoin.

Загалом з 11 червня 2022 року по 1 березня 2024 року ботоферма створила понад 968 акаунтів у Twitter.

Хоча Namecheap заявив, що не може коментувати жодне конкретне розслідування, компанія повідомила Decrypt, що «активно бореться з усіма формами зловживань на нашій платформі».

«Ми отримали широке визнання завдяки нашій ефективній тактиці виявлення та швидкого знищення зловмисників за допомогою наших послуг», — написав Namecheap у Twitter. «Ми працюємо разом із правоохоронними органами та виконуємо повістки США, судові накази та/або ордери, пов’язані зі зловживаннями чи незаконною діяльністю на нашій платформі».

Для експертів з кібербезпеки загальнодоступні генеративні моделі ШІ та стандартизовані інструменти розробника є привабливими для спонсорованих державою кіберзлочинців.

«Поєднання генеративного штучного інтелекту та API розробників, які надаються такими платформами, як Telegram, X і Meta, можуть бути дуже небезпечними, якщо використовувати їх зловмисно», — заявив у Telegram співзасновник і технічний директор фірми з безпеки блокчейнів Halborn Стів Валброль. 

«У звичайній ситуації ця функція дозволяє користувачам автоматизувати, керувати або посилювати свою присутність у соціальних мережах. Але в руках поганого актора це дуже переконливий спосіб ввести в оману людей і онлайн-спільноти».

Валброль вказав на групи Telegram, які повністю складаються з ботів, керованих штучним інтелектом, які можна використовувати для створення фальшивого ажіотажу та соціальних доказів і переконання нічого не підозрюючих жертв інвестувати в шахрайство на основі цього сфабрикованого ентузіазму, лише щоб їхні інвестиції вкрали шахраї, які контролюють ботів.

«Хоча це тактика соціальної інженерії, яка використовується для масштабного розповсюдження дезінформації, це також тактика, яку використовують шахраї, щоб допомогти «викачувати та скидати» меми-монети, щоб викрасти великі суми капіталу у наївних користувачів», — додав Валброль.

«Видалення та супутні рекомендації свідчать про те, що США та союзники намагаються використовувати різні методи, такі як ці збої та конфіскації… тому що оператори наразі поза межами їх прямої досяжності», — зазначив старший науковий співробітник Citizen Lab Джон Скотт-Рейлтон у ланцюжку Twitter. 

«Очікуйте, що оператори навчаться, розвиватимуться та одразу повернуться, орієнтуючись на США».

НОВИНКА: @TheJusticeDept щойно зламав керовану Росією бото-ферму Twitter дезінформації з підтримкою ШІ.

Майже 1000 акаунтів на @X.

Видавалися під американців і пропагували наративи російського уряду.

Захоплююча пошукова робота за цим 1/https://t.co/QOsWnoVUCf pic.twitter.com/pvbVZM3nLj

— Джон Скотт-Рейлтон (@jsrailton) 9 липня 2024 р

Операція з викорінення підроблених облікових записів почалася в червні з подання двох ордерів на обшук і конфіскацію від Окружного суду Сполучених Штатів штату Арізона, які санкціонували обшук на серверах X Corp (також відомого як Twitter) і конфіскацію доменів у Namecheap. Twitter добровільно призупинив облікові записи, про які було повідомлено, посилаючись на порушення умов обслуговування.

«X — важливий партнер у цій справі, і ми цінуємо їхні добровільні зусилля з видалення цих ботів і проведення власного розслідування», — сказав представник міністерства юстиції.

«Оскільки зловмисники прискорюють своє злочинне використання штучного інтелекту, Міністерство юстиції відреагує, і ми надамо пріоритет руйнівним діям з нашими міжнародними партнерами та приватним сектором», — заявила заступник генерального прокурора Ліза Монако. 

«Ми без вагань закриємо ботоферми, захопимо незаконно отримані інтернет-домени та почнемо боротьбу з нашими противниками».

Операція була проведена у співпраці з ФБР, Силами національної кібернетичної місії, урядовими партнерами в Канаді та Нідерландах, а також компаніями соціальних мереж, включаючи Twitter, повідомило Міністерство юстиції.

«Цими діями Міністерство юстиції зірвало підтримувану російським урядом пропагандистську кампанію з використанням штучного інтелекту з використання ботоферми для поширення дезінформації в Сполучених Штатах і за кордоном», — заявив генеральний прокурор Меррік Б. Гарленд у заяві. 

«Оскільки російський уряд продовжує вести свою жорстоку війну в Україні та загрожує демократіям у всьому світі, Міністерство юстиції продовжуватиме розгортати всі наші правові органи для протидії російській агресії та захисту американського народу».

Це не просто підроблені облікові записи Twitter, які використовуються для пропаганди шахрайства та дезінформації. Нещодавно серія кібератак, націлених на законні облікові записи Twitter відомих артистів, зокрема музиканта Доджі Кет, актриси Сідні Суїні та легендарного хеві-метал-гурту Metallica, використовувалася для просування криптошахрайства.