Правоохранительные органы США конфисковали два домена, связанных с бот-фермой социальных сетей на базе искусственного интеллекта, связанной с правительством России, сообщило во вторник Министерство юстиции США (DOJ).

«Это яркий пример стратегии «сначала разрушения», которую Департамент, включая ФБР, применяет, когда речь идет о киберугрозах национальной безопасности и связанных с ними угрозах», — заявил Decrypt представитель Министерства юстиции. «Мы продолжаем развиваться в том, как мы защищаем и выявляем этих субъектов».

Согласно документам, опубликованным агентством, киберпреступники использовали генеративный искусственный интеллект для создания фейковых профилей в социальных сетях, многие из которых выдавали себя за американцев, которые затем использовались для размещения пророссийских сообщений в Twitter.

«Сегодняшние действия представляют собой первый шаг в подрыве спонсируемой Россией генеративной бот-фермы социальных сетей с искусственным интеллектом», — заявил в своем заявлении директор Федерального бюро расследований США (ФБР) Кристофер Рэй. 

«Россия намеревалась использовать эту бот-ферму для распространения иностранной дезинформации, созданной ИИ, масштабируя свою работу с помощью ИИ, чтобы подорвать наших партнеров в Украине и повлиять на геополитические нарративы, выгодные российскому правительству».

Бот-ферма предположительно использовала домены (mlrtr.com и otanmail.com), выпущенные провайдером доменов Namecheap из Аризоны, частные почтовые сервисы для генерации случайных адресов электронной почты и создавала профили в Twitter. 

В одном примере аккаунт бота якобы принадлежал жителю Миннеаполиса, который назвал себя «гуманистом» и включил хэштег для Биткойна.

Всего с 11 июня 2022 года по 1 марта 2024 года бот-ферма создала более 968 аккаунтов в Твиттере.

Хотя Namecheap заявила, что не может комментировать какое-либо конкретное расследование, компания сообщила Decrypt, что «активно борется со всеми формами злоупотреблений на нашей платформе».

«Мы широко известны благодаря нашей эффективной тактике выявления и быстрого устранения злоумышленников, использующих наши услуги», — написал Namecheap в Twitter. «Мы сотрудничаем с правоохранительными органами и выполняем вызовы в суд, судебные постановления и/или ордера США, связанные со злоупотреблениями или незаконной деятельностью на нашей платформе».

Для экспертов по кибербезопасности общедоступные генеративные модели искусственного интеллекта и стандартизированные инструменты разработки привлекательны для спонсируемых государством киберпреступников.

«Сочетание генеративного искусственного интеллекта и API-интерфейсов разработчиков, предоставляемых такими платформами, как Telegram, X и Meta, может быть очень опасным при злонамеренном использовании», — заявил через Telegram соучредитель и технический директор компании Halborn, занимающейся безопасностью блокчейнов, Стив Уолбрёл. 

«В обычной ситуации эта функция позволяет пользователям автоматизировать, управлять или расширять свое присутствие в социальных сетях. Но в руках злоумышленника это очень убедительный метод ввести в заблуждение людей и интернет-сообщества».

Уолбрёл указал на группы Telegram, полностью состоящие из ботов, управляемых искусственным интеллектом, которые можно использовать для создания ложной шумихи и социальных доказательств, а также для убеждения ничего не подозревающих жертв вкладывать средства в мошенничество, основанное на этом искусственно созданном энтузиазме, только для того, чтобы их инвестиции были украдены мошенниками, контролирующими боты.

«Хотя это тактика социальной инженерии, используемая для распространения дезинформации в больших масштабах, это также тактика, используемая мошенниками, чтобы помочь «накачивать и сбрасывать» мем-монеты, чтобы украсть большие объемы капитала у наивных пользователей», — добавил Уолбрёл.

«Уничтожения и сопутствующие рекомендации позволяют предположить, что США и их союзники пробуют различные методы, подобные этим сбоям и захватам… потому что операторы в настоящее время находятся вне их прямой досягаемости», — заметил старший научный сотрудник Citizen Lab Джон Скотт-Рейлтон в ветке в Твиттере. 

«Ожидайте, что операторы будут учиться, развиваться и сразу же вернутся, ориентируясь на США».

НОВИНКА: @TheJusticeDept только что разрушил управляемую Россией бот-ферму дезинформации в Твиттере с поддержкой искусственного интеллекта.

Почти 1000 аккаунтов на @X.

Маскировались под американцев и продвигали идеи российского правительства.

За этим стоит увлекательное расследование 1/https://t.co/QOsWnoVUCf pic.twitter.com/pvbVZM3nLj

– Джон Скотт-Рейлтон (@jsrailton), 9 июля 2024 г.

Операция по искоренению фейковых аккаунтов началась в июне с выдачи двух ордеров на обыск и арест от Окружного суда США в Аризоне, разрешающих обыск серверов X Corp (также известной как Twitter) и конфискацию доменов у Namecheap. Twitter добровольно заблокировал указанные аккаунты, сославшись на нарушения условий обслуживания.

«X — важный партнер в этом деле, и мы ценим их добровольные усилия по удалению этих ботов и проведению собственного расследования», — заявил представитель Министерства юстиции.

«Поскольку злоумышленники ускоряют преступное использование ИИ в преступных целях, Министерство юстиции отреагирует, и мы будем уделять приоритетное внимание подрывным действиям с нашими международными партнерами и частным сектором», — заявила заместитель генерального прокурора Лиза Монако в своем заявлении. 

«Мы без колебаний закроем бот-фермы, захватим незаконно полученные интернет-домены и вступим в борьбу с нашими противниками».

По сообщению Министерства юстиции, операция проводилась в сотрудничестве с ФБР, Национальными кибер-миссиями, правительственными партнерами в Канаде и Нидерландах, а также компаниями социальных сетей, включая Twitter.

«Этими действиями Министерство юстиции сорвало поддерживаемую российским правительством пропагандистскую кампанию с использованием искусственного интеллекта по использованию бот-фермы для распространения дезинформации в Соединенных Штатах и ​​за рубежом», — заявил в своем заявлении генеральный прокурор Меррик Б. Гарланд. 

«Поскольку российское правительство продолжает вести жестокую войну на Украине и угрожает демократиям по всему миру, Министерство юстиции продолжит использовать все наши законные полномочия для противодействия российской агрессии и защиты американского народа».

Для продвижения мошенничества и дезинформации используются не только фейковые аккаунты в Твиттере. В последнее время для продвижения крипто-мошенничества была проведена серия кибератак, направленных на законные аккаунты известных артистов в Твиттере, в том числе музыканта Доджа Кэт, актрисы Сидни Суини и легендарной хэви-метал группы Metallica.