Согласно недавнему отчету британской некоммерческой организации Institute for Strategic Dialogue (ISD), крайне правые группировки используют искусственный интеллект для распространения фейковых видеороликов с изображением Адольфа Гитлера и других пронацистских изображений в попытке вызвать сочувствие к тирану.

Основанный в 2006 году, институт является политической пропагандистской организацией, которая отслеживает дезинформацию и оскорбительные высказывания в Интернете. Согласно последнему отчету, ISD отметил, что генераторы голоса ИИ использовались для создания англоязычных версий речей Гитлера, и эти видео собрали более 50 миллионов просмотров на X, YouTube, TikTok и Instagram в 2024 году.

«Социальные медиа-платформы долго боролись с распространением неонацистских идеологий, но прямое прославление Гитлера и ревизионизм, окружающий его роль в Холокосте, представляют собой новую, уникальную угрозу», — сказала Decrypt директор по технологиям американского отделения института Изабель Фрэнсис-Райт. «ИИ еще больше обострил эту угрозу, позволив злоумышленникам распространять риторику Гитлера среди более широкой и молодой аудитории».

ИСД сообщило, что многие видеоролики TikTok содержали 20–30-секундные фрагменты речей Гитлера на английском языке с фоновой музыкой, пропагандирующие антисемитские, антимусульманские, антииммигрантские и расистские идеи.

«Контент, разжигающий ненависть, как законный, так и незаконный, имеет тенденцию быстро распространяться на большинстве платформ социальных сетей», — рассказал Decrypt профессор информационных исследований Калифорнийского университета в Лос-Анджелесе Рамеш Шринивасан.

В отчете говорится, что с августа видеоролики и посты с изображением Гитлера и нацистской иконографии собрали более 28,4 млн просмотров в X, TikTok и Instagram.

«Аналитики смогли легко обнаружить контент на X, который, вероятно, нарушал его политику, при этом всего 11 постов получили более 11,2 миллионов просмотров за недельный период», — говорится в отчете. «Этот контент был более доступен, чем на других платформах, через базовый поиск».

В обновлении своей политики от 2023 года X заявила, что платформа запрещает «контент, разжигающий ненависть», включая подстрекательство, оскорбления, дегуманизацию и изображения, разжигающие ненависть, в том числе в фотографиях профиля, именах пользователей или биографиях профилей.

«Классическая проблема, которую мы пытаемся регулировать, — это роль алгоритмов», — пояснил Шринивасан. «Эти вычислительные правила применяются ко всем данным и сообщениям и обучены продвигать контент, который с большей вероятностью станет вирусным. В результате наиболее заметный контент часто оказывается наиболее вредоносным».

Meta, TikTok и Google не сразу отреагировали на просьбы Decrypt прокомментировать ситуацию.

Шринивасан сказал, что в конечном итоге контент создавался, скорее всего, как смесью нарушителей спокойствия и потенциальных политических манипуляторов: «На одном уровне — хакер; на другом — более изощренное психометрическое и психографическое нацеливание», — сказал он, имея в виду роль, которую Cambridge Analytica сыграла во время президентских выборов в США в 2016 году.

«Это огромная часть того, что сейчас движет Интернетом», — сказал он.

«Это имеет реальные материальные последствия, особенно в местах, где нет сильных СМИ», — сказал он. «Дезинформация, язык вражды и маргинальная речь, продвигаемая теми, у кого много подписчиков, намеренно создаются, чтобы стать вирусными. Этот тип контента привлекает внимание, но он также разрывает нас на части».