Появилась новая схема, связанная с ИИ, в которой тысячи ИИ-генерируемых инфлюенсеров заполнили социальные сети, такие как Instagram, используя украденные изображения реальных людей.
Схема включает в себя кражу видео у реальных моделей и создателей взрослого контента, замену их лиц на сгенерированные ИИ и монетизацию их тел с помощью ссылок на сайты знакомств, такие как Patreon, конкурсы OnlyFans и различные приложения ИИ.
Инфлюенсеры, созданные ИИ, конкурируют с людьми в Instagram
В апреле 404 Media впервые сообщила об этой практике, когда она только появилась. Эта практика теперь превратилась в популярный тренд, который заставил многих предположить, что социальные сети под управлением Meta либо не могут, либо не хотят остановить этот кажущийся тренд на своей платформе.
Это происходит в то время, когда человеческие создатели контента в Instagram говорят, что теперь они конкурируют с контентом ИИ таким образом, что это уже влияет на их жизнеспособность.
С некоторыми из стандартных инструментов и приложений ИИ, размещённых в Apple App и Google Play Stores, ИИ-инфлюенсеры теперь могут легко создавать и монетизировать свои аккаунты. По данным Wired, они рассмотрели более 1000 аккаунтов Instagram, сгенерированных ИИ, и каналы Discord, где люди, создающие этот контент, делятся советами и обсуждают стратегию, а также несколько руководств, объясняющих, как зарабатывать деньги через «ИИ-проституцию».
Wired обнаружил, что проблема, которая раньше была незначительной в Instagram, выросла в огромную практику в соответствии с несколькими предсказаниями о будущем ландшафта социальных сетей, где контент, созданный ИИ, затмевает контент людей.
Создатели взрослого контента, которые продвигают свою работу в Instagram, теперь беспокоятся о том, что напрямую конкурируют с этими аккаунтами-двойниками ИИ, многие из которых используют фотографии и видео, украденные у создателей взрослого контента и моделей Instagram.
Элейна Сент-Джеймс, создатель контента для взрослых, сказала, что хотя могут быть и другие изменения в алгоритме Instagram, которые могли повлиять на это, сExplosion аккаунтов инфлюенсеров, созданных ИИ, её «охват сильно снизился», с типичных 1 миллиона до 5 миллионов просмотров в месяц. Она не смогла преодолеть миллион за последние 10 месяцев, и иногда её просмотры составляют менее 500 000.
«Это, вероятно, одна из причин, по которой мои просмотры падают. Это связано с тем, что я конкурирую с чем-то, что является неестественным.» Сент-Джеймс.
Алексис Мантзаларис, директор инициативы по безопасности, доверию и безопасности в Cornell Tech и ранее главный специалист по доверию и безопасности в Google, составил список из около 900 аккаунтов в исследовании 404 Media.
Знак того, как будут выглядеть социальные сети в ближайшее время
Мантзаларис сказал, что это ничего нового или удивительного, так как это просто выполняло предсказания, сделанные ранее относительно технологий ИИ и их внедрения на платформах социальных сетей.
«Это было похоже на возможный знак того, как будут выглядеть социальные сети через пять лет», — сказал Мантзаларис.
«Поскольку это может касаться и других частей Интернета, а не только ниши привлекательных людей в Instagram. Это, вероятно, знак того, что ситуация будет довольно плохой.»
Мантзаларис.
Из более чем 1000 аккаунтов инфлюенсеров Instagram, сгенерированных ИИ, как минимум 100 содержали дипфейк-контент, который брал существующие видео, обычно от моделей и исполнителей для взрослых, и заменял их лица на сгенерированные ИИ, чтобы придать видео свежий вид.
Видео будут выглядеть как новый, оригинальный контент, соответствующий другим изображениям и видео, созданным ИИ, которые делятся ИИ-генерируемым инфлюенсером.
Instagram будет действовать по получению жалоб
Instagram заявил, что будет принимать меры по аккаунтам только в том случае, если они будут сообщены правильным владельцем или кем-то, уполномоченным сообщать от их имени. Однако многие человеческие инфлюенсеры говорят, что предоставленный канал не работает, так как у них слишком много аккаунтов самозванцев, за которыми нужно следить.
Сент-Джеймс добавила, что тот факт, что многие из этих аккаунтов инфлюенсеров, созданных ИИ, управляются мужчинами, только усугубляет ситуацию.
«Мы, женщины в мире, зарабатываем меньше денег. Мы находимся в невыгодном положении во многом. Одной из областей, где у нас есть преимущество, является влияние и моделирование, так что это просто дополнительный слой», — сказала Сент-Джеймс.
«Меня немного злит, что это парень зарабатывает деньги, притворяясь женщиной», добавила она.
Apple, которая до сих пор не смогла решить проблему «дублирования» приложений для смены лиц, которые могут использоваться невинно, но часто используются для создания неконсенсуального контента, была удалена из App Store после того, как её допросили по этому вопросу.
От нуля до профессионала Web3: ваш план запуска карьеры на 90 дней
