Городской прокурор Сан-Франциско Дэвид Чиу объявил, что его офис ведет судебные разбирательства против 16 веб-сайтов, которые используют ИИ для разработки и распространения несогласованных deepfake обнаженных изображений женщин и девочек. Это происходит на фоне повышенного внимания к созданию и распространению несогласованных изображений ИИ.
В иске, первом в своем роде в Сан-Франциско, операторы веб-сайтов обвиняются в нарушении государственных и федеральных законов, осуждающих фейковую порнографию, детскую порнографию и порнографические материалы из мести, а также закона Калифорнии о недобросовестной конкуренции.
Чиу хочет поднять тревогу по поводу этой порочной практики
По данным New York Times, эта инициатива принадлежит главному заместителю прокурора Ивонне Мере, которая объединила своих коллег для подготовки иска, который должен привести к закрытию 16 веб-сайтов.
Названия веб-сайтов были подвергнуты цензуре в копии иска, предоставленной общественности в четверг.
Хотя прокуратуре еще предстоит установить личности большинства владельцев веб-сайтов, ее сотрудники выразили оптимизм в отношении установления имен владельцев сайтов и привлечения их к ответственности.
На пресс-конференции в четверг Чиу заявил, что сайты публикуют «порнографические» материалы без согласия лиц, изображенных на фотографиях.
Чиу намекнул, что иск направлен на закрытие веб-сайтов, а также на повышение уровня тревоги по поводу этой формы «сексуального насилия» и на ее прекращение.
«Это расследование привело нас в самые темные уголки Интернета, и я в полном ужасе от того, как много женщин и девочек пришлось пережить, подвергаясь такой эксплуатации».
Чиу.
На указанных сайтах пользователи загружают фотографии полностью одетых реальных людей, после чего искусственный интеллект изменяет фотографии, чтобы имитировать то, как человек будет выглядеть голым.
Как указано в иске, один из сайтов пропагандирует неконсенсуальный характер изображений, утверждая: «Представьте себе, что вы тратите время, водя ее на свидания, когда вы можете просто использовать [отредактированное название веб-сайта], чтобы получить ее обнаженные фотографии».
Наличие и доступность моделей ИИ с открытым исходным кодом означает, что любой может получить доступ к движкам на базе ИИ и адаптировать их для своих целей. Это приводит к созданию сайтов и приложений, которые могут генерировать deepfake ню с нуля или «обнажать» существующие фотографии реалистичными способами, часто за плату.
Сан-Франциско — не единственное место, где можно стать свидетелем этого испытания.
В январе deepfake-приложения попали в заголовки, когда в сети появились фейковые фотографии обнаженной Тейлор Свифт. Многие другие и гораздо менее популярные люди подвергались преследованиям до и после Свифт.
Чиу признала, что «распространение этих изображений затронуло шокирующее количество женщин и девочек по всему миру» — от знаменитостей до учениц средних школ.
Проведя собственное расследование, городской прокурор обнаружил, что за первые шесть месяцев этого года веб-сайты посетили более 200 миллионов раз. Офис выразил обеспокоенность тем, что после того, как изображение попадает в сеть, жертвам становится сложно определить веб-сайты, которые использовались для «обнажения» их фотографий.
Это потому, что изображения не имеют никаких уникальных или идентификационных знаков, которые можно было бы сослаться на веб-сайты. Кроме того, жертвам также трудно избавиться от фотографий из интернета, что влияет на их самооценку и их цифровой след.
Ранее в этом году пятеро учеников восьмых классов из Беверли-Хиллз были исключены за создание и распространение фейковых изображений обнаженных 16 девочек-восьмиклассниц, накладывая лица девочек на тела, созданные с помощью искусственного интеллекта.
В офисе Чиу заявили, что наблюдали аналогичные инциденты в других школах Калифорнии, Нью-Джерси и Вашингтона, где изображения использовались для унижения, запугивания и угроз женщинам и девочкам.
По словам прокуратуры, в конечном итоге это наносит ущерб репутации жертв, приводит к ухудшению их психического здоровья, потере самооценки, а в некоторых случаях и к суицидальным наклонностям.
