La oficina del fiscal de la ciudad de San Francisco, David Chiu, ha presentado una demanda contra los propietarios de 16 de los sitios web más grandes del mundo que permiten a la IA "desnudar" a mujeres y niñas en fotografías sin su consentimiento.
El documento alega violaciones de las leyes estatales y federales con respecto a la pornografía deepfake, la pornografía de venganza y el material de abuso sexual infantil.
“[…] La IA generativa es enormemente prometedora, pero como ocurre con todas las nuevas tecnologías, tiene consecuencias no deseadas y los delincuentes buscan explotar la nueva tecnología para su propio beneficio. Debemos tener claro que esto no es innovación, es violencia sexual [...]”, afirmó Chiu.
Los sitios involucrados en el caso ofrecen interfaces convenientes para cargar fotografías de mujeres y niñas vestidas para la creación posterior de versiones pornográficas realistas. Son prácticamente indistinguibles de las imágenes reales y se utilizan para extorsión, intimidación, amenazas y humillación, según el comunicado.
En total, los sitios fueron visitados más de 200 millones de veces en el primer semestre de 2024. Algunos de ellos solo te permiten crear fotografías de adultos, otros no bloquean la solicitud al cargar imágenes de niños.
Las autoridades buscan la eliminación de los sitios web, multas y una orden judicial contra futuras actividades ilegales.
Anteriormente, Google intensificó su lucha contra la pornografía deepfake. #BTC
