¿La IA está creando una crisis en las redes sociales con NCII sintético? 🧐
#Graphika , una empresa de análisis de redes sociales, observó un aumento drástico en el uso de servicios sintéticos de imágenes íntimas no consensuales (NCII), en particular en el "desnudo mediante IA".
Esto implica que #AI tools eliminen la ropa de las imágenes proporcionadas por el usuario. Los enlaces de referencia a 34 sitios web y 52 canales de Telegram que ofrecen dichos servicios aumentaron un 2.408% en 2023.
Estos servicios generan contenido explícito sin consentimiento, lo que plantea riesgos como acoso y sextorsión. El papel de la IA se extiende a los vídeos deepfakes, lo que genera preocupación sobre el material de abuso sexual infantil (CSAM). Los organismos de control de Internet advierten sobre el impacto abrumador del contenido generado por IA, lo que dificulta diferenciar entre lo real y lo falso.
Este problema ha atraído la atención mundial, incluido el reciente #regulations de la Unión Europea sobre el uso de la IA.
