Italia multa a OpenAI con 15 millones de euros por violaciones del GDPR, citando malas prácticas de protección de datos, transparencia y salvaguardias para menores.
OpenAI debe llevar a cabo una campaña de concienciación de 6 meses sobre derechos de datos, ética de la IA y protección del usuario bajo las reglas del GDPR.
El caso señala un escrutinio más estricto de la UE sobre la IA generativa, enfatizando el cumplimiento y la transparencia para una innovación ética.
OpenAI ha sido multada con 15 millones de euros por la Autoridad de Protección de Datos de Italia (IDPA) por violar la privacidad con su modelo de IA ChatGPT. La organización señaló la insuficiencia de salvaguardias para menores, malas prácticas de protección de datos y deficiencias en la transparencia.
En su investigación, que se inició en respuesta a una violación de datos en marzo de 2023, la IDPA, también conocida como Garante, encontró numerosas infracciones. Surgieron problemas de transparencia cuando OpenAI no notificó a las autoridades sobre el incidente. Además, la empresa violó el principio de transparencia del GDPR al procesar datos de usuarios sin una base legal legítima. Los menores de trece años estuvieron expuestos a respuestas de chatbot posiblemente inapropiadas debido a la ineficacia de la verificación de edad de OpenAI.
https://twitter.com/GPDP_IT/status/1870055097851339070
La transparencia y la concienciación del usuario se convierten en preocupaciones clave
Para abordar estas deficiencias, OpenAI debe lanzar una campaña de concienciación pública de seis meses en plataformas de medios. La campaña tiene como objetivo educar a los usuarios sobre las prácticas de recolección de datos, los derechos bajo el GDPR y las formas de oponerse al uso de datos para el entrenamiento de IA. Esta iniciativa estará dirigida a mejorar la comprensión pública de la IA generativa y sus implicaciones éticas.
La IDPA destacó que los usuarios necesitan mecanismos para rectificar o eliminar sus datos. Además, la actitud colaborativa de OpenAI durante la investigación influyó en la reducción de la pena. Aún así, esta multa sirve como una advertencia severa para otras empresas de IA sobre el cumplimiento del GDPR.
Implicaciones más amplias para la regulación de la IA en Europa
OpenAI trasladó su sede europea a Irlanda durante la investigación. Este movimiento colocó a la Autoridad de Protección de Datos de Irlanda (DPC) como el organismo supervisor principal para las investigaciones en curso. Además de la multa, el caso muestra un creciente escrutinio regulatorio sobre la IA generativa y su impacto social.
Los hallazgos de la IDPA se alinean con la opinión de la Junta Europea de Protección de Datos sobre el uso de datos personales para el desarrollo de IA. La prohibición temporal previa de Italia sobre ChatGPT en marzo de 2023 marcó el comienzo de estos esfuerzos de ejecución. Aunque los críticos consideraron que la prohibición era excesiva, enfatizó la necesidad de límites regulatorios claros en la innovación de IA.
