OpenAI, líder en el desarrollo de tecnologías de inteligencia artificial, se encuentra actualmente en el centro de una queja de privacidad en Austria, presentada por el grupo de derechos de datos Noyb. La denuncia acusa a ChatGPT de OpenAI de difundir información falsa sobre un individuo y de violar potencialmente las leyes de privacidad de la Unión Europea.
OpenAI de Sam Altman acusado de difundir información falsa sobre personas: la denuncia en Austria
La denuncia fue presentada por Noyb el 29 de abril, alegando que OpenAI no aborda las imprecisiones en la información proporcionada por su chatbot de IA, ChatGPT, con respecto a una figura pública anónima.
A pesar de las peticiones de la figura, OpenAI se habría negado a corregir o eliminar datos inexactos y no ha revelado las fuentes de sus datos de entrenamiento.
Esta negativa podría constituir una violación de las estrictas normas de protección de datos de la UE, diseñadas para salvaguardar la información personal de las personas y garantizar la exactitud de los datos.
La denuncia de Noyb destaca un desafío importante en el campo de la inteligencia artificial: el equilibrio entre el avance tecnológico y los derechos de privacidad de los individuos.
El Reglamento General de Protección de Datos (GDPR) de la UE establece que los datos personales deben ser exactos y, cuando sea necesario, mantenerse actualizados; Se deben tomar todas las medidas razonables para garantizar que los datos personales inexactos se borren o rectifiquen sin demora.
Maartje de Graaf, abogado especializado en protección de datos de Noyb, afirmó: "Si un sistema no puede producir resultados precisos y transparentes, no puede utilizarse para generar datos sobre personas".
La tecnología debe seguir los requisitos legales, no al revés”. Esta declaración enfatiza la expectativa legal de que las tecnologías de IA no solo deben avanzar en capacidades, sino también alinearse con los marcos legales establecidos que protegen los derechos de las personas.
La investigación de la autoridad austriaca
La autoridad austriaca de protección de datos está investigando los métodos de procesamiento de datos de OpenAI, en particular cómo garantiza la exactitud de los datos personales procesados por sus grandes modelos lingüísticos.
Esta encuesta podría sentar un precedente sobre cómo se manejan los problemas de precisión de los datos en el campo de la IA en toda la Unión Europea.
Noyb, acrónimo de "None of Your Business", opera desde Viena y es conocido por su compromiso de hacer cumplir los estándares de protección de datos de la UE. Se centra estratégicamente en casos que tienen amplias implicaciones para los derechos digitales en Europa.
En Europa, surgieron preocupaciones similares cuando un estudio reveló que el chatbot Bing AI de Microsoft, rebautizado como Copilot, proporcionó información engañosa durante las elecciones locales en Alemania y Suiza.
Incluso Gemini AI de Google es criticado por producir imágenes inexactas y sesgadas, lo que llevó a Google a disculparse y comprometerse a actualizar el modelo.
Conclusiones
Estos ejemplos ilustran los crecientes desafíos que supone la integración de la IA en las aplicaciones cotidianas, donde la precisión de la información y el cumplimiento de las leyes de privacidad adquieren una importancia fundamental.
El resultado de la denuncia de Noyb contra OpenAI podría tener implicaciones importantes para los desarrolladores de IA, exigiéndoles potencialmente que implementen medidas más estrictas de precisión y transparencia de los datos para cumplir con la legislación de la UE.
A medida que las tecnologías de IA se integran más en la sociedad, el desafío para desarrolladores como OpenAI es garantizar que sus productos no solo traspasen los límites de lo que es tecnológicamente posible.
