L'Italie inflige une amende de 15 millions d'euros à OpenAI pour violations du RGPD, citant de mauvaises pratiques de protection des données, de transparence et des garanties pour les mineurs.
OpenAI doit mener une campagne de sensibilisation de 6 mois sur les droits des données, l'éthique de l'IA et la protection des utilisateurs conformément aux règles du RGPD.
L'affaire signale un examen plus strict de l'UE sur l'IA générative, soulignant la conformité et la transparence pour une innovation éthique.
OpenAI a été condamné à une amende de 15 millions d'euros par l'Autorité italienne de protection des données (IDPA) pour avoir violé la vie privée avec leur modèle d'IA ChatGPT. L'organisation a souligné des garanties insuffisantes pour les mineurs, de mauvaises pratiques de protection des données et des lacunes en matière de transparence.
Lors de son enquête, qui a été lancée en réponse à une violation de données en mars 2023, l'IDPA, également connu sous le nom de Garante, a trouvé de nombreuses infractions. Des problèmes de transparence sont survenus lorsque OpenAI a échoué à notifier les autorités de l'incident. De plus, l'entreprise a violé le principe de transparence du RGPD en traitant les données des utilisateurs sans base légale légitime. Les mineurs de moins de treize ans ont été exposés à des réponses potentiellement inappropriées du chatbot en raison de l'inefficacité de la vérification de l'âge par OpenAI.
https://twitter.com/GPDP_IT/status/1870055097851339070
La transparence et la sensibilisation des utilisateurs deviennent des préoccupations clés
Pour remédier à ces lacunes, OpenAI doit lancer une campagne de sensibilisation publique de six mois sur les plateformes médiatiques. La campagne vise à éduquer les utilisateurs sur les pratiques de collecte de données, les droits en vertu du RGPD et les moyens de s'opposer à l'utilisation des données pour la formation de l'IA. Cette initiative visera à améliorer la compréhension publique de l'IA générative et de ses implications éthiques.
L'IDPA a souligné que les utilisateurs ont besoin de mécanismes pour rectifier ou supprimer leurs données. De plus, l'attitude collaborative d'OpenAI pendant l'enquête a influencé la réduction de la pénalité. Néanmoins, cette amende sert d'avertissement sévère à d'autres entreprises d'IA concernant la conformité au RGPD.
Implications plus larges pour la réglementation de l'IA en Europe
OpenAI a transféré son siège européen en Irlande pendant l'enquête. Ce déménagement a placé l'Autorité irlandaise de protection des données (DPC) comme l'organisme de surveillance principal pour les enquêtes en cours. En plus de l'amende, cette affaire montre un examen réglementaire croissant sur l'IA générative et son impact sociétal.
Les conclusions de l'IDPA s'alignent sur l'opinion du Comité européen de la protection des données concernant l'utilisation des données personnelles pour le développement de l'IA. L'interdiction temporaire antérieure de l'Italie sur ChatGPT en mars 2023 a marqué le début de ces efforts d'application. Bien que les critiques aient jugé l'interdiction excessive, elle a souligné la nécessité de limites réglementaires claires dans l'innovation en IA.