Italien verhängt eine Geldstrafe von 15 Millionen Euro gegen OpenAI wegen Verstößen gegen die DSGVO und führt mangelhaften Datenschutz, mangelnde Transparenz und unzureichende Schutzmaßnahmen für Minderjährige an.
OpenAI muss eine sechsmonatige Sensibilisierungskampagne über Datenrechte, KI-Ethische und den Schutz von Nutzern gemäß den DSGVO-Regeln durchführen.
Der Fall signalisiert eine strengere EU-Überprüfung von generativer KI und betont die Einhaltung und Transparenz für ethische Innovation.
OpenAI wurde von der italienischen Datenschutzbehörde (IDPA) mit 15 Millionen Euro belegt, weil sie mit ihrem ChatGPT-KI-Modell die Privatsphäre verletzt haben. Die Organisation wies auf unzureichende Schutzmaßnahmen für Minderjährige, mangelhafte Datenschutzpraktiken und Mängel in der Transparenz hin.
In seiner Untersuchung, die als Reaktion auf einen Datenverstoß im März 2023 begann, stellte die IDPA, auch bekannt als Garante, zahlreiche Verstöße fest. Transparenzprobleme traten auf, als OpenAI die Behörden nicht über den Vorfall informierte. Darüber hinaus verletzte das Unternehmen das Transparenzprinzip der DSGVO, indem es Nutzerdaten ohne eine legitime rechtliche Grundlage verarbeitete. Minderjährige unter dreizehn Jahren waren möglicherweise unangemessenen Chatbot-Antworten ausgesetzt, aufgrund von OpenAIs ineffektiver Altersverifikation.
https://twitter.com/GPDP_IT/status/1870055097851339070
Transparenz und Nutzerbewusstsein werden zu wichtigen Anliegen
Um diese Mängel zu beheben, muss OpenAI eine sechsmonatige öffentliche Sensibilisierungskampagne über Medienplattformen starten. Die Kampagne zielt darauf ab, Nutzer über Datenpraktiken, Rechte gemäß der DSGVO und Möglichkeiten zur Ablehnung der Datennutzung für das KI-Training aufzuklären. Diese Initiative wird auf ein verbessertes öffentliches Verständnis von generativer KI und deren ethischen Implikationen abzielen.
Die IDPA hob hervor, dass Nutzer Mechanismen benötigen, um ihre Daten zu berichtigen oder zu löschen. Zudem beeinflusste OpenAIs kooperative Haltung während der Untersuchung die Reduzierung der Strafe. Dennoch dient diese Geldstrafe als strenge Warnung an andere KI-Unternehmen bezüglich der Einhaltung der DSGVO.
Breitere Auswirkungen auf die KI-Regulierung in Europa
OpenAI hat während der Untersuchung seinen europäischen Hauptsitz nach Irland verlegt. Dieser Schritt machte die irische Datenschutzbehörde (DPC) zur führenden Aufsichtsbehörde für laufende Ermittlungen. Neben der Geldstrafe zeigt der Fall eine zunehmende regulatorische Überprüfung von generativer KI und deren gesellschaftlichen Auswirkungen.
Die Erkenntnisse der IDPA stimmen mit der Meinung des Europäischen Datenschutzausschusses überein, die persönlichen Daten für die KI-Entwicklung zu verwenden. Italiens frühere vorübergehende Sperre für ChatGPT im März 2023 markierte den Beginn dieser Durchsetzungsbemühungen. Obwohl Kritiker das Verbot als überzogen bezeichneten, betonte es die Notwendigkeit klarer regulatorischer Grenzen in der KI-Innovation.