OpenAI, ein führendes Unternehmen in der Entwicklung von Technologien für künstliche Intelligenz, steht derzeit im Mittelpunkt einer Datenschutzbeschwerde in Österreich, die von der Datenschutzgruppe Noyb eingereicht wurde. Die Beschwerde wirft OpenAIs ChatGPT vor, falsche Informationen über eine Person zu verbreiten und möglicherweise gegen Datenschutzgesetze der Europäischen Union zu verstoßen.
OpenAI von Sam Altman wird beschuldigt, falsche Informationen über Personen zu verbreiten: die Beschwerde in Österreich
Noyb reichte die Beschwerde am 29. April ein und behauptete, dass OpenAI Ungenauigkeiten in den von seinem KI-Chatbot ChatGPT bereitgestellten Informationen bezüglich einer anonymen Person des öffentlichen Lebens nicht behebe.
Trotz der Aufforderung der Abbildung habe OpenAI sich geweigert, ungenaue Daten zu korrigieren oder zu löschen und habe die Quellen seiner Trainingsdaten nicht offengelegt.
Diese Ablehnung könnte einen Verstoß gegen die strengen EU-Datenschutzbestimmungen darstellen, die dem Schutz personenbezogener Daten und der Gewährleistung der Datengenauigkeit dienen.
Die Beschwerde von Noyb verdeutlicht eine erhebliche Herausforderung im Bereich der künstlichen Intelligenz: die Balance zwischen technologischem Fortschritt und dem Recht auf Datenschutz des Einzelnen.
Die Datenschutz-Grundverordnung (DSGVO) der EU besagt, dass personenbezogene Daten richtig und, falls erforderlich, auf dem neuesten Stand sein müssen; außerdem müssen alle angemessenen Schritte unternommen werden, um sicherzustellen, dass unrichtige personenbezogene Daten unverzüglich gelöscht oder berichtigt werden.
Maartje de Graaf, Datenschutzanwältin bei Noyb, erklärte: „Wenn ein System keine genauen und transparenten Ergebnisse liefern kann, kann es nicht zur Generierung von Daten über Einzelpersonen verwendet werden.“
Die Technologie muss den gesetzlichen Anforderungen folgen, nicht umgekehrt.“ Diese Aussage unterstreicht die gesetzliche Erwartung, dass KI-Technologien nicht nur ihre Fähigkeiten verbessern, sondern sich auch an etablierte rechtliche Rahmenbedingungen halten müssen, die die Rechte des Einzelnen schützen.
Die Untersuchung der österreichischen Behörde
Die österreichische Datenschutzbehörde untersucht die Datenverarbeitungsmethoden von OpenAI, insbesondere wie es die Genauigkeit der von seinen großen Sprachmodellen verarbeiteten personenbezogenen Daten gewährleistet.
Diese Umfrage könnte einen Präzedenzfall dafür schaffen, wie Probleme der Datengenauigkeit im Bereich der KI in der gesamten Europäischen Union gehandhabt werden.
Noyb, Akronym für „None of Your Business“, operiert von Wien aus und ist bekannt für sein Engagement bei der Durchsetzung der EU-Datenschutzstandards. Es konzentriert sich strategisch auf Fälle, die weitreichende Auswirkungen auf die digitalen Rechte in Europa haben.
In Europa kamen ähnliche Bedenken auf, als eine Studie ergab, dass Microsofts KI-Chatbot Bing, der in Copilot umbenannt wurde, bei Kommunalwahlen in Deutschland und der Schweiz irreführende Informationen lieferte.
Sogar Gemini AI von Google wird für die Erstellung ungenauer und verzerrter Bilder kritisiert, was Google dazu veranlasste, sich zu entschuldigen und zuzusagen, das Modell zu aktualisieren.
Schlussfolgerungen
Diese Beispiele veranschaulichen die wachsenden Herausforderungen bei der Integration von KI in Alltagsanwendungen, bei denen die Genauigkeit der Informationen und die Einhaltung der Datenschutzgesetze von grundlegender Bedeutung sind.
Der Ausgang der Beschwerde von Noyb gegen OpenAI könnte erhebliche Auswirkungen auf KI-Entwickler haben und diese möglicherweise dazu zwingen, strengere Maßnahmen zur Datengenauigkeit und Transparenz zu ergreifen, um dem EU-Recht zu entsprechen.
Da KI-Technologien immer stärker in die Gesellschaft integriert werden, besteht die Herausforderung für Entwickler wie OpenAI darin, sicherzustellen, dass ihre Produkte nicht nur die Grenzen des technologisch Möglichen verschieben.