Die UNESCO hat ihre Besorgnis darüber geäußert, dass generative KI die Geschichte des Holocaust verfälschen könnte, wenn die KI-Entwickler ethische Standards nicht strikt anwenden.

In einem am Montag veröffentlichten Bericht warnte die UNESCO vor einem möglichen Missbrauch generativer KI durch böswillige Akteure.

Anfälligkeit junger Menschen für Fehlinformationen

Der in Zusammenarbeit mit dem Jüdischen Weltkongress veröffentlichte Bericht betont, dass junge Menschen aufgrund ihrer intensiven Nutzung neuer Technologien wie KI besonders anfällig für verzerrte Informationen sind. Der Bericht hebt hervor, dass etwa 80 % der 10- bis 24-Jährigen KI für verschiedene Aufgaben, darunter auch Schulaufgaben, verwenden. Diese hohe Belastung erhöht ihre Wahrscheinlichkeit, auf verzerrte Informationen zu stoßen.

UNESCO-Generaldirektorin Audrey Azoulay erklärte: „Wenn wir zulassen, dass die schrecklichen Fakten des Holocaust durch den verantwortungslosen Einsatz künstlicher Intelligenz verwässert, verzerrt oder verfälscht werden, riskieren wir eine explosionsartige Verbreitung des Antisemitismus und eine schrittweise Verminderung unseres Verständnisses der Ursachen und Folgen dieser Gräueltaten.“

Der Bericht stellt auch fest, dass KI dazu neigt, komplexe historische Ereignisse zu stark zu vereinfachen und dabei oft einen engen Quellenbereich bevorzugt. So zeigen beispielsweise zwischen 60 und 80 Prozent der Top-Bildergebnisse von KI-gestützten Suchmaschinen zum Thema Holocaust nur einen einzigen Ort: Auschwitz-Birkenau.

Das Potenzial der KI, Vorurteile aufrechtzuerhalten

Der UNESCO-Bericht warnt, dass KI bestehende Vorurteile aufrechterhalten kann, und der Holocaust ist von diesem Risiko nicht ausgenommen. Laut UNESCO ist Desinformation über den Holocaust bereits weit verbreitet und könnte sich durch den Einsatz generativer KI noch verschlimmern.

Azoulay betonte, dass ethische Standards durchgesetzt werden müssten, um junge Menschen vor verzerrten Informationen zu schützen. „Die UNESCO-Empfehlung zur Ethik der KI muss dringend umgesetzt werden, damit die jüngeren Generationen mit Fakten und nicht mit Erfindungen aufwachsen“, sagte Azoulay.

Der Bericht hebt Vorfälle hervor, bei denen KI-Modelle wie ChatGPT von OpenAI und Bard von Google (jetzt Gemini) Ereignisse im Zusammenhang mit dem Holocaust erfunden haben. Diese Modelle haben über den Holocaust „halluziniert“ und fiktive Ereignisse wie Nazi-Feldzüge beschrieben, bei denen Juden in Flüssen und Seen ertränkt wurden. Darüber hinaus haben KI-Modelle falsche Zitate generiert, um diese verzerrten Erzählungen zu untermauern.

Forderung nach ethischen KI-Standards

Der UNESCO-Bericht fordert sofortige Maßnahmen zur Durchsetzung ethischer Standards bei der Entwicklung von KI. Er plädiert für einen Multi-Stakeholder-Ansatz zur Bewältigung dieser Herausforderung und betont, wie wichtig es ist, die Empfehlung zur Ethik der KI umzusetzen, die 2021 von den UNESCO-Mitgliedsstaaten verabschiedet wurde.

Die UNESCO forderte Technologieunternehmen außerdem auf, bei ihren KI-Entwicklungsprozessen die Grundsätze von Fairness, Transparenz, Menschenrechten und Sorgfaltspflicht zu beachten. Im Februar unterzeichneten acht Technologieunternehmen gegenüber dem Generaldirektor der UNESCO eine Selbstverpflichtung, bei der Entwicklung ihrer KI-Modelle einen ethischen Ansatz anzuwenden.

Der Bericht betont, dass die Fähigkeit der KI, historische Ereignisse wie den Holocaust zu erfinden und zu verzerren, ein erhebliches Risiko darstellt. Die UNESCO betont, dass generative KI ohne strenge ethische Richtlinien und Kontrolle zu einem Instrument zur Verbreitung von Fehlinformationen und zur Aufrechterhaltung schädlicher Vorurteile werden könnte.

Die Besorgnis der UNESCO unterstreicht die Notwendigkeit von Wachsamkeit und Verantwortung bei der Entwicklung und dem Einsatz von KI-Technologien. Der Aufruf der Organisation zum Handeln zielt darauf ab, sicherzustellen, dass die Erinnerung an den Holocaust und andere historische Ereignisse korrekt bleibt und respektiert wird, um zukünftige Generationen vor den Gefahren von Fehlinformationen zu schützen.

Die Dringlichkeit der Umsetzung ethischer Standards in der KI-Entwicklung kann nicht genug betont werden. Die UNESCO-Empfehlung zur Ethik der KI bietet einen Rahmen, um sicherzustellen, dass KI-Technologien verantwortungsvoll entwickelt und eingesetzt werden. Dieser Rahmen umfasst Grundsätze wie Fairness, Transparenz und Achtung der Menschenrechte, die für die Verhinderung der Verbreitung von Fehlinformationen und Desinformationen von wesentlicher Bedeutung sind.

Der Bericht der UNESCO erinnert uns an die entscheidende Rolle, die ethische Standards bei der Entwicklung künstlicher Intelligenz spielen. Indem sie diese Standards einhalten, können Entwickler dazu beitragen, die Verzerrung historischer Ereignisse zu verhindern und die Integrität der Informationen zu schützen, auf die junge Menschen und die breite Öffentlichkeit zugreifen können.

Der Beitrag „UNESCO befürchtet, KI könnte die Erinnerung an den Holocaust verzerren“ erschien zuerst auf Coinfea.