Die UNESCO hat Bedenken geäußert, dass generative KI die Geschichte des Holocaust verfälschen könnte, wenn die KI-Entwickler keine ethischen Standards anwenden. In einem am Montag veröffentlichten Bericht warnte UNICEF vor dem möglichen Missbrauch generativer KI durch böswillige Akteure.

Lesen Sie auch: BIZ warnt: Zentralbanken müssen bei KI „ihren Einsatz erhöhen“

Der UNESCO-Bericht warnt davor, dass böswillige Akteure die Technologie nutzen könnten, um Falschinformationen, Fehlinformationen und irreführende Inhalte über den Holocaust zu verbreiten.

Junge Menschen sind anfällig für Fehlinformationen

Der gemeinsam mit dem Jüdischen Weltkongress veröffentlichte Bericht warnt davor, dass junge Menschen aufgrund ihrer starken Exposition gegenüber neuen Technologien wie der künstlichen Intelligenz einem höheren Risiko ausgesetzt seien, verzerrte Informationen zu erhalten.

Dies ist darauf zurückzuführen, dass Berichten zufolge 80 % der jungen Menschen zwischen 10 und 24 Jahren KI für verschiedene Aufgaben wie Schulaufgaben verwenden, wodurch die Wahrscheinlichkeit steigt, dass sie auf verzerrte Informationen zugreifen.

„Wenn wir zulassen, dass die schrecklichen Fakten des Holocaust durch den verantwortungslosen Einsatz von KI verwässert, verzerrt oder verfälscht werden, riskieren wir eine explosionsartige Verbreitung des Antisemitismus und eine schrittweise Verminderung unseres Verständnisses der Ursachen und Folgen dieser Gräueltaten.“

UNESCO-Generaldirektorin Audrey Azoulay.

Der Bericht hebt auch hervor, dass KI stark dazu neigt, „komplexe Geschichte zu stark zu vereinfachen, indem sie einem engen Quellenspektrum und einer kleinen Auswahl von Ereignissen den Vorzug gibt“. So zeigen etwa 60 bis 80 Prozent der Top-Bildergebnisse von KI-gestützten Suchmaschinen nur einen einzigen Holocaust-Ort, nämlich Auschwitz-Birkenau.

UNESCO fordert Maßnahmen zur Stärkung der Ethik

Der Bericht behauptet, dass KI bestehende Vorurteile aufrechterhalten kann und dass der Holocaust von diesen KI-Vorurteilen nicht verschont bleiben wird. Laut UNESCO gibt es bereits jetzt eine weit verbreitete Desinformation über den Holocaust, die sich durch den Einsatz generativer KI noch verschlimmern kann.

Lesen Sie auch: Meta AI expandiert inmitten wachsender KI-Konkurrenz nach Indien

Azoulay betonte, wie wichtig die Durchsetzung ethischer Standards sei, um junge Menschen vor verzerrten Informationen zu schützen.

„Die Umsetzung der UNESCO-Empfehlung zur Ethik der KI ist dringend erforderlich, damit die jüngeren Generationen mit Fakten und nicht mit Erfindungen aufwachsen.“

Azoulay.

Der Bericht hebt hervor, dass KI-Modelle wie ChatGPT von OpenAI und Bard (jetzt Gemini) von Google Halluzinationen über den Holocaust haben und Ereignisse schildern, die nie stattgefunden haben. Laut UNESCO haben diese Modelle „das Konzept des Holocaust erfunden, indem sie Ertränkungsaktionen schilderten, bei denen die Nazis Juden in Flüssen und Seen ertränkten.“

KI-Modelle haben auch falsche Zitate erstellt, um diese verzerrten Darstellungen zu untermauern. Angesichts dieser Vorfälle forderte die UNESCO einen Multi-Stakeholder-Ansatz, um die Herausforderung anzugehen. Eine der Lösungen ist die rasche Umsetzung der Empfehlung zur Ethik der KI, die 2021 von den Mitgliedsstaaten angenommen wurde.

Die UNESCO forderte die Technologieunternehmen außerdem auf, die Grundsätze von Fairness, Transparenz, Menschenrechten und Sorgfaltspflicht zu respektieren. Acht Technologieunternehmen unterzeichneten im Februar gegenüber dem Generaldirektor der UNESCO eine Selbstverpflichtung, bei der Entwicklung ihrer KI-Modelle einen ethischen Ansatz anzuwenden.

Kryptopolitische Berichterstattung von Enacy Mapakame