In naher Zukunft werden Nutzer von generativen KI-Apps möglicherweise Kennzeichnungen vorfinden, die klar darlegen, wie die KI eingesetzt werden soll, welche Risiken damit verbunden sind und wie der Testprozess abläuft. Nach neuen Richtlinien werden Kennzeichnungen verpflichtend, um die Technologie für die breite Masse verständlicher zu machen.
Lesen Sie auch: Europäische Union (EU) übernimmt Führung bei der KI-Regulierung
Die Ministerin für Kommunikation und Information Singapurs, Josephine Teo, sagte, die neue Maßnahme sei ein Versuch, einen Standard für Transparenz und Tests für Technologieunternehmen festzulegen. Laut einem Bericht der Strait Times sprach sie am 15. Juli auf der Technologiekonferenz zum Schutz persönlicher Daten.
Entwickler von KI-Apps sollten ihre Innovationen transparent machen
Ähnlich wie bei der Kennzeichnung von Medikamenten oder Haushaltsgeräten mit Sicherheitshinweisen müssen Entwickler generativer KI-Apps ihre Nutzer klar über die Nutzung und Entwicklung von KI-Modellen informieren. Frau Teo, die auch Ministerin für die Initiative „Smart Nation and Cybersecurity“ ist, sagte:
„Wir werden Entwicklern und Betreibern empfehlen, gegenüber den Benutzern transparent zu sein, indem sie Informationen zur Funktionsweise der generativen KI-Modelle und -Apps bereitstellen.“
Der Minister erläuterte die künftigen Regeln und sagte, sie seien dieselben, als wenn ein Benutzer eine „Packung mit rezeptfreien Medikamenten“ öffnet. Er findet ein Blatt Papier, auf dem klar angegeben ist, wie das Medikament angewendet werden soll und welche „Nebenwirkungen auftreten können“.
Teo betonte, „dieses Maß an Transparenz“ sei für KI-Systeme erforderlich, die auf einer generativen künstlichen Intelligenz basieren. Das neue Regelwerk werde Sicherheitsstandards definieren, die eingehalten werden sollten, bevor ein KI-Modell der Öffentlichkeit zugänglich gemacht werde.
Leitfaden zur Datenanonymisierung soll 2025 erscheinen
Generative künstliche Intelligenz ist eine Art von KI, die neue Texte und Bilder generieren kann und nicht so vorhersehbar ist wie herkömmliche KI. Den neuen Richtlinien zufolge müssen Entwickler auf die Risiken hinweisen, die mit der Verbreitung von Lügen, feindseligen Kommentaren und voreingenommenen Darstellungen in den Inhalten verbunden sind.
Teo sagte, dass Haushaltsgeräte mit Etiketten versehen seien, auf denen deutlich stehe, dass das Produkt auf seine sichere Verwendung getestet werde. Andernfalls wisse der Kunde nicht, ob das Gerät sicher sei oder nicht. Dasselbe werde für KI-Anwendungen gelten. Die Infocomm Media Development Authority (IMDA) in Singapur werde mit der Branche Konsultationen zu den neuen Regeln einleiten. Teo nannte jedoch kein Datum für die Richtlinien.
IMDA hat außerdem einen Leitfaden zu datenschutzbezogenen Fragen in der Technologie veröffentlicht, der der steigenden Nachfrage nach Daten zum Trainieren von KI-Modellen gerecht wird und gleichzeitig die Privatsphäre der Benutzer schützt, sagte Teo.
Lesen Sie auch: Mark Cuban und Brad Garlinghouse diskutieren am runden Tisch der Demokraten über Krypto-Regulierungen
Denise Wong, stellvertretende Geschäftsführerin der IMDA, sagte: „Die Datensicherheit in der generativen KI ist für die Branche eine größere Herausforderung.“ Sie äußerte ihre Ansichten während der Veranstaltung in einer separaten Podiumsdiskussion zu KI und Datenschutz. Vertreter verschiedener Technologieunternehmen waren Teil des Podiums, darunter der ChatGPT-Hersteller OpenAI und das Beratungsunternehmen Accenture.
In allen Phasen der Entwicklung und Bereitstellung von KI sollten Datenschutzvorkehrungen getroffen werden, sagte Jessica Gan Lee, die Leiterin des Datenschutzrechts bei OpenAI. Sie sagte, KI-Modelle sollten anhand unterschiedlicher Datensätze aus „allen Ecken der Welt“ trainiert werden. Lee betonte, dass mehrere Kulturen, Sprachen und Quellen in das KI-Training einbezogen werden sollten, und dass nach Möglichkeiten gesucht werden müsse, die Verarbeitung personenbezogener Daten einzuschränken.
Teo sagte, dass Anfang 2025 ein Leitfaden zur Datenanonymisierung für in ASEAN tätige Unternehmen eingeführt werde. Der Leitfaden sei das Ergebnis eines Treffens regionaler Beamter im Februar, bei dem nach Möglichkeiten zur Schaffung eines sicheren globalen digitalen Ökosystems gesucht wurde.