Laut Cointelegraph hat Snapchat vom britischen Information Commissioner’s Office (ICO) eine Warnung wegen seines Chatbots mit künstlicher Intelligenz (KI) „My AI“ erhalten. Das ICO hat eine vorläufige Mitteilung an Snap Inc. und Snap Group, die Muttergesellschaften von Snapchat, verschickt, weil sie die Datenschutzrisiken des Chatbots möglicherweise nicht richtig eingeschätzt haben.
Die Mitteilung basiert auf einer vorläufigen Untersuchung des ICO, die ergab, dass die Risiken für mehrere Millionen My AI-Nutzer, darunter Kinder im Alter von 13 bis 17 Jahren, vor der Einführung nicht ausreichend identifiziert wurden. Wenn eine endgültige Durchsetzungsmitteilung herausgegeben wird, könnte Snap gezwungen sein, die Datenverarbeitung in Bezug auf My AI einzustellen, wodurch es den Dienst ohne eine angemessene Risikobewertung nicht mehr an in Großbritannien ansässige Nutzer anbieten kann.
Der KI-Chatbot von Snapchat wurde im Februar 2023 für Benutzer von Snapchat+ in Großbritannien eingeführt, die breitere Verfügbarkeit beginnt im April 2023. My AI basiert auf der GPT-4-Technologie von OpenAI und war laut der Datenaufsicht das erste Beispiel für generative KI, die in eine große Messaging-Plattform in Großbritannien eingebettet wurde. Große Social-Media-Plattformen wie LinkedIn, Meta und Google haben ebenfalls KI-Chatbot-Funktionen in ihre Dienste integriert.