Laut PANews hat sich OpenAI verpflichtet, die Privatsphäre und Datensicherheit der Benutzer zu schützen, und seine aktuellen Datenschutzmaßnahmen dargelegt. Benutzer können ihre Dateneinstellungen verwalten und sowohl kostenlose als auch Plus-Benutzer von ChatGPT können wählen, ob sie die Verwendung ihrer Daten für zukünftige Modellverbesserungen zulassen möchten. OpenAI hat ausdrücklich erklärt, dass es die Daten von API-, ChatGPT Enterprise Edition- und Team Edition-Kunden nicht zum Trainieren von Modellen verwenden wird und die „temporären Konversationen“ von ChatGPT ebenfalls nicht zum Trainieren von Modellen verwendet werden.

OpenAI betont, dass der Zweck des Modelltrainings darin besteht, Sprache zu lernen und zu verstehen und zu reagieren, und nicht darin, private Informationen zu erhalten. Sie sammeln weder aktiv persönliche Informationen, noch verwenden sie öffentliche Internetinformationen, um persönliche Profile zu erstellen, Werbung zu schalten oder Benutzerdaten zu verkaufen. Jedes Mal, wenn eine Frage beantwortet wird, generiert das Modell neuen Inhalt, anstatt vorherige Trainingsinformationen zu speichern oder zu kopieren und einzufügen.

Darüber hinaus ist OpenAI bestrebt, die für das Modelltraining verwendeten personenbezogenen Daten zu reduzieren. Das Trainingsmodell lehnt die Verarbeitung privater oder vertraulicher Informationsanfragen ab und versucht, die Generierung von Antworten zu vermeiden, die private oder vertrauliche Informationen enthalten.