Secondo PANews, OpenAI si è impegnata a proteggere la privacy degli utenti e la sicurezza dei dati, delineando le sue attuali misure di protezione dei dati. Gli utenti possono gestire le proprie impostazioni dei dati e sia gli utenti gratuiti che quelli Plus di ChatGPT possono scegliere se consentire l'utilizzo dei propri dati per futuri miglioramenti del modello. OpenAI ha dichiarato esplicitamente che non utilizzerà i dati dei clienti API, ChatGPT Enterprise Edition e Team Edition per addestrare i modelli e che anche le "conversazioni temporanee" di ChatGPT non verranno utilizzate per l'addestramento dei modelli.
OpenAI sottolinea che lo scopo della formazione del modello è apprendere la lingua e come comprendere e rispondere, non acquisire informazioni private. Non raccolgono attivamente informazioni personali, né utilizzano informazioni pubbliche su Internet per creare profili personali, pubblicare annunci pubblicitari o vendere dati degli utenti. Ogni volta che si risponde a una domanda, il modello genera nuovo contenuto, invece di archiviare o copiare e incollare le informazioni di formazione precedenti.
Inoltre, OpenAI si impegna a ridurre le informazioni personali utilizzate per l'addestramento dei modelli. Il modello di formazione rifiuta di elaborare richieste di informazioni private o sensibili e cerca di evitare di generare risposte contenenti informazioni private o sensibili.