Según PANews, OpenAI se ha comprometido a proteger la privacidad del usuario y la seguridad de los datos, describiendo sus medidas actuales de protección de datos. Los usuarios pueden administrar su configuración de datos, y los usuarios gratuitos y Plus de ChatGPT pueden elegir si permiten que sus datos se utilicen para futuras mejoras del modelo. OpenAI ha declarado explícitamente que no utilizará los datos de los clientes de API, ChatGPT Enterprise Edition y Team Edition para entrenar modelos, y las "conversaciones temporales" de ChatGPT tampoco se utilizarán para el entrenamiento de modelos.

OpenAI enfatiza que el propósito del entrenamiento modelo es aprender el lenguaje y cómo comprenderlo y responder, no adquirir información privada. No recopilan activamente información personal ni utilizan información pública de Internet para crear perfiles personales, entregar anuncios o vender datos de usuarios. Cada vez que se responde una pregunta, el modelo genera contenido nuevo, en lugar de almacenar o copiar y pegar información de entrenamiento anterior.

Además, OpenAI se compromete a reducir la información personal utilizada para la formación de modelos. El modelo de formación se niega a procesar solicitudes de información privada o sensible y trata de evitar generar respuestas que contengan información privada o sensible.