De acordo com a PANews, a OpenAI comprometeu-se a proteger a privacidade dos utilizadores e a segurança dos dados, descrevendo as suas actuais medidas de protecção de dados. Os usuários podem gerenciar suas configurações de dados, e tanto os usuários gratuitos quanto os Plus do ChatGPT podem escolher se permitem que seus dados sejam usados para melhorias futuras do modelo. A OpenAI declarou explicitamente que não usará os dados da API, da edição corporativa do ChatGPT e dos clientes da edição de equipe para treinar modelos, e as 'conversas temporárias' do ChatGPT também não serão usadas para treinar modelos.
A OpenAI enfatiza que o objetivo do treinamento de modelos é aprender a linguagem e como compreender e responder, e não adquirir informações privadas. Eles não coletam ativamente informações pessoais nem usam informações públicas da Internet para criar perfis pessoais, exibir anúncios ou vender dados de usuários. Cada vez que uma pergunta é respondida, o modelo gera novo conteúdo, em vez de armazenar ou copiar e colar informações de treinamento anteriores.
Além disso, a OpenAI está empenhada em reduzir as informações pessoais utilizadas para treinamento de modelos. O modelo de treinamento recusa-se a processar solicitações de informações privadas ou sensíveis e tenta evitar a geração de respostas contendo informações privadas ou sensíveis.