A OpenAI, líder no desenvolvimento de tecnologias de inteligência artificial, está atualmente no centro de uma reclamação de privacidade na Áustria, apresentada pelo grupo de direitos de dados Noyb. A reclamação acusa o ChatGPT da OpenAI de espalhar informações falsas sobre um indivíduo e potencialmente violar as leis de privacidade da União Europeia.
OpenAI de Sam Altman acusado de espalhar informações falsas sobre pessoas: a denúncia na Áustria
A reclamação foi apresentada por Noyb em 29 de abril, alegando que a OpenAI não aborda imprecisões nas informações fornecidas por seu chatbot de IA, ChatGPT, em relação a uma figura pública anônima.
Apesar dos pedidos da figura, a OpenAI teria se recusado a corrigir ou excluir dados imprecisos e não divulgou as fontes de seus dados de treinamento.
Esta recusa pode constituir uma violação dos rigorosos regulamentos de protecção de dados da UE, concebidos para salvaguardar as informações pessoais dos indivíduos e garantir a exactidão dos dados.
A denúncia de Noyb destaca um desafio significativo no campo da inteligência artificial: o equilíbrio entre o avanço tecnológico e os direitos de privacidade dos indivíduos.
O Regulamento Geral de Proteção de Dados (RGPD) da UE estabelece que os dados pessoais devem ser exatos e, quando necessário, mantidos atualizados; todas as medidas razoáveis devem ser tomadas para garantir que os dados pessoais imprecisos sejam apagados ou retificados sem demora.
Maartje de Graaf, advogado de proteção de dados de Noyb, afirmou: “Se um sistema não consegue produzir resultados precisos e transparentes, não pode ser usado para gerar dados sobre indivíduos”.
A tecnologia deve seguir os requisitos legais, e não o contrário.” Esta declaração enfatiza a expectativa legal de que as tecnologias de IA não devem apenas avançar em capacidades, mas também alinhar-se com os quadros jurídicos estabelecidos que protegem os direitos dos indivíduos.
A investigação da autoridade austríaca
A autoridade austríaca de proteção de dados está a investigar os métodos de processamento de dados da OpenAI, particularmente a forma como garante a precisão dos dados pessoais processados pelos seus grandes modelos de linguagem.
Este inquérito poderá estabelecer um precedente sobre a forma como as questões de precisão dos dados são tratadas no domínio da IA em toda a União Europeia.
Noyb, sigla para “None of Your Business”, opera em Viena e é conhecida pelo seu compromisso em fazer cumprir os padrões de proteção de dados da UE. Centra-se estrategicamente em casos que têm amplas implicações para os direitos digitais na Europa.
Na Europa, surgiram preocupações semelhantes quando um estudo revelou que o chatbot Bing AI da Microsoft, renomeado Copilot, forneceu informações enganosas durante as eleições locais na Alemanha e na Suíça.
Até mesmo o Gemini AI do Google é criticado por produzir imagens imprecisas e tendenciosas, o que levou o Google a pedir desculpas e se comprometer a atualizar o modelo.
Conclusões
Estes exemplos ilustram os desafios crescentes na integração da IA nas aplicações quotidianas, onde a precisão das informações e o cumprimento das leis de privacidade tornam-se de fundamental importância.
O resultado da queixa de Noyb contra a OpenAI pode ter implicações significativas para os criadores de IA, exigindo-lhes potencialmente a implementação de medidas mais rigorosas de precisão e transparência dos dados para cumprir a legislação da UE.
À medida que as tecnologias de IA se tornam mais integradas na sociedade, o desafio para desenvolvedores como a OpenAI é garantir que os seus produtos não apenas ultrapassem os limites do que é tecnologicamente possível.