A Itália multa a OpenAI em €15M por violações do GDPR, citando proteção de dados inadequada, transparência e salvaguardas para menores.
A OpenAI deve realizar uma campanha de conscientização de 6 meses sobre direitos de dados, ética em IA e proteção do usuário sob as regras do GDPR.
O caso sinaliza um escrutínio mais rigoroso da UE sobre a IA generativa, enfatizando a conformidade e a transparência para uma inovação ética.
A OpenAI foi multada em €15 milhões pela Autoridade Italiana de Proteção de Dados (IDPA) por violar a privacidade com seu modelo de IA ChatGPT. A organização apontou para salvaguardas insuficientes para menores, práticas inadequadas de proteção de dados e falhas em transparência.
Em sua investigação, que foi iniciada em resposta a uma violação de dados em março de 2023, a IDPA, também conhecida como Garante, encontrou numerosas infrações. Questões de transparência surgiram quando a OpenAI não notificou as autoridades sobre o incidente. Além disso, a empresa violou o princípio de transparência do GDPR ao processar dados dos usuários sem uma base legal legítima. Menores com menos de treze anos foram expostos a respostas de chatbot possivelmente inadequadas devido à verificação de idade ineficaz da OpenAI.
https://twitter.com/GPDP_IT/status/1870055097851339070
Transparência e Conscientização do Usuário Tornam-se Preocupações Chave
Para abordar essas deficiências, a OpenAI deve lançar uma campanha de conscientização pública de seis meses em plataformas de mídia. A campanha visa educar os usuários sobre práticas de coleta de dados, direitos sob o GDPR e formas de se opor ao uso de dados para treinamento de IA. Esta iniciativa terá como alvo a melhoria da compreensão pública sobre a IA generativa e suas implicações éticas.
A IDPA destacou que os usuários precisam de mecanismos para retificar ou excluir seus dados. Além disso, a atitude colaborativa da OpenAI durante a investigação influenciou a redução da penalidade. No entanto, essa multa serve como um aviso rigoroso para outras empresas de IA sobre a conformidade com o GDPR.
Implicações Mais Amplas para a Regulamentação da IA na Europa
A OpenAI transferiu sua sede europeia para a Irlanda durante a investigação. Essa mudança colocou a Autoridade de Proteção de Dados da Irlanda (DPC) como o principal órgão supervisor das investigações em andamento. Além da multa, o caso mostra um crescente escrutínio regulatório sobre a IA generativa e seu impacto na sociedade.
As descobertas da IDPA estão alinhadas com a opinião do Conselho Europeu de Proteção de Dados sobre o uso de dados pessoais para o desenvolvimento de IA. O anterior banimento temporário do ChatGPT na Itália em março de 2023 marcou o início desses esforços de aplicação. Embora críticos considerassem o banimento excessivo, ele enfatizou a necessidade de limites regulatórios claros na inovação em IA.