Itálie pokutuje OpenAI částkou 15 milionů eur za porušení GDPR, uvádějíc slabou ochranu dat, transparentnost a ochranná opatření pro nezletilé.
OpenAI musí provést šestiměsíční informační kampaň o právech na ochranu dat, etice AI a ochraně uživatelů podle pravidel GDPR.
Případ signalizuje přísnější dohled EU nad generativní AI, zdůrazňující dodržování předpisů a transparentnost pro etickou inovaci.
OpenAI byla pokutována částkou 15 milionů eur italským úřadem pro ochranu osobních údajů (IDPA) za porušení soukromí svým AI modelem ChatGPT. Organizace poukázala na nedostatečné ochranné mechanismy pro nezletilé, slabé praktiky ochrany dat a nedostatky v transparentnosti.
Ve svém vyšetřování, které bylo zahájeno v reakci na únik dat v březnu 2023, IDPA, také známý jako Garante, zjistil řadu porušení. Problémy s transparentností vznikly, když OpenAI neinformovala úřady o incidentu. Dále firma porušila princip transparentnosti GDPR zpracováním uživatelských dat bez legitimního právního základu. Nezletilé osoby mladší třinácti let byly vystaveny potenciálně nevhodným odpovědím chatbotu kvůli neúčinné verifikaci věku ze strany OpenAI.
https://twitter.com/GPDP_IT/status/1870055097851339070
Transparentnost a povědomí uživatelů se stávají klíčovými obavami
Abychom se vypořádali s těmito nedostatky, musí OpenAI zahájit šestiměsíční veřejnou informační kampaň napříč mediálními platformami. Kampaň má za cíl vzdělávat uživatele o praktikách sběru dat, právech podle GDPR a způsobech, jak se bránit proti používání dat pro školení AI. Tato iniciativa bude cílit na zlepšení veřejného porozumění generativní AI a jejím etickým důsledkům.
IDPA zdůraznila, že uživatelé potřebují mechanismy k opravě nebo odstranění svých dat. Kromě toho kolaborativní postoj OpenAI během vyšetřování ovlivnil snížení pokuty. Přesto tato pokuta slouží jako přísné varování pro ostatní firmy v oblasti AI ohledně dodržování GDPR.
Širší důsledky regulace AI v Evropě
OpenAI přesunula své evropské sídlo do Irska během vyšetřování. Tento krok postavil irský úřad pro ochranu osobních údajů (DPC) jako hlavní dozorový orgán pro probíhající vyšetřování. Kromě pokuty tento případ ukazuje na rostoucí regulační dohled nad generativní AI a jejím společenským dopadem.
Zjištění IDPA odpovídají názoru Evropského výboru pro ochranu údajů o používání osobních údajů pro vývoj AI. Předchozí dočasný zákaz ChatGPT v Itálii v březnu 2023 znamenal začátek těchto vynucovacích snah. Ačkoli kritici považovali zákaz za nadměrný, zdůraznil potřebu jasných regulačních hranic v inovacích AI.