OpenAI, lídr ve vývoji technologií umělé inteligence, je v současnosti v centru stížnosti na ochranu osobních údajů v Rakousku, kterou podala skupina pro práva na data Noyb. Stížnost obviňuje ChatGPT společnosti OpenAI z šíření nepravdivých informací o jednotlivci a potenciálního porušení zákonů Evropské unie o ochraně soukromí.

OpenAI od Sama Altmana obviněn z šíření nepravdivých informací o lidech: stížnost v Rakousku

Stížnost podal Noyb 29. dubna s tvrzením, že OpenAI neřeší nepřesnosti v informacích poskytnutých svým chatbotem AI, ChatGPT, ohledně anonymní veřejné osoby.

Navzdory požadavkům tohoto obrázku by OpenAI odmítla opravit nebo smazat nepřesná data a nezveřejnila zdroje svých tréninkových dat. 

Toto odmítnutí by mohlo představovat porušení přísných předpisů EU o ochraně údajů, jejichž cílem je chránit osobní údaje jednotlivců a zajistit přesnost údajů.

Noybova stížnost zdůrazňuje významnou výzvu v oblasti umělé inteligence: rovnováhu mezi technologickým pokrokem a právy jednotlivců na soukromí. 

Obecné nařízení EU o ochraně osobních údajů (GDPR) uvádí, že osobní údaje musí být přesné a v případě potřeby aktuální; musí být přijata veškerá přiměřená opatření, aby bylo zajištěno, že nepřesné osobní údaje budou neprodleně vymazány nebo opraveny.

Maartje de Graaf, právník na ochranu údajů ze společnosti Noyb, uvedl: „Pokud systém nemůže poskytovat přesné a transparentní výsledky, nelze jej použít ke generování údajů o jednotlivcích. 

Technologie musí splňovat zákonné požadavky, nikoli naopak.“ Toto prohlášení zdůrazňuje právní očekávání, že technologie AI musí nejen pokročit ve schopnostech, ale také být v souladu se zavedenými právními rámci, které chrání práva jednotlivců.

Vyšetřování rakouského úřadu

Rakouský úřad pro ochranu údajů vyšetřuje metody zpracování dat OpenAI, zejména to, jak zajišťuje přesnost osobních údajů zpracovávaných jeho velkými jazykovými modely.

Tento průzkum by mohl vytvořit precedens v tom, jak se řeší problémy s přesností dat v oblasti AI v celé Evropské unii.

Noyb, zkratka pro „None of Your Business“, působí z Vídně a je známý svým závazkem prosazovat standardy EU na ochranu dat. Strategicky se zaměřuje na případy, které mají široké důsledky pro digitální práva v Evropě.

V Evropě se podobné obavy objevily, když studie odhalila, že chatbot Microsoft Bing AI, přejmenovaný na Copilot, poskytoval zavádějící informace během místních voleb v Německu a Švýcarsku.

Dokonce i Gemini AI od společnosti Google je kritizována za vytváření nepřesných a neobjektivních obrázků, což Google přiměje, aby se omluvil a zavázal se k aktualizaci modelu.

Závěry

Tyto příklady ilustrují rostoucí výzvy při integraci umělé inteligence do každodenních aplikací, kde přesnost informací a dodržování zákonů na ochranu soukromí mají zásadní význam. 

Výsledek stížnosti společnosti Noyb na OpenAI by mohl mít významné důsledky pro vývojáře AI, který by od nich mohl vyžadovat, aby zavedli přísnější opatření na přesnost a transparentnost dat, aby vyhověli právu EU.

S tím, jak se technologie AI stále více začleňují do společnosti, je výzvou pro vývojáře, jako je OpenAI, zajistit, aby jejich produkty nejen posouvaly hranice technologicky možného.