AI Hallucinations Brought Another Legal Trouble for OpenAI

Cryptopolitan · 2024-04-30T12:43:04.000Z

A privacy organization, Noyb, has filed a complaint against OpenAI with the Austrian Data Protection Authority (DPA) on the grounds that its product ChatGPT breaks many data protection laws of the EU. The organization said that ChatGPT shares incorrect information about people, and the EU’s General Data Protection Regulation (GDPR) requires that the information about people should be correct, and they must be provided with full access to the information that is about them. OpenAI faces GDPR charges Noyb was established by famous lawyer and activist Max Schrems, and it claimed that ChatGPT shared a false birthday date about a famous public figure, and when asked for permission to access and delete data related to him, his request was denied by Open AI. Noyb Says that according to the EU’s GDPR, any information about any individual must be accurate and they must have access and information about the source, but according to it, OpenAI says that it is unable to correct the information in their ChatGPT model. The company is also unable to tell where the information came from, and even it doesn’t know what data ChatGPT stores about individuals. Noyb claims that OpenAI is aware of the problem and seems like it does not care about it as its argument on the issue is that, “Factual accuracy in large language models remains an area of active research.” Noyb noted that wrong information may be tolerable when ChatGPT spews it when students use it for their homework, but it said that it’s clearly unacceptable for individual people as it is a requirement of EU law that personal data must be accurate. Hallucinations make chatbots non-compliant with EU regulations Noyb mentioned that AI models are prone to hallucinations and make information that is actually false. They questioned OpenAI’s technical procedure of generating information, as it noted OpenAI’s reasoning that, “responses to user requests by predicting the next most likely words that might appear in response to each prompt.” Source: Statista. Noyb argues that it means that despite the fact that the company has extensive data sets available for training its model, but still, it cannot guarantee that the answers provided to users are factually correct. Noyb’s data protection lawyer, Maartje de Gaaf, said, “Making up false information is quite problematic in itself. But when it comes to false information about individuals, there can be serious consequences.” Source: Noyb. He also said that any technology has to follow laws and cannot play around, as according to him, if a tool cannot produce correct results about individuals, then it cannot be used for this purpose, he also added that companies are not yet technically sound to create chatbots that can comply with EU laws on this subject. Generative AI tools are under the strict scrutiny of European privacy regulators, as back in 2023, the Italian DPA temporarily restricted data protection. It is yet unclear what the outcomes will be, but according to Noyb, OpenAI doesn’t even pretend that it will comply with the EU law.

O organizație de confidențialitate, Noyb, a depus o plângere împotriva OpenAI la Autoritatea Austriacă pentru Protecția Datelor (DPA), pe motiv că produsul său ChatGPT încalcă multe legi privind protecția datelor din UE. Organizația a spus că ChatGPT partajează informații incorecte despre oameni, iar Regulamentul general al UE pentru protecția datelor (GDPR) cere ca informațiile despre oameni să fie corecte și să li se ofere acces deplin la informațiile despre ei.
OpenAI se confruntă cu taxe GDPR
Noyb a fost înființat de celebrul avocat și activist Max Schrems și a susținut că Chatgpt a împărtășit o dată de naștere falsă despre o faimoasă persoană publică, iar atunci când i s -a cerut permisiunea de a accesa și șterge datele legate de el, cererea sa a fost refuzată de Open AI.
Noyb spune că, conform GDPR al UE, orice informație despre orice persoană trebuie să fie corectă și trebuie să aibă acces și informații despre sursă, dar conform acestuia, OpenAI spune că nu poate corecta informațiile din modelul său ChatGPT. De asemenea, compania nu poate spune de unde provin informațiile și nici măcar nu știe ce date stochează ChatGPT despre indivizi. 
Noyb susține că OpenAI este conștient de problemă și pare că nu îi pasă de ea, deoarece argumentul său pe această temă este că,
„Acuratețea faptică în modelele mari de limbaj rămâne un domeniu de cercetare activă.”
Noyb a remarcat că informațiile greșite pot fi tolerabile atunci când ChatGPT le aruncă atunci când studenții le folosesc pentru teme, dar a spus că este în mod clar inacceptabilă pentru persoane individuale, deoarece este o cerință a legislației UE ca datele cu caracter personal să fie exacte. 
Halucinațiile fac ca chatboții să nu respecte reglementările UE
Noyb a menționat că modelele AI sunt predispuse la halucinații și fac informații care sunt de fapt false. Ei au pus sub semnul întrebării procedura tehnică a OpenAI de a genera informații, deoarece a remarcat raționamentul OpenAI că,
„răspuns la solicitările utilizatorilor prin prezicerea următoarelor cuvinte cel mai probabil care ar putea apărea ca răspuns la fiecare solicitare.”
 Sursa: Statista.
NOYB susține că înseamnă că, în ciuda faptului că compania are seturi de date extinse disponibile pentru instruirea modelului său, dar totuși, nu poate garanta că răspunsurile furnizate utilizatorilor sunt corecte de fapt.
Avocatul pentru protecția datelor al lui Noyb, Maartje de Gaaf, a spus:
„Invenția de informații false este destul de problematică în sine. Dar când vine vorba de informații false despre indivizi, pot exista consecințe grave.”
 Sursa: Noyb.
El a mai spus că orice tehnologie trebuie să respecte legile și nu se poate juca, deoarece, potrivit lui, dacă un instrument nu poate produce rezultate corecte despre indivizi, atunci nu poate fi folosit în acest scop, a mai adăugat că companiile nu sunt încă sănătoase din punct de vedere tehnic să creați chatbot-uri care pot respecta legile UE în acest domeniu.
Instrumentele de inteligență artificială generativă se află sub controlul strict al autorităților europene de reglementare a confidențialității, deoarece în 2023, DPA italiană a restricționat temporar protecția datelor. Încă nu este clar care vor fi rezultatele, dar potrivit lui Noyb, OpenAI nici măcar nu pretinde că va respecta legislația UE.

Explorați mai multe de la acest creator

Ultimele știri