UNESCO și-a exprimat îngrijorarea cu privire la IA generativă care ar putea denatura istoria Holocaustului dacă dezvoltatorii de IA nu aplică în mod riguros standardele etice. 

Într-un raport publicat luni, UNESCO a avertizat cu privire la potențiala utilizare abuzivă de către actorii răi a inteligenței artificiale generative.

Vulnerabilitatea tinerilor la dezinformare

Raportul, publicat în parteneriat cu Congresul Evreiesc Mondial, subliniază faptul că tinerii sunt deosebit de vulnerabili la primirea de informații distorsionate din cauza utilizării pe scară largă a tehnologiilor emergente precum AI. Raportul evidențiază că aproximativ 80% dintre persoanele cu vârste cuprinse între 10 și 24 de ani folosesc AI pentru diverse sarcini, inclusiv sarcinile școlare. Această expunere ridicată crește șansele lor de a întâlni informații distorsionate.

Directorul general UNESCO, Audrey Azoulay, a declarat: „Dacă permitem diluarea, distorsionarea sau falsificarea faptelor oribile ale Holocaustului prin utilizarea iresponsabilă a inteligenței artificiale, riscăm răspândirea explozivă a antisemitismului și diminuarea treptată a înțelegerii noastre despre cauzele și consecințele. dintre aceste atrocități.”

Raportul notează, de asemenea, că IA tinde să simplifice excesiv evenimentele istorice complexe, privilegiând adesea o gamă restrânsă de surse. De exemplu, între 60% și 80% din rezultatele imaginilor de top ale motoarelor de căutare bazate pe inteligență artificială pentru Holocaust arată un singur site, Auschwitz-Birkenau.

Potențialul AI de a perpetua prejudecățile

Raportul UNESCO avertizează că AI poate perpetua părtinirile existente, iar Holocaustul nu este scutit de acest risc. Potrivit UNESCO, dezinformarea despre Holocaust este deja răspândită și se poate agrava odată cu utilizarea IA generativă. 

Azoulay a subliniat necesitatea de a impune standarde etice pentru a proteja tinerii de a primi informații distorsionate. „Implementarea Recomandării UNESCO privind etica IA este urgentă, astfel încât generațiile mai tinere să crească cu fapte, nu cu inventii”, a spus Azoulay.

Raportul evidențiază incidente în care modele de inteligență artificială precum ChatGPT de la OpenAI și Bard de la Google, numit acum Gemini, au fabricat evenimente legate de Holocaust. Aceste modele au „halucinat” despre Holocaust, detaliând evenimente fictive, cum ar fi campaniile naziste în care evreii au fost înecați în râuri și lacuri. În plus, modelele AI au generat citate false pentru a susține aceste narațiuni distorsionate.

Apelați la standarde etice AI

Raportul UNESCO solicită acțiuni imediate pentru a impune standardele etice în dezvoltarea IA. Ea pledează pentru o abordare cu mai multe părți interesate pentru a aborda provocarea, subliniind importanța aplicării Recomandării privind etica IA, adoptată de statele membre UNESCO în 2021.

UNESCO a îndemnat, de asemenea, companiile de tehnologie să respecte principiile echității, transparenței, drepturilor omului și diligenței necesare în procesele lor de dezvoltare a IA. În februarie, opt firme de tehnologie au semnat un angajament față de directorul general al UNESCO, angajându-se să aplice o abordare etică în dezvoltarea modelelor lor de inteligență artificială.

Raportul subliniază că capacitatea AI de a fabrica și de a distorsiona evenimente istorice, cum ar fi Holocaustul, prezintă un risc semnificativ. UNESCO subliniază că inteligența artificială generativă ar putea deveni un instrument pentru răspândirea dezinformării și perpetuarea prejudecăților dăunătoare fără orientări etice și supraveghere stricte.

Preocuparea UNESCO evidențiază nevoia de vigilență și responsabilitate în dezvoltarea și implementarea tehnologiilor AI. Apelul organizației la acțiune urmărește să se asigure că memoria Holocaustului și a altor evenimente istorice rămâne exactă și respectată, protejând generațiile viitoare de pericolele dezinformarii.

Urgența implementării standardelor etice în dezvoltarea IA nu poate fi supraevaluată. Recomandarea UNESCO privind etica IA oferă un cadru pentru a se asigura că tehnologiile IA sunt dezvoltate și utilizate în mod responsabil. Acest cadru include principii precum corectitudinea, transparența și respectul pentru drepturile omului, care sunt esențiale pentru prevenirea răspândirii dezinformării și a dezinformării.

Raportul UNESCO ne amintește de rolul critic pe care standardele etice îl joacă în dezvoltarea IA. Prin aderarea la aceste standarde, dezvoltatorii pot contribui la prevenirea distorsionării evenimentelor istorice și la protejarea integrității informațiilor accesate de tineri și de publicul larg.

Postarea UNESCO Concerned AI poate distorsiona memoria Holocaustului a apărut pentru prima dată pe Coinfea.