TLDR
UNESCO brīdina, ka mākslīgais intelekts var tikt ļaunprātīgi izmantots, lai izplatītu nepatiesus un maldinošus apgalvojumus par holokaustu, kas varētu izraisīt antisemītisma pieaugumu un vājinātu izpratni par zvērībām.
Ziņojumā ir paustas bažas par dziļu viltojumu un mākslīgā intelekta radīta satura izveidi, kas varētu nepatiesi likt domāt, ka holokausts nav noticis vai tas ir pārspīlēts.
AI radītu holokausta izkropļojumu piemēri ir ChatGPT, kas izgudroja jēdzienu “Holokausts noslīkstot”, un Google Bard tērzēšanas robots, kas izdomā lieciniekus, lai atbalstītu nepatiesību par nacistu slaktiņiem.
UNESCO aicina valdības, tehnoloģiju uzņēmumus un pedagogus steidzami rīkoties, lai izveidotu ētiskus aizsardzības pasākumus saistībā ar AI tehnoloģiju un izplatītu izpratni par AI radītā satura riskiem.
Lai gan ziņojumā ir atzīts iespējamais pozitīvs mākslīgā intelekta izmantojums holokausta izglītībā, piemēram, liecību klasificēšana un ieskaujošas pieredzes radīšana, pašreizējais tehnoloģijas stāvoklis rada vairāk bažas nekā iespējas.
Jaunajā ANO Izglītības, zinātnes un kultūras organizācijas (UNESCO) publicētajā ziņojumā ir brīdināts, ka mākslīgā intelekta (AI) sasniegumi var izraisīt holokausta noliegšanas un izkropļojumu pieaugumu.
Otrdien sadarbībā ar Pasaules ebreju kongresu publicētajā ziņojumā uzsvērts, ka mākslīgais intelekts var tikt ļaunprātīgi izmantots, lai izplatītu nepatiesus un maldinošus apgalvojumus par vienu no cilvēces vēstures drūmākajām nodaļām.
UNESCO ziņojumā ir paustas bažas, ka mākslīgā intelekta radīts saturs gan programmu nepilnību, gan naida grupu un holokausta noliedzēju tīšas ļaunprātīgas izmantošanas dēļ varētu likt apšaubīt labi dokumentēto ebreju un citu grupu slepkavības, ko veikuši nacisti.
Viena no satraucošākajām iespējām ir dziļu viltojumu izveide – reālistisku attēlu vai videomateriālu izveide, kas varētu likt domāt, ka holokausts nekad nav noticis vai tas ir stipri pārspīlēts.
Šāds saturs varētu veicināt antisemītisma pieaugumu un izpratnes trūkumu par šo izšķirošo brīdi 20. gadsimta vēsturē.
Ziņojumā ir minēti vairāki piemēri AI radītiem holokausta kropļojumiem, tostarp ChatGPT, kas izgudroja jēdzienu “Holokausts noslīkstot”, un Google Bard tērzēšanas robots, kas izdomā lieciniekus, lai atbalstītu nepatiesību par nacistu slaktiņiem.
Šie gadījumi parāda AI potenciālu radīt un izplatīt dezinformāciju, izmantojot netīšu kļūdas vai apzinātas manipulācijas.
UNESCO ģenerāldirektore Odrija Azoula uzsvēra situācijas nopietnību, norādot,
"Ja mēs ļausim šausminošajiem holokausta faktiem tikt vājiem, sagrozītiem vai falsificētiem, bezatbildīgi izmantojot mākslīgo intelektu, mēs riskējam ar antisemītisma eksplozīvu izplatīšanos un pakāpenisku mūsu izpratnes samazināšanos par šo zvērību cēloņiem un sekām."
Ziņojumā arī uzsvērta pieaugošā iespējamība, ka neuzticami dati un mākslīgā intelekta "halucinācijas" pat netīšām var veicināt sabiedrības pārpratumus par holokaustu, jo mākslīgais intelekts kļūst arvien plašāks izglītībā, pētniecībā un rakstniecībā. AI programmas, kas paļaujas uz salīdzinoši šauriem informācijas avotiem, var sniegt nepilnīgas vai maldinošas atbildes uz jautājumiem par holokaustu.
Lai risinātu šīs bažas, UNESCO aicina valdības, tehnoloģiju uzņēmumus un pedagogus steidzami rīkoties. Ziņojumā tehnoloģiju uzņēmumi tiek mudināti izstrādāt ētikas noteikumus mākslīgā intelekta izstrādei un lietošanai, lai samazinātu neuzticamas informācijas ģenerēšanas iespējamību un neļautu ļaunajiem dalībniekiem izmantot AI programmas, lai veicinātu vardarbību un izplatītu holokausta noliegšanu.
UNESCO eksperts Karels Frakapāns brīdina, ka holokausta vēstures izkropļojumi parāda, kā mākslīgais intelekts var izjaukt mūsu attiecības ar patiesību un "novest pie dziļas demokrātiskās kultūras erozijas".
Viņš iezīmē saikni starp galēji labējo politiķu popularitātes pieaugumu Rietumeiropā un naida runas izplatību tiešsaistē, uzsverot mākslīgā intelekta radītās dezinformācijas reālās pasaules politiskās sekas.
Lai gan ziņojumā ir atzīti iespējami pozitīvi AI pielietojumi holokausta izglītībā, piemēram, liecību klasificēšana kategorijās un ieskaujošas pieredzes radīšana jauniešiem, Fracapane vairāk sliecas uz AI uzskatīt par draudu, nevis iespēju tā pašreizējā stāvoklī.
The post UNESCO ziņojums: AI rada risku izplatīt holokausta noliegumu un izkropļojumus appeared first on Blockonomi.