L’UNESCO ha espresso la preoccupazione che l’intelligenza artificiale generativa possa distorcere la storia dell’Olocausto se gli sviluppatori di intelligenza artificiale non applicano standard etici. In un rapporto pubblicato lunedì, l’UNICEF ha messo in guardia sul potenziale uso improprio dell’intelligenza artificiale generativa da parte di soggetti malintenzionati.

Leggi anche: Le banche centrali devono “alzare la posta” sull’intelligenza artificiale, avverte la BRI

Il rapporto dell’UNESCO avverte che i malintenzionati potrebbero utilizzare la tecnologia per diffondere disinformazione, disinformazione e contenuti fuorvianti sull’Olocausto.

I giovani sono vulnerabili alle informazioni errate

Il rapporto, pubblicato in collaborazione con il World Jewish Congress, avverte che i giovani sono maggiormente a rischio di ricevere informazioni distorte a causa della loro elevata esposizione a tecnologie emergenti come l’intelligenza artificiale.

Ciò avviene perché i rapporti suggeriscono anche che l’80% dei giovani di età compresa tra 10 e 24 anni utilizza l’intelligenza artificiale per vari compiti come i compiti scolastici, il che aumenta le loro possibilità di accedere a informazioni distorte.

“Se permettiamo che gli orribili fatti dell’Olocausto vengano diluiti, distorti o falsificati attraverso l’uso irresponsabile dell’intelligenza artificiale, rischiamo la diffusione esplosiva dell’antisemitismo e la graduale diminuzione della nostra comprensione delle cause e delle conseguenze di queste atrocità”.

Il direttore generale dell'UNESCO Audrey Azoulay.

Il rapporto evidenzia inoltre che l’intelligenza artificiale ha una forte propensione a “semplificare eccessivamente la storia complessa, privilegiando una gamma ristretta di fonti e una piccola selezione di eventi”. Ad esempio, circa il 60-80% dei risultati delle immagini principali dei motori di ricerca basati sull’intelligenza artificiale mostrano solo un sito dell’Olocausto, Auschwitz-Birkenau.

L’UNESCO chiede un’azione per far rispettare l’etica

Il rapporto sostiene che l’intelligenza artificiale può perpetuare i pregiudizi esistenti e che l’Olocausto non sarà risparmiato da questi pregiudizi dell’intelligenza artificiale. Secondo l’UNESCO, esiste già una prevalenza di disinformazione sull’Olocausto, che può peggiorare a causa dell’uso generativo dell’intelligenza artificiale.

Leggi anche: Meta AI si espande in India in mezzo alla crescente concorrenza dell’IA

Azoulay ha sottolineato l'importanza di applicare standard etici per proteggere i giovani da un'informazione distorta.

“L’attuazione della Raccomandazione dell’UNESCO sull’etica dell’intelligenza artificiale è urgente affinché le generazioni più giovani crescano con i fatti e non con le invenzioni”.

Azoulay.

Il rapporto evidenzia che modelli di intelligenza artificiale come ChatGPT di OpenAI e Bard di Google, ora Gemini, hanno avuto allucinazioni sull’Olocausto, descrivendo in dettaglio eventi mai accaduti. Secondo l’UNESCO, questi modelli hanno “fabbricato il concetto dell’Olocausto attraverso campagne di annegamento in cui i nazisti annegarono gli ebrei in fiumi e laghi”.

I modelli di intelligenza artificiale hanno anche creato false citazioni per supportare queste narrazioni distorte. Alla luce di questi episodi, l’UNESCO ha richiesto un approccio multilaterale per affrontare la sfida. Una delle soluzioni è la rapida attuazione della Raccomandazione sull’etica dell’IA adottata dagli Stati membri nel 2021.

L’UNESCO ha inoltre esortato le aziende tecnologiche a rispettare i principi di equità, trasparenza, diritti umani e due diligence. Otto aziende tecnologiche hanno firmato a febbraio un impegno con il direttore generale dell’UNESCO, impegnandosi ad applicare un approccio etico nello sviluppo dei loro modelli di intelligenza artificiale.

Reporting criptopolitico di Enacy Mapakame