L’UNESCO ha espresso preoccupazione per il fatto che l’intelligenza artificiale generativa possa potenzialmente distorcere la storia dell’Olocausto se gli sviluppatori di intelligenza artificiale non applicano rigorosamente standard etici. 

In un rapporto pubblicato lunedì, l’UNESCO ha messo in guardia dal potenziale uso improprio dell’intelligenza artificiale generativa da parte di malintenzionati.

Vulnerabilità dei giovani alla disinformazione

Il rapporto, pubblicato in collaborazione con il World Jewish Congress, sottolinea che i giovani sono particolarmente vulnerabili alla ricezione di informazioni distorte a causa del loro ampio utilizzo di tecnologie emergenti come l’intelligenza artificiale. Il rapporto evidenzia che circa l’80% delle persone di età compresa tra 10 e 24 anni utilizza l’intelligenza artificiale per vari compiti, compresi i compiti scolastici. Questa elevata esposizione aumenta le possibilità di imbattersi in informazioni distorte.

Il direttore generale dell’UNESCO, Audrey Azoulay, ha dichiarato: “Se permettiamo che gli orribili fatti dell’Olocausto vengano diluiti, distorti o falsificati attraverso l’uso irresponsabile dell’intelligenza artificiale, rischiamo la diffusione esplosiva dell’antisemitismo e la graduale diminuzione della nostra comprensione delle cause e delle conseguenze. di queste atrocità”.

Il rapporto rileva inoltre che l’intelligenza artificiale tende a semplificare eccessivamente eventi storici complessi, spesso privilegiando una gamma ristretta di fonti. Ad esempio, tra il 60% e l’80% dei risultati delle immagini principali relative all’Olocausto dei motori di ricerca basati sull’intelligenza artificiale mostrano un solo sito, Auschwitz-Birkenau.

Il potenziale dell’intelligenza artificiale di perpetuare i pregiudizi

Il rapporto dell’UNESCO avverte che l’intelligenza artificiale può perpetuare i pregiudizi esistenti e l’Olocausto non è esente da questo rischio. Secondo l’UNESCO, la disinformazione sull’Olocausto è già diffusa e potrebbe peggiorare con l’uso dell’intelligenza artificiale generativa. 

Azoulay ha sottolineato la necessità di applicare standard etici per proteggere i giovani dalla ricezione di informazioni distorte. “L’attuazione della Raccomandazione dell’UNESCO sull’etica dell’intelligenza artificiale è urgente affinché le generazioni più giovani crescano con i fatti, non con le invenzioni”, ha affermato Azoulay.

Il rapporto evidenzia episodi in cui modelli di intelligenza artificiale come ChatGPT di OpenAI e Bard di Google, ora chiamato Gemini, hanno inventato eventi legati all’Olocausto. Questi modelli hanno “allucinato” sull’Olocausto, descrivendo in dettaglio eventi fittizi come le campagne naziste in cui gli ebrei furono annegati in fiumi e laghi. Inoltre, i modelli di intelligenza artificiale hanno generato citazioni false per supportare queste narrazioni distorte.

Richiesta di standard etici per l’IA

Il rapporto dell’UNESCO chiede un’azione immediata per far rispettare gli standard etici nello sviluppo dell’IA. Sostiene un approccio multilaterale per affrontare la sfida, sottolineando l’importanza di applicare la Raccomandazione sull’etica dell’intelligenza artificiale, adottata dagli Stati membri dell’UNESCO nel 2021.

L’UNESCO ha inoltre esortato le aziende tecnologiche a rispettare i principi di equità, trasparenza, diritti umani e due diligence nei loro processi di sviluppo dell’intelligenza artificiale. A febbraio, otto aziende tecnologiche hanno firmato un impegno con il Direttore generale dell’UNESCO, impegnandosi ad applicare un approccio etico nello sviluppo dei loro modelli di intelligenza artificiale.

Il rapporto sottolinea che la capacità dell’intelligenza artificiale di fabbricare e distorcere eventi storici, come l’Olocausto, rappresenta un rischio significativo. L’UNESCO sottolinea che l’intelligenza artificiale generativa potrebbe diventare uno strumento per diffondere disinformazione e perpetuare pregiudizi dannosi senza rigorose linee guida etiche e supervisione.

La preoccupazione dell’UNESCO evidenzia la necessità di vigilanza e responsabilità nello sviluppo e nell’implementazione delle tecnologie di intelligenza artificiale. L’invito all’azione dell’organizzazione mira a garantire che la memoria dell’Olocausto e di altri eventi storici rimanga accurata e rispettata, salvaguardando le generazioni future dai pericoli della disinformazione.

L’urgenza di implementare standard etici nello sviluppo dell’IA non può essere sopravvalutata. La Raccomandazione dell’UNESCO sull’etica dell’intelligenza artificiale fornisce un quadro per garantire che le tecnologie dell’intelligenza artificiale siano sviluppate e utilizzate in modo responsabile. Questo quadro comprende principi come l’equità, la trasparenza e il rispetto dei diritti umani, che sono essenziali per prevenire la diffusione della disinformazione.

Il rapporto dell’UNESCO ci ricorda il ruolo fondamentale che gli standard etici svolgono nello sviluppo dell’IA. Aderendo a questi standard, gli sviluppatori possono aiutare a prevenire la distorsione degli eventi storici e proteggere l'integrità delle informazioni a cui hanno accesso i giovani e il pubblico in generale.

Il post L'UNESCO preoccupato che l'IA possa distorcere la memoria dell'Olocausto è apparso per la prima volta su Coinfea.