L'UNESCO a exprimé ses inquiétudes quant au fait que l'IA générative pourrait déformer l'histoire de l'Holocauste si les développeurs d'IA n'appliquent pas de normes éthiques. Dans un rapport publié lundi, l’UNICEF a mis en garde contre une éventuelle utilisation abusive de l’IA générative par de mauvais acteurs.
A lire aussi : Les banques centrales doivent « améliorer leur jeu » en matière d’IA, prévient la BRI
Le rapport de l'UNESCO prévient que de mauvais acteurs pourraient utiliser la technologie pour diffuser de la désinformation et des contenus trompeurs sur l'Holocauste.
Les jeunes sont vulnérables aux informations erronées
Le rapport, publié en collaboration avec le Congrès juif mondial, prévient que les jeunes courent davantage de risques de recevoir des informations déformées en raison de leur forte exposition aux technologies émergentes comme l’IA.
Cela survient alors que des rapports suggèrent également que 80 % des jeunes âgés de 10 à 24 ans utilisent l’IA pour diverses tâches comme les devoirs scolaires, ce qui augmente leurs chances d’accéder à des informations déformées.
« Si nous permettons que les horribles faits de l’Holocauste soient dilués, déformés ou falsifiés par l’utilisation irresponsable de l’IA, nous risquons une propagation explosive de l’antisémitisme et une diminution progressive de notre compréhension des causes et des conséquences de ces atrocités. »
Audrey Azoulay, directrice générale de l'UNESCO.
Le rapport souligne également que l’IA a une forte propension à « simplifier à l’excès une histoire complexe, en privilégiant un éventail restreint de sources et une sélection restreinte d’événements ». Par exemple, environ 60 à 80 % des meilleurs résultats d’images des moteurs de recherche basés sur l’IA ne montrent qu’un seul site de l’Holocauste, Auschwitz-Birkenau.
L'UNESCO appelle à l'action pour faire respecter l'éthique
Le rapport affirme que l’IA peut perpétuer les préjugés existants, et que l’Holocauste ne sera pas épargné par ces préjugés de l’IA. Selon l’UNESCO, la désinformation sur l’Holocauste est déjà répandue et pourrait s’aggraver en raison de l’utilisation de l’IA générative.
A lire aussi : Meta AI s'étend en Inde dans un contexte de concurrence croissante en IA
Azoulay a souligné l'importance de faire respecter des normes éthiques pour protéger les jeunes contre les informations déformées.
« Il est urgent de mettre en œuvre la Recommandation de l’UNESCO sur l’éthique de l’IA afin que les jeunes générations grandissent avec des faits et non des inventions. »
Azoulay.
Le rapport souligne que des modèles d’IA comme ChatGPT d’OpenAI et Bard de Google, désormais Gemini, ont halluciné sur l’Holocauste, détaillant des événements qui ne se sont jamais produits. Selon l’UNESCO, ces modèles ont « fabriqué le concept de l’Holocauste à travers des campagnes de noyade au cours desquelles les nazis ont noyé des Juifs dans des rivières et des lacs ».
Les modèles d’IA ont également créé de fausses citations pour étayer ces récits déformés. À la lumière de ces incidents, l'UNESCO a appelé à une approche multipartite pour relever ce défi. L’une des solutions consiste à mettre en œuvre rapidement la recommandation sur l’éthique de l’IA qui a été adoptée par les États membres en 2021.
L'UNESCO a également exhorté les entreprises technologiques à respecter les principes d'équité, de transparence, de droits de l'homme et de diligence raisonnable. Huit entreprises technologiques ont signé un engagement auprès du directeur général de l'UNESCO en février, s'engageant à appliquer une approche éthique dans le développement de leurs modèles d'IA.
Reportage cryptopolitain par Enacy Mapakame