UNESCO Concerned AI May Distort Holocaust Memory

CoinFea · 2024-06-26T14:53:01.000Z

UNESCO has expressed concerns about generative AI potentially distorting the history of the Holocaust if AI developers do not rigorously apply ethical standards. In a report released Monday, UNESCO warned of bad actors’ potential misuse of generative AI. Vulnerability of young people to misinformation The report, published in partnership with the World Jewish Congress, emphasizes that young people are particularly vulnerable to receiving distorted information due to their extensive use of emerging technologies like AI. The report highlights that around 80% of individuals aged 10 to 24 use AI for various tasks, including school assignments. This high exposure increases their chances of encountering distorted information. UNESCO Director-General Audrey Azoulay stated, “If we allow the horrific facts of the Holocaust to be diluted, distorted or falsified through the irresponsible use of AI, we risk the explosive spread of antisemitism and gradual diminution of our understanding about the causes and consequences of these atrocities.” The report also notes that AI tends to oversimplify complex historical events, often privileging a narrow range of sources. For example, between 60% and 80% of AI-powered search engines’ top image results for the Holocaust show only one site, Auschwitz-Birkenau. AI’s potential to perpetuate biases The UNESCO report warns that AI can perpetuate existing biases, and the Holocaust is not exempt from this risk. According to UNESCO, disinformation about the Holocaust is already prevalent and may worsen with the use of generative AI. Azoulay stressed the need to enforce ethical standards to protect young people from receiving distorted information. “Implementing UNESCO’s Recommendation on Ethics of AI is urgent so that younger generations grow up with facts, not fabrications,” said Azoulay. The report highlights incidents where AI models like OpenAI’s ChatGPT and Google’s Bard, now called Gemini, have fabricated events related to the Holocaust. These models have “hallucinated” about the Holocaust, detailing fictitious events such as Nazi campaigns where Jews were drowned in rivers and lakes. Additionally, AI models have generated false quotes to support these distorted narratives. Call for ethical AI standards UNESCO’s report calls for immediate action to enforce ethical standards in AI development. It advocates for a multi-stakeholder approach to tackle the challenge, emphasizing the importance of applying the Recommendation on Ethics of AI, adopted by UNESCO member states in 2021. UNESCO also urged tech companies to respect principles of fairness, transparency, human rights, and due diligence in their AI development processes. In February, eight tech firms signed a commitment to UNESCO’s Director-General, pledging to apply an ethical approach in developing their AI models. The report stresses that AI’s ability to fabricate and distort historical events, such as the Holocaust, poses a significant risk. UNESCO emphasizes that generative AI could become a tool for spreading misinformation and perpetuating harmful biases without strict ethical guidelines and oversight. UNESCO’s concern highlights the need for vigilance and responsibility in developing and deploying AI technologies. The organization’s call to action aims to ensure that the memory of the Holocaust and other historical events remains accurate and respected, safeguarding future generations from the dangers of misinformation. The urgency of implementing ethical standards in AI development cannot be overstated. UNESCO’s Recommendation on the Ethics of AI provides a framework for ensuring that AI technologies are developed and used responsibly. This framework includes principles such as fairness, transparency, and respect for human rights, which are essential in preventing the spread of misinformation and disinformation. UNESCO’s report reminds us of the critical role that ethical standards play in AI development. By adhering to these standards, developers can help prevent the distortion of historical events and protect the integrity of information accessed by young people and the general public. The post UNESCO Concerned AI May Distort Holocaust Memory first appeared on Coinfea.

L'UNESCO a exprimé ses inquiétudes quant au risque que l'IA générative déforme l'histoire de l'Holocauste si les développeurs d'IA n'appliquent pas rigoureusement les normes éthiques. 
Dans un rapport publié lundi, l’UNESCO a mis en garde contre une éventuelle utilisation abusive de l’IA générative par de mauvais acteurs.
Vulnérabilité des jeunes à la désinformation
Le rapport, publié en partenariat avec le Congrès juif mondial, souligne que les jeunes sont particulièrement vulnérables aux informations déformées en raison de leur utilisation intensive de technologies émergentes comme l’IA. Le rapport souligne qu'environ 80 % des individus âgés de 10 à 24 ans utilisent l'IA pour diverses tâches, y compris les devoirs scolaires. Cette exposition élevée augmente leurs chances de rencontrer des informations déformées.
La Directrice générale de l'UNESCO, Audrey Azoulay, a déclaré : « Si nous permettons que les horribles faits de l'Holocauste soient dilués, déformés ou falsifiés par l'utilisation irresponsable de l'IA, nous risquons une propagation explosive de l'antisémitisme et une diminution progressive de notre compréhension des causes et des conséquences. de ces atrocités.
Le rapport note également que l’IA a tendance à simplifier à l’excès les événements historiques complexes, privilégiant souvent un éventail restreint de sources. Par exemple, entre 60 % et 80 % des meilleurs résultats d’images des moteurs de recherche basés sur l’IA pour l’Holocauste ne montrent qu’un seul site, Auschwitz-Birkenau.
Le potentiel de l’IA à perpétuer les préjugés
Le rapport de l’UNESCO prévient que l’IA peut perpétuer les préjugés existants, et que l’Holocauste n’est pas à l’abri de ce risque. Selon l’UNESCO, la désinformation sur l’Holocauste est déjà répandue et pourrait s’aggraver avec l’utilisation de l’IA générative. 
Azoulay a souligné la nécessité de faire respecter des normes éthiques pour protéger les jeunes contre la réception d'informations déformées. « Il est urgent de mettre en œuvre la Recommandation de l'UNESCO sur l'éthique de l'IA afin que les jeunes générations grandissent avec des faits et non des inventions », a déclaré Azoulay.
Le rapport met en évidence des incidents au cours desquels des modèles d’IA tels que ChatGPT d’OpenAI et Bard de Google, désormais appelé Gemini, ont fabriqué des événements liés à l’Holocauste. Ces modèles ont « halluciné » sur l’Holocauste, détaillant des événements fictifs tels que les campagnes nazies au cours desquelles des Juifs se sont noyés dans des rivières et des lacs. De plus, les modèles d’IA ont généré de fausses citations pour étayer ces récits déformés.
Appel à des normes éthiques en matière d’IA
Le rapport de l’UNESCO appelle à une action immédiate pour faire respecter les normes éthiques dans le développement de l’IA. Il plaide en faveur d'une approche multipartite pour relever ce défi, soulignant l'importance d'appliquer la Recommandation sur l'éthique de l'IA, adoptée par les États membres de l'UNESCO en 2021.
L'UNESCO a également exhorté les entreprises technologiques à respecter les principes d'équité, de transparence, de droits de l'homme et de diligence raisonnable dans leurs processus de développement de l'IA. En février, huit entreprises technologiques ont signé un engagement auprès du Directeur général de l’UNESCO, s’engageant à appliquer une approche éthique dans le développement de leurs modèles d’IA.
Le rapport souligne que la capacité de l’IA à fabriquer et à déformer des événements historiques, tels que l’Holocauste, présente un risque important. L'UNESCO souligne que l'IA générative pourrait devenir un outil de diffusion de fausses informations et de perpétuation de préjugés néfastes sans directives éthiques et contrôle stricts.
La préoccupation de l’UNESCO met en évidence la nécessité de faire preuve de vigilance et de responsabilité dans le développement et le déploiement des technologies d’IA. L’appel à l’action de l’organisation vise à garantir que la mémoire de l’Holocauste et d’autres événements historiques reste exacte et respectée, protégeant ainsi les générations futures des dangers de la désinformation.
L’urgence de mettre en œuvre des normes éthiques dans le développement de l’IA ne peut être surestimée. La Recommandation de l’UNESCO sur l’éthique de l’IA fournit un cadre pour garantir que les technologies de l’IA sont développées et utilisées de manière responsable. Ce cadre comprend des principes tels que l'équité, la transparence et le respect des droits de l'homme, qui sont essentiels pour prévenir la propagation de la désinformation et de la désinformation.
Le rapport de l’UNESCO nous rappelle le rôle essentiel que jouent les normes éthiques dans le développement de l’IA. En adhérant à ces normes, les développeurs peuvent contribuer à prévenir la distorsion des événements historiques et à protéger l'intégrité des informations auxquelles ont accès les jeunes et le grand public.
Le message L'IA préoccupée par l'UNESCO pourrait déformer la mémoire de l'Holocauste est apparue pour la première fois sur Coinfea.

Découvrez-en plus sur le créateur

Dernières actualités