La UNESCO ha expresado su preocupación por el hecho de que la IA generativa pueda distorsionar la historia del Holocausto si los desarrolladores de la IA no aplican rigurosamente estándares éticos. 

En un informe publicado el lunes, la UNESCO advirtió sobre el posible uso indebido de la IA generativa por parte de los malos actores.

Vulnerabilidad de los jóvenes a la desinformación

El informe, publicado en asociación con el Congreso Judío Mundial, enfatiza que los jóvenes son particularmente vulnerables a recibir información distorsionada debido a su uso extensivo de tecnologías emergentes como la IA. El informe destaca que alrededor del 80% de las personas de entre 10 y 24 años utilizan la IA para diversas tareas, incluidas las escolares. Esta alta exposición aumenta sus posibilidades de encontrar información distorsionada.

La Directora General de la UNESCO, Audrey Azoulay, afirmó: “Si permitimos que los horribles hechos del Holocausto se diluyan, distorsionen o falsifiquen mediante el uso irresponsable de la IA, corremos el riesgo de una propagación explosiva del antisemitismo y una disminución gradual de nuestra comprensión sobre las causas y consecuencias. de estas atrocidades”.

El informe también señala que la IA tiende a simplificar demasiado acontecimientos históricos complejos, privilegiando a menudo una gama limitada de fuentes. Por ejemplo, entre el 60% y el 80% de los principales resultados de imágenes del Holocausto en los motores de búsqueda basados ​​en inteligencia artificial muestran un solo sitio: Auschwitz-Birkenau.

El potencial de la IA para perpetuar los sesgos

El informe de la UNESCO advierte que la IA puede perpetuar los sesgos existentes y el Holocausto no está exento de este riesgo. Según la UNESCO, la desinformación sobre el Holocausto ya prevalece y puede empeorar con el uso de la IA generativa. 

Azoulay destacó la necesidad de hacer cumplir normas éticas para proteger a los jóvenes de recibir información distorsionada. "Es urgente implementar la Recomendación de la UNESCO sobre la ética de la IA para que las generaciones más jóvenes crezcan con hechos, no con invenciones", dijo Azoulay.

El informe destaca incidentes en los que modelos de IA como ChatGPT de OpenAI y Bard de Google, ahora llamado Gemini, han fabricado eventos relacionados con el Holocausto. Estos modelos han “alucinado” sobre el Holocausto, detallando eventos ficticios como las campañas nazis en las que judíos fueron ahogados en ríos y lagos. Además, los modelos de IA han generado citas falsas para respaldar estas narrativas distorsionadas.

Convocatoria de estándares éticos de IA

El informe de la UNESCO pide medidas inmediatas para hacer cumplir los estándares éticos en el desarrollo de la IA. Aboga por un enfoque de múltiples partes interesadas para abordar el desafío, enfatizando la importancia de aplicar la Recomendación sobre la Ética de la IA, adoptada por los estados miembros de la UNESCO en 2021.

La UNESCO también instó a las empresas de tecnología a respetar los principios de equidad, transparencia, derechos humanos y diligencia debida en sus procesos de desarrollo de IA. En febrero, ocho empresas de tecnología firmaron un compromiso con el Director General de la UNESCO, comprometiéndose a aplicar un enfoque ético en el desarrollo de sus modelos de IA.

El informe destaca que la capacidad de la IA para fabricar y distorsionar acontecimientos históricos, como el Holocausto, plantea un riesgo importante. La UNESCO enfatiza que la IA generativa podría convertirse en una herramienta para difundir información errónea y perpetuar sesgos dañinos sin supervisión ni directrices éticas estrictas.

La preocupación de la UNESCO destaca la necesidad de vigilancia y responsabilidad en el desarrollo y despliegue de tecnologías de IA. El llamado a la acción de la organización tiene como objetivo garantizar que la memoria del Holocausto y otros acontecimientos históricos siga siendo precisa y respetada, salvaguardando a las generaciones futuras de los peligros de la desinformación.

No se puede subestimar la urgencia de implementar estándares éticos en el desarrollo de la IA. La Recomendación de la UNESCO sobre la ética de la IA proporciona un marco para garantizar que las tecnologías de IA se desarrollen y utilicen de manera responsable. Este marco incluye principios como la equidad, la transparencia y el respeto por los derechos humanos, que son esenciales para prevenir la difusión de información errónea y desinformación.

El informe de la UNESCO nos recuerda el papel fundamental que desempeñan las normas éticas en el desarrollo de la IA. Al adherirse a estos estándares, los desarrolladores pueden ayudar a prevenir la distorsión de eventos históricos y proteger la integridad de la información a la que acceden los jóvenes y el público en general.

La publicación La UNESCO preocupada por que la IA pueda distorsionar la memoria del Holocausto apareció por primera vez en Coinfea.