La UNESCO ha expresado su preocupación de que la IA generativa pueda distorsionar la historia del Holocausto si los desarrolladores de la IA no aplican estándares éticos. En un informe publicado el lunes, UNICEF advirtió sobre el posible uso indebido de la IA generativa por parte de malos actores.
Lea también: Los bancos centrales deben “mejorar su juego” en materia de IA, advierte el BPI
El informe de la UNESCO advierte que los malos actores pueden utilizar la tecnología para difundir desinformación, información errónea y contenido engañoso sobre el Holocausto.
Los jóvenes son vulnerables a la información errónea
El informe, publicado junto con el Congreso Judío Mundial, advierte que los jóvenes corren más riesgo de recibir información distorsionada debido a su alta exposición a tecnologías emergentes como la IA.
Esto se produce cuando los informes también sugieren que el 80% de los jóvenes de entre 10 y 24 años utilizan la IA para diversas tareas, como tareas escolares, lo que aumenta sus posibilidades de acceder a información distorsionada.
“Si permitimos que los horribles hechos del Holocausto se diluyan, distorsionen o falsifiquen mediante el uso irresponsable de la IA, corremos el riesgo de una propagación explosiva del antisemitismo y una disminución gradual de nuestra comprensión sobre las causas y consecuencias de estas atrocidades”.
La directora general de la UNESCO, Audrey Azoulay.
El informe también destaca que la IA tiene una fuerte propensión a “simplificar demasiado la historia compleja, privilegiando una gama estrecha de fuentes y una pequeña selección de eventos”. Por ejemplo, alrededor del 60% al 80% de los principales resultados de imágenes de los motores de búsqueda impulsados por inteligencia artificial muestran solo un sitio del Holocausto: Auschwitz-Birkenau.
La UNESCO llama a actuar para hacer cumplir la ética
El informe sostiene que la IA puede perpetuar los sesgos existentes, y el Holocausto no se librará de estos sesgos de la IA. Según la UNESCO, ya existe una prevalencia de desinformación sobre el Holocausto, que puede empeorar debido al uso de IA generativa.
Lea también: Meta AI se expande a India en medio de una creciente competencia en IA
Azoulay destacó la importancia de hacer cumplir estándares éticos para proteger a los jóvenes de información distorsionada.
"Es urgente implementar la Recomendación de la UNESCO sobre la ética de la IA para que las generaciones más jóvenes crezcan con hechos y no con mentiras".
Azoulay.
El informe destaca que modelos de IA como ChatGPT de OpenAI y Bard de Google, ahora Gemini, han alucinado sobre el Holocausto, detallando eventos que nunca sucedieron. Según la UNESCO, estos modelos han “fabricado el concepto del Holocausto mediante campañas de ahogamiento en las que los nazis ahogaron a judíos en ríos y lagos”.
Los modelos de IA también han creado citas falsas para respaldar estas narrativas distorsionadas. A la luz de estos incidentes, la UNESCO pidió un enfoque de múltiples partes interesadas para abordar el desafío. Una de las soluciones es la rápida implementación de la Recomendación sobre la ética de la IA que fue adoptada por los estados miembros en 2021.
La UNESCO también instó a las empresas de tecnología a respetar los principios de equidad, transparencia, derechos humanos y diligencia debida. Ocho empresas de tecnología firmaron un compromiso con el director general de la UNESCO en febrero, comprometiéndose a aplicar un enfoque ético en el desarrollo de sus modelos de IA.
Informe criptopolitano de Enacy Mapakame
