La rápida expansión de la tecnología de inteligencia artificial está haciendo más probable la amenaza de una guerra nuclear total, advirtió el secretario general de la ONU, António Guterres. En un vídeo grabado, Guterres dijo que la humanidad está sentada “en el filo de la navaja” mientras las naciones se apresuran a construir las armas más capaces, poniendo vidas en peligro.

Lea también: Los empleados afirman que OpenAI y Google DeepMind ocultan los riesgos de la IA

El mensaje de advertencia en vídeo del jefe de la ONU debía reproducirse en la conferencia anual de la Asociación de Control de Armas de Estados Unidos (ACA, por sus siglas en inglés) en Washington el 7 de junio, informa The Guardian. Guterres suplicó a los estados con armas nucleares que “reanuden el diálogo y acuerden que ninguno será el primero en lanzar uno”.

Guterres quiere que la IA se aleje de las armas nucleares

Según el secretario general, los sistemas construidos para impedir el “uso, ensayo y proliferación de armas nucleares” se han debilitado desde el fin de la guerra fría hace más de 30 años.

Se teme que a medida que naciones como Estados Unidos y Rusia intensifiquen sus acciones para disuadirse mutuamente, podrían recurrir a la IA para facilitar los procedimientos de lanzamiento nuclear. Según se informa, ambos países tienen sus misiles balísticos intercontinentales en alerta máxima, lo que significa que están listos para lanzarse en unos minutos de advertencia.

En su discurso en vídeo ante la ACA, Guterres dijo:

“La humanidad está al filo de la navaja; El riesgo de que se utilice un arma nuclear ha alcanzado niveles no vistos desde la Guerra Fría. Los Estados están inmersos en una carrera armamentista cualitativa. Tecnologías como la inteligencia artificial están multiplicando el peligro”.

Guterres añadió que “todos los países deben estar de acuerdo en que cualquier decisión sobre el uso nuclear la toman los humanos, no las máquinas o los algoritmos”.

En 2022, Estados Unidos, Reino Unido y Francia emitieron una declaración conjunta expresando su compromiso de garantizar que los humanos mantuvieran el control durante los lanzamientos nucleares. Rusia y China aún no han asumido un compromiso similar, según medios del sector. La Federación de Científicos Estadounidenses estima que el número de armas nucleares cayó de 70.300 en 1986 a 12.100 este año.

Los científicos dan la alarma sobre la IA

La advertencia de Guterres no es nueva. Muchos científicos han advertido en el pasado sobre los peligros de la inteligencia artificial. Un informe de 2018 de Rand Corporation dijo que el desarrollo de la IA aumenta el riesgo de una guerra nuclear. El informe dice que la integración de la inteligencia artificial, el aprendizaje automático y el análisis de big data mejorará la capacidad de los militares para localizar, rastrear, apuntar y destruir las fuerzas de disuasión nuclear de un rival.

Lea también: La poderosa IA amenaza a la humanidad: por qué los expertos insisten en una moratoria global

Otros también se han metido en el debate. Para Bilawal Sidhu, ex líder de productos de Google, el debate sobre la IA puede tratarse como algo nuclear o dejarse abierto. Sostuvo que una IA de código abierto permitiría a los buenos actores vigilar a los malos, minimizando los riesgos.

En una entrevista anterior con Newsweek, el exsecretario de Estado de Estados Unidos, Henry Kissinger, dijo que la IA es “tan trascendental” pero “menos predecible” que las armas nucleares. Kissinger cree que los riesgos de la IA se pueden gestionar mediante la cooperación y la regulación internacionales.

Informe criptopolitano de Jeffery Gogo