Esta semana, durante la Cumbre de IA de Seúl se acordaron nuevos compromisos con la seguridad de la IA. La Declaración de Seúl confirma una perspectiva mutua sobre los beneficios y riesgos asociados con la IA.

El presidente surcoreano, Yoon Suk Yeol, copresidió la cumbre con el primer ministro británico, Rishi Sunak, a través de videoconferencia. Ambos líderes aprobaron la Declaración de Seúl, que enfatiza la seguridad, la inclusión y la innovación de la IA.

Lea también: La Cumbre FinTech de Dubái concluye con más de 8.000 visitantes de 118 países

Naciones firman la Declaración de Seúl 

La Unión Europea y otros diez países, incluidos Estados Unidos, Canadá, Francia, Australia y Japón, firmaron la Declaración de Seúl. La declaración pide la cooperación entre países para el desarrollo de la IA en interés público.

Cumbre de IA de Seúl Fuente: Gobierno del Reino Unido.

Una Declaración Ministerial de Seúl fue firmada por 27 países diversos, entre ellos Indonesia, México, Nigeria, los Emiratos Árabes Unidos y Arabia Saudita, por nombrar algunos. La declaración también refuerza que la seguridad debe ser la prioridad en el desarrollo de la IA. El presidente surcoreano, Yeol, dijo:

"Estoy muy contento de ser anfitrión de la Cumbre de IA en Seúl, que ampliará el alcance del debate a la innovación y la inclusión, después de que la cumbre inaugural en Bletchley Park del Reino Unido en noviembre del año pasado discutiera la seguridad de la IA".

También dijo que Corea presionará para establecer un centro de investigación de seguridad de la IA y unirse a una red para "impulsar la seguridad global de la IA". Yeol dijo que la cumbre consolidará los esfuerzos para promover los estándares y la gobernanza globales de la IA.

La Cumbre de Seúl es una continuación de Bletchley Park

La Cumbre de IA de Seúl es una continuación de la primera Cumbre mundial de seguridad de la IA celebrada en Bletchley Park, Londres, en noviembre del año pasado. El evento de Bletchley Park fue mucho más grande y más países prometieron un desarrollo más seguro de la IA.

Cumbre de seguridad de IA Bletchley Park. Fuente: Parque Bletchley.

Si bien la cumbre reforzó el compromiso internacional con el desarrollo seguro de la IA y también agregó innovación e inclusión a la agenda. Los críticos dicen que agregar temas distintos a la seguridad de la IA diluirá la agenda, ya que fue el punto que hizo que la Declaración de Bletchley fuera única entre muchos esfuerzos diplomáticos.

“Pero para obtener beneficios, debemos asegurarnos de que [la IA] sea segura. Por eso estoy encantado de que hoy hayamos llegado a un acuerdo para crear una red de institutos de seguridad de IA”. Rishi Sunak. 

La Cumbre de IA de Seúl, aunque a menor escala, también fue importante porque proporcionó una plataforma para profundizar las asociaciones con institutos de seguridad de IA. Canadá, Corea del Sur y Japón también anunciaron que establecerán institutos de seguridad de IA. Estos institutos complementarán los institutos ya establecidos del Reino Unido y Estados Unidos y mejorarán la capacidad global de seguridad de la IA. 

Las empresas tecnológicas prometen un desarrollo de la IA más seguro

Dieciséis importantes empresas de tecnología de IA acordaron nuevos compromisos para desarrollar la inteligencia artificial de forma segura. Google, OpenAI y Meta estuvieron entre las empresas estadounidenses que asumieron compromisos voluntarios en la mini Cumbre de Seúl. 

Lea también: ¿La seguridad ha pasado a un segundo plano en OpenAI?

Zhipu.ai de China, Tencent, el Instituto de Innovación Tecnológica de los Emiratos Árabes Unidos y el grupo de inversión G42 también firmaron el documento de "Compromisos de seguridad de la IA fronteriza". Mientras que por parte coreana, Samsung y Naver aceptaron los términos voluntarios.

El Secretario General de la ONU, Antonio Guterres, dijo en un discurso en video en la sesión inaugural que,

"Estamos viendo avances tecnológicos que cambian vidas y nuevos riesgos que amenazan la vida, desde la desinformación hasta la vigilancia masiva y la perspectiva de armas autónomas letales".

El jefe de la ONU se refería a los últimos siete meses desde la reunión de Bletchley. Guterres enfatizó la necesidad de barreras universales y un diálogo regular sobre tecnología. Muchas de estas empresas también firmaron los compromisos de seguridad no vinculantes iniciados por la Casa Blanca para garantizar que sus productos sean seguros para el público.

La industria de la IA se ha centrado cada vez más en las preocupaciones más apremiantes, según el director ejecutivo de Cohear, Aiden Gomez. Su empresa también se encuentra entre las que firmaron el pacto. Gómez dijo: "Es esencial que sigamos considerando todos los riesgos posibles y al mismo tiempo prioricemos nuestros esfuerzos en aquellos que tienen más probabilidades de crear problemas si no se abordan adecuadamente".

Informe criptopolitano de Aamir Sheikh