El gobierno del Reino Unido ha anunciado planes para abrir la primera oficina en el extranjero de su Instituto de Seguridad de IA en los Estados Unidos este verano.
Lea también: El papel del acuerdo de seguridad de la IA entre el Reino Unido y los EE. UU. en la evolución tecnológica
En un comunicado publicado el lunes, la secretaria de Ciencia y Tecnología del Reino Unido, Michelle Donelan, dijo que la nueva oficina estadounidense estará ubicada en San Francisco. La ciudad alberga algunas de las empresas de inteligencia artificial más importantes, incluidas OpenAI, Anthropic e Inflection AI.
El Reino Unido busca fortalecer la asociación con EE. UU. en materia de seguridad de la IA
La oficina con sede en EE. UU. buscará contratar un equipo de personal técnico encabezado por un director de investigación cuando comience a funcionar a finales de este año. La sede del Instituto en Londres cuenta actualmente con un equipo de más de 30 técnicos.
El Secretario de Tecnología dijo que la expansión del Instituto representa el liderazgo británico en IA y establecería una estrecha colaboración con el gobierno de Estados Unidos.
Es un momento crucial en la capacidad del Reino Unido para estudiar tanto los riesgos como el potencial de la IA desde una perspectiva global, fortaleciendo nuestra asociación con los EE. UU. y allanando el camino para que otros países aprovechen nuestra experiencia mientras continuamos liderando el mundo en IA. seguridad.
Michelle Donelan, secretaria de Ciencia y Tecnología del Reino Unido.
Donelan dice que el Instituto ha crecido de “fortaleza en fortaleza”
El gobierno del Reino Unido introdujo el Instituto de Seguridad de la IA en noviembre de 2023. Dijo que el objetivo era “minimizar las sorpresas para el Reino Unido y la humanidad derivadas de avances rápidos e inesperados en la IA”.
Lea también: El gobierno del Reino Unido anuncia el establecimiento del Instituto de Seguridad de IA
El Instituto se centra principalmente en evaluar los sistemas de IA “de frontera” desde la perspectiva de la seguridad nacional. Con esta medida, el gobierno del Reino Unido dijo que podrá desarrollar políticas y respuestas regulatorias efectivas para las aplicaciones de IA implementadas dentro de su jurisdicción.
Desde que el Primer Ministro y yo fundamos el AI Safety Institute, ha ido creciendo cada vez más en poco más de un año.
Michelle Donelan, secretaria de Ciencia y Tecnología del Reino Unido.
El Instituto publica resultados de las pruebas de su modelo
Según se informa, el Instituto de Seguridad de IA del Reino Unido es la primera organización respaldada por el gobierno que publica los resultados de las pruebas de seguridad de sus modelos de IA. El Instituto probó cinco modelos de lenguaje grandes disponibles públicamente, aunque no especifica los nombres.
La seguridad de la IA es todavía un campo muy joven y emergente. […] Nuestra ambición es seguir ampliando las fronteras de este campo mediante el desarrollo de evaluaciones de última generación, con énfasis en los riesgos relacionados con la seguridad nacional.
Ian Hogarth, presidente del Instituto de Seguridad de IA del Reino Unido.
Dijo que varios modelos completaron sus desafíos de seguridad cibernética. Sin embargo, todos demostraron ser muy vulnerables a los “jailbreaks” básicos. Algunos modelos produjeron resultados perjudiciales incluso cuando no hubo intentos deliberados de eludir las salvaguardias.
Informe criptopolitano de Ibiam Wayas
