O governo do Reino Unido anunciou planos para abrir o primeiro escritório no exterior do seu AI Safety Institute nos Estados Unidos neste verão.
Leia também: O papel do acordo de segurança de IA do Reino Unido e dos EUA na evolução tecnológica
Num comunicado publicado na segunda-feira, a secretária de Ciência e Tecnologia do Reino Unido, Michelle Donelan, disse que o novo escritório nos EUA estará localizado em São Francisco. A cidade abriga algumas das maiores empresas de IA, incluindo OpenAI, Anthropic e Inflection AI.
Reino Unido pretende fortalecer parceria com os EUA em segurança de IA
O escritório sediado nos EUA procurará recrutar uma equipe de pessoal técnico chefiada por um Diretor de Pesquisa quando começar a operar ainda este ano. A sede do Instituto em Londres conta atualmente com uma equipe de mais de 30 técnicos.
O Secretário de Tecnologia disse que a expansão do Instituto representa a liderança britânica em IA e estabeleceria uma estreita colaboração com o governo dos EUA.
É um momento crucial na capacidade do Reino Unido de estudar os riscos e o potencial da IA a partir de uma perspectiva global, fortalecendo a nossa parceria com os EUA e abrindo caminho para que outros países aproveitem a nossa experiência à medida que continuamos a liderar o mundo na IA. segurança.
Michelle Donelan, Secretária de Ciência e Tecnologia do Reino Unido.
Donelan afirma que o Instituto cresceu de “força em força”
O governo do Reino Unido introduziu o AI Safety Institute em novembro de 2023. Ele disse que o objetivo era “minimizar as surpresas para o Reino Unido e para a humanidade decorrentes de avanços rápidos e inesperados na IA”.
Leia também: Governo do Reino Unido anuncia o estabelecimento do AI Safety Institute
O Instituto concentra-se principalmente na avaliação de sistemas de IA “fronteiriços” do ponto de vista da segurança nacional. Com esta medida, o governo do Reino Unido afirmou que será capaz de desenvolver respostas políticas e regulamentares eficazes para aplicações de IA implementadas na sua jurisdição.
Desde que o primeiro-ministro e eu fundámos o AI Safety Institute, este tem crescido cada vez mais e em pouco mais de um ano.
Michelle Donelan, Secretária de Ciência e Tecnologia do Reino Unido.
O Instituto publica o resultado de seus testes de modelo
O AI Safety Institute do Reino Unido é supostamente a primeira organização apoiada pelo governo a publicar resultados de seus testes de segurança de modelos de IA. O Instituto testou cinco grandes modelos de linguagem disponíveis publicamente, embora não especifique os nomes.
A segurança da IA ainda é um campo muito jovem e emergente. […] A nossa ambição é continuar a expandir as fronteiras deste campo, desenvolvendo avaliações de ponta, com ênfase nos riscos relacionados com a segurança nacional.
Ian Hogarth, presidente do AI Safety Institute do Reino Unido.
Ele disse que vários modelos completaram seus desafios de segurança cibernética. No entanto, todos eles se mostraram altamente vulneráveis a “jailbreaks” básicos. Alguns modelos produziram resultados prejudiciais mesmo quando não houve tentativas deliberadas de contornar as salvaguardas.
Reportagem criptopolitana de Ibiam Wayas