O Escritório Chefe de Inteligência Digital e Artificial (CDAO) do Departamento de Defesa dos EUA concluiu um piloto focado no uso de chatbots de IA em serviços médicos militares.
No anúncio de 2 de janeiro, o DoD disse que o piloto do Programa de Garantia de Red-Teaming de IA Crowdsourced (CAIRT) se concentrou no uso de modelos de linguagem ampla (LLM) para resumo de notas clínicas e como consultores médicos nas forças armadas.
Isso acontece porque mais empresas de IA começaram a oferecer seus produtos aos militares e contratantes de defesa dos EUA para investigar sua utilidade em aplicações militares.
De acordo com o DoD, o piloto foi um esforço de red teaming conduzido pela organização sem fins lucrativos de tecnologia Humane Intelligence.
Atraí mais de 200 participantes externos independentes, incluindo provedores clínicos e analistas de saúde, que compararam três modelos de chatbot proeminentes.
Analistas da Defense Health Agency e da Uniformed Services University of the Health Sciences também colaboraram com os outros participantes, testando potenciais fraquezas e falhas do sistema enquanto os chatbots eram utilizados.
De acordo com o DoD, o piloto descobriu algumas centenas de possíveis problemas ao usar chatbots em aplicações médicas militares.
“O exercício revelou mais de 800 descobertas de potenciais vulnerabilidades e preconceitos relacionados ao emprego dessas capacidades nesses casos de uso prospectivos.”
“Este exercício resultará em uma saída repetível e escalável por meio do desenvolvimento de conjuntos de dados de referência, que podem ser usados para avaliar futuros fornecedores e ferramentas em alinhamento com as expectativas de desempenho,” disse o DoD.
O chefe do Escritório Digital e de Inteligência Artificial da iniciativa, Matthew Johnson, disse que os resultados também serão usados para moldar futuras pesquisas e desenvolvimento do DoD de sistemas de IA Generativa (GenAI) que podem ser implantados no futuro.
O CDAO foi estabelecido em junho de 2022 para supervisionar e avançar a integração de tecnologias digitais e de inteligência artificial dentro das operações militares e de defesa dos EUA.
No último novembro, uma comissão bipartidária do Congresso dos EUA disse que o país deveria se concentrar em desenvolver uma iniciativa semelhante ao Projeto Manhattan para avançar no desenvolvimento de inteligência artificial em meio à crescente competição com a China.
Entre uma lista de recomendações específicas, a comissão disse que o secretário de defesa dos EUA deveria marcar projetos de IA com a mais alta designação de prioridade nacional.
Enquanto isso, a empresa de mídia social e tecnologia Meta começou a oferecer seu modelo de inteligência artificial Llama para o exército dos EUA e contratantes de defesa para fins de segurança nacional.
Revista: Como as leis de criptomoeda estão mudando ao redor do mundo em 2025