L'ufficio capo dell'intelligenza digitale e artificiale (CDAO) del Dipartimento della Difesa degli Stati Uniti ha concluso un progetto pilota incentrato sull'uso di chatbot AI nei servizi medici militari.
Nell'annuncio del 2 gennaio, il Dipartimento della Difesa ha affermato che il programma pilota di garanzia Crowdsourced AI Red-Teaming (CAIRT) si è concentrato sull'uso di modelli in grandi lingue (LLM) per la sintesi delle note cliniche e come consulenti medici in ambito militare.
Ciò avviene mentre sempre più aziende di intelligenza artificiale hanno iniziato a offrire i loro prodotti all'esercito e agli appaltatori della difesa degli Stati Uniti per studiarne l'utilità nelle applicazioni militari.
Secondo il DoD, il pilota è stato uno sforzo di red teaming condotto dalla nonprofit tecnologica Humane Intelligence.
Ha attratto oltre 200 partecipanti esterni indipendenti, tra cui fornitori clinici e analisti sanitari, che hanno confrontato tre modelli di chatbot prominenti.
Gli analisti della Defense Health Agency e dell'Uniformed Services University of the Health Sciences hanno anche collaborato con gli altri partecipanti, testando potenziali debolezze e difetti del sistema mentre i chatbot erano in uso.
Secondo il DoD, il pilota ha scoperto alcune centinaia di possibili problemi nell'uso dei chatbot nelle applicazioni mediche militari.
“L'esercizio ha rivelato oltre 800 risultati di potenziali vulnerabilità e pregiudizi legati all'impiego di queste capacità in questi casi d'uso prospettici.”
“Questo esercizio porterà a risultati ripetibili e scalabili tramite lo sviluppo di set di dati benchmark, che possono essere utilizzati per valutare futuri fornitori e strumenti in allineamento con le aspettative di prestazione,” ha dichiarato il DoD.
Il responsabile dell'iniziativa presso l'Ufficio del Chief Digital and Artificial Intelligence, Matthew Johnson, ha dichiarato che i risultati saranno utilizzati anche per plasmare la futura ricerca e sviluppo del DoD sui sistemi di Intelligenza Artificiale Generativa (GenAI) che potrebbero essere implementati in futuro.
Il CDAO è stato istituito nel giugno 2022 per supervisionare e promuovere l'integrazione delle tecnologie digitali e di intelligenza artificiale all'interno delle operazioni militari e di difesa degli Stati Uniti.
Lo scorso novembre, una commissione congressuale bipartisan degli Stati Uniti ha affermato che il paese dovrebbe concentrarsi sullo sviluppo di un'iniziativa simile al Progetto Manhattan per avanzare nello sviluppo dell'intelligenza artificiale in mezzo alla crescente competizione con la Cina.
Tra un elenco di raccomandazioni specifiche, la commissione ha affermato che il segretario della difesa degli Stati Uniti dovrebbe contrassegnare i progetti di IA con la massima designazione di priorità nazionale.
Nel frattempo, la società di social media e tecnologia Meta ha iniziato a offrire il suo modello di intelligenza artificiale Llama all'esercito statunitense e ai contraenti della difesa per scopi di sicurezza nazionale.
Rivista: Come le leggi sulle criptovalute stanno cambiando in tutto il mondo nel 2025