Biroul șef de inteligență digitală și artificială (CDAO) al Departamentului de Apărare al SUA a încheiat un pilot axat pe utilizarea chatbot-urilor AI în serviciile medicale militare.
În anunțul din 2 ianuarie, DoD a declarat că programul pilot de asigurare Crowdsourced AI Red-Teaming (CAIRT) s-a concentrat pe utilizarea modelelor în limbaj mare (LLM) pentru rezumarea notelor clinice și ca consilieri medicali în armată.
Aceasta vine pe măsură ce mai multe firme de inteligență artificială au început să ofere produsele lor armatei și contractorilor de apărare din SUA pentru a investiga utilitatea acestora în aplicațiile militare.
Conform DoD, pilotul a fost un efort de red teaming realizat de organizația nonprofit de tehnologie Humane Intelligence.
A atras peste 200 de participanți externi independenți, inclusiv furnizori clinici și analiști în domeniul sănătății, care au comparat trei modele proeminente de chatbot.
Analiștii de la Agenția de Sănătate a Apărării și Universitatea Serviciilor Uniformizate de Științe ale Sănătății au colaborat, de asemenea, cu ceilalți participanți, testând posibilele slăbiciuni și defecte ale sistemului în timp ce chatbot-urile erau utilizate.
Conform DoD, pilotul a descoperit câteva sute de probleme posibile atunci când a utilizat chatbot-uri în aplicațiile medicale militare.
„Exercițiul a descoperit peste 800 de constatări de vulnerabilități și prejudecăți potențiale legate de utilizarea acestor capacități în aceste cazuri de utilizare prospective.”
„Acest exercițiu va duce la rezultate repetabile și scalabile prin dezvoltarea de seturi de date de referință care pot fi folosite pentru a evalua viitorii furnizori și instrumente pentru alinierea cu așteptările de performanță,” a spus DoD.
Matthew Johnson, șeful Oficiului Digital și de Inteligență Artificială pentru inițiativă, a spus că rezultatele vor fi folosite și pentru a contura cercetarea și dezvoltarea viitoare a sistemelor de Inteligență Artificială Generativă (GenAI) care ar putea fi desfășurate în viitor.
CDAO a fost înființat în iunie 2022 pentru a supraveghea și avansa integrarea tehnologiilor digitale și de inteligență artificială în cadrul operațiunilor militare și de apărare ale SUA.
În noiembrie trecut, o comisie bipartisană a Congresului SUA a spus că țara ar trebui să se concentreze pe dezvoltarea unei inițiative similare cu Proiectul Manhattan pentru a avansa dezvoltarea inteligenței artificiale în contextul competiției crescânde cu China.
Printre o listă de recomandări specifice, comisia a spus că secretarul american al apărării ar trebui să marcheze proiectele AI cu cea mai înaltă desemnare de prioritate națională.
Între timp, compania de social media și tehnologie Meta a început să ofere modelul său de inteligență artificială Llama armatei americane și contractanților din domeniul apărării pentru scopuri de securitate națională.
Revista: Cum se schimbă legile cripto în întreaga lume în 2025