Hlavní úřad pro digitální a umělou inteligenci (CDAO) amerického ministerstva obrany uzavřel pilotní projekt zaměřený na používání chatbotů AI ve vojenských zdravotnických službách.
V oznámení z 2. ledna ministerstvo obrany uvedlo, že pilotní program Crowdsourced AI Red-Teaming (CAIRT) Assurance Program se zaměřil na použití velkých jazykových modelů (LLM) pro shrnutí klinických poznámek a jako lékařských poradců v armádě.
Přichází s tím, jak více firem s umělou inteligencí začalo nabízet své produkty americké armádě a dodavatelům obrany, aby prozkoumalo jejich užitečnost ve vojenských aplikacích.
Podle Ministerstva obrany byl pilotní projekt proveden jako úsilí o červené týmy, které realizovala technologická nezisková organizace Humane Intelligence.
Přitáhl více než 200 nezávislých externích účastníků, včetně klinických poskytovatelů a analytiků zdravotní péče, kteří porovnávali tři významné modely chatbotů.
Analytici z Agentury obranného zdraví a Univerzity uniformovaných služeb zdravotních věd také spolupracovali s ostatními účastníky a testovali potenciální slabiny a nedostatky systému během používání chatbotů.
Podle Ministerstva obrany pilotní projekt objevil několik stovek možných problémů při používání chatbotů v lékařských aplikacích pro armádu.
„Cvičení odhalilo více než 800 zjištění potenciálních zranitelností a zaujatostí souvisejících s využíváním těchto schopností v těchto perspektivních případech použití.“
„Toto cvičení povede k opakovatelnému a škálovatelnému výstupu prostřednictvím vývoje benchmarkových datových sad, které mohou být použity k hodnocení budoucích dodavatelů a nástrojů v souladu s očekáváními výkonu,“ uvedlo Ministerstvo obrany.
Vedoucí iniciativy z Úřadu pro digitální a umělou inteligenci, Matthew Johnson, uvedl, že výsledky budou také použity k formování budoucího výzkumu a vývoje systémů generativní AI (GenAI), které by mohly být nasazeny v budoucnu.
CDAO byl založen v červnu 2022, aby dohlížel na integraci digitálních a umělých inteligentních technologií v rámci americké armády a obranných operací.
Minulý listopad uvedla bipartitní americká kongresová komise, že by se země měla zaměřit na vývoj iniciativy podobné Manhattan Projectu, aby urychlila vývoj umělé inteligence uprostřed rostoucí konkurence s Čínou.
Mezi konkrétními doporučeními komise uvedla, že americký ministr obrany by měl označit projekty AI s nejvyšší národní prioritou.
Mezitím začala technologická firma Meta nabízet svůj model umělé inteligence Llama americké armádě a obranným dodavatelům pro účely národní bezpečnosti.
Časopis: Jak se mění zákony o kryptoměnách po celém světě v roce 2025