Kantor Kepala Digital dan Kecerdasan Buatan (CDAO) Departemen Pertahanan AS telah menyelesaikan uji coba yang berfokus pada penggunaan chatbot AI dalam layanan medis militer.
Dalam pengumuman pada tanggal 2 Januari, DoD mengatakan bahwa program percontohan Crowdsourced AI Red-Teaming (CAIRT) difokuskan pada penggunaan model bahasa besar (LLM) untuk ringkasan catatan klinis dan sebagai penasihat medis di militer.
Hal ini terjadi karena semakin banyak perusahaan AI mulai menawarkan produk mereka kepada militer AS dan kontraktor pertahanan untuk menyelidiki kegunaannya dalam aplikasi militer.
Menurut DoD, pilot tersebut adalah upaya red teaming yang dilakukan oleh organisasi nirlaba teknologi Humane Intelligence.
Ini menarik lebih dari 200 peserta eksternal independen, termasuk penyedia klinis dan analis kesehatan, yang membandingkan tiga model chatbot terkemuka.
Analis dari Defense Health Agency dan Universitas Layanan Beruniform Ilmu Kesehatan juga berkolaborasi dengan peserta lainnya, menguji kemungkinan kelemahan dan cacat sistem saat chatbot digunakan.
Menurut DoD, pilot tersebut menemukan beberapa ratus masalah potensial saat menggunakan chatbot dalam aplikasi medis militer.
“Latihan ini mengungkapkan lebih dari 800 temuan kerentanan dan bias potensial terkait penggunaan kemampuan ini dalam kasus penggunaan yang dipertimbangkan.”
“Latihan ini akan menghasilkan output yang dapat diulang dan diskalakan melalui pengembangan kumpulan data benchmark, yang dapat digunakan untuk mengevaluasi vendor dan alat di masa depan untuk kesesuaian dengan harapan kinerja,” kata DoD.
Pemimpin untuk inisiatif Kantor Digital dan Kecerdasan Buatan, Matthew Johnson, mengatakan hasilnya juga akan digunakan untuk membentuk penelitian dan pengembangan DoD di masa depan tentang sistem Kecerdasan Buatan Generatif (GenAI) yang mungkin diterapkan di masa depan.
CDAO didirikan pada Juni 2022 untuk mengawasi dan memajukan integrasi teknologi digital dan kecerdasan buatan dalam operasi militer dan pertahanan AS.
November lalu, sebuah komisi kongres bipartisan AS mengatakan negara ini harus fokus pada pengembangan inisiatif yang mirip dengan Proyek Manhattan untuk memajukan pengembangan kecerdasan buatan di tengah meningkatnya persaingan dengan China.
Di antara daftar rekomendasi spesifik, komisaris mengatakan bahwa menteri pertahanan AS harus menandai proyek AI dengan penunjukan prioritas nasional tertinggi.
Sementara itu, perusahaan media sosial dan teknologi Meta telah mulai menawarkan model kecerdasan buatan Llama kepada militer AS dan kontraktor pertahanan untuk tujuan keamanan nasional.
Majalah: Bagaimana hukum kripto berubah di seluruh dunia pada tahun 2025