CDAO Mensponsori Percontohan Jaminan AI Crowdsourced dalam Konteks Pengobatan Militer

SIARAN PERS

Kepala Kantor Kecerdasan Digital dan Buatan (CDAO) telah berhasil menyelesaikan percontohan Program Jaminan Tim Merah AI Crowdsourced (CAIRT) yang berfokus pada penggunaan chatbot Model Bahasa Besar (LLM) dalam konteks kedokteran militer. Program CAIRT mendukung Departemen Pertahanan (DoD) dalam menghasilkan pendekatan akar rumput dan sumber daya urun daya (crowdsourced) terhadap Jaminan AI dan Mitigasi Risiko AI. Melalui crowdsourcing, proyek dapat memperoleh data dalam jumlah besar dan melibatkan berbagai pemangku kepentingan.

Percontohan CAIRT LLM ini dilakukan oleh Humane Intelligence, sebuah perusahaan teknologi yang membangun komunitas praktik seputar evaluasi algoritmik, bekerja sama dengan Badan Kesehatan Pertahanan (DHA) dan Kantor Eksekutif Program, Sistem Manajemen Layanan Kesehatan Pertahanan (PEO DHMS). Melalui metodologi tim merah―menggunakan teknik permusuhan untuk menguji ketahanan sistem secara internal―Humane Intelligence mampu mendeteksi kerentanan sistem tertentu secara efektif. Selain itu, tim merah menarik peserta yang ingin terlibat dengan teknologi baru dan, sebagai penerima manfaat di masa depan, mendapatkan peluang untuk berkontribusi dalam meningkatkan sistem. Sebelumnya, pada musim semi tahun 2024, CDAO mengadakan latihan tim merah CAIRT yang berharga dengan memanfaatkan dana karunia.

Dalam program percontohan terbaru, Humane Intelligence memanfaatkan tim merah crowdsourcing untuk dua kasus penggunaan prospektif dalam konteks kedokteran militer: ringkasan catatan klinis dan chatbot penasehat medis. Lebih dari 200 peserta, termasuk penyedia klinis dan analis layanan kesehatan dari DHA, Uniformed Services University of the Health Sciences, dan Services, berpartisipasi dalam latihan tersebut, yang membandingkan tiga LLM populer. Latihan ini mengungkap lebih dari 800 temuan potensi kerentanan dan bias terkait penggunaan kemampuan ini dalam kasus penggunaan prospektif. Latihan ini akan menghasilkan keluaran yang dapat diulang dan diukur melalui pengembangan kumpulan data benchmark, yang dapat digunakan untuk mengevaluasi vendor di masa depan dan alat untuk menyelaraskan dengan ekspektasi kinerja. Selain itu, temuan-temuan ini akan memainkan peran penting dalam membentuk kebijakan Departemen Pertahanan dan praktik terbaik untuk penggunaan Generative AI (GenAI) yang bertanggung jawab, yang pada akhirnya meningkatkan layanan medis militer. Jika, ketika diterapkan, kasus penggunaan prospektif ini mencakup AI yang tercakup dalam OMB M-24-10, kasus tersebut akan mematuhi semua praktik manajemen risiko yang diwajibkan.

“Karena penerapan GenAI untuk tujuan tersebut di Departemen Pertahanan masih dalam tahap awal uji coba dan eksperimen, program ini bertindak sebagai pencari jalan penting untuk menghasilkan banyak data pengujian, memunculkan area untuk dipertimbangkan, dan memvalidasi opsi mitigasi yang akan membentuk penelitian, pengembangan di masa depan. , dan jaminan sistem GenAI yang mungkin diterapkan di masa depan,” kata pemimpin CDAO untuk inisiatif ini, Dr. Matthew Johnson.

Seperti yang terungkap dalam uji coba baru-baru ini dan uji coba lainnya, pengujian berkelanjutan terhadap LLM dan sistem AI melalui Program Jaminan CAIRT akan sangat penting untuk mempercepat AI Rapid Capabilities Cell CDAO, meningkatkan efektivitas misi GenAI, dan berkontribusi terhadap keyakinan yang dapat dibenarkan di seluruh kasus penggunaan Departemen Pertahanan.

Tentang CDAO

CDAO mulai beroperasi pada Juni 2022 dan didedikasikan untuk mengintegrasikan dan mengoptimalkan kemampuan AI di seluruh Departemen Pertahanan. Kantor ini bertanggung jawab untuk mempercepat adopsi data, analitik, dan AI oleh Departemen Pertahanan, memungkinkan infrastruktur digital dan adopsi kebijakan Departemen untuk memberikan solusi berbasis AI yang dapat diskalakan untuk kasus-kasus perusahaan dan penggunaan bersama, melindungi negara dari ancaman saat ini dan yang akan datang.

Untuk informasi lebih lanjut tentang CDAO, silakan kunjungi situs web kami di ai.mil. Anda juga dapat terhubung dengan CDAO di LinkedIn (@ DoD Chief Digital and Artificial Intelligence Office) dan X, yang secara resmi dikenal sebagai Twitter (@dodcdao). Pembaruan dan berita tambahan dapat ditemukan di Halaman Unit CDAO di DVIDS.