Departemen Keamanan Dalam Negeri (DHS) AS telah merilis rekomendasi yang menguraikan cara mengembangkan dan menerapkan kecerdasan buatan (AI) dengan aman di infrastruktur penting. Rekomendasi ini berlaku untuk semua pemain dalam rantai pasokan AI, mulai dari penyedia infrastruktur cloud dan komputasi, pengembang AI, hingga pemilik dan operator infrastruktur penting. Ada juga rekomendasi untuk masyarakat sipil dan organisasi sektor publik.
Rekomendasi sukarela dalam “Kerangka Peran dan Tanggung Jawab untuk Kecerdasan Buatan dalam Infrastruktur Kritis” membahas masing-masing peran dalam lima bidang utama: mengamankan lingkungan, mendorong model dan desain sistem yang bertanggung jawab, menerapkan tata kelola data, memastikan penerapan yang aman dan terjamin, serta memantau kinerja dan dampak. Terdapat juga rekomendasi teknis dan proses untuk meningkatkan keselamatan, keamanan, dan kepercayaan sistem AI.
AI sudah digunakan untuk ketahanan dan mitigasi risiko di seluruh sektor, kata DHS dalam rilisnya, seraya mencatat bahwa aplikasi AI sudah digunakan untuk mendeteksi gempa bumi, menstabilkan jaringan listrik, dan menyortir surat.
Kerangka kerja ini melihat tanggung jawab masing-masing peran:
-
Penyedia infrastruktur cloud dan komputasi perlu memeriksa rantai pasokan perangkat keras dan perangkat lunak mereka, menerapkan manajemen akses yang kuat, dan melindungi keamanan fisik pusat data yang mendukung sistem AI. Kerangka kerja ini juga memberikan rekomendasi untuk mendukung pelanggan dan proses hilir dengan memantau aktivitas yang tidak wajar dan menetapkan proses yang jelas untuk melaporkan aktivitas yang mencurigakan dan berbahaya.
-
Pengembang AI harus mengadopsi pendekatan Secure by Design, mengevaluasi kemampuan berbahaya model AI, dan “memastikan keselarasan model dengan nilai-nilai yang berpusat pada manusia.” Kerangka kerja ini lebih lanjut mendorong pengembang AI untuk menerapkan praktik privasi yang kuat; melakukan evaluasi yang menguji kemungkinan bias, modus kegagalan, dan kerentanan; dan mendukung penilaian independen terhadap model-model yang menghadirkan risiko tinggi terhadap sistem infrastruktur penting dan konsumennya.
-
Pemilik dan operator infrastruktur penting harus menerapkan sistem AI dengan aman, termasuk mempertahankan praktik keamanan siber yang kuat yang memperhitungkan risiko terkait AI, melindungi data pelanggan saat menyempurnakan produk AI, dan memberikan transparansi yang berarti mengenai penggunaan AI untuk menyediakan barang, layanan, atau manfaat bagi publik.
-
Masyarakat sipiltermasuk universitas, lembaga penelitian, dan pendukung konsumen yang terlibat dalam isu keselamatan dan keamanan AI, harus terus berupaya mengembangkan standar bersama pemerintah dan industri, serta penelitian mengenai evaluasi AI yang mempertimbangkan kasus penggunaan infrastruktur penting.
-
Sektor publik entitas, termasuk pemerintah federal, negara bagian, lokal, suku, dan teritorial, harus memajukan standar praktik keselamatan dan keamanan AI melalui tindakan hukum dan peraturan.
“Kerangka ini, jika diadopsi secara luas, akan memberikan jaminan yang lebih baik terhadap keselamatan dan keamanan layanan penting yang menyediakan air bersih, listrik yang konsisten, akses internet, dan banyak lagi,” kata sekretaris DHS Alejandro N. Mayorkas, dalam sebuah pernyataan.
Kerangka kerja DHS mengusulkan model tanggung jawab bersama dan terpisah untuk penggunaan AI yang aman dan terjamin dalam infrastruktur penting. Hal ini juga bergantung pada kerangka risiko yang ada untuk memungkinkan entitas mengevaluasi apakah penggunaan AI untuk sistem atau aplikasi tertentu membawa risiko besar yang dapat menyebabkan kerugian.
“Kami bermaksud agar kerangka kerja ini, sejujurnya, menjadi dokumen yang hidup dan berubah seiring dengan perubahan yang terjadi di industri,” kata Mayorkas dalam panggilan media.
_Vladimir_Stanisic_Alamy.jpg?disable=upscale&width=1200&height=630&fit=crop&w=300&resize=300,300&ssl=1 "Risiko menggunakan model AI yang dikembangkan oleh negara -negara yang bersaing")
![[Virtual Event] Anatomi pelanggaran data: dan apa yang harus dilakukan jika itu terjadi pada Anda](https://i0.wp.com/www.darkreading.com/assets/darkreading-C928X8LZ.ico?w=300&resize=300,300&ssl=1 "[Virtual Event] Anatomi pelanggaran data: dan apa yang harus dilakukan jika itu terjadi pada Anda")