
Sebagai tanda semakin pentingnya penilaian risiko bahasa buatan terhadap aset perusahaan, semakin banyak organisasi yang mencari kandidat pekerjaan dengan keterampilan dalam pembelajaran mesin dan model bahasa besar untuk mengisi pekerjaan keamanan siber. Di ISACA Laporan Keadaan Keamanan Siber tahun 2024hanya kurang dari seperempat responden (24%) menyebut LLM SecOps dan ML SecOps sebagai kesenjangan keterampilan terbesar yang mereka lihat dalam keamanan siber. Keterampilan lunak – komunikasi, fleksibilitas, dan kepemimpinan – terus menjadi kategori keterampilan terbesar yang tidak dimiliki oleh para profesional keamanan siber, menurut 51% responden.
Dicari: LLM, Keterampilan ML
Baik LLM SecOps maupun ML SecOps merupakan keahlian yang cukup baru, namun, sama seperti teknologi yang dimilikinya, keduanya kini tampaknya ada di mana-mana.
MLSecOps adalah disiplin yang mengintegrasikan keamanan ke dalam pengembangan dan penerapan sistem pembelajaran mesin. Hal ini mencakup proses khusus ML seperti mengamankan data yang digunakan untuk melatih model dan mencegah bias melalui transparansi, serta menerapkan tugas operasi keamanan standar seperti pengkodean aman, pemodelan ancaman, audit keamanan, dan respons insiden pada sistem ML.
LLM SecOps mengacu pada mengamankan seluruh siklus hidup LLMmulai dari persiapan data hingga respons insiden. LLM SecOps mencakup beragam permasalahan seperti tinjauan etika pada tahap desain, sanitasi data pada data pelatihan, menganalisis alasan sistem mengambil keputusan yang diambil selama pelatihan, memblokir pembuatan konten berbahaya, dan memantau model setelah diterapkan.
Terdapat semakin banyak sumber daya bagi profesional keamanan untuk meningkatkan keterampilan mereka. Untuk ML SecOps, Benjamin Kereopa-Yorke, spesialis keamanan informasi senior dan peneliti keamanan AI di penyedia telekomunikasi Telstra, mempertahankan Gudang sumber daya dan pelatihan GitHubdengan kursus yang dikategorikan berdasarkan pengetahuan ML sebelumnya yang diperlukan dan diklasifikasikan sebagai vendor-agnostic atau vendor-centric. Open Worldwide Application Security Project (OWASP) mempunyai rancangan Sepuluh Besar Keamanan Pembelajaran Mesin daftar yang menjelaskan cara kerja serangan ML seperti peracunan data atau inferensi anggota dan cara mengatasinya. OWASP juga mengelola Sepuluh Besar OWASP untuk LLM, yang mencakup topik yang relevan dengan LLM SecOps seperti injeksi cepat, pengungkapan informasi sensitifDan pencurian model.
Organisasi mencari keterampilan khusus untuk mengisi posisi keamanan siber yang terbuka. Setelah keterampilan lunak, komputasi awan merupakan kesenjangan keterampilan terbesar kedua (42%), diikuti oleh penerapan kontrol keamanan (35%), dan pengembangan perangkat lunak (28%).
Dengan banyaknya beban kerja organisasi yang kini berada di cloud, masuk akal jika organisasi membutuhkan profesional keamanan siber dengan keterampilan komputasi awan. Mengamankan aset cloud memerlukan pola pikir dan keahlian teknis yang berbeda dibandingkan jaringan tradisional, dan penyedia cloud menangani tugas tertentu secara berbeda, sehingga memerlukan pengetahuan khusus.
Implementasi kontrol keamanan mengacu pada perlindungan titik akhir, jaringan, dan aplikasi. Kesenjangan keterampilan dalam pengembangan perangkat lunak tidak terkait dengan pengkodean, melainkan hal-hal seperti pengujian dan penerapan. Sekali lagi, hal ini menyoroti tantangan yang dihadapi organisasi dalam mengamankan jalur dan integrasi pengembangan perangkat lunak mereka.