MITRE Meluncurkan Inisiatif Berbagi Insiden AI

Pusat Pertahanan Informasi Ancaman MITRE mengumumkan peluncuran inisiatif Berbagi Insiden AI minggu ini, sebuah kolaborasi dengan lebih dari 15 perusahaan untuk meningkatkan pengetahuan masyarakat tentang ancaman dan pertahanan untuk sistem yang mendukung AI.

Inisiatif berbagi insiden berada di bawah lingkup proyek Secure AI dari pusat tersebut, dan bertujuan untuk memungkinkan kolaborasi yang cepat dan aman dalam menghadapi ancaman, serangan, dan kecelakaan yang melibatkan sistem yang mendukung AI. Ini memperluas jangkauan Basis pengetahuan komunitas MITRE ATLASyang telah mengumpulkan dan mengkarakterisasi data tentang insiden yang dianonimkan selama dua tahun. Melalui inisiatif ini, komunitas kolaborator akan menerima data yang dilindungi dan dianonimkan mengenai insiden AI di dunia nyata.

Insiden dapat disampaikan melalui web (pada https://ai-incidents.mitre.org/) oleh siapa pun. Organisasi yang mengajukan akan dipertimbangkan untuk menjadi anggota dengan tujuan memungkinkan intelijen dan analisis risiko berbasis data dalam skala besar.

Secure AI juga memperluas kerangka ancaman ATLAS untuk memasukkan informasi tentang lanskap ancaman sistem generatif yang didukung AI, menambahkan beberapa studi kasus dan teknik serangan baru yang berfokus pada AI generatif, serta metode baru untuk memitigasi serangan terhadap sistem ini. Pada bulan November 2023, bekerja sama dengan Microsoft, MITRE merilis pembaruan pada basis pengetahuan ATLAS yang berfokus pada AI generatif.

“Pembagian informasi yang terstandardisasi dan cepat mengenai suatu insiden akan memungkinkan seluruh komunitas untuk meningkatkan pertahanan kolektif sistem tersebut dan memitigasi dampak buruk eksternal,” kata Douglas Robbins, wakil presiden, MITER Labs, dalam sebuah pernyataan. penyataan.

MITER mengoperasikan kemitraan publik-swasta berbagi informasi serupa dengan database Analisis dan Berbagi Informasi Keselamatan Penerbangan untuk berbagi data dan informasi keselamatan guna mengidentifikasi dan mencegah bahaya dalam penerbangan.

Kolaborator di bidang AI Aman mencakup berbagai industri, dengan perwakilan dari layanan keuangan, teknologi, dan layanan kesehatan. Daftar tersebut mencakup AttackIQ, BlueRock, booz Allen Hamilton, CATO Networks, Citigroup, Cloud Security Alliance, CrowdStrike, FS-ISAC, Fujitsu, HCA Healthcare, HiddenLayer, Intel, JPMorgan Chase Bank, Microsoft, Standard Chartered, dan Verizon Business.