Mempercayai Agen AI SOC dengan Aktivitas SOC yang Kritis

Model bahasa besar (LLM) dan agen AI memiliki dampak signifikan di banyak bidang, termasuk keamanan siber. Langit adalah batasnya ketika datang ke potensi mereka. Namun, di Bumi di mana LLM diintegrasikan ke dalam alur kerja inti di mana keputusan bisnis dibuat, banyak masalah, terutama seputar privasi dan akurasi data, telah muncul. Kami ditinggalkan dengan pertanyaan: Apakah agen AI cukup dipercaya untuk bisnis saya?

Ketika datang ke keamanan siber dan Pusat Operasi Keamanan (SOCs), jawaban cepat, seperti yang kita dengar sepanjang karir kita, adalah: Ya, dengan kontrol dan mitigasi yang tepat di SOCs, agen AI dapat diterapkan dengan sukses dan aman di lingkungan produksi di mana mereka menambah nilai signifikan dengan bekerja bersama analis SOC manusia.

Tantangan Keamanan Siber AI

LLM yang digunakan sebagai solusi mandiri memiliki beberapa masalah inti, seperti halusinasi, pencemaran data, dan injeksi prompt. Masalah-masalah ini dapat menyebabkan masalah serius di SOC otonom, termasuk:

Data Terbatas yang Menyebabkan Putusan yang Tidak Akurat – Agen AI memerlukan semua informasi relevan dari lingkungan untuk melakukan pekerjaan mereka dengan baik – setidaknya sebanyak data yang dimiliki analis keamanan manusia, dan idealnya lebih banyak. Akses data yang tidak memadai dapat menyebabkan agen AI membuat asumsi yang salah yang dapat bervariasi di seluruh proses investigasi. Jika Anda membatasi akses data karena kekhawatiran keamanan atau membatasi seberapa banyak AI dapat dilakukan karena alasan anggaran, harapkan akurasi untuk terkena dampak.

Putusan yang Tidak Konsisten – Agen AI harus membuat keputusan dan melaksanakan tugas berdasarkan data yang mereka kumpulkan. Karena volume data keamanan yang besar di lingkungan yang biasa, umum untuk menggunakan pendekatan sampling untuk mengimbangkan akurasi dengan anggaran. Ketika investigasi dijalankan beberapa kali, perbedaan mungkin muncul dalam putusan, tingkat keparahannya, dan tindakan yang disarankan. Ini normal selama perbedaan itu dalam batas toleransi, dan itu terjadi bahkan ketika dua analis keamanan manusia yang berbeda melihat peringatan yang sama.

Penalaran yang Tidak Transparan, atau Masalah “Black Box (BBOX.BO ) “ – Beberapa agen AI beroperasi sebagai sistem yang tidak transparan. Hasil SOC yang digerakkan AI ini dapat terlihat sangat mengesankan pada awalnya, tetapi untuk keputusan bisnis yang penting, Anda perlu memahami apa yang menyebabkan AI SOC membuat tindakan yang disarankannya. Ini, bagaimanapun, bukanlah keterbatasan inheren AI, karena beberapa agen AI melakukan upaya besar untuk menjadi transparan. Disarankan untuk memvalidasi agen AI secara menyeluruh dalam Proof of Value sebelum melakukan komitmen.

Bagaimana AI dalam Keamanan Siber AI Telah Meningkat

Pendekatan keamanan siber yang digerakkan AI telah membuat kemajuan signifikan menuju perbaikan sejak pertama kali diperkenalkan. Pertimbangkan hal-hal berikut:

Konsensus dengan Sampling Mengurangi Inkonsistensi – Inkonsistensi dalam keputusan atau hasil dapat diatasi secara efektif dengan menggunakan beberapa agen AI dengan konfigurasi yang berbeda (misalnya, model yang berbeda pada suhu yang berbeda) untuk menafsirkan data yang dikumpulkan oleh operasi agen sebelumnya.

Menggunakan sampling memungkinkan organisasi memahami di mana model-model yang berbeda sepakat dan di mana mereka berbeda. Sebagai hasilnya, mengandalkan informasi di mana semua model sepakat dan mengabaikan informasi di mana mereka berbeda dapat secara substansial mengurangi inkonsistensi.

Penting untuk dicatat, bagaimanapun, bahwa informasi di mana agen sampel tidak sepakat juga berharga karena mereka mengidentifikasi ketidakpastian dan kebutuhan akan data atau input yang lebih baik. Informasi yang inkonsisten ini dapat membantu organisasi memprioritaskan akses ke data penting untuk pengambilan keputusan yang lebih baik.

Prosedur yang Konsisten dengan Buku Panduan Investigasi – Salah satu alasan utama beberapa proses investigasi SOC AI menghasilkan hasil yang tidak konsisten adalah variasi tidak hanya dalam data yang dikumpulkan, tetapi juga dalam hipotesis yang dibuat atau dimodifikasi selama investigasi agen AI. Membuat panduan operasional standar (SOP) tingkat tinggi untuk kategori tertentu membantu agen membentuk hipotesis yang lebih konsisten dan meningkatkan konsistensi hasil secara keseluruhan. Ini bukanlah pendekatan baru – sebagian besar analis SOC manusia sudah mengandalkan SOP untuk memastikan investigasi yang efektif dan konsisten. Agen AI dapat menggunakan SOP dengan cara yang sama.

Bukti yang Dapat Dilacak Menghilangkan Masalah “Black Box” – Sebagai praktik terbaik, SOC AI harus dirancang dari awal dengan bukti pendukung dalam pikiran. Setiap keputusan dan hipotesis yang dibuat agen harus didukung oleh informasi pendukung, termasuk jejak penalaran dan data log mentah yang membenarkan penalaran tersebut.

AI untuk Keamanan Siber yang Dapat Dipercaya

Agen AI dapat mempercepat deteksi, triase, dan respons ancaman dalam keamanan siber, tetapi mereka juga memperkenalkan risiko nyata – termasuk hasil yang tidak konsisten, keputusan yang tidak transparan, dan sensitivitas terhadap kualitas data. Kepercayaan untuk digunakan dalam lingkungan yang kritis memerlukan penalaran yang didukung bukti, termasuk jejak dan artefak mentah; SOP terstruktur untuk mengurangi variansi; sampling multi-agen untuk memisahkan konsensus dari ketidakpastian; dan pengawalan untuk integritas data, injeksi prompt, dan batas langkah dan anggaran.

Semua perbaikan kritis ini dapat diatasi dengan pendekatan agen AI LLM yang maju yang dirancang untuk menangani kompleksitas operasi keamanan siber modern. Misalnya, beberapa pendekatan LLM yang maju menggunakan sampling multi-agen yang maju untuk memungkinkan organisasi memanfaatkan kecerdasan kolektif dari model AI yang beragam yang bekerja sama untuk mencapai konsensus, meminimalkan inkonsistensi, dan menunjukkan area ketidakpastian. Panduan investigasi yang terstruktur dan jelas memastikan bahwa langkah analisis mengikuti praktik terbaik dan prosedur standar, mengarahkan konsistensi dan keandalan dalam setiap operasi.

Hasil akhir dari penelusuran keputusan menghasilkan setiap putusan, rekomendasi, dan tindakan otomatis yang diaudit dan dipahami untuk memberikan transparansi penuh kepada tim keamanan, semua sambil membangun kepercayaan dengan pemangku kepentingan. Dengan mengintegrasikan elemen-elemen kunci ini – dan menerapkan kontrol yang kuat untuk kualitas data, keselamatan, dan pengawalan operasional – pendekatan agen AI LLM yang maju memungkinkan SOCs untuk mencapai hasil yang tidak hanya dapat diandalkan dan transparan, tetapi juga siap produksi untuk lingkungan dunia nyata dan aktivitas yang paling kritis.