Pemimpin pemikiran

AI Dapat Meningkatkan Skala Keamanan. Namun, Apa yang Ditingkatkan?

Eyal Fisher
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaMemproses lebih banyak data tidak secara otomatis meningkatkan deteksi ancaman tanpa…
Lihat selengkapnya
  • Memproses lebih banyak data tidak secara otomatis meningkatkan deteksi ancaman tanpa konteks organisasi.
  • Model yang disesuaikan dapat mendukung investigasi skala besar dengan biaya yang lebih terprediksi daripada model frontier.
  • Otonomi harus proporsional dengan risiko dengan tata kelola yang dirancang sebelum agen diperluas.

Tim keamanan perusahaan saat ini menghadapi lebih banyak aktivitas, telemetri, dan peringatan daripada yang secara realistis dapat mereka selidiki secara manual. Berbagai perkiraan menunjukkan angka yang berbeda, tetapi sejumlah penelitian memperkirakan tim operasi keamanan rata-rata menerima lebih dari 4.400 peringatan setiap hari. Seiring organisasi berkembang dan menambahkan lebih banyak alat, sementara AI memungkinkan lebih banyak serangan, jumlah itu pasti akan meningkat. Kita sudah melihat contoh perusahaan dengan dua juta titik akhir di lingkungannya. Tim keamanan yang menyelidiki peringatan ini secara manual tidak memiliki peluang yang seimbang untuk menghadapi penyerang yang semakin banyak menggunakan agen.

Bagi para pembela, agen AI dapat mengubah keadaan dengan menangani penyelidikan dan tugas-tugas berulang lainnya di seluruh lingkungan. Namun, kemampuan memproses lebih banyak data tidak serta-merta menghasilkan deteksi atau respons ancaman yang lebih baik. Yang dibutuhkan bukan sekadar skala, melainkan juga konteks.

Pentingnya Konteks dalam Menilai Skala

Agen yang menyelidiki jutaan titik akhir harus memahami apa yang dicari, perilaku apa yang dianggap tidak biasa di lingkungan tertentu, dan temuan mana yang perlu diselidiki lebih lanjut. Tanpa konteks ini, otomatisasi berisiko memperbesar kebisingan dan menghasilkan kesimpulan yang tidak relevan atau menyesatkan.

Penting juga untuk diingat bahwa tidak semua organisasi dapat mengandalkan penyelidikan dengan model AI terdepan untuk setiap peringatan; biayanya akan terlalu tinggi.

Lingkungan keamanan berbeda-beda dalam hal infrastruktur, aplikasi, kebutuhan operasional, kewajiban regulasi, dan toleransi risiko. Para pembela harus menjaga agar aplikasi tetap berjalan sembari memenuhi persyaratan kepatuhan dan menghindari gangguan operasional.

Agar efektif, agen harus memanfaatkan pengetahuan organisasi, termasuk penyelidikan terdahulu, prosedur yang telah ditetapkan, dan penilaian analis berpengalaman. Banyak dari pengetahuan ini tidak bisa begitu saja dimasukkan ke agen melalui lembar kerja atau format lain; pengetahuan ini harus diamati dalam praktik, dengan belajar dari para pembela yang berpengalaman saat bekerja.

Bagi perusahaan, pertanyaan besarnya adalah bagaimana mengubah pengetahuan kelembagaan tersebut menjadi sistem yang mampu mengambil keputusan secara konsisten dan sesuai konteks dengan kecepatan mesin.

Cara Mengoperasionalkan Pengetahuan Organisasi

Organisasi membutuhkan mekanisme untuk menangkap dan menerapkan pengetahuan yang menjadi dasar penyelidikan, termasuk keputusan atas kasus sebelumnya, prosedur yang telah ditetapkan, dan cara analis menafsirkan bukti. Perusahaan mungkin juga memiliki proses, alat, dan pengetahuan informal khas yang perlu didokumentasikan.

Spesialisasi model merupakan salah satu pendekatan yang dapat dipertimbangkan. Penyetelan model untuk setiap pelanggan perusahaan dapat mendukung penyelidikan berskala besar dengan biaya yang lebih mudah diprediksi, sekaligus mempertahankan kinerja yang kuat. Model sumber terbuka yang telah disetel mungkin sangat berguna untuk tugas yang melibatkan populasi titik akhir yang sangat besar.

Organisasi juga harus mengevaluasi kinerja agen seiring berubahnya model, alur kerja, dan lingkungan perusahaan. Lingkungan sintetis, atau kembaran digital, dapat menyediakan kondisi yang representatif untuk menguji berbagai versi agen ketika data produksi tidak lagi tersedia atau sudah kedaluwarsa.

Penyetelan model bukan satu-satunya cara untuk memberikan konteks. Pengambilan informasi, memori, orkestrasi alur kerja, dan kontrol kebijakan eksplisit merupakan pendekatan alternatif. Syarat utamanya adalah metode yang dipilih meningkatkan kinerja agen di lingkungan tempatnya akan beroperasi.

Otonomi dalam Skala Besar Membutuhkan Batasan, Pengawasan, dan Koordinasi yang Jelas

Mengidentifikasi ancaman dengan tepat hanyalah sebagian dari tantangan. Agen harus memahami tindakan apa yang boleh mereka lakukan, kapan persetujuan manusia diperlukan, dan bagaimana menghindari gangguan terhadap operasi bisnis yang sah. Menentukan tindakan yang dapat dilakukan agen secara mandiri dan keputusan yang memerlukan campur tangan manusia sangat penting agar penerapannya tepercaya.

Otonomi dalam skala besar juga membutuhkan efisiensi skala. Perusahaan yang menggunakan model AI terdepan untuk jutaan penyelidikan akan membuat dirinya bangkrut. Karena itu, menemukan metode paling efisien untuk melakukan penyelidikan dengan model AI, baik model bahasa kecil (SLM) maupun model berpemilik, menjadi hal yang sangat penting.

Tingkat otonomi harus sebanding dengan risiko. Tugas rutin yang sudah dipahami dengan baik mungkin cocok dilakukan secara mandiri, sedangkan tindakan yang berdampak besar atau mengganggu mungkin memerlukan persetujuan manusia atau otorisasi tambahan. Keamanan perusahaan juga bergantung pada koordinasi antartim. Penyelidikan yang mengidentifikasi ancaman dan menyimpulkan bahwa konfigurasi firewall perlu diubah harus dialihkan dengan lancar kepada tim yang bertanggung jawab atas sistem tersebut, dengan otorisasi yang sesuai dan akuntabilitas atas tindakan perbaikan.

Karena itu, tata kelola dan perancangan alur kerja merupakan komponen penting dalam penerapan agen, bukan kontrol yang bisa ditambahkan setelah teknologi diperluas skalanya.

Ukuran Berikutnya untuk Keberhasilan AI dalam Keamanan adalah Kualitas Hasilnya

Organisasi sebaiknya menilai agen berdasarkan ukuran yang berorientasi pada hasil, termasuk akurasi investigasi, tingkat positif palsu dan negatif palsu, waktu untuk menyelidiki dan memulihkan, biaya per investigasi, kualitas eskalasi, serta kepatuhan terhadap kebijakan otorisasi.

Evaluasi berkelanjutan sangat penting seiring perubahan model dan alur kerja. Menguji berbagai versi agen dengan kasus yang representatif dan menggunakan lingkungan sintetis dapat membantu organisasi mengidentifikasi kemunduran sebelum menerapkan pembaruan ke lingkungan produksi.

Para pemimpin keamanan harus menyeimbangkan manfaat otomatisasi dengan risiko operasional penerapannya. Ketersediaan aplikasi, kewajiban kepatuhan, toleransi risiko organisasi, dan jadwal implementasi semuanya memengaruhi seberapa cepat kapabilitas baru dapat diadopsi.

AI memberi tim keamanan peluang untuk mengatasi masalah kapasitas yang telah lama ada, tetapi skala semata bukanlah tujuan akhir. Peluang sesungguhnya terletak pada penggabungan kecepatan mesin dengan konteks organisasi, wewenang yang tepat, dan penilaian manusia agar agen dapat membedakan hal yang penting, mengambil tindakan yang tepat, serta melibatkan orang yang tepat bila diperlukan.

Eyal Fisher adalah salah satu pendiri dan CTO dari Legion Security, tempat ia memimpin visi teknis di balik platform operasi keamanan berbasis agen milik perusahaan tersebut. Sebagai tokoh terkemuka di bidang AI dan wirausaha, Eyal sebelumnya ikut mendirikan perusahaan AI generatif ART AI dan sebuah perusahaan rintisan keamanan cloud, serta memiliki pengalaman penelitian dari University of Cambridge. Sebagai pelopor AI generatif yang diakui, sepanjang kariernya ia telah mendorong batas penerapan pembelajaran mesin dalam operasi keamanan dunia nyata.