AI vs AI: Kenyataan Baru Keamanan Siber

Serangan siber yang ditenagai AI telah tiba, mengkonfirmasi apa yang sebelumnya hanya sebuah risiko teoretis, namun telah diprediksi, dan mereka membawa era baru dalam lanskap ancaman. Dengan agen AI sekarang dapat meluncurkan kampanye kompleks, ujung-ke-ujung dalam hitungan menit, penjahat siber dapat menemukan dan mengeksploitasi kerentanan perusahaan dengan kecepatan mesin. Aturan pertempuran telah berubah: pertahanan siber kemarin tidak lagi dapat mengimbangi ofensif AI yang digerakkan hari ini.

Karena AI meningkatkan ancaman siber, perusahaan perlu menerapkan kemampuan pertahanan yang ditenagai AI untuk mengimbangi kecepatan, skala, dan presisi. Untuk saat ini, musuh siber masih mengikuti taktik, teknik, dan prosedur (TTP) yang familiar, tetapi AI mempercepat dan meningkatkan playbook mereka. Selain itu, model AI perusahaan itu sendiri juga menjadi target baru melalui pencemaran model dan teknik rekayasa sosial yang didorong bahasa, yang memerlukan tim keamanan siber untuk memastikan kemampuan AI mereka. Oleh karena itu, keamanan harus menjadi bagian inti dari strategi AI organisasi.

Apa yang Membedakan Serangan Siber yang Ditenagai AI?

Dalam dunia digital yang sudah jenuh dengan upaya penetrasi siber yang hampir tidak pernah berhenti, hambatan untuk memasuki aksi malus telah berkurang, meningkatkan tidak hanya volume tetapi juga kompleksitas serangan. Serangan yang ditenagai AI sekarang dapat menggunakan AI atau pembelajaran mesin (ML) untuk mengotomatisasi, mempercepat, atau meningkatkan setiap fase dari siklus hidup serangan, dari pengintaian dan pengumpulan informasi hingga eksploitasi dan pengeluaran data sensitif.

Mengandalkan proses dan teknologi keamanan yang ada tanpa menerapkan teknologi canggih yang sama yang digunakan oleh musuh memberikan keuntungan yang hampir mustahil untuk diimbangi tanpa pertahanan AI. Organisasi sudah kewalahan dengan memantau perusahaan mereka dari ancaman aktor tradisional. Serangan yang ditenagai AI akan memperburuk kelelahan peringatan. Ini memerlukan evolusi dari proses yang dikelola manusia ke tenaga kerja siber manusia/digital hibrida.

Petakan Setiap Aset Digital

Dalam dunia saat ini, memahami titik masuk potensial di seluruh lingkungan perusahaan adalah taruhan, tetapi masih out of reach bagi banyak perusahaan besar. Di luar sistem dan aset digital adalah kebutuhan untuk pemetaan komprehensif semua identitas dan akses dalam sebuah organisasi. Identitas digital, yang menghubungkan karakteristik fisik dan perilaku kembali ke individu, dipahami dengan baik dengan kontrol yang ada untuk mengelola akses digital.

Namun, memahami lanskap identitas non-manusia (NHIs) di seluruh perusahaan adalah penting untuk mengamankan aset digital. Merealisasikan nilai potensial AI dalam sebuah organisasi berarti memberikan akses dan izin kepada agen AI untuk menyelesaikan proses bisnis secara otonom. Sama seperti lingkungan awan dari era keamanan sebelumnya, alur kerja yang ditenagai agen saat ini memutar dan menurun NHIs dalam skala besar, memerlukan kemampuan canggih untuk mengelola dan melacak di mana mereka beroperasi dan bagaimana mereka mencapai misi atau peran yang diinginkan.

Perusahaan harus memperluas pemerintahan identitas di seluruh siklus hidup identitas agen dan memantau tindakan agen, sama seperti mereka memantau akses pengguna manusia hari ini untuk perilaku risiko internal atau kompromi akun dari aktor ancaman. Ketika kemampuan agen mengambil lebih banyak otonomi dan pekerjaan kritis bisnis, memahami apa yang terlihat seperti jejak identitas dan pola akses mereka adalah kritis untuk menerapkan kontrol akses dan pemantauan yang diperlukan untuk melindungi mereka dan perusahaan dari penyalahgunaan.

Kunci AI Model

Kemampuan AI memiliki janji untuk membuka efisiensi dan produktivitas tetapi juga potensi untuk diputar melawan organisasi. Mengenalkan AI ke setiap aspek operasi bisnis tidak lagi “nice to have” – itu adalah persyaratan untuk kesuksesan dalam lanskap kompetitif saat ini. Oleh karena itu, menerapkan AI dengan aman adalah komponen yang diperlukan untuk mewujudkan potensi bisnis penuh dan hasil.

Pergeseran ke pertahanan siber yang ditenagai AI sedang berlangsung, sementara model AI itu sendiri telah menjadi target. Musuh mungkin mencoba meracuni data yang memberi makan model ini dan memanipulasi mereka untuk mengambil tindakan yang tidak diinginkan atau bahkan mengungkapkan informasi sensitif.

Serangan musuh terhadap AI dapat datang dalam berbagai bentuk, seperti serangan racun, serangan injeksi prompt, dan lain-lain. Untuk melindungi AI dari manipulasi potensial, organisasi harus menggunakan filosofi Badan Infrastruktur dan Keamanan Siber (CISA) dari Desain Aman. Ini dimulai dengan data yang memberi makan pelatihan model. Mengunci input pada awal proses pengembangan menetapkan fondasi untuk output yang dapat diandalkan dalam penerapan.

Memahami input yang masuk ke dalam pengembangan model dan kemampuan adalah mungkin melalui tata kelola data yang disengaja bersama dengan kontrol akses ke model itu sendiri. Kontrol kritis yang memungkinkan validasi output yang diinginkan datang dalam bentuk pencegahan kehilangan data; penerapan kebijakan dan keselamatan; pembumian melalui sumber yang dapat diverifikasi; dan kontrol persetujuan yang ketat untuk tindakan berdampak tinggi, auditabilitas, dan pengujian terus-menerus, termasuk pengujian penetrasi model untuk memperkuat mereka.

Benamkan AI ke Dalam Operasi Keamanan

Sampai sekarang, menerapkan AI ke pertahanan siber telah bersifat taktis, dengan banyak organisasi mengikat AI ke proses yang berbasis manusia, bukan secara strategis memikirkan kembali bagaimana membangun proses yang berbasis AI. Ini seperti mencoba memasang mesin V8 ke sepeda. Evolusi berikutnya dari pemberdayaan AI akan merancang proses dari awal, dengan AI agen dan otomatisasi asli dalam desain. Metode dan proses operasi keamanan yang telah teruji dan terbukti, seperti deteksi ancaman, perburuan ancaman, dan teknik deteksi, masih merupakan item kritis yang sangat penting bagi keamanan organisasi di era AI.

Mengubah proses keamanan saat ini untuk memungkinkan peningkatan AI dapat meletakkan fondasi yang kuat untuk operasi keamanan yang ditenagai AI di masa depan. Selain itu, otomatisasi bukanlah konsep baru yang unik untuk munculnya AI; alur kerja dan proses keamanan telah dioptimalkan selama bertahun-tahun, dengan organisasi yang matang memiliki kemampuan orkestrasi dan otomatisasi yang sangat canggih. Namun, AI meningkatkan otomatisasi berbasis aturan yang ada dan mengembangkannya lebih lanjut, memungkinkan alur kerja otomatis yang dinamis, dapat disesuaikan, dan kaya konteks yang dapat membantu mengatasi kecepatan dan kelenturan yang diperlukan untuk risiko AI yang muncul.

Apa yang Berikutnya?

Keamanan perlu terus menjadi prioritas utama bagi bisnis dan IT untuk menjaga aset dan pengguna kritis mereka aman dari eksploitasi yang berbahaya. AI yang dirancang dengan keamanan adalah kebutuhan mengingat kecepatan dengan mana model AI dapat diterapkan dan diminta untuk melakukan aktivitas kritis. Tim keamanan siber harus berpikir strategis tentang mengubah proses dari awal untuk menerapkan kemampuan AI baru dan mengimbangi permainan kucing dan tikus siber.

Pemimpin keamanan dapat mengambil beberapa langkah konkret dalam jangka pendek: melakukan tinjauan menyeluruh terhadap proses keamanan saat ini untuk menemukan celah, peluang modernisasi, dan area yang siap untuk transformasi. Tetap mendapatkan informasi tentang ancaman, tren, dan teknologi AI yang muncul. Di atas semua, tetap terjaga pada prinsip keamanan dasar pertahanan dalam yang telah terbukti selama waktu – perlindungan berlapis dan validasi dari identitas, ke endpoint, ke jaringan, ke data, dengan kemampuan pemantauan dan respons yang kuat yang selalu diuji.

Potensi transformasional AI menjanjikan keuntungan yang terlalu besar untuk dihindari, dan gen ini sudah keluar dari botol bagi aktor ancaman. Oleh karena itu, peran pemimpin keamanan dalam usia ini sama seperti yang selalu ada: mendukung organisasi mereka dalam mencapai tujuan bisnis dengan mitigasi risiko yang bijak – sekarang dengan kecepatan mesin dengan menggunakan AI.