AI melawan AI: Kenyataan Baru Keamanan Siber

Serangan siber yang ditenagai oleh AI telah tiba, mengkonfirmasi apa yang sebelumnya hanya merupakan risiko teoretis, namun sangat dinantikan, dan mereka membawa era baru dalam lanskap ancaman. Dengan agen AI sekarang dapat meluncurkan kampanye kompleks, ujung-ke-ujung dalam hitungan menit, penjahat siber dapat menemukan dan mengeksploitasi kerentanan perusahaan dengan kecepatan mesin. Aturan pertempuran telah berubah: pertahanan siber kemarin tidak lagi dapat mengimbangi ofensif AI yang digerakkan hari ini.

Ketika AI memperkuat ancaman siber, perusahaan perlu menerapkan kemampuan pertahanan yang ditenagai oleh AI untuk mengimbangi kecepatan, skala, dan presisi. Untuk saat ini, musuh siber masih mengikuti taktik, teknik, dan prosedur (TTP) yang familiar, namun AI mempercepat dan meningkatkan playbook mereka. Selain itu, model AI perusahaan itu sendiri juga menjadi target baru melalui pencemaran model dan rekayasa sosial yang didorong bahasa, yang memerlukan tim keamanan siber untuk memastikan kemampuan AI mereka. Oleh karena itu, keamanan harus menjadi bagian inti dari strategi AI yang lebih besar dari sebuah organisasi.

Apa yang Membedakan Serangan Siber yang Ditenagai oleh AI?

Di dunia digital yang sudah jenuh dengan upaya penetrasi siber yang hampir tidak pernah berhenti, batasan untuk memasuki akses bagi aktor jahat telah berkurang, meningkatkan tidak hanya volume tetapi juga kompleksitas serangan. Serangan yang ditenagai oleh AI dapat sekarang menggunakan AI atau pembelajaran mesin (ML) untuk mengotomatisasi, mempercepat, atau meningkatkan setiap fase dari siklus serangan, dari pengintaian dan pengumpulan informasi hingga eksploitasi dan ekstraksi data sensitif.

Mengandalkan proses dan teknologi keamanan yang ada tanpa menerapkan teknologi canggih yang sama yang digunakan oleh musuh memberikan keuntungan bagi musuh yang hampir tidak mungkin diimbangi tanpa AI pertahanan. Organisasi sudah kewalahan dengan memantau perusahaan mereka dari ancaman tradisional. Serangan yang ditenagai oleh AI akan memperburuk kelelahan peringatan. Ini memerlukan evolusi dari proses yang dikelola oleh manusia ke tenaga kerja siber manusia/digital hibrida.

Petakan Setiap Aset Digital

Di dunia saat ini, memahami titik masuk potensial di seluruh lingkungan perusahaan adalah taruhan, namun masih tidak terjangkau bagi banyak perusahaan besar. Di luar sistem dan aset digital adalah kebutuhan untuk pemetaan komprehensif semua identitas dan akses dalam sebuah organisasi. Identitas digital, yang menghubungkan karakteristik fisik dan perilaku kembali ke individu, sudah dipahami dengan kontrol yang ada untuk mengelola akses digital.

Namun, memahami lanskap organisasi-wide dari identitas non-manusia (NHIs) sangat penting untuk mengamankan aset digital. Memahami nilai potensial AI dalam sebuah organisasi berarti memberikan akses dan izin kepada agen AI untuk menyelesaikan proses bisnis secara otonom. Sama seperti lingkungan cloud dari era keamanan sebelumnya, alur kerja yang ditenagai oleh agen saat ini memulai dan menghentikan NHIs dalam skala besar, memerlukan kemampuan canggih untuk mengelola dan melacak di mana mereka beroperasi dan bagaimana mereka mencapai misi atau peran yang diinginkan.

Perusahaan harus memperluas pemerintahan identitas di seluruh siklus hidup identitas agen dan memantau tindakan agen, sama seperti mereka memantau akses pengguna manusia hari ini untuk perilaku risiko insider atau kompromi akun dari ancaman aktor. Ketika kemampuan agen memperoleh lebih banyak otonomi dan pekerjaan kritis bisnis, memahami apa yang terlihat seperti jejak identitas dan pola akses mereka sangat penting untuk menerapkan kontrol akses dan pemantauan yang diperlukan untuk melindungi mereka dan perusahaan dari penyalahgunaan.

Kunci Model AI

Kemampuan AI memiliki janji untuk membuka efisiensi dan produktivitas tetapi juga potensi untuk dipergunakan melawan organisasi. Mengenalkan AI ke dalam setiap aspek operasi bisnis tidak lagi merupakan “nice to have” – ini merupakan kebutuhan untuk kesuksesan di lanskap kompetitif saat ini. Oleh karena itu, menerapkan AI dengan aman merupakan komponen yang diperlukan untuk mewujudkan potensi bisnis dan hasil yang aman.

Perubahan ke pertahanan siber yang ditenagai oleh AI sedang berlangsung, sementara model AI itu sendiri telah menjadi target. Musuh mungkin mencoba meracuni data yang memberi makan model-model ini dan memanipulasi mereka untuk mengambil tindakan yang tidak diinginkan atau bahkan mengungkapkan informasi sensitif.

Serangan musuh terhadap AI dapat datang dalam berbagai bentuk, seperti serangan racun, serangan injeksi prompt, dan lain-lain. Untuk melindungi AI dari manipulasi potensial, organisasi harus menggunakan filosofi Badan Infrastruktur dan Keamanan Siber (CISA) dari Desain yang Aman. Ini dimulai dengan data yang memberi makan pelatihan model. Mengunci input awal dalam proses pengembangan membentuk fondasi untuk output yang dapat diandalkan dalam penerapan.

Memahami input yang masuk ke dalam pengembangan model dan kemampuan adalah mungkin melalui pemerintahan data yang disengaja dan kontrol akses ke model-model itu sendiri. Kontrol kritis yang memungkinkan untuk memvalidasi output yang diinginkan datang dalam bentuk pencegahan kehilangan data (DLP); penerapan kebijakan dan keselamatan; dasar melalui sumber yang dapat diverifikasi; dan kontrol persetujuan yang ketat untuk tindakan berdampak tinggi, auditabilitas, dan pengujian terus-menerus, termasuk pengujian penetrasi model untuk memperkuat mereka.

Integrasikan AI ke Dalam Operasi Keamanan

Sampai sekarang, menerapkan AI ke dalam pertahanan siber telah bersifat taktis, dengan banyak organisasi menghubungkan AI ke proses manusia yang ada, bukan strategis dengan merancang ulang bagaimana membangun proses yang berpusat pada AI. Ini seperti mencoba memasang mesin V8 ke sepeda. Evolusi berikutnya dari penerapan AI akan merancang proses dari awal, dengan AI agen dan otomatisasi asli dalam desain. Metode dan proses operasi keamanan yang terbukti dan penting, seperti deteksi ancaman, perburuan ancaman, dan teknik deteksi, masih merupakan item kritis yang sangat penting bagi keamanan organisasi di era AI. Mengubah proses keamanan saat ini untuk memungkinkan penguatan AI dapat membentuk fondasi yang kuat untuk pusat operasi keamanan (SOC) yang ditenagai oleh AI di masa depan.

Selain itu, otomatisasi bukanlah konsep baru yang unik untuk munculnya AI; alur kerja dan proses keamanan telah dioptimalkan selama bertahun-tahun, dengan organisasi yang matang memiliki kemampuan orkestrasi dan otomatisasi yang sangat canggih. Namun, AI meningkatkan otomatisasi berbasis aturan yang ada dan mengembangkannya lebih lanjut, memungkinkan alur kerja otomatis yang dinamis, adaptif, dan kaya konteks yang dapat membantu mengatasi kecepatan dan kesigapan yang diperlukan untuk ancaman AI yang muncul.

Apa yang Selanjutnya?

Keamanan perlu terus menjadi prioritas utama bagi bisnis dan IT untuk menjaga aset dan pengguna kritis mereka aman dari eksploitasi jahat. AI yang dirancang dengan keamanan adalah kebutuhan mengingat kecepatan dengan mana model AI dapat diterapkan dan diminta untuk melakukan aktivitas kritis. Tim keamanan siber harus berpikir strategis tentang mengubah proses dari awal untuk menerapkan kemampuan AI baru dan mengimbangi permainan kucing dan tikus siber.

Pemimpin keamanan dapat mengambil beberapa langkah konkret dalam jangka pendek: melakukan tinjauan menyeluruh terhadap proses keamanan saat ini untuk menemukan celah, peluang modernisasi, dan area yang siap untuk transformasi. Tetaplah mengikuti ancaman, tren, dan teknologi AI yang muncul. Di atas semua, tetaplah terikat pada prinsip keamanan dasar pertahanan dalam yang telah terbukti over waktu – perlindungan berlapis dan validasi dari identitas, ke endpoint, ke jaringan, ke data, dengan kemampuan pemantauan dan respons yang kuat yang selalu diuji.

Potensi transformasional AI menjanjikan keuntungan yang terlalu besar untuk menolak adopsinya, dan jin sudah keluar dari botol bagi aktor ancaman. Oleh karena itu, peran pemimpin keamanan di era berikutnya sama seperti yang selalu ada: mendukung organisasi Anda dalam mencapai tujuan bisnis dengan mitigasi risiko yang bijak – hanya sekarang dengan kecepatan mesin menggunakan AI.