Masa Depan Keamanan Siber: AI, Otomatisasi, dan Faktor Manusia

Selama dekade terakhir, seiring dengan pertumbuhan teknologi informasi yang pesat, kenyataan gelap ancaman keamanan siber juga telah berkembang secara dramatis. Serangan siber, yang dulunya didorong terutama oleh peretas yang mencari ketenaran atau keuntungan finansial, telah menjadi jauh lebih canggih dan terarah. Dari espionase yang disponsori negara hingga pencurian perusahaan dan identitas, motif di balik kejahatan siber semakin sinis dan berbahaya. Bahkan ketika keuntungan finansial masih menjadi alasan penting untuk kejahatan siber, itu telah tertutupi oleh tujuan yang lebih berbahaya dari pencurian data dan aset kritis. Pelaku serangan siber secara luas menggunakan teknologi canggih, termasuk kecerdasan buatan, untuk menyusup ke sistem dan melakukan kegiatan berbahaya. Di AS, Federal Bureau of Investigation (FBI) melaporkan lebih dari 800.000 keluhan terkait kejahatan siber yang diajukan pada 2022, dengan kerugian total melebihi $10 miliar, menghancurkan total $6,9 miliar pada 2021, menurut Pusat Keluhan Kejahatan Internet biro tersebut.

Dengan lanskap ancaman yang berkembang pesat, sudah waktunya bagi organisasi untuk mengadopsi pendekatan multi-pronged untuk keamanan siber. Pendekatan tersebut harus untuk mengatasi bagaimana pelaku serangan mendapatkan akses; mencegah kompromi awal; mendeteksi serangan dengan cepat; dan memungkinkan respons dan pemulihan yang cepat. Melindungi aset digital memerlukan mengharness kekuatan AI dan otomatisasi sambil memastikan analis manusia yang terampil tetap menjadi bagian integral dari postur keamanan.

Melindungi sebuah organisasi memerlukan strategi multi-lapis yang mempertimbangkan berbagai titik masuk dan vektor serangan yang digunakan oleh lawan. Secara umum, ini dapat dibagi menjadi empat kategori utama: 1) Serangan web dan jaringan; 2) Serangan berbasis perilaku pengguna dan identitas; 3) Serangan entitas yang menargetkan lingkungan cloud dan hybrid; dan 4) Malware, termasuk ransomware, ancaman persisten lanjutan, dan kode berbahaya lainnya.

Menggunakan AI dan Otomatisasi

Menggunakan model AI dan pembelajaran mesin (ML) yang disesuaikan dengan setiap kelas serangan ini sangat penting untuk deteksi dan pencegahan ancaman proaktif. Untuk serangan web dan jaringan, model harus mengidentifikasi ancaman seperti phishing, eksploitasi browser, dan serangan Denial-of-Service (DDoS) secara real-time. Analitik perilaku pengguna dan entitas yang menggunakan AI dapat mendeteksi aktivitas aneh yang mengindikasikan kompromi akun atau penyalahgunaan sumber daya sistem dan data. Akhirnya, analisis malware yang didorong oleh AI dapat dengan cepat melakukan triase strain baru, menunjukkan perilaku berbahaya, dan mengurangi dampak ancaman berbasis file. Dengan menerapkan model AI dan ML di seluruh spektrum permukaan serangan ini, organisasi dapat secara signifikan meningkatkan kemampuan mereka untuk mengidentifikasi serangan secara mandiri pada tahap awal sebelum mereka berkembang menjadi insiden besar.

Setelah model AI/ML telah mengidentifikasi aktivitas ancaman potensial di berbagai vektor serangan, organisasi menghadapi tantangan kunci lainnya—membuat sense dari peringatan yang sering dan memisahkan insiden kritis dari kebisingan. Dengan banyaknya poin data dan deteksi yang dihasilkan, menerapkan lapisan AI/ML lain untuk mengorelasikan dan memprioritaskan peringatan yang paling serius yang memerlukan investigasi dan respons lebih lanjut menjadi sangat penting. Kebosanan peringatan adalah masalah yang semakin kritis yang perlu diselesaikan.

AI dapat memainkan peran kunci dalam proses triase peringatan ini dengan mengonsumsi dan menganalisis volume besar telemetry keamanan, menggabungkan wawasan dari berbagai sumber deteksi termasuk intelijen ancaman, dan hanya menampilkan insiden dengan tingkat kepercayaan tertinggi untuk respons. Ini mengurangi beban pada analis manusia, yang jika tidak akan dibanjiri dengan peringatan palsu yang luas dan peringatan dengan kepercayaan rendah yang kekurangan konteks untuk menentukan keparahan dan langkah selanjutnya.

Meskipun aktor ancaman telah secara aktif menerapkan AI untuk memperkuat serangan seperti DDoS, phishing yang ditargetkan, dan ransomware, sisi pertahanan telah tertinggal dalam adopsi AI. Namun, ini berubah dengan cepat karena vendor keamanan berlomba untuk mengembangkan model AI/ML canggih yang mampu mendeteksi dan memblokir ancaman yang ditenagai AI ini.

Masa depan untuk AI pertahanan terletak pada penerapan model bahasa kecil yang disesuaikan dengan jenis serangan dan kasus penggunaan tertentu daripada mengandalkan model AI generatif besar saja. Model bahasa besar, di sisi lain, menunjukkan lebih banyak janji untuk operasi keamanan siber seperti mengotomatisasi fungsi meja bantuan, mengambil prosedur operasional standar, dan membantu analis manusia. Pekerjaan berat deteksi ancaman dan pencegahan yang presisi akan ditangani dengan baik oleh model AI/ML kecil yang sangat disesuaikan.

Peran Keahlian Manusia

Sangat penting untuk menggunakan AI/ML bersama dengan otomatisasi proses untuk memungkinkan pemulihan dan pengandalian ancaman yang diverifikasi dengan cepat. Pada tahap ini, dengan insiden yang memiliki kepercayaan tinggi, sistem AI dapat memicu respons otomatis yang disesuaikan dengan setiap jenis serangan—memblokir IP berbahaya [internet protocol], mengisolasi host yang dikompromikan, menerapkan kebijakan adaptif, dan lain-lain. Namun, keahlian manusia tetap menjadi bagian integral, memvalidasi output AI, menerapkan pemikiran kritis, dan mengawasi tindakan respons otonom untuk memastikan perlindungan tanpa gangguan bisnis.

Pemahaman nuansa adalah apa yang manusia bawa ke meja. Juga, menganalisis ancaman malware baru dan kompleks memerlukan kreativitas dan kemampuan pemecahan masalah yang mungkin diluar jangkauan mesin.

Keahlian manusia sangat penting dalam beberapa area kunci:

• Validasi dan Kontekstualisasi: Sistem AI, meskipun kesophistikasiannya, terkadang dapat menghasilkan peringatan palsu atau salah menafsirkan data. Analis manusia diperlukan untuk memvalidasi output AI dan memberikan konteks yang diperlukan yang mungkin diabaikan oleh AI. Ini memastikan bahwa respons sesuai dan sebanding dengan ancaman yang sebenarnya.
• Investigasi Ancaman Kompleks: Beberapa ancaman terlalu kompleks untuk AI untuk menanganinya sendiri. Ahli manusia dapat lebih dalam menyelidiki insiden ini, menggunakan pengalaman dan intuisi mereka untuk mengungkap aspek tersembunyi dari ancaman yang mungkin dilewatkan oleh AI. Wawasan manusia ini sangat penting untuk memahami skala penuh serangan yang canggih dan mengembangkan tindakan balasan yang efektif.
• Pengambilan Keputusan Strategis: Sementara AI dapat menangani tugas rutin dan pemrosesan data, keputusan strategis tentang postur keamanan keseluruhan dan strategi pertahanan jangka panjang memerlukan penilaian manusia. Ahli dapat menafsirkan wawasan yang dihasilkan AI untuk membuat keputusan yang tepat tentang alokasi sumber daya, perubahan kebijakan, dan inisiatif strategis.
• Peningkatan Berkelanjutan: Analis manusia berkontribusi pada perbaikan berkelanjutan sistem AI dengan memberikan umpan balik dan data pelatihan. Wawasan mereka membantu memperbarui algoritma AI, membuatnya lebih akurat dan efektif seiring waktu. Hubungan simbiosis antara keahlian manusia dan AI memastikan bahwa keduanya berkembang bersama untuk mengatasi ancaman yang muncul.

Tim Manusia-Mesin yang Dioptimalkan

Di balik transisi ini adalah kebutuhan akan sistem AI yang dapat belajar dari data historis (pembelajaran terawasi) dan terus beradaptasi untuk mendeteksi serangan baru melalui pendekatan pembelajaran tidak terawasi/penguatan. Menggabungkan metode ini akan menjadi kunci untuk tetap mendahului kemampuan AI yang berkembang dari pelaku serangan.

Secara keseluruhan, AI akan sangat penting bagi pembela untuk meningkatkan kemampuan deteksi dan respons mereka. Keahlian manusia harus tetap terintegrasi erat untuk menyelidiki ancaman kompleks, memeriksa output sistem AI, dan memandu strategi pertahanan. Model tim manusia-mesin yang dioptimalkan ideal untuk masa depan.

Ketika volume besar data keamanan siber terkumpul seiring waktu, organisasi dapat menerapkan analitik AI pada harta karun telemetry ini untuk mendapatkan wawasan untuk berburu ancaman proaktif dan memperkuat pertahanan. Terus belajar dari insiden sebelumnya memungkinkan pemodelan prediktif pola serangan baru. Ketika kemampuan AI berkembang, peran model bahasa kecil dan khusus yang disesuaikan dengan kasus penggunaan keamanan tertentu akan tumbuh. Model ini dapat membantu lebih mengurangi ‘kebosanan peringatan’ dengan secara akurat melakukan triase peringatan yang paling penting untuk analisis manusia. Respons otonom, yang ditenagai oleh AI, juga dapat diperluas untuk menangani lebih banyak tugas keamanan Tier 1.

Namun, penilaian dan pemikiran kritis manusia akan tetap sangat penting, terutama untuk insiden dengan tingkat keparahan tinggi. Tanpa diragukan, masa depan adalah tentang tim manusia-mesin yang dioptimalkan, di mana AI menangani pemrosesan data volume besar dan tugas rutin, memungkinkan ahli manusia untuk fokus pada menyelidiki ancaman kompleks dan strategi keamanan tingkat tinggi.