Masa Depan Keamanan Siber: AI, Otomatisasi, dan Faktor Manusia

Di decade terakhir, bersamaan dengan pertumbuhan teknologi informasi yang eksplosif, kenyataan gelap ancaman keamanan siber juga telah berkembang secara dramatis. Serangan siber, yang awalnya didorong oleh peretas yang mencari ketenaran atau keuntungan finansial, telah menjadi lebih canggih dan terarah. Dari espionase yang disponsori negara hingga pencurian identitas dan perusahaan, motif di balik kejahatan siber semakin sinis dan berbahaya. Meskipun keuntungan finansial masih merupakan alasan penting untuk kejahatan siber, hal ini telah dikalahkan oleh tujuan yang lebih berbahaya, yaitu mencuri data dan aset kritis. Penyerang siber secara luas menggunakan teknologi canggih, termasuk kecerdasan buatan, untuk menyusup ke sistem dan melakukan kegiatan berbahaya. Di Amerika Serikat, Federal Bureau of Investigation (FBI) melaporkan lebih dari 800.000 keluhan terkait kejahatan siber yang diajukan pada 2022, dengan kerugian total melebihi $10 miliar, melampaui total $6,9 miliar pada 2021, menurut Pusat Keluhan Kejahatan Internet biro tersebut.

Dengan lanskap ancaman yang berkembang pesat, sudah waktunya bagi organisasi untuk mengadopsi pendekatan multi-pronged terhadap keamanan siber. Pendekatan ini harus mencakup cara penyerang memasuki sistem; mencegah kompromi awal; mendeteksi invasi dengan cepat; dan memungkinkan respons dan pemulihan yang cepat. Melindungi aset digital memerlukan pemanfaatan kekuatan AI dan otomatisasi sambil memastikan analis manusia yang terampil tetap menjadi bagian integral dari postur keamanan.

Melindungi sebuah organisasi memerlukan strategi multi-lapis yang mempertimbangkan berbagai titik masuk dan vektor serangan yang digunakan oleh lawan. Secara umum, ini dapat dibagi menjadi empat kategori utama: 1) Serangan web dan jaringan; 2) Serangan berbasis perilaku pengguna dan identitas; 3) Serangan terhadap entitas yang menargetkan lingkungan awan dan hibrida; dan 4) Malware, termasuk ransomware, ancaman persisten lanjutan, dan kode berbahaya lainnya.

Menggunakan AI dan Otomatisasi

Menggunakan model AI dan pembelajaran mesin (ML) yang disesuaikan untuk setiap kelas serangan ini sangat penting untuk deteksi dan pencegahan ancaman proaktif. Untuk serangan web dan jaringan, model harus dapat mengidentifikasi ancaman seperti phishing, eksploitasi browser, dan serangan Denial-of-Service (DoS) secara real-time. Analitik perilaku pengguna dan entitas yang menggunakan AI dapat mendeteksi aktivitas anomali yang menunjukkan kompromi akun atau penyalahgunaan sumber daya dan data sistem. Akhirnya, analisis malware yang didorong AI dapat dengan cepat memilah varian baru, mengidentifikasi perilaku berbahaya, dan mitigasi dampak ancaman berbasis file. Dengan menerapkan model AI dan ML di seluruh spektrum permukaan serangan ini, organisasi dapat secara signifikan meningkatkan kemampuan mereka untuk mengidentifikasi serangan secara mandiri pada tahap awal sebelum berkembang menjadi insiden besar.

Saat model AI/ML telah mengidentifikasi aktivitas ancaman potensial di berbagai vektor serangan, organisasi menghadapi tantangan lain – membuat sense dari alert yang sering dan memisahkan insiden kritis dari kebisingan. Dengan banyaknya poin data dan deteksi yang dihasilkan, menerapkan lapisan AI/ML lain untuk mengorelasikan dan memprioritaskan alert paling serius yang memerlukan investigasi dan respons lebih lanjut menjadi sangat penting. Kegiatan alert yang berlebihan adalah masalah yang semakin kritis yang perlu dipecahkan.

AI dapat memainkan peran kunci dalam proses triage alert ini dengan mengonsumsi dan menganalisis volume besar telemetry keamanan, menggabungkan wawasan dari berbagai sumber deteksi termasuk intelijen ancaman, dan hanya menampilkan insiden dengan tingkat kepercayaan tertinggi untuk respons. Ini mengurangi beban pada analis manusia, yang jika tidak akan dibanjiri oleh false positif yang luas dan alert dengan kualitas rendah yang tidak memiliki konteks yang cukup untuk menentukan keparahan dan langkah selanjutnya.

Meskipun aktor ancaman telah secara aktif menerapkan AI untuk memperkuat serangan seperti DDoS, phishing yang ditargetkan, dan ransomware, sisi pertahanan telah tertinggal dalam adopsi AI. Namun, ini berubah cepat karena vendor keamanan berlomba untuk mengembangkan model AI/ML canggih yang dapat mendeteksi dan memblokir ancaman yang ditenagai AI ini.

Masa depan untuk AI pertahanan terletak pada penerapan model bahasa kecil yang disesuaikan untuk jenis serangan dan kasus penggunaan tertentu, bukan hanya mengandalkan model AI generatif besar. Model bahasa besar, di sisi lain, menunjukkan lebih banyak janji untuk operasi keamanan siber seperti mengotomatisasi fungsi meja bantuan, mengambil prosedur operasional standar, dan membantu analis manusia. Tugas deteksi ancaman dan pencegahan yang presisi akan ditangani dengan baik oleh model AI/ML kecil yang sangat disesuaikan.

Peran Keahlian Manusia

Sangat penting untuk menggunakan AI/ML bersama dengan otomatisasi proses untuk memungkinkan remediasi dan pengandalian ancaman yang diverifikasi dengan cepat. Pada tahap ini, dengan insiden yang memiliki kepercayaan tinggi, sistem AI dapat memicu respons otomatis yang disesuaikan untuk setiap jenis serangan—memblokir IP berbahaya, mengisolasi host yang dikompromikan, menerapkan kebijakan adaptif, dan lain-lain. Namun, keahlian manusia tetap menjadi bagian integral, memvalidasi output AI, menerapkan pemikiran kritis, dan mengawasi tindakan respons otonom untuk memastikan perlindungan tanpa gangguan bisnis.

Pemahaman yang halus adalah apa yang manusia bawa ke meja. Juga, menganalisis ancaman malware baru dan kompleks memerlukan kreativitas dan kemampuan pemecahan masalah yang mungkin diluar jangkauan mesin.

Keahlian manusia sangat penting dalam beberapa area kunci:

• Validasi dan Kontekstualisasi: Sistem AI, meskipun canggih, terkadang dapat menghasilkan false positif atau menafsirkan data secara salah. Analis manusia diperlukan untuk memvalidasi output AI dan memberikan konteks yang diperlukan yang mungkin diabaikan oleh AI. Ini memastikan bahwa responsnya sesuai dan sebanding dengan ancaman yang sebenarnya.
• Investigasi Ancaman Kompleks: Beberapa ancaman terlalu kompleks untuk AI untuk menanganinya sendiri. Ahli manusia dapat lebih dalam memeriksa insiden tersebut, menggunakan pengalaman dan intuisi mereka untuk mengungkap aspek tersembunyi dari ancaman yang mungkin diabaikan oleh AI. Wawasan manusia ini sangat penting untuk memahami skala penuh serangan yang canggih dan mengembangkan kontra langkah yang efektif.
• Pengambilan Keputusan Strategis: Sementara AI dapat menangani tugas rutin dan pemrosesan data, keputusan strategis tentang postur keamanan keseluruhan dan strategi pertahanan jangka panjang memerlukan penilaian manusia. Ahli dapat menafsirkan wawasan yang dihasilkan AI untuk membuat keputusan yang tepat tentang alokasi sumber daya, perubahan kebijakan, dan inisiatif strategis.
• Peningkatan Berkelanjutan: Analis manusia berkontribusi pada peningkatan berkelanjutan sistem AI dengan memberikan umpan balik dan data pelatihan. Wawasan mereka membantu memperbarui algoritma AI, membuatnya lebih akurat dan efektif dari waktu ke waktu. Hubungan simbiosis antara keahlian manusia dan AI memastikan bahwa keduanya berkembang bersama untuk mengatasi ancaman yang muncul.

Tim Kerja Manusia-Mesin yang Dioptimalkan

Di balik transisi ini terdapat kebutuhan akan sistem AI yang dapat belajar dari data historis (pembelajaran terawasi) dan terus beradaptasi untuk mendeteksi serangan baru melalui pendekatan pembelajaran tak terawasi/penguatan. Menggabungkan metode ini akan menjadi kunci untuk tetap mendahului kemampuan AI penyerang.

Secara keseluruhan, AI akan sangat penting bagi pembela untuk meningkatkan kemampuan deteksi dan respons mereka. Keahlian manusia harus tetap terintegrasi erat untuk menyelidiki ancaman kompleks, memeriksa output sistem AI, dan memandu strategi pertahanan. Model tim kerja manusia-mesin yang dioptimalkan ideal untuk masa depan.

Saat volume besar data keamanan terkumpul seiring waktu, organisasi dapat menerapkan analitik AI pada kumpulan telemetry ini untuk mendapatkan wawasan untuk berburu ancaman proaktif dan memperkuat pertahanan. Belajar terus dari insiden sebelumnya memungkinkan pemodelan prediktif pola serangan baru. Saat kemampuan AI berkembang, peran model bahasa kecil yang disesuaikan untuk kasus penggunaan keamanan tertentu akan tumbuh. Model ini dapat membantu lebih mengurangi ‘kelelahan alert’ dengan memilah alert paling penting untuk analisis manusia dengan presisi. Respons otonom, yang ditenagai AI, juga dapat diperluas untuk menangani tugas keamanan Tier 1 lebih banyak.

Namun, penilaian manusia dan pemikiran kritis akan tetap sangat penting, terutama untuk insiden dengan tingkat keparahan tinggi. Tanpa diragukan, masa depan adalah tentang tim kerja manusia-mesin yang dioptimalkan, di mana AI menangani pemrosesan data yang banyak dan tugas rutin, memungkinkan ahli manusia untuk fokus pada penyelidikan ancaman kompleks dan strategi keamanan tingkat tinggi.