Apakah Bisnis Siap Menghadapi Gelombang Serangan Siber Berbasis AI Berikutnya?

Menganalisis tren saat ini memungkinkan para ahli untuk memprediksi bagaimana para pelaku kejahatan siber akan menggunakan kecerdasan buatan di masa depan. Dengan informasi ini, mereka dapat mengidentifikasi ancaman terbesar yang muncul dan menentukan apakah bisnis sudah siap. Mereka bahkan mungkin dapat menemukan solusi.

Keadaan Ancaman AI dalam Beberapa Tahun Terakhir

Meskipun teknologi AI relatif baru, sudah menjadi alat yang menonjol bagi para peretas. Tren ini menunjukkan bahwa serangan siber AI meningkat.

1. Penyalahgunaan Model

Dengan menargetkan model bahasa besar (LLM) secara langsung, pelaku ancaman dapat memanipulasi perilaku model, mengurangi akurasi output atau mengungkap data pelatihan yang dapat diidentifikasi secara pribadi. Pencemaran data dan rekayasa prompt adalah teknik serangan yang umum.

Beberapa serangan dipimpin oleh pelaku ancaman yang mencari untuk menyebabkan kekacauan atau mencuri informasi sensitif. Yang lainnya dikelola oleh seniman yang tidak puas yang ingin melindungi karya seni mereka dari pengikisan AI. Bagaimanapun, perusahaan dan pengguna akhirnya terkena dampak.

2. Serangan Pemalsuan

Pada 2024, seorang eksekutif Ferrari menerima beberapa pesan WhatsApp dari CEO, Benedetto Vigna. Vigna berbicara tentang akuisisi yang akan datang dan mendesak karyawannya untuk menandatangani perjanjian kerahasiaan. Dia bahkan menelepon untuk membahas pendanaan. Ada satu masalah — itu bukan dia.

Deepfake hampir sempurna, meniru aksen Italia Selatan Vigna dengan sangat baik. Namun, inkonsistensi kecil dalam suara mengisyaratkan eksekutif tentang penipuan. Karyawan itu bertanya tentang judul buku yang Vigna sarankan beberapa hari sebelumnya, pertanyaan yang hanya CEO yang sebenarnya akan tahu jawabannya. Penipu segera menggantungkan telepon.

AI dapat mengkloning suara seseorang, perilaku browsing, gaya menulis, dan kesamaan. Ketika teknologi ini berkembang, mengidentifikasi deepfake menjadi semakin sulit. Penipu sering meletakkan target dalam situasi yang mendesak untuk menghentikan mereka dari mempertanyakan inkonsistensi kecil.

3. Phishing AI

Di masa lalu, seseorang dapat mengidentifikasi email phishing dengan mencari tata bahasa yang buruk, tautan yang mencurigakan, salam yang umum, dan permintaan yang tidak pada tempatnya. Sekarang, dengan teknologi pemrosesan bahasa alami, peretas dapat membuat pesan yang dapat dipercaya dengan tata bahasa yang sempurna.

Peneliti menemukan bahwa email phishing berbasis AI yang sepenuhnya otomatis memiliki tingkat klik-tahun sebesar 54%, yang setara dengan email phishing yang ditulis oleh manusia. Karena penipuan ini lebih meyakinkan, mereka menjadi semakin umum. Studi telah menemukan bahwa lebih dari 80% email phishing menunjukkan bukti keterlibatan AI.

4. Teknik Sosial

Teknik sosial melibatkan memanipulasi seseorang untuk mengambil tindakan atau mengungkapkan informasi. AI memungkinkan peretas untuk merespons lebih cepat dan membuat pesan yang lebih meyakinkan. Setiap model pemrosesan bahasa alami dapat melakukan analisis semantik untuk mengidentifikasi keadaan emosional penerima, membuat mereka lebih mungkin untuk menyerah.

Selain meningkatkan teknik teknik sosial, teknologi pembelajaran mesin menurunkan hambatan masuk tradisional, memungkinkan pemula untuk meluncurkan kampanye yang canggih. Jika siapa saja dapat menjadi pelaku kejahatan siber, siapa saja dapat menjadi target.

Gelombang Berikutnya dari Serangan AI yang Didorong Data

Pada awal 2026, serangan AI diperkirakan akan tetap pada tingkat kematangan yang rendah. Namun, mereka akan berkembang secara eksponensial seiring berjalannya tahun, memungkinkan pelaku kejahatan siber untuk memasuki tahap optimisasi, penerapan, dan penskalaan. Mereka segera akan dapat meluncurkan kampanye yang sepenuhnya otomatis. Contoh serangan siber AI yang dikonfirmasi tidak akan langka untuk waktu yang lama.

Malware polimorfik adalah virus AI yang dapat mengubah kode setiap kali bereplikasi untuk menghindari deteksi. Pelaku ancaman dapat mengirimkan payload melalui ekosistem AI, meminta LLM pada runtime untuk menghasilkan perintah atau langsung mengintegrasikan virus ke dalam LLM. Google Threat Intelligence Group menemukan bahwa para penyerang menerapkan malware ini untuk pertama kalinya pada 2025.

Keluarga malware adalah PROMPTFLUX dan PROMPTSTEAL. Selama eksekusi, mereka menggunakan LLM untuk meminta teknik penghindaran dan penyamaran VBScript. Mereka menghindari deteksi berbasis tanda tangan dengan menyamarkan kode mereka sendiri secara on-demand.

Bukti menunjukkan bahwa ancaman ini masih dalam tahap pengujian — beberapa fitur yang belum lengkap dikomentari, dan panggilan aplikasi programming terbatas. Keluarga malware AI yang masih dalam pengembangan ini mungkin masih dalam tahap pengembangan, tetapi keberadaan mereka saja sudah merupakan langkah besar dalam arah teknik serangan otonom dan adaptif.

Penelitian NYU Tandon menunjukkan bahwa LLM sudah dapat menjalankan serangan ransomware secara otonom, yang disebut Ransomware 3.0. Mereka dapat melakukan pengintaian, menghasilkan payload, dan mempersonalisasi ekstorsi tanpa keterlibatan manusia. Hanya memerlukan prompt bahasa alami yang disematkan dalam binary. Model tersebut menghasilkan varian polimorfik yang beradaptasi dengan lingkungan eksekusi dengan menghasilkan kode berbahaya secara dinamis pada runtime.

Apakah Bisnis Siap Menghadapi Serangan AI?

Meskipun menghabiskan miliaran dalam pengeluaran keamanan siber, perusahaan swasta terus berjuang untuk mengikuti lanskap ancaman yang berkembang. Teknologi pembelajaran mesin dapat membuat perangkat lunak deteksi dan respons yang ada menjadi usang, yang lebih mempersulit pertahanan. Tidak membantu bahwa banyak perusahaan gagal memenuhi standar keamanan dasar.

Laporan Kematangan Keamanan Siber DIB 2024 menyurvei 400 profesional teknologi informasi di basis industri pertahanan Amerika Serikat (DIB). Lebih dari setengah dari responden melaporkan bahwa mereka masih jauh dari memenuhi sertifikasi Kematangan Model Keamanan Siber (CMMC) 2.0, meskipun kesetaraan kepatuhan NIST 800-171 telah diuraikan dalam kontrak Departemen Pertahanan (DoD) sejak 2016. Banyak yang menilai postur keamanan mereka jauh lebih baik dari yang sebenarnya.

Persyaratan CMMC baru mulai berlaku pada 10 November 2025. Ke depan, semua kontrak DoD akan memerlukan beberapa tingkat kepatuhan CMMC sebagai syarat penghargaan kontrak. Aturan baru ini dimaksudkan untuk memperkuat keamanan siber DIB, tetapi apakah mereka akan efektif dalam era AI?

Apakah AI Pertahanan Jawabannya?

Menghadapi api dengan api mungkin merupakan satu-satunya cara untuk melawan gelombang serangan AI yang tak terhindarkan. Dengan AI pertahanan, organisasi dapat merespons ancaman secara dinamis dalam waktu nyata. Namun, pendekatan ini memiliki kelemahan keamanan tersendiri — mengamankan model dari penyalahgunaan akan memerlukan pengawasan dan audit terus-menerus.

Menurut Harvard Business Review, solusi konvensional membuat bisnis rentan terhadap serangan siber AI. Untuk mencapai ketahanan siber, mereka harus menggunakan teknologi pembelajaran mesin untuk memprediksi dan merespons ancaman secara otomatis.

Tidak ada jawaban sederhana untuk pertanyaan apakah AI pertahanan adalah solusi untuk masalah ini. Haruskah perusahaan menginvestasikan sumber daya mereka dalam penerapan alat pembelajaran mesin yang tidak terbukti atau memperluas tim teknologi informasi mereka? Mustahil untuk memprediksi investasi mana yang akan membayar pada jangka panjang.

Perusahaan besar mungkin melihat pengembalian yang signifikan dengan keamanan siber otomatis, sedangkan bisnis kecil mungkin berjuang untuk membenarkan biaya. Teknologi otomatisasi konvensional mungkin dapat menutup kesenjangan dengan biaya yang jauh lebih rendah, tetapi tidak akan dapat merespons ancaman dinamis.

Steve Durbin, CEO of the Information Security Forum, menyatakan bahwa adopsi AI memiliki manfaat signifikan, tetapi juga memiliki kelemahan besar. Misalnya, bisnis sering mengalami peningkatan peringatan palsu, yang membuang-buang waktu tim keamanan. Selain itu, ketergantungan yang berlebihan pada AI dapat menyebabkan tim menjadi terlalu percaya diri, yang mengakibatkan celah keamanan.

Mengarungi Lanskap Ancaman AI

Mustahil untuk menentukan secara pasti seberapa besar kehadiran AI dalam lanskap ancaman, karena pelaku ancaman dapat menggunakan AI untuk membuat kode berbahaya atau mengirimkan email phishing, bukan menggunakan AI pada runtime. Pelaku kejahatan siber tunggal dan kelompok ancaman yang disponsori negara dapat menggunakan AI dengan skala besar.

Berdasarkan informasi yang tersedia, penyalahgunaan model, phishing AI, dan malware polimorfik akan menjadi ancaman siber terbesar pada 2026. Pelaku kejahatan siber kemungkinan akan terus menggunakan LLM untuk menghasilkan, mengirim, dan menyesuaikan payload berbahaya, menargetkan industri bernilai tinggi seperti keuangan serta orang biasa.