Keadaan Keamanan AI di 2025: Wawasan Kunci dari Laporan Cisco

Seiring dengan semakin banyak bisnis yang mengadopsi AI, memahami risiko keamanannya telah menjadi lebih penting dari sebelumnya. AI membentuk industri dan alur kerja, tetapi juga memperkenalkan tantangan keamanan baru yang harus diatasi oleh organisasi. Melindungi sistem AI sangat penting untuk mempertahankan kepercayaan, melindungi privasi, dan memastikan operasi bisnis yang lancar. Artikel ini merangkum wawasan kunci dari laporan terbaru Cisco “Keadaan Keamanan AI di 2025“. Ini menawarkan gambaran tentang keadaan keamanan AI saat ini dan apa yang harus dipertimbangkan oleh perusahaan untuk masa depan.

Ancaman Keamanan yang Berkembang terhadap AI

Jika 2024 mengajarkan kita sesuatu, itu adalah bahwa adopsi AI bergerak lebih cepat daripada banyak organisasi dapat mengamankannya. Laporan Cisco menyatakan bahwa sekitar 72% organisasi sekarang menggunakan AI dalam fungsi bisnis mereka, namun hanya 13% merasa sepenuhnya siap untuk memaksimalkan potensinya dengan aman. Kesenjangan antara adopsi dan kesiapan ini sebagian besar disebabkan oleh kekhawatiran keamanan, yang tetap menjadi penghalang utama untuk penggunaan AI yang lebih luas di perusahaan. Apa yang membuat situasi ini lebih mengkhawatirkan adalah bahwa AI memperkenalkan ancaman baru yang tidak dapat ditangani sepenuhnya oleh metode keamanan siber tradisional. Tidak seperti keamanan siber konvensional, yang sering melindungi sistem tetap, AI membawa ancaman dinamis dan adaptif yang lebih sulit diprediksi. Laporan tersebut menyoroti beberapa ancaman yang muncul yang harus diketahui oleh organisasi:

• Serangan Infrastruktur: Infrastruktur AI telah menjadi target utama bagi penyerang. Contoh yang menonjol adalah kompromi terhadap NVIDIA’s Container Toolkit, yang memungkinkan penyerang mengakses sistem file, menjalankan kode berbahaya, dan meningkatkan privilég. Serupa, Ray, sebuah kerangka AI sumber terbuka untuk manajemen GPU, dikompromikan dalam salah satu serangan nyata pertama terhadap kerangka AI. Kasus-kasus ini menunjukkan bagaimana kelemahan dalam infrastruktur AI dapat memengaruhi banyak pengguna dan sistem.
• Risiko Rantai Pasokan: Kerentanan rantai pasokan AI menyajikan kekhawatiran lain yang signifikan. Sekitar 60% organisasi bergantung pada komponen atau ekosistem AI sumber terbuka. Ini menciptakan risiko karena penyerang dapat mengompromikan alat-alat yang banyak digunakan ini. Laporan tersebut menyebutkan sebuah teknik yang disebut “Sleepy Pickle,” yang memungkinkan lawan untuk mengganggu model AI bahkan setelah distribusi. Ini membuat deteksi menjadi sangat sulit.
• Serangan Spesifik AI: Teknik serangan baru berkembang dengan cepat. Metode seperti injeksi prompt, jailbreaking, dan ekstraksi data pelatihan memungkinkan penyerang untuk melewati kontrol keamanan dan mengakses informasi sensitif yang terkandung dalam dataset pelatihan.

Vektor Serangan yang Menargetkan Sistem AI

Laporan tersebut menyoroti munculnya vektor serangan yang digunakan oleh aktor jahat untuk mengeksploitasi kelemahan dalam sistem AI. Serangan ini dapat terjadi pada berbagai tahap siklus hidup AI, dari pengumpulan data dan pelatihan model hingga penerapan dan inferensi. Tujuannya seringkali adalah membuat AI berperilaku tidak sesuai dengan yang diharapkan, membocorkan data pribadi, atau melakukan tindakan berbahaya.

Selama beberapa tahun terakhir, metode serangan ini telah menjadi lebih maju dan lebih sulit dideteksi. Laporan tersebut menyoroti beberapa jenis vektor serangan:

• Jailbreaking: Teknik ini melibatkan membuat prompt adversarial yang melewati langkah-langkah keamanan model. Meskipun ada perbaikan dalam pertahanan AI, penelitian Cisco menunjukkan bahwa bahkan jailbreak sederhana tetap efektif melawan model canggih seperti DeepSeek R1.
• Injeksi Prompt Tidak Langsung: Berbeda dengan serangan langsung, vektor serangan ini melibatkan manipulasi data input atau konteks yang digunakan oleh model AI secara tidak langsung. Penyerang mungkin menyediakan bahan sumber yang dikompromikan seperti file PDF berbahaya atau halaman web, menyebabkan AI menghasilkan output yang tidak diinginkan atau berbahaya. Serangan ini sangat berbahaya karena tidak memerlukan akses langsung ke sistem AI, memungkinkan penyerang untuk melewati banyak pertahanan tradisional.
• Ekstraksi dan Pencemaran Data Pelatihan: Peneliti Cisco menunjukkan bahwa chatbot dapat ditipu untuk mengungkapkan bagian dari dataset pelatihan mereka. Ini menimbulkan kekhawatiran serius tentang privasi data, kekayaan intelektual, dan kepatuhan. Penyerang juga dapat mencemari data pelatihan dengan menyuntikkan input berbahaya. Mengkhawatirkan, pencemaran hanya 0,01% dari dataset besar seperti LAION-400M atau COYO-700M dapat memengaruhi perilaku model, dan ini dapat dilakukan dengan biaya kecil (sekitar $60 USD), membuat serangan ini dapat diakses oleh banyak aktor jahat.

Laporan tersebut menyoroti kekhawatiran serius tentang keadaan serangan saat ini, dengan peneliti mencapai tingkat keberhasilan 100% melawan model canggih seperti DeepSeek R1 dan Llama 2. Ini mengungkapkan kerentanan keamanan kritis dan risiko potensial yang terkait dengan penggunaannya. Selain itu, laporan tersebut mengidentifikasi munculnya ancaman baru seperti serangan jailbreak berbasis audio yang dirancang khusus untuk menargetkan model AI multimodal.

Temuan dari Penelitian Keamanan AI Cisco

Tim penelitian Cisco telah mengevaluasi berbagai aspek keamanan AI dan mengungkapkan beberapa temuan kunci:

• Jailbreaking Algoritmik: Peneliti menunjukkan bahwa bahkan model AI teratas dapat ditipu secara otomatis. Menggunakan metode yang disebut Tree of Attacks with Pruning (TAP), peneliti melewati perlindungan pada GPT-4 dan Llama 2.
• Risiko dalam Fine-Tuning: Banyak bisnis melakukan fine-tuning model dasar untuk meningkatkan relevansi untuk domain tertentu. Namun, peneliti menemukan bahwa fine-tuning dapat melemahkan penghalang keamanan internal. Versi yang difine-tune lebih rentan terhadap jailbreaking dan 22 kali lebih mungkin menghasilkan konten berbahaya daripada model asli.
• Ekstraksi Data Pelatihan: Peneliti Cisco menggunakan metode dekomposisi sederhana untuk menipu chatbot agar menghasilkan fragmen artikel berita yang memungkinkan mereka untuk merekonstruksi sumber materi. Ini menimbulkan risiko untuk mengungkapkan data sensitif atau propietary.
• Pencemaran Data: Tim Cisco menunjukkan betapa mudah dan murahnya untuk mencemari dataset web skala besar. Dengan sekitar $60, peneliti berhasil mencemari 0,01% dari dataset seperti LAION-400M atau COYO-700M. Selain itu, mereka menyoroti bahwa level pencemaran ini cukup untuk menyebabkan perubahan yang terlihat dalam perilaku model.

Peran AI dalam Kejahatan Siber

AI tidak hanya menjadi target – ia juga menjadi alat bagi penjahat siber. Laporan tersebut mencatat bahwa otomatisasi dan teknik sosial rekayasa yang didorong AI telah membuat serangan lebih efektif dan lebih sulit dideteksi. Dari penipuan phishing hingga cloning suara, AI membantu penjahat menciptakan serangan yang persuasif dan dipersonalisasi. Laporan tersebut juga mengidentifikasi munculnya alat AI jahat seperti “DarkGPT,” yang dirancang khusus untuk membantu kejahatan siber dengan menghasilkan email phishing atau mengeksploitasi kerentanan. Apa yang membuat alat-alat ini sangat mengkhawatirkan adalah aksesibilitasnya. Bahkan penjahat dengan keterampilan rendah sekarang dapat menciptakan serangan yang sangat dipersonalisasi yang dapat menghindari pertahanan tradisional.

Praktik Terbaik untuk Mengamankan AI

Mengingat sifat volatil keamanan AI, Cisco merekomendasikan beberapa langkah praktis untuk organisasi:

1. Manajemen Risiko di Seluruh Siklus Hidup AI: Sangat penting untuk mengidentifikasi dan mengurangi risiko pada setiap tahap siklus hidup AI, dari sumber data dan pelatihan model hingga penerapan dan pemantauan. Ini juga termasuk mengamankan komponen pihak ketiga, menerapkan penghalang yang kuat, dan mengontrol akses dengan ketat.
2. Menggunakan Praktik Keamanan Siber yang Terbukti: Meskipun AI unik, praktik keamanan siber terbaik masih sangat penting. Teknik seperti kontrol akses, manajemen izin, dan pencegahan kehilangan data dapat memainkan peran vital.
3. Fokus pada Area yang Rentan: Organisasi harus fokus pada area yang paling mungkin menjadi target, seperti rantai pasokan dan aplikasi AI pihak ketiga. Dengan memahami di mana letak kerentanan, bisnis dapat menerapkan pertahanan yang lebih terarah.
4. Mengedukasi dan Melatih Karyawan: Ketika alat AI menjadi lebih umum, penting untuk melatih pengguna tentang penggunaan AI yang bertanggung jawab dan kesadaran risiko. Tenaga kerja yang terinformasi dengan baik membantu mengurangi paparan data yang tidak disengaja dan penyalahgunaan.

Menghadap Masa Depan

Adopsi AI akan terus tumbuh, dan dengan itu, risiko keamanan akan berkembang. Pemerintah dan organisasi di seluruh dunia mengakui tantangan ini dan mulai membangun kebijakan dan regulasi untuk memandu keamanan AI. Seperti yang disoroti dalam laporan Cisco, keseimbangan antara keamanan AI dan kemajuan akan menentukan era berikutnya dari pengembangan dan penerapan AI. Organisasi yang memprioritaskan keamanan bersama dengan inovasi akan paling siap untuk mengatasi tantangan dan memanfaatkan peluang yang muncul.