Keamanan AI Tidak Rusak, Kami Hanya Membela Hal-Hal yang Salah

Industri keamanan siber memiliki pola ketika teknologi baru muncul, kami segera memulai membangun tembok di sekitarnya. Kami melakukan hal ini dengan cloud, kami melakukan hal ini dengan kontainer, dan sekarang, kami melakukan hal ini dengan AI, kecuali kali ini, tembok yang kami bangun berada di tempat yang sama sekali salah.

Masuk ke dalam tinjauan keamanan perusahaan mana pun hari ini, dan Anda akan mendengar prioritas yang sama: mengamankan model AI, melindungi data pelatihan, memvalidasi output, dan menerapkan copilot yang didukung AI. Vendor berlomba-lomba menjual alat “keamanan AI” yang fokus secara eksklusif pada kontrol tingkat model, seperti guardrail, pertahanan injeksi prompt, dan platform pemantauan model.

Tetapi penyerang menggunakan integrasi AI Anda sebagai jalan raya menuju semua hal lain.

Permukaan Serangan yang Tidak Diperhatikan

Satu pola yang kami amati secara konsisten di seluruh lingkungan perusahaan menceritakan kisah mengkhawatirkan tentang tim keamanan yang berinvestasi besar-besaran dalam mengamankan lingkungan pengembangan AI mereka: kontrol akses model, kerangka kerja tata kelola data, alat keamanan MLOps. Ini memberikan kepercayaan diri yang salah bahwa AI mereka “dikunci dengan aman.”

Tetapi ketika Anda memetakan permukaan serangan yang sebenarnya, Anda akan melihat chatbot AI sering memegang token OAuth untuk puluhan platform SaaS, kunci API dengan izin cloud yang berlebihan, dan hubungan kepercayaan identitas yang dapat membuat jalur langsung dari injeksi prompt sederhana ke infrastruktur produksi. Model itu sendiri mungkin aman, tetapi ekosistem tempat mereka berada seringkali terbuka lebar, dan ini bukanlah kasus tepi.

Perusahaan sekarang menggunakan rata-rata 130+ aplikasi SaaS, dengan integrasi AI yang mencakup penyedia identitas, infrastruktur cloud, database, dan sistem bisnis kritis. Setiap integrasi adalah jalur serangan potensial, dan setiap koneksi API adalah batas kepercayaan yang sedang diproses oleh penyerang.

Masalahnya bukan bahwa alat keamanan AI kami rusak. Ini karena kami mengamankan komponen individual sementara penyerang mengeksploitasi koneksi di antara mereka.

Mengapa Keamanan Berbasis Model Melewatkan Poin

Pendekatan saat ini terhadap keamanan AI beroperasi pada kesalahpahaman mendasar tentang bagaimana serangan modern bekerja. Kami memperlakukan AI sebagai aset mandiri yang memerlukan perlindungan, serupa dengan cara kami mengamankan database atau aplikasi web. Tetapi AI di produksi tidak ada dalam isolasi. Ini adalah node dalam grafik kompleks identitas, izin, API, dan aliran data.

Pertimbangkan penerapan AI perusahaan yang khas. Anda memiliki agen AI dengan akses ke Google Workspace Anda. Ini terhubung ke Salesforce melalui API. Ini terintegrasi dengan Slack untuk pemberitahuan. Ini menarik data dari bucket AWS S3. Ini diotentikasi melalui Okta atau Azure AD. Ini memicu alur kerja di ServiceNow.

Keamanan AI tradisional fokus pada model itu sendiri: postur keamanannya, validasi prompt, keamanan output. Tetapi penyerang fokus pada integrasi: apa yang dapat mereka capai melalui akun layanan yang dikompromikan, di mana mereka dapat berpindah melalui manipulasi API, batas kepercayaan mana yang dapat mereka lintasi melalui integrasi yang dieksploitasi.

Serangan tidak dimulai atau diakhiri dengan model AI. Model hanya merupakan titik awal.

Jalur Serangan Tidak Menghormati Batas Produk

Ini adalah tempat di mana sebagian besar organisasi terjebak. Mereka telah menerapkan alat keamanan yang masing-masing memberikan visibilitas ke domain tunggal. Satu alat memantau izin cloud. Alat lain melacak konfigurasi SaaS. Alat ketiga mengelola tata kelola identitas. Alat keempat menangani pengelolaan kerentanan.

Masing-masing alat menunjukkan kepada Anda potongan puzzle. Tidak ada yang menunjukkan kepada Anda bagaimana potongan-potongan itu terhubung.

Menurut Gartner, organisasi sekarang menggunakan rata-rata 45+ alat keamanan. Namun, meskipun investasi besar ini, penyerang berhasil menghubungkan konfigurasi yang salah di seluruh domain karena tidak ada alat tunggal yang dapat melihat jalur serangan lengkap.

Penyerang tidak perlu menemukan kerentanan kritis di model AI Anda. Mereka hanya perlu menemukan rantai. Mungkin itu adalah peran IAM yang dikonfigurasi salah yang melekat pada layanan AI Anda, yang memiliki izin ke bucket S3, yang berisi kredensial ke aplikasi SaaS yang memiliki akses admin ke lingkungan produksi Anda.

Masing-masing konfigurasi yang salah mungkin memiliki skor “sedang” atau “rendah” di alat keamanan Anda. Tetapi jika dihubungkan? Itu adalah paparan kritis. Dan itu sepenuhnya tidak terlihat jika Anda melihat setiap domain keamanan secara terpisah.

Keputusan Manajemen Paparan

Inilah mengapa percakapan perlu bergeser dari “keamanan AI” ke manajemen paparan ancaman terus-menerus untuk lingkungan yang terintegrasi dengan AI.

Tidak cukup untuk bertanya apakah model AI kita aman. Tim keamanan perlu memahami apa yang dapat dicapai penyerang jika mereka mengompromikan akun layanan AI. Mereka perlu visibilitas ke dalam bagaimana konfigurasi yang salah di seluruh cloud, SaaS, dan sistem identitas dapat dihubungkan. Mereka perlu tahu bagaimana integrasi AI mengubah permukaan serangan mereka dalam waktu nyata. Dan mereka perlu memprioritaskan risiko berdasarkan kemampuan serangan yang sebenarnya, bukan hanya skor keparahan.

Sebagian besar program keamanan masih memprioritaskan risiko secara terpisah, menggunakan skor CVSS dan daftar periksa kepatuhan yang sepenuhnya mengabaikan apakah kerentanan benar-benar dapat dieksploitasi di lingkungan spesifik Anda.

Ini bahkan lebih mencolok dengan sistem AI karena mereka berubah terus-menerus. Integrasi baru ditambahkan setiap minggu. Izin berkembang. Koneksi API bergeser. Permukaan serangan Anda bulan lalu bukanlah permukaan serangan Anda hari ini, tetapi penilaian keamanan Anda mungkin masih sama.

Apa yang Terlihat seperti Keamanan yang Sadar Jalur Serangan

Mengamankan AI di produksi memerlukan pendekatan yang secara fundamental berbeda, dan ini terkait dengan empat pergeseran pemikiran.

Pertama, Anda perlu visibilitas yang terpadu di seluruh domain keamanan. Berhenti meminta setiap alat keamanan untuk beroperasi di silo sendiri. Alat keamanan cloud, tata kelola identitas, pengelolaan SaaS, dan pemindaian kerentanan Anda semua memegang potongan puzzle jalur serangan. Mereka perlu berbagi data dalam waktu nyata sehingga Anda dapat melihat bagaimana konfigurasi yang salah dihubungkan.

Kedua, terima simulasi jalur serangan terus-menerus. Jangan tunggu pengujian penetrasi atau latihan tim merah untuk menemukan jalur yang dapat dieksploitasi. Terus-menerus uji bagaimana penyerang dapat bergerak melalui lingkungan Anda, fokus pada kemampuan eksploitasi yang sebenarnya daripada mengandalkan skor keparahan teoretis.

Ketiga, prioritaskan berdasarkan konteks. Bucket S3 yang dikonfigurasi salah tidak kritis hanya karena itu publik. Ini kritis jika itu publik dan berisi kredensial dan kredensial tersebut memiliki akses istimewa, dan mereka dapat diakses dari aset yang terkena internet. Konteks lebih penting daripada skor individual apa pun.

Keempat, gerakkan ke arah perbaikan preventif. Saat tim SOC Anda menyelidiki peringatan, Anda sudah kehilangan waktu respons yang berharga. Pertahanan modern memerlukan kemampuan untuk menutup jalur yang dapat dieksploitasi sebelum mereka digunakan, bukan setelah insiden.

Peringatan yang Tidak Dapat Diabaikan

Saat AI menjadi terintegrasi di seluruh lapisan tumpukan perusahaan, permukaan serangan berkembang lebih cepat daripada tim keamanan dapat beralasan secara manual. Kami menambahkan integrasi AI sepuluh kali lipat dari kecepatan kami mengamankannya.

Jika Anda mengamankan AI secara terpisah, melindungi model sementara mengabaikan ekosistem yang dioperasikannya, Anda sudah ketinggalan. Penyerang tidak berpikir dalam alat, mereka berpikir dalam jalur. Mereka tidak mengeksploitasi kerentanan individual. Mereka menghubungkan konfigurasi yang salah di seluruh lingkungan Anda.

Perusahaan yang akan berhasil mengamankan AI tidak akan menjadi mereka yang memiliki alat keamanan AI paling banyak. Mereka akan menjadi mereka yang memahami bahwa keamanan AI tidak dapat dipisahkan dari manajemen paparan di seluruh permukaan serangan mereka.

Keamanan model adalah taruhan awal. Yang penting adalah memahami apa yang dapat dicapai penyerang ketika mereka mengompromikan integrasi AI. Sampai tim keamanan dapat menjawab ini terus-menerus, dalam waktu nyata, di seluruh lingkungan mereka, mereka tidak mengamankan AI. Mereka hanya berharap tembok yang mereka bangun berada di tempat yang tepat.