Lebih Banyak Pengeluaran Keamanan AI Tidak Mengurangi Risiko AI Anda

Anggaran keamanan AI meningkat dengan cepat. Di banyak organisasi, mereka meningkat lebih cepat daripada sistem yang seharusnya mereka lindungi.

Ketidakseimbangan itu mudah terlewatkan. Investasi dalam kecerdasan buatan terus berakselerasi, dengan pendanaan swasta global mencapai $33,9 miliar pada tahun 2025 saja. Pada saat yang sama, para pemimpin keamanan dimintai pertanggungjawaban atas risiko baru yang terkait dengan perilaku model, paparan data, dan manipulasi adversarial. Responsnya sudah bisa ditebak: lebih banyak alat, lebih banyak kontrol, dan lebih banyak anggaran.

Mengubah ini menjadi percakapan tentang biaya menjalankan bisnis sangatlah menggoda, sebuah pertanyaan sederhana tentang berapa banyak yang perlu dibelanjakan organisasi untuk mengamankan AI. Namun, itu adalah cara yang salah untuk mendekati masalah baru ini. Sebaliknya, organisasi perlu memeriksa apakah investasi AI mereka benar-benar mengamankan alat yang tepat.

Di sebagian besar perusahaan, AI masih diperkenalkan pada tingkat tugas. Tim bereksperimen dengan ringkasan, bantuan pengkodean, analitik, atau otomatisasi alur kerja untuk meningkatkan produktivitas individu. Alat-alat ini memberikan keuntungan yang terlokalisasi, tetapi mereka jarang mengubah cara keputusan dibuat atau bagaimana sistem beroperasi pada tingkat yang lebih luas. Kesenjangan itu mulai terlihat dalam hasil. Meskipun adopsi meluas, hanya sekitar 20% organisasi yang melaporkan dampak yang berarti pada laba mereka.

Investasi keamanan meningkat seiring dengan eksperimen ini. Namun dalam banyak kasus, itu diterapkan pada kumpulan alat yang terputus-putus yang terus bertambah, bukan pada sistem yang kohesif yang membentuk bagaimana bisnis benar-benar berjalan. AI dievaluasi pada tingkat tugas, diamankan pada tingkat sistem, dan tidak pernah sepenuhnya dirancang pada tingkat alur kerja di mana nilai nyata diciptakan.

Adopsi AI Meluas Lebih Cepat Daripada Diintegrasikan

Sebagian besar penerapan AI saat ini sempit oleh desain. Mereka dibangun untuk membuat tugas individu lebih cepat daripada membentuk ulang bagaimana alur kerja melintasi tim atau sistem.

Tim penjualan mungkin mengadopsi AI untuk membuat draf email atau meringkas panggilan. Tim teknik menggunakannya untuk mempercepat pembuatan kode. Tim operasi bereksperimen dengan dukungan analitik atau peramalan. Setiap kasus penggunaan ini memberikan peningkatan produktivitas yang terukur pada tingkat individu, dan itu seringkali cukup untuk membenarkan investasi awal.

Kompleksitas dimulai ketika keuntungan yang terisolasi ini terakumulasi.

Setiap penerapan memperkenalkan modelnya sendiri, pola akses data, API, dan ketergantungan. Seiring waktu, organisasi menemukan diri mereka mengelola ekosistem kemampuan AI yang terus bertambah yang tidak pernah dirancang untuk beroperasi bersama. Bahkan sekarang, sebagian besar perusahaan tetap berada dalam tahap eksperimen awal, dengan banyak inisiatif belum tertanam dalam operasi bisnis inti.

Tim keamanan mewarisi lingkungan ini saat terbentuk. Mereka diminta untuk mengamankan bukan sistem tunggal, tetapi kumpulan alat, integrasi, dan aliran data yang terus berubah yang berkembang dengan setiap eksperimen baru. Tanpa arsitektur yang mempersatukan, keamanan menjadi latihan cakupan daripada kontrol.

Risiko Nyata Bukanlah Alat Individu. Melainkan Fragmentasi Sistem

Seiring eksperimen AI berlanjut, harapan kepemimpinan mulai bergeser. Dewan dan tim eksekutif bertanya bagaimana peningkatan pengeluaran AI diterjemahkan menjadi hasil bisnis yang terukur.

Ketika inisiatif awal tidak memenuhi harapan, organisasi jarang melambat. Mereka memperluas upaya mereka. Lebih banyak pilot diluncurkan. Lebih banyak alat diperkenalkan. Lebih banyak integrasi dibuat dalam pencarian nilai yang belum terwujud. Prediksi sudah menunjukkan bahwa lebih dari setengah proyek AI mungkin gagal mencapai produksi atau memberikan hasil yang diharapkan dalam beberapa tahun mendatang.

Bagi tim keamanan, siklus ini menciptakan jenis risiko baru.

Tantangannya tidak lagi hanya melindungi aplikasi atau model individual. Ini adalah mengelola lingkungan di mana sistem yang mendasarinya terus berubah. Setiap alat baru memperkenalkan identitas tambahan, aliran data, dan perilaku model yang memperluas permukaan serangan sebelum para pembela memiliki waktu untuk memahaminya sepenuhnya.

Dalam konteks ini, meningkatkan pengeluaran keamanan tidak serta merta mengurangi risiko. Itu justru dapat meningkatkan kompleksitas operasional. Melindungi sistem yang terfragmentasi membutuhkan lebih banyak alat, lebih banyak pemantauan, dan lebih banyak koordinasi, tetapi itu tidak mengatasi akar masalahnya, yaitu tidak adanya struktur yang kohesif untuk bagaimana AI diterapkan dan digunakan.

Pengeluaran Keamanan Menjadi Strategis Hanya Ketika AI Menjadi Operasional

Kita berada di tempat yang bagus karena investasi keamanan AI; tingkat inovasinya sangat luar biasa, dan sementara masa depan cerah untuk kasus penggunaan AI, investasi keamanan sering kali terputus dari tempat AI sebenarnya menciptakan nilai.

Ketika AI diterapkan terutama sebagai seperangkat alat produktivitas yang terisolasi, upaya keamanan dipaksa mengikuti fragmentasi itu. Tim akhirnya melindungi puluhan aplikasi yang terputus yang memiliki pengaruh terbatas pada hasil bisnis inti.

Nilai yang lebih besar muncul ketika AI tertanam dalam alur kerja yang mendorong bagaimana organisasi beroperasi. Perencanaan, peramalan, alokasi sumber daya, dan pengambilan keputusan operasional adalah tempat AI mulai mempengaruhi hasil dengan cara yang berarti. Ini juga lingkungan di mana investasi keamanan menjadi lebih strategis.

Mengamankan alat yang terputus melindungi sebuah tugas. Mengamankan sistem yang terintegrasi melindungi proses bisnis.

Di sinilah perbedaan antara adopsi tingkat tugas dan desain tingkat alur kerja menjadi kritis. AI yang tidak terintegrasi ke dalam cara keputusan dibuat akan kesulitan memberikan dampak yang terukur. Keamanan yang tidak selaras dengan sistem pengambilan keputusan tersebut akan kesulitan mengurangi risiko yang berarti.

Perubahan Harus Datang Lebih Cepat Daripada Nanti

Organisasi tidak membutuhkan lebih sedikit inisiatif AI. Mereka membutuhkan inisiatif yang lebih disengaja.

Pergeseran pertama adalah dalam bagaimana kesuksesan AI dievaluasi. Jika suatu penerapan tidak mengubah cara keputusan dibuat atau bagaimana pekerjaan bergerak melintasi tim, dampaknya akan tetap terbatas, tidak peduli seberapa luas ia diadopsi. Mengukur kesuksesan pada tingkat alur kerja daripada tingkat tugas memberikan sinyal yang lebih jelas tentang di mana AI sebenarnya memberikan nilai.

Pergeseran kedua adalah dalam bagaimana investasi keamanan diprioritaskan. Alih-alih mendistribusikan kontrol di setiap alat eksperimental, organisasi harus memusatkan perlindungan di sekitar sistem yang mempengaruhi perencanaan, operasi, dan pengambilan keputusan. Ini adalah lingkungan di mana risiko dan nilai berpotongan.

Pergeseran ketiga adalah struktural. Sistem AI memperkenalkan bentuk kepemilikan baru yang melampaui batas aplikasi tradisional. Model, data pelatihan, pipa data, dan output yang dihasilkan AI semuanya memerlukan akuntabilitas yang jelas. Tanpa kepemilikan yang terdefinisi, tata kelola menjadi tidak konsisten dan celah keamanan menjadi lebih sulit diidentifikasi.

Secara bersama-sama, perubahan ini menggerakkan organisasi menjauh dari mengamankan aktivitas dan menuju mengamankan hasil.

Membangun Sistem AI yang Benar-Benar Dapat Diskalakan

Organisasi yang menyelaraskan adopsi AI dengan desain tingkat alur kerja mendapatkan jalur yang lebih jelas menuju nilai dan kontrol.

Sumber daya keamanan menjadi lebih efektif ketika mereka difokuskan pada sistem yang paling penting daripada disebar di eksperimen yang terputus. Kepemimpinan mendapatkan visibilitas yang lebih baik tentang bagaimana investasi AI diterjemahkan menjadi dampak operasional. Seiring waktu, program AI menjadi lebih berkelanjutan karena dibangun di atas sistem yang terstruktur daripada alat yang terakumulasi.

Investasi AI tidak melambat. Pengeluaran keamanan akan terus meningkat bersamanya. Perbedaannya akan tergantung pada bagaimana investasi tersebut diterapkan.

Organisasi yang terus meningkatkan skala AI pada tingkat tugas akan menemukan diri mereka mengamankan permukaan alat yang terputus yang terus berkembang. Mereka yang merancang AI pada tingkat alur kerja akan mengamankan sistem yang benar-benar layak dilindungi.