Pengeluaran Keamanan AI yang Lebih Banyak Tidak Mengurangi Risiko AI Anda

Anggaran keamanan AI meningkat dengan cepat. Di banyak organisasi, mereka meningkat lebih cepat daripada sistem yang mereka lindungi.

Ketidakseimbangan ini mudah untuk dilewatkan. Investasi dalam kecerdasan buatan terus meningkat, dengan pendanaan swasta global mencapai $33,9 miliar pada tahun 2025 saja. Pada saat yang sama, pemimpin keamanan diminta untuk mempertanggungjawabkan risiko baru yang terkait dengan perilaku model, paparan data, dan manipulasi lawan. Responnya telah diprediksi: lebih banyak alat, lebih banyak kontrol, dan lebih banyak anggaran.

Sangat menggoda untuk mengubah ini menjadi percakapan tentang biaya melakukan bisnis, pertanyaan sederhana tentang berapa banyak organisasi perlu mengeluarkan untuk melindungi AI. Namun, itu adalah cara yang salah untuk mendekati masalah baru ini. Sebaliknya, organisasi perlu memeriksa apakah investasi AI mereka benar-benar melindungi alat yang tepat.

Di seluruh perusahaan, AI masih diperkenalkan pada tingkat tugas. Tim bereksperimen dengan ringkasan, bantuan coding, analitik, atau otomatisasi alur kerja untuk meningkatkan produktivitas individu. Alat-alat ini memberikan keuntungan lokal, tetapi mereka jarang mengubah cara keputusan dibuat atau cara sistem beroperasi pada tingkat yang lebih luas. Kesenjangan itu mulai muncul dalam hasil. Sementara adopsi sangat luas, hanya sekitar 20% organisasi melaporkan dampak yang signifikan pada garis bawah mereka.

Investasi keamanan meningkat seiring dengan eksperimen ini. Namun, dalam banyak kasus, itu diterapkan pada koleksi alat yang terpisah daripada sistem yang kohesif yang membentuk cara bisnis sebenarnya berjalan. AI dievaluasi pada tingkat tugas, dilindungi pada tingkat sistem, dan tidak pernah sepenuhnya dirancang pada tingkat alur kerja di mana nilai sebenarnya dibuat.

Adopsi AI Berkembang Lebih Cepat Daripada Integrasi

Sebagian besar penerapan AI saat ini sempit oleh desain. Mereka dibangun untuk membuat tugas individu lebih cepat daripada untuk mengubah cara alur kerja bergerak di seluruh tim atau sistem.

Tim penjualan mungkin mengadopsi AI untuk mengirim email atau meringkas panggilan. Tim teknik menggunakan AI untuk mempercepat generasi kode. Tim operasional bereksperimen dengan analitik atau dukungan peramalan. Setiap kasus penggunaan ini memberikan keuntungan produktivitas yang dapat diukur pada tingkat individu, dan itu sering cukup untuk membenarkan investasi awal.

Kompleksitas dimulai ketika keuntungan terisolasi ini menumpuk.

Setiap penerapan memperkenalkan model, pola akses data, API, dan ketergantungan sendiri. Seiring waktu, organisasi menemukan diri mereka mengelola ekosistem yang berkembang dari kemampuan AI yang tidak pernah dirancang untuk beroperasi bersama. Bahkan sekarang, sebagian besar perusahaan masih berada pada tahap eksperimen awal, dengan banyak inisiatif belum terintegrasi ke dalam operasi bisnis inti.

Tim keamanan mewarisi lingkungan ini saat terbentuk. Mereka diminta untuk melindungi bukan satu sistem, tetapi koleksi alat, integrasi, dan aliran data yang terus berkembang dengan setiap eksperimen baru. Tanpa arsitektur yang mempersatukan, keamanan menjadi latihan dalam cakupan daripada kontrol.

Risiko Sebenarnya Bukan Alat Individu, Melainkan Fragmentasi Sistem

Saat eksperimen AI terus berlanjut, harapan kepemimpinan mulai bergeser. Dewan dan tim eksekutif meminta bagaimana pengeluaran AI yang meningkat diterjemahkan ke dalam hasil bisnis yang dapat diukur.

Ketika inisiatif awal gagal, organisasi jarang melambatkan. Mereka memperluas upaya mereka. Lebih banyak pilot diluncurkan. Lebih banyak alat diperkenalkan. Lebih banyak integrasi dibuat dalam mencari nilai yang belum terwujud. Prediksi sudah menunjukkan bahwa lebih dari setengah proyek AI mungkin gagal untuk mencapai produksi atau menghasilkan hasil yang diharapkan dalam beberapa tahun mendatang.

Bagi tim keamanan, siklus ini menciptakan jenis risiko baru.

Tantangan tidak lagi hanya melindungi aplikasi atau model individu. Melainkan mengelola lingkungan di mana sistem dasar terus berubah. Setiap alat baru memperkenalkan identitas tambahan, aliran data, dan perilaku model yang memperluas permukaan serangan sebelum pembela memiliki waktu untuk memahaminya sepenuhnya.

Dalam konteks ini, meningkatkan pengeluaran keamanan tidak selalu mengurangi risiko. Ini dapat meningkatkan kompleksitas operasional sebagai gantinya. Melindungi sistem yang terfragmentasi memerlukan lebih banyak alat, lebih banyak pemantauan, dan lebih banyak koordinasi, tetapi tidak menangani masalah akar, yaitu ketiadaan struktur kohesif untuk bagaimana AI diterapkan dan digunakan.

Pengeluaran Keamanan Menjadi Strategis Hanya Ketika AI Menjadi Operasional

Kami berada di tempat yang baik karena investasi keamanan AI; tingkat inovasi sangat tinggi, dan sementara masa depan cerah untuk kasus penggunaan AI, investasi keamanan sering terputus dari tempat AI sebenarnya menciptakan nilai.

Ketika AI diterapkan terutama sebagai sekumpulan alat produktivitas yang terisolasi, upaya keamanan terpaksa mengikuti fragmentasi tersebut. Tim berakhir melindungi puluhan aplikasi yang terputus yang memiliki pengaruh terbatas pada hasil bisnis inti.

Nilai yang lebih besar muncul ketika AI terintegrasi ke dalam alur kerja yang menggerakkan cara organisasi beroperasi. Perencanaan, peramalan, alokasi sumber daya, dan pengambilan keputusan operasional adalah tempat di mana AI mulai mempengaruhi hasil dengan cara yang signifikan. Ini juga lingkungan di mana investasi keamanan menjadi lebih strategis.

Melindungi alat yang terputus melindungi tugas. Melindungi sistem yang terintegrasi melindungi proses bisnis.

Inilah di mana perbedaan antara adopsi tingkat tugas dan desain tingkat alur kerja menjadi kritis. AI yang tidak terintegrasi ke dalam cara keputusan dibuat akan bergelut untuk menghasilkan dampak yang signifikan. Keamanan yang tidak sejalan dengan sistem pengambilan keputusan akan bergelut untuk mengurangi risiko yang signifikan.

Perubahan Harus Datang Lebih Awal Daripada Terlambat

Organisasi tidak memerlukan lebih sedikit inisiatif AI. Mereka memerlukan inisiatif yang lebih disengaja.

Perubahan pertama adalah dalam cara kesuksesan AI dievaluasi. Jika penerapan tidak mengubah cara keputusan dibuat atau cara kerja bergerak di seluruh tim, dampaknya akan tetap terbatas, tidak peduli seberapa luas adopsinya. Mengukur kesuksesan pada tingkat alur kerja daripada tingkat tugas memberikan sinyal yang lebih jelas tentang di mana AI sebenarnya menghasilkan nilai.

Perubahan kedua adalah dalam cara investasi keamanan diprioritaskan. Sebagai gantinya untuk mendistribusikan kontrol di seluruh alat eksperimental, organisasi harus berkonsentrasi pada perlindungan di sekitar sistem yang mempengaruhi perencanaan, operasi, dan pengambilan keputusan. Ini adalah lingkungan di mana risiko dan nilai bertemu.

Perubahan ketiga adalah struktural. Sistem AI memperkenalkan bentuk kepemilikan baru yang melampaui batas aplikasi tradisional. Model, data pelatihan, pipa data, dan output AI yang dihasilkan semua memerlukan akuntabilitas yang jelas. Tanpa kepemilikan yang ditentukan, tata kelola menjadi inkonsisten dan celah keamanan menjadi lebih sulit untuk diidentifikasi.

Dengan demikian, perubahan ini memindahkan organisasi dari melindungi aktivitas menuju melindungi hasil.

Membangun Sistem AI yang Dapat Benar-Benar Berkembang

Organisasi yang mengalini adopsi AI dengan desain tingkat alur kerja mendapatkan jalur yang lebih jelas menuju nilai dan kontrol.

Sumber daya keamanan menjadi lebih efektif ketika mereka difokuskan pada sistem yang paling penting daripada disebar di seluruh eksperimen yang terputus. Kepemimpinan mendapatkan visibilitas yang lebih baik tentang bagaimana investasi AI diterjemahkan ke dalam dampak operasional. Seiring waktu, program AI menjadi lebih berkelanjutan karena mereka dibangun di atas sistem terstruktur daripada alat yang terakumulasi.

Investasi AI tidak melambat. Pengeluaran keamanan akan terus meningkat seiring dengan itu. Perbedaan akan turun ke bagaimana investasi tersebut diterapkan.

Organisasi yang terus mengembangkan AI pada tingkat tugas akan menemukan diri mereka melindungi permukaan yang terus berkembang dari alat yang terputus. Mereka yang merancang AI pada tingkat alur kerja akan melindungi sistem yang sebenarnya layak dilindungi.