Ketika AI Bertindak, IT Masih Memiliki Konsekuensinya

Eksekutif yang bertanggung jawab atas teknologi menghadapi kenyataan yang tidak nyaman. Strategi manajemen IT yang pernah menjamin kontrol, akuntabilitas, dan ketahanan tidak lagi sesuai untuk masa depan. Ini bukanlah kegagalan kepemimpinan atau disiplin, dan bukan hasil dari kesalahan isolasi. Ini mencerminkan pergeseran struktural dalam cara teknologi beroperasi dan bagaimana keputusan dibuat dalam perusahaan modern.

Di pusat pergeseran ini adalah kecerdasan buatan, yang tidak hanya memperbarui alat yang digunakan organisasi, tetapi juga mekanika pemerintahan. AI tidak hanya memperpanjang sistem yang ada; itu mengubah kecepatan, skala, dan otonomi di mana sistem tersebut berfungsi dan memaksa kita untuk mempertimbangkan kembali bagaimana kontrol dibentuk dan dipertahankan.

Tantangan ini tidak lagi tentang bagaimana mengontrol setiap tindakan. Ini tentang bagaimana merancang guardrail yang memungkinkan sistem otonom bergerak cepat tanpa menciptakan tingkat risiko, biaya, atau konsekuensi yang tidak dapat diterima.

Ketika Pemerintahan Kehilangan Jendela

Selama beberapa dekade, pemerintahan IT beristirahat pada asumsi dasar bahwa sistem beroperasi pada kecepatan yang memungkinkan pengawasan manusia. Kebijakan dapat ditinjau, anggaran dievaluasi, kepatuhan diperiksa, dan pengecualian dinaikkan karena selalu ada waktu untuk mengintervensi sebelum hasil menjadi material. Bahkan ketika organisasi berkembang melalui gelombang inovasi mobile, cloud, dan Big Data, asumsi itu pada umumnya tetap berlaku. Selalu ada jendela pemerintahan, titik antara niat dan eksekusi di mana penilaian manusia dapat diterapkan untuk membentuk, menghentikan, atau memperluas hasil.

Asumsi itu tidak lagi berlaku. EY’s Maret 2026 Technology Pulse Poll menemukan bahwa 85% pemimpin teknologi sekarang memprioritaskan kecepatan ke pasar untuk AI daripada pemerintahan, yang menunjukkan bahwa keseimbangan antara kontrol dan kecepatan telah mulai miring ke arah eksekusi.

Dan kita tahu mengapa. AI memperkenalkan loop keputusan otonom yang kompleks, terhubung, dan semakin independen dari konstrain tradisional seperti penganggaran, kepatuhan, dan pengawasan keamanan. Sistem ini tidak berhenti untuk meninjau atau menunggu persetujuan. Mereka dirancang untuk terus bertindak, beradaptasi, dan menyelesaikan tujuan, seringkali dalam waktu nyata dan pada skala yang melampaui pemahaman manusia, bahkan ketika berbicara dengan fasad kesopanan manusia. Hasilnya adalah kompresi siklus keputusan ke titik di mana intervensi manusia yang bermakna tidak lagi memungkinkan.

AI Mengubah Ekonomi Eksekusi

Pada saat yang sama, transformasi ini bersamaan dengan pergeseran struktural lain yang sedang membentuk teknologi perusahaan. Konsumsi telah bergeser dari investasi tetap ke model berbasis penggunaan dan hasil, di mana biaya berskala dinamis dengan eksekusi. Menlo Ventures’ Desember 2025 report, The State of Generative AI in the Enterprise, menggambarkan besarnya perubahan ini, mencatat bahwa perusahaan menghabiskan $37 miliar untuk AI generatif pada tahun 2025 saja, peningkatan 3,2 kali lipat dari tahun sebelumnya.

Dalam lingkungan baru ini, sistem AI dioptimalkan untuk mencapai hasil, bukan untuk mematuhi konstrain yang telah ditetapkan sebelumnya. Mereka mengejar tujuan melalui pola konsumsi sumber daya yang secara inheren sulit untuk diprediksi. Sebuah permintaan tunggal dapat memicu rangkaian tindakan di seluruh API, layanan internal, dan ketergantungan pihak ketiga, dengan konsekuensi keuangan dan operasional yang seringkali hanya terlihat setelah eksekusi telah terjadi. Apa yang tampak sederhana pada titik inisiasi dapat berkembang menjadi rantai interaksi yang kompleks yang tidak lagi sesuai dengan kerangka pemerintahan atau anggaran tradisional.

Runtuhan Model Kontrol Tradisional

Implikasi untuk pemerintahan sangat mendalam. Model manajemen IT tradisional bergantung pada urutan yang familiar: menentukan kebijakan, mengizinkan keputusan, mengelola pengecualian, dan mengaudit hasil. Setiap langkah dibangun pada asumsi bahwa ada pemisahan yang jelas antara niat dan dampak. Namun, dalam lingkungan yang digerakkan oleh AI, celah antara niat dan dampak telah efektif menghilang.

Kebijakan tidak dapat beradaptasi dengan cukup cepat untuk mengatur eksekusi waktu nyata. Pengizinan sebelumnya menjadi tidak praktis ketika keputusan terjadi dalam milidetik. Pengecualian muncul hanya setelah hasil telah menyebar di seluruh sistem. Audit tetap memungkinkan, tetapi mereka hanya dapat merekonstruksi peristiwa setelah fakta, seringkali lama setelah konsekuensi telah terwujud.

Bukti dari keruntuhan ini sudah terlihat. IBM’s Cost of a Data Breach Report menemukan bahwa 97% organisasi yang mengalami pelanggaran AI yang signifikan tidak memiliki kontrol akses yang tepat untuk sistem tersebut. Namun, bahkan di tengah risiko ini, adopsi terus mempercepat, didorong oleh nilai strategis AI yang dirasakan. Sejarah menunjukkan bahwa ketidakseimbangan ini tidak akan bertahan lama. Teknologi tidak pernah beroperasi tanpa pemerintahan untuk waktu lama, dan pada akhirnya, AI akan memerlukan bentuk baru struktur, disiplin, dan kontrol yang dapat ditegakkan yang harus didefinisikan sangat berbeda dari asumsi saat ini.

Akuntabilitas Masih Manusia

Ini menciptakan ketegangan yang meningkat antara kemampuan dan tanggung jawab. AI beroperasi pada kecepatan mesin, sementara akuntabilitas tetap manusia, terbatas oleh kecepatan di mana orang dapat menafsirkan, memahami, dan menanggapi hasil. Dewan, regulator, dan pemegang saham tidak akan menerima bahwa sistem otonom hanya bertindak sesuai dengan desain sebagai penjelasan yang memadai untuk kegagalan. Tanggung jawab tidak bergeser dengan otomatisasi; itu tetap dengan perusahaan dan dengan eksekutif yang bertanggung jawab atas pengawasannya.

Hasilnya adalah pemisahan yang semakin lebar antara tindakan dan akuntabilitas. Keputusan diambil lebih cepat daripada mereka dapat diatur, dan seringkali dengan cara yang sulit untuk dilacak dalam waktu nyata. Pada saat yang sama, kewajiban untuk menjelaskan, mengontrol, dan membenarkan keputusan tersebut meningkat seiring dengan volume dan dampaknya. Pemisahan ini mendefinisikan tantangan utama yang dihadapi oleh kepemimpinan IT modern: mengatur lingkungan di mana intervensi tidak dapat diasumsikan, biaya secara inheren bervariasi, dan kontrol tidak dapat sepenuhnya direkonstruksi setelah fakta.

Kategori Baru Risiko Perusahaan

Kecepatan dan otonomi keputusan yang digerakkan oleh AI menciptakan profil risiko yang secara material berbeda. Sistem ini tidak hanya memperluas paparan di seluruh kategori risiko yang familiar seperti keuangan, operasional, hukum, atau reputasi; mereka mengubah bagaimana risiko tersebut muncul, berkembang, dan materialisasi. Paparan keuangan dapat tumbuh dengan cepat karena aktivitas yang digerakkan oleh konsumsi yang berkompound dalam waktu nyata. Gangguan operasional dapat menyebar di seluruh sistem yang terhubung sebelum mereka terdeteksi. Pelanggaran hukum dan peraturan mungkin terjadi tanpa niat yang jelas atau jejak yang dapat dilacak. Kerusakan reputasi dapat terjadi lebih cepat daripada organisasi dapat merespons.

Risiko ini tidak lagi teoritis. Seorang individu sekarang dapat mengirimkan agen AI yang mampu melakukan pengeluaran, memodifikasi sistem, dan memulai tindakan pada kecepatan yang melampaui kemampuan fungsi hukum, IT, atau keuangan untuk menentukan batasan, memantau perilaku, atau menegakkan kontrol. Akuntabilitas menjadi semakin sulit karena mekanisme pemerintahan tradisional gagal untuk mengikuti kecepatan eksekusi, dan penganggaran menjadi kurang koheren karena tindakan kecil, inkremental yang mengakumulasi menjadi hasil keuangan yang material.

Dalam lingkungan ini, sistem AI akan konsisten mengejar jalur yang paling efisien untuk mencapai tujuan mereka. Tanpa konstrain yang jelas, jalur itu seringkali akan menyimpang dari harapan organisasi.

Dari Manajemen Infrastruktur ke Desain Guardrail

Kenyataan ini mendefinisikan kembali peran kepemimpinan IT. Pemimpin teknologi tidak lagi hanya mengelola sistem; mereka mengelola perilaku otonom pada skala besar. Peran IT bergeser dari kontrol langsung infrastruktur ke desain dan penerapan guardrail yang menentukan tingkat niat, risiko, dan biaya yang dapat diterima. Di mana IT sebelumnya fokus pada penyediaan penyimpanan, komputasi, dan konektivitas, sekarang mereka harus fokus pada membentuk bagaimana sistem bertindak dalam batasan yang ditentukan karena masa depan IT bergantung pada efektivitas guardrail ini.

Organisasi yang gagal beradaptasi akan bergelut untuk beroperasi pada kecepatan yang dibutuhkan oleh pelanggan dan pasar. Mereka yang sukses akan memperoleh keunggulan kompetitif yang berkelanjutan dengan menggabungkan kecepatan dengan kontrol. Momentum ini mewakili titik balik bagi perusahaan, yang akan menentukan bagaimana efektif mereka dapat memanfaatkan AI untuk memperluas output, meningkatkan kinerja, dan bersaing dalam lingkungan yang semakin dinamis.

Akhirnya, akuntabilitas tetap manusia. Organisasi yang sukses akan menjadi mereka yang mengakui kenyataan ini dan siap untuk beroperasi di dalamnya.

Apa yang Harus Dilakukan CIO Masa Depan

Perubahan ini menciptakan serangkaian prioritas yang jelas bagi CIO masa depan.

CIO harus membangun pemerintahan keuangan dan operasional yang kuat atas aktivitas AI, yang didasarkan pada kontrol waktu nyata yang mengelola biaya, pemicu eksekusi, dan perilaku agen. Kontrol ini harus mencakup mekanisme yang dapat ditegakkan seperti ambang pengeluaran, langit-langit penggunaan, dan pemutusan otomatis yang mencegah konsumsi yang tidak terkendali sebelum menciptakan dampak keuangan yang material.

Pada saat yang sama, organisasi harus mendefinisikan dan mengelola ekonomi dasar AI. Ini memerlukan pelacakan driver inti seperti prompt, panggilan model, agen, dan pola akses, sambil memastikan bahwa ukuran ini secara langsung terkait dengan hasil bisnis seperti permintaan pelanggan, pengiriman layanan, produktivitas operasional, dan pertumbuhan pendapatan.

Pemerintahan juga harus mencakup visibilitas waktu nyata yang terus-menerus ke dalam aktivitas AI. Pelacakan dan auditabilitas tidak lagi dapat bergantung pada analisis pasca-peristiwa; mereka harus memberikan pemahaman yang berkelanjutan tentang bagaimana sistem beroperasi, dari mana aktivitas berasal, agen dan model mana yang terlibat, dan bagaimana sumber daya dikonsumsi. Visibilitas ini memungkinkan organisasi untuk mengamati perilaku saat terjadi dan mengintervensi ketika perlu.

Eksekusi AI harus dipahami tidak sebagai peristiwa tunggal, tetapi sebagai rantai interaksi dan penyerahan yang harus dilacak secara kontekstual dan terus-menerus. Sebuah permintaan tunggal dapat memicu aktivitas hilir di seluruh sistem internal, layanan eksternal, dan agen yang terkoordinasi, memperbesar baik biaya dan dampak operasional. Pemerintahan yang efektif oleh karena itu memerlukan visibilitas ke dalam rantai ketergantungan ini dan definisi untuk memahami sepenuhnya cakupan eksekusi.

Kepemilikan dan akuntabilitas yang jelas harus menjadi landasan semua upaya ini. Organisasi harus mendefinisikan siapa yang bertanggung jawab untuk membangun dan mengirimkan sistem AI, siapa yang memiliki output yang dihasilkan, dan siapa yang bertanggung jawab atas hasil keuangan, operasional, dan kepatuhan. Tanpa kepemilikan yang eksplisit, pemerintahan tidak dapat berhasil.

Akhirnya, CIO harus memstandarisasi serangkaian metrik tingkat eksekutif yang menerjemahkan aktivitas teknis ke dalam wawasan bisnis yang bermakna. Ini termasuk biaya penggunaan model, biaya per hasil yang digerakkan oleh AI, total pengeluaran AI di bawah manajemen, dan visibilitas tingkat portofolio di seluruh model dan agen. Bersama-sama, ukuran ini memberikan pandangan yang jelas tentang skala dan efisiensi penggunaan AI, memungkinkan keputusan yang tepat pada tingkat tertinggi perusahaan.