AI di Perusahaan Membutuhkan Konteks Kumulatif Sebelum Layak Memperoleh Otonomi

Bayangkan, Senin pagi tinggal beberapa jam lagi sebelum rapat prakiraan triwulanan. Seorang pemimpin keuangan bertanya kepada agen AI, “Mengapa margin kotor menurun? Asumsi mana yang perlu diubah? Dan apa yang sebaiknya dilakukan perusahaan selanjutnya?” Dalam hitungan detik, agen itu mengambil informasi dari berbagai sistem, mengidentifikasi beberapa faktor penyebab, lalu menyarankan pemangkasan belanja diskresioner atau peninjauan kembali rencana perekrutan. Jawabannya jelas, terperinci, dan masuk akal. Tidak ada yang tampak jelas keliru.

Justru itulah yang membuatnya begitu berbahaya. 

Jika ditelaah lebih jauh, tampak beberapa detail yang terlewat. Agen tersebut menggunakan versi prakiraan yang keliru. Agen itu tidak memperhitungkan penyesuaian akuntansi yang telah disetujui pada triwulan sebelumnya. Agen itu juga tidak mempertimbangkan bahwa satu wilayah menerapkan aturan bisnis yang berbeda. Belum tentu ada yang salah dengan data dasarnya; agen tersebut hanya tidak tahu bagaimana organisasi menafsirkan data itu atau bagaimana berbagai bagiannya saling berkaitan. Masalahnya bukan sesuatu yang bisa dengan mudah diatasi dengan model lain. Masalahnya, model itu tidak memahami bisnis ini. 

Sebagian besar pengembangan AI untuk perusahaan berfokus pada kemampuan model dan otonomi agen. Namun, model tidak dapat menghasilkan kesimpulan yang andal dan spesifik untuk suatu perusahaan jika tidak memahami cara organisasi mendefinisikan angkanya dan mengaitkannya dengan cara bisnis dijalankan. 

Lapisan yang belum ada adalah konteks bisnis kumulatif, yakni pemahaman terkelola tentang makna data perusahaan: definisi, hubungan, asumsi, perhitungan, alur kerja, pengecualian, serta keputusan yang terakumulasi seiring waktu.

Konteks tersebut terbentuk melalui perencanaan, prakiraan, pemodelan skenario, analisis varians, koreksi, umpan balik, aktivitas penutupan buku, dan keputusan yang disetujui. Tanpanya, organisasi berisiko memberi AI tanggung jawab yang lebih besar tanpa membekalinya dengan pemahaman bisnis yang cukup agar dapat menjalankan tanggung jawab itu secara andal. 

Kemampuan AI Melampaui Kesiapan Perusahaan

Menurut AI Index 2026 dari Stanford, 88% organisasi yang disurvei menggunakan AI pada 2025, tetapi penerapan agen masih berada pada satu digit di hampir semua fungsi bisnis. 

Statistik ini menunjukkan bahwa perusahaan memiliki akses ke kemampuan AI, tetapi banyak di antaranya belum siap membiarkan AI menjalankan pekerjaan yang berdampak besar. Para pemimpin tahu bahwa mereka perlu membangun dengan AI, tetapi masih harus menentukan apakah mereka membangun pada lapisan masalah yang tepat.

Model Dapat Membaca Data Tanpa Memahami Bisnis

Model fondasi efektif dalam mengenali pola, menyintesis informasi, berinteraksi menggunakan bahasa alami, dan menelusuri kumpulan data berukuran besar. Meski merupakan kemajuan yang berarti, model itu sendiri semakin tidak menjadi faktor pembeda. 

Tantangan yang lebih sulit bagi perusahaan adalah mengajari AI makna informasi perusahaan dan, yang lebih penting, cara informasi itu digunakan dalam pengambilan keputusan dan analisis.

Sebagian besar pembahasan tentang tata kelola AI berfokus pada kebersihan data. Meski merupakan langkah yang perlu, hal ini belum cukup untuk memperluas penerapan AI di seluruh perusahaan. Dua kumpulan data yang sama-sama bersih tetap dapat menggunakan definisi, rentang waktu, dan aturan bisnis yang berbeda. 

Studi CEO IBM 2025 menemukan bahwa 25% inisiatif AI menghasilkan ROI sesuai harapan, dan hanya 16% yang diterapkan dalam skala perusahaan. Pola ini sejalan dengan tantangan penerapan yang lebih luas: akses ke model dan data tidak menjamin bahwa sistem AI dapat menyelaraskan aturan organisasi yang menentukan cara informasi seharusnya digunakan.

Model yang lebih mumpuni mudah diperoleh. Pemahaman spesifik tentang perusahaan harus dibangun. 

Konteks Saat Pengambilan Data Bukanlah Konteks Kumulatif

Sebagian besar hal yang disebut sebagai konteks dalam AI perusahaan masih diberikan melalui pengambilan data pada saat permintaan diajukan. Sistem menemukan dokumen, catatan, atau titik data yang relevan, menggunakannya untuk menghasilkan jawaban, lalu memulai kembali saat menerima pertanyaan berikutnya. 

Pengambilan data memang bermanfaat, tetapi jika digunakan sendirian, cara ini tidak membentuk memori organisasi yang kumulatif. Hampir tidak ada informasi yang dibawa ke tahap berikutnya sehingga AI dapat menghadapi bisnis tersebut sebagai orang asing dalam setiap interaksi baru.

Situasinya mirip dengan menerima analis baru yang brilian setiap pagi. Analis itu memahami keuangan dan tahu cara menginterogasi kumpulan data, tetapi tetap perlu mempelajari cara perusahaan tertentu ini mendefinisikan metriknya, prakiraan mana yang menjadi acuan, alasan suatu pengecualian disetujui, dan asumsi mana yang berulang kali terbukti keliru.

Konteks kumulatif memiliki tujuan yang berbeda. Alih-alih diatur ulang setiap kali ada perintah atau siklus perencanaan, konteks terus bertambah seiring waktu. Setiap investigasi, skenario, koreksi, persetujuan, dan keputusan dapat berkontribusi pada pemahaman terkelola tentang cara organisasi beroperasi. Artinya, siklus berikutnya dapat dibangun di atas hal-hal yang telah ditetapkan pada siklus sebelumnya, alih-alih menemukan kembali hubungan, logika, dan cara kerja yang sama pada setiap perintah. 

Itu bukan berarti semua hal harus disimpan selamanya. Konteks perusahaan yang berguna harus dibatasi cakupannya secara sengaja, dapat dikoreksi, memperhatikan izin akses, dan dapat ditelusuri ke sumbernya. Organisasi perlu mempertahankan hal-hal yang penting sekaligus memastikan asumsi yang sudah usang, pengecualian sementara, dan penafsiran yang keliru dapat dikenali dan diubah seiring waktu.

Kepercayaan Bertumpu pada Lapisan di Bawah Model

Model adalah bagian yang paling terlihat dari sistem AI, tetapi jarang menjadi faktor penentu apakah perusahaan dapat memercayai hasilnya.

Model yang mumpuni dapat menyelidiki penyimpangan, menelaah kemungkinan penjelasan, dan merekomendasikan tindakan. Apakah perusahaan dapat mengandalkan rekomendasi tersebut bergantung pada arsitektur yang mengelilingi model itu.

Gartner menemukan bahwa organisasi yang melaporkan keberhasilan inisiatif AI mereka berinvestasi hingga empat kali lebih besar, sebagai persentase dari pendapatan, pada fondasi seperti kualitas data, tata kelola, tenaga kerja yang siap untuk AI, dan manajemen perubahan dibandingkan organisasi yang mengalami hasil buruk.

Lapisan konteks yang dikelola merupakan bagian dari fondasi tersebut, yang berada di antara sistem sumber, model, dan tindakan bisnis.

Di sinilah kecerdasan dan determinisme juga harus dipisahkan. AI dapat menyelidiki, menyusun draf, dan memberikan rekomendasi. Setelah suatu tindakan ditinjau dan disetujui, pelaksanaannya harus melalui perhitungan yang terkelola, pemeriksaan izin, kontrol penulisan balik, dan jejak audit. Fleksibilitas yang membuat model berguna untuk eksplorasi tidak selalu sesuai ketika perubahan diterapkan pada bisnis.

Model dapat merekomendasikan tindakan yang sebaiknya dilakukan. Arsitektur di sekelilingnya, termasuk persetujuan manusia dan kontrol sistem, menentukan tindakan yang boleh dilakukan.

Kendala yang Membuat Agen Berguna

Penerapan agen berlangsung lebih cepat daripada pengembangan kontrol yang mengaturnya. KPMG menemukan bahwa proporsi organisasi yang menerapkan setidaknya beberapa agen AI meningkat dari 11% pada kuartal pertama 2025 menjadi 42% pada kuartal ketiga. Namun, Gartner melaporkan bahwa hanya 13% organisasi yang sangat setuju bahwa mereka telah memiliki struktur tata kelola agen yang tepat.

Kesenjangan itu penting karena kapabilitas dan kewenangan merupakan dua keputusan desain yang berbeda. Secara teknis, suatu sistem mungkin mampu mengakses basis data, merevisi prakiraan, atau memicu alur kerja. Namun, bukan berarti sistem tersebut boleh melakukan hal-hal itu secara mandiri.

Sebelum mendelegasikan pekerjaan yang berarti, organisasi harus menerapkan tiga batasan.

• Menyepakati Makna Bersama

Definisi, metrik, hierarki, kalender fiskal, dan aturan perhitungan harus diselaraskan sebelum agen dapat bernalar secara konsisten berdasarkan semua itu.

AI tidak seharusnya diharapkan diam-diam menyelesaikan perbedaan yang belum ditangani oleh organisasi itu sendiri. Tanpa kesamaan pemahaman, AI dapat menganggap definisi yang bertentangan sebagai hal yang dapat dipertukarkan dan menghasilkan jawaban yang masuk akal, tetapi keliru secara operasional.

• Tentukan Hal yang Perlu Dipertahankan

Organisasi harus menentukan koreksi, persetujuan, keputusan, dan hasil mana yang akan menjadi konteks yang dapat digunakan kembali. Organisasi juga memerlukan kebijakan yang mengatur penyimpanan, akses, dan koreksi.

Memori yang berguna dipilih dan dikelola, bukan dikumpulkan tanpa memilah. Jika tidak, asumsi yang sudah usang atau pengecualian satu kali dapat diam-diam mengubah rekomendasi di masa mendatang.

• Pisahkan Rekomendasi dari Komitmen

Analisis, rekomendasi, perubahan yang diusulkan, pelaksanaan yang disetujui manusia, dan pelaksanaan otonom dengan batasan tertentu merupakan tingkat kewenangan yang berbeda. Agen harus memiliki identitas dan izin yang sesuai dengan tiap tingkat tersebut.

Evaluasi juga harus mencakup seluruh rangkaian tindakan: informasi apa yang diambil, konteks mana yang digunakan, alat apa yang dipanggil, apa yang berubah, dan apakah perubahan tersebut dapat dibatalkan.

Menguji jawaban akhir saja berarti mengabaikan sebagian besar kemungkinan kegagalan dalam alur kerja berbasis agen.

Kapabilitas menggambarkan hal yang dapat dilakukan agen, sedangkan tata kelola menentukan hal yang boleh dilakukannya.

Otonomi Membutuhkan Lebih dari Sekadar Kapabilitas

Dalam skenario margin pembuka, kecepatan hanya berguna jika sistem juga mengetahui prakiraan mana yang menjadi acuan, pengecualian mana yang telah disetujui, tindakan apa yang boleh dilakukannya, dan siapa yang tetap bertanggung jawab.

Saya percaya AI perusahaan hanya akan mendapatkan kepercayaan jika mampu membawa konteks yang tepat ke masa mendatang dan menunjukkan bagaimana AI menghasilkan kesimpulan yang berdampak penting.

Organisasi harus membangun lapisan konteks dan kontrol tersebut sebelum memperluas otonomi agen. Pekerjaan akan berubah, tetapi akuntabilitas tidak.