Mengapa Proyek Agentic AI Macet pada Skala, dan Apa yang Perusahaan Harus Perbaiki Terlebih Dahulu

Agentic AI dengan cepat menjadi elemen kritis dari semua perusahaan. Bisnis mengintegrasikan pilot ke dalam operasional mereka, lingkungan demo mengesankan pemimpin dan peta jalan sedang ditulis ulang di sekitar alur kerja AI otonom.

Tapi bagi banyak proyek ini, sesuatu rusak antara demo yang dikontrol dan penerapan produksi. Proyek itu macet, peluncuran memanjang dari bulan ke tahun dan tim yang bertanggung jawab atas pengiriman harus menjelaskan mengapa agen yang bekerja dengan sempurna dalam pengujian berperilaku tidak terduga di dunia nyata.

Dalam hampir semua kasus, jawabannya bukanlah model itu sendiri, tetapi estate data, lapisan orkestrasi, kerangka tata kelola dan infrastruktur warisan yang sebagian besar perusahaan tidak pernah memodernisasi sebelum mereka memutuskan untuk membangun agen pintar di atasnya. Sampai fondasi tersebut ditangani, agentic AI akan terus menghasilkan demo yang mengesankan dan penerapan yang mengecewakan.

Lingkungan POC Adalah Perangkap

Sebagian besar perusahaan mengevaluasi model. Jauh lebih sedikit mengevaluasi perilaku agen dari ujung ke ujung. Sebuah model dapat sangat akurat dan agen yang dibangun di atasnya masih dapat gagal dengan buruk. Ini karena agen menghubungkan panggilan alat secara berurutan dan satu langkah yang salah menghasilkan jawaban yang salah yang langkah berikutnyaperlakukan sebagai input yang benar, memperburuk kesalahan di hilir sebelum siapa pun menyadari.

Lingkungan proof-of-concept dirancang untuk menyembunyikan ini. Input dikontrol, cakupan sempit dan seseorang mengawasi output. Tidak satu pun dari kondisi tersebut ada di produksi. Agen yang mendapatkan skor baik dalam pengujian sekarang menangani instruksi yang samar, mengenai kesalahan izin dan membuat keputusan berurutan pada data yang tidak pernah diuji sebelumnya. Tim yang membangunnya menemukan bahwa kerangka evaluasi yang dirancang untuk kinerja model tidak memberitahu apakah agen dinaikkan dengan benar, menangani kasus tepi dengan anggun atau tahu kapan harus berhenti.

Menurut Laporan State of AI 2025 dari McKinsey, 88% organisasi sekarang menggunakan AI dalam setidaknya satu fungsi bisnis, namun hanya sekitar sepertiga yang telah berhasil menskalakan di seluruh perusahaan. Celah antara adopsi dan skala dimulai dengan bagaimana perusahaan merencanakan dan mengevaluasi pilot mereka. Tim yang menskalakan dengan sukses memperlakukan analisis mode kegagalan sebagai persyaratan desain. Sebelum penerapan, mereka membangun katalog tentang bagaimana agen diharapkan gagal dan apa responsnya ketika itu terjadi. Itu terdengar jelas. Sangat sedikit perusahaan yang benar-benar melakukannya.

Data Sampah, Agen Sampah

Perusahaan terus bertanya mengapa agen mereka underperform di produksi. Jawabannya hampir selalu kembali ke data. Estate data tidak pernah siap. Sumber dipisahkan di seluruh sistem yang dibangun pada waktu yang berbeda untuk tujuan yang berbeda. Definisi tidak konsisten di seluruh unit bisnis. Tidak ada lapisan semantik. Tidak ada sumber tunggal kebenaran. Hanya ada utang data yang terkumpul selama bertahun-tahun yang tidak pernah diprioritaskan karena sistem lama berjalan dengan cukup baik.

Utang itu tidak menghilang ketika Anda membangun agen di atasnya. Utang itu menjadi kenyataan operasional agen. Agen yang menavigasi sumber data yang terfragmentasi tidak beralasan atas gambaran koheren bisnis. Agen melakukan yang terbaik dengan apa yang dapat ditemukannya, memperbaiki kontradiksi secara langsung dan menghasilkan output yang terlihat masuk akal sampai seseorang yang mengetahui bisnis melihatnya dengan teliti. Agen tidak rusak. Data yang diberikan kepada agen rusak sebelum proyek dimulai.

Data drift dan konsep drift membuat ini lebih buruk seiring waktu. Ketika distribusi input dunia nyata bergeser dari apa yang modelnya dilatih, agen tidak melemparkan kesalahan. Agen terus berjalan dan mulai menghasilkan output yang salah, dengan percaya diri dan pada skala besar. Tanpa MLOps atau AIOps pipeline yang dibangun ke dalam lapisan orkestrasi agen, tidak ada mekanisme untuk menangkap ini sebelum kerusakan mengumpul. Agen yang berperforma dengan baik pada peluncuran sekarang secara diam-diam memburuk selama beberapa minggu sebelum siapa pun menghubungkan kualitas output dengan masalah data yang ada dari awal.

Modernisasi data dan modernisasi AI sering diperlakukan sebagai aliran kerja paralel, diurutkan secara independen dan didanai secara terpisah. Mereka tidak paralel. Anda tidak dapat membangun agen yang dapat dipercaya di atas arsitektur data yang rusak sebelum proyek dimulai. Urutan sangat penting dan melewati lapisan data untuk mempercepat lapisan AI adalah salah satu kesalahan paling umum dan paling mahal yang dilakukan perusahaan.

Dasbor yang salah memberikan seseorang angka yang salah. Tindakan agen yang salah dapat memicu proses hilir sebelum siapa pun menyadari, menyetujui faktur yang seharusnya tidak disetujui, mengarahkan bendera kepatuhan secara tidak benar atau menyesuaikan harga di luar jangkauan yang dimaksud. Sistem agen memerlukan observabilitas yang dirancang khusus, bukan dasbor yang digunakan kembali dari pemantauan aplikasi umum.

Kelebihan Platform Data Terpadu

Perusahaan yang pindah ke platform data terpadu sebelum memulai program agentic AI mereka menskalakan lebih cepat daripada yang tidak. Ketika Lakehouse, gudang data, model semantik dan pipa semua hidup dalam satu lingkungan, seperti yang ada di Microsoft Fabric, agen memiliki satu permukaan konsisten untuk dikueri. Itu menghilangkan satu kelas kegagalan yang datang dari agen yang melompat antara sistem dengan skema yang berbeda, siklus refresh yang berbeda dan definisi yang berbeda dari metrik bisnis yang sama.

Ini adalah mengapa platform yang dipilih perusahaan untuk unifikasi data sangat penting bagi hasil agentic AI mereka. Pendekatan terpadu Microsoft Fabric membawa bersama Lakehouse, gudang data, model semantik dan pipa dalam satu lingkungan, memberikan perusahaan yang berfokus pada Microsoft (MSFT ) keunggulan struktural ketika berpindah dari eksperimen ke penggunaan operasional nyata.

Databricks mengirimkan prinsip yang sama melalui arsitektur Lakehouse dan Unity Catalog, memberikan tim data dan AI lapisan tata kelola terpadu di seluruh data terstruktur dan tidak terstruktur dengan integrasi MLflow untuk melacak perilaku model di produksi. Pendekatan Snowflake memanfaatkan Cortex AI dan pengikatan yang ketat antara cloud data dan inferensi AI, memungkinkan perusahaan untuk menjalankan beban kerja agen langsung melawan data yang dikelola dan hidup tanpa latency dan risiko konsistensi yang datang dari memindahkan data antara sistem.

Masing-masing platform ini mewakili jalur yang berbeda menuju hasil yang sama. Lapisan data yang kohesif, dapat diamati dan dapat dipercaya untuk mendukung pengambilan keputusan agen pada skala besar. Pilihan yang tepat tergantung pada tumpukan perusahaan yang ada. Apa yang tidak opsional adalah membuat pilihan itu dan berkomitmen padanya sebelum lapisan agen dibangun di atasnya. Apa yang membedakan tim yang membuat kemajuan dari mereka yang masih terjebak dalam pilot bukanlah platform yang mereka pilih. Ini adalah bahwa mereka memperbaiki lapisan data terlebih dahulu.

Tata Kelola Sebelum, Bukan Setelah

Tata kelola yang dibangun setelah fakta tidaklah tata kelola. Ketika agen memiliki wewenang pengambilan keputusan hilir dan pengaman dibuat enam bulan setelah penerapan, perusahaan telah mengumpulkan enam bulan keputusan yang tidak diaudit. Jejak audit perlu dirancang sebelum agen live, bukan dipasang setelah insiden pertama.

Prinsip yang sama berlaku untuk keamanan AI, kontrol akses berbasis peran dan pengaturan izin. Agen tanpa izin yang benar dapat mengakses data yang seharusnya tidak, menjalankan tindakan di luar batas yang dimaksud, atau menjadi permukaan serangan aktif. Ini adalah risiko yang perlu ditangani pada fase pengembangan, bukan ditemukan pada tinjauan penerapan.

Jika tata kelola tidak terintegrasi sebelum pipa pelatihan dibangun, data yang salah atau bermusuhan dapat memasuki proses pelatihan tanpa terdeteksi. Model yang dilatih pada data yang dikompromikan berkinerja dengan baik pada benchmark tetapi mengalami penurunan di produksi, tepat seperti kegagalan sunyi yang paling berbahaya ketika keputusan agen membawa konsekuensi bisnis nyata.

Undang-Undang AI UE dan kerangka regulasi yang tumbuh di sekitar akuntabilitas AI membuat ini lebih sulit untuk diabaikan dan perusahaan yang belum membangun tata kelola ke dalam arsitektur agen mereka mengumpulkan paparan kepatuhan yang akan lebih mahal untuk dibongkar nanti.

Dari Pilot ke Produksi: Apa yang Sebenarnya Dibutuhkan

Perusahaan yang menutup celah produksi adalah mereka yang memperbaiki lapisan data sebelum mereka membangun lapisan agen. Mereka mengintegrasikan tata kelola ke dalam desain, bukan setelah kerusakan telah dilakukan. Mereka membangun observabilitas ke dalam arsitektur orkestrasi dan menjalankan manajemen perubahan secara paralel dengan pengiriman teknis. Mereka memperlakukan analisis mode kegagalan sebagai persyaratan desain yang penting.

Penelitian AI perusahaan Deloitte menunjukkan bahwa akses pekerja ke AI melompat 50% pada 2025 saja dan bagian perusahaan yang menjalankan lebih dari 40% proyek AI mereka dalam produksi penuh akan meningkat dua kali lipat dalam enam bulan ke depan. Perusahaan yang menang sekarang bukanlah mereka yang memiliki model paling maju. Mereka adalah yang membangun infrastruktur operasional untuk menjalankan AI dengan andal dan melakukannya sebelum mereka membangun agen.

Setiap perusahaan yang masih menjalankan pilot yang terputus harus fokus pada memastikan bahwa investasi dalam model dan antarmuka sebanding dengan investasi dalam kesiapan data dan arsitektur tata kelola yang akan menentukan apakah agen tersebut pernah keluar dari lingkungan demo. Ini adalah tempat di mana banyak perusahaan gagal.

Sampai itu berubah, banyak proyek agentic AI yang perusahaan telah menuangkan sumber daya ke dalamnya, dan berharap akan menghasilkan buah, akan mati di tanah.