Biaya Tersembunyi Terbesar AI Bukanlah Komputasi, Melainkan Manusia

Setiap orang membicarakan tentang biaya AI. Biasanya mereka membicarakan tentang GPU, lisensi model, atau konsumsi token. Saya pikir mereka mencari di tempat yang salah.

Biaya terbesar AI perusahaan mungkin akan menjadi orang-orang yang diperlukan untuk mengawasinya.

Sebuah studi baru-baru ini menemukan bahwa karyawan menghemat sekitar 11 jam seminggu dengan menggunakan AI, tetapi menghabiskan lebih dari enam jam untuk memeriksa output, memperbaiki kesalahan, menambahkan konteks yang hilang, dan memastikan bahwa hasilnya benar-benar dapat digunakan. Seseorang menciptakan istilah “botsitting” untuk itu. Ini adalah nama yang menarik, tetapi itu menunjukkan masalah yang jauh lebih besar.

AI seharusnya mengurangi pekerjaan. Namun, banyak organisasi malah menciptakan kategori pekerjaan baru di sekitar mengelola AI itu sendiri. Itu bukanlah masalah teknologi. Itu adalah masalah model operasional.

Sebuah Sekuel yang Lebih Cepat dari Era SaaS

Saya telah melihat film ini sebelumnya.

Bertahun-tahun yang lalu, organisasi mengadopsi SaaS karena membuat perangkat lunak lebih mudah dibeli dan diterapkan. Unit bisnis dapat menyelesaikan masalah tanpa menunggu IT. Produktivitas meningkat. Inovasi dipercepat. Lalu Shadow IT muncul.

Tiba-tiba tidak ada yang tahu berapa banyak aplikasi yang digunakan oleh karyawan, di mana data perusahaan disimpan, atau siapa yang memiliki akses ke sana. IT masih bertanggung jawab, tetapi tidak lagi memiliki visibilitas atau kontrol. AI terasa sangat mirip, tetapi perbedaannya adalah kecepatan.

Sebuah aplikasi SaaS mungkin mengekspos sejumlah sistem; sebuah agen AI dapat terhubung ke puluhan sistem pada hari pertamanya. Itu dapat membaca dokumen, meringkas kontrak, menghasilkan kode, memperbarui catatan, dan memicu alur kerja sebelum kebanyakan organisasi bahkan telah mendokumentasikan bahwa itu ada.

Teknologi ini bergerak lebih cepat daripada model operasional yang dibangun untuk mengelolanya.

Oleh karena itu, saya tidak terkejut dengan studi baru-baru ini dari IBM yang menunjukkan bahwa dua pertiga CIO dan CTO bertanggung jawab atas sistem AI yang mereka tidak sepenuhnya kontrol. Sebagian besar responden juga mengatakan bahwa AI menyebar lebih cepat daripada tata kelola dapat mengimbanginya. Itu bukan karena CIO tiba-tiba menjadi kurang kompeten. Itu karena AI tidak sesuai dengan model kepemilikan tradisional.

Keamanan memiliki risiko.
Hukum memiliki kepatuhan.
Pengembang membangun integrasi.
Unit bisnis memiliki hasil.
Vendor mengontrol bagian dari infrastruktur yang mendasarinya.

Sementara itu, AI memotong semua itu. Ketika sesuatu salah, semua orang memiliki bagian dari jawaban, tetapi tidak ada yang secara pasti memiliki sistem secara keseluruhan. Itu menciptakan kesenjangan, dan organisasi hampir selalu mengisi kesenjangan itu dengan orang-orang.

Seseorang meninjau laporan yang dihasilkan AI sebelum dikirim ke pelanggan.
Seseorang memeriksa kode yang ditulis AI sebelum diterapkan.
Seseorang memverifikasi rekomendasi sebelum keputusan diambil.
Seseorang menyelidiki perilaku yang tidak terduga.

Beberapa pengawasan itu tepat apa yang kita inginkan. AI tidak boleh beroperasi tanpa penilaian manusia, terutama di industri yang diatur atau lingkungan dengan konsekuensi tinggi. Masalahnya adalah ketika orang-orang menjadi kontrol utama.

Dari Chatbot ke Agen Otonom

Pikirkan apa yang terjadi ketika organisasi melampaui chatbot.

Hari ini, asisten AI membantu seseorang mengirim email.
Besok, agen AI mengirimkannya.

Hari ini, AI menyarankan pembaruan untuk catatan pelanggan.
Besok, itu membuat perubahan itu sendiri.

Hari ini, AI merekomendasikan langkah berikutnya dalam proses bisnis.
Besok, itu memulai alur kerja secara otomatis.

Setiap tindakan baru memperkenalkan keputusan lain:

Apakah AI harus diizinkan melakukan ini?

• Apakah itu harus mengakses sistem itu?
• Apakah itu harus mengambil data itu?
• Apakah seseorang harus menyetujui itu terlebih dahulu?

Sebagian besar organisasi menjawab pertanyaan-pertanyaan itu secara manual, dan itu berhasil ketika Anda memiliki sepuluh kasus penggunaan AI. Itu tidak berhasil ketika Anda memiliki ratusan… atau ribuan. Ironinya adalah organisasi menginvestasikan AI untuk meningkatkan produktivitas, lalu meminta karyawan yang berbayar tinggi untuk menghabiskan waktu mereka mengawasinya.

Itu bukanlah penskalaan AI. Itu adalah penskalaan biaya overhead.

Microsoft mencapai kesimpulan yang serupa dalam Work Trend Index 2026. Setelah menganalisis triliunan sinyal tempat kerja dan mengajukan survei kepada 20.000 pengguna AI, perusahaan menemukan bahwa hambatan terbesar untuk kesuksesan AI bukanlah teknologinya; itu adalah organisasi di sekitarnya.

Karyawan mengadopsi AI lebih cepat daripada perusahaan mereka beradaptasi. Tantangan sebenarnya sekarang adalah merancang ulang bagaimana pekerjaan dilakukan: memutuskan apa yang harus AI lakukan, apa yang harus dilakukan orang, dan bagaimana keduanya bekerja sama. Saya pikir itu adalah persis percakapan yang harus dilakukan oleh pemimpin perusahaan. AI tidak menciptakan nilai hanya karena diterapkan. Itu menciptakan nilai ketika diterapkan dengan model operasional yang jelas yang memungkinkan orang untuk fokus pada penilaian daripada pengawasan.

Mengubah Tata Kelola AI: Dari Kebijakan ke Operasional

Inilah tempat di mana percakapan tentang tata kelola AI perlu berubah. Ketika orang mendengar kata tata kelola, mereka sering berpikir tentang kebijakan, komite, dan dokumentasi. Hal-hal itu penting, tetapi tidak ada yang membuat keputusan secara waktu nyata.

Tidak ada yang menghentikan agen AI mengakses data yang tidak seharusnya dilihat atau menangguhkan alur kerja yang berperilaku tidak terduga. Tidak ada yang menjelaskan, pada saat tindakan diminta, apakah tindakan itu sesuai dengan kebijakan perusahaan.

Itu adalah kesenjangan.

Organisasi tidak memerlukan lebih banyak dokumen tata kelola. Mereka memerlukan tata kelola yang beroperasi. Tindakan rutin harus terjadi secara otomatis ketika mereka jatuh di dalam kebijakan yang disetujui; tindakan dengan risiko lebih tinggi harus memerlukan persetujuan manusia, dan sistem yang sensitif harus memiliki batasan yang jelas tentang apa yang dapat dan tidak dapat dilakukan oleh AI.

Dan jika proses AI mulai berperilaku dengan cara yang tidak terduga, harus ada cara langsung untuk menghentikannya. Bukan karena AI tidak dapat dipercaya, tetapi karena setiap proses bisnis memerlukan pengaman.

Menempatkan Manusia di Tempat yang Tepat

Perusahaan yang mendapatkan nilai terbesar dari AI tidak menghilangkan manusia dari persamaan. Mereka menempatkan manusia di tempat mereka paling berharga.

Tidak meninjau setiap output.
Tidak memeriksa setiap prompt.
Tidak mengawasi setiap agen.

Mereka fokus pada pengecualian, kasus tepi, dan keputusan yang benar-benar memerlukan penilaian. Itu adalah penggunaan yang jauh lebih baik dari keahlian manusia.

Pertanyaan Riil Perusahaan

AI telah mencapai titik di mana teknologi tidak lagi menjadi pertanyaan terbesar. Sebagian besar organisasi telah membuktikan bahwa AI dapat menghasilkan konten, menulis kode, meringkas informasi, dan mengotomatisasi pekerjaan berulang.

Pertanyaan yang lebih sulit adalah apakah mereka dapat mengoperasikan AI dengan percaya diri pada skala perusahaan:

Apakah mereka dapat melihat apa yang dilakukan AI?

• Apakah mereka dapat mengontrol apa yang diakses AI?
• Apakah mereka dapat menegakkan kebijakan secara konsisten?
• Apakah mereka dapat menjelaskan mengapa sistem AI mengambil tindakan tertentu?

Itu adalah pertanyaan operasional, dan itu semakin menjadi pertanyaan ekonomi. Karena setiap jam yang dihabiskan untuk mengawasi AI menggerogoti peningkatan produktivitas yang membenarkan investasi pada AI di tempat pertama. Perusahaan yang menang dengan AI tidak akan menjadi mereka yang menjalankan model terbanyak atau menerapkan agen terbanyak. Mereka akan menjadi mereka yang tidak memerlukan tentara orang untuk mengawasinya.

AI harus memperkuat tenaga kerja Anda. Itu tidak boleh secara diam-diam menjadi tenaga kerja baru.

at the produktivitas yang membenarkan investasi pada AI di tempat pertama. Perusahaan yang menang dengan AI tidak akan menjadi mereka yang menjalankan model terbanyak atau menerapkan agen terbanyak. Mereka akan menjadi mereka yang tidak memerlukan tentara orang untuk mengawasinya.

AI harus memperkuat tenaga kerja Anda. Itu tidak boleh secara diam-diam menjadi tenaga kerja baru.