Kecerdasan Buatan di Perusahaan: Menghitung Biaya Penuh

Kecerdasan Buatan (AI) telah melampaui teori dan keunikan. Bagi banyak organisasi, AI sekarang berada di samping sistem inti sebagai bagian dari infrastruktur. Banyak orang masih memikirkan AI terutama dalam hal LLM publik dan chatbot – sesuatu yang dapat Anda gunakan dan buang ketika Anda selesai. Melihat AI melalui lensa ini dapat melewatkan berbagai model dan teknik yang dapat meningkatkan hasil dengan lebih efisien dan risiko yang lebih rendah.

Kebenaran adalah AI harus dievaluasi seperti investasi infrastruktur besar lainnya – dengan pandangan yang jelas tentang biaya, manfaat, dan risiko operasional dari awal. Membawanya ke keadaan yang dapat digunakan berarti berinvestasi dalam pipa data berkualitas, observabilitas, tata kelola, dan orang-orang yang menjaganya agar sejalan dengan hasil bisnis yang diinginkan. Jika Anda memotong sudut di sini, tagihan hanya dipindahkan ke masa depan dengan bunga tambahan.

Bagaimana Biaya AI Benar-Benar Berkembang

Tim dapat berasumsi bahwa biaya AI tumbuh dalam garis lurus: lakukan dua kali lebih banyak pekerjaan, bayar dua kali lebih banyak uang. Namun, kenyataannya adalah upaya, biaya, dan hasil dapat bergerak secara independen satu sama lain dengan cara yang mengejutkan. Mintalah AI untuk membaca dokumen panjang sekaligus dan itu harus mempertimbangkan setiap kata dalam kaitannya dengan kata lain. Dalam sebagian besar LLM populer, itu berarti pekerjaan yang dilakukan, dan oleh karena itu biaya, tidak tumbuh dengan cara yang orang harapkan – dua kali input, dua kali biaya – tetapi sebaliknya tumbuh sebanding dengan panjang input. Kesadaran tentang dasar-dasar seperti ini dapat memiliki dampak nyata pada garis bawah dari setiap penerapan AI. Jika suatu organisasi yang menangani volume teks besar setiap hari, misalnya regulator, merancang dari awal sekitar pencarian grafik atau pipa pengambilan data daripada mengirim dokumen lengkap ke model, pengalaman pengguna akhir masih “ajukan pertanyaan, dapatkan jawaban dalam beberapa detik”, mirip dengan chatbot publik. Itu membuat eksekutif yang antusias AI senang dengan interaksi instan, sementara di bawah permukaan sistem melakukan jauh lebih sedikit pekerjaan yang tidak perlu dan tagihan komputasi jauh lebih rendah sebagai hasilnya.

Bagaimana Pengeluaran AI Disebarkan di Seluruh Organisasi

Pilihan teknologi hanya sebagian dari cerita, sisanya adalah bagaimana organisasi mendekati AI dari awal. Di banyak organisasi, persiapan data berada di departemen teknik. Tinjauan kepatuhan berada di departemen hukum. Pengeluaran cloud hidup dengan tim platform atau infrastruktur. Pemilihan model, konfigurasi, dan penyempurnaan biasanya berada di tangan beberapa operator khusus. Setiap kelompok melihat potongan pekerjaan mereka sendiri dan garis anggaran mereka sendiri. Pengeluaran muncul sebagai komputasi di sini, waktu kontraktor di sana, dan waktu orang-orang yang diserap ke dalam “bisnis seperti biasa” di seluruh tim. Dengan angka-angka yang tersebar di seluruh pusat biaya, mendapatkan biaya pendaratan penuh dari satu inisiatif AI mungkin tidak terlihat di satu tempat dan mudah dianggap remeh. Dalam lingkungan seperti itu, biaya AI dapat melampaui batas dengan sunyi, hanya karena tidak ada yang melacak angka utuh di satu tempat.

Pendekatan Praktis untuk Manajemen Biaya AI

Menghindari AI bukanlah langkah yang tepat untuk organisasi, tetapi tidak juga mengobati AI seperti teknologi penangkap segalanya. Strategi yang baik selalu dimulai dengan hasil yang diinginkan dan bekerja mundur. Tidak setiap kasus memerlukan model umum yang canggih dan mahal untuk dijalankan. Banyak tugas dapat ditangani oleh teknik pembelajaran mesin yang dipahami dengan baik yang jatuh di bawah payung AI dan dapat berjalan di infrastruktur yang ada.

Mulailah dengan proyek pilot yang mengukur biaya kepemilikan total, bukan hanya penggunaan model, yang berarti melihat komputasi, tentu saja, tetapi juga pekerjaan integrasi, waktu teknik, manajemen perubahan, dan upaya kepatuhan. Tujuannya adalah memilih model terkecil dan paling sederhana yang menghasilkan hasil yang dapat diterima daripada berasumsi “lebih model” berarti “lebih manfaat”.

AI bukanlah satu hal. Ini adalah kombinasi dari teknik dan alat yang dapat digunakan dengan cara yang berbeda. Melihatnya dengan cara ini menghilangkan mistik di sekitar hasil yang mengesankan dan memungkinkan bisnis untuk memanfaatkan kekuatannya dengan lebih bertanggung jawab dan efektif.

Orang, Waktu, dan AI

Setiap penerapan AI pada prakteknya adalah kolaborasi antara orang dan perangkat lunak. Apakah itu diakui secara formal atau tidak, itulah cara pekerjaan dilakukan. Perubahan saat ini menuju AI yang lebih agen – alat yang dapat merantai langkah, memanggil sistem lain, dan bertindak dengan sedikit prompt – tidak mengubah itu, sebenarnya itu meningkatkan taruhan untuk mendapatkan sisi manusia dari alur kerja yang benar.

Alat-alat ini dapat mudah dipercayai berlebihan. Ketika sistem menyajikan jawaban dengan fasih dan percaya diri, itu adalah hal yang alami bagi orang untuk berasumsi itu biasanya benar. Jika alat seperti itu dimasukkan ke dalam alur kerja tanpa pelatihan yang tepat, batasan yang jelas, dan pemeriksaan yang masuk akal, itu dapat secara diam-diam menghasilkan aliran kesalahan kecil. Setiap kesalahan harus ditemukan, dipahami, dan diperbaiki oleh orang. Di atas kertas, AI terlihat efisien, dalam prakteknya ada biaya tersembunyi dalam waktu manusia tambahan yang dihabiskan untuk membersihkan setelahnya. Dalam pengaturan yang menghadap pelanggan atau diatur, kesalahan kecil seperti itu juga dapat membawa biaya reputasi. Namun, alat tersebut disampaikan atau digunakan, akuntabilitas untuk outputnya masih berada pada organisasi dan, dalam hal sehari-hari, pada operator manusia yang menggunakannya. Itu perlu dipahami secara eksplisit agar alat tersebut benar-benar berguna.

Polanya yang lebih baik adalah kemitraan yang disengaja: orang-orang terampil tetap jelas mengendalikan hasil, dan AI digunakan untuk mempercepat bagian pekerjaan yang sesuai, seperti merangkum, menggambar, mengatur, mencari. Bahkan ketika beberapa pemeriksaan dan koreksi masih diperlukan, efek keseluruhan dari AI yang diperkenalkan dan dikelola dengan baik dalam alur kerja dapat lebih cepat, lebih konsisten, dan lebih memiliki kapasitas daripada tim manusia yang dapat dicapai sendiri.

Tata Kelola sebagai Bagian dari Anggaran AI

Bahkan ketika pilihan teknis yang solid dan penggunaan yang efisien, bagian yang semakin besar dari pengeluaran AI akan terjebak dalam tata kelola daripada komputasi mentah. Bagi organisasi yang beroperasi di UE, Undang-Undang AI membuat itu sangat jelas. Ini mengambil pandangan berbasis risiko dari AI dan penting bahwa itu tidak hanya berlaku untuk produk yang menghadap publik. Sistem internal yang digunakan dalam bidang seperti perekrutan dan promosi, manajemen dan pemantauan pekerja, dan pengambilan keputusan yang terkait keselamatan dapat jatuh dalam cakupan dan membawa harapan sekitar manajemen risiko, dokumentasi, logging, dan pengawasan manusia bersamanya. Wilayah lain bergerak dalam arah yang sama, bahkan jika aturan terlihat sedikit berbeda, tren keseluruhan adalah sama: organisasi yang lebih besar diharapkan mengetahui di mana AI digunakan, apa yang dilakukannya, dan bagaimana itu dikendalikan.

Dampak praktis dari ini adalah proyek AI internal sekarang dapat datang dengan beban tata kelola yang tidak opsional. Setiap kasus penggunaan baru dapat berarti penilaian risiko atau dampak baru, pemantauan lebih banyak, dan pertanyaan lebih banyak dari tim kepatuhan, audit, atau risiko. Tidak ada yang akan muncul dalam metrik penggunaan model tetapi itu adalah upaya nyata yang harus dibayar.

Lagi, tidak ada alasan untuk menghindari AI. Ini adalah pengingat bahwa biaya operasional dari proses AI yang diaktifkan internal tidak hanya harga untuk memanggil model. Tata kelola dan harapan regulasi sekarang merupakan bagian dari biaya kepemilikan total.

Di Mana Peluncuran AI Salah

Polanya yang familiar dalam proyek AI adalah kesenjangan antara bagaimana sistem terlihat dalam demo dan bagaimana itu berperilaku pada skala di alam liar. Dalam pengaturan yang dikendalikan, dengan set pertanyaan yang sempit dan data yang ramah, hasilnya dapat terlihat tanpa cela. Mudah dalam saat itu untuk berasumsi bahwa sistem siap untuk menangani kategori pekerjaan.

Masalahnya cenderung muncul kemudian, ketika sistem terkena berbagai dan volume penggunaan nyata: pertanyaan yang tidak biasa, pengguna yang terbebani, catatan yang tidak lengkap, kasus tepi yang kacau. Retakan yang tidak terlihat dalam demo mulai muncul sebagai jawaban yang salah, nuansa yang terlewat, loop dukungan, waktu penanganan yang lebih lama, dan kerusakan diam-diam pada kepercayaan. Metrik internal seperti “pertanyaan yang ditangani” dan “waktu yang diselamatkan” mungkin terlihat baik di atas kertas, tetapi pengalaman nyata bagi pengguna akhir mungkin menceritakan kisah yang berbeda.

Melompat langsung dari demo yang mengkilap atau pilot kecil di mana kesuksesan dalam kondisi yang dikendalikan dianggap sebagai bukti bahwa sistem siap untuk peluncuran yang lebih luas dapat menjadi kesalahan yang mahal. Dalam pengaturan dunia nyata, pengguna membawa pertanyaan yang kacau, data yang tidak lengkap, dan asumsi mereka sendiri tentang apa yang dapat dilakukan alat. Jika harapan tidak dikelola, dan alur kerja di sekitar sistem tidak dirancang dengan fallback dan eskalasi dalam pikiran, organisasi membayar dua kali: sekali untuk membangun, dan lagi dalam dukungan tambahan, pekerjaan ulang, keluhan, dan kepercayaan yang hilang. Teknologi mungkin terlihat mengesankan di atas kertas, tetapi tanpa pendekatan pragmatis tentang bagaimana itu memenuhi orang dan proses nyata, pengembalian investasi itu dengan cepat memudar.

Sisi lainnya adalah bahwa sistem yang dirancang dengan baik, dengan batasan yang jelas dan kepemilikan manusia yang dibangun dari awal, dapat melakukan hal-hal yang tidak dapat dilakukan oleh tim manusia sendiri: memindai volume besar informasi dalam beberapa detik, menemukan pola di seluruh tahun data, dan menangani keputusan rutin pada skala yang tidak akan terjangkau. Poinnya adalah bahwa untuk mendapatkan manfaat itu, organisasi harus mencocokkan ambisi mereka dengan pandangan yang realistis tentang bagaimana teknologi akan berperilaku sekali itu berada di dunia.

Pemikiran Penutup

Tidak ada yang ini adalah argumen melawan AI. Ini adalah argumen untuk mengobati AI dengan serius seperti sistem lain yang dapat secara material mengubah cara bisnis beroperasi.

Digunakan dengan baik, AI membantu tim kecil bertindak pada skala yang lebih besar, menemukan pola yang akan sulit ditemukan secara manual, dan membuat penilaian ahli lebih jauh. Tapi untuk mencapai itu, diperlukan pandangan yang jelas tentang di mana AI digunakan, apa yang dikenakan biaya total, dan bagaimana itu dikendalikan. Itu berarti membuat pilihan yang disengaja tentang model dan arsitektur, berinvestasi dalam data dan observabilitas, dan merancang proses di mana orang tetap dalam loop.

“Pindah cepat dan pecahkan hal-hal” adalah slogan yang ditulis untuk tim manusia yang bekerja pada sistem skala manusia: jika sesuatu rusak, Anda menggulungnya kembali, memperbaikinya, dan melanjutkan. Sekali AI ditenun ke dalam keputusan tentang pelanggan, karyawan, atau warga negara, sikap yang sama dapat menghasilkan masalah yang menyebar lebih cepat, menghantam lebih keras, dan jauh lebih sulit untuk dibalik. Kecepatan masih penting, dan AI pasti dapat membantu di sini, tetapi itu harus dicocokkan dengan pandangan yang jelas tentang risiko, biaya, dan akuntabilitas.

Tidak ada cara untuk menghilangkan biaya atau risiko sepenuhnya. Tapi ada perbedaan yang jelas antara organisasi yang bergantung pada eksperimen ad-hoc dan mereka yang membangun AI ke dalam operasi mereka dengan cara yang terukur, dengan garis pandang dari pengeluaran ke kesuksesan. Di seluruh berbagai masalah dan hasil yang dihadapi organisasi, tidak ada solusi AI tunggal yang dapat menyelesaikannya semua. Penggunaan AI yang efektif di perusahaan harus selalu bersifat khusus, diawasi, dan dengan cakupan yang hati-hati.