Biaya AI Meningkat — Berikut Cara Mengontrolnya

Penggunaan cloud terus meningkat, begitu juga dengan biaya yang terkait — terutama, belakangan ini, yang dipicu oleh AI. Analis Gartner memprediksi bahwa pengeluaran akhir pengguna di seluruh dunia untuk layanan cloud publik akan meningkat menjadi $723,4 miliar pada 2025, naik dari hanya di bawah $600 miliar pada 2024. Dan 70% eksekutif yang disurvei dalam laporan IBM menyebutkan AI generatif sebagai pemicu kritis peningkatan ini.

Pada saat yang sama, DeepSeek China membuat gelombang ketika mereka mengklaim bahwa hanya dibutuhkan dua bulan dan $6 juta untuk melatih model AI mereka. Ada keraguan apakah angka-angka tersebut menceritakan seluruh cerita, tetapi jika harga saham Microsoft dan Nvidia yang masih terguncang merupakan indikasi, pengumuman tersebut membangunkan dunia Barat akan kebutuhan untuk sistem AI yang efisien biaya.

Sampai saat ini, perusahaan telah dapat mengobati biaya AI yang meningkat sebagai pengeluaran R&D. Tetapi biaya AI — terutama yang terkait dengan produk dan fitur yang sukses — akhirnya akan memengaruhi biaya pokok penjualan (COGS) perusahaan dan, konsekuensinya, margin bruto mereka. Inovasi AI selalu ditakdirkan untuk menghadapi pengawasan bisnis yang ketat; pengumuman bom DeepSeek hanya mempercepat waktu itu.

Sama seperti mereka lakukan dengan cloud publik lainnya, perusahaan akan perlu mengelola biaya AI mereka, termasuk biaya pelatihan dan konsumsi. Mereka perlu menghubungkan pengeluaran AI dengan hasil bisnis, mengoptimalkan biaya infrastruktur AI, memperbaiki strategi harga dan pengemasan, dan memaksimalkan pengembalian investasi AI mereka.

Bagaimana mereka bisa melakukannya? Dengan ekonomi unit cloud (CUE).

Apa itu ekonomi unit cloud (CUE)?

CUE terdiri dari pengukuran dan maximisasi keuntungan yang dipicu oleh cloud. Mekanisme dasarnya adalah menghubungkan data biaya cloud dengan data permintaan dan pendapatan pelanggan, mengungkapkan dimensi yang paling dan kurang menguntungkan dari bisnis dan menunjukkan kepada perusahaan bagaimana dan di mana untuk mengoptimalkan. CUE diterapkan di semua sumber pengeluaran cloud, termasuk biaya AI.

Dasar CUE adalah alokasi biaya — mengatur biaya cloud sesuai dengan siapa dan/atau apa yang memicunya. Dimensi alokasi umum termasuk biaya per pelanggan, biaya per tim teknik, biaya per produk, biaya per fitur, dan biaya per mikro layanan. Perusahaan yang menggunakan platform manajemen biaya modern sering mengalokasikan biaya dalam kerangka yang memantulkan struktur bisnis mereka (hierarki teknik, infrastruktur platform, dll.).

Kemudian, inti CUE adalah metrik biaya unit, yang membandingkan data biaya dengan data permintaan untuk menunjukkan kepada perusahaan biaya mereka untuk melayani. Misalnya, perusahaan pemasaran B2B mungkin ingin menghitung “biaya per 1.000 pesan” yang dikirim melalui platform mereka. Untuk melakukan ini, mereka harus melacak biaya cloud mereka dan jumlah pesan yang dikirim, memasukkan data tersebut ke dalam sistem tunggal, dan memerintahkan sistem tersebut untuk membagi biaya cloud mereka dengan pesan dan menggambarkan hasilnya dalam dashboard.

Karena perusahaan memulai dengan alokasi biaya, mereka kemudian dapat melihat biaya per 1.000 pesan mereka oleh pelanggan, produk, fitur, tim, mikro layanan, atau tampilan lain yang mereka anggap mencerminkan struktur bisnis mereka.