Biaya AI Meningkat — Berikut Cara Mengendalikannya

Penggunaan cloud terus meningkat, begitu pula biayanya — terutama, belakangan ini, yang dipicu oleh AI. Analis Gartner memprediksi pengeluaran akhir pengguna untuk layanan cloud publik di seluruh dunia akan meningkat menjadi $723,4 miliar pada 2025, naik dari sekitar $600 miliar pada 2024. Dan 70% eksekutif yang disurvei dalam laporan IBM menyebutkan AI generatif sebagai pemicu utama peningkatan ini.

Pada saat yang sama, DeepSeek China membuat kehebohan ketika mereka mengklaim bahwa mereka hanya membutuhkan dua bulan dan $6 juta untuk melatih model AI mereka. Ada keraguan apakah angka-angka tersebut menceritakan seluruh cerita, tetapi jika harga saham Microsoft (MSFT ) dan Nvidia (NVDA ) yang masih terguncang adalah pertanda, pengumuman tersebut membangunkan dunia Barat untuk membutuhkan sistem AI yang efisien biaya.

Sampai saat ini, perusahaan telah dapat mengobati biaya AI yang meningkat sebagai pengeluaran R&D. Namun, biaya AI — terutama yang terkait dengan produk dan fitur yang sukses — akhirnya akan memengaruhi biaya pokok penjualan (COGS) perusahaan dan, akibatnya, margin grosir mereka. Inovasi AI selalu ditakdirkan untuk menghadapi pengawasan bisnis yang ketat; pengumuman bom DeepSeek hanya mempercepat waktu itu.

Perusahaan perlu mengelola biaya AI mereka, termasuk biaya pelatihan dan konsumsi. Mereka perlu menghubungkan pengeluaran AI dengan hasil bisnis, mengoptimalkan biaya infrastruktur AI, memperbaiki strategi harga dan pengemasan, dan memaksimalkan pengembalian investasi AI mereka.

Bagaimana mereka bisa melakukannya? Dengan ekonomi unit cloud (CUE).

Apa itu Ekonomi Unit Cloud (CUE)?

CUE terdiri dari pengukuran dan maximisasi keuntungan yang dipicu oleh cloud. Mekanisme dasarnya adalah menghubungkan data biaya cloud dengan data permintaan dan pendapatan pelanggan, mengungkapkan dimensi bisnis yang paling dan kurang menguntungkan dan menunjukkan kepada perusahaan di mana dan bagaimana mereka dapat mengoptimalkan. CUE diterapkan pada semua sumber pengeluaran cloud, termasuk biaya AI.

Dasar CUE adalah alokasi biaya — mengatur biaya cloud sesuai dengan siapa dan/atau apa yang memicunya. Dimensi alokasi umum termasuk biaya per pelanggan, biaya per tim teknik, biaya per produk, biaya per fitur, dan biaya per mikro layanan. Perusahaan yang menggunakan platform manajemen biaya modern sering mengalokasikan biaya dalam kerangka yang mencerminkan struktur bisnis mereka (hierarki teknik, infrastruktur platform, dll.).

Kemudian, inti CUE adalah metrik biaya unit, yang membandingkan data biaya dengan data permintaan untuk menunjukkan kepada perusahaan biaya mereka untuk melayani. Misalnya, perusahaan pemasaran B2B mungkin ingin menghitung “biaya per 1.000 pesan” yang dikirim melalui platform mereka. Untuk melakukan ini, mereka harus melacak biaya cloud mereka dan jumlah pesan yang dikirim, memasukkan data tersebut ke dalam satu sistem, dan memerintahkan sistem tersebut untuk membagi biaya cloud mereka dengan jumlah pesan dan menggrafikkan hasilnya dalam dashboard.

Karena perusahaan dimulai dengan alokasi biaya, mereka kemudian dapat melihat biaya per 1.000 pesan mereka berdasarkan pelanggan, produk, fitur, tim, mikro layanan, atau tampilan lain yang mereka anggap mencerminkan struktur bisnis mereka.

Hasilnya:

• Dimensi bisnis yang fleksibel yang dapat mereka gunakan untuk menyaring metrik biaya unit mereka, menunjukkan kepada mereka area mana dari bisnis mereka yang memicu biaya cloud mereka
• Metrik biaya unit yang terang yang menunjukkan kepada mereka seberapa efisien mereka dalam memenuhi permintaan pelanggan
• Kemampuan untuk membuat perbaikan efisiensi yang terarah, seperti merefaktor infrastruktur, menyesuaikan kontrak pelanggan, atau memperbaiki model harga dan pengemasan

CUE di Era AI

Dalam model CUE, biaya AI hanya salah satu sumber pengeluaran cloud yang dapat dimasukkan ke dalam kerangka alokasi bisnis. Cara perusahaan AI menyebarkan data biaya masih berkembang, tetapi pada prinsipnya, platform manajemen biaya mengobati biaya AI dengan cara yang sama seperti biaya AWS, Azure, GCP, dan SaaS.

Platform manajemen biaya cloud modern mengalokasikan biaya AI dan menunjukkan dampak efisiensi mereka dalam konteks metrik biaya unit.

Perusahaan harus mengalokasikan biaya AI mereka dengan beberapa cara yang intuitif. Salah satunya adalah biaya per tim, dimensi alokasi yang umum untuk semua sumber pengeluaran cloud, menunjukkan biaya yang setiap tim teknik tanggung. Ini sangat berguna karena pemimpin tahu persis siapa yang harus mereka hubungi dan pertanggungjawabkan ketika biaya tim tertentu melonjak.

Perusahaan mungkin juga ingin mengetahui biaya per jenis layanan AI — model pembelajaran mesin (ML) versus model fondasi versus model pihak ketiga seperti OpenAI. Atau, mereka dapat menghitung biaya per tahap SDLC untuk memahami bagaimana biaya fitur yang ditenagai AI berubah ketika fitur tersebut berpindah dari pengembangan ke pengujian ke tahap pengujian dan akhirnya ke produksi. Perusahaan dapat menjadi lebih rinci dan menghitung biaya per tahap siklus hidup pengembangan AI, termasuk pembersihan data, penyimpanan, pembuatan model, pelatihan model, dan inferensi.

Meng zoom out dari detail — CUE berarti membandingkan data biaya cloud yang terorganisir dengan data permintaan pelanggan dan kemudian menentukan di mana untuk mengoptimalkan. Biaya AI hanya salah satu sumber data biaya cloud yang, dengan platform yang tepat, dapat dimasukkan ke dalam strategi CUE perusahaan secara mulus.

Menghindari Tsunami COGS

Pada 2024, hanya 61% perusahaan yang telah memformalkan sistem manajemen biaya cloud (menurut survei CloudZero). Biaya cloud yang tidak dikelola segera menjadi tidak terkendali — 31% perusahaan — sebanding dengan bagian yang tidak secara formal mengelola biaya mereka — menderita dampak COGS yang signifikan, melaporkan bahwa biaya cloud mengonsumsi 11% atau lebih dari pendapatan mereka. Biaya AI yang tidak dikelola hanya akan memperburuk tren ini.

Hari ini, organisasi yang paling maju memperlakukan biaya cloud seperti pengeluaran besar lainnya, menghitung ROI-nya, memecah ROI tersebut berdasarkan dimensi bisnis yang paling kritis, dan memberdayakan anggota tim yang relevan dengan data yang dibutuhkan untuk mengoptimalkan ROI tersebut. Platform manajemen biaya cloud generasi berikutnya menawarkan alur kerja CUE yang komprehensif, membantu perusahaan menghindari tsunami COGS dan memperkuat viabilitas jangka panjang mereka, mengelola ROI-nya, memecah ROI tersebut berdasarkan dimensi bisnis yang paling kritis, dan memberdayakan anggota tim yang relevan dengan data yang dibutuhkan untuk mengoptimalkan ROI tersebut. Next-generation cloud cost management platforms offer a comprehensive CUE workflow, helping companies avoid the COGS tsunami and bolster long-term viability, mengelola ROI-nya, memecah ROI tersebut berdasarkan dimensi bisnis yang paling kritis, dan memberdayakan anggota tim yang relevan dengan data yang dibutuhkan untuk mengoptimalkan ROI tersebut.