Apa yang Dapat Dipelajari dari DeepSeek tentang Biaya dan Efisiensi AI

Dengan logo paus yang imut, peluncuran DeepSeek baru-baru ini bisa saja berakhir sebagai tiruan ChatGPT lainnya. Yang membuatnya layak diberitakan – dan yang membuat saham kompetitor jatuh – adalah biaya yang relatif rendah untuk menciptakannya. Ini secara efektif melemparkan kunci pas ke dalam konsep investasi yang dibutuhkan untuk melatih Model Bahasa Besar (LLM) yang berfungsi tinggi di Amerika Serikat.

DeepSeek dilaporkan menghabiskan hanya $6 juta untuk melatih model AI-nya. Bandingkan ini dengan biaya yang dilaporkan sebesar $80-$100 juta yang dikeluarkan OpenAI untuk Chat GPT-4 atau $1 miliar yang mereka siapkan untuk GPT-5. DeepSeek mempertanyakan tingkat investasi tersebut dan meninggalkan pemain besar seperti Nvidia (NVDA ) – yang nilai sahamnya jatuh $600 miliar dalam satu hari – TSMC dan Microsoft (MSFT ) khawatir tentang viabilitas keuangan jangka panjang AI. Jika memungkinkan untuk melatih model AI dengan biaya yang jauh lebih rendah dari yang sebelumnya diasumsikan, apa yang ditunjukkannya untuk pengeluaran AI secara keseluruhan?

Meskipun gangguan yang disebabkan oleh DeepSeek telah memicu diskusi penting, beberapa poin kunci tampaknya hilang dalam keributan. Namun, apa yang dibawa oleh berita ini adalah fokus yang lebih besar pada berapa banyak biaya inovasi dan dampak ekonomi yang mungkin dari AI. Berikut adalah tiga wawasan penting yang muncul dari berita ini:

1. Tag Harga $6 Juta DeepSeek Menyesatkan

Perusahaan perlu memahami biaya total kepemilikan infrastruktur mereka (TCO). Meskipun tag harga $6 juta DeepSeek banyak dibicarakan, itu mungkin hanya biaya untuk pra-pelatihan dan bukan investasi totalnya. Biaya total – tidak hanya untuk menjalankan, tetapi juga untuk membangun dan melatih DeepSeek – kemungkinan jauh lebih tinggi. Firma analis industri SemiAnalysis mengungkapkan bahwa perusahaan di balik DeepSeek menghabiskan $1,6 miliar untuk perangkat keras untuk membuat LLM-nya menjadi kenyataan. Jadi, biaya yang sebenarnya kemungkinan ada di tengah-tengah.

Apapun biaya yang sebenarnya, kedatangan DeepSeek telah menciptakan fokus pada inovasi yang efisien biaya yang bisa bertransformasi. Inovasi sering dipicu oleh keterbatasan, dan kesuksesan DeepSeek menekankan cara inovasi dapat terjadi ketika tim rekayasa mengoptimalkan sumber daya mereka dalam menghadapi keterbatasan dunia nyata.

2. Inferensi Adalah yang Membuat AI Bernilai, Bukan Pelatihan

Penting untuk memperhatikan berapa banyak biaya pelatihan model AI, tetapi pelatihan hanya mewakili sebagian kecil dari biaya total untuk membangun dan menjalankan model AI. Inferensi — cara-cara AI mengubah cara orang bekerja, berinteraksi, dan hidup — adalah di mana AI menjadi benar-benar berharga.

Ini mengangkat paradoks Jevons, sebuah teori ekonomi yang menyatakan bahwa ketika kemajuan teknologi membuat penggunaan sumber daya lebih efisien, konsumsi sumber daya secara keseluruhan mungkin sebenarnya meningkat. Dengan kata lain, ketika biaya pelatihan menurun, inferensi dan konsumsi agen akan meningkat, dan pengeluaran secara keseluruhan akan mengikuti.

Efisiensi AI mungkin, pada kenyataannya, menyebabkan peningkatan pengeluaran AI, yang seharusnya meningkatkan semua perusahaan, tidak hanya perusahaan Tiongkok. Dengan asumsi mereka mengikuti gelombang efisiensi, perusahaan seperti OpenAI dan Nvidia juga akan diuntungkan.

3. Yang Tetap Benar adalah bahwa Ekonomi Unit Paling Penting

Membuat AI lebih efisien tidak hanya tentang menurunkan biaya; itu juga tentang mengoptimalkan ekonomi unit. The Motley Fool meramalkan bahwa tahun ini akan menjadi tahun efisiensi AI. Jika mereka benar, perusahaan harus memperhatikan untuk menurunkan biaya pelatihan AI mereka serta biaya konsumsi AI.

Organisasi yang membangun atau menggunakan AI perlu mengetahui ekonomi unit mereka daripada hanya memilih angka-angka yang mengesankan seperti biaya pelatihan $6 juta DeepSeek. Efisiensi nyata melibatkan alokasi semua biaya, pelacakan permintaan yang dipicu AI, dan pemantauan konstan terhadap rasio biaya-ke-nilai.

Ekonomi unit awan (CUE) berkaitan dengan mengukur dan memaksimalkan keuntungan yang dipicu oleh awan. CUE membandingkan biaya awan Anda dengan metrik pendapatan dan permintaan, mengungkapkan seberapa efisien pengeluaran awan Anda, bagaimana itu berubah dari waktu ke waktu, dan (jika Anda memiliki platform yang tepat) cara-cara terbaik untuk meningkatkan efisiensi tersebut.

Memahami CUE memiliki utilitas yang lebih besar dalam konteks AI, mengingat itu secara inheren lebih mahal untuk dikonsumsi daripada layanan awan tradisional yang dijual oleh hyperscalers. Perusahaan yang membangun aplikasi agen bisa menghitung biaya per transaksi (misalnya biaya per tagihan, biaya per pengiriman, biaya per transaksi, dll.) dan menggunakan ini untuk menilai return on investment dari layanan, produk, dan fitur yang dipicu AI secara spesifik. Ketika pengeluaran AI meningkat, perusahaan akan dipaksa untuk melakukan ini; tidak ada perusahaan yang bisa melemparkan uang tak terbatas ke inovasi eksperimental selamanya. Pada akhirnya, itu harus masuk akal dari sisi bisnis.

Menuju Efisiensi yang Lebih Baik

Bagaimanapun bermaknanya angka $6 juta, DeepSeek mungkin telah menyediakan momen penting yang membangunkan industri teknologi akan pentingnya efisiensi yang tak terhindarkan. Mari kita harap ini membuka pintu banjir untuk pelatihan yang efisien biaya, inferensi, dan aplikasi agen yang membuka potensi sebenarnya dan ROI dari AI.