Bagaimana DeepSeek Menghancurkan Hambatan Biaya dengan $5,6M

Kebijaksanaan AI konvensional menyarankan bahwa membangun model bahasa besar (LLM) memerlukan kantong yang dalam – biasanya miliaran dalam investasi. Namun, DeepSeek, sebuah startup AI Tiongkok, baru saja menghancurkan paradigma tersebut dengan pencapaian terbaru mereka: mengembangkan model AI kelas dunia dengan hanya $5,6 juta.

Model V3 DeepSeek dapat bersaing dengan raksasa industri seperti Gemini Google (GOOGL ) dan penawaran terbaru OpenAI, semua sambil menggunakan sebagian kecil dari sumber daya komputasi yang biasa. Pencapaian ini menarik perhatian banyak pemimpin industri, dan apa yang membuat ini sangat luar biasa adalah bahwa perusahaan ini mencapai ini meskipun menghadapi pembatasan ekspor AS yang membatasi akses mereka ke chip Nvidia terbaru (NVDA ).

Ekonomi AI yang Efisien

Angka-angka tersebut menceritakan kisah efisiensi yang kuat. Sementara sebagian besar model AI canggih memerlukan antara 16.000 dan 100.000 GPU untuk pelatihan, DeepSeek berhasil dengan hanya 2.048 GPU yang berjalan selama 57 hari. Pelatihan model ini mengonsumsi 2,78 juta jam GPU pada chip Nvidia H800 – sangat modest untuk model 671 miliar parameter.

Untuk memahami ini, Meta memerlukan sekitar 30,8 juta jam GPU – sekitar 11 kali lebih banyak daya komputasi – untuk melatih model Llama 3, yang sebenarnya memiliki parameter yang lebih sedikit yaitu 405 miliar. Pendekatan DeepSeek menyerupai masterclass dalam optimasi di bawah kendala. Bekerja dengan GPU H800 – chip AI yang dirancang oleh Nvidia khusus untuk pasar Tiongkok dengan kemampuan yang berkurang – perusahaan ini mengubah keterbatasan potensial menjadi inovasi. Daripada menggunakan solusi siap pakai untuk komunikasi prosesor, mereka mengembangkan solusi khusus yang memaksimalkan efisiensi.

Sementara kompetitor terus beroperasi di bawah asumsi bahwa investasi besar diperlukan, DeepSeek menunjukkan bahwa kecerdasan dan penggunaan sumber daya yang efisien dapat meratakan lapangan permainan.

Gambar: Artificial Analysis

Mengembangkan yang Mustahil

Prestasi DeepSeek terletak pada pendekatan teknis inovatifnya, menunjukkan bahwa terkadang terobosan paling berdampak datang dari bekerja dalam keterbatasan daripada melemparkan sumber daya tak terbatas ke dalam suatu masalah.

Di jantung inovasi ini terdapat strategi yang disebut “auxiliary-loss-free load balancing.” Bayangkan ini seperti mengatur sistem pemrosesan paralel besar di mana biasanya Anda memerlukan aturan dan hukuman yang kompleks untuk menjaga semuanya berjalan lancar. DeepSeek membalikkan kebijaksanaan konvensional ini, mengembangkan sistem yang secara alami mempertahankan keseimbangan tanpa overhead dari pendekatan tradisional.

Tim juga mempelopori apa yang mereka sebut “Multi-Token Prediction” (MTP) – suatu teknik yang memungkinkan model untuk memikirkan lebih jauh dengan memprediksi beberapa token sekaligus. Dalam praktiknya, ini diterjemahkan menjadi tingkat penerimaan yang mengesankan sebesar 85-90% untuk prediksi ini di berbagai topik, memberikan kecepatan pemrosesan 1,8 kali lebih cepat daripada pendekatan sebelumnya.

Arsitektur teknis itu sendiri adalah karya agung efisiensi. Model V3 DeepSeek menggunakan pendekatan campuran-ahli dengan total 671 miliar parameter, tetapi bagian yang cerdas adalah bahwa hanya 37 miliar diaktifkan untuk setiap token. Aktivasi selektif ini berarti mereka mendapatkan manfaat dari model besar sambil mempertahankan efisiensi praktis.

Pilihan mereka untuk kerangka pelatihan presisi campuran FP8 adalah lompatan besar lainnya. Daripada menerima keterbatasan presisi yang berkurang, mereka mengembangkan solusi khusus yang mempertahankan akurasi sambil secara signifikan mengurangi memori dan persyaratan komputasi.

Efek Gelombang di Ekosistem AI

Dampak dari pencapaian DeepSeek bergema jauh melampaui satu model yang sukses.

Untuk pengembangan AI Eropa, terobosan ini sangat signifikan. Banyak model canggih tidak masuk ke UE karena perusahaan seperti Meta dan OpenAI tidak dapat atau tidak mau menyesuaikan diri dengan Undang-Undang AI UE. Pendekatan DeepSeek menunjukkan bahwa membangun AI canggih tidak selalu memerlukan klaster GPU besar – lebih tentang menggunakan sumber daya yang tersedia secara efisien.

Pengembangan ini juga menunjukkan bagaimana pembatasan ekspor dapat benar-benar mengarah pada inovasi. Akses terbatas DeepSeek ke perangkat keras canggih memaksa mereka untuk berpikir berbeda, menghasilkan optimasi perangkat lunak yang mungkin tidak pernah muncul dalam lingkungan yang kaya sumber daya. Prinsip ini bisa mengubah cara kita mengembangkan AI secara global.

Implikasi demokratisasi sangat mendalam. Sementara raksasa industri terus membakar miliaran, DeepSeek telah menciptakan cetakan biru untuk pengembangan AI yang efisien dan terjangkau. Ini bisa membuka pintu bagi perusahaan kecil dan lembaga penelitian yang sebelumnya tidak dapat bersaing karena keterbatasan sumber daya.

Namun, ini tidak berarti infrastruktur komputasi skala besar menjadi usang. Industri ini beralih fokus ke waktu inferensi – berapa lama model membutuhkan untuk menghasilkan jawaban. Ketika tren ini berlanjut, sumber daya komputasi yang signifikan masih akan diperlukan, mungkin bahkan lebih banyak seiring waktu.

Tapi DeepSeek telah mengubah percakapan. Implikasi jangka panjang sangat jelas: kita memasuki era di mana pemikiran inovatif dan penggunaan sumber daya yang efisien bisa lebih penting daripada kekuatan komputasi murni. Bagi komunitas AI, ini berarti fokus tidak hanya pada sumber daya yang kita miliki, tetapi pada bagaimana kita menggunakan sumber daya tersebut dengan kreatif dan efisien.