Menghadapi Dominasi Nvidia: Strategi Pengembangan ML yang Lincah untuk Pemain Non-Big Tech (Di Tengah Tantangan Pasokan dan Biaya)

Membangun bisnis di antara pemain besar tidak pernah menjadi tugas yang mudah. Pada tahun 2023, persaingan di sektor AI mencapai tingkat yang belum pernah terjadi sebelumnya, didorong oleh kemajuan yang luar biasa. Peluncuran OpenAI GPT-4, integrasi ChatGPT dengan Bing, peluncuran Google Bard, dan peluncuran Meta Llama 2 yang kontroversial. Ini terdengar seperti daftar nama besar, bukan? Meskipun terdengar menarik, sebagian besar inovasi terletak di mana uang mengalir, dan persaingan yang dihadapi oleh pemain kecil semakin intens setiap hari.

Dalam lanskap industri teknologi yang terus berkembang, Nvidia (NVDA ) terus memperkuat posisinya sebagai pemain kunci di infrastruktur AI. Selama konferensi telepon laporan keuangan Agustus, Jensen Huang, Presiden NVIDIA, menekankan permintaan yang meningkat untuk prosesor Nvidia. Klaim ini didukung oleh konfirmasi dari data pendapatan presentasi investor Nvidia, yang menunjukkan kinerja tahun-ke-tahun yang impresif, terlihat sejak November YTD. Sementara itu, proyeksi Gartner menunjukkan peningkatan yang signifikan dalam pengeluaran chip selama empat tahun ke depan. Saat ini, tumpukan perangkat lunak dan prosesor Nvidia tidak tertandingi, meninggalkan industri yang tidak pasti tentang kapan kompetitor yang kredibel mungkin muncul.

Laporan terbaru dari Bloomberg dan Financial Times membeberkan negosiasi Sam Altman, CEO OpenAI, dengan investor Timur Tengah untuk memulai produksi chip, dengan tujuan mengurangi ketergantungan sektor AI pada chip Nvidia. Menantang Nvidia, dengan kapitalisasi pasar yang hampir $1,5 triliun, kemungkinan akan menelan biaya Altman antara $5 triliun dan $7 triliun dan memakan waktu beberapa tahun.

Namun, mengatasi efisiensi biaya model ML untuk bisnis adalah sesuatu yang perusahaan harus lakukan sekarang. Bagi perusahaan di luar ranah big tech, mengembangkan model ML yang efisien biaya lebih dari sekadar proses bisnis — ini adalah strategi kelangsungan hidup yang vital. Artikel ini menjelajahi empat strategi pragmatis yang memungkinkan perusahaan dari semua ukuran untuk mengembangkan model mereka tanpa investasi R&D yang luas dan tetap fleksibel untuk menghindari ketergantungan vendor.

Mengapa Nvidia Dominan di Pasar AI

Singkatnya, Nvidia telah menciptakan model alur kerja pelatihan yang ideal dengan mencapai sinergi antara GPU berkinerja tinggi dan tumpukan perangkat lunak pelatihan model proprietary, yaitu CUDA toolkit yang sangat terkenal.

CUDA (diperkenalkan pada tahun 2007) adalah toolkit dan API komputasi paralel yang komprehensif untuk memanfaatkan prosesor GPU Nvidia secara optimal. Alasan utama popularitasnya adalah kemampuan tak tertandingi untuk mempercepat komputasi matematika yang kompleks, yang sangat penting untuk pembelajaran dalam. Selain itu, CUDA menawarkan ekosistem yang kaya seperti cuDNN untuk jaringan saraf dalam, meningkatkan kinerja dan kemudahan penggunaan. Ini sangat penting bagi pengembang karena integrasi yang mulus dengan kerangka kerja pembelajaran dalam utama, memungkinkan pengembangan dan iterasi model yang cepat.

Kombinasi tumpukan perangkat lunak yang kuat dengan perangkat keras yang sangat efisien telah terbukti menjadi kunci untuk menguasai pasar. Meskipun beberapa orang berpendapat bahwa dominasi Nvidia mungkin merupakan fenomena sementara, sulit untuk membuat prediksi seperti itu dalam lanskap saat ini.

Biaya Berat dari Dominasi Nvidia

Nvidia memiliki keunggulan di bidang pengembangan mesin pembelajaran telah menimbulkan banyak kekhawatiran, tidak hanya di bidang etika tetapi juga dalam hal kesenjangan anggaran penelitian dan pengembangan, yang merupakan salah satu alasan mengapa memasuki pasar telah menjadi jauh lebih sulit bagi pemain kecil, apalagi startup. Tambahkan penurunan minat investor karena risiko yang lebih tinggi, dan tugas untuk memperoleh investasi R&D yang besar (seperti yang dimiliki Nvidia) menjadi mustahil, menciptakan lapangan yang sangat tidak merata.

Namun, ketergantungan yang kuat pada perangkat keras Nvidia menambah tekanan pada konsistensi rantai pasokan dan membuka risiko gangguan dan ketergantungan vendor, mengurangi fleksibilitas pasar dan meningkatkan hambatan memasuki pasar.

“Beberapa orang mengumpulkan dana untuk memastikan bahwa mereka tidak akan meninggalkan pengguna dalam keadaan terlantar. Di mana-mana, istilah teknis seperti ‘optimasi’ dan ‘ukuran model yang lebih kecil’ sangat populer karena perusahaan berusaha untuk mengurangi kebutuhan GPU mereka, dan investor tahun ini telah mempertaruhkan ratusan juta dolar pada startup yang membantu perusahaan menggunakannya. “

Kekurangan Chip Nvidia Meninggalkan Startup AI Menghadapi Keterbatasan Daya Komputasi Oleh Paresh Dave

Saat ini adalah waktu untuk mengadopsi pendekatan strategis, karena ini mungkin merupakan hal yang akan memberi perusahaan Anda kesempatan untuk berkembang di tengah pengaruh Nvidia yang luas dalam pengembangan ML.

Strategi yang Dapat Diadaptasi Pemain Non-Big Tech untuk Menghadapi Dominasi Nvidia:

1. Mulai Menjelajahi AMD’s RocM

AMD telah secara aktif mengecilkan kesenjangan pengembangan AI dengan NVIDIA, yang dicapai melalui dukungan konsisten untuk Rocm di perpustakaan utama PyTorch selama setahun terakhir. Upaya ini telah menghasilkan kompatibilitas dan kinerja yang lebih baik, yang ditunjukkan oleh chipset MI300, rilis terbaru AMD. MI300 telah menunjukkan kinerja yang kuat dalam tugas inferensi Model Bahasa Besar (LLM), terutama unggul dengan model seperti LLama-70b. Keberhasilan ini menekankan kemajuan signifikan dalam kekuatan pemrosesan dan efisiensi yang dicapai oleh AMD.

2. Cari Alternatif Perangkat Keras Lainnya

Selain kemajuan AMD, Google telah memperkenalkan Tensor Processing Units (TPU), perangkat keras khusus yang dirancang untuk mempercepat beban kerja pembelajaran mesin, menawarkan alternatif yang kuat untuk pelatihan model AI skala besar.

Di luar raksasa industri, pemain kecil namun berdampak seperti Graphcore dan Cerebras (CBRS ) membuat kontribusi yang signifikan pada ruang perangkat keras AI. Unit Pemrosesan Intelijen (IPU) Graphcore, yang dirancang untuk efisiensi dalam komputasi AI, telah mendapatkan perhatian karena potensinya dalam tugas berkinerja tinggi, seperti yang ditunjukkan oleh eksperimen Twitter. Cerebras, di sisi lain, mendorong batas dengan chip canggihnya, menekankan skalabilitas dan kekuatan komputasi mentah untuk aplikasi AI.

Upaya kolektif dari perusahaan ini menandai pergeseran menuju ekosistem perangkat keras AI yang lebih beragam. Diversifikasi ini menyajikan strategi yang layak untuk mengurangi ketergantungan pada Nvidia, memberikan pengembang dan peneliti berbagai platform untuk pengembangan AI.

3. Mulai Berinvestasi dalam Optimasi Kinerja

Selain menjelajahi alternatif perangkat keras, optimasi perangkat lunak terbukti menjadi faktor kunci dalam mengurangi dampak dominasi Nvidia. Dengan menggunakan algoritma yang efisien, mengurangi komputasi yang tidak perlu, dan menerapkan teknik pemrosesan paralel, pemain non-big tech dapat memaksimalkan kinerja model ML mereka pada perangkat keras yang ada, menawarkan pendekatan pragmatis untuk menjembatani kesenjangan tanpa hanya bergantung pada upgrade perangkat keras yang mahal.

Ilustrasi dari pendekatan ini ditemukan dalam teknologi AutoNAC Deci Ai. Inovasi ini telah menunjukkan kemampuan untuk mempercepat inferensi model sebesar faktor 3-10 kali, seperti yang dibuktikan oleh MLPerf Benchmark yang diakui secara luas. Dengan menunjukkan kemajuan seperti itu, menjadi jelas bahwa optimasi perangkat lunak dapat secara signifikan meningkatkan efisiensi pengembangan ML, menyajikan alternatif yang layak untuk mengurangi pengaruh dominasi Nvidia di bidang ini.

4. Mulai Berkolaborasi dengan Organisasi Lain untuk Membuat Kluster Terdesentralisasi

Pendekatan kolaboratif ini dapat melibatkan berbagi temuan penelitian, berinvestasi bersama dalam alternatif perangkat keras, dan mendorong pengembangan teknologi ML baru melalui proyek sumber terbuka. Dengan mendesentralisasi inferensi dan menggunakan sumber daya komputasi terdistribusi, pemain non-big tech dapat membuat lapangan yang lebih kompetitif dan menciptakan lanskap yang lebih kompetitif dalam industri pengembangan ML.

Hari ini, strategi berbagi sumber daya komputasi mendapatkan momentum di seluruh industri teknologi. Google Kubernetes Engine (GKE) merupakan contoh dengan mendukung multi-tenancy klaster, memungkinkan utilitas sumber daya yang efisien dan integrasi dengan layanan pihak ketiga. Trend ini lebih jelas dengan inisiatif komunitas seperti Petals, yang menawarkan jaringan terdistribusi untuk menjalankan model AI, membuat komputasi berdaya tinggi dapat diakses tanpa investasi yang signifikan. Selain itu, platform seperti Together.ai menyediakan akses serverless ke berbagai model sumber terbuka, memudahkan pengembangan dan mendorong kolaborasi. Dengan mempertimbangkan platform seperti itu, Anda dapat mengakses sumber daya komputasi dan kesempatan pengembangan kolaboratif, membantu mengoptimalkan proses pengembangan dan mengurangi biaya, terlepas dari ukuran organisasi.

Kesimpulan

Dalam skala global, kebutuhan akan strategi tersebut menjadi jelas. Ketika satu entitas mendominasi pasar, itu menghambat pengembangan dan menghalangi pembentukan harga yang wajar.

Pemain non-big tech dapat menghadapi dominasi Nvidia dengan menjelajahi alternatif seperti AMD’s RocM, berinvestasi dalam optimasi kinerja melalui algoritma yang efisien dan pemrosesan paralel, dan mendorong kolaborasi dengan organisasi lain untuk membuat kluster terdesentralisasi. Ini mempromosikan lanskap yang lebih beragam dan kompetitif dalam industri perangkat keras dan pengembangan AI, memungkinkan pemain kecil untuk memiliki suara dalam masa depan pengembangan AI.

Strategi ini bertujuan untuk mengurangi ketergantungan pada harga dan pasokan Nvidia, sehingga meningkatkan daya tarik investasi, meminimalkan risiko perlambatan pengembangan bisnis di tengah persaingan perangkat keras, dan mendorong pertumbuhan organik di seluruh industri.