Menghadapi Dominasi Nvidia: Strategi Pengembangan ML yang Agile untuk Pemain Non-Teknologi Besar (Di Tengah Tantangan Pasokan dan Biaya)

Membangun bisnis di antara para pemain besar bukanlah tugas yang mudah. Pada tahun 2023, persaingan di sektor AI mencapai tingkat yang belum pernah terjadi sebelumnya, didorong oleh terobosan-terobosan nyata dan menakjubkan. Rilis OpenAI GPT-4, Integrasi ChatGPT dengan Bing, peluncuran Google Penyair, dan “sumber terbuka” Meta yang kontroversial  Lama 2 melepaskan. Kedengarannya seperti daftar nama-nama besar yang panjang, bukan? Meski terdengar menarik, sebagian besar inovasi terletak pada aliran uang, dan persaingan yang harus dihadapi oleh para pemain teknologi skala kecil semakin ketat dari hari ke hari.

Dalam lanskap industri teknologi yang terus berkembang, Nvidia terus memperkuat posisinya sebagai pemain kunci dalam infrastruktur AI. Selama suatu Telekonferensi laporan keuangan bulan Agustus, Jensen Huang, Presiden NVIDIA, menyoroti melonjaknya permintaan prosesor Nvidia. Klaim ini didukung oleh konfirmasi dari Kuartal 3 Nvidia Masuk r Presentasi data pendapatan, yang menunjukkan rekor kinerja tahun-ke-tahun yang mengesankan, terbukti sejak bulan November YTD. Sementara itu, proyeksi Gartner menunjukkan peningkatan signifikan dalam belanja chip selama empat tahun ke depan. Saat ini, perangkat lunak dan prosesor Nvidia tidak ada tandingannya, sehingga industri tidak yakin kapan pesaing yang kredibel akan muncul.

Laporan terbaru dari Bloomberg dan Financial Times menjelaskan negosiasi Sam Altman, CEO OpenAI, dengan investor Timur Tengah untuk memulai produksi chip, yang bertujuan untuk mengurangi ketergantungan sektor AI pada chip Nvidia. Menantang Nvidia, dengan kapitalisasi pasar hampir $1.5 triliun, kemungkinan akan merugikan Altman $5 triliun dan $7 triliun dan memakan waktu beberapa tahun.

Meskipun demikian, mengatasi efektivitas biaya model ML untuk bisnis adalah sesuatu yang harus dilakukan perusahaan saat ini. Bagi bisnis di luar teknologi besar, mengembangkan model ML yang hemat biaya lebih dari sekadar proses bisnis — ini adalah strategi kelangsungan hidup yang penting. Artikel ini mengeksplorasi empat strategi pragmatis yang memberdayakan bisnis dari semua ukuran untuk mengembangkan model mereka tanpa investasi penelitian dan pengembangan yang besar dan tetap fleksibel untuk menghindari vendor lock-in.

Mengapa Nvidia Mendominasi Pasar AI

Singkat cerita, Nvidia telah menciptakan alur kerja pelatihan model yang ideal dengan mencapai sinergi antara GPU berperforma tinggi dan tumpukan perangkat lunak pelatihan model miliknya, perangkat CUDA yang diakui secara luas.

CUDA (diperkenalkan pada tahun 2007) adalah perangkat komputasi paralel dan API yang komprehensif untuk memanfaatkan prosesor GPU Nvidia secara optimal. Alasan utama mengapa ini begitu populer adalah kemampuannya yang tak tertandingi dalam mempercepat komputasi matematis yang kompleks, yang sangat penting untuk pembelajaran mendalam. Selain itu, ia menawarkan ekosistem yang kaya seperti cuDNN untuk jaringan saraf dalam, meningkatkan kinerja dan kemudahan penggunaan. Hal ini penting bagi pengembang karena integrasinya yang lancar dengan kerangka pembelajaran mendalam utama, sehingga memungkinkan pengembangan dan iterasi model secara cepat.

Kombinasi perangkat lunak yang kuat dengan perangkat keras yang sangat efisien telah terbukti menjadi kunci untuk merebut pasar. Meskipun beberapa orang berpendapat bahwa dominasi Nvidia mungkin hanya fenomena sementara, sulit untuk membuat prediksi seperti itu dalam kondisi saat ini.

Kerugian Besar dari Dominasi Nvidia

Keunggulan Nvidia dalam bidang pengembangan pembelajaran mesin telah menimbulkan banyak kekhawatiran, tidak hanya di bidangnya etis tetapi juga sehubungan dengan melebarnya kesenjangan anggaran penelitian dan pengembangan, yang merupakan salah satu alasan mengapa memasuki pasar menjadi jauh lebih sulit bagi pemain kecil, apalagi startup. Ditambah lagi dengan menurunnya minat investor karena risiko yang lebih tinggi, dan tugas untuk memperoleh penelitian dan pengembangan yang besar (seperti yang dimiliki Nvidia) investasi menjadi mustahil, menciptakan lapangan bermain yang sangat, sangat tidak merata.

Namun, ketergantungan yang besar pada perangkat keras Nvidia memberikan tekanan yang lebih besar pada konsistensi rantai pasokan dan membuka risiko gangguan dan penguncian vendor, sehingga mengurangi fleksibilitas pasar dan meningkatkan hambatan masuk pasar.

"Beberapa perusahaan mengumpulkan uang tunai untuk memastikan bahwa mereka tidak meninggalkan pengguna dalam kesulitan. Di mana-mana, istilah teknik seperti 'optimasi' dan 'ukuran model yang lebih kecil' sedang populer ketika perusahaan mencoba mengurangi kebutuhan GPU mereka, dan investor tahun ini telah mempertaruhkan ratusan juta dolar pada startup yang perangkat lunaknya membantu perusahaan memenuhi kebutuhan GPU mereka. aku punya.”

Kekurangan Chip Nvidia Membuat Startup AI Berebut Kekuatan Komputasi Oleh Paresh Dave

Sekaranglah waktunya untuk mengadopsi pendekatan strategis, karena pendekatan ini mungkin merupakan hal yang akan memberikan peluang bagi perusahaan Anda untuk berkembang di tengah pengaruh luas Nvidia dalam pengembangan ML.

Strategi yang Dapat Diadaptasi oleh Pemain Non-Teknologi Besar terhadap Dominasi Nvidia:

1. Mulai jelajahi RocM AMD 

AMD telah secara aktif mempersempit kesenjangan pengembangan AI dengan NVIDIA, sebuah prestasi yang dicapai melalui dukungan konsisten untuk Rocm in Perpustakaan utama PyTorch selama setahun terakhir. Upaya berkelanjutan ini telah menghasilkan peningkatan kompatibilitas dan kinerja, yang ditunjukkan secara jelas oleh chipset MI300, rilis terbaru AMD. MI300 telah menunjukkan kinerja yang kuat dalam tugas inferensi Model Bahasa Besar (LLM), khususnya unggul dengan model seperti LLama-70b. Keberhasilan ini menggarisbawahi kemajuan signifikan dalam kekuatan pemrosesan dan efisiensi yang dicapai oleh AMD.

2. Temukan alternatif perangkat keras lainnya

Selain langkah AMD, Google telah memperkenalkan Tensor Processing Unit (TPU), perangkat keras khusus yang dirancang secara eksplisit untuk mempercepat beban kerja pembelajaran mesin, menawarkan alternatif yang kuat untuk melatih model AI skala besar.

Selain raksasa industri ini, pemain kecil namun berpengaruh seperti Graphcore dan Cerebras juga memberikan kontribusi penting pada bidang perangkat keras AI. Unit Pemrosesan Intelijen (IPU) Graphcore, yang dirancang untuk efisiensi dalam komputasi AI, telah menarik perhatian karena potensinya dalam tugas-tugas berkinerja tinggi, seperti yang ditunjukkan oleh Eksperimen Twitter. Cerebras, di sisi lain, adalah mendorong batasan dengan chip canggihnya, menekankan skalabilitas dan kekuatan komputasi mentah untuk aplikasi AI.

Upaya kolektif yang dilakukan perusahaan-perusahaan ini menandakan peralihan menuju ekosistem perangkat keras AI yang lebih beragam. Diversifikasi ini menghadirkan strategi yang layak untuk mengurangi ketergantungan pada NVIDIA, memberikan pengembang dan peneliti platform yang lebih luas untuk pengembangan AI.

3. Mulai berinvestasi dalam optimalisasi kinerja

Selain mengeksplorasi alternatif perangkat keras, mengoptimalkan perangkat lunak terbukti menjadi faktor penting dalam mengurangi dampak dominasi Nvidia. Dengan memanfaatkan algoritme yang efisien, mengurangi komputasi yang tidak perlu, dan menerapkan teknik pemrosesan paralel, pemain non-teknologi besar dapat memaksimalkan performa model ML mereka pada perangkat keras yang ada, menawarkan pendekatan pragmatis untuk menjembatani kesenjangan tanpa hanya bergantung pada upgrade perangkat keras yang mahal.

Sebuah ilustrasi dari pendekatan ini ditemukan dalam teknologi AutoNAC Deci Ai. Inovasi ini telah menunjukkan kemampuan untuk mempercepat inferensi model sebesar 3-10 kali lipat, sebagaimana dibuktikan oleh teori yang diakui secara luas. Tolok Ukur MLPerf. Dengan menunjukkan kemajuan tersebut, menjadi jelas bahwa pengoptimalan perangkat lunak dapat meningkatkan efisiensi pengembangan ML secara signifikan, sehingga menghadirkan alternatif yang layak untuk memitigasi pengaruh dominasi Nvidia di bidang tersebut.

4. Mulai berkolaborasi dengan organisasi lain untuk menciptakan klaster yang terdesentralisasi

Pendekatan kolaboratif ini dapat melibatkan berbagi temuan penelitian, berinvestasi bersama pada opsi perangkat keras alternatif, dan mendorong pengembangan teknologi ML baru melalui proyek sumber terbuka. Dengan mendesentralisasikan inferensi dan memanfaatkan sumber daya komputasi terdistribusi, pemain non-teknologi besar dapat menyamakan kedudukan dan menciptakan lanskap yang lebih kompetitif dalam industri pengembangan ML.

Saat ini, strategi berbagi sumber daya komputasi mendapatkan momentum di industri teknologi. Google Kubernetes Engine (GKE) mencontohkan hal ini dengan mendukung multi-tenancy cluster, memungkinkan pemanfaatan sumber daya yang efisien dan integrasi dengan layanan pihak ketiga. Tren ini dibuktikan lebih lanjut oleh inisiatif yang dipimpin komunitas seperti Petals, yang menawarkan jaringan terdistribusi untuk menjalankan model AI, sehingga komputasi berdaya tinggi dapat diakses tanpa investasi besar. Selain itu, platform seperti Together.ai menyediakan akses tanpa server ke beragam model sumber terbuka, menyederhanakan pengembangan, dan mendorong kolaborasi. Mengingat platform semacam itu memungkinkan Anda mengakses sumber daya komputasi dan peluang pengembangan kolaboratif, membantu mengoptimalkan proses pengembangan dan mengurangi biaya, berapa pun ukuran organisasinya.

Kesimpulan  

Dalam skala global, perlunya strategi-strategi yang disebutkan di atas menjadi jelas. Ketika satu entitas mendominasi pasar, hal tersebut menghambat pembangunan dan menghambat penetapan harga yang wajar.

Pemain non-teknologi besar dapat melawan dominasi Nvidia dengan mengeksplorasi alternatif seperti RocM AMD, berinvestasi dalam optimalisasi kinerja melalui algoritma yang efisien dan pemrosesan paralel, dan membina kolaborasi dengan organisasi lain untuk menciptakan cluster yang terdesentralisasi. Hal ini mendorong lanskap yang lebih beragam dan kompetitif dalam industri perangkat keras dan pengembangan AI, sehingga memungkinkan pemain kecil untuk mempunyai suara di masa depan pengembangan AI.

Strategi-strategi ini bertujuan untuk mengurangi ketergantungan pada harga dan pasokan Nvidia, sehingga meningkatkan daya tarik investasi, meminimalkan risiko perlambatan pengembangan bisnis di tengah persaingan perangkat keras, dan mendorong pertumbuhan organik di seluruh industri.