Pemimpin pemikiran

LLM Kustom untuk Setiap Bisnis? DeepSeek Menunjukkan Jalan

mm
Tambahkan Unite.AI ke sumber pilihan Anda di Google

Dahulu kala, seruan teknologi adalah “ponsel untuk semua orang” – dan memang komunikasi mobile telah merevolusi bisnis (dan dunia). Hari ini, seruan yang setara dengan itu adalah memberikan akses kepada semua orang ke aplikasi AI. Namun, kekuatan sebenarnya dari AI terletak pada menggunakannya untuk kebutuhan spesifik bisnis dan organisasi. Jalan yang dibuka oleh startup Tiongkok DeepSeek menunjukkan bagaimana AI dapat digunakan oleh semua orang, terutama mereka dengan anggaran terbatas, untuk memenuhi kebutuhan spesifik mereka. Memang, kedatangan AI dengan biaya lebih rendah berjanji untuk mengubah pola yang telah lama ada dari solusi AI yang sering tetap tidak terlihat bagi banyak bisnis kecil dan organisasi karena persyaratan biaya.

LLM adalah – atau dulunya – sebuah usaha yang mahal, yang memerlukan akses ke sejumlah besar data, sejumlah besar komputer kuat untuk memproses data, dan waktu serta sumber daya yang diinvestasikan dalam pelatihan model. Namun, aturan tersebut sedang berubah. Dengan beroperasi pada anggaran yang sangat terbatas, DeepSeek mengembangkan LLM-nya sendiri, dan aplikasi tipe ChatGPT untuk pertanyaan – dengan investasi yang jauh lebih kecil daripada yang digunakan oleh perusahaan Amerika dan Eropa. Pendekatan DeepSeek membuka jendela bagi pengembangan LLM untuk organisasi yang lebih kecil yang tidak memiliki miliaran untuk dihabiskan. Memang, hari itu mungkin tidak jauh ketika sebagian besar organisasi kecil dapat mengembangkan LLM mereka sendiri untuk tujuan spesifik mereka, biasanya menyediakan solusi yang lebih efektif daripada LLM umum seperti ChatGPT.

Sementara perdebatan masih berlangsung tentang biaya sebenarnya dari DeepSeek, itu tidak hanya biaya yang membedakannya dan model serupa: itu adalah fakta bahwa mereka mengandalkan chip yang kurang maju dan pendekatan yang lebih fokus untuk pelatihan. Sebagai perusahaan Tiongkok yang tunduk pada pembatasan ekspor AS, DeepSeek tidak dapat mengakses chip Nvidia yang maju yang biasanya digunakan untuk komputasi berat yang diperlukan untuk pengembangan LLM, dan karenanya terpaksa menggunakan chip Nvidia H-800 yang kurang kuat (NVDA ), yang tidak dapat memproses data secepat atau seefisien.

Untuk mengkompensasi kekurangan daya tersebut, DeepSeek mengambil pendekatan yang berbeda, lebih fokus dan langsung untuk pengembangan LLM-nya. Alih-alih melemparkan gunung data ke model dan mengandalkan kekuatan komputasi untuk melabeli dan menerapkan data, DeepSeek mempersempit pelatihan, menggunakan sejumlah kecil data “cold-start” berkualitas tinggi dan menerapkan IRL (pembelajaran penguatan iteratif, dengan algoritma menerapkan data ke skenario yang berbeda dan belajar dari itu). Pendekatan yang fokus ini memungkinkan model untuk belajar lebih cepat, dengan lebih sedikit kesalahan dan lebih sedikit daya komputasi yang terbuang.

Mirip dengan bagaimana orang tua mungkin membimbing gerakan spesifik bayi, membantunya berguling dengan sukses untuk pertama kalinya – alih-alih meninggalkan bayi untuk mencari tahu sendiri, atau mengajarkan bayi berbagai gerakan yang dapat membantu berguling – ilmuwan data yang melatih model AI yang lebih fokus ini memperhatikan apa yang paling dibutuhkan untuk tugas dan hasil tertentu. Model-model seperti itu mungkin tidak memiliki aplikasi yang luas seperti LLM yang lebih besar seperti ChatGPT, tetapi mereka dapat diandalkan untuk aplikasi spesifik, dan melaksanakan tugas tersebut dengan presisi dan efisiensi. Bahkan kritikus DeepSeek mengakui bahwa pendekatan yang dipercepat untuk pengembangan secara signifikan meningkatkan efisiensi, memungkinkan mereka untuk melakukan lebih banyak dengan jauh lebih sedikit.

Pendekatan ini adalah tentang memberikan AI input terbaik sehingga dapat mencapai tonggaknya dengan cara yang paling cerdas dan efisien, dan dapat bernilai bagi organisasi mana pun yang ingin mengembangkan LLM untuk kebutuhan dan tugas spesifik mereka. Pendekatan seperti itu semakin berharga bagi bisnis kecil dan organisasi. Langkah pertama adalah memulai dengan data yang tepat. Misalnya, perusahaan yang ingin menggunakan AI untuk membantu tim penjualan dan pemasaran mereka harus melatih model mereka pada dataset yang dipilih dengan hati-hati yang fokus pada percakapan penjualan, strategi, dan metrik. Ini menjaga model dari membuang waktu dan daya komputasi pada informasi yang tidak relevan. Selain itu, pelatihan perlu diatur dalam tahap, memastikan model menguasai setiap tugas atau konsep sebelum beralih ke yang berikutnya.

Ini juga memiliki paralel dalam membesarkan bayi, seperti yang saya pelajari sendiri sejak menjadi ibu beberapa bulan yang lalu. Dalam kedua skenario, pendekatan yang terarah dan bertahap menghindari pemborosan sumber daya dan mengurangi gesekan. Akhirnya, pendekatan seperti itu dengan baik bayi manusia dan model AI menghasilkan perbaikan iteratif. Ketika bayi tumbuh, atau model belajar lebih banyak, kemampuan mereka meningkat. Ini berarti model dapat diperbarui dan ditingkatkan untuk menangani situasi dunia nyata dengan lebih baik.

Pendekatan ini menjaga biaya tetap rendah, mencegah proyek AI menjadi sumber daya yang terbuang, membuatnya lebih mudah diakses oleh tim dan organisasi yang lebih kecil. Ini juga mengarah pada kinerja model AI yang lebih baik dan lebih cepat; dan, karena model tidak kelebihan beban dengan data yang tidak perlu, mereka juga dapat disesuaikan untuk beradaptasi dengan informasi baru dan kebutuhan bisnis yang berubah – kunci dalam pasar yang kompetitif.

Kedatangan DeepSeek dan dunia AI yang lebih efisien dan lebih murah – meskipun awalnya menyebar kepanikan di seluruh dunia AI dan pasar saham – secara keseluruhan adalah perkembangan yang positif bagi sektor AI. Efisiensi dan biaya AI yang lebih rendah, setidaknya untuk aplikasi tertentu, pada akhirnya akan menghasilkan lebih banyak penggunaan AI secara umum, yang mendorong pertumbuhan bagi semua orang, dari pengembang hingga pembuat chip hingga pengguna akhir. Memang, DeepSeek menggambarkan Paradoks Jevons – di mana efisiensi yang lebih besar kemungkinan akan menghasilkan lebih banyak penggunaan sumber daya, bukan lebih sedikit. Ketika tren ini tampaknya akan berlanjut, bisnis kecil yang fokus menggunakan AI untuk memenuhi kebutuhan spesifik mereka juga akan lebih siap untuk pertumbuhan dan kesuksesan.

Stav Levi-Neumark adalah CEO & Co-founder dari Alta dan ahli dalam manajemen produk dan pertumbuhan pendapatan. Sebelumnya, dia adalah salah satu karyawan pertama di Monday.com, di mana dia membantu mengembangkan "BigBrain", sebuah alat BI internal yang digunakan untuk operasi perusahaan sehari-hari. Stav memegang gelar BS.c di ilmu komputer dan statistik dari Universitas Ibrani Yerusalem.