Düşünce Liderleri

Her İşletme için Özel LLM’ler? DeepSeek Yol Gösteriyor

mm
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin

Bir zamanlar teknoloji çağrısı “herkese cep telefonları” idi ve gerçekten de mobil iletişim iş dünyasını ve dünyayı değiştirdi. Bugün, buna eşdeğer bir çağrı, herkesin AI uygulamalarına erişmesini sağlamaktır. Ancak AI’nin gerçek gücü, onu işletmelerin ve organizasyonların özel ihtiyaçları için kullanmaktır. Çinli startup DeepSeek’in açtığı yol, AI’nin herkes tarafından, özellikle de sınırlı bütçeye sahip olanlar tarafından, özel ihtiyaçlarını karşılamak için nasıl kullanılacağını gösteriyor. Aslında, daha düşük maliyetli AI’nin ortaya çıkması, AI çözümlerinin birçok küçük işletme ve organizasyon için maliyet gereksinimleri nedeniyle genellikle erişilemez olmasının derinlemesine yerleşmiş desenini değiştirecek gibi görünüyor.

LLM’ler pahalı bir girişimdi — ya da öyleydi, büyük miktarda veriye erişim, verileri işleyecek güçlü bilgisayarlar ve modeli eğitmek için zaman ve kaynaklar gerektirir. Ancak bu kurallar değişiyor. DeepSeek, kendi LLM’sini ve bir ChatGPT türü uygulamayı, benzer sistemleri Amerikalı ve Avrupalı şirketlerin inşa ettiği kadar büyük bir yatırım olmadan geliştirdi. DeepSeek’in yaklaşımı, milyarlar harcayamayacak küçük kuruluşlara LLM geliştirme konusunda yeni bir kapı açıyor. Aslında, çoğu küçük kuruluşun kendi özel amaçlarına hizmet edecek LLM’lerini geliştirebileceği gün uzak olmayabilir; bu modeller çoğu zaman ChatGPT gibi genel amaçlı LLM’lerden daha etkili bir çözüm sağlayabilir.

DeepSeek, gerçekten de gerçek maliyeti konusunda tartışmalar sürse de, sadece maliyet değil, onu ve benzer modelleri ayıran şey. Daha az gelişmiş çipler ve daha odaklanmış bir eğitim yaklaşımı kullandı. ABD ihracat kısıtlamalarına tabi bir Çin şirketi olarak, DeepSeek, genellikle LLM geliştirme için kullanılan gelişmiş Nvidia çiplerine erişemedi ve bu nedenle daha az güçlü Nvidia H-800 çiplerini ((NVDA )) kullanmak zorunda kaldı; bu çipler verileri aynı hız ve verimlilikle işleyemez.

Bu güç eksikliğini telafi etmek için DeepSeek, LLM geliştirme için farklı, daha odaklanmış ve doğrudan bir yaklaşım benimsedi. Bir modeli büyük miktarda veriyle beslemek ve hesaplama gücüne güvenmek yerine, DeepSeek eğitimini daralttı, küçük miktarda yüksek kaliteli “soğuk başlangıç” verisi kullandı ve IRL (iteratif pekiştirme öğrenimi; algoritma verileri farklı senaryolara uygulayıp bunlardan öğrenir) uyguladı. Bu odaklanmış yaklaşım, modelin daha hızlı öğrenmesini, daha az hata yapmasını ve daha az hesaplama gücünü boşa harcamasını sağlar.

Ebeveynlerin bir bebeğin belirli hareketlerine rehberlik ederek onun ilk kez başarıyla dönmesine yardımcı olması gibi — bebeği bunu kendi başına çözmeye bırakmak veya teoride dönmesine yardımcı olabilecek daha geniş bir hareket yelpazesi öğretmek yerine — daha odaklı AI modellerini eğiten veri bilimcileri de belirli görevler ve sonuçlar için en gerekli unsurlara yoğunlaşır. Bu tür modeller, daha geniş LLM’ler gibi ChatGPT kadar geniş bir uygulama alanı olmayabilir, ancak belirli uygulamalar için güvenilir olabilir ve bunları hassas ve verimli bir şekilde gerçekleştirebilir. DeepSeek’in eleştirmenleri bile, geliştirme yaklaşımının verimliliği önemli ölçüde artırdığını ve çok daha az kaynakla daha fazla şey yapmasını sağladığını kabul ediyor.

Bu yaklaşım, AI’ye en iyi girdileri vererek hedeflerine mümkün olan en akıllı ve verimli biçimde ulaşmasını sağlar ve kendi özel ihtiyaçları ile görevleri için bir LLM geliştirmek isteyen her kuruluş açısından değerli olabilir. Böyle bir yaklaşım küçük işletmeler ve kuruluşlar için giderek daha değerlidir. İlk adım, doğru veriyle başlamaktır. Örneğin, satış ve pazarlama ekiplerine yardımcı olmak için AI kullanmak isteyen bir şirket, modelini satış konuşmaları, stratejileri ve metriklerine odaklanan bir veriseti ile eğitmelidir. Bu, modelin gereksiz bilgilere zaman ve hesaplama gücünü boşa harcamasını engeller. Buna ek olarak eğitim, modelin bir sonraki göreve veya kavrama geçmeden önce her birinde ustalaşmasını sağlayacak biçimde aşamalar halinde yapılandırılmalıdır.

Birkaç ay önce anne olduğumdan beri öğrendiğim üzere bunun da bebek yetiştirmekle benzerlikleri vardır. Her iki durumda da rehberli, adım adım bir yaklaşım kaynak israfını önler ve sürtüşmeyi azaltır. Son olarak, bu yaklaşım hem bebek insanlarda hem de AI modellerinde, yinelemeli bir iyileşme sağlar. Bebek büyüdükçe veya model daha çok öğrendikçe yetenekleri gelişir. Bu da modellerin gerçek dünyadaki durumlarla daha iyi başa çıkması için iyileştirilip geliştirilmesine olanak tanır.

Bu yaklaşım, maliyetleri düşürür, AI projelerinin kaynak israfına dönüşmesini engeller ve küçük ekiplere ve organizasyonlara daha erişilebilir hale getirir. Ayrıca, AI modellerinin performansı daha hızlı gelişir ve modeller, gereksiz veriyle boğulmadığı için yeni bilgilere ve değişen iş ihtiyaçlarına uyum sağlamak için daha kolay ayarlanabilir; rekabetçi pazarlarda bu kritik önemdedir.

DeepSeek’in ve daha düşük maliyetli, daha verimli AI dünyasının ortaya çıkması, AI sektörü için genel olarak olumlu bir gelişmedir. AI’nin daha büyük verimliliği ve daha düşük maliyeti, en azından belirli uygulamalar için, AI’nin daha fazla kullanılmasına yol açacak ve bu da gelişimi, geliştiricilerden çip üreticilerine ve son kullanıcılara kadar herkes için sürdürecek. Aslında, DeepSeek, Jevons Paradoksunu gösteriyor – daha fazla verimlilik, bir kaynağın daha az kullanılmasına değil, daha fazla kullanılmasına yol açar. Bu eğilim devam edecek gibi görünüyor ve AI’yi özel ihtiyaçlarını karşılamak için kullanan küçük işletmeler, büyüme ve başarı için daha iyi bir konumda olacaklar.

Stav Levi-Neumark, Alta'nın CEO'su ve kurucu ortağıdır ve ürün yönetimi ve gelir büyümesi konusunda uzmanlaşmıştır. Daha önce Monday.com'da ilk çalışanlardan biri olarak, şirketin günlük operasyonları için kullanılan "BigBrain" adlı bir iç BI aracı geliştirmesine yardımcı olmuştur. Stav, Hebrew University of Jerusalem'den bilgisayar bilimi ve istatistik alanında lisans derecesine sahiptir.