Büyük Dil Modelleri (LLM) Geleceğin Uygulamalarını Nasıl Güçlendirecek

Yaratıcı AI ve özellikle dil-flavörü – ChatGPT her yerde. Büyük Dil Modeli (LLM) teknolojisi, gelecekteki uygulamaların geliştirilmesinde önemli bir rol oynayacak. LLM’ler, geniş çaplı ön eğitime tabi tutuldukları için dil anlama konusunda çok iyiler. Bu ön eğitim, milyarlarca satırlık kamu malı metinleri, kod dahil olmak üzere, temel modeller için yapılmıştır. Denetimli fine-tuning ve insan geribildirimi ile takviye edilmiş öğrenme (RLHF) gibi yöntemler, bu LLM’leri belirli sorulara cevap verme ve kullanıcılarla sohbet etme konusunda daha da verimli hale getirir. LLM’ler ile güçlendirilen AI uygulamalarının bir sonraki aşamasına girerken, aşağıdaki ana bileşenler kritik olacaktır. Aşağıdaki şekil, bu ilerlemeyi gösterir ve zincir boyunca ilerledikçe, uygulamalarınızda daha fazla zeka ve otonomi oluşturursunuz. Bu farklı seviyelere bir göz atalım.

LLM Çağrıları:

Bu, Azure OpenAI veya Google PaLM gibi bir LLM sağlayıcısı tarafından doğrudan tamamlama veya sohbet modellerine yapılan çağrılardır. Bu çağrılarda çok temel bir.prompt vardır ve genellikle LLM’nin dahili belleği çıkış üretmek için kullanılır.

Örnek: Temel bir model gibi “text-davinci”e “bir şaka anlat” diye sormak. Çok az bağlam verirsiniz ve model, dahili ön-eğitimli belleğine dayanarak bir cevap üretir (aşağıdaki şekildeki Azure OpenAI’de yeşille vurgulanmıştır).

Prompt’lar:

Zekanın bir sonraki seviyesi, prompt’lara daha fazla bağlam eklemektir. LLM’ler için uygulanabilecek prompt mühendisliği teknikleri vardır ve bu, onlara özelleştirilmiş yanıtlar vermesini sağlar. Örneğin, bir kullanıcıya bir e-posta oluştururken, kullanıcı hakkındaki bazı bağlamlar, geçmiş satın almalar ve davranış kalıpları, e-postayı daha iyi özelleştirmek için bir prompt olarak hizmet edebilir. ChatGPT ile آشina olanlar, örnekler vererek LLM’nin bir yanıt oluşturmak için kullandığı farklı yöntemleri bilir. Prompt’lar, LLM’nin dahili belleğini ek bağlam ile zenginleştirmektedir. Aşağıda bir örnek vardır.

Gömme:

Gömme, prompt’lara bir sonraki seviyeyi ekler ve bir bilgi deposunda bağlam arar, bu bağlamı alır ve prompt’a ekler. Burada ilk adım, büyük bir belge deposunu oluşturmak ve metni dizine ekleyerek vektör veritabanını oluşturmaktır. Bunun için OpenAI’nin ‘ada’ gibi bir gömme modeli kullanılır ve bu, bir metin parçasını n-boyutlu bir vektöre dönüştürür. Bu gömmeler, metnin bağlamını yakalar, böylece benzer cümleler vektör uzayında birbirlerine yakın gömme değerlerine sahip olurlar. Kullanıcı bir sorgu girdiğinde, bu sorgu da bir gömmeye dönüştürülür ve bu vektör, veritabanındaki vektörlerle eşleştirilir. Böylece, sorgu için en iyi 5 veya 10 eşleşen metin parçasını alırsınız ve bunlar bağlam oluşturur. Sorgu ve bağlam, kullanıcıya insan gibi yanıt vermesi için LLM’ye geçirilir.

Zincirler:

Zincirler, şu anda LLM uygulamaları oluşturmak için en gelişmiş ve olgun teknolojidir. Zincirler, deterministiktir ve bir dizi LLM çağrısı, bir veya daha fazla LLM’ye akışan çıkış ile birleştirilir. Örneğin, bir LLM çağrısı, bir SQL veritabanını sorgulayabilir ve müşteri e-postalarının listesini alabilir ve bu listeyi müşterilere kişiselleştirilmiş e-posta oluşturmak için başka bir LLM’ye gönderebilir. Bu LLM zincirleri, mevcut uygulama akışlarına entegre edilebilir ve daha değerli sonuçlar üretmek için kullanılabilir. Zincirleri kullanarak, LLM çağrılarını API çağrıları ve bilgi grafikleriyle entegrasyon gibi dış girdilerle zenginleştirebiliriz. Ayrıca, bugün mevcut olan birden fazla LLM sağlayıcısı (OpenAI, AWS Bedrock, Google PaLM, MosaicML vb.) ile LLM çağrılarını zincirleyebiliriz. Zincir elemanları için sınırlı zeka gerektiren görevler için ‘gpt3.5-turbo’ gibi daha düşük bir LLM kullanılabilirken, daha gelişmiş görevler için ‘gpt4’ kullanılabilir. Zincirler, veri, uygulamalar ve LLM çağrıları için bir soyutlama sağlar.

Ajanlar:

Ajanlar, özellikle yapay genel zeka (AGI) ile ilgili olarak birçok çevrimiçi tartışmanın konusudur. Ajanlar, görevleri önceden tanımlanmış zincirlerle değil, ‘gpt4’ veya ‘PaLM2’ gibi gelişmiş bir LLM kullanarak planlar. Kullanıcı talepleri geldiğinde, ajan, hangi görev setini çağırmaya veya hangi zinciri oluşturmaya karar verir. Örneğin, bir ajana “kullanıcıları kredilerin faiz oranındaki değişikliklerinden dolayı hükümet düzenlemesi güncellemesi olduğunda bilgilendir” gibi bir komut verirseniz, ajan çerçevesi, LLM çağrısı yaparak adımları veya oluşturulacak zinciri belirler. Burada, bir uygulama çağrısı, düzenleyici web sitelerini tarayarak en son APR oranını çıkarabilir, ardından bir LLM çağrısı, veritabanını arar ve etkilenen müşteri e-postalarını çıkarır ve sonunda müşterilere bilgilendirme e-postası oluşturulur.

Son Düşünceler

LLM, hızlı bir şekilde gelişen bir teknolojidir ve daha iyi modeller ve uygulamalar her hafta piyasaya sürülüyor. LLM’den Ajanlara, zeka merdiveninde ilerledikçe, daha karmaşık otonom uygulamalar oluşturuyoruz. Daha iyi modeller, daha etkili ajanlar anlamına gelecek ve bir sonraki nesil uygulamalar bunlarla güçlendirilecek. Zaman, bir sonraki nesil uygulamaların ne kadar gelişmiş olacağını ve hangi kalıplarla çalışacağını gösterecektir.