Olanaklar ve Zorluklar için LLM Ajanlarını Çözmek ve Jeneratif AI

Jeneratif AI uygulamalarında büyük dil modelleri (LLM) ile çalışan bir ilerleme görüyoruz. Bu,.prompt’lardan retrieval augmented generation (RAG) ve ajanlara kadar uzanıyor. Ajanlar, endüstri ve araştırma çevrelerinde özellikle Enterprise uygulamalarını dönüştürme ve üstün müşteri deneyimleri sağlama gücünden dolayı yoğun bir şekilde tartışılıyor. Ajanları oluşturmak için ortak kalıplar var ve bunlar, yapay genel zeka (AGI) yönünde ilk adımları mümkün kılıyor.

Önceki makalede, LLM güçlendirilmiş uygulamalar için zeka merdivenini gördük. Başlangıçta, problem alanını yakalamak ve LLM dahili belleğini kullanarak çıktı üretmek için prompt’lar kullanıyoruz. RAG ile, çıktıları kontrol etmek için dış bilgi ile prompt’ı zenginleştirebiliyoruz. LLM çağrılarını zincirleyerek karmaşık uygulamaları gerçekleştirebileceğimiz iş akışları oluşturabiliyoruz. Ajanlar, bu zincirlerin nasıl oluşacağını otomatik olarak belirleyerek bu süreci bir adım öteye taşıyor. Detaylara bakalım.

Ajanlar – Alt Yapı

Ajanların ana kalıbı, bir problemi çözmek için LLM’nin dil anlama gücünü kullanarak bir plan oluşturmasıdır. LLM, problemi anlar ve problemi çözmek için bir dizi adım sağlar. Ancak, burada durmaz. Ajanlar, sadece size problemi çözmek için önerilerde bulunan ve sonra size adımları uygulamanız için bırakılan bir destek sistemi değildir. Ajanlar, eylemleri gerçekleştirmek için araçlarla donatılmıştır. Korkutucu, değil mi?

Eğer bir ajana temel bir soru sorarsak:

İnsan: Telefonun mucidi hangi şirketi kurdu?

Ajanın düşünebileceği adımların bir örneği aşağıda verilmiştir.

Ajan (DÜŞÜNME):

• Düşünce: Telefonun mucidini aramam gerekiyor.
• Eylem: Arama [telefonun mucidi]
• Gözlem: Alexander Graham Bell
• Düşünce: Alexander Graham Bell’in kurduğu şirketi aramam gerekiyor.
• Eylem: Arama [Alexander Graham Bell’in kurduğu şirket]
• Gözlem: Alexander Graham Bell, 1885 yılında American Telephone and Telegraph Company (AT&T)’yi kurdu.
• Düşünce: Cevabı buldum. Geri döneceğim.

Ajan (CEVAP): Alexander Graham Bell, 1885 yılında AT&T’yi kurdu.

Gördüğünüz gibi, ajan, problemi alt-problemlere ayırarak her biri için belirli eylemler gerçekleştirebiliyor. Bu eylemler, LLM tarafından öneriliyor ve bu eylemleri gerçekleştirebilecek araçlarla eşleştirebiliyoruz. Arama aracını, LLM’nin arama eylemini gerçekleştirdiğinde çağrılmasını sağlayabiliriz. Arama, internet üzerinde veya dahili bir bilgi tabanında (vektör veritabanı) gerçekleştirilebilir. Sistem, böylece self-sufficient hale geliyor ve karmaşık problemleri çözebiliyor. LangChain ve LLaMAIndex gibi çerçeveler, bu ajanları oluşturmanıza ve araçlarla bağlamanıza olanak tanır. Amazon, ajanları tasarlamak için görsel bir arayüz sunan Bedrock Ajanları çerçevesini yakın zamanda piyasaya sürdü.

Ajanlar, LLM’ye özel bir şekilde.prompt göndererek eylem planı oluşturmasını sağlar. Yukarıdaki Düşünce-Eylem-Gözlem kalıbı, ReAct (Reasoning and Acting) adlı ajan türünde popülerdir. Diğer ajan türleri arasında MRKL ve Plan & Execute bulunur; bunlar principalmente farklı.prompt stillerine sahiptir.

Daha karmaşık ajanlar için eylemler, kaynak sistemlerde değişikliklere neden olan araçlarla bağlantılı olabilir. Örneğin, bir ajana, bir ERP sisteminde bir çalışanın izin dengesini kontrol eden ve izne başvuran bir araç bağlayabilirsiniz. Şimdi, kullanıcılarla etkileşime giren ve bir sohbet komutu ile sisteme izin başvurusu yapan bir sohbet botu oluşturabilirsiniz. İzin başvurusu için karmaşık ekranlar gerekmez; basit, birleşik bir sohbet arayüzü yeterlidir. Heyecan verici, değil mi?

Sorumlu AI için Önlemler ve İhtiyaç

Peki, bir aracı, önceden yetkilendirilmiş bir API kullanarak hisse senedi işlemlerini gerçekleştiren bir aracı düşünün. Bir uygulamada, ajan hisse senedi değişikliklerini inceleyerek (araçlar kullanarak) sizin adınıza alım-satım kararları alır. Ajan, yanlış karar verip yanlış hisse senedini sattığında ne olur? LLM’ler büyük modeller olduğu için, bazı kararların neden alındığını belirlemek zor olabilir; bu nedenle, uygun önlemler olmadan halüsinasyonlar ortaya çıkabilir.

Ajanlar çok ilgi çekici olsa da, onların ne kadar tehlikeli olabileceğini muhtemelen already tahmin etmişsinizdir. Yanlış bir eylem gerçekleştirdiklerinde, büyük finansal kayıplara veya Enterprise sistemlerinde büyük sorunlara neden olabilirler. Bu nedenle, LLM güçlendirilmiş uygulamaların yaşandığı bu dönemde Sorumlu AI, en önemli konulardan biri haline geliyor. Sorumlu AI ilkeleri, ajanlar tarafından alınan kararları denetlemek için yeniden üretilebilirlik, şeffaflık ve hesap verebilirlik prensiplerini içerir ve risk analizi önerir; bu sayede, hangi eylemlerin insan müdahalesi gerektirdiğini belirleyebiliriz. Daha karmaşık ajanlar tasarlandıkça, daha fazla inceleme, şeffaflık ve hesap verebilirlik gerektirirler; böylece, ne yaptıklarını bilir ve Skynet gibi bir şey inşa etmediğimizden emin olabiliriz.

Kapanış Düşünceleri

Ajanların, mantıksal adımlarla eylemler oluşturma yetenekleri, onları insan mantığına çok yakın bir noktaya getirir. Onları daha güçlü araçlarla donatmak, onlara süper güçler verebilir. ReAct gibi kalıplar, insanların problem çözmek için kullandıkları yöntemleri taklit etmeye çalışır ve farklı bağlamlarda ve alanlarda (bankacılık, sigorta, sağlık, endüstri vb.) daha iyi ajan kalıplarını göreceğiz. Gelecek burada ve ajanların arkasındaki teknoloji, kullanıma hazır. Aynı zamanda, Sorumlu AI önlemlerine dikkat etmek zorundayız; böylece, Skynet gibi bir şeyi inşa etmediğimizden emin olabiliriz.