Üretken Yapay Zekada Yüksek Lisans Temsilcileri için Fırsatların ve Zorlukların Çözümü

Büyük dil modelleri (LLM) tarafından desteklenen Üretken Yapay Zeka uygulamalarında, bilgi istemlerinden erişim artırılmış nesile (RAG) ve aracılara kadar bir ilerleme görüyoruz. Temsilcilerden endüstri ve araştırma çevrelerinde, esas olarak bu teknolojinin Kurumsal uygulamaları dönüştürmek ve üstün müşteri deneyimleri sağlamak için sağladığı güç nedeniyle yoğun olarak bahsediliyor. Yapay genel zekaya (AGI) doğru ilk adımları mümkün kılan yapı ajanları için ortak modeller vardır.

Benim önceki göreYüksek Lisans destekli uygulamalar oluşturmaya yönelik bir zeka modeli merdiveni gördük. Sorunlu etki alanını yakalayan ve çıktı oluşturmak için LLM dahili belleğini kullanan istemlerle başlayarak. RAG ile, çıktıları kontrol etmek için istemi bir vektör veritabanından aranan harici bilgilerle zenginleştiriyoruz. Daha sonra LLM çağrılarını zincirleyerek karmaşık uygulamaları gerçekleştirmek için iş akışları oluşturabiliriz. Temsilciler, bu LLM zincirlerinin nasıl oluşturulacağını otomatik olarak belirleyerek bunu bir sonraki seviyeye taşıyor. Ayrıntılı olarak bakalım.

Ajanlar – Kaputun Altında

Temsilcilerin temel modeli, belirli bir sorunun nasıl çözüleceğine dair bir plan yapmak için LLM'nin dil anlama gücünü kullanmalarıdır. LLM sorunu anlıyor ve sorunu çözmek için bize bir dizi adım sunuyor. Ancak burada bitmiyor. Temsilciler, sorunu çözme konusunda size önerilerde bulunacak ve ardından önerilen adımları atmanız için bayrağı size devredecek saf bir destek sistemi değildir. Temsilciler, devam edip harekete geçmeleri için gerekli araçlarla donatılmıştır. Korkunç değil mi?

Bir acenteye şuna benzer temel bir soru sorarsak:

İnsan: Telefonun mucidi hangi şirkette başladı?

Aşağıda bir temsilcinin atabileceği düşünme adımlarına bir örnek verilmiştir.

Ajan (Düşünerek):

• Düşünce: Telefonun mucidini aramam gerekiyor.
• Action: Ara [telefonun mucidi]
• Gözlem: Alexander Graham Bell
• Düşünce: Alexander Graham Bell tarafından kurulan bir şirketi aramam gerekiyor
• Action: Ara [Alexander Graham Bell tarafından kurulan şirket]
• Gözlem: Alexander Graham Bell, 1885'te Amerikan Telefon ve Telgraf Şirketini (AT&T) kurdu.
• Düşünce: Cevabı buldum. Geri döneceğim.

Temsilci (YANIT): Alexander Graham Bell, 1885'te AT&T'yi kurdu

Temsilcinin, sorunu belirli Eylemler gerçekleştirilerek çözülebilecek alt sorunlara ayırma konusunda yöntemli bir yol izlediğini görebilirsiniz. Buradaki eylemler LLM tarafından önerilmektedir ve bunları, bu eylemleri uygulamak için belirli araçlarla eşleştirebiliriz. Aracı için, LLM'nin bir eylem olarak arama sağladığını fark ettiğinde, bu aracı LLM tarafından sağlanan parametrelerle çağıracak şekilde bir arama aracını etkinleştirebiliriz. Buradaki arama internette yapılır ancak bir vektör veritabanı gibi dahili bir bilgi tabanında arama yapmak üzere de yönlendirilebilir. Sistem artık kendi kendine yeterli hale geliyor ve bir dizi adımı izleyerek karmaşık sorunların nasıl çözüleceğini çözebiliyor. Gibi çerçeveler Dil Zinciri ve LLaMAIndex size bu aracıları oluşturmanın ve araçlara ve API'ye bağlanmanın kolay bir yolunu sunar. Amazon yakın zamanda aracı tasarlamak için görsel bir arayüz sağlayan Bedrock Agents çerçevesini başlattı.

Temel olarak, temsilciler LLM'ye bir eylem planı oluşturmalarını sağlayan özel bir istem gönderme tarzını takip ediyor. Yukarıdaki Düşünce-Eylem-Gözlem modeli, ReAct (Akıl Yürütme ve Harekete Geçme) adı verilen bir etmen türünde popülerdir. Diğer aracı türleri arasında esas olarak yönlendirme tarzları açısından farklılık gösteren MRKL ve Planla ve Yürüt bulunur.

Daha karmaşık etmenler için eylemler, kaynak sistemlerde değişikliklere neden olan araçlara bağlanabilir. Örneğin, temsilciyi, bir çalışanın ERP sisteminde tatil bakiyesini kontrol eden ve izin başvurusunda bulunan bir araca bağlayabiliriz. Artık kullanıcılarla etkileşime girecek ve bir sohbet komutu aracılığıyla sistemdeki izin başvurusunda bulunacak güzel bir sohbet robotu oluşturabiliriz. Artık izin başvurusu için karmaşık ekranlara gerek yok, basit bir birleşik sohbet arayüzü. Kulağa heyecan verici geliyor!?

Uyarılar ve Sorumlu Yapay Zeka ihtiyacı

Şimdi, önceden yetkilendirilmiş bir API kullanarak hisse senedi alım satım işlemlerini başlatan bir aracımız varsa ne olur? Temsilcinin hisse senedi değişikliklerini incelediği (araçları kullanarak) ve hisse senedi alım satımı konusunda sizin için kararlar aldığı bir uygulama oluşturursunuz. Ya temsilci halüsinasyon gördüğü ve yanlış karar verdiği için yanlış hisse senedini satarsa? Yüksek Lisans çok büyük modeller olduğundan, neden bazı kararlar aldıklarını belirlemek zordur, dolayısıyla uygun korkulukların olmadığı durumlarda halüsinasyonlar yaygındır.

Ajanların hepsi büyüleyici olsa da muhtemelen ne kadar tehlikeli olabileceklerini tahmin etmişsinizdir. Halüsinasyon görürlerse ve büyük mali kayıplara veya Kurumsal sistemlerde büyük sorunlara neden olabilecek yanlış bir eylemde bulunurlarsa. Bu nedenle Sorumlu Yapay Zeka, Yüksek Lisans destekli uygulamalar çağında son derece önem kazanmaktadır. Tekrarlanabilirlik, şeffaflık ve hesap verebilirlik ile ilgili Sorumlu Yapay Zeka ilkeleri, aracılar tarafından alınan kararlara bariyerler koymaya çalışır ve hangi eylemlerin döngü içinde bir insana ihtiyaç duyduğuna karar vermek için risk analizi önerir. Daha karmaşık aracılar tasarlandıkça, ne yaptıklarını bildiğimizden emin olmak için daha fazla incelemeye, şeffaflığa ve hesap verebilirliğe ihtiyaç duyuyorlar.

Kapanış düşünceleri

Ajanların eylemlerle birlikte mantıksal adımlardan oluşan bir yol oluşturma yeteneği, onları insan mantığına gerçekten yaklaştırıyor. Onları daha güçlü araçlarla güçlendirmek onlara süper güçler verebilir. ReAct gibi modeller, insanların sorunu nasıl çözdüğünü taklit etmeye çalışıyor ve belirli bağlamlar ve alanlarla (bankacılık, sigorta, sağlık hizmetleri, endüstriyel vb.) alakalı olacak daha iyi aracı modelleri göreceğiz. Gelecek burada ve acentelerin arkasındaki teknoloji bizim için hazır. Aynı zamanda, Skynet'i inşa etmediğimizden emin olmak için Sorumlu Yapay Zeka korkuluklarına da çok dikkat etmemiz gerekiyor!