Vaadettikleri Ajanlar Değil, Sadece Statik Zincirler Aldık

2023 ilkbaharında, LLM tabanlı AI ajanlarının ortaya çıkmasıyla dünya heyecanlandı. Powerful demos gibi AutoGPT ve BabyAGI gösterileri, LLM’lerin bir döngüde çalışabileceğini, bir sonraki eylemi seçebileceğini, sonucunu gözlemleyebileceğini ve bir sonraki eylemi seçebileceğini gösterdi (ayrıca ReACT framework olarak da bilinir). Bu yeni yöntem, çok adımlı görevleri otomatik olarak ve genetik olarak gerçekleştirebilecek ajanları güçlendirmek için bekleniyordu. Bir hedef ve bir dizi araç verin, gerisini kendisi halledecektir. 2024 yılı sonunda, manzara AI ajanları ve AI ajan inşa framework’leriyle dolu olacak. Ancak vaat edilen şeyin karşılığını nasıl verdiler?

Naif ReACT framework ile çalışan ajanların ciddi sınırlamalardan muzdarip olduğunu söylemek güvenlidir. Onlara, birkaç adımdan fazla gerektiren bir görev verin, birkaç araçtan fazla kullanın ve onlar utanç verici bir şekilde başarısız olacaklar. Açıkça görünen gecikme sorunlarının ötesinde, izini kaybedecekler, talimatları takip edemeyecekler, çok erken veya çok geç duracaklar ve her denemede çok farklı sonuçlar üretecekler. Ve bu şaşırtıcı değil. ReACT framework, öngörülemez LLM’lerin sınırlarını adım sayısına göre birleştirir. Ancak, gerçek dünya kullanım örneklerini, özellikle de kurumsal alanda çözme amacında olan ajan yapımcıları, bu düzeyde performansla yetinemezler. Karmaşık çok adımlı iş akışları için güvenilir, öngörülebilir ve açıklanabilir sonuçlar cần. Ve LLM’lerin öngörülemez doğasını hafifleten, değil de artırılan AI sistemlerine ihtiyaçları var.

Peki, bugün kurumsal alanda ajanlar nasıl inşa ediliyor? Birkaç araçtan ve birkaç adımdan daha fazlasını gerektiren kullanım örnekleri için (örneğin, konuşmalı RAG), ajan yapımcıları büyük ölçüde ReACT’in dinamik ve otomatik vaadini bırakmışlardır. Statik zincirleme – belirli bir kullanım örneğini çözmek için tasarlanmış önceden tanımlanmış zincirlerin oluşturulması – yöntemine başvuruyorlar. Bu yaklaşım geleneksel yazılım mühendisliğine benzer ve ReACT’in ajan vaadinden uzakta. Daha yüksek düzeyde kontrol ve güvenilirlik sağlar, ancak otonomi ve esneklikten yoksundur. Çözümler, bu nedenle, geliştirme yoğun, uygulama açısından dar ve girdi alanındaki ve çevredeki yüksek varyasyon seviyelerine hitap etmek için fazla katıdır.

Kesin olarak, statik zincirleme uygulamaları “statik” olma derecesinde farklılık gösterebilir. Bazı zincirler, yalnızca atomik adımları gerçekleştirmek için LLM’leri kullanır (örneğin, bilgi çıkarmak, metni özetlemek veya bir mesaj taslağı oluşturmak için), mentre diğerleri, zincirdeki alternatif akışlar arasında yönlendirme veya bir adımın sonucunu doğrulama gibi bazı kararları çalışma zamanında dinamik olarak da alabilir. Her durumda, LLM’ler çözümdeki herhangi bir dinamik karar verme sorumluluğunu üstlendikçe, güvenilirlik ve otonomi arasında bir ticarette yakalanmış olacağız. Bir çözüm ne kadar statikse, o kadar güvenilir ve öngörülebilir, ancak aynı zamanda daha dar uygulama ve daha geliştirme yoğun olur. Bir çözüm ne kadar dinamik ve otomatikse, o kadar genetik ve basit inşa edilir, ancak aynı zamanda daha az güvenilir ve öngörülebilirdir.

Bu ticaret, aşağıdaki grafikte temsil edilebilir:

Bu, neden henüz üst sağ çeyrekte yerleştirilebilecek bir ajan framework’ü görmediğimiz sorusunu gündeme getiriyor. Güvenilirlik için otonomiden vazgeçmekle mahkum muyuz? ReACT ajanının basit arayüzünü (bir hedef ve bir dizi araç verin ve gerisini kendisi halledecektir) olmadan güvenilirlikten ödün vermeden bir framework elde edemez miyiz?

Cevap – evet, yapabiliriz ve yapacağız! Ancak bunun için, her şeyi yanlış yaptığımızı anlamamız gerekiyor. Tüm mevcut ajan inşa framework’leri ortak bir kusura sahiptir: LLM’leri dinamik, otomatik bileşen olarak güveniyorlar. Ancak, eksik olan kritik unsur – otomatik ve güvenilir ajanlar oluşturmak için gerekli olan – planlama teknolojisidir. Ve LLM’ler harika planlamacılar değildir.

Ancak önce, “planlama” nedir? “Planlama”dan, alternatif eylem kurslarını açıkça modelleme yeteneğini ve bunları bütçe kısıtlamaları altında verimli bir şekilde keşfetme ve kullanma yeteneğini kastediyoruz. Planlama, makro ve mikro düzeyde yapılmalıdır. Bir makro plan, bir görevi, istenen sonucu elde etmek için yürütülmesi gereken bağımlı ve bağımsız adımlara ayırır. Çoğu zaman göz ardı edilen, tek adımda istenen sonuçları garanti altına almak için mikro planlama ihtiyacına dikkat çekiyoruz. Tek adımlı düzeyde güvenilirliği artırmak ve garantileri elde etmek için daha fazla çıkarım zamanı hesaplama kullanma stratejileri vardır. Örneğin, anlamsal arama sorgularını birden çok kez yeniden yazabilirsiniz, bir sorgu için daha fazla bağlam alabilirsiniz, daha büyük bir model kullanabilirsiniz ve bir LLM’den daha fazla çıkarım alabilirsiniz – tüm bunlar, en iyisini seçmek için daha fazla gereksinim karşılayan sonuçlar sağlar. İyi bir mikro planlayıcı, verilen bir bütçe ve gecikme bütçesi altında en iyi sonuçları elde etmek için çıkarım zamanı hesabını verimli bir şekilde kullanabilir. Bu şekilde, planlı AI sistemleri, LLM’lerin olasılık doğasını hafifleterek tek adımda garantili sonuçlar elde edebilir. Böyle garantiler olmadan, en iyi makro düzey planı bile alt üst edecek bir hata biriktirme sorununa geri döneriz.

Ancak LLM’ler neden planlayıcı olarak görev yapamaz? Aslında, onlar yüksek düzeyde talimatları makul zincirlerle düşünceler veya planlar olarak doğal dilde veya kodda çevirebiliyorlar. LLM’lerin planlama yapamamasının nedeni, bunun daha fazlasını gerektirmesidir. Planlama, alternatif eylem kurslarını modelleme yeteneği gerektirir, ki bunlar makul bir şekilde istenen sonuca yol açabilir ve her alternatifin beklenen faydasını ve maliyetlerini (hesaplama ve/veya gecikme açısından) değerlendirebilme yeteneği gerektirir. LLM’ler, alternatif eylem kurslarının temsilelerini oluşturabilir, ancak karşılık gelen beklenen fayda ve maliyetlerini öngöremez. Örneğin, belirli bir bağlamda model X’i kullanmanın beklenen faydası ve maliyeti nedir? Bir API çağrısına kıyasla, belirli bir parça bilginin dizinlenmiş belgeler kümesinde aranmasının beklenen faydası nedir? LLM’niz bunun hakkında hiçbir fikri yok. Ve iyi bir nedenden ötürü – bu olasılık özelliklerihistorik izleri nadiren vahşi doğada bulunur ve LLM’lerin eğitim verilerine dahil edilmez. Ayrıca, AI sisteminin çalışacağı araç ve veri ortamına özgüdür, LLM’lerin edinebileceği genel bilginin aksine. Ve hatta LLM’ler beklenen fayda ve maliyetleri öngörebilseler bile, en etkili eylem kursunu seçmek için bunlarla ilgili mantıksal bir karar teorik çıkarsama yapamazlar.

AI planlama teknolojisi için eksik olan bileşenler nelerdir? Alternatif eylem kurslarını ve karşılık gelen fayda ve maliyet olasılıklarını belirli bir görev ve araç ve veri ortamında temsil edebilecek planlayıcı modellere ihtiyacımız var. Alternatif eylem kurslarını ve olasılıkları temsil etmek ve hakkında akıl yürütmek için bir Plan Tanım Dili (PDL) benötiriz. Ve PDL’de tanımlanmış bir planı deterministik ve verimli bir şekilde çalıştırabilen bir yürütme motoruna ihtiyacımız var.

Bazı insanlar bu vaadi yerine getirmek için already çalışıyorlar. O zamana kadar, statik zincirleri inşa etmeye devam edin. Sadece onlara “ajan” demeyin.