OpenAgents: Dil Ajentleri için Açık bir Platform

Son gelişmeler, özellikle büyük dil modellerine (LLM) dayanan dil ajanlarının doğal dili kullanarak çeşitli ortamlarda karmaşık görevler gerçekleştirebildiğini gösteriyor. Ancak mevcut çerçeveler çoğunlukla kavram kanıtı niteliğindeki ajanların kurulmasına odaklanıyor; uygulama düzeyindeki tasarım ve uzman olmayan kullanıcıların erişimi geri planda kalıyor.

OpenAgents, dil ajanlarını gerçek ortamlarda ve gündelik görevlerde barındırmak ve kullanıma sunmak için geliştirilmiş açık bir platformdur. Üç temel ajan içerir:

• Veri Ajanı: Veri araçları, SQL gibi sorgu dilleri ve Python gibi programlama dilleriyle analiz yapmaya yardımcı olur.
• Eklenti Ajanı: Günlük işler için 200’den fazla API aracına erişim sağlar.
• Web Ajanı: Kaynak makalede anonimliği koruyarak web’de gezinmeye yardımcı olduğu belirtilir.

Yaygın hatalara ve hızlı yanıtlara göre tasarlanmış web arayüzü, genel kullanıcıların ajanlarla etkileşimini kolaylaştırır. Araştırmacılar ve geliştiriciler de sistemi yerel ortamlarına sorunsuzca dağıtabilir. Amaç, gerçek dünya değerlendirmeleri ve yeni, etkili dil ajanları geliştirmek için sağlam bir temel sunmaktır. Bu yazıda çalışma biçimini, mimariyi, karşılaşılan sorunları ve sonuçları inceliyoruz.

OpenAgents ve dil ajanlarına giriş

Dil ajanları; çevresini algılayan, karar veren, harekete geçen ve özerk biçimde problem çözen akıllı ajan fikrinden türemiştir. Geliştiriciler bu fikri LLM’lerle birleştirerek çeşitli ortamlarda doğal dil programlaması yoluyla karmaşık işleri yapan ajanlar oluşturmuştur.

Gravitas ve Chase gibi mevcut çerçeveler çoğunlukla geliştiricilere yönelik konsol arayüzleri ve kavram kanıtı uygulamaları sunar. Özellikle kodlama bilmeyenler için erişimleri sınırlıdır. Ajan kıyaslamaları da web gezintisi, kodlama, araç kullanımı veya bunların birleşimini içeren senaryolarda geliştiricilerin belirlediği gereksinimlere göre deterministik değerlendirmeye odaklanır.

OpenAI ve Microsoft (MSFT ) daha geniş kitleler için Advanced Data Analysis (önceki adıyla Code Interpreter) ve tarayıcı eklentileri gibi iyi tasarlanmış ürünler sundu. Ancak kaynak makalenin yazıldığı dönemde iş mantığı ve model uygulamaları açık kaynak değildi. Bu durum araştırmacıların ve geliştiricilerin inceleme olanaklarını, ayrıca kullanıcıların ücretsiz erişimini sınırlıyordu.

OpenAgents bu soruna, veri analizi, 200’den fazla API aracı ve web gezintisini kapsayan üç ajanlı açık kaynak bir platformla yaklaşır. Kullanıcı grupları aşağıdaki şekilde gösterilmektedir.

• Genel kullanıcılar geliştirici paketleri veya konsollar yerine çevrimiçi web arayüzünden üç ajanla etkileşebilir.
• Geliştiriciler sağlanan iş mantığı ve araştırma kodlarıyla arka uç ve ön ucu dağıtarak geliştirmeyi sürdürebilir.
• Araştırmacılar paylaşılan bileşen ve örneklerle yeni ajanlar ya da yöntemler oluşturup web arayüzünde değerlendirebilir.

Platformun temel amacı, insanın sürece katıldığı kapsamlı ve gerçekçi dil ajanı değerlendirmesidir. İnsan-ajan etkileşimleri ve kullanıcı geri bildirimleri saklanıp analiz edilerek sonraki geliştirme ve değerlendirmelerde kullanılır.

LLM istem tasarımı, kötü niyetli veya yanlış girdilere karşı önlem almak, çıktıların sunumunu iyileştirmek ve arka uç mantığının gereksinimlerini karşılamak için talimat hazırlama sürecidir. Geliştiriciler uygulama gereksinimlerini açıkça belirtmenin önemini gördü. Ancak talimatlar biriktikçe bağlam işleme kapasitesine ve belirteç sınırlarına yük bindirebilir. Gerçek ortamda ajanların yüksek performansın yanı sıra çok çeşitli etkileşimlere gerçek zamanlı yanıt verebilmesi gerekir. Mevcut ajan çerçeveleri performansa odaklanırken yanıt hızı ve doğruluk arasındaki denge gibi gerçek dünya koşullarını ihmal edebilir.

Aşağıdaki şekil OpenAgents’i ajan kavramı, prototipler ve kıyaslamalar açısından önceki çalışmalarla karşılaştırır.

OpenAgents: platform tasarımı ve uygulaması

Mimari iki ana parçaya ayrılır: arka uç ve ön ucu içeren kullanıcı arayüzü; araçlar, dil modeli ve ortamdan oluşan dil ajanı. Kullanıcı girdisi geldikten sonra ajan mevcut araçlarla plan yapar ve ortamda gerekli eylemleri gerçekleştirir.

Kullanıcı arayüzü

Geliştiriciler barındırılan ajanları ve yeniden kullanılabilir iş mantığını düzenleyerek hem işlevsel hem kullanıcı dostu bir arayüz oluşturdu. Hata yönetimi, arka uç sunucu işlemleri ve veri akışı gibi teknik görevler desteklenir. Amaç kullanılabilirlik ile etkinliği birleştirmektir.

Dil ajanı

Temel bileşenler araç arayüzü, dil modeli ve ortamdır. İstemler Gözlem→Değerlendirme→Eylem sırasını izletir ve LLM’nin verimli biçimde ayrıştırılabilir metin üretmesini sağlar. Araç arayüzündeki ayrıştırıcılar bu metni API çağrısı veya kod üretimi gibi yürütülebilir eylemlere dönüştürür. Eylemler ilgili ortamın sınırları içinde gerçekleştirilir.

OpenAgents’in ajanları

Üç ajan, ChatGPT eklentileri gibi alan uzmanlığına sahiptir; ancak OpenAgents uygulaması açık dil modeli API’leri üzerine kuruludur.

Veri Ajanı

Gündelik veri işlerini ele alır ve SQL ile Python’da kod üretimi ve yürütmeyi destekler. Data Profiling temel veri bilgileri sunar; Kaggle Data Search veri kümelerini arar; ECharts Tool etkileşimli grafikler çizer. Kullanıcı taleplerine etkili yanıt vermek için araçları etkin biçimde kullanması istenir.

Kodlama gereksinimleri kapsamlı olduğundan dil modelleri araçların içine yerleştirilir. Kodu ajan gövdesi yerine Python, ECharts ve SQL araçları üretir. Böylece modelin programlama gücü kullanılırken ajanın yükü azaltılır. Veri görselleştirme, düzenleme ve sorgulama, salt kod ve metin üretiminin ötesine geçer.

Eklenti Ajanı

İnternet araması, çevrimiçi alışveriş, haber okuma, web sitesi ve uygulama oluşturma gibi işler için 200’den fazla eklenti sunar. İşlev çağırma arayüzü, API iletişimi ve yanıt uzunluğu özellikle dikkate alınmıştır. Öne çıkan eklentiler Google Search, Wolfram Alpha, Zapier, Klarna, Coursera, Show Me, Speak, AskYourPDF, BizTok ve Klook’tur.

Kullanıcılar ihtiyaçlarına göre kullanılacak eklenti sayısını seçebilir.

Hangi eklentinin uygun olduğundan emin olmayanlar için talimatlarla en ilgili eklentileri otomatik seçen bir özellik de bulunur.

Web Ajanı

Sohbet ajanının verimini ve yeteneklerini geliştiren uzman bir araçtır. Ana etkileşim arayüzü sohbet ajanında kalır; gerektiğinde web ajanı devreye alınır. Son yanıt web ajanı tarafından kullanıcıya iletilir.

Sohbet ajanı önemli parametreleri işler ve URL’leri sistematik biçimde hazırlayıp web ajanına aktarır. Bu, kullanıcı gereksinimleriyle çıktının uyumunu ve iletişimin açıklığını artırır. Dinamik, çok turlu web gezintisi sohbetle birleştirilerek katmanlı ve değişen sorgular ele alınır. Sohbet ve gezinme sorumluluklarını ayırmak her modülün bağımsız geliştirilmesini kolaylaştırır.

Pratik uygulamalar ve gerçek dünyaya dağıtım

Kuramdan gerçek kullanıma geçişte geliştiriciler çeşitli sorunlarla ve değerlendirme güçlükleriyle karşılaştı.

İstemlerle LLM’leri gerçek uygulamalara dönüştürmek

Bazı talimatlar arka ucun işleyebileceği çıktı biçimini belirler; bazıları görsel sunumu iyileştirir; diğerleri sistemi kötü niyetli saldırılardan korur. Son kullanıcıya yönelik uygulamalarda bu gereksinimlerin açıkça tanımlanması gerekir.

Denetlenemeyen gerçek dünya etkenleri

İnternet altyapısı, kullanıcılar ve iş mantığı gibi etkenler, önceki araştırmalara dayalı varsayımların yeniden değerlendirilmesini ve ayarlanmasını gerektirdi. Bu koşullar kullanıcıların üretilen yanıttan memnun kalmamasına yol açabilir.

Değerlendirme karmaşıklığı

Doğrudan uygulamaya yönelik ajanlar kullanım alanını genişletip daha gerçekçi değerlendirme sağlayabilir; fakat uygulama geliştirmeyi ve performans analizini de zorlaştırır. Kararsızlık ve LLM sisteminin işlem zinciri büyür, farklı bileşenlere uyum güçleşir. Süreçleri basitleştirmek ve etkili çıktı sağlamak için sistem tasarımı ile çalışma mantığı iyileştirilmelidir.

Son düşünceler

OpenAgents; veri analizi, 200’den fazla API aracı ve web gezintisi için üç ajanı genel kullanıcılara yönelik web arayüzünde bir araya getirir. Yaygın hataları ve hızlı yanıtları dikkate alırken geliştirici ve araştırmacıların yerel dağıtımını kolaylaştırır. Şeffaf, kapsamlı ve dağıtılabilir bir platformla LLM’lerin potansiyelini teknik bilgisi sınırlı kullanıcılara da açmayı hedefler.