AI Ajanlarının Nasıl Çalıştığı: Model, Araçlar, Bellek ve Kontrol Döngüsü

Bir AI ajanı, bir modeli talimatlar, araçlar, bellek ve bir sonraki adımı sürekli olarak belirleyen bir kontrol döngüsüyle birleştirerek çalışır. Model, yargı ve dil yetenekleri sağlar; çevreleyen yazılım ise bu yetenekleri eyleme geçebilen, sonuçları inceleyen, hatalardan kurtulabilen ve durabilen durumlu bir sürece dönüştürür.

Bu mimariyi anlamak, bir ajanı tek bir akıllı nesne olarak görmekten daha faydalıdır. Çoğu başarı ve başarısızlık, bileşenlerin nasıl etkileştiğinden kaynaklanır: mükemmel bir model, belirsiz araçlar, eski bellek, aşırı izinler veya tamamlanma tanımı güvenilir olmayan bir kontrol döngüsüyle zayıflatılabilir.

AI Ajanının Beş Temel Parçası

1. Model

Model, hedefi yorumlar, mevcut bağlam üzerinde akıl yürütür ve bir eylem seçer. Günümüzdeki birçok ajan için bu, talimatları izleyebilen ve yapılandırılmış araç çağrıları ile doğal dil üretebilen büyük bir dil modelidir.

En yetenekli model, her adım için otomatik olarak en iyi seçim değildir. Bir sistem, zor planlamayı daha güçlü bir modele yönlendirebilir, sınıflandırma için daha hızlı bir model kullanabilir ve doğrulama için deterministik koda güvenebilir. Bu karışım, hız, maliyet ve güvenilirliği artırabilir.

2. Talimatlar

Talimatlar, ajanın rolünü, sınırlarını, önceliklerini ve çıktı gereksinimlerini tanımlar. Sistem istemi, görev‑özel bağlam, politikalar, örnekler, araç açıklamaları ve durma kriterleri gibi öğeleri içerebilir.

İyi talimatlar işlevseldir. Ajanın hangi kanıtı gerektirdiğini, onay ne zaman isteneceğini, hangi kaynakların kabul edilebilir olduğunu ve tamamlanmayı nasıl tanıyacağını belirtir. Belirsiz veya çelişkili kurallar modeli tahmin yapmaya zorlar ve benzer görevler arasında tutarsızlık yaratır.

3. Araçlar

Araçlar, modeli mevcut bağlamının dışındaki yeteneklerle birleştirir. Bir araç, web’de arama yapabilir, bir müşteri kaydını getirebilir, kod çalıştırabilir, bir veritabanını sorgulayabilir, bir tarayıcıyı kontrol edebilir veya takvim etkinliği oluşturabilir.

Model genellikle fonksiyonu kendisi yürütmez. Adlandırılmış bir aracı seçer ve yapılandırılmış argümanlar önerir. Ajan çalışma zamanı bu isteği doğrular, izinleri kontrol eder, işlemi yürütür ve sonucu döndürür. Bu ayrım esastır: yazılımın hatalı veya güvensiz eylemleri dış dünyayı etkilemeden reddetme fırsatı verir.

4. Durum ve Bellek

Durum, ajanın mevcut çalışması sırasında ihtiyaç duyduğu bilgidir: hedef, konuşma, plan, gözlemler, araç çıktıları ve tamamlanan adımlar. Bellek, bu kavramı genişleterek, önceki tercihleri, tekrarlanan gerçekleri veya önceki görevlerden elde edilen dersleri gibi faydalı bilgileri anlık bağlamın ötesinde saklar.

Daha fazla bellek her zaman daha iyidir demek değildir. Alakasız kayıtlar bağlamı tüketir ve modeli eski varsayımlara yönlendirebilir. Etkili bellek sistemleri neyin saklanacağına, nasıl düzenleneceğine, ne zaman getirileceğine ve çelişkili ya da süresi dolmuş bilgilerin nasıl ele alınacağına karar verir.

5. Kontrol Döngüsü

Kontrol döngüsü, sürecin ilerlemesini sağlayan orkestrasyon katmanıdır. Mevcut durumu modele gönderir, önerilen bir eylem alır, onaylanmış araçları çalıştırır, gözlemi kaydeder ve modeli tekrar çağırır.

Anthropic, bir ajanı, kılavuzunda etkili ajanlar oluşturma bölümünde geri getirme, araçlar ve bellek gibi yeteneklerle bir döngü içinde çalışan geliştirilmiş bir dil modeli olarak tanımlar. OpenAI ise ajan yürütmesini, modeli, araçlarını ve bir ortamı kapsayan sürekli bir etkileşim olarak Modelden Ajan’a başlıklı makalesinde çerçevelendirir.

Arayüzler Bileşenler Kadar Önemlidir

Bir mimari diyagram, her bileşeni net bir şekilde ayrılmış gösterse de, gerçek güvenilirlik aralarındaki sözleşmelere bağlıdır. Model, benzer yetenekleri ayırt eden araç açıklamalarına ihtiyaç duyar. Çalışma zamanı, tiplenmiş argümanlar ve açık hata durumları gerektirir. Bellek geri getirme, kaynağın ve tazeliğin bilgisine ihtiyaç duyar. Tamamlama denetleyicisi, cevabın yeterince iyi olduğu yönündeki belirsiz bir his yerine test edilebilen kriterlere ihtiyaç duyar.

Boş bir liste döndüren bir arama aracını düşünün. Bu sonuç, ilgili kaydın olmaması, sorgunun hatalı olması, kullanıcının izni olmaması veya hizmetin zaman aşımına uğraması anlamına gelebilir. Araç bu dört durumu aynı çıktıya indirgerse, model ne olduğunu güvenilir bir şekilde akıl yürütemez. İyi tasarlanmış bir arayüz, yapılandırılmış kanıtlar döndürür: durum, kaynak, zaman damgası, sorgu, sonuç sayısı ve gerektiğinde makine‑okunur bir hata.

Aynı ilke bağlama da uygulanır. Talimatlar, otoriter kayıtlar, getirilen pasajlar, model‑tarafından oluşturulan notlar ve güvenilmeyen dış içerikler eşdeğer metin olarak ele alınmamalıdır. Kaynaklarını ve otoritelerini etiketlemek, çalışma zamanının politikayı uygulamasına ve modelin kanıtları doğru şekilde değerlendirmesine yardımcı olur. Bu, bağlam mühendisliğinin pratik bir biçimidir: modelin gördüğü bilgiyi sadece seçmek değil, bu bilginin nasıl düzenlendiğini ve sistemin neyi kontrol etmesine izin verdiğini belirlemek.

Adım Adım Bir Örnek

Üç olası tedarikçiyi karşılaştırıp bir öneri hazırlaması istenen bir ajan hayal edin.

1. Hedefi Al: ajan, karar ölçütlerini, son tarihi, bütçeyi ve gerekli çıktıyı okur.
2. Mevcut bağlamı incele: tedarikçi adları, iç gereksinimler ve kaynak belgelerin mevcut olup olmadığını kontrol eder.
3. Bir plan oluştur: her tedarikçi için fiyatlandırma, güvenlik bilgileri, hizmet şartları ve müşteri kanıtlarını toplamaya karar verir.
4. Bir araç seç: onaylanmış bir belge deposunda arama yapar veya dış bir araştırma aracını çağırır.
5. Gözlemle: çalışma zamanı sonuçları, olası hatalar veya eksik alanlar dahil, döndürür.
6. Durumu güncelle: ajan, öğrendiklerini kaydeder ve çözülmemiş soruları işaretler.
7. Uyum sağla: sorguları değiştirir, başka bir kaynağa danışır veya mevcut olmayan bir belge için bir kişiden ister.
8. Doğrula: her önerinin desteklendiğini ve karşılaştırmaların aynı kriterleri kullandığını kontrol eder.
9. Dur veya onay iste: taslak bir öneri üretir, ancak satın alma kararını yetkili kişiye bırakır.

Önemli nokta, dizinin tamamen sabit kodlanmamış olmasıdır. Sistem, bulduklarına yanıt olarak adımları seçti, ancak yine de tasarlanmış sınırlar içinde çalıştı.

Planlama Her Zaman Ayrı Bir Aşama Olmaz

Bazı ajanlar, harekete geçmeden önce tam bir plan üretir. Diğerleri ise adım adım karar verir. Birçokları hibrit bir yaklaşım kullanır: kabaca bir plan oluşturur, bir sonraki eylemi yürütür ve gözlemler geldikçe kalan planı revize eder.

Uzun ve katı planlar, ilk beklenmedik sonuçtan sonra geçersiz hale gelebilir. Tamamen tepkisel ajanlar dolaşabilir veya işi tekrarlayabilir. Pratik bir tasarım, yönü korumak için yeterli planlamayı tutarken, ortam değiştiğinde yeniden planlamaya izin verir.

ReAct çerçevesi, akıl yürütmeyi eylemler ve gözlemlerle iç içe geçiren temel bir örnektir. Temel içgörüsü, dış bir sonucun bir sonraki akıl yürütme adımını düzeltebileceği, iyileştirebileceği veya yeniden yönlendirebileceğidir.

Ajanların Ne Zaman Duracağını Nasıl Biliyorlar

Durma, bir sistem tasarım problemidir. Bir model, başarıyı çok erken ilan edebilir, hedefe ulaşıldıktan sonra iyileştirmeye devam edebilir veya bir araç sürekli başarısız olduğunda döngüye girebilir.

Güvenilir ajanlar, çeşitli durma mekanizmalarını birleştirir:

• Tamamlama kriterleri: gerekli alanlar, geçilen testler veya doğrulanmış alıntılar gibi açık koşullar.
• Bütçeler: adım, zaman, model tokenları, araç çağrıları veya maliyet sınırlamaları.
• Hata eşikleri: tekrarlanan hatalardan veya düşük güvenilirlikteki gözlemlerden sonra yükseltme.
• Onay kapıları: yüksek etkili veya geri döndürülemez eylemler öncesinde bir duraklama.
• Dış değerlendirme araçları: çıktının görevi karşılayıp karşılamadığını belirleyen deterministik kontroller veya ayrı modeller.

Yaygın Ajan Mimarileri

Tek‑ajan döngüsü, en basit tasarımdır: bir model, bitene kadar araçları tekrar tekrar kullanır. Hata ayıklaması daha kolaydır ve çoğu zaman yeterlidir.

Bir yönlendirici, isteği sınıflandırır ve özel bir isteme, araç setine veya modele gönderir. Yönlendirme, alakasız seçenekleri azaltır ve farklı işlere farklı politikalar uygulayabilir.

Orkestratör‑işçi mimarisi, bir lider ajanın alt görevler oluşturup bunları işçilere devretmesine ve ardından sonuçları sentezlemesine olanak tanır. İş paralel yürütülebilir veya farklı uzmanlıklar gerektirdiğinde faydalıdır, ancak token kullanımını ve koordinasyon hatası olasılıklarını artırır.

Değerlendirici‑optimizasyon döngüsü, üretimi eleştiriden ayırır. Bir bileşen bir yanıt üretir; diğeri bunu tanımlı kriterlere karşı kontrol eder; birincisi yanıtı revize eder. Kalitenin ölçülebilir olduğu ve yineleme yoluyla iyileştirmenin ek maliyeti hak ettiği durumlarda iyi çalışır.

Genellikle Ne Yanlış Gider

• Yetersiz araç açıklamaları: model yanlış yeteneği seçer veya geçersiz argümanlar sağlar.
• Sınırsız bağlam: uzun transkriptler alakasız detaylarla dolar ve belirleyici bilgiyi gölgeler.
• Sesiz araç hataları: boş veya kısmi bir sonuç geçerli bir gözlem olarak kabul edilir.
• Zayıf temel: ajan, kayıt sistemini kontrol etmek yerine bir varsayıma dayanarak hareket eder.
• Aşırı özerklik: ajan, uygun bir inceleme sınırı olmadan sonuç doğuran eylemler gerçekleştirebilir.
• Yol izleme değerlendirmesinin olmaması: ekipler son cevabı değerlendirir ancak ajanın ona nasıl ulaştığını incelemez.

Güvenilir Ajanlar İçin Tasarım İlkeleri

Görevi çözebilecek en küçük mimariyle başlayın. Deterministik bir iş akışı, bilinen adımları yönetmelidir; modelin takdir yetkisini gerçekten yorum gerektiren kararlara ayırın. Her araca dar bir amaç, tiplenmiş girişler, açık hata durumları ve en az ayrıcalıklı erişim sağlayın.

Durumu görünür kılın. Tanı için gereken her araç çağrısını, sonucu, yeniden denemeyi, onayı ve model kararını kaydedin. Eski bağlamı sürekli eklemek yerine sıkıştırın ve otoriter verileri model‑tarafından oluşturulan özetlerden ayrı tutun.

Çalışma zamanını, hataların açık olacağı şekilde tasarlayın. Bir araç, “kayıt bulunamadı” ile “istek başarısız oldu” arasında ayrım yapmalı ve durum deposu doğrulanmış gerçekleri model‑tarafından oluşturulan özetlerden ayırmalıdır. Aksi takdirde model, zaman aşımı nedeniyle oluşan bir eksikliği bir şeyin var olmadığı kanıtı olarak değerlendirebilir.

Son olarak, tam sistemi değerlendirin. Aynı görevi birden çok kez çalıştırın, başarı ve kaynak kullanımını ölçün ve politika ihlalleri veya kırılgan kısayollar için yol izlerini inceleyin. Anthropic’in ajan değerlendirmeleri rehberi, ajanların bir dizi görev, tekrarlanabilir deneme, transkript ve değerlendiriciye ihtiyacı olduğunu vurgular—birkaç etkileyici demo yeterli değildir.

AI Ajanlarının Nasıl Çalıştığını Hatırlamanız Gerekenler

Bir AI ajanı, sadece akıllı bir model değil, mühendislikle tasarlanmış bir döngüdür. Model karar verir; araçlar hareket eder; bellek durumu taşır; ortam kanıt döndürür; ve kontrol döngüsü bir sonraki adımı belirler.

Bu parçalar net arayüzlere ve sınırlara sahip olduğunda, ajan geleneksel otomasyonun öngöremediği açık uçlu işleri yönetebilir. Aksi takdirde, özerklik belirsizliği artırır. Bir ajanın kalitesi, bu yüzden, temel model kadar sistem tasarımı, izinler ve değerlendirmeye de bağlıdır.