Yapay Zekâ Ajanları İçin Tek Başına Daha İyi Veriler Neden Yeterli Değil?

Yıllardır kurumsal yapay zekâ konusunda en sık verilen tavsiyelerden biri, önce verileri doğru hâle getirmek oldu. Mantık basit: Bir sistemin yararlı kararlar alabilmesi için üzerinde çalışacağı doğru ve erişilebilir bilgilere ihtiyacı vardır.

Bu ifade bugün de geçerliliğini koruyor; ancak yapay zekâ ajanları soru yanıtlayıp içerik üretmenin ötesine geçerek çalışanlar ve kuruluşlar adına harekete geçmeye başladıkça eksik kalıyor. Veriler bir ajana müşteri, işlem, talep veya başvuru hakkında neyin doğru olduğunu söyleyebilir; ancak bu, ajana sırada ne yapması gerektiğini ya da bir eylemin sonuçlarının ne olacağını mutlaka göstermez. Bir ajanın artık yalnızca yanıt vermekle kalmayıp bir talebi onaylaması, kaydı güncellemesi, müşteriyle iletişime geçmesi veya bir dosyayı ilerletmesi söz konusu olduğunda bu ayrım önem kazanır.

Kurumsal çalışanlardan onay zincirleri, iş kuralları, bağımlılıklar, istisnalar ve üst kademelere taşıma süreçlerinden oluşan bir yapı içinde çalışmayı öğrenmeleri beklenir; ajanların da aynısını yapabilmesi gerekir. Gartner, 2026 sonuna kadar kurumsal uygulamaların %40’ında göreve özgü yapay zekâ ajanlarının yer alacağını, bu oranın 2025’te %5’in altında olduğunu öngörüyor. Bu nedenle ajanların bilgi eksikliklerini görmezden gelmek giderek zorlaşacak. 

Gartner ayrıca öngörüyor: 2028’e gelindiğinde, ajan tabanlı yapay zekânın somut yatırım getirisinin %80’i uzmanlaşmış, belirli alanlara odaklanan ajanlardan gelecek. Uzmanlaşma önemli olsa da sorunun yalnızca bir bölümünü çözer. Belirli bir alanı bilmek, ajana sorumluluğunun nerede başlayıp nerede bittiğini, görevinin daha büyük bir sürecin neresinde olduğunu veya bir konu yetki alanının dışına çıktığında kimin devralması gerektiğini kendiliğinden göstermez. Ajanların kurumsal iş süreçlerine güvenilir biçimde katılabilmesi için hem iş akışı süreçlerine ilişkin bağlama hem de iş verilerine ihtiyaçları vardır.

İyi Veriler Ajanlara Sırada Ne Olacağını Söylemez

Bir kredi başvurusunu ele alalım: Ajan, başvuru sahibinin finansal geçmişine, istihdam bilgilerine ve diğer ilgili kayıtlara erişebiliyor olabilir. Bu bilgiler başvuruyu anlamasına yardımcı olabilir, ancak kuruluşun başvuruyu nasıl ele aldığını ajana göstermez.

Önce hangi kontrollerin yapılması gerekir? Başvuru sahibi bir koşulu karşılayıp diğerini karşılamadığında ne değişir? Dosyanın ilerleyebilmesi için hangi bilgiler zorunludur? Hangi kararlar otomatik olarak alınabilir, hangilerinin bir kredi tahsis uzmanına iletilmesi gerekir?

Kurumsal işlerin çoğu bu tür koşullu yollarla doludur. Belirli ölçütler karşılandığında bir süreç otomatik olarak ilerleyebilir, ek bilgiler toplanırken durabilir ya da bir istisna ortaya çıktığında tamamen farklı bir yola girebilir. Atılacak uygun sonraki adım yalnızca mevcut bilgilere değil, işin o anda hangi aşamada olduğuna ve daha önce neler yaşandığına da bağlıdır.

Bu durum, kurumsal bir ajan için güvenilirliğin ne anlama geldiğini değiştirir. Sonraki adım yanlışsa doğru bir yanıt yeterli değildir. Bir ajan önündeki bilgileri doğru yorumlayabilir, ancak yine de bir dosyayı yanlış aşamaya taşıyabilir, gerekli onayı atlayabilir veya bir bağımlılık tamamlanmadan harekete geçebilir.

McKinseyyakın zamanda, kullandığı yapay zekâ platformunun temel iş akışı kurallarından birkaçını destekleyemediğini fark eden bir medikal teknoloji şirketiyle yürüttüğü çalışmaya ilişkin görüşlerini paylaştı. Şirket, bu eksiklikleri gidermek için lansman tarihini ertelemek yerine planlandığı gibi devam etti ve sonuçta yapay zekânın hedeflenen değerinin tahminen %30’unu elde edemedi. Bu örnek, kuruluşların yalnızca görevi tamamlamak için gereken bilgileri değil, görevi çevreleyen süreci de hesaba katması gerektiğini gösteriyor. 

Güvenlik Önlemlerini Ajanın Alabileceği Kararlara Göre Belirleyin

Ajanlar harekete geçme yeteneği kazandıkça yönetişimin de daha belirgin hâle gelmesi gerekir. Bir politika belgesini getiren bir ajanla müşterinin hesabını değiştiren, ödemeyi onaylayan veya işlem başlatan bir ajan aynı düzeyde risk taşımaz. Buna rağmen kuruluşlar kolayca iki uçtan birine savrulabilir: Ajanların çok serbestçe hareket etmesine izin vermek ya da neredeyse her şey için insan onayı istemek.

Bir ajana yönelik kontroller, alabileceği kararları ve olası sonuçları yansıtmalıdır. Düşük riskli ve tekrarlanan bir işlemin bağımsız biçimde tamamlanması uygun olabilir. Başka bir işlem için belirli bir tutarın üzerindeki durumlarda onay gerekebilir. Olağan dışı bir durumun ise derhâl bir çalışana iletilmesi gerekebilir.

İnsan gözetimi, bilinçli biçimde uygulandığında en yararlı hâlini alır. Bir kişinin rutin her adımı onaylaması gerekiyorsa ajan kullanmaya başlamanın sağladığı faydanın büyük bölümü ortadan kalkar. Ancak gerçekten muhakeme veya hesap verebilirlik gerektiren kararlardaki kontrol noktalarını kaldırmak da başka bir soruna yol açar.

IBM Research, yapay zekâ ajanlarının gerçekleştirmesine izin verilen eylemler ve insan gözetiminin gerekli olduğu noktalar konusunda açık kurallar belirlenmesini savunagelmiştir. Bu kontrollerde, ajanın dahil olduğu süreç de hesaba katılmalıdır. Bir ajanın yetkileri, bir vakanın başından sonuna kadar aynı kalmayabilir. Ajanın güvenli biçimde yapabilecekleri; sürecin hangi aşamasında olduğuna, hangi bilgilerin doğrulandığına, daha önce hangi kararların alındığına ve bir sonraki eylemin sonuçlarına bağlı olabilir.

Bu da kuruluşların yönetişimi doğrudan iş akışına yerleştirmesi gerektiği anlamına geliyor. Bir ajana geniş kapsamlı izinler verip her durumda ona güvenmek yerine, bağımsız olarak nerelerde hareket edebileceğini, hangi durumlarda ek koşulların karşılanması gerektiğini ve sorumluluğun nerede bir kişiye devredilmesi gerektiğini belirleyebilirler. Böylece soru, bir ajanın özerk olup olmadığından çok, bir süreç içinde özerkliğin nerede anlamlı olduğuna dönüşür.

Ajanlar Mevcut İşleyişle Uyum İçinde Çalışmalı

Bir ajanın kuruluşun geri kalanıyla etkileşim kurması gerektiğinde süreç bağlamı daha da önem kazanır. Kuruluşlar işe sıfırdan başlamıyor. Tek bir müşteri talebi, çeşitli departmanlardan çalışanların da dahil olduğu bir süreçte CRM, belge deposu, vaka yönetimi platformu ve ERP sistemi arasında zaten ilerliyor olabilir.

Bir ajanı bu ortamın bir bölümüne dahil etmek, genel süreci kendiliğinden daha verimli hâle getirmez. Ajan kendi görevini kusursuz biçimde tamamlayabilir; ancak bir çalışanın çıktıyı başka bir uygulamaya kopyalaması, sırada kimin ilgilenmesi gerektiğini belirlemesi ya da süreci başka bir yerde elle yeniden başlatması gerekiyorsa darboğaz yalnızca başka bir noktaya taşınmış olur.

Bu nedenle kuruluşların ajanları yalıtılmış araçlar olarak değil, daha geniş bir sürecin katılımcıları olarak ele alması gerekir. Ajanı ne harekete geçiriyor? Hangi bilgileri alıyor? Sorumlulukları neler? İş, görevini tamamladıktan sonra nereye aktarılıyor? Görevini tamamlayamazsa ne oluyor?

Kuruluşlar birden fazla uzmanlaşmış ajanı devreye aldıkça bu sorular daha da önem kazanıyor. Deloitte, farklı ajanların ayrı roller üstlenip işleri koordine edebildiği çoklu ajan sistemlerine yönelen işletmeler için orkestrasyonu temel bir gereklilik olarak tanımladı. Kurumsal orkestrasyon, yalnızca ajanların tek başlarına nasıl çalıştığını değil, birbirleriyle nasıl iletişim kurup koordinasyon sağladığını da kapsamalıdır. Bu gözetim olmadığında ajanlar eksik bağlamla hareket etme, çelişkili eylemleri tetikleme ya da yerleşik iş kurallarını ve onay süreçlerini atlama riski taşır. Ajanlar hâlâ mevcut uygulamalarla, çalışanlarla, iş kurallarıyla ve günler, haftalar ya da aylar sürebilen süreçlerle dolu kuruluşların içinde çalışır.

Tamamlanması gereken süreçten başlayın ve ajanların, insanların ve mevcut sistemlerin bu süreçte hangi rolleri üstleneceğini belirleyin. Bir ajan bir adımı bağımsız olarak yürütebilir, başka bir ajan uzmanlık gerektiren bir kontrol yapabilir, bir çalışan değerlendirme gerektiren bir karar verebilir ve mevcut bir sistem son işlemi gerçekleştirebilir. Önemli olan, işin bağlam kaybolmadan katılımcılar arasında aktarılabilmesidir.

Özerklik Yapı Gerektirir

Ajanlara daha fazla yapı kazandırmak, her eylemin yeni bir kısıtlama katmanına ihtiyaç duyduğu anlamına gelmez. Hatta tam tersi de geçerli olabilir. Açıkça tanımlanmış süreçler; sınırlar, istisnalar ve konuyu üst mercilere taşıma noktaları önceden belirlendiği için kuruluşların ajanların nerelerde bağımsız çalışabileceğine daha fazla güven duymasını sağlayabilir. Bir ajanın anlamlı değer sunabilmesi için sınırsız özgürlüğe ihtiyacı yoktur. İşi ilerletecek kadar sorumluluğa, sırada ne olduğunu anlayacak kadar bağlama ve sorumluluğun başka bir yere devredilmesi gereken anları net biçimde kavramaya ihtiyacı vardır.

Daha iyi veriler, ajanların yeteneklerini geliştirmeyi sürdürecek. Ancak tek başına yetenek, bir ajanı kurumsal ortamda kullanışlı kılmaz. Asıl sınav, ajanın işletmenin belirlediği sınırlar içinde, bir sürecin doğru aşamasında doğru eylemi gerçekleştirip gerçekleştiremediğidir.