Babak Hodjat, Cognizant’ta Baş Yapay Zeka Sorumlusu: Bir Takip Görüşmesi

Babak Hodjat, Cognizant‘de Baş Yapay Zeka Sorumlusu, şirketin AI Araştırma Laboratuvarlarını yönetiyor; burada çalışmaları ajan temelli AI, evrimsel hesaplama, dağıtık zeka ve büyük ölçekli kurumsal dağıtım için tasarlanmış AI sistemlerinin geliştirilmesini kapsıyor. Uzun yıllardır AI araştırmacısı, mucit ve girişimci olan Hodjat, daha önce Sentient Technologies’i ortak kurmuş, dünyanın en büyük dağıtık AI sistemlerinden birini inşa etmeye yardımcı olmuş ve daha önce Dejima’yı ortak kurmuş; Dejima, Apple’ın Siri’sinin temellerine katkıda bulunan ajan odaklı doğal dil teknolojisini geliştirmişti.

Biz önceden Babak Hodjat ile görüştüğümüzde, tartışmamız onun AI kariyerini, karmaşık karar alma süreçlerine yönelik evrimsel yaklaşımları, Cognizant’ın AI’ı iklim ve arazi kullanımı sorunlarına uygulamasını ve AI’nın kurumsal çapta giderek demokratikleşmesini ele aldı. Bu takip görüşmesinde odak, hızla ortaya çıkan ajan temelli kuruma kayıyor. Yakın tarihli kitabı The Agentic Enterprise‘den temaları alarak, Hodjat mimarinin model yeteneğinden daha önemli olabileceğini, organizasyonların giderek karmaşıklaşan AI ajan ağlarını nasıl koordine edebileceğini, merkezi güven ve yönetişimin dağıtık ajan ekosistemlerine nasıl yerleştiğini ve otonom sistemlerin uzun vadeli hedefleri minimum insan müdahalesiyle güvenilir bir şekilde yönetebilmesi için hâlâ neyin değişmesi gerektiğini inceliyor.

Kariyeriniz, Siri’yi ilham kaynağı yapan Dejima’nın doğal dil teknolojisinden Sentient’te devasa dağıtık AI sistemleri inşa etmeye ve şu anda Cognizant’ta Baş Yapay Zeka Sorumlusu olarak görev yapmaya kadar, akıllı ajanlar üzerindeki en erken çalışmaları kapsamaktadır. “AI ajanı” tanımınız bu yolculukta nasıl evrildi ve günümüz geliştiricileri bu önceki nesil ajan tabanlı sistemlerden ne öğrenebilir?

Tanım aynı kalmış olsa da, günümüz ajanlarının yetenekleri, 90’ların başında kodlamak zorunda olduğumuz birçok temel işlevin artık LLM’lerle kutudan çıkar çıkmaz mevcut olduğunu gösteriyor. Bu yüzden LLM tabanlı ajanlar artık standart haline geldi ve insanlar ajanlardan bahsettiklerinde, arayüz ve akıl yürütmeyi yönlendiren bir LLM olduğunu varsayıyorlar.

Son kitabınız The Agentic Enterprise‘de, kurumsal AI sistemlerinin çoğu zaman başarısının ya da başarısızlığının temel modelin ham yeteneğinden ziyade mimarilerinden kaynaklandığını savunuyorsunuz. Şirketler, daha güçlü bir modele geçişin ajan temelli AI sorunlarını çözeceğini varsaydıklarında neyi yanlış anlıyorlar?

Tıpkı bağlayıcıların (yani, bir ajanın LLM dışı parçaları) bir kodlama ajanını başarabilir ya da başarısız kılabilir olması gibi, çok ajanlı bir sistemin mimarisi de başarısı için kritik öneme sahiptir. Bunun nedeni, mimarinin ajanların çalışması gereken bağlamı yansıtmasıdır – bu, ajan temelli kurumu bir arada tutan iskelet gibidir. Bu olmadan, ajanlar işletme operasyonları, veri, iş akışları ve süreçlerin gerçekliğine bağlanamaz. Bu, çalışanların iş tanımları, süreç tanımları ve iletişim protokollerini içeren bir işletmenin organizasyon yapısına benzer bir durumdur.

Erişim kontrolleri, sorumluluk, orkestrasyon, gözlemlenebilirlik ve denetim gibi çevre sistemin modelin kendisinden daha önemli olabileceğini vurguladınız. Üretime hazır bir ajan temelli mimarinin, çoğu kanıt kavramı (PoC) dağıtımlarının eksik bıraktığı hangi unsurlara gerçekten ihtiyacı var?

Kanıt kavramları (PoC) genellikle temelsizdir; bu yüzden başlamak için ajanların şirketin iç verilerine ve uygulamalarına erişebileceği bir ortamda çalışması gerekir. Hangi veri ve uygulamalara ajanların erişmesine izin vermeye hazır olduğumuz ve sistemin güvenli ve emniyetli kalmasını sağlarken, beklediğimiz kalite ve verimlilik artışının hâlâ elde edilebilmesi için ajanların hangi kararları vermesine rahat olduğumuz gibi önemli sorular sorulmalıdır. Bu soruların yanıtını bir PoC ortamında belirlemek zordur. Ayrıca, güvenlik sınırları ve denetim, bir ajan temelli sistem şirket içinde diğer insan veya ajan süreçleriyle birlikte çalıştığında anlamlı olabilir. Bu nedenle, bir PoC’den dağıtıma geçiş sürecinde sandboxing önemli bir adımdır.

Cognizant, AI ajan ağlarını koordine etmek için bir “Ajan İşletim Sistemi”nin ortaya çıkışını tanımlamıştır. Böyle bir katmanın hangi işlevleri yerine getirmesi gerekir ve ajan orkestrasyonunun sonunda işletme bilişiminde işletim sistemleri ve bulut platformları kadar temel bir unsur haline gelmesini bekliyor musunuz?

Ajanların koordinasyonu önemlidir: çok katı yapılırsa sisteminiz bozulur ve kırılganlaşır. Koordinasyon tamamen ajana devredildiğinde ise çok açık olur ve ajanın görevini çok karmaşık ya da riskli hâle getirme riski taşır. İyi bir koordinasyon mekanizması, ajanların çeşitli durumlara yanıt olarak kendiliğinden ekipler oluşturmalarını sağlar ve bu da sağlam ve akışkan bir organizasyon disiplini ortaya çıkarır. Ben dağıtık koordinasyonun savunucusuyum. Bu, bir insan organizasyonuna sorumluluk alanı üzerinde belirli bir yetki seviyesi vermeye benzer. Bir bağlam ortaya çıktığında, organizasyon üyeleri durumla başa çıkmaktan sorumlu kişileri belirlemek için organizasyon yapısı üzerinden iletişim kurar ve koordine eder; yanıt daha sonra organizasyon düğümleri arasında toplanır, koordine edilir ve bütünleştirilir. İyi haber şu ki, sıkı kontroller ve güvenlik önlemleri ajan sistemlerine uygulanabilir, böylece bu esneklik riskli davranışlara yol açmaz.

Ben de MCP’nin ajan tabanlı uygulama erişimi için hızla de facto bir standart haline geldiği gibi, koordinasyon protokollerinin de ortaya çıkıp ajan platformları arasında standartlaşacağını ve ajan sistem sınırları boyunca kendiliğinden çok ajanlı süreçlere izin vereceğini düşünüyorum. İşletim sistemleri ve bulut platformları muhtemelen burada en iyi benzetme değildir; daha çok, çok ajan tanımı ve koordinasyon protokolleri için geniş çapta kabul gören standartların ortaya çıkması, kurumsal ortamda ajanlaştırmanın daha geniş bir şekilde yayılmasını ve gelişmesini sağlayacaktır.

Şirketler bireysel yardımcı pilotlardan ondalara hatta yüzlerce uzman ajana sahip ağlara geçtikçe, organizasyonlar sorumlulukların hangilerinin bireysel ajanlara ait olması gerektiğine ve hangilerinin merkezi kalması gerektiğine nasıl karar vermelidir?

İnternet güvenlik duvarı ve güvenlik mekanizmaları gibi, ajan sistemlerinde politikalara karşı canlı denetim yaparak güvenin oluşturulması ve koruma sınırlarının uygulanması, bir işletme içinde tek bir varlık tarafından tanımlanıp sürdürülen merkezi bir işlev olmalıdır. Diğer tüm ajan sistemleri dağıtık bir şekilde sağlanabilir ya da uygulanabilir, ancak bu sistemlerin çalıştırılabilmesi için güven sistemine kaydolmaları gerekir.

Cognizant, yaklaşık 350.000 çalışanı olan bir organizasyonda yaklaşık 200 ajanı birbirine bağlayan bir çok ajanlı sistemi dahili olarak devreye almıştır. Bu ölçekle çalışmak, daha küçük pilotlarla keşfetmesi zor olan ajan AI’sı hakkında ne ortaya çıkardı?

Ölçeklenebilirlik, genişletilebilirlik, maliyet etkinliği ve makul yanıt süreleri için tasarım yapmamız gerekti. Bu kadar büyük projelerde, az sayıda kullanıcıya sahip küçük, sınırlı ajan sistemlerinde gerekmeyen şeyleri sık sık icat etmeniz gerekir. Örneğin, ajanlar arası koordinasyonu kişiselleştirilmiş ve verimli hâle getirmek zorundasınız, böylece ekstra adımlar ve maliyet önlenir. Ayrıca, sistem özel olarak geliştirilmiş uygulamaları ve üçüncü taraf sistemleri ve ajanları da entegre edebilmelidir; bu yüzden birlikte çalışabilirlik önemlidir ve zaman ile para tasarrufu sağlar.

Otonom ajanlar API çağrısı yapabildiğinde, kurumsal sistemlere erişebildiğinde, diğer ajanlarla iletişim kurabildiğinde ve makine hızıyla eylem gerçekleştirebildiğinde, geleneksel AI yönetişimi çok daha zorlaşır. İnsan denetiminin zorunlu kalması gereken yerler nereler olmalı ve organizasyonlar ajanların bağımsız olarak çalışmasına güvenle izin verebilecekleri alanlar nerelerdir?

Bence insan denetiminin gerekli ve zorunlu olduğu yerin nihai belirleyicisi güvendir. Bu sistemler daha güvenilir hale geldikçe, onlara daha fazla özerklik tanıyacağız ve yasal olarak zorunlu olmadıkça (örneğin, AI’nın kişilik sahibi olmaması gibi), ajanlara güvenmekten rahat olacağız. Güven ve risk ölçümü bu nedenle önemlidir ve özerklik ile insan denetimi arasındaki çizgiyi çizmeye yardımcı olabilir — bu çizgi, sistemler daha güvenilir ve özerk çalıştırıldıklarında daha az riskli hale geldikçe kaymaya başlayabilir.

Önceki araştırmalarınızın büyük bir kısmı evrimsel hesaplama ve seçim ve adaptasyon yoluyla gelişen sistemlere odaklanmıştı. Evrimsel yaklaşımlar, ajanları sadece önceden tanımlanmış iş akışlarını yürütmek yerine sürekli olarak iyileşebilen hâle getirmeye çalışırken, büyük dil modelleri ve pekiştirmeli öğrenme ile nasıl tamamlayıcı olabilir?

Bugünkü AI ana akımı, çok yaratıcı olmayan bir tepe tırmanışı araması biçimi olan gradient iniş yaklaşımları tarafından domine edilmektedir. Evrimsel hesaplama, karmaşık arama uzaylarını taramada son derece verimlidir ve ana akım yaklaşımları tamamlayabilir. Laboratuvarımız, örneğin, bu konuda yakın zamanda bir atılım gerçekleştirdi: Evrimsel Stratejilerin, çoğu LLM sonrası eğitiminde Pekiştirmeli Öğrenmeye göre daha üstün olduğunu gösterebildik; bu da çok daha düşük maliyetle eşit ya da daha kaliteli modeller elde edilmesini sağladı. Evrimsel yaklaşımlar, LLM’lerin dağıtımdan sonra öğrenmesini amaçlayan Test Zamanı Eğitimi’ne de yardımcı olabilir.

Cognizant’ın araştırması, etkileşimde bulunan ajanların iş birliği, rekabet, ortak bilgi ve hatta aldatıcı stratejiler geliştirdiği ortamları incelemiştir. Çok ajanlı sistemler daha karmaşık hale geldikçe, ortaya çıkan davranışlar kurumsal AI’nın öngörülebilirliğini ve organizasyonel hedeflerle uyumunu sağlamakta en büyük zorluklardan biri haline gelebilir mi?

Bu zaten durum, çokça duyurulan son OpenAI/Hugging Face olayının kanıtı olarak. Ajentlerin, istemlerine ve bağlamlarına sınırlı olduğu ve çalışma zamanında öğrenmeyen LLM’leri kullandığı sürece davranışlarının büyük ölçüde tutarlı kalacağını düşünebiliriz. Ancak gerçek şu ki, bir ajentin ortamı ve motivasyonları değişebilir, genellikle ajentin ortamda kendi eylemlerinin bir sonucu olarak, öngörülmemiş davranışlara yol açar. Birden çok ajent etkileşime girdiğinde bu daha da olasıdır, bu yüzden özerk ajentleri güvenli sandbox ortamlarında gözlemlememiz kritik, böylece ortaya çıkan eğilimlerin kapsamını ve ölçeğini belirleyebilir ve bunları ajent tasarımlarımızda ve güvenlik önlemlerimizde hesaba katabiliriz. Kamuya açık sistemimiz, TerraLingua, burada ajentler, nesneler ekleyebilir ve hatta ajentleri taklit edebilir ve bireysel ve kolektif davranışlarını gözlemleyebilirsiniz, bu yönde bir adımdır.

Bugünün ajans AI dalgasının ötesine bakarak, uzun vadeli, karmaşık hedefleri minimal insan müdahalesiyle güvenilir bir şekilde yönetebilen AI sistemlerini inşa etmeden önce hâlâ eksik olduğunu düşündüğünüz teknolojik atılım veya mimari değişim nedir?

Bugünün ajentlerinin birçok sınırlaması, yapay zekadaki güncel durumun sınırlamalarından kaynaklanıyor. LLM’ler eğitim sonrası neredeyse sabittir ve yeni bilgilerle karşılaştıkça ‘fikrini değiştiremezler’. LLM’ler her şey ve herkes olduğundan, bağlam ve istemlerle önceden hazırlanmalı ve bu ön hazırlığa oldukça duyarlıdır. LLM’lerin sınırlı bağlam pencereleri vardır ve ürettikleri her kelime ya da gerçekleştirdikleri her eylem için her şeyi yeniden beslemeleri gerekir. Çok‑ajent seviyesinde, ajans geleceğinin tam potansiyeline ulaşması için yaygın kabul gören dağıtık koordinasyon protokolleri, güvenlik sınırları ve politikalar ve işlem aracısı sistemlerine ihtiyacımız olduğunu düşünüyorum.

Harika röportaj için teşekkürler, daha fazla bilgi edinmek isteyen okuyucular Cognizant ya da önceki röportajımızı ziyaret etmelidir.