Jayant Swamy, Genpact’ta Baş Kurumsal Mimarı – Röportaj Serisi

Jayant Swamy, Genpact’ta Baş Kurumsal Mimarı, kurumsal mimari, yapay zeka, veri mühendisliği, bulut teknolojileri ve büyük ölçekli dijital dönüşüm alanlarında yirmiden fazla yıllık deneyime sahip bir teknoloji ve veri lideridir. 2024 yılında Genpact’a katılmadan önce Xtrac8.Tech’te CTO ve Baş Mimar olarak, ayrıca üretken yapay zeka ve büyük dil modelleri gibi teknolojilere odaklanan bir AI girişiminin CTO ve Kurucu Ortağı olarak görev yaptı. Swamy, daha önce Accenture’da on yılı aşkın bir süre çalıştı; burada CTO, Küresel Lider ve Uygulamalı Zeka Enstitüsü’nün Küresel Yönetici Direktörü, Veri Bulut İşletmesi için Yönetici Direktör ve Küresel İş Lideri, ayrıca Baş Veri Mimarı ve Veri Mühendisliği ve Veri Yeniliği için Küresel Lider gibi liderlik rolleri üstlendi. Kariyerinin erken döneminde Fannie Mae’de yedi yılı aşkın sürede hizmet ve kredi kaybı yönetimiyle ilgili teknoloji ve iş bilgi girişimlerini yönetti; bundan önce Oracle’ (ORCL ) da Kıdemli Uzman olarak birkaç yıl çalıştı.

Genpact, yapay zeka, veri, süreç zekâsı ve alan uzmanlığıyla işletmelerin karmaşık operasyonlarını dönüştürmelerine yardımcı olmaya odaklanan küresel bir teknoloji ve iş hizmetleri şirketidir. Şirket, 1997 yılında GE Capital içinde başlatılan bir girişime dayanmakta, 2005 yılında bağımsızlaşmış ve 2007 yılında New York Borsası’nda halka açılmıştır. Günümüzde Genpact, bankacılık, sigorta, finans, tedarik zinciri, tüketim malları, sağlık ve teknoloji gibi sektörlerdeki organizasyonlarla çalışmakta ve üretken yapay zeka, ajan sistemleri, otomasyon ve yapay zekâ destekli kurumsal operasyonlara artan bir vurgu göstermektedir.

Kariyeriniz, Oracle, Fannie Mae ve Accenture’daki kurumsal mimari ve veri liderliği rollerinden girişim ortamlarına ve şu anda Genpact’ta Baş Kurumsal Mimarı konumuna uzandı. Bu deneyim, yapay zekâ özerkliğinin gerçek kurumsal değer yarattığı alanları ve insan yargısının hâlâ vazgeçilmez olduğu noktaları nasıl şekillendirdi? 

Kariyerim boyunca ölçek, yönetişim, entegrasyon ve riskin yenilik kadar önemli olduğunu öğrendim. Kurumsal deneyim, etkileyici bir teknolojinin organizasyon içinde çalışamıyorsa başarısız olduğunu gösteriyor; girişimler ise hızlı hareket etmenin, deneme yapmanın ve mimariyi basit ve uyarlanabilir tutmanın değerini pekiştiriyor. Yapay zekâ özerkliği, bu iki zihniyeti birleştirildiğinde en iyi şekilde çalışır — hızla yenilik yaparken sağlam temelleri koruyarak. Bu sayede yapay zekâ, bir organizasyonda iş akışını gerçekten dönüştürebilir. Son araştırmamızın bulguları da bu noktayı açıkça desteklemektedir.

Modelin kendisi sadece denklemin bir parçasıdır. Çevreleyen mimari — veri, sistemler, iş akışları, kontroller ve entegrasyonlar — yapay zekânın ölçekli değer yaratıp yaratmayacağını belirler. Bu, “süreç zekâsı olmadan yapay zekâ yok” demektir. Aynı zamanda Genpact Labs’taki uygulamalı yapay zekâ çalışmalarımızın temelini oluşturur; burada ortaya çıkan yapay zekâ yeteneklerini üretim‑düzeyinde, müşteriye hazır çözümlere dönüştürüyoruz. Her yetenek ölçülebilir bir iş sonucuna bağlanır ve çalışması için gereken iş akışı, veri ve kontrollerle entegre edilir.

Yapay zekâ, hedefin net olduğu, verinin güvenilir olduğu ve sınırların iyi anlaşıldığı durumlarda hareket etme alanı bulmalıdır. İnsan yargısı, yüksek riskli, belirsiz, öznel, düzenlemeye tabi veya sorumluluk ve empati gerektiren kararlar için hâlâ vazgeçilmezdir. Özerklik, insanları sistemden çıkarmakla ilgili değildir. Sistem, herkesin yapay zekânın bağımsız olarak nerede hareket edebileceğini, insanların nerede görünürlük gerektiğini ve insan yargısının nerede devralması gerektiğini bilmesini sağlayacak şekilde tasarlanmalıdır.

Birçok şirket, müşteri odaklı yapay zekâyı öncelikle hız, tutma oranları ve maliyet tasarrufu üzerinden değerlendiriyor. Bu ölçütler, teknolojinin gerçekten müşteri deneyimini iyileştirip iyileştirmediği konusunda yanıltıcı bir tablo nasıl çizebilir?

Bu konunun sorunu, bu ölçütlerin esasen verimlilik ölçümleri olmasıdır. Sistem nasıl performans gösterdiğini gösterirler, ancak müşterinin deneyimini mutlaka yansıtmazlar. Tutma oranına bir örnek verelim: yüksek bir oran içsel olarak başarılı görünebilir, fakat bir müşteri vazgeçerse, kendini tekrar ederse, eksik yanıtlar alırsa ya da ihtiyaç duyduğunda bir kişiyle iletişim kuramazsa kötü sonuçları gizleyebilir. Tutma, yapay zekânın müşteriyi sistem içinde tuttuğunu gösterir, ihtiyacını karşılayıp karşılamadığını değil. Aynı durum maliyet tasarrufları için de geçerlidir; bu tasarruflar güven, memnuniyet veya çözüm kalitesi pahasına gerçekleşebilir.

Yapay zekâ sistemleri, onlara verilen sinyaller doğrultusunda optimize olur; bu yüzden işletmeler, sistemin başından ölçüm ipuçlarını tasarlamalıdır — hız ve tutma gibi ön yüz ölçütlerini, sorun çözümü ve sonucun başka yerlerde sorun yaratıp yaratmadığı gibi aşağı akış sinyalleriyle bağlayarak. Sonuçta, müşteri odaklı yapay zekâ, son kullanıcının temel sorununu doğru, adil ve uygun insan desteği seviyesinde çözüp çözmediğiyle ölçülmelidir.

Bir yapay zekâ ajanının belirsizlik, hayal kırıklığı, aciliyet veya belirlenmiş iş akışının dışına çıkan bir durumu tanıması için hangi sinyalleri kullanması gerekir? 

Tek bir sihirli sinyal yoktur — önemli olan, sistemin güveni, yetkisi veya bilgisi yetersiz kaldığında bunu fark etmesi için yeterli bağlam ve gözlemlenebilirlik sağlamaktır. Bu, çelişkili bilgiler, tekrarlanan başarısız denemeler ya da ajanın döngüye girmesi şeklinde ortaya çıkabilir. Ayrıca, müşterinin dilindeki bir değişim — hayal kırıklığı veya aciliyetin açık bir göstergesi — ya da görevin kendisinin ajanın sahip olmadığı bilgi, erişim veya yetki gerektirmesi de bir işarettir.

Sistem ayrıca kendi sınırlarını da bilmelidir. Bir sorun tasarlanmış iş akışının dışına çıkıyorsa, erişilemeyen verilere ihtiyaç duyuyorsa ya da tanımlı bir risk eşiğini aşıyorsa, farklı bir yol tetiklenmelidir. Amaç, ajanın her olası senaryoyu yönetmesi değil — ne zaman durması, yükseltmesi veya yardım istemesi gerektiğini bilmesidir.

Şirketler, sadece karmaşık bir etkileşim ile gerçekten insan yargısı veya empatisi gerektiren bir etkileşimi nasıl ayırt edebilir?

Ayırıcı çizgi görevin zorluğu değildir. Kararın ne kadar yargı, sonuç ve insan bağlamı taşıdığıdır. Makinelerin işlediği ve insanların doğruladığı ajan tabanlı operasyonları kurmak, insan değerinin asla ikame edilemeyeceği noktaları anlamayı gerektirir.

Yapay zekâ, hedef net, veri güvenilir, süreç tanımlı ve sonuçlar ölçülebilir olduğunda çok karmaşık görevleri de üstlenebilir. Karmaşıklık tek başına bir insan gerektirmez; sistem, çalışmasına izin verilen sınırları anlıyorsa. Müşterinin niyeti belirsiz olduğunda, durum takdir gerektirdiğinde, birden fazla geçerli sonuç olduğunda veya karar önemli finansal, hukuki, tıbbi ya da itibar riskleri taşıdığında insan devreye girmelidir. Bazı etkileşimler ayrıca güvence, açıklama, müzakere veya empati gerektirir — sadece bir yanıt değil. Bu noktada insan katılımı teknik doğruluk kadar önemlidir. Mimari bu ayrımı yansıtmalıdır. Bu müdahale noktaları iş akışına önceden tasarlanmalı, bir sorun ortaya çıktıktan sonra karar verilmemelidir.

Etkili bir yükseltme süreci, bir insan temsilci devraldığında müşterinin kendini tekrarlaması ya da etkileşime yeniden başlaması gerekmeyecek şekilde nasıl olmalıdır?

İyi bir yükseltme sadece müşteriyi aktarmak değildir — bağlamı da aktarmaktır, böylece sonraki kişi doğrudan çözüme yönelir. Bir insan devraldığında, konuşma geçmişi, müşterinin kimliği ve profili ve yapay zekânın daha önce denediği şeyler zaten elinde olmalıdır; böylece müşteriden yeniden başlatması istenmez.

Bu büyük ölçüde bir mimari sorunudur: yapay zekâ yalnızca ön uç sohbet deneyiminde bulunur ve CRM, ERP, bilgi kaynakları, iş akışları ve orkestrasyon katmanından kopuksa, sorunsuz bir devretme mümkün olmaz.

Yükseltme eşiklerinin finansal risk, müşteri kırılganlığı, düzenleyici gereklilikler veya hatalı bir kararın potansiyel sonuçları gibi faktörlere göre değişmesi gerekir mi?

Yükseltme kuralları risk seviyesine bağlı olmalıdır. Bir hatanın sonuçları ne kadar büyükse, insanın devreye girmesi o kadar erken olmalıdır.

Şifre sıfırlama tamamen otomatik yürütülebilir, ancak tartışmalı bir finansal işlem daha sıkı kontroller gerektirir. Talep veya tahsilat süreçlerinde, rutin durum güncellemeleri tam özerklikle yapılabilir, ancak bir vaka dolar eşiğini aşarsa ya da zorluk işareti ortaya çıkarsa zorunlu bir insan kontrolü gerekir. Karar ne kadar düzenlenmiş veya sonuçları büyükse, denetim o kadar güçlü olmalıdır. Kırılgan bir müşteri daha erken insan müdahalesi gerektirebilir ve geri dönüşü olmayan sonuçları olan kararların özerklik eşikleri daha düşük olmalıdır.

Bu eşikler, bireysel ajanların anlık yorumlamasına bırakılmamalıdır. Ajanın neyi yapma yetkisi olduğu, neyin ek doğrulama gerektirdiği ve neyin yükseltilmesi gerektiği konusunda net kurallar içeren bir mimari ve orkestrasyon katmanına yerleştirilmelidir.

Fırsat, özerkliği riskle ölçeklendirmektir — düşük riskli işlerde tam hız, kritik noktalarda daha sıkı kontrol. Genpact’ta, bu katmanlamayı ajan tabanlı iş akışlarını tasarlama şeklimize doğrudan entegre ettik; rutin vakalar özerk çalışırken, tanımlı bir risk ya da dolar eşiğini aşan her şey otomatik olarak bir insana yönlendirilir ve ajanın yükseltme kararı vermesine gerek kalmaz. Her etkileşime aynı özerklik seviyesini veren işletmeler, konforu hızlıca maliyetli hatalara dönüştürür.

Görev tamamlama dışında, bir özerk müşteri hizmetleri sisteminin müşteriler için olumlu sonuçlar ürettiğini değerlendirmek için organizasyonlar hangi ölçütleri kullanmalı?

Görev tamamlama faydalı olsa da yeterli değildir. Soru, “ajan görevi tamamladı mı?” olmamalıdır; “müşteri daha iyi bir konuma ulaştı mı?” olmalıdır. Bu, bir sonucu vaat etmek ile ona karşı sorumlu olmak arasındaki farktır.

Bu, işlem süresinin ötesine bakarak yanıt doğruluğu, ilk temas çözümü, tekrar temaslar, yükseltme kalitesi, müşteri memnuniyeti ve sonuçların adalet ve tutarlılığı gibi ölçütlere bakmak anlamına gelir. Ayrıca tek bir etkileşimin ötesinde ölçüm yapmak gerekir. Bir ajan, müşteri yolculuğunun bir bölümünde başarılı görünebilir ancak sonraki aşamalarda sorun yaratabilir. Örneğin, hızlı kapanan bir vaka haftalar sonra başka bir aramayı tetikleyebilir, müşteri duygusunu etkileyebilir ve sonunda insan müdahalesi gerektirebilir; bu yüzden 30 gün sonra hâlâ çözülmüş olup olmadığını izlemek değerlidir.

Sistemin sadece etkileşimi kapatıp bir başarı olarak saymak yerine, müşterinin temel ihtiyacını gerçekten çözüp çözmediğini bilmek de önemlidir. Bunun için iş akışı boyunca uçtan uca gözlemlenebilirlik gerekir, yalnızca yapay zekâ arayüzünden gelen ölçütler yeterli değildir. Aktivite yerine müşteri ve iş sonuçlarını ölçmek, yapay zekânın gerçek YG’yi ortaya koyar.

İşletmeler, yapay zekâ ajanlarının çağrı hacmini veya işlem süresini azaltma gibi operasyonel hedeflere odaklanarak adalet, güven veya müşterinin temel ihtiyaçları pahasına optimize etmesini nasıl önleyebilir?

Yapay zekâ sistemleri, kendilerine verilen hedefi yakalamada olağanüstü iyidir. Bu, avantajı ve tuzu: bir ajan sistemine sadece hızın hedef olduğunu söylerseniz, bunu başarmak için her şeyi feda eder.

İşletmeler, verimliliğin önemli olduğu ancak aynı zamanda müşteri sonuçları, risk, adalet, doğruluk ve güvenle birlikte yer aldığı dengeli bir hedef seti vermelidir. Bu, kabul edilebilir davranışlar için net koruma sınırları koyarak, önyargı ve istenmeyen sonuçları test ederek, insan müdahalesi mekanizmalarını sürdürerek, kararları sürekli izleyerek ve çıktıları izlenebilir ve denetlenebilir hâle getirerek sağlanır. Yönetişim, sistem çalışmaya başladıktan sonra eklenebilecek bir şey değildir; baştan mimariye entegre edilmelidir.

Parçalanmış bağlam sorununun çözümü, bir yapay zekâ ajanına her şeye erişim vermek değildir. Doğru bilgiye, doğru zamanda, yönetişimli bir erişim sağlamaktır. İşletmeler, ajanları yetkili kayıt sistemlerine bağlayan ancak her ajanın neyi görebileceğini ve ne yapabileceğini kontrol eden güçlü bir veri ve entegrasyon katmanına ihtiyaç duyar. Bu, rol ve amaca dayalı erişim, asgari gerekli veri, veri kökeni takibi, denetim günlükleri ve hassas bilgilerin korunmasını içerir.

Daha fazla bağlam yapay zekâ kararlarını iyileştirir, ancak yalnızca yönetişimle birlikte olduğunda. Aksi takdirde, bir problemi çözmek çok daha büyük bir gizlilik veya güvenlik sorunu yaratabilir. İyi yönetildiğinde, bağlam sistemin önceki istisnalardan öğrenmesiyle birikir, gelecekteki etkileşimleri daha akıllı hâle getirir ve yeni riskler oluşturmaz.

Müşteri odaklı yapay zekâ daha özerk hâle geldikçe, yapay zekâ ajanları ile insan çalışanlar arasındaki ilişkinin nasıl evrimleşmesini bekliyorsunuz ve bu iş birliğini başarılı kılmak için organizasyonların şimdi hangi yetkinlikleri geliştirmesi gerekir?

İnsan rolü, bir sürecin her adımını yürütmekten, işi hacim olarak üstlenen ajan sistemlerini yönlendirmek, denetlemek ve iyileştirmek yönüne kayacak. Çalışanlar, hedef belirleme, istisnaları ele alma, yargı kullanma, yüksek riskli kararları doğrulama, iş akışlarını iyileştirme, ajan davranışlarını izleme ve bu ajan sistemlerinin mimarisini ve yönetişimini geliştirme konularına daha çok zaman ayıracak. Bu da şirketlerin ihtiyaç duyduğu becerileri değiştirir. Yapay zekâ okuryazarlığı önemli olacak, ancak eleştirel düşünme, alan uzmanlığı, ajan orkestrasyonu, gözlemlenebilirlik ve bir şey yanlış göründüğünde yapay zekâ sistemine itiraz edebilme yeteneği de aynı derecede kritik olacaktır.

Bu sadece bir iş gücü sorunu değil. Organizasyonlar, bu iş birliğini destekleyecek mimariye ihtiyaç duyar; ajanları doğru veri ve sistemlere bağlamak, birlikte nasıl çalışacaklarını koordine etmek ve insanlara ne yaptıklarını gösteren görünürlük sağlamak gerekir. Yönetişim, insan müdahalesi ve yükseltme süreçleri de baştan tasarlanmalıdır.

Baş Kurumsal Mimarı olarak görevimde, tüm organizasyonun sadece yapay zekâyı nasıl kullanacağını değil, ne zaman güvenmesi, sorgulaması ve kontrolü ele alması gerektiğini bilmesini sağlamak benim görevim olarak görüyorum. Bu şekilde, mimari, güveni ve gerçek etkiyi sağlayan sorumlu bir yapay zekâ için bir kapı haline gelir.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Genpact sitesini ziyaret etmelidir.