Sobhan Daliry, Pipefy’de CPO & AI Strateji Lideri – Röportaj Serisi

Sobhan Daliry, Pipefy’de CPO & AI Strateji Lideri, 2023’ten bu yana şirketin AI stratejisini yöneten deneyimli bir ürün ve teknoloji yöneticisidir ve geleneksel iş akışlarını giderek daha akıllı ve özerk süreçlere dönüştürmeye yardımcı olmaktadır. Kariyeri boyunca Daliry, ürün stratejisini, organizasyonel dönüşümü ve teknoloji liderliğini startup’lar ve köklü şirketler arasında birleştirmiştir. Pipefy’ye katılmadan önce, Polen.me’yi kurmuş ve CEO olarak görev yapmış ve NZN’de CEO/CPO olarak beş yıldan fazla süre geçirmiş, burada şirketin dönüşümünü ve ürün stratejisini yönlendirmiştir. Önceki görevleri arasında PSafe’de Ürün Yönetimi Direktörü, Peixe Urbano’da Ürün Müdürü ve Oi/Telemar, Claro, AIRCOM International ve Planeta Tecnologia’da dijital hizmetler, telekomünikasyon, danışmanlık ve iş geliştirme pozisyonları yer almaktadır.

Pipefy, kuruluşların iş akışlarını otomatikleştirmesine ve düzenlemesine yardımcı olmak için tasarlanmış küresel bir süreç yönetimi ve AI platformudur. 2015 yılında kurulan şirket, kodsuz süreç otomasyon platformundan AI odaklı bir orkestrasyon ortamına evrilmiş ve AI Ajanları, iş akışları, formlar, portallar, uygulamalar, veri, analiz, mesajlaşma ve entegrasyonları bir araya getirmiştir. Platformu, ekiplerin doğal dil ve kodsuz araçlar kullanarak AI Ajanları oluşturmasını ve yönetmesini sağlarken kurumsal yönetişim, güvenlik ve görünürlüğü korur. Pipefy’nin AI yetenekleri, belgeleri yorumlayabilen, iş akışı görevlerini yürütebilen, karar vermeyi destekleyen, dış sistemlerle etkileşime geçen ve finans, insan kaynakları, tedarik, müşteri operasyonları ve uyumluluk gibi alanlarda süreçleri düzenleyen ajanları içerir.

Kariyeriniz, Claro ve Oi gibi şirketlerde telekom mühendisliğinden Peixe Urbano ve PSafe’de ürün liderliğine, NZN’de CEO/CPO olarak görev yapmaya, Polen.me’yi kurmaya ve şimdi Pipefy’de ürün ve AI stratejisini yönlendirmeye uzandı. Bu ilerleme, yeni teknolojileri sergilemek yerine gerçek operasyonel sorunları çözen AI ürünleri geliştirme konusundaki düşünce biçiminizi nasıl şekillendirdi?

Telekom bana altyapının her seferinde, büyük ölçekli ve “çoğu zaman çalışıyor” gibi bir tolerans olmadan çalışması gerektiğini öğretti. Düşen bir arama bir demo hatası değil, müşterinin uzaklaşmasıdır. Bu zihniyet — güvenilirlik yenilikten önce gelir — beni hiç bırakmadı. Peixe Urbano ve PSafe’de tam tersini öğrendim: tüketici ürünlerinin ne kadar hızlı hayatta kalıp ölmesi, bugün gerçek, hissedilen bir sorunu çözüp çözmediğine bağlıdır, teorik bir soruna değil. NZN’i CEO/CPO olarak yönetmek, iki gerçeği aynı anda tutmamı zorladı — kötü bir tezi aşırı hızla uygulayamazsınız ve kötü bir uygulamayı aşırı tezle geçemezsiniz. Polen.me’yi kurmak bana en pahalı dersi verdi: sermaye ve zaman sınırlıdır, bu yüzden inşa ettiğiniz her özellik, inşa etmediğiniz bir özelliktir ve etkileyici bir demoyu gerçek bir iş akışı yerine kovalamak maliyeti aylar sonra ortaya çıkar, sahnede değil. Pipefy’ye geldiğimde, her AI özelliği hakkında sorduğum soru, bir hücre kulesine sorduğum aynı soruydu: bu, gerçek yük altında, kimse izlemiyorken üretimde dayanıklı mı? Bir AI ajanı sadece düzenlenmiş bir demo ortamında çalışıyorsa, bu bir ürün değildir — bir tanıtım fragmanıdır.

2023’ten beri Pipefy’nin AI stratejisinin formülasyonunu ve uygulanmasını yönettiniz. Üretken AI ve AI ajanları olgunlaştıkça, kurumsal AI hakkında başlangıçta sahip olduğunuz ve en çok değişen varsayımlar nelerdi?

Öldürmem gereken en büyük varsayım, modelin darboğaz olacağıydı. 2023’te herkes — ben de dahil — “hangi LLM en akıllı” sorusuna odaklanıyordu. Aslında darboğaz olan şey bağlamdı: ajan, sürecin ne olduğunu, kısıtlamaların neler olduğunu, bu belirli müşterinin hesap ödemeleri versiyonunda “tamamlanmış”ın nasıl göründüğünü biliyor mu? Model kalitesi herkesin görebildiği bir eğri üzerinde iyileşmeye devam ederken; süreç bağlamı kendi kendine iyileşmedi, çünkü kimse onu yapılandırmamıştı. İkinci tersine dönen varsayım ise özerklikle ilgiliydi. Piyasanın mümkün olduğunca hızlı, tamamen bağımsız çalışan ajanlar istediğini varsaydım. Kuruluşların aslında — hâlâ — istediği, sınırlı özerklik: kurallarını aşamayan, gerçek kararlar veren ve sonrasında bunu kanıtlayan bir iz bırakan ajanlar. Yönetişim olmadan tam özerklik bir hırs değil, sadece daha iyi bir kullanıcı arayüzüyle risk demektir. Piyasa, ham yetenek gereksinimlerinden çok güven gereksinimlerinde daha hızlı olgunlaştı ve bu yeniden sıralama, başlangıçta yaptığım en büyük hataydı.

Pipefy, nispeten basit AI otomasyonu ile belirsiz durumları akıl yürütebilen, birden çok adım planlayabilen ve bir iş akışı boyunca eylemleri yürütebilen AI ajanları arasını ayırır. İşletmeler, bir görevin gerçekten bir AI ajanı gerektirip gerektirmediğini, ne zaman deterministik otomasyonun daha iyi bir çözüm olduğunu nasıl belirlemelidir?

Kullandığım test basit: kuralı yazabiliyorsanız, kuralı yazın. Karar ağacı önceden biliniyor ve değişmiyorsa deterministik otomasyon hâlâ doğru çözümdür — bu faturayı bu tutarın altındaysa bu onaylayıcıya yönlendirin. Bu bir ajan işi değildir ve aksiymiş gibi davranmak, zaten çözülmüş bir şeye gecikme ve öngörülemezlik ekler. Bir ajan, durum belirsizlik içerdiğinde ve sabit bir kural bunu çözemediğinde yerini alır — fatura satın alma siparişiyle tam olarak eşleşmiyor, eksik bir alan var, müşterinin talebi mevcut kategorilerinizden hiçbirine uymuyor. İşte bu noktada akıl yürütme gerçek değer kazanır: “sonraki” adım zaten yazılı değilken ne yapılacağını belirlemek. Şirketlerin sürekli yaptığı hata, zaten deterministik olan %80’lik vakalar için bir ajan inşa etmek, çünkü daha gösterişli ve belirsiz %20’lik kısmı — gerçek zor kısmı — insanın manuel olarak çözmesini bırakmaktır. Oranı tersine çevirirseniz gerçekten bir şey inşa etmiş olursunuz.

Bağımsız yardımcı programlardan “ajanik orkestrasyon”a doğru artan bir kayma var; burada AI birden fazla sistemi kapsayan süreçleri koordine edebiliyor. Gerçek ajanik orkestrasyonu, mevcut bir otomasyon platformuna sadece büyük bir dil modeli eklemekten ayıran nedir?

Mevcut bir otomasyon akışına bir LLM düğümü eklemek, daha akıllı bir tek adım sağlar. Gerçek orkestrasyon, AI’nın tüm sürecin kalıcı, yapılandırılmış bir görünümüne sahip olması demektir — sadece bu görev değil, sıralamadaki konumu, yukarı akışta neler olduğunun, aşağı akışta bu işin tamamlanması için neyin doğru olması gerektiğinin bilinmesi. Fark, zekânın sürecin hafızasına mı yoksa sadece istemin hafızasına mı sahip olduğudur. Bir yardımcı, ona sorduğunuz soruya yanıt verir. Orkestrasyon, birbirleriyle doğal olarak iletişim kuramayan sistemler arasında — ERP’niz, CRM’niz, bir ortak API’si — eylemi koordine eder ve sürecin geri kalanının zaten çalıştığı aynı kuralları, izinleri ve denetim izini devralır. AI özelliğinizin etrafında, altındaki otomasyon platformu bir yönetim katmanı sunmuyorsa ayrı bir yönetişim katmanı oluşturmanız gerekiyorsa, ajanik orkestrasyonunuz yoktur — API erişimi olan bir sohbet botunuz vardır ve bunların risk profilleri tamamen farklıdır.

Kod yazmadan AI ajanları, iş ekiplerinin mühendislik kaynaklarını beklemeden giderek daha karmaşık süreçleri otomatikleştirmesine olanak tanıyabilir. Bu yeteneği, yeni bir gölge AI nesli, kötü tasarlanmış ajanlar veya güvenlik riskleri yaratmadan nasıl demokratikleştirirsiniz?

İş kullanıcılarından daha dikkatli olmalarını istemek, güvenli bir demokratikleşme sağlamaz — bunu şu şekilde elde edersiniz:

koruma önlemlerini ayrı bir şerit olarak değil, yolun kendisine entegre ederek. İş kullanıcısının oluşturduğu her ajan, içinde inşa edildiği sürecin zaten yönettiği aynı rol tabanlı erişimi, aynı denetim izini ve aynı iş kurallarını devralır — bunlar isteğe bağlı yapılandırma değildir, yapısaldır. Bu, gölge AI’ye gerçek yanıtı verir: sorun bir politika değil, bir mimari sorundur. Gölge AI, onaylı aracın kullanılmasının zor olduğu durumlarda ortaya çıkar; bu yüzden insanlar ajanlarını kişisel bir ChatGPT hesabında ya da IT görünürlüğü olmayan rastgele bir otomasyon aracında oluşturur. Kod yazmadan deneyim gerçekten hızlı ve yönetişim otomatik olduğu için görünmezse, iş ekiplerinin etrafından dolaşması için bir neden yoktur. Yönetişimi, birinin hatırlaması gereken manuel bir adım haline getirdiğiniz anda, zaten kaybetmiş olursunuz.

AI ajanları sadece öneri sunmak yerine karar verme ve eylem gerçekleştirme yeteneği kazandıkça, organizasyonlar tam özerkliğin nerede uygun olduğuna ve insanların nerede döngüde kalması gerektiğine nasıl karar vermeli?

Kullandığım eksen “ajan ne kadar akıllı” değil, geri döndürülebilirlik ve patlama yarıçapıdır. Yanlış bir karar tespit etmesi ve geri alınması ucuz ise — yönlendirme, sınıflandırma, taslak hazırlama — ajanı hareket ettirin ve toplu olarak gözden geçirin. Yanlış bir karar maliyetli, geri alınması zor veya doğrudan para, uyumluluk ya da müşteri ilişkisini etkiliyorsa, o belirli adımda bir insanı döngüde tutun, ajan bin karar doğru yapmış olsa bile. Hata, özerkliği tüm iş akışı için tek bir ayar gibi ele almaktır. Gerçek süreçler, risk profilleri çok farklı olan adımlardan oluşur ve doğru tasarım, hatanın pahalı olduğu adımda insanı konumlandırır — her yerde ve hiçbir yerde değil. Bu aynı zamanda, doğru yapıldığında insan‑in‑the‑loop’un hız üzerindeki bir vergi olmadığını gösterir — düşük riskli adımlardan onu kaldırmak için güveni inşa etmenin bir yoludur, çünkü ajan hangi kararları tutarlı bir şekilde doğru aldığını kanıtlayacak kanıtlarınız vardır.

Pipefy, denetim izleri, rol tabanlı erişim kontrolleri, iş kuralları ve iş akışı içindeki izlenebilirlik gibi mekanizmalarla yönetişime vurgu yapıyor. Şirketler AI ajanlarını deney aşamasından üretime taşırken, yönetişimi doğrudan orkestrasyon katmanına yerleştirmek zorunlu hâle geliyor mu?

Bu, zorunlu hâle gelmiyor — zaten zorunlu ve bunu zor yoldan öğrenen şirketler, ajanları önce üretime taşıyan ve şimdi denetim izini sonradan oluşturanlardır. Bu ters bir durum ve geriye dönük düzeltmesi pahalıdır. Denetim izleri, rol tabanlı erişim ve izlenebilirlik orkestrasyon katmanının içinde yerel değilse, dağıttığınız her yeni ajan, yönetişimin sessizce başarısız olabileceği yeni bir nokta olur — ve bunu bir denetçi, bir düzenleyici ya da bir olay soruyu gündeme getirene kadar fark etmezsiniz. Yönetişimin orkestrasyon katmanına yerleştirilmesi, bir ajanın yaptığı her eylemin otomatik olarak aynı kuralları devralması ve bir insan eylemi gibi aynı kanıtı bırakması anlamına gelir; bunu ayrı ayrı yapılandırmayı hatırlamaya gerek kalmaz. AI deneylerinden AI üretimine geçen işletmeler, pilotun başarı kriterleri ile üretimin başarı kriterlerinin farklı olduğunu keşfediyor: bir pilotun çalışması gerekir, üretimin savunulabilir olması gerekir. Yönetişim, bu iki çubuk arasındaki farktır.

Birçok şirket etkileyici bir AI pilotu gösterebilir ancak bunu ölçülebilir iş değerine dönüştürmekte zorlanır. Bir AI otomasyon girişiminin gerçekten ROI sağladığını belirlerken liderlerin odaklanması gereken metrikler nelerdir ve vaat eden pilotların ölçeklenememesinin en yaygın nedenleri nelerdir?

“Kurtarılan saatler” ile başlayan herhangi bir AI ROI tartışmasına güvenmiyorum, çünkü saatleri kim kurtardı, nasıl doğrulandı? CFO denetiminde gerçekten dayanabilen metrikler, denetçilerin bağımsız olarak doğrulayabileceği şeylerdir: belirli bir süreçteki döngü süresi, öncesi ve sonrası; hata ya da yeniden işleme oranı; artık insan müdahalesi olmadan tamamlanan iş akışının yüzdesi; ve denetim soy ağacı kapsamı — her bir ajans kararının neden alındığını gösterebilir misiniz? Bu izi üretemezseniz, bir ROI sayınız yoktur, sadece bir anekdotunuz vardır. Pilotların ölçeklenememesinin neredeyse her zaman aynı nedeni vardır: modeli çalıştığını kanıtlamak için inşa edilmişlerdir, sürecin uçtan uca, üretimde, şirketin geri kalanının zaten bağımlı olduğu sistemlerle bütünleşik olarak çalıştığını kanıtlamak için değil. Gerçek kayıt sisteminden ayrı, bir sandbox içinde yaşayan bir pilot, bağlandığında mevcut sistemlerdeki performansından her zaman daha iyi görünür. Ölçekleme, AI kostümü giymiş bir sistem entegrasyonu problemidir.

Pipefy’de yeni AI yetenekleri tanıtırken aynı zamanda organizasyonel değişim girişimlerine de liderlik ettiniz. Deneyiminize göre, başarılı kurumsal AI benimsemesinin ne kadarının teknoloji sorunu, ne kadarının süreç, kültür ve değişim yönetimi sorunu olduğunu düşünüyorsunuz?

İtiraf ediyorum ki, başarılı kurumsal AI benimsemesi %20 teknoloji ve %80 her şeyden oluşur. Teknoloji şu anda büyük ölçüde çalışıyor — bu beni uykusuz bırakmıyor. Bir AI girişiminin kalıcı olup olmayacağını belirleyen şey, işini değiştiren kişilerin sistemi on yıl boyunca yaptıkları manuel kontrolü bırakacak kadar güvenip güvenmediği ve liderliğin süreci sadece eski üzerine AI eklemek yerine yeniden tasarlamaya istekli olup olmadığıdır. Bunu kendi içinde mühendislik araçlarımızı inşa ederken yaşadık — yazılım geliştirme sürecimizin bazı bölümlerini otomatikleştiren teknoloji, ekibin her şeyi elle çift kontrol etmeyi bırakacak kadar güvenmeden çok önce mevcuttu. Kilidi açan şey daha iyi bir model değildi, sistemin kararının onlarınkine eşleştiğini gösteren, yeterince sık tekrarlanan görünür bir kanıttı. AI için değişim yönetimi bir iletişim çalışması değil, kanıt toplama çalışmasıdır — güveni küçük, doğrulanabilir partilerde kazanırsınız, bir toplantıda duyurmazsınız.

İleriye baktığımızda, geleneksel iş akışı ve iş süreci yazılımının, insanlar, AI ajanları ve kurumsal sistemlerin sürekli iş birliği yaptığı orkestrasyon katmanlarına evrileceğini düşünüyor musunuz? Eğer evrilecekse, şirketlerin operasyonlarını tasarlama ve yönetme biçiminde temelde ne değişecek?

Evet ve bu değişimin çoğu kişinin farkında olduğundan daha büyük olduğunu düşünüyorum. İş akışı yazılımı, işin nasıl gerçekleşmesi gerektiğini belgelediğiniz bir yerdi. Şimdi işin gerçekten gerçekleştiği yer haline geliyor — insanlar, ajanlar ve kurumsal sistemlerin aynı anda aynı yönetilen süreç içinde hareket ettiği canlı bir çalışma zamanı, bir insanın yazılımı sonradan pasif bir kayıt tutucu olarak kullanması yerine. Temelde değişen şey, “kayıt sistemi”nin nerede bulunduğudur. Kayıt, bir şey dışarıda gerçekleştiğinde güncellenen bir veritabanıydı. Bir orkestrasyon katmanında, kayıt ve yürütme aynı şeydir — süreç kendisi arayüz olur, sadece bir ekran üzerinden değil, bir API, bir MCP sunucusu, bir CLI aracılığıyla da erişilebilir, böylece herhangi bir ajan, iç ya da bir partnerin, insanın uyguladığı aynı kurallar altında içinde hareket edebilir. Bu değişimi “mevcut araçlarıma AI ekleyin” olarak gören şirketler, daha önce tarif ettiğim tavanla sürekli çarpışacaktır. Süreç katmanını gerçek ürün — doğru şekilde yapılandırmaya yatırım yapmaya değer şey — olarak görenler, aynı AI modelini satın alarak kopyalanamayan bir avantajı katman katman artıracaklar.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Pipefy adresini ziyaret etmelidir.