Ali Sarrafi, Kovant’ın CEO’su ve Kurucusu – Röportaj Serisi

Ali Sarrafi, Kovant’ın CEO’su ve kurucusudur. Stockholm merkezli, hızla büyüyen yapay zeka şirketlerini kurma ve ölçeklendirme konusunda deneyimli bir teknoloji ve yapay zeka yöneticisidir. Kovant’ı 2024 sonlarında kurduğundan bu yana kurumsal yapay zeka stratejisi, pazara giriş stratejisinin uygulanması ve operasyonel ölçeklendirme alanlarındaki derin deneyiminden yararlanmıştır. Daha önce, Silo AI’nin AMD tarafından satın alınmasının ardından şirkette Strateji Başkan Yardımcısı olarak görev yapmış, kurumsal yapay zeka stratejisini şekillendirmekten ve geniş çaplı benimsemeyi teşvik etmekten sorumlu olmuştur. Kariyerinin önceki dönemlerinde Combient Mix’in kurucu ortaklarından biri olmuş, şirketi hızlı büyüme sürecinde ve Silo AI tarafından başarıyla satın alınmasına kadar yönetmiştir. Sonrasında eğitim ve yapay zeka girişimlerinde danışmanlık ve yönetim kurulu görevleri üstlenmiştir. Bu çalışmalar, gelişmiş yapay zekayı gerçek iş sonuçlarına dönüştürmeye yönelik sürekli odağını yansıtmaktadır.

Kovant bir kurumsal yapay zeka şirketidir ve şirketler için deneysel yapay zeka kullanımından tam olarak işletilen ve otonom iş süreçlerine geçişini sağlamayı hedeflemektedir. Şirket, kompleks operasyonel alanlarda gibi tedarik, tedarik zinciri, uyum ve müşteri operasyonları gibi alanlarda yapay zeka ajanlarını koordine eden bir platform geliştirmektedir. Kovant, güvenli, kurumsal düzeyde devreye alma ve hızlı değer elde etmeye odaklanarak kendisini stratejik yapay zeka hedefleri ile günlük uygulama arasında bir köprü olarak konumlandırır. Büyük kuruluşların yapay zekayı ayrı bir araç ya da pilot proje olarak ele almak yerine doğrudan temel iş akışlarına yerleştirmelerine yardımcı olur.

Spotify’de büyük yapay zeka girişimlerini yönettiniz, Combient Mix’i ölçeklendirip sattınız ve daha sonra Silo AI’de kurumsal yapay zeka stratejisinin şekillenmesinde önemli bir rol oynadınız. Kovant’ı kurmaya karar vermenize neden olan boşluklar veya frustrasyonlar nelerdi ve bu geçmiş nasıl Kovant’ın temel tasarım felsefesini şekillendirdi?

Önceki rollerimde birkaç tutarlı boşluk gördüm. İlk olarak, çoğu “dikey” yapay zeka aracı, tek bir yazılım yığınına mahkumdur: sınırları içinde bir şeyi biraz daha iyi yapar, ancak bir iş akışı birden fazla sistemi kapsadığında mücadele eder. Aynı zamanda, şirket verisi birçok araçta dağılmış durumda ve birçok otomasyon çözümü bu verilere ulaşamaz. Yıllar boyunca biriken noktadan noktaya entegrasyonlar ile birlikte klasik spaghetti mimarisine ulaşılır: karmaşıklık artar, değişiklik yavaşlar ve ekipler iş akışını baştan sona yeniden düşünmek yerine yalnızca tek tek adımları otomatikleştirmekle yetinirler. Sonuç olarak, yatırım getirisi genellikle kuruluşların beklediğinden daha geç elde edilir ve daha düşük olur.

Kovant, bu gerçekliğe bir yanıt olarak tasarlandı. Temel felsefemiz, ajanların çalışanlar gibi davranması gerektiğidir: birden fazla araçta çalışırlar, “işe alınmak” için görevlere atanırlar, tek bir betiği otomatikleştirmek için değil. Bu nedenle, entegrasyonlar ve koordinasyon dahili olarak yapılmıştır ve şirket verisinin genellikle dağınık ve yapılandırılmamış olduğunu varsayarız. İstisnaları ve belirsizlikleri ele almak için daha insana benzer bir yaklaşım gerekir.

Temel ajanları kullanarak hız ve ölçek kazanırken, veri egemenliğini ön plana çıkarmaktayız: şirketler kendi verilerine sistemler arasında erişebilir ve bu verileri kullanabilir; veriler şirket tesislerinden dışarı çıkmaz.

Kovant, AI ajanlarını kullanarak tüm operasyonları ve bölümleri çalıştırabilen bir otonom kurumsal platformu olarak konumlandırılmaktadır. Şirketin bakış açısına göre “otonom” nedir ve bu, şirketlerin bugün hâlihazırda denediği otomasyon ve ajan araçlarından nasıl farklıdır?

Şirket bağlamında “otonom” derken “gözetimsiz” kastetmiyoruz. AI ajanlarının bir operasyonu uçtan uca kapsayan gerçek eylemler gerçekleştirebileceği, net hedeflere ve sınırlara sahip olduğu ve insan müdahalesi gerektiğinde insanlara başvurabileceği anlamına gelir.

Kovant’ı farklı kılan şey, temel ajanlarımızdır. Tek bir sabit süreci veya önceden oluşturulmuş bir dizi takip etmek yerine, Kovant ajanları bir operasyonu çözmek için birlikte çalışabilirler. Yalnızca talimatlar ve blueprint adını verdiğimiz operasyon planıyla bir takım ya da sürü olarak çalışabilirler. Tek bir dar görev için tasarlanmamışlardır; karmaşık iş akışlarını birlikte çözebilir, koşullar değiştiğinde adapte olabilir ve insan müdahalesi gerektiğinde insanlara devredebilirler.

Örneğin, bir envanter yönetim ajan ekibi, aşağıdaki görevleri yeniden inşa etmeden gerçekleştirebilir: tedarikçilerle e-posta aracılığıyla iletişim kurma, envanter seviyelerini ve stok dışı sinyalleri izleme, sevkiyatları ve satın alma emirlerini takip etme, durumları çeşitli sistemlerde güncelleme, envanter planlayıcıların onaylaması için tutarsızlık kayıtları oluşturma, depolar arasında envanteri yeniden dağıtma ve envanter raporlarını konsolide etme.

Bu, “sohbet ve araçlar” veya büyük ölçekte kırılgan olan otomasyonlardan ziyade, şirketlerin ajan oluşturmaktan ajanları büyük ölçekte çalıştırmaya geçmesini sağlar.

Agentic AI’ye büyük ilgi rağmen, birçok şirket hala pilot aşamasında takılmış durumda. Gerçek dağıtımlarda gördüklerinize göre, şirketlerin deneysel aşamasından ölçekli üretime geçişini engelleyen ana nedenler nelerdir?

Gördüğümüz şey, şirketlerin pilot aşamasında takılmalarının nedeni, fikrin yanlış olması değil, çevrelerinin ölçeklenmeye karşı düşmanca olmasıdır.

İlk engel, parçalanmış kurumsal teknoloji manzarasıdır. İş akışları birden fazla sistemi kapsar, veriler birden fazla yerde yaşar ve her şeyi güvenilir bir şekilde birleştirmek zordur. Agentic AI genellikle mevcut araçlara bir eklenti olarak dağıtılır, iş akışının nasıl çalışması gerektiği hakkında yeniden düşünmek yerine.

Gerçek bir mimari ve veri sorunu da vardır. Çok sayıda SaaS satıcısı hala verileri kilitlemeye çalışmaktadır, bu da uyumsuzluklar yaratır ve ajanların birden fazla sistemde ne yapabileceğini sınırlar. Ayrıca, birçok takım, çoğu kurumsal verisinin yapılandırılmamış olduğunu (e-postalar, belgeler, destek kayıtları, PDF’ler, sohbet günlükleri) hafife alır. Yaklaşımlarınız yapılandırılmış veri varsayarsa, değer elde etme süresi uzar, süreç sancılı hâle gelir ve pilotun ötesinde tekrarlanması zorlaşır.

Kısacası: parçalanma, kilitlenme ve yapılandırılmamış veriler sürtünme yaratır ve pilotlar, bu gerçekler tasarımda hesaba katılana kadar üretim haline gelmez.

AI ajanlarını gerçek dünyada dağıtmak için en büyük engel güvenilirliktir. Kovant’ın yaklaşımı, ajan sistemlerinin gerçek dünyada başarısız olmasına neden olan halüsinasyonlar ve öngörülemez davranışları nasıl azaltır?

Bazı ajan sistemleri demo sırasında harika görünür, ancak gerçek dünyada başarısız olurlar, çünkü çevre karmaşık ve öngörülemezdir. Veriler eksik veya tutarlı değildir, kenar durumları sürekli ortaya çıkar (iade, uyuşmazlıklar, özel onaylar). İş akışları birden fazla aracı, platformu ve entegrasyonu kapsar ve değişir, izinler değişir. Bir AI ajanına büyük bir görev verildiğinde ve aynı anda çok fazla bağlam verildiğinde, halüsinasyonlar ve tuhaf davranış riski artar.

Kovant, bu sorunu azaltmak için tasarlanmıştır. Benzersiz mimarimiz, problem alanını, karar alanını ve modellerin çalıştığı bağlamı daraltır, böylece halüsinasyonlar azaltılır. Ayrıca operasyonları, tek tek ajanların ve adımların üstleneceği dar kapsamlı ve odaklanmış görevlere ayırırız. Bu, davranışı daha öngörülebilir kılar, sisteme izlenebilirlik ve kontrol edilebilirlik kazandırır ve halüsinasyonların daha iyi yönetilmesini sağlar. Her ajanın ne yaptığını görebilir, bir başarısızlığın nerede başladığını görebilir ve müdahale edebiliriz veya gerektiğinde insanlara başvurabiliriz.

Halüsinasyonlar ortadan kaybolmaz, ancak her ajanın sorumlu olduğu şeyi ve etki edebileceği bağlamı sınırlayarak, sıklıklarını azaltabilir ve etkilerini sınırlayabiliriz. Bu “daraltılmış görev/bağlam” yaklaşımı, Nvidia’nın (NVDA ) araştırma ekibinin yakın tarihli çalışması tarafından da desteklenmektedir, bu da ajan karar alma sürecini sınırlamanın benzer faydalarını bulmuştur.

AI ajanları iş sistemlerinde gerçek eylemler gerçekleştirmeye başladığında, hesap verebilirlik büyük bir endişe kaynağıdır. Detaylı eylem günlükleri, güven, uyum ve operasyonel risk konusunda nasıl bir değişiklik yaratır?

Detaylı eylem günlükleri ile ne olduğu, neden olduğu ve ne olacağı görülebilir.

Detaylı günlükler, bir ajanı, gizemli bir bot yerine, inceleyebileceğimiz bir sistem haline getirir.

Kovant’ta, her AI ajan dağıtımı için, bir risk haritası olacaktır ve bu, organizasyonun üzerine hareket edebileceği bir şeydir. Riskli eylemler için insanlara görevlendirme vardır, bu da ajanların yalnızca bir insan tarafından gözden geçirilip onaylandıktan sonra bu görevleri gerçekleştirebileceği anlamına gelir. Tüm bunlar, aynı şekilde bir sistem olarak kaydedilir ve izlenebilir.

Riski en aza indirmek için, eylem günlüklerini insan denetimi ve gözlemlenebilirlik ile birleştirmek önemlidir. Bu, ajanların gerçek operasyonları çalıştırırken hız ve ölçek avantajlarından yararlanmaya devam etmenizi sağlar.

AI ajanlarının sigortalanabilir olup olmadığı konusunda artan bir tartışma vardır, çünkü karar alma süreçleri şeffaf değildir. Ajan iş akışlarını denetlenebilir ve yeniden oynatılabilir hale getirerek, “kara kutu” sorununu nasıl çözersiniz ve sigortalanabilirliği nasıl sağlarsınız?

“Kara kutu” sorunu, sigortalanabilirliği zorlaştırır. Bir ajanın ne yaptığını, neden yaptığını ve hangi kontrollerin olduğunu açıkça gösteremezseniz, özellikle sigortacılar için riski fiyatlamak zordur.

Yaklaşımımız, önceki cevabın bir uzantısıdır. Karar kapsamını ve eylemlerin etkisini daha küçük parçalara ayırırız, böylece model tüm operasyonu etkileyebilecek tek bir büyük, şeffaf olmayan karar vermez. Her adım daha dar, daha öngörülebilir ve daha kolay değerlendirilir.

Detaylı günlükler, gözlemlenebilirlik ve insan denetimi ekleriz. En önemli ve etkili kararlar için, bir insan görevlisi kullanırız, böylece ajan yalnızca gözden geçirilip onaylandıktan sonra ilerleyebilir. Bu, iş akışının nasıl davrandığını daha fazla görünürlük sağlar.

İş akışlarını denetlenebilir ve yeniden oynatılabilir hale getirmek, son parçadır. Bir şey yanlış gittiğinde, olanları yeniden oluşturabilir, hızla inceleyebilir, düzeltmeleri doğrulayabilir ve insan onayının ne sıklıkta gerektiği ve nerede güvenlik önlemlerinin olduğunu gösterebiliriz. Sigorta açısından, bu gizemli AI davranışından standard operasyonel riskine daha yakın bir şeye dönüşür.

Agentic AI Foundation gibi girişimlerle birlikte, agentic sistemler için ortak standartlar oluşturulmasına çalışılıyor. Bu çabaların en umut verici yönleri nelerdir ve gerçek kurumsal operasyonları açısından hala nerede eksik kalıyorlar?

Standartlaşma genellikle iyi bir şeydir. AAIF, ajan sistemlerinin aynı dili konuşmasını sağlamak için gerekli ancak zahmetli işleri yapabilir, bu da entegrasyonları daha kolay hale getirebilir ve zamanla satıcı kilidini azaltabilir.

İyi niyetli olduğum ancak aynı zamanda temkinli olduğum yer, standartların kimin bakış açısına göre şekillendirildiğidir. Eğer çoğu çalışma model oluşturucuları ve teknoloji ölçekleme şirketleri tarafından yönetiliyorsa, “standartlar”ın, neyin inşa edilmesi en kolay veya demo yapılması en kolayına göre optimize edilmesi riski vardır, gerçek büyük organizasyonların günlük olarak ajanları güvenli bir şekilde çalıştırmasına ihtiyaç duyduğu şeyden ziyade.

Gerçek kurumsal operasyonları açısından, boşluklar genellikle bağlantılardan ziyade kontrolle ilgilidir: bir ajanın neye erişebileceği ve değiştirebileceği, yüksek etkili eylemler için onay iş akışları, denetlenebilir günlükler ve gözlemlenebilirlik, böylece ekipler davranışını izleyebilir, olayları soruşturabilir ve uyumu kanıtlayabilir. Şirketler ayrıca, test için kenar durumları, değişen sistemleri ve eski araçlar ve düzenlemeye tabi veri ortamlarında eylemleri güvenle duraklatma, sınırlama veya geri alma yeteneği gibi karmaşık gerçek dünya koşullarına uygun pratik standartlara ihtiyaç duyar.

Bu, umut verici bir yöndür, ancak kurumsal gereksinimler ve operasyonel risk kontrolleri en baştan hesaba katılmazsa etki sınırlı kalacaktır.

Kovant, büyük Nordik şirketlerinden önemli gelir elde ederken, büyük ölçüde gizli kaldı. Bugün hangı iş fonksiyonları veya iş akışları, otonom AI ajanları için en hazır durumdadır?

Gerçek dağıtımlarda gördüğümüz şey, en “hazır” olan iş akışlarının, beyaz yakalı işlerin reaktif olduğu iş akışları olduğu yönündedir: izleme, takip, kontrol, sistem güncelleme, istisnaları ele alma ve operasyonları birden fazla araç boyunca ilerletme.

Üretim ve daha geniş kurumsal tedarik zincirlerinde, bu, aşağıdaki alanlarda kendini gösterir:

• Kaynak bulma/Satın alma: ham madde mevcudiyeti, sürdürülebilir tedarik, uyum operasyonları, tedarikçi seçimi (çift veya çoklu tedarik dahil), sözleşme yönetimi, tedarikçi risk yönetimi ve ihale yönetimi.
• Üretim: kapasite planlaması, üretim planlaması, bakım yönetimi, kalite yönetimi, darboğaz yönetimi ve kayıp önleme.
• Depolama: alma ve inceleme, envanter yönetimi, stok rotasyonu (FIFO/FEFO) ve envanter sayımı/denetimi.
• Ulaşım/Lojistik: taşıma ve taşıyıcı seçimi, gümrük işlemleri/belgeleri, takip ve görünürlük, emisyon izleme ve ticaret uyumu.
• Satış ve Hizmet: ürün mevcudiyeti, stok dışı önleme, satış/iade yönetimi, tüketici davranışı analizi ve satış sonrası alanlar gibi onarım, son kullanım takibi, atölye operasyonları ve hizmet sözleşmeleri.

Şirketler kritik operasyonlar boyunca AI ajanlarını dağıttığında, nasıl otonomi ile insan denetimini dengeler ve her şeyi yavaşlatmadan kontrolü nasıl sağlarsınız?

Denge, yönetilen otonomidir. Ajanların, açık güvenlik sınırları içinde düşük riskli işlerde hızlı hareket etmesine izin vermelisiniz ve risk eşiğini aştığında insanlara başvurmalısınız.

Çok fazla başarısızlık, modele fazla kapsam ve fazla bağlam verilmesinden kaynaklanır. İşlemeleri dar, dar kapsamlı kararlara ayırmanızı ve her adımın net izinleri ve sınırlı bir etki alanı olmasını öneririm. Bu, davranışın daha öngörülebilir olmasını sağlar ve performansın izlenmesini ve iyileştirilmesini kolaylaştırır.

Üç şeyi birleştiririz: gözlemlenebilirlik, eylem günlükleri ve insan görevlisi. Ajanın yaptıkları her şey izlenebilir olmalıdır, böylece ne olduğu hakkında bilgi verebilir ve hızlı bir şekilde soruşturabiliriz. Yüksek etkili veya riskli eylemler için, iş akışında bir insan onay adımını koyarız, böylece ajan öneri ve hazırlık yapabilir, ancak yalnızca bir insan onayladıktan sonra yürütür.

Bu, her şeyi yavaşlatmadan hızını korur. İnsan denetimi adımında çok az bir yavaşlama olabilir, ancak bu, sürecin önemli bir parçasıdır. İnsanlar her tıklamayı denetlemekle meşgul değil, ancak önemli anlarda kontrolde kalırlar. Sonuç, güvenli olduğunda hız ve gerekli olduğunda denetimdir.

İleriye bakıldığında, büyük organizasyonlar içindeki otonom AI ajanlarının rolünün nasıl evrileceğini düşünüyorsunuz ve agentic AI ile başarılı olan şirketler ile mücadele eden şirketler arasında ne gibi farklar olacaktır?

Gelecek birkaç yıl içinde, otonom AI ajanları, ilginç deneylerden gerçek bir işletme katmanına dönüşeceklerdir. Operasyonlar, müşteri hizmeti, finans ve insan kaynakları için kullanılacaktır. Güvenilirlik, yönetim ve denetim iyileştikçe, şirketlerin pilotlardan, ajan takımlarını uçtan uca iş akışları boyunca çalıştırmaya geçiş yapmalarını göreceğiz.

En büyük değişiklik, hız, çeviklik, ölçek, verimlilik ve maliyetlerin, doğrudan bir rekabet avantajı haline gelmesidir. Bir “Uber hareketi” şirketler için geliyor. Gerçekten agentic AI’yi ustaca kullanan şirketler, geri kalanlara göre temel olarak daha hızlı çalışabilecektir, pazarları daha hızlı ele geçirebilecek ve olağan operasyonel sürtünme olmadan değişime yanıt verebilecektir.

Başarılı olan şirketler, sadece ajanları dağıtmakla kalmaz, aynı zamanda onları iyi dağıtırlar. Yönetilen otonomi, güçlü gözlemlenebilirlik ve eylem günlükleri, ve dar karar alanı ile mimariler, buna anahtardır. Agentic AI’yi bir işletme yeteneği olarak gören, doğru kontrolleri, entegrasyonu ve sahipliği olan şirketler, bunu daha az değil, daha çok iş başarmak için kullanacaklardır. Bu, ekiplerin büyüme ve inovasyona odaklanmasına olanak tanıyacak, değil, admin işlerle meşgul olmasına olanak tanıyacaktır. Kısacası, radikal hız ve verimlilik, gerçek bir rekabet avantajı haline gelir.

Harika bir röportaj için teşekkür ederiz, daha fazla bilgi almak isteyen okuyucular Kovant sitesini ziyaret edebilir.