Ali Sarrafi, Kovant’un CEO ve Kurucusu – Röportaj Serisi

Ali Sarrafi, Kovant’ın CEO ve kurucusu, Stockholm merkezli bir teknoloji ve AI yöneticisidir. Yüksek büyüme gösteren AI şirketlerini inşa etme ve ölçeklendirme konusunda tecrübelidir. Kovant’ı 2024 yılı sonunda kurduğundan beri, şirket AI stratejisi, pazara sürme yürütmesi ve operasyonel ölçeklendirme konularında derin deneyimini kullanmaktadır. Daha önce, AMD tarafından satın alındıktan sonra Silo AI’de Strateji Başkan Yardımcısı olarak görev yaptı ve burada şirketin AI stratejisinin şekillenmesine ve büyük ölçekli benimsemesine sorumluydu. Kariyerinin başlarında, Combient Mix’i kurdu ve şirketin hızlı büyümesinden ve Silo AI tarafından satın alınmasından sorumluydu. Ayrıca eğitim ve AI start-up’larında danışman ve yönetim kurulu rolleri üstlendi ve advanced AI’yi gerçek dünya iş etkisine çevirmeye odaklandı.

Kovant bir entreprise AI şirketi olup, organizasyonların deneysel AI kullanımından tam olarak operasyonel, otonom iş süreçlerine geçişine olanak tanır. Şirket, karmaşık operasyonel alanlar gibi satın alma, tedarik zinciri, uyum ve müşteri operasyonları boyunca AI ajanlarını koordine etmek için tasarlanmış bir ajan tabanlı platform geliştirir. Güvenli, şirket düzeyinde dağıtım ve hızlı zaman-değere vurgu yaparak, Kovant, stratejik AI hırsı ile günlük yürütme arasında bir köprü olarak kendisini konumlandırır ve büyük organizasyonların AI’yi temel iş akışlarına doğrudan entegre etmesine yardımcı olur.

Siz, Spotify’de büyük AI girişimlerini yönettiniz, Combient Mix’i ölçeklendirdiniz ve sattınız, daha sonra Silo AI’de şirketin AI stratejisinin şekillenmesinden sorumluydunuz. Kovant’ı kurmaya karar vermenize neden olan bu rollerdeki deneyimlerinizi anlatır mısınız ve bu tarih Kovant’ın temel tasarım felsefesini nasıl şekillendirdi?

Önceki rollerimde birkaç tutarlı boşluk vardı. İlk olarak, çoğu “dikey” AI aracı, tek bir yazılım yığınına mahkumdur: bir şeyi o sınır içinde biraz daha iyi yaparlar, ancak bir iş akışı birden fazla sistemi kapsadığında mücadele ederler. Aynı zamanda, şirket verisi birçok araçta dağıtılmıştır ve birçok otomasyon çözümü bu verilere ulaşamaz. Yıllarca süren nokta entegrasyonlarını ekleyin ve klasik spaghetti mimarisine ulaşırsınız: karmaşıklık artar, değişiklik daha yavaş olur ve ekipler bireysel adımları otomatikleştirmek yerine iş akışını uçtan uca yeniden düşünmek yerine, iş akışını uçtan uca yeniden düşünmek yerine, bireysel adımları otomatikleştirmeye başlarlar. Sonuç olarak, ROI genellikle daha yavaş ve daha küçük olarak gelir.

Kovant, bu gerçekliğe bir yanıt olarak tasarlandı. Temel felsefemiz, ajanların çalışanlar gibi davranması gerektiğidir: birden fazla araçta çalışırlar, “işleri yapmak” için “işe alınırlar”, tek bir betik dizisini otomatikleştirmek için değil. Bu nedenle, entegrasyonlar ve orkestrasyon dahili olarak inşa edilmiştir ve şirket verisinin genellikle karmaşık ve yapılandırılmamış olduğu varsayılır – bu, istisnaları ve belirsizliği işleyebilmek için daha insan benzeri bir yaklaşım gerektirir.

Temel ajanları kullanarak hız ve ölçek kazanırken, veri egemenliğini ön planda tutuyoruz: şirketler, verilerini kendi premislerinde bırakmadan yatay olarak erişebilir ve kullanabilirler.

Kovant, AI ajanları ile tüm operasyonları ve departmanları çalıştırabilen bir otonom entreprise platformu olarak kendini konumlandırıyor. Şirket bağlamında “otonom”u nasıl tanımlarsınız ve bu, şirketlerin bugünalready deneyimli olduğu otomasyon ve ajan araçlarından nasıl farklıdır?

Şirket bağlamında “otonom” dedğimizde, “denetimsiz” demek istemiyoruz. AI ajanlarının, bir operasyonda net hedefler ve sınırlar ile uçtan uca gerçek eylemler gerçekleştirebileceğini, ancak denetim gerektiğinde insanlara başvuracağını kastediyoruz.

Kovant’ı farklı kılan, temel ajanlarımızdır. Tek bir sabit işlemi veya önceden oluşturulmuş bir diziyi otomatikleştirmek yerine, Kovant ajanları, talimatlar ve bir iş akışı özeti olan bir maviyazıyla birlikte bir operasyonda çalışabilirler. Dar bir görev için değil, karmaşık iş akışlarını çözmek, koşullar değiştiğinde uyum sağlamak ve insan müdahalesi gerektiğinde görevi devretmek için tasarlanmışlardır.

Örneğin, envanter yönetim ajan ekibi, aşağıdaki işleri yeniden oluşturmadan gerçekleştirebilir: tedarikçilerle e-posta yoluyla iletişim kurma, stok seviyelerini ve stok dışı sinyalleri izleme, sevkiyatları ve satın alma emirlerini takip etme, sistemler arası durumları güncelleme, envanter planlayıcıların onaylaması için uyumsuzluk biletleri oluşturma, depolar arasında envanteri yeniden dağıtma ve envanter raporlarını konsolide etme.

Bu nedenle, değişim, “sohbet + araçlar” veya büyük ölçekte kırılgan otomasyonlardan ziyade, şirketlerin ajanları oluşturmaktan ziyade, onları büyük ölçekte çalıştırmaya geçmesidir.

Agentic AI’ye karşı büyük ilgi olmasına rağmen, birçok organizasyon hala pilot modunda takılı kalıyor. Gerçek dağıtımlarda gördüğünüz şeylere dayanarak, şirketlerin deneyselden ölçekli üretime geçişini engelleyen ana nedenler nelerdir?

Gördüğümüz şey, çoğu organizasyonun pilot modunda takılı kalmalarının nedeni, fikrin yanlış olması değil, ortamın ölçeklendirme için düşmanca olmasıdır.

İlk engel, parçalanmış şirket teknoloji manzarasıdır. İş akışları birçok sistemi kapsar, veri birçok yerde yaşar ve her şeyi güvenilir bir şekilde birleştirmek zordur. Ayrıca, manyetik AI genellikle mevcut araçlara eklenti olarak dağıtılır, chứ iş akışının uçtan uca nasıl çalışması gerektiği konusunda yeniden düşünülmez.

Mimari ve veri problemi de vardır. Çok sayıda SaaS satıcısı hala verilerini kilitlemeye çalışır, bu da uyumsuzluklara ve ajanların sistemler arası ne yapabileceği konusunda sınırlamalara neden olur. Ayrıca, birçok takım, çoğu şirket verisinin yapılandırılmamış olduğu gerçeğini küçümsüyor (e-postalar, belgeler, biletler, PDF’ler, sohbet günlükleri). Yaklaşımlarınız yapılandırılmış veriyi varsayarsa, zaman-değer uzun, ağrılı ve pilotün ötesinde tekrarlanması zor olur.

Kısacası, parçalanma, kilitlenme ve yapılandırılmamış veriler sürtünme yaratır ve pilotlar, bu gerçekler tasarlanana kadar üretime dönüşmez.

AI ajan sistemlerinin gerçek dünyada dağıtılmasının en büyük engeli olarak güvenilirlik gösteriliyor. Peki, birçok ajan sistemi neden kontrol edilen ortamlardan çıktığında başarısız oluyor ve Kovant’ın yaklaşımı nasıl bu tür sorunları azaltıyor?

Bazı ajan sistemleri gösterilerde harika görünür, ancak gerçek dünyada başarısız olurlar, çünkü ortam karmaşık ve öngörülemezdir. Veri eksik veya tutarlı değildir, kenar durumları sürekli ortaya çıkar (iadelere, uyuşmazlıklara, özel onaylara). İş akışları, zaman içinde değişen birçok aracı, platformu ve entegrasyonu kapsar ve izinler değişir. Bir AI ajanına, büyük bir görevi gerçekleştirmesi ve aynı anda çok fazla bağlam verilmesi istenirse, hayal görme ve tuhaf davranış riski artar.

Kovant, bu sorunu azaltmak için tasarlandı. Benzersiz mimarimiz, modele çalıştığı problem alanını, karar alanını ve bağlamı daraltır, böylece hayal görme olasılığını azaltır. Ayrıca, operasyonları dar, odaklanmış görevlere ve adımlara ayırırız. Bu, davranışın daha öngörülebilir olmasını sağlar ve sistemde izlenebilirlik ve kontrol ekler. Her ajanın ne yaptığını, bir başarısızlığın nerede başladığını görebilir ve必要 olduğunda müdahale edebilir veya görevi devredebiliriz.

Hayal görme tamamen ortadan kalkmaz, ancak her ajanın sorumluluğunu sınırlayarak ve etki alanını sınırlandırarak, sıklığını azaltabilir ve etkisini sınırlayabiliriz. Bu “dar görev / bağlam” yaklaşımı, Nvidia’nın araştırma ekibinin recent çalışması tarafından da desteklenmektedir, benzer faydaları ajan karar alma sürecini sınırlamaktan elde etmiştir.

Hesap verebilirlik, AI ajanlarının iş sistemlerinde gerçek eylemler gerçekleştirmeye başladığında önemli bir endişe kaynağı haline geliyor. Detaylı eylem günlükleri, güven, uyum ve operasyonel risk konusunda konuşmayı nasıl değiştiriyor?

Detaylı günlüklerle, ne olduğu, neden olduğu ve ne olacağı görülabilir.

Ajan, bir sistemden başka bir sistemden gizli çalışan bir bot olmaktan, incelenebilecek bir sistem haline gelir.

Kovant’ta, her AI ajan dağıtımı için, bir risk haritası oluşturulur ve organizasyon buna göre hareket edebilir. Riskli eylemler için insan denetimi sağlanır, böylece ajanlar yalnızca bir insan tarafından gözden geçirilip onaylandıktan sonra bu görevleri gerçekleştirebilir. Tüm bunlar, bir sistem kayıt sisteminin günlüğü gibi aynı şekilde kaydedilir ve izlenebilir.

Detaylı günlükleri, insan denetimi ve izlenebilirlik ile birleştirmek önemlidir, böylece riski en aza indirir. Böylece, hız ve ölçek avantajlarından yararlanırsınız.

AI ajanlarının karar alma süreçlerinin şeffaf olmaması nedeniyle sigortalanamayacağına dair artan bir tartışma var. Ajan iş akışlarının denetlenebilir ve yeniden oynanabilir olmasını sağlamak, “kara kutu” sorununu nasıl ele alır ve sigortalılık kapısını açar?

“Kara kutu” sorunu, sigortalılığın zor olmasının nedenidir. Bir ajanın ne yaptığını, neden yaptığını ve hangi kontrollerin olduğunu açıkça gösteremezseniz, özellikle sigortacılar için riski fiyatlamak zordur.

Yaklaşımımız, önceki cevabın bir uzantısıdır. Karar kapsamını ve eylemlerin etkisini daha küçük parçalara ayırırız, böylece model bir dizi büyük, şeffaf olmayan karar vermez. Her adım daha dar, daha öngörülebilir ve daha kolay değerlendirilir.

Ardından, detaylı günlükler, izlenebilirlik ve insan denetimi ekleriz. En önemli ve etkili kararlar için, bir insan görevlisi kullanırız, böylece ajan yalnızca gözden geçirilip onaylandıktan sonra ilerleyebilir. Bu, iş akışının pratikte nasıl davrandığını daha fazla görünürlük sağlar.

İş akışlarını denetlenebilir ve yeniden oynanabilir hale getirmek, son parçadır. Bir şey yanlış giderse, ne olduğunu yeniden oluşturabilir, hızlı bir şekilde soruşturabilir, düzeltmeleri doğrulayabilir ve insan onayının ne sıklıkla gerekli olduğunu ve güvenlik önlemlerinin nerede olduğunu gösterebilirsiniz. Sigorta açısından, bu gizemli AI davranışından, standart operasyonel riske daha yakın bir şeye dönüşür.

Agentic AI Foundation gibi girişimlerle, ajantik sistemler için paylaşılan standartlar oluşturulmaya çalışılıyor. Bu çabaların en umut verici yönlerini nasıl görüyorsunuz ve gerçek entreprise operasyonları için nerede yetersiz kalıyorlar?

Standartlaşma genellikle iyi bir şeydir. AAIF, ajan sistemlerinin aynı dili konuşmasını sağlayan, entegrasyonları kolaylaştıran ve zaman içinde satıcı kilidini azaltan temel ancak önemli işleri yapabilir.

Ancak, standartların şekillenmesinde kimin perspektifinin etkili olduğuna dikkat ediyorum. Çalışmanın çoğu, model oluşturucuları ve teknoloji ölçekleme şirketleri tarafından liderlik ediliyorsa, “standartlar”ın, neyin inşa edilmesi en kolay veya demo için en uygun olduğuna göre optimize edildiği riski vardır, gerçek entreprise operasyonlarına neye ihtiyaç duyulduğu değil.

Gerçek entreprise operasyonları için, boşluklar, konektörlerden daha çok kontrolle ilgilidir: bir ajanın neye erişebileceği ve değiştirebileceği, yüksek etkili eylemler için onay iş akışları, denetlenebilir günlükler ve izlenebilirlik, böylece ekipler davranışını izleyebilir, olayları soruşturabilir ve uyumu kanıtlayabilir. Şirketler ayrıca, kenar durumlarda test etme, değişen sistemleri işleme ve legacy araçlar ve düzenlenmiş veri ortamlarında eylemleri güvenli bir şekilde durdurma, sınırlama veya geri alma konularında pratik standartlara ihtiyaç duyar.

Bu nedenle, umut verici bir yöndür, ancak etki, entreprise gereksinimlerinin ve operasyonel risk kontrollerinin sonradan düşünülmemesi durumunda sınırlı olacaktır.

Kovant, büyük Nordic şirketlerinden önemli gelir elde etti ve büyük ölçüde gizlilik içinde çalıştı. Bugün AI ajanlarının çalışabileceği iş fonksiyonları veya iş akışları nelerdir?

Gerçek dağıtımlarda gördüğümüz şeylere dayanarak, bugün “hazır” olan iş akışları, beyaz yakalı işlerin reaktif çalışmalarından oluşur: izleme, takip, kontrol, sistemleri güncelleme, istisnaları işleme ve operasyonları birçok araç boyunca yürütme.

Üretim ve daha geniş entreprise tedarik zincirlerinde, bu, aşağıdaki alanlarda kendini gösterir:

• Sourcing / satın alma: ham madde mevcudiyeti, sürdürülebilir kaynaklar, uyum operasyonları, tedarikçi seçimi (çift / çoklu kaynak), sözleşme yönetimi, tedarikçi risk yönetimi ve ihale / teklif yönetimi.
• Üretim: kapasite planlama, üretim planlama, bakım yönetimi, kalite yönetimi, darboğaz yönetimi ve kayıp önleme.
• Depolama: alma ve inceleme, envanter yönetimi, stok rotasyonu (FIFO / FEFO) ve çevrim içi sayım / denetim.
• Ulaşım / lojistik: taşıma ve taşıyıcı seçimi, gümrük işlemleri / belgeleri, izleme ve görünürlük, emisyon izleme ve ticaret uyumu.
• Satış ve hizmet: ürün mevcudiyeti, stok dışı önleme, satış / iade yönetimi, tüketici davranışı analizi, ayrıca satış sonrası alanlar gibi onarım, son kullanım takibi, atölye operasyonları ve hizmet sözleşmeleri.

Şirketler, kritik operasyonlar boyunca AI ajanlarını dağıttığında, hız ve insan denetimi arasında nasıl bir denge kurulmalıdır?

Denge, yönetilen otonomidir. Ajanların, düşük riskli işlerde net sınırlar içinde hızlı hareket etmesine izin vermelisiniz ve eylemler tanımlanmış bir risk eşiğini aştığında insanlara başvurmalısınız.

Çok fazla başarısızlık, modele çok fazla kapsam ve çok fazla bağlam verilmesinden kaynaklanmaktadır. İşlemeleri daha dar, daha dar kararlar ile bölmenizi ve her adımın net izinleri ve sınırlı bir etki alanını olmasını öneririm. Bu, davranışın daha öngörülebilir olmasını sağlar ve performansı izlemek ve geliştirmek daha kolay olur.

Ardından, üç şeyi birleştirirsiniz: izlenebilirlik, eylem günlükleri ve insan denetimi. Ajanın yaptığı her şey izlenebilir olmalıdır, böylece ne olduğunu inceleyebilir ve hızlı bir şekilde soruşturabilirsiniz. Yüksek etkili veya riskli eylemler için, iş akışına bir insan onay adımını eklersiniz, böylece ajan öneri ve hazırlık yapabilir, ancak yalnızca bir kişi onayladıktan sonra yürütür.

Bu, işleri hızlı bir şekilde yürütür. İnsanlar her tıklamayı denetlemekle meşgul değil, ancak önemli anlarda hala kontrolde olurlar. Sonuç, güvenli olduğunda hız ve gerekli olduğunda denetimdir.

İleriye bakıldığında, büyük organizasyonlar içinde otonom AI ajanlarının rolünün próxima birkaç yıl içinde nasıl evrileceğini düşünüyorsunuz ve agentic AI ile başarılı olan şirketleri, mücadele edenlerden ayıran nedir?

Sonraki birkaç yıl içinde, otonom AI ajanları, ilginç deneylerden, büyük organizasyonlar içinde gerçek bir işletme katmanına dönüşeceklerdir. Operasyonlar, müşteri hizmeti, finans ve insan kaynakları için kullanılacaktır. Güvenilirlik, yönetim ve denetim iyileştiğinde, şirketlerin, izole pilotlardan, uçtan uca iş akışları boyunca ajan ekiplerini çalıştırmaya geçişini göreceğiz.

En büyük değişiklik, hız, esneklik, ölçek, verimlilik ve maliyetlerin, daha doğrudan bir rekabet kolu haline gelmesidir. Şirketlerin, agentic AI’yi gerçekten ustalaştıranların, geride kalanlardan daha temel bir hızda çalışabileceğini düşünüyorum. Bir “Uber hareketi” şirketler için geliyor. Gerçekten agentic AI’yi ustalaşan şirketler, pazarları daha hızlı ele geçirebilecek, değişikliklere karşı daha hızlı tepki verebilecek ve operasyonel sürtünme olmadan hareket edebileceklerdir.

Kazananları ayıran şey, yalnızca ajanları dağıtmak değil, onları iyi dağıtmaktır. Yönetilen otonomi, güçlü izlenebilirlik ve eylem günlükleri, dar karar alanı ve mimari, bu konuda kilit olacaktır. Agentic AI’yi, doğru kontroller, entegrasyon ve sahiplik ile temel bir işletme yeteneği olarak tedavi eden şirketler, bunu daha fazla değil, daha az yapmak için kullanacaklardır. Bu, ekiplerin, idari işlerle uğraşmak yerine, büyüme ve inovasyona odaklanmasına olanak tanıyacaktır. Kısacası, radikal hız ve verimlilik, gerçek bir rekabet avantajı haline gelir.