Ali Sarrafi, Kovant’ın CEO’su ve Kurucusu – Röportaj Serisi

Ali Sarrafi, Kovant’ın CEO’su ve kurucusu, Stockholm’de yaşayan bir teknoloji ve yapay zeka yöneticisidir. Kovant’ı 2024’ün sonlarında kurduğundan beri, şirketin büyümesinde ve ölçeklenmesinde önemli bir rol oynamıştır. Daha önce, AMD tarafından satın alınmadan önce Silo AI’de Strateji Başkan Yardımcısı olarak görev yaptı ve burada şirketin yapay zeka stratejisinin şekillenmesinde ve büyük ölçekli benimsemesinde önemli bir rol oynadı. Kariyerinin başlarında, Combient Mix’i kurdu ve şirketin hızlı büyümesinde ve Silo AI tarafından satın alınmasında önemli bir rol oynadı. Ayrıca, eğitim ve yapay zeka start-up’larında danışman ve yönetim kurulu üyelikleri yaptı.

Kovant bir企业 yapay zeka şirketidir ve şirketler için deneysel yapay zeka kullanımından tam olarak işletilen ve otonom iş süreçlerine geçişini sağlamayı hedeflemektedir. Şirket, kompleks operasyonel alanlarda gibi tedarik, tedarik zinciri, uyum ve müşteri operasyonları gibi alanlarda yapay zeka ajanlarını koordine eden bir platform geliştirmektedir. Kovant, güvenli, işletme sınıfı dağıtım ve hızlı zaman-a-değere vurgu yaparak, şirketleri stratejik yapay zeka hedefleri ile günlük yürütme arasında bir köprü olarak konumlandırır.

Spotify’de büyük yapay zeka girişimlerini yönettiniz, Combient Mix’i ölçeklendirip sattınız ve daha sonra Silo AI’de企业 yapay zeka stratejisinin şekillenmesinde önemli bir rol oynadınız. Kovant’ı kurmaya karar vermenize neden olan boşluklar veya frustrasyonlar nelerdi ve bu geçmiş nasıl Kovant’ın temel tasarım felsefesini şekillendirdi?

Önceki rollerimde birkaç tutarlı boşluk gördüm. İlk olarak, çoğu “dikey” yapay zeka aracı, tek bir yazılım yığınına mahkumdur: sınırları içinde bir şeyi biraz daha iyi yapar, ancak bir iş akışı birden fazla sistemi kapsadığında mücadele eder. Aynı zamanda, şirket verisi birçok araçta dağılmış durumda ve birçok otomasyon çözümü bu verilere ulaşamaz. Years of point integrations ile birlikte klasik spaghetti mimarisine ulaşılır: karmaşıklık artar, değişiklik yavaşlar ve ekipler bireysel adımları otomatikleştirmek yerine iş akışını baştan sona yeniden düşünmek zorunda kalırlar. Sonuç olarak, ROI genellikle beklentilerin altında kalır.

Kovant, bu gerçekliğe bir yanıt olarak tasarlandı. Temel felsefemiz, ajanların çalışanlar gibi davranması gerektiğidir: birden fazla araçta çalışırlar, “işe alınmak” için görevlere atanırlar, tek bir betiği otomatikleştirmek için değil. Bu nedenle, entegrasyonlar ve koordinasyon dahili olarak yapılmıştır ve şirket verisinin genellikle karmaşık ve yapılandırılmamış olduğunu varsayarız.

Vakıf ajanlarını kullanarak hız ve ölçek kazanırken, veri egemenliğini ön plana çıkarmaktayız: şirketler kendi verilerine kendi tesislerinde erişebilir ve kullanabilirler.

Kovant, AI ajanlarını kullanarak tüm operasyonları ve bölümleri çalıştırabilen bir otonom entreprise platformu olarak konumlandırılmaktadır. Şirketin bakış açısına göre “otonom” nedir ve bu, şirketlerin bugün already denediği otomasyon ve ajan araçlarından nasıl farklıdır?

Şirket bağlamında “otonom” demeyerek “gözetimsiz” kastetmiyoruz. AI ajanlarının gerçek eylemler gerçekleştirebileceği, net hedeflere ve sınırlara sahip olduğu ve insan müdahalesi gerektiğinde insanlara başvurabileceği anlamına gelir.

Kovant’ı farklı kılan şey, temel ajanlarımızdır. Tek bir sabit süreci veya önceden oluşturulmuş bir dizi takip etmek yerine, Kovant ajanları bir operasyonu çözmek için birlikte çalışabilirler. Blueprint olarak adlandırdığımız operasyon görünümü ile birlikte, karmaşık iş akışlarını çözebilir, koşullar değiştiğinde adapte olabilir ve insan müdahalesi gerektiğinde insanlara devredebilirler.

Örneğin, bir envanter yönetim ajan ekibi, aşağıdaki görevleri yeniden inşa etmeden gerçekleştirebilir: tedarikçilerle e-posta aracılığıyla iletişim kurma, envanter seviyelerini ve stok dışı sinyalleri izleme, sevkiyatları ve satın alma emirlerini takip etme, durumları çeşitli sistemlerde güncelleme, envanter planlayıcıların onaylaması için tutarsızlık biletleri oluşturma, depolar arasında envanteri yeniden dağıtma ve envanter raporlarını konsolide etme.

Bu, “sohbet ve araçlar” veya büyük ölçekte kırılgan olan otomasyonlardan ziyade, şirketlerin ajanları çalıştırmak için geçiş yapmalarını sağlar.

Agentic AI’ye büyük ilgi rağmen, birçok şirket hala pilot aşamasında takılmış durumda. Gerçek dağıtımlarda gördüğünüz things, şirketlerin deneysel aşamasından ölçekli üretime geçişini engelleyen ana nedenler nelerdir?

Gördüğümüz şey, şirketlerin pilot aşamasında takılmalarının nedeni, fikrin yanlış olması değil, çevrelerinin ölçeklenmeye karşı düşmanca olmasıdır.

İlk engel, parçalanmış entreprise teknoloji manzarasıdır. İş akışları birden fazla sistemi kapsar, veriler birden fazla yerde yaşar ve her şeyi güvenilir bir şekilde birleştirmek zordur. Agentic AI genellikle mevcut araçlara bir eklenti olarak dağıtılır, iş akışının nasıl çalışması gerektiği hakkında yeniden düşünmek yerine.

Gerçek bir mimari ve veri sorunu da vardır. Çok sayıda SaaS satıcısı hala verileri kilitlemeye çalışmaktadır, bu da uyumsuzluklar yaratır ve ajanların birden fazla sistemde ne yapabileceğini sınırlar. Ayrıca, birçok takım, çoğu entreprise verisinin yapılandırılmamış olduğunu (e-postalar, belgeler, biletler, PDF’ler, sohbet günlükleri) hafife alır. Yaklaşımlarınız yapılandırılmış veri varsayarsa, zaman-a-değere uzun, ağrılı ve pilotün ötesinde tekrarlamak zordur.

Kısacası: parçalanma, kilitlenme ve yapılandırılmamış veriler sürtünme yaratır ve pilotlar, bu gerçekler tasarlanana kadar üretim haline gelmez.

AI ajanlarını gerçek dünyada dağıtmak için en büyük engel güvenilirliktir. Kovant’ın yaklaşımı, ajan sistemlerinin gerçek dünyada başarısız olmasına neden olan hallucinations ve öngörülemez davranışları nasıl azaltır?

Bazı ajan sistemleri demo sırasında harika görünür, ancak gerçek dünyada başarısız olurlar, çünkü çevre karmaşık ve öngörülemezdir. Veriler eksik veya tutarlı değildir, kenar durumları sürekli ortaya çıkar (iade, uyuşmazlıklar, özel onaylar). İş akışları birden fazla aracı, platformu ve entegrasyonu kapsar ve değişir, izinler değişir. Bir AI ajanına büyük bir görev verildiğinde ve aynı anda çok fazla contexto verildiğinde, hallucinations ve tuhaf davranış riski artar.

Kovant, bu sorunu azaltmak için tasarlanmıştır. Benzersiz mimarimiz, problem alanını, karar alanını ve modellerin çalıştığı bağlamı daraltır, böylece hallucinations azaltılır. Ayrıca, operasyonları dar, odaklanmış görevlere ayırırız ve her adımın net izinleri ve sınırlı bir etki alanı vardır. Bu, davranışın daha öngörülebilir olmasını sağlar ve performansın izlenmesini ve iyileştirilmesini kolaylaştırır. Her ajanın ne yaptığını görebilir, bir başarısızlığın nerede başladığını görebilir ve müdahale edebiliriz veya gerektiğinde insanlara başvurabiliriz.

Halüsinasyonlar ortadan kaybolmaz, ancak her ajanın sorumlu olduğu şeyi ve etki edebileceği bağlamı sınırlayarak, sıklıklarını azaltabilir ve etkilerini sınırlayabiliriz. Bu “daraltılmış görev/bağlam” yaklaşımı, Nvidia’ (NVDA ) nın araştırma ekibinin recent çalışması tarafından da desteklenmektedir, bu da ajan karar alma sürecini sınırlamanın benzer faydalarını bulmuştur.

AI ajanları iş sistemlerinde gerçek eylemler gerçekleştirmeye başladığında, hesap verebilirlik büyük bir endişe kaynağıdır. Detaylı eylem günlükleri, güven, uyum ve operasyonel risk konusunda nasıl bir değişiklik yaratır?

Detaylı eylem günlükleri ile ne olduğu, neden olduğu ve ne olacağı görülebilir.

Detaylı günlükler, bir ajanı, gizemli bir bot yerine, inceleyebileceğimiz bir sistem haline getirir.

Kovant’ta, her AI ajan dağıtımı için, bir risk haritası olacaktır ve bu, organizasyonun üzerine hareket edebileceği bir şeydir. Riskli eylemler için insanlara görevlendirme vardır, bu da ajanların yalnızca bir insan tarafından gözden geçirilip onaylandıktan sonra bu görevleri gerçekleştirebileceği anlamına gelir. Tüm bunlar, aynı şekilde bir sistem olarak kaydedilir ve izlenebilir.

Hesap verebilirliği minimize etmek için, eylem günlüklerini insan denetimi ve gözlemlenebilirlik ile birleştirmek önemlidir. Bu, ajanların gerçek operasyonları çalıştırırken hız ve ölçek avantajlarından yararlanmaya devam etmenizi sağlar.

AI ajanlarının sigortalanabilir olup olmadığı konusunda artan bir tartışma vardır, çünkü karar alma süreçleri şeffaf değildir. Ajan iş akışlarını denetlenebilir ve yeniden oynatılabilir hale getirerek, “kara kutu” sorununu nasıl çözersiniz ve sigortalanabilirliği nasıl sağlarsınız?

“Kara kutu” sorunu, sigortalanabilirliği zorlaştırır. Bir ajanın ne yaptığını, neden yaptığını ve hangi kontrollerin olduğunu açıkça gösteremezseniz, özellikle sigortacılar için riski fiyatlamak zordur.

Yaklaşımımız, önceki cevabın bir uzantısıdır. Karar kapsamını ve eylemlerin etkisini daha küçük parçalara ayırırız, böylece model tek bir büyük, şeffaf olmayan karar vermez. Her adım daha dar, daha öngörülebilir ve daha kolay değerlendirilir.

Detaylı günlükler, gözlemlenebilirlik ve insan denetimi ekleriz. En önemli ve etkili kararlar için, bir insan görevlisi kullanırız, böylece ajan yalnızca gözden geçirilip onaylandıktan sonra ilerleyebilir. Bu, iş akışının nasıl davrandığını daha fazla görünürlük sağlar.

İş akışlarını denetlenebilir ve yeniden oynatılabilir hale getirmek, son parçadır. Bir şey yanlış gittiğinde, ne olduğu hakkında bilgi verebilir, nhanh bir şekilde soruşturabilir, düzeltmeleri doğrulayabilir ve insan onayının ne kadar souvent gerektiği ve nerede güvenlik önlemlerinin olduğunu gösterebiliriz. Sigorta açısından, bu gizemli AI davranışından standard operasyonel riskine daha yakın bir şeye dönüşür.

Agentic AI Foundation gibi girişimlerle birlikte, agentic sistemler için ortak standartlar oluşturulmasına çalışılıyor. Bu çabaların en umut verici yönleri nelerdir ve gerçek entreprise operasyonları açısından hala nerede eksik kalıyorlar?

Standartlaşma genellikle iyi bir şeydir. AAIF, ajan sistemlerinin aynı dili konuşmasını sağlamak için gerekli ancak zahmetli işleri yapabilir, bu da entegrasyonları daha kolay hale getirebilir ve zamanla satıcı kilidini azaltabilir.

İyi niyetli olduğum ancak aynı zamanda temkinli olduğum yer, standartların kimin bakış açısına göre şekillendirildiğidir. Eğer çoğu çalışma model oluşturucuları ve teknoloji ölçekleme şirketleri tarafından yönetiliyorsa, “standartlar”ın, neyin inşa edilmesi en kolay veya demo yapılması en kolayına göre optimize edilmesi riski vardır, gerçek büyük organizasyonların günlük olarak ajanları güvenli bir şekilde çalıştırmasına ihtiyaç duyduğu şeyden ziyade.

Gerçek entreprise operasyonları açısından, boşluklar genellikle bağlantılardan ziyade kontrolle ilgilidir: bir ajanın neye erişebileceği ve değiştirebileceği, yüksek etkili eylemler için onay iş akışları, denetlenebilir günlükler ve gözlemlenebilirlik, böylece ekipler davranışını izleyebilir, olayları soruşturabilir ve uyumu kanıtlayabilir. Şirketler ayrıca, test için kenar durumları, değişen sistemleri ve güvenli bir şekilde eylemleri durdurma, sınırlama veya geri alma yeteneği gibi gerçekçi gerçeklik için pratik standartlara ihtiyaç duyar.

Bu, umut verici bir yöndür, ancak etki, entreprise gereksinimlerinin ve operasyonel risk kontrollerinin sonradan düşünülmemesi koşuluyla sınırlı olacaktır.

Kovant, büyük Nordik şirketlerinden önemli gelir elde ederken, büyük ölçüde gizli kaldı. Bugün hangı iş fonksiyonları veya iş akışları, otonom AI ajanları için en hazır durumdadır?

Gerçek dağıtımlarda gördüğümüz şey, en “hazır” olan iş akışlarının, beyaz yakalı işlerin reaktif olduğu iş akışları olduğu yönündedir: izleme, takip, kontrol, sistem güncelleme, istisnaları ele alma ve operasyonları birden fazla araç boyunca ilerletme.

Üretim ve daha geniş entreprise tedarik zincirlerinde, bu, aşağıdaki alanlarda kendini gösterir:

• Tedarik/İmalat: ham madde mevcudiyeti, sürdürülebilir tedarik, uyum operasyonları, tedarikçi seçimi (çift veya çoklu tedarik dahil), sözleşme yönetimi, tedarikçi risk yönetimi ve ihale yönetimi.
• Üretim: kapasite planlaması, üretim planlaması, bakım yönetimi, kalite yönetimi, darboğaz yönetimi ve kayıp önleme.
• Depolama: alma ve inceleme, envanter yönetimi, stok rotasyonu (FIFO/FEFO) ve envanter sayımı/denetimi.
• Ulaşım/Lojistik: taşıma ve taşıyıcı seçimi, gümrük temizleme/belgeleri, takip ve görünürlük, emisyon izleme ve ticaret uyumu.
• Satış ve Hizmet: ürün mevcudiyeti, stok dışı önleme, satış/geri dönüş yönetimi, tüketici davranışı analizi ve satış sonrası alanlar gibi onarım, son kullanım takibi, atölye operasyonları ve hizmet sözleşmeleri.

Şirketler kritik operasyonlar boyunca AI ajanlarını dağıttığında, nasıl otonomi ile insan denetimini dengeler ve kontrolü olmadan her şeyi yavaşlatmadan nasıl sağlar?

Denge, yönetilen otonomidir. Ajanların, düşük riskli işlerde hızlı hareket etmesine izin vermelisiniz ve risk eşiğini aştığında insanlara başvurmalısınız.

Çok fazla başarısızlık, modele fazla kapsam ve fazla bağlam verilmesinden kaynaklanır. İşlemeleri dar, dar kapsamlı kararlara ayırmanızı ve her adımın net izinleri ve sınırlı bir etki alanı olmasını öneririm. Bu, davranışın daha öngörülebilir olmasını sağlar ve performansın izlenmesini ve iyileştirilmesini kolaylaştırır.

Üç şeyi birleştiririz: gözlemlenebilirlik, eylem günlükleri ve insan görevlisi. Ajanın yaptıkları her şey izlenebilir olmalıdır, böylece ne olduğu hakkında bilgi verebilir ve hızlı bir şekilde soruşturabiliriz. Yüksek etkili veya riskli eylemler için, iş akışında bir insan onay adımını koyarız, böylece ajan öneri ve hazırlık yapabilir, ancak yalnızca bir insan onayladıktan sonra yürütür.

Bu, her şeyi yavaşlatmadan hızını korur. İnsan denetimi adımında çok az bir yavaşlama olabilir, ancak bu, sürecin önemli bir parçasıdır. İnsanlar her tıklamayı denetlemekle meşgul değil, ancak önemli anlarda kontrolde kalırlar. Sonuç, güvenli olduğunda hız ve gerekli olduğunda denetimdir.

İleriye bakıldığında, büyük organizasyonlar içindeki otonom AI ajanlarının rolünün nasıl evrileceğini düşünüyorsunuz ve agentic AI ile başarılı olan şirketler ile mücadele eden şirketler arasında ne gibi farklar olacaktır?

Gelecek birkaç yıl içinde, otonom AI ajanları, ilginç deneylerden gerçek bir işletme katmanına dönüşeceklerdir. Operasyonlar, müşteri hizmeti, finans ve insan kaynakları için kullanılacaktır. Güvenilirlik, yönetim ve denetim iyileştikçe, şirketlerin pilotlardan, ajan takımlarını uçtan uca iş akışları boyunca çalıştırmaya geçiş yapmalarını göreceğiz.

En büyük değişiklik, hız, çeviklik, ölçek, verimlilik ve maliyetlerin, doğrudan bir rekabet avantajı haline gelmesidir. Bir “Uber hareketi” şirketler için geliyor. Gerçekten agentic AI’yi ustaca kullanan şirketler, geri kalanlara göre temel olarak daha hızlı çalışabilecektir, pazarları daha hızlı ele geçirebilecek ve değişime karşı daha hızlı tepki verebilecektir.

Başarılı olan şirketler, sadece ajanları dağıtmakla kalmaz, aynı zamanda onları iyi dağıtırlar. Yönetilen otonomi, güçlü gözlemlenebilirlik ve eylem günlükleri, ve dar karar alanı ile mimariler, buna anahtardır. Agentic AI’yi bir işletme yeteneği olarak gören, doğru kontrolleri, entegrasyonu ve sahipliği olan şirketler, bunu daha fazla, değil, daha az yapmak için kullanacaklardır. Bu, ekiplerin büyüme ve inovasyona odaklanmasına olanak tanıyacak, değil, admin işlerle meşgul olmasına olanak tanıyacaktır. Kısacası, radikal hız ve verimlilik, gerçek bir rekabet avantajı haline gelir.

Harika bir röportaj için teşekkür ederiz, daha fazla bilgi almak isteyen okuyucular Kovant ziyaret edebilir.