Kovant'ın CEO'su ve Kurucusu Ali Sarrafi ile Röportaj Serisi

Ali Sarrafi, Kovant'ın CEO'su ve Kurucusu, Stockholm'de yaşayan ve yüksek büyüme potansiyeline sahip yapay zeka şirketleri kurma ve ölçeklendirme konusunda başarılı bir geçmişe sahip deneyimli bir teknoloji ve yapay zeka yöneticisidir. 2024 yılının sonlarında Kovant'ı kurduğundan beri, kurumsal yapay zeka stratejisi, pazara giriş uygulaması ve operasyonel ölçeklendirme konularında derin bir deneyime sahiptir. Daha önce, AMD tarafından satın alınmasının ardından Silo AI'da Strateji Başkan Yardımcısı olarak görev yapmış ve kurumsal yapay zeka stratejisini şekillendirmek ve büyük ölçekli benimsemeyi sağlamaktan sorumlu olmuştur. Kariyerinin başlarında, Combient Mix'i kurmuş, şirketi hızlı büyüme ve Silo AI tarafından başarılı bir şekilde satın alınması sürecinden geçirmiş ve o zamandan beri eğitim ve yapay zeka girişimlerinde danışmanlık ve yönetim kurulu görevlerinde bulunarak, gelişmiş yapay zekayı gerçek dünya iş etkisine dönüştürmeye yönelik tutarlı bir odaklanma sergilemiştir.

Kovant Kovant, kuruluşların deneysel yapay zeka kullanımından tamamen operasyonel, otonom iş süreçlerine geçişini sağlamaya odaklanmış bir kurumsal yapay zeka şirketidir. Şirket, tedarik, tedarik zincirleri, uyumluluk ve müşteri operasyonları gibi karmaşık operasyonel alanlarda yapay zeka ajanlarından oluşan ekipleri yönetmek üzere tasarlanmış ajan tabanlı bir platform geliştiriyor. Güvenli, kurumsal düzeyde dağıtım ve hızlı değer yaratma süresini vurgulayarak, Kovant kendisini stratejik yapay zeka hedefleri ile günlük uygulama arasında bir köprü olarak konumlandırıyor ve büyük kuruluşların yapay zekayı bağımsız bir araç veya pilot proje olarak ele almak yerine doğrudan temel iş akışlarına entegre etmelerine yardımcı oluyor.

Spotify'da büyük yapay zeka girişimlerine liderlik ettiniz, Combient Mix'i büyüttünüz ve sattınız, daha sonra Kovant'ı kurmadan önce Silo AI'da kurumsal yapay zeka stratejisini şekillendirdiniz. Bu rollerde hangi özel eksiklikler veya hayal kırıklıklarıyla karşılaştınız da otonom bir kurumsal platform oluşturmanın zamanının geldiğine ikna oldunuz ve bu geçmiş Kovant'ın temel tasarım felsefesini nasıl şekillendirdi?

Önceki görevlerimde sürekli olarak birkaç tutarlı eksiklik ortaya çıktı. Birincisi, çoğu "dikey" yapay zeka aracı aslında tek bir yazılım yığınına bağımlıdır: bu sınır içinde bir şeyi biraz daha iyi yaparlar, ancak bir iş akışının birden fazla sistemi kapsaması gerektiği anda zorlanırlar. Aynı zamanda, kurumsal veriler birçok araca dağılmıştır ve birçok otomasyon çözümü bunlara ulaşamaz. Yıllarca süren nokta entegrasyonlarını da eklediğinizde, klasik spagetti mimarisi elde edersiniz: karmaşıklık artar, değişim yavaşlar ve ekipler iş akışını baştan sona yeniden tasarlamak yerine tek tek adımları otomatikleştirmeye başlar. Sonuç olarak, yatırım getirisi genellikle kuruluşların beklediğinden daha yavaş ve daha küçük olur.

Kovant, bu gerçekliğe bir yanıt olarak tasarlandı. Temel felsefemiz, ajanların çalışanlar gibi davranması gerektiğidir: birden fazla araç üzerinde çalışırlar, tek bir senaryo dizisini otomatikleştirmek için değil, iş yapmak için "işe alınırlar". Bu nedenle entegrasyonlar ve orkestrasyon yerleşik olarak bulunur ve kurumsal verilerin genellikle dağınık ve yapılandırılmamış olduğunu varsayıyoruz; istisnaları ve belirsizliği ele almak için daha insansı bir yaklaşıma ihtiyaç duyar.

Veri egemenliğini ön planda tutarken, hız ve ölçeklenebilirlik sağlamak için temel aracıları kullanıyoruz: işletmeler kendi verilerine yatay olarak erişebilir ve bunları kendi tesislerinden ayrılmadan kullanabilirler.

Kovant, kendisini yapay zekâ ajanlarıyla tüm operasyonları ve departmanları yönetebilen otonom bir kurumsal platform olarak konumlandırıyor. Kurumsal bağlamda "otonom" kavramını nasıl tanımlıyorsunuz ve bu, şirketlerin bugün zaten denediği otomasyon ve ajan araçlarından nasıl farklı?

Kurumsal bir bağlamda, "otonom" dediğimizde "denetimsiz" anlamına gelmiyor. Yapay zekâ ajanlarının, net hedefler ve güvenlik önlemleriyle bir operasyon genelinde uçtan uca gerçek eylemler gerçekleştirebileceğini ve denetim gerektiğinde insanlara devredeceğini kastediyoruz.

Kovant'ı farklı kılan şey, temel ajanlarımızdır. Tek bir sabit süreci otomatikleştirmek veya önceden oluşturulmuş bir sırayı takip etmek yerine, Kovant ajanları yalnızca talimatlar ve "plan" dediğimiz bir operasyon genel bakışı kullanarak bir operasyon üzerinde ekip (veya sürü) olarak çalışabilirler. Tek bir dar görev için tasarlanmamışlardır; karmaşık iş akışlarını çözmek için işbirliği yaparlar, koşullar değiştikçe uyum sağlarlar ve durum gözetim gerektirdiğinde insanlara devrederler.

Örneğin, bir envanter yönetim ekibi, sıfırdan yeniden oluşturmaya gerek kalmadan aşağıdaki tüm işleri gerçekleştirebilir: tedarikçilerle e-posta yoluyla iletişim kurmak, envanter seviyelerini ve stokta olmayan ürün sinyallerini izlemek, sevkiyatları ve satın alma siparişlerini takip etmek, sistemler genelinde durumları güncellemek, envanter planlayıcılarının onaylaması için tutarsızlık biletleri oluşturmak, depolar arasında envanteri yeniden dağıtmak ve envanter raporlarını birleştirmek.

Yani değişim, "sohbet artı araçlar" veya büyük ölçekte bozulan kırılgan otomasyonlar yerine, işletmelerin ajanlar oluşturmaktan, onları büyük ölçekte çalıştırmaya geçmesi yönündedir.

Ajan tabanlı yapay zekaya olan yoğun ilgiye rağmen, birçok kuruluş hâlâ pilot aşamasında takılıp kalmış durumda. Gerçek uygulamalarda gördüklerinize göre, şirketlerin deneme aşamasından ölçekli üretime geçmekte zorlanmalarının başlıca nedenleri nelerdir?

Gördüğümüz şey şu ki, çoğu kuruluş pilot aşamasında takılıp kalmıyor; bunun nedeni fikrin yanlış olması değil, ortamın ölçeklendirmeye elverişsiz olmasıdır.

İlk engel, parçalanmış kurumsal teknoloji ortamıdır. İş akışları birçok sistemi kapsar, veriler birden fazla yerde bulunur ve her şeyi güvenilir bir şekilde bir araya getirmek zordur. Ayrıca, ajan tabanlı yapay zeka genellikle iş akışının baştan sona nasıl çalışması gerektiğini yeniden düşünmenin bir yolu olarak değil, mevcut araçlara bir eklenti olarak kullanılır.

Ayrıca gerçek bir mimari ve veri sorunu da var. Birçok SaaS sağlayıcısı hala verileri kilitlemeye çalışıyor, bu da uyumsuzluklara yol açıyor ve temsilcilerin sistemler genelinde yapabileceklerini sınırlıyor. Ve birçok ekip, kurumsal verilerin çoğunun yapılandırılmamış olduğunu (e-postalar, belgeler, destek talepleri, PDF'ler, sohbet kayıtları) hafife alıyor. Yaklaşımınız temiz, yapılandırılmış verileri varsayarsa, değer yaratma süresi uzun, zahmetli ve pilot uygulamanın ötesinde tekrarlanması zor hale gelir.

Özetle: parçalanma, kilitlenme ve yapılandırılmamış veriler sürüklenmeye neden olur ve bu gerçekler dikkate alınarak tasarlanmadığı sürece pilot projeler asla üretime geçmez.

Yapay zekâ ajanlarının gerçek dünyada konuşlandırılmasının önündeki en büyük engel genellikle güvenilirliktir. Peki, birçok ajan sistemi kontrollü ortamlardan çıktıktan sonra neden başarısız oluyor ve Kovant'ın yaklaşımı halüsinasyonlar ve öngörülemeyen davranışlar gibi sorunları nasıl azaltıyor?

Bazı yapay zeka sistemleri demo sunumlarında harika görünse de, gerçek dünyada ortamın karmaşık ve tahmin edilemez olması nedeniyle başarısız olabiliyor. Veriler eksik veya tutarsız, uç durumlar sürekli ortaya çıkıyor (geri ödemeler, anlaşmazlıklar, özel onaylar). İş akışları, zaman içinde değişen birden fazla araç, platform ve entegrasyonu kapsıyor ve izinler değişkenlik gösteriyor. Bir yapay zeka ajanından büyük bir görevi yerine getirmesi istendiğinde ve aynı anda çok fazla bağlam verildiğinde, halüsinasyon ve garip davranış riski artıyor.

Kovant bunu tasarım gereği azaltır. Benzersiz mimarimiz, modellerin çalıştığı problem alanını, karar alanını ve bağlamı daraltarak yanılsamaları azaltır. Ayrıca işlemleri, her bir ajan ve adım için dar, odaklanmış görevlere ayırırız. Bu, davranışı daha tahmin edilebilir hale getirir ve sisteme izlenebilirlik ve kontrol edilebilirlik ekleyerek yanılsamaları daha iyi yönetmeyi sağlar. Her ajanın ne yaptığını, bir hatanın nereden başladığını görebilir ve gerektiğinde müdahale edebilir veya durumu üst kademeye iletebiliriz.

Halüsinasyonlar sihirli bir şekilde ortadan kaybolmaz, ancak her bir ajanın sorumluluğunu kısıtlayarak ve hareket edebileceği bağlamı sınırlayarak, sıklıklarını azaltabilir ve etkilerini sınırlayabiliriz. Bu "daraltılmış görev/bağlam" yaklaşımı, ajan karar verme süreçlerini kısıtlamanın benzer faydalarını bulan Nvidia'nın araştırma ekibinin son çalışmalarında da desteklenmiştir.

Yapay zekâ ajanları iş sistemlerinde gerçek eylemler gerçekleştirmeye başladıkça hesap verebilirlik büyük bir endişe kaynağı haline geliyor. Detaylı eylem kayıtları, güven, uyumluluk ve operasyonel risk hakkındaki tartışmaları nasıl değiştiriyor?

Ayrıntılı işlem kayıtları sayesinde ne olduğunu, neden olduğunu ve bundan sonra ne olacağını görebiliriz.

Ayrıntılı kayıtlar, makinede gizemli bir şekilde çalışan bir robot olan ajanı, inceleyebileceğiniz bir sisteme dönüştürüyor.

Kovant'ta, herhangi bir yapay zeka ajanı dağıtımında, kuruluşun harekete geçebileceği bir risk haritası bulunur; riskli eylemler için insan müdahalesi gerektiren yerleşik bir kontrol mekanizmamız vardır, yani ajanlar bu görevleri ancak bir insan tarafından incelenip onaylandıktan sonra gerçekleştirebilir. Tüm bunlar, bir kayıt sisteminin kaydedildiği şekilde kaydedilir ve izlenebilir.

Riskleri en aza indirmek için eylem kayıtlarını insan gözetimi ve gözlemiyle birleştirmenin önemli olduğuna inanıyoruz. Bu, gerçek operasyonları yürüten ajanların hız ve ölçek avantajlarından yararlanmaya devam edeceğiniz anlamına gelir.

Yapay zekâ ajanlarının şeffaf olmayan karar alma süreçleri nedeniyle sigortalanıp sigortalanamayacağı konusunda giderek artan bir tartışma var. Ajan iş akışlarını denetlenebilir ve tekrar oynatılabilir hale getirmek, "kara kutu" sorununu çözmeye ve sigortalanabilirliğin önünü açmaya nasıl yardımcı olur?

“Kara kutu” problemi, sigortalanabilirliği zorlaştıran şeydir. Bir acentenin ne yaptığını, neden yaptığını ve hangi kontrollerin uygulandığını açıkça gösteremezseniz, riskin fiyatlandırılması herkes için, özellikle de sigortacılar için zorlaşır.

Yaklaşımımız esasen önceki yanıttaki hesap verebilirlik yapısının bir uzantısıdır. Karar kapsamını ve eylemlerin etkisini daha küçük parçalara ayırıyoruz, böylece model tüm operasyonu etkileyebilecek devasa, şeffaf olmayan bir karar vermiyor. Her adım daha dar, daha tahmin edilebilir ve değerlendirilmesi daha kolaydır.

Ardından detaylı kayıtlar, gözlemlenebilirlik ve insan gözetimi ekliyoruz. En önemli ve etkili kararlar için, ajanın ancak inceleme ve onaydan sonra ilerleyebilmesi için insan bir denetleyici kullanıyoruz. Bu, iş akışının pratikte nasıl davrandığına dair çok daha fazla görünürlük sağlıyor.

İş akışlarını denetlenebilir ve tekrar oynatılabilir hale getirmek son aşamadır. Bir sorun oluşursa, ne olduğunu yeniden üretebilir, hızlıca araştırabilir, düzeltmeleri doğrulayabilir ve insan onayının ne sıklıkla gerekli olduğunu ve güvenlik önlemlerinin nerede olduğunu gösterebilirsiniz. Sigorta terimleriyle bu, gizemli yapay zeka davranışı Standart operasyonel riske daha yakın bir hale getirmek.

Agentic AI Foundation gibi ajan tabanlı sistemler için ortak standartlar oluşturmayı amaçlayan girişimlerle birlikte, bu çabaların en umut vadeden yönleri nelerdir ve gerçek kurumsal operasyonlar için hâlâ hangi noktalarda yetersiz kalmaktadırlar?

Standardizasyon genel olarak iyi bir şeydir. AAIF, temsilci sistemlerinin aynı dili konuşmasını sağlamak gibi göz alıcı olmayan ancak hayati önem taşıyan bir işi üstlenebilir; bu da entegrasyonları kolaylaştıracak ve zaman içinde tedarikçi bağımlılığını azaltacaktır.

Dikkatli olduğum nokta, standartları kimin bakış açısının şekillendirdiğidir. Eğer çalışmaların çoğu model yaratıcıları ve teknoloji şirketleri tarafından yürütülüyorsa, "standartların" büyük kuruluşların ajanları günlük olarak güvenli bir şekilde çalıştırmak için gerçekten ihtiyaç duyduklarından ziyade, inşa edilmesi veya demo edilmesi en kolay olan şeyleri optimize etme riski vardır.

Gerçek kurumsal operasyonlarda, eksiklikler bağlantı noktalarından ziyade kontrolle ilgilidir: bir ajanın erişebileceği ve değiştirebileceği şeyler, yüksek etkili işlemler için onay iş akışları, denetlenebilir kayıtlar ve ekiplerin davranışları izleyebilmesi, olayları araştırabilmesi ve uyumluluğu kanıtlayabilmesi için gözlemlenebilirlik. Kurumsal işletmelerin ayrıca karmaşık gerçeklikte faaliyet göstermek için pratik standartlara da ihtiyacı vardır: uç durumlara karşı test yapma, değişen sistemleri yönetme ve eski araçlar ve düzenlenmiş veri ortamlarında işlemleri güvenli bir şekilde duraklatma, sınırlama veya geri alma yeteneği.

Dolayısıyla bu umut vadeden bir yön, ancak işletme gereksinimleri ve operasyonel risk kontrolleri sonradan düşünülmüş bir unsur olarak ele alınmadığı sürece etkisi sınırlı kalacaktır.

Kovant, büyük ölçüde gizli bir şekilde faaliyet gösterirken, büyük İskandinav şirketlerinden önemli gelirler elde etti. Günümüzde hangi iş fonksiyonları veya iş akışları otonom yapay zeka ajanları için en hazır durumda?

Gerçek uygulamalarda gördüğümüz kadarıyla, bugün en "hazır" olan iş akışları, reaktif beyaz yakalı işlerden oluşanlardır: izleme, takip etme, kontrol etme, sistemleri güncelleme, istisnaları ele alma ve operasyonları birden fazla araçta devam ettirme.

Üretim ve daha geniş kurumsal tedarik zincirlerinde bu durum şu alanlarda kendini gösterir:

• Tedarik/satın almaHammadde temini, sürdürülebilir tedarik, uyumluluk operasyonları, tedarikçi seçimi (çift/çoklu tedarik dahil), sözleşme yönetimi, tedarikçi risk yönetimi ve ihale/teklif yönetimi.
• üretimKapasite planlaması, üretim programlaması, bakım yönetimi, kalite yönetimi, darboğaz yönetimi ve kayıp önleme.
• Depolama: Mal kabulü ve denetimi, envanter yönetimi, stok rotasyonu (FIFO/FEFO) ve periyodik sayım/denetim.
• Ulaşım / Lojistik: Taşıma yöntemi ve taşıyıcı seçimi, gümrükleme/belgeleme, takip ve görünürlük, emisyon izleme ve ticaret uyumluluğu.
• Satış ve servisÜrün bulunabilirliği, stok tükenmesinin önlenmesi, satış/iade yönetimi, tüketici davranış analizi ve ayrıca onarım, kullanım ömrü sonu takibi, atölye işlemleri ve servis sözleşmeleri gibi satış sonrası alanlar.

İşletmeler kritik operasyonlarında yapay zekâ ajanlarını devreye aldığında, her şeyi yavaşlatmadan kontrolü sağlamak için özerklik ile insan gözetimi arasında nasıl bir denge kurmayı önerirsiniz?

Denge, özerklik tarafından yönetilir. Ajanların düşük riskli işlerde net sınırlar dahilinde hızlı hareket etmelerine izin vermeli ve eylem tanımlanmış bir risk eşiğini aştığında insanlara müdahale etmelisiniz.

Modelin kapsamı ve bağlamı aynı anda çok fazla genişletilince birçok başarısızlık yaşanıyor. İşlemleri daha küçük, dar kapsamlı kararlara bölmenizi öneririm; her adımın net izinleri ve sınırlı bir etki alanı olsun. Bu, öngörülemeyen davranışları azaltır ve performansı izlemeyi ve iyileştirmeyi kolaylaştırır.

Ardından üç şeyi birleştirirsiniz: gözlemlenebilirlik, işlem kayıtları ve insan denetimi. Temsilcinin yaptığı her şey izlenebilir olmalıdır, böylece ne olduğunu inceleyebilir ve hızlı bir şekilde soruşturma yapabilirsiniz. Yüksek etkili veya riskli işlemler için, iş akışına bir insan onayı adımı eklersiniz, böylece temsilci öneride bulunabilir ve hazırlık yapabilir, ancak yalnızca bir kişi onay verdikten sonra işlemi gerçekleştirir.

Bu, işlerin hızlı ilerlemesini sağlıyor. Hatta insan gözetimi aşamasında çok az da olsa yavaşlama oluyor, ancak bu sürecin önemli bir parçası. İnsanlar her tıklamayı denetlemek zorunda değiller, ancak önemli anların kontrolü onlarda. Sonuç olarak, güvenli olduğu yerlerde hız, gerekli olduğu yerlerde ise gözetim sağlanıyor.

Önümüzdeki birkaç yıl içinde büyük kuruluşlar içinde otonom yapay zeka ajanlarının rolünün nasıl gelişmesini bekliyorsunuz ve ajan tabanlı yapay zeka ile başarılı olan şirketleri zorlananlardan ayıran özellikler neler olacak?

Önümüzdeki birkaç yıl içinde, otonom yapay zeka ajanları ilgi çekici deneylerden büyük kuruluşların içinde gerçek bir işletim katmanı haline gelecek. Operasyonlar, müşteri hizmetleri, finans ve insan kaynakları alanlarında kullanılacaklar. Güvenilirlik, yönetişim ve denetim geliştikçe, işletmelerin izole pilot projelerden uçtan uca iş akışlarında ajan ekipleri çalıştırmaya geçiş yaptığını göreceğiz.

En büyük değişiklik, hız, çeviklik, ölçek, verimlilik ve maliyetlerin çok daha doğrudan bir rekabet avantajı haline gelmesidir. Bence işletmeler için bir "Uber hareketi" geliyor. Ajan tabanlı yapay zekayı gerçekten ustaca kullananlar, geride kalanlardan temel olarak daha yüksek bir hızda çalışabilecek, pazarları daha hızlı ele geçirebilecek ve olağan operasyonel yavaşlama olmadan değişime yanıt verebileceklerdir.

Kazananları ayıran şey sadece ajanları devreye almak değil, onları iyi bir şekilde devreye almaktır. Yönetilen özerklik, güçlü gözlemlenebilirlik ve eylem kayıtları ile karar kapsamını daraltan mimariler bunun anahtarı olacaktır. Ajan tabanlı yapay zekayı doğru kontroller, entegrasyon ve sahiplikle temel bir işletme yeteneği olarak ele alan şirketler, onu daha az değil, daha çok iş yapmak için kullanacaklardır. Bu, ekiplerin günlerini yönetim işlerine gömülmek yerine büyüme ve inovasyona odaklanmalarını sağlayacaktır. Kısacası, radikal hız ve verimlilik, kurumsal ölçekte gerçek bir rekabet avantajı haline gelir.

Harika röportaj için teşekkürler, daha fazla bilgi edinmek isteyen okuyucular ziyaret etmelidir. Kovant.