Mathis Joffre, Blaxel’in Kurucu Ortağı ve Mühendislik Lideri – Röportaj Serisi

Mathis Joffre, Blaxel’in Kurucu Ortağı ve Mühendislik Lideri, Avrupa’nın en büyük bulut platformlarından biri olan OVHcloud’da altyapı mühendisi olarak çalışmış deneyimli bir mühendistir. Blaxel’de, düşük gecikme süresi ve ölçeklenebilir sistemlerin geliştirilmesini liderlik etmektedir ve şirketin performans odaklı dağıtımını destekleyen açık kaynaklı araçlara önemli katkılar sağlamaktadır.

Blaxel, otonom AI ajanları için özel olarak tasarlanmış bir hesaplama platformudur. Geliştiricilerin altyapıları yönetmeden ajanları oluşturmasına, test etmesine ve çalıştırmasına olanak tanır. Mimarisinde ultra hızlı microVM’ler, toplu iş yürütme ve yönlendirme ve geri dönüş için küresel bir ağ geçidi bulunmaktadır. Blaxel, üretim sınıfı ajan dağıtımlarını desteklemek için güvenli kumanda, gerçek zamanlı gözlemlenebilirlik ve sorunsuz ölçeklenebilirlik öncelik vermektedir.

OVHcloud’da AI ve veri altyapısı AR-GE’sinde üç yıl çalıştıktan sonra, AI ajanları için özel olarak tasarlanmış bir bulut olarak Blaxel’i inşa etme fikrine neler sizi yöneltti?

OVHcloud’un bayrak taşıyıcı AI ürünlerinden biri olan AI Endpoint’lerde çalışırken, bir sonraki nesil bulut mimarilerinin ve AI kullanım örneklerinin ne kadar karmaşık olacağını fark ettim. Geleneksel sohbet botlarından tam otonom sistemlere geçiyoruz. Bu ajan devrimi sadece daha akıllı uygulamalarla ilgili değil, aynı zamanda yazılım yığınından veri merkezi mimarisine kadar her şeyi yeniden düşünmeyi gerektiriyor. Bu gerçekleşme, beni Blaxel’i inşa etmeye yöneltti.

Orange Business’de ağ araçları geliştirmekten OVHcloud’da yığın tanımlamaya kadar olan erken mühendislik yolunuz, Blaxel’in mimarisini ve felsefesini nasıl etkiledi?

Dediğim gibi: ayakları yere basmak. Bu devrim hissedilir şekilde hipotetik veya abartılı gelebilir, ancak bunu gerçekleştirmenin tek yolu, somut kullanım örneklerine odaklanmak ve onları iyi şekilde çözmektir. Bu zihniyet, Blaxel’in başlangıcından itibaren şekillendirdiğimiz bir şeydi – kod oluşturmadan video analitiğine kadar müşterilerin gerçek dünya ihtiyaçlarına göre inşa ettik. Trendleri takip etmek yerine, ajanların etkili bir şekilde çalışması için tam olarak neye ihtiyaçları olduğunu veren bir platform sunmak istedik.

Model Context Protocol (MCP) ve çok bölgeli model ağ geçitlerinin rolünü bize açıklar mısınız? Bu, ajanlar için nasıl hata toleransı ve ölçeklenebilirlik sağlar?

Ajanlar, ilgili bilgileri erişme yeteneklerine bağlıdır – bu, etkili bir şekilde davranmalarının anahtarıdır. MCP, altyapımızla ajanları entegre etmemizin birincil arabirimidir, çünkü bu zorluğu ele alır. Geliştiriciler, SaaS dünyasında uygulamaları bağlamak için REST API’lerini kullandıkları gibi, şimdi de ajanlarına belirli, işlenebilir bir bağlam sağlamak için Model Context Protocol’ünü kullanacaklar.

Ancak bağlam alone yeterli değil – ajanlar ayrıca LLM’lere, OpenAI veya Anthropic tarafından sağlananlara güvenirler. Artan talep nedeniyle, bu sağlayıcıların sunucuları bazen trafik tarafından bunaltılabilir. İşte bu noktada çok bölgeli model ağ geçitleri devreye giriyor.

Model ağ geçitleri, trafiği dinamik olarak en yakın available LLM uç noktasına (gecikme süresi açısından) yönlendirmeye izin verir, bu da yalnızca OpenAI, Anthropic veya başka bir sağlayıcı olabilir. Bu, yalnızca yanıt sürelerini iyileştirmez, aynı zamanda hata toleransını (alternatif sağlayıcılara geçiş yaparak) ve ölçeklenebilirliği (yükü birden fazla bölge ve modele dağıtarak) sağlar.

Blaxel, ajanlar tarafından çağrılabilen geliştirici araçlarını desteklemektedir – ajanlar tarafından tüketilebilecek API’leri tasarlamak size neler hissettirdi? Bunu nasıl gelişmesini bekliyorsunuz?

OpenAI’nin Operator’unu yayınlaması bana açıklık getirdi – ajanların altyapıyı doğrudan tüketmesi gerektiği anlamına geliyor. Ajanlar, histórik verileri analiz etmek ve sorulara cevap vermekle başladı. Sonra kod oluşturmaya geçtiler. Bir sonraki mantıklı adım, kodları otonom olarak dağıtmalarıdır.

Bu nedenle, ajanların kendi bulutuna ihtiyaçları olduğuna inaniyoruz – ajanların gelecekte IT operasyonlarını sürdüreceği fikrine dayalı olarak tasarlanmış bir bulut.

Mevcut bulut sağlayıcıları ve ajan barındırma platformlarını (Modal, RunPod, Replicate vb.) düşünerek, ajanları ölçeklenebilir şekilde dağıtmada en yaygın boşlukları nerede görüyorsunuz?

Bugün çoğu platform, kalıcı, durum bilgisi olan, otonom ajanlar için tasarlanmamıştı – durum bilgisi olmayan işler veya çıkarım API’leri için tasarlandı. Bu nedenle, hesaplama, bellek, depolama ve ağ oluşturmak için things birleştirirsiniz, ancak bunlar, uzun süreli süreçleri, belleği, geri bildirim döngülerini ve karmaşık G/Ç’leri desteklemeye yönelik olarak tasarlanmamıştır. Sonuç, ya kırılgan sistemler ya da yüksek operasyonel yük olur. Bu, boşluktur: ajanların birincil vatandaşlar olduğu altyapıya ihtiyacımız var, değilse bir afterthought.

Ajanları üretim ortamında dağıtmada en yaygın anti-desenleri neler görüyorsunuz? Yapımcılar hangi hatalara düşer?

Ajanları fonksiyonlar gibi davranma – çağırma, yürütme, sonra unutma. Üretim ortamında, ajanlar bağlamı korumalı, araçları yönetmeli ve bazen dış sinyallere gerçek zamanlı olarak tepki vermelidir. İnsanlar ayrıca gerçek dünya ortamlarının ne kadar karmaşık olduğunu küçümsüyorlar: güvensiz API’ler, tutarlı olmayan veriler, beklenmedik durum geçişleri. Yapımcılar ideal koşullarda test ediyor, ancak üretim gerçekliği, dayanıklı gözlemlenebilirlik, kumanda ve kurtarma stratejileri gerektirir.

Yol haritanız, snapshot forking, otomatik geçiş ve daha derin hesaplama optimizasyonu gibi özellikler içeriyor. Ajan-önceliği sistemler için hangisini en dönüştürücü olarak görüyorsunuz?

Snapshot forking, açık ara. Hata ayıklama, deneysel çalışma ve paralel akıl yürütme kalıplarını kilitlemektedir – bunlar geleneksel bulut ortamlarında mümkün değildir. Bir ajanın bir karar noktasına ulaştığını hayal edin – kumandasını birden fazla dalga halinde çatallandırır ve sonra en iyi yolu seçer. Bu tür dallanma mantığı, ajan iş akışlarına doğaldır, ancak geleneksel bulut çalışma zamanlarına tamamen yabancıdır. Bu, otonomi ve kontrol akışını düşünme şeklimizi temel olarak değiştirir.

Gartner, 2028 yılına kadar %75’inin AI ajanlarını kullanacağını öngörüyor – AI ajanları endüstriler genelinde yaygın hale geldikçe Blaxel’in nasıl evrilmesini bekliyorsunuz?

Ajanlar ana akıma ulaştıkça, Blaxel’in “AI ajanları için altyapı” olmaktan “ajanların güvendiği işletim katmanına” evrilmesini bekliyorum – yaşam döngüsünü, koordinasyonu ve hatta pazar yeri etkileşimlerini işleyecek. Sadece Blaxel’de ajanları dağıtmakla kalmayacaksınız, onları oluşturacak, izleyecek ve diğer ajanları yöneten ajanları oluşturacaksınız. Finans, güvenlik ve kurumsal otomasyon gibi kullanım örneklerinin ortaya çıktığını zaten görüyoruz ve bu yönde ilerlediğini gösteriyor.

Ajanların yalnızca uygulamaları çalıştırması değil, aynı zamanda altyapıyı otonom olarak yönetip yeniden yapılandırması bir gelecek mi görüyorsunuz? Bu değişimin kültürel ve güvenlik açısından etkileri nelerdir?

Evet, ve hem heyecan verici hem de ürkütücü. Teknik olarak mantıklı – ajanlar sistem sağlığını izleyebilir, yamalar uygulayabilir, yükü optimize edebilir. Ancak kültürel olarak, operasyonlarda kontrol ve güven nasıl düşündüğümüzü sorgulatıyor. Güvenlik açısından, izin modellerini yeniden düşünmek anlamına geliyor: yalnızca kimin hareket edebileceği değil, ajanın neye dönüşmesine izin verileceği. Doğrulanabilir otonomi ve kısıtlanmış özelleştirme için yeni soyutlamalara ihtiyacımız olacak.

Ajan-yerli altyapının benzersiz olduğu konusunda en büyük yanlış anlama nedir?

Bunun sadece daha fazla GPU veya daha uzun çalışma süreleri ile ilgili olduğu düşüncesidir. Ajan-yerli altyapı, davranışsal kolaylıklar hakkında – ajanlara hatırlama, keşfetme, adapte olma ve kurtarma yetenekleri verme hakkında. Bu, yığın boyunca değişiklikler gerektirir: durumun gelişimini izleyen depolama, eşzamanlılık ve dallanmayı destekleyen yürütme modelleri, akıl yürütme için değil, yalnızca gecikme için ayarlanmış gözlemlenebilirlik. Bu, bir zihniyet değişimidir, yalnızca bir kaynak artışı değil.

OVHcloud’daki zamanınızdan en çok hangi teknik pişmanlığınız veya kısıtlamanız var ve Blaxel’de bunu en çok düzeltmekten memnun musunuz?

OVHcloud’da, inşa ettiğimiz birçok şey, insan tarafından yönlendirilen iş yükleri için optimize edilmiş VM’ler, konteynırlar, ağlar gibi miras soyutlamalarıyla sınırlıydı. Bu paradigmalardan kolayca kurtulamadık. Blaxel’de ise temiz bir şekilde başlıyoruz. Ajanın bir toplu iş veya microservice gibi davranmasına gerek yok. Çalışma zamanına doğrudan bellek, araçlar ve hedefler gibi ilkelere inşa edebiliriz – ve bu, tamamen yeni bir tasarım alanı açar.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Blaxel‘i ziyaret edebilir.