Quali CEO’sü Lior Koriat ile Röportaj Serisi

Lior Koriat, Quali CEO’su, neredeyse iki thập kỷdır Quali’de görev yapmakta olan deneyimli bir teknoloji yöneticisi ve girişimcidir. Şirketin erken mühendislik ve operasyonel temellerinden küresel bir Environment as a Service çözümü sağlayıcısına dönüşmesine yardımcı olmuştur. 2011 yılında CEO ve Yönetim Kurulu Üyesi olduktan sonra, Quali’nin ABD, Avrupa, Asya ve İsrail’de genişlemesini sağlamış, daha önce VP R&D, COO ve CEO olarak görev yaparak mühendislik, satış, müşteri desteği, hukuk, iş geliştirme ve uluslararası operasyonları kurmuştur. Ayrıca, savunma ve sivil müşterilere hizmet veren bir sistem ve mekanik mühendislik şirketi olan Intellitech Engineering’i kurmuş ve yönetmiştir. Ayrıca Google Launchpad Accelerator ve UC Berkeley’nin Sutardja Center for Entrepreneurship & Technology’de mentorluk rolleri üstlenmiştir.

Quali, organizasyonların geliştirme ekiplerini yavaşlatmadan yönetilen, self-service bulut ortamları sunmak için tasarlanmış altyapı otomasyonu ve platform mühendisliği yazılımları geliştirir. Torque platformu, platform ekipleri için bir katalog tabanlı self-service katmanı sağlar, onaylı mavi baskı, rol tabanlı erişim denetimi, yaşam döngüsü yönetimi, maliyet atfedilmesi, politika uygulanması ve ortamlar boyunca gerçek zamanlı görünürlük sağlar. Quali, Torque’u, çok bulutlu ve hibrit bulut kurulumlarındaki altyapı teslimatını standardize etmek için bir yol olarak konumlandırır, yazılım geliştirme, test, demo, eğitim, kanıt kavramı dağıtımları, MLOps, ajans AI, CI/CD pipeline otomasyonu ve GPU-as-a-Service dahil olmak üzere kullanım durumlarını destekler. Daha geniş ürün portföyü ayrıca, altyapıyı karmaşık ortamların yeniden kullanılabilir düşük kodlu veya kod içermeyen yapı taşlarına dönüştüren CloudShell’i içerir.

Siz, Quali’yi yönetmeden önce birden fazla teknoloji şirketini kurmuş ve ölçeklendirmişsiniz ve kariyeriniz askeri sistemler, robotik, altyapı mühendisliği ve bulut otomasyonu içermektedir. Bu deneyimler, AI altyapısı platformları oluştururken vizyonunuzu nasıl etkiledi ve bu alanda neden şimdi odaklanmanız gerektiğini düşündüğünüzü anlatır mısınız?

Kariyerim, güvenilir bir şekilde çalışması gereken karmaşık sistemler etrafında odaklanmıştır. Robotik ve havacılıkta, savunma uygulamaları için otomasyon ve simülasyon sistemleri geliştirdim, burada tekrarlanabilirlik ve yönetim operasyonel gereksinimlerdi. Bu ortamlar, birden fazla sistem ve işlemin birlikte çalışması gereken en zor sorunların ortaya çıktığını öğretti.

Bu bakış açısı, Quali’ye taşındı. Son on yılda, kurumsal altyapı, farklı katmanlar arasında dağıtılmıştır. Her yeni katman, belirli bir teknik sorunu çözdü, ancak aynı zamanda başka bir yönetim arayüzü, başka bir operasyonel iş akışı ve başka bir karmaşıklık kaynağı tanıttı. Kuruluşlar, altyapı oluşturmada çok iyi hale geldiler, ancak var olan altyapıyı yönetmede çok daha az etkili oldular.

AI, bu dengesizliği hızlandırdı ve operasyonel zorluklar, bir AI girişiminin üretim aşamasına ulaşıp ulaşmayacağına artık daha fazla karar vermektedir. İşte bu nedenle, AI yerli altyapı yönetimi gerekli hale geldi. Zorluk, heterojen ortamlarda sürekli olarak AI altyapısını çalıştırırken, yönetim, güvenlik ve maliyet disiplinini korurken, kullanımını optimize etmektir.

Sovereign AI, hükümetler ve kuruluşlar için hızla bir öncelik haline geldi. Most organizations, egemenlik hakkında neyi yanlış anlar ve neden altyapı yönetimi, model sahipliği kadar önemli hale geliyor?

Çoğu Egemen AI tartışması, veri ikametgahı ve altyapı sahipliği üzerinde odaklanır. Bunlar gerekli bileşenlerdir, ancak operasyonel gerçekliğin sadece bir kısmını ele alırlar.

Organizasyonlar, otonom ajanları dağıtmaya başladığında, birincil soru, altyapının nerede bulunduğundan, AI sistemlerinin bu altyapı içinde nasıl çalıştığına geçer. Modern ajanlar kaynaklar sağlar, bilgi alır, iş akışlarını başlatır ve üretim sistemleriyle etkileşime girer. Her bir eylem, politika uygulanmasını gerektirir.

Bu, egemenliğin nasıl değerlendirilmesi gerektiğini değiştirir. Altyapıyı sahip olmak, AI sistemlerinin deterministik bir yönetim olmadan eylemleri gerçekleştirebileceği anlamına gelmez. Kuruluşlar, bir eylemi kimin başlattığını, hangi politikaların yönettiğini, hangi kaynaklara erişildiğini ve bu kararların nasıl denetleneceğini göstermelidir. Zorluk, heterojen ortamlarda sürekli olarak AI altyapısını çalıştırırken, yönetim, güvenlik ve maliyet disiplinini korurken, kullanımını optimize etmektir.

Altyapı yönetimi, AI’yi sorumlu bir şekilde ölçeklendirme olanakları sağlayan operasyonel çerçevenin sağladığı için, model geliştirme kadar stratejik olarak önemli hale geleceğini bekliyorum. Kuruluşlar, birden fazla model, birden fazla bulut ve giderek daha otonom iş akışları benimsemeye başladığında, yönetim, bu ortamların güvenli ve hesap verebilir olmasını sağlayan katman haline gelir.

Otonom sistemlere kritik altyapıyı güvenle emanet edebilmeleri için hangi önlemler alınmalıdır ve hangi teknik ve organizasyonel engeller masih duruyor?

Çok sayıda kuruluş zaten üretim ortamlarında AI ajanlarını dağıtmaktadır. Soru, bu ajanların明确 olarak tanımlanmış sınırlar içinde nasıl çalıştığıdır.

İlk gereksinim, yürütme katmanında deterministik politika uygulanmasıdır. Ajanlar, önceden tanımlanmış altyapı politikalarına uygun eylemler gerçekleştirebilmelidir. Bu politikalar, modelin bir eylemin uygun olup olmadığını karar vermesine dayanmamalıdır. Modelin kendisinden bağımsız olarak uygulanmalıdır.

Erişim denetimi de eşit derecede önemlidir. Kalıcı izinler gereksiz operasyonel risk oluşturur. Erişim, gerçekleştirilen görev için sağlanmalıdır, yalnızca gerekli kaynaklarla sınırlı olmalıdır ve iş tamamlandığında otomatik olarak geri çekilmelidir. Bu model, organizasyonların otomasyonu genişletmelerine olanak tanır, ancak saldırı yüzeyini genişletmez.

Her eylem ayrıca eksiksiz bir denetim izi gerektirir. AI sistemleri daha otonom hale geldikçe, kuruluşlar hangi ajanın bir eylemi gerçekleştirdiğini, ne zaman gerçekleştiğini, hangi politikanın yetkilendirdiğini ve hangi değişikliklerin yapıldığını anlamalıdır. Bu düzeyde izlenebilirlik, operasyonel sorun giderme yanı sıra düzenleyici uyumluluğu destekler.

İnanıyorum ki, otonom altyapı, yönetilen ortamlarda çalışmalıdır, kısıtlamasız altyapı boyunca değil. İyi tanımlanmış ortamlar, açık kaynak sınırları, yaşam döngüsü kontrolleri ve operasyonel politikalar sağlar ve bir ajan iş yüklerini çalıştırmaya başlamadan önce bunları sağlar. Bu, organizasyonların otomasyonu artırmasına olanak tanır, ancak AI dağıtımları ölçeklenirken öngörülebilir operasyonel davranışını korur.

Siz often, geleneksel otomasyondan akıllı kontrol düzlemindeki değişime değiniyorsunuz. Altyapı, statik kurallar ve iş akışları yerine niyet etrafında çalışmaya başladığında ne temelde değişir?

Geleneksel otomasyon, önceden tanımlanmış adımları gerçekleştirir. Bu, altyapının öngörülebilir, iş yüklerinin istikrarlı ve değişikliklerin insan tarafından yönetilen iş akışları aracılığıyla gerçekleştiği zaman işe yarar. AI altyapısı böyle çalışmaz.

AI iş yükleri dinamiktir. GPU talebi hızla değişir, ortamlar sık sık oluşturulur ve yok edilir ve ajanlar belirli görevler için kaynaklara erişimi gerektirebilir. Akıllı bir kontrol düzlemi, bir ortamın amacını, sahibini, maliyetini, uygulanması gereken politikaları ve canlı durumun amaçlanan durumla eşleşip eşleşmediğini anlar.

Bu bağlam, altyapı yönetimini değiştirir. Sistem, sapmayı tespit edebilir, iyileştirme önerisinde bulunabilir, politika uygulayabilir ve yaşam döngüsü kararlarını statik bir komut dosyasına karşı değil, amaçlanan sonuçlara karşı alabilir.

GPU altyapısı, AI dağıtımı için en büyük tıkanıklıklardan biri haline geldi. Endüstri, GPU kullanımını yanlış mı ele alıyor ve verimliliği dramatic bir şekilde artırabilecek operasyonel değişiklikler nelerdir?

Endüstri, GPU sorununu genellikle bir satın alma sorunu olarak ele alır. Çoğu kuruluşta daha acil sorun, kullanım verimliliğidür.

GPU kümelerinin, zirve talebi için önceden tahsis edildiğini, iş yükleri çalıştırılmadığında boşta kaldığını veya işin bitiminden sonra ortamlara bağlı kaldığını görüyoruz. Bu, iş değerine karşılık gelmeyen yüksek maliyetler yaratır.

GPU verimliliğini iyileştirmek, yaşam döngüsü kontrolü ile başlar. Ortamlar talep üzerine sağlanır, iş yüküne uygun olmalıdır, bir ekibe veya projeye atfedilmeli ve görev tamamlandığında otomatik olarak yok edilmelidir. Kuruluşlar ayrıca, kullanım ve iş yükü başına maliyet hakkında görünürlüğe ihtiyaç duyarlar.

Donanım eklenmesi hala gerekli olabilir, ancak yönetilmeyen GPU kapasitesi, yalnızca maliyet sorununu genişletir.

Çok sayıda kuruluş, artık kamu bulutu, özel bulut, şirket içi ortamlar ve kenar altyapısı üzerinde çalışıyor. AI hibrit ortamlarının gelecek beş yıl içinde nasıl evrileceğini öngörüyorsunuz ve teknoloji liderlerinin şimdiye kadar radar altında kalan hangi altyapı trendlerine dikkat etmesi gerekiyor?

AI hibrit ortamları, varsayılan kuruluş modeli haline gelecektir. Kuruluşlar, esneklik için kamu bulutunu, kontrol ve maliyet yönetimi için şirket içi altyapıyı ve operasyonel gereksinimlerin talep ettiği yerlerde kenar ortamlarını kullanacaktır.

Çözülmemiş zorluk, tutarlılıktır. Çoğu kuruluş zaten çoklu satıcılar, bulutlar, otomasyon araçları ve altyapı türleri üzerinde çalışmaktadır. AI, GPU kümeleri, model sunma ortamları, fine-tuning pipelinesı ve ajans iş yüklerini bu karışıma ekler.

Gelecek beş yıl içinde, önde gelen organizasyonlar, bu ortamlar boyunca tutarlı bir operasyonel standart oluşturacaklardır. Tutarlı sağlama, politika uygulanması, maliyet atfedilmesi, denetlenebilirlik ve yaşam döngüsü yönetimi gerekecektir, iş yükü nerede çalışırsa çalışsın.

DevOps, son on yılda yazılım teslimatını dönüştürdü. AI altyapısı için tamamen yeni bir operasyonel modele ihtiyaç duyulduğunu düşünüyor musunuz, yoksa bu, DevOps ve platform mühendisliğinin doğal evrimi mi?

AI altyapısı, DevOps’i genişletir, ancak geleneksel DevOps uygulamalarının ele almadığı gereksinimleri de tanır.

DevOps, yazılım teslimatını standardize edilmiş boru hatları, otomatikleştirilmiş tekrar eden iş ve takımların ihtiyaç duyduğu kaynaklara daha hızlı erişim sağlayarak iyileştirdi. AI altyapısı, aynı disiplini gerektirir, ancak iş yükleri daha kaynak yoğundur, daha az öngörülebilir ve özel altyapıya daha bağımlıdır.

Platform mühendisliği, bu ortamda merkezi hale gelir. Takımlar, bilet tabanlı sağlama veya manuel yapılandırmalar yerine, yönetilen self-service erişimi validated ortamlara ihtiyaç duyar. İş modeli, hala hızı ve otomasyonu değerlendirse de, aynı zamanda daha güçlü bir yönetimi, maliyet kontrolünü ve altyapı bağlamını gerektirir.

Kontaksız operasyonlar, altyapı yönetiminde uzun süredir bir hedef olmuştur. Gerçekten otonom altyapıya ne kadar yakınız ve masih duran en büyük teknik ve organizasyonel engeller nelerdir?

Gerçekten otonom altyapıya çok yakınız, ancak sınırlayıcı faktör, otomasyon değil, yönetimidir. AI ajanları, ortamları sağlayabilir, iş yüklerini dağıtabilir, anormallikleri araştırabilir ve düzeltme önerisinde bulunabilir. Zorluk, bu eylemlerin açıkça tanımlanmış politika sınırları içinde gerçekleşmesini sağlamaktır.

Organizasyonlar, otonom sistemlerin ne yaptığını, neden yaptığını ve hangi politika altında hareket ettiğini açıklama yeteneğine sahip olmalıdır. Bu düzeyde izlenebilirlik, birçok kuruluş ortamında henüz eksikdir. Otonom altyapı, yönetişim, denetlenebilirlik ve politika uygulanmasının operasyonel katmana entegre edildiği zaman yaygın hale gelecektir.

AI iş yükleri daha dinamik ve kaynak yoğunluğunda hale geldikçe, maliyet aşımı, önemli bir endişe haline geliyor. Kuruluşlar, AI altyapısını ölçeklendirirken en yaygın hatalar nelerdir ve bunları nasıl önleyebilirler?

Çok sayıda organizasyon, mevcut altyapıyı nasıl etkili bir şekilde kullandıklarını anlamadan önce daha fazla hesaplama gücünü edinmeye odaklanıyor.

Projelerin bitiminden sonra masih aktif kalan ortamları, hiç çalışmayan iş yükleri için ayrılmış GPU kaynaklarını ve altyapı maliyetlerine ilişkin az görünürlüğü görüyoruz. AI iş yükleri, talebin hızla değişmesi ve GPU altyapısının pahalı olması nedeniyle bu verimsizlikleri artırır.

Çözüm, yönetişimle başlar. Her ortam, sağlandığı anda tanımlanmış bir sahibi, iş amacı, yaşam döngüsü ve maliyet profiline sahip olmalıdır. Kuruluşlar, politika tarafından yönetilen sağlama ile otomatik olarak yok etme ve sürekli kullanım görünürlüğü arasında altyapı harcamalarını daha kolay öngörülebilir ve haklı çıkarılabilir hale getirebilir.

İleriye bakıldığında, AI’yi büyük ölçekte başarıyla operasyonel hale getiren organizasyonları, mücadele edenlerden ayıran nedir ve teknoloji liderlerinin şimdiye kadar radar altında kalan hangi altyapı trendlerine dikkat etmesi gerekiyor?

Başarılı olacak organizasyonlar, AI altyapısını, bir teknoloji koleksiyonu değil, bir operasyonel yetenek olarak ele alacaktır. Modeller gelişmeye devam edecek ve donanım daha da güçlü hale gelecektir. Bu ortamları tutarlı bir şekilde birden fazla takım ve platform boyunca çalıştırmak, daha zor bir zorluk olacaktır.

Dikkate alınması gereken bir trend, altyapı zekasına doğru kayıştır. Altyapı platformları, yönettiği ortamların bağlamını anlamaya başlıyor, hangi ortamın kimin tarafından sahip olduğunu, hangi iş yükünü desteklediğini, ne kadar maliyeti olduğunu, hangi politikaya uyduğunu ve ne zaman optimize edilmesi veya emekliye ayrılması gerektiğini anlıyor. Bu operasyonel bağlam, AI ajanları ve heterojen altyapının daha da fazla dağıtılmasıyla birlikte giderek daha değerli hale gelecektir.

İnanıyorum ki, yönetişim, rekabet avantajı haline gelecektir. Altyapıyı hızla sağlarken, görünürlüğü, politika uygulanmasını, maliyet kontrolünü ve denetlenebilirliği koruyabilen organizasyonlar, AI projelerini pilot aşamasından üretime daha hızlı taşıyacaktır.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Quali‘yi ziyaret edebilir.