Denise Muyco, RAVEL’in Kurucu Ortağı ve CEO’su – Röportaj Dizisi

Denise Muyco, karmaşık hesaplama ve yapay zekâ altyapıları için orkestrasyon yazılımlarının geliştirilmesine liderlik ettiği RAVEL’in Kurucu Ortağı ve CEO’sudur. Eğitimli bir mühendis olan Muyco’nun kariyeri; enerji altyapısı, süreç optimizasyonu, dijital medya, veri merkezleri ve sanal stüdyoları kapsıyor. Yapay zekâya odaklanmadan önce, Vancouver’daki görsel efekt topluluğu için paylaşımlı yüksek başarımlı hesaplama altyapısının geliştirilmesine katkıda bulunarak yaklaşık 30 stüdyoya hesaplama kaynaklarına ve güvenli bağlantıya erişim olanağı sağladı. Bu deneyim, pahalı ve kısıtlı kaynakların koordinasyonuna yaklaşımını şekillendirdi. RAVEL’de sistem mühendisliği perspektifini iş yüklerinin yerleştirilmesine, altyapı kullanımına, birlikte çalışabilirliğe ve dağıtık ve egemen yapay zekâ ortamlarının giderek artan gereksinimlerine uyguluyor.

RAVEL, kuruluşların bulut, şirket içi ve hibrit altyapılardaki hesaplama ve yapay zekâ iş yüklerini devreye almasına, yönetmesine ve ölçeklendirmesine yardımcı olan yazılımlar geliştiriyor. Ürünleri arasında yüksek başarımlı sanal iş istasyonları için RAVEL Orchestrate, iş yüklerinin otomasyonu ve optimizasyonu için RAVEL Orchestrate AI ve yazılım lisanslama ile telemetri için Boost bulunuyor. Şirketin araçları, merkezi denetim ve operasyonel görünürlük sağlarken altyapıyı, uygulamaları, sanallaştırmayı ve güvenliği birbirine bağlıyor. RAVEL; veri merkezlerine, hizmet sağlayıcılara, kurumsal BT ekiplerine, yapay zekâ araştırma gruplarına ve yaratıcı stüdyolara hizmet veriyor. Dijital içerik üretimindeki köklerinden güç alan şirket, karmaşık ortamları basitleştirmeye ve ekiplerin mevcut altyapılarından daha verimli yararlanmasına yardımcı olmaya odaklanıyor.

Mühendislik, medya altyapısı ve dağıtık bilgi işlemin kesişiminde yıllarca çalıştıktan sonra RAVEL’i kurdunuz. Şirketi kurmanıza nihayetinde ne yol açtı ve üretken yapay zekânın işlem gücüne olan talebi önemli ölçüde artırmasıyla RAVEL’in misyonu nasıl evrildi?

Eğitimim mühendislik üzerine ve günümüzdeki yapay zekâ patlamasından çok önce enerji, hesaplama ve altyapının kesişiminde çalışıyordum. Kariyerimin başlarında bir nükleer santralde staj yaptım; sonrasında medya ve görsel efekt alanındaki çalışmalarım sayesinde GPU’larla, yüksek hesaplama gereksinimleriyle ve fiziksel altyapının kısıtlarıyla tanıştım.

Yaklaşık 16 yıl önce Vancouver’da büyüyen görsel efekt sektörü bu kısıtlarla doğrudan karşı karşıya kalıyordu. Stüdyoların, yüksek bütçeli projeler için giderek daha karmaşık hâle gelen film ve televizyon içeriklerini işlemek (ya da render etmek) üzere çok büyük miktarda yüksek başarımlı hesaplama gücüne ihtiyacı vardı; ancak çok azı, güvenli bir ortamda en yüksek talebi karşılayacak kadar özel altyapı kurmanın maliyetini karşılayabilirdi. Enerji de giderek bir kısıt hâline geliyordu. Yaklaşık 30 stüdyoya yüksek başarımlı hesaplama kaynaklarına ve güvenli, yüksek bant genişlikli bağlantıya erişim sağlayan paylaşımlı bir altyapı geliştirdik.

Altyapıyı paylaşmak bir sorunu çözerken başka bir soruna yol açtı: Pahalı ve kısıtlı kaynakları farklı kuruluşlar ve iş yükleri arasında verimli biçimde nasıl paylaştırabilirsiniz? Bu deneyim, RAVEL’in akıllı altyapı orkestrasyonu yaklaşımını geliştirmesine önayak oldu.

Yapay zekâ, çok daha yüksek karmaşıklık ve çok daha büyük miktarda sermayenin söz konusu olduğu, aynı temel sorunun çok daha büyük ölçekli bir örneği. İş yükleri ve altyapı değişti, ancak pahalı ve kısıtlı kaynakları verimli biçimde birlikte çalıştırma ihtiyacı daha da önem kazandı.

RAVEL’den önce, yüksek performanslı bilgi işlem altyapısına erişimi paylaşabilecek yaklaşık 30 Vancouver stüdyosu, çekim platosu, prodüksiyon şirketi ve görsel efekt stüdyosundan oluşan bir konsorsiyumun kurulmasına yardımcı oldunuz. Bu deneyim dağıtık bilgi işlem konusunda size ne öğretti ve o dönemde Hollywood’un görsel işleme zorluklarıyla bugün yapay zekâ sektörünün altyapı sorunları arasında ne gibi paralellikler görüyorsunuz?

Görsel efekt sektörüyle çalışmalarım, altyapıyı kurup yapılandırmanın sorunun yalnızca yarısı olduğunu öğretti. Pahalı hesaplama kaynaklarının güvenli biçimde paylaşılması ve verimli kullanılması gerekiyordu; ayrıca çok büyük dosyaları aktarabilecek güvenli bir ağ da dâhil olmak üzere daha geniş altyapının birlikte çalışması şarttı. Üretim ekipleri katı bütçeler ve teslim tarihleri içinde giderek daha iddialı sonuçlar elde etmeye çalışırken iş yüklerinin zamanlanması, kapasitenin tahsis edilmesi ve büyük miktarda verinin taşınması gerekiyordu. Altyapının kullanım ve performans açısından sürekli optimize edilmesi şarttı.

Yapay zekâ, aynı temel sorunun çok daha büyük ölçekli bir örneği. Kuruluşlar altyapıya büyük yatırımlar yapıyor, ancak yalnızca kapasite eklemek pahalı kaynakların verimli kullanılacağını garanti etmiyor. Enerji, kapasite, güvenlik, ekonomik koşullar, coğrafya, düzenlemeler ve egemenlik gereklilikleri nedeniyle yapay zekâ altyapısı da farklı konumlara, sağlayıcılara ve ortamlara giderek daha fazla dağılıyor. Render ve yapay zekâ iş yükleri birbirinden çok farklı olabilir; ancak önemli bir altyapı ve ekosistem sorununu paylaşıyorlar: Her ikisi de yüksek başarımlı hesaplama, ağ, güvenlik ve depolamanın verimli biçimde birlikte çalışmasına bağlı.

Yapay zekâ altyapısı daha karmaşık hâle geldikçe yalnızca hesaplama kapasitesini artırmak, bu kapasiteyi verimli kullanmaya yönelik operasyonel sorunu çözmüyor. İşte bu noktada, orkestrasyon ve daha geniş altyapı ekosistemini yöneten politikalar kritik önem kazanıyor. Bunlar birlikte, kuruluşların giderek daha dağıtık ortamlardaki iş yüklerini koordine ederken pahalı ve kısıtlı kaynaklardan daha iyi yararlanmasına yardımcı oluyor.

RAVEL kendisini dağıtık yapay zekâ fabrikaları için bir orkestrasyon katmanı olarak tanımlıyor. “Yapay zekâ fabrikası” sizin için ne anlama geliyor ve günümüzde altyapı yığınında bir orkestrasyon katmanını gerekli kılan eksik nedir?

Bana göre yapay zekâ fabrikası, GPU’lardan ve yüksek performanslı kümelerden ibaret değil; işlem gücünü, ağ altyapısını, depolamayı, güvenliği, enerjiyi, soğutmayı ve yapay zekâ iş yüklerini yürütmek için gereken operasyon katmanlarını bir araya getiren bütünleşik bir altyapı ekosistemidir. Yapay zekâ fabrikaları, birbirinden yalıtılmış kümeler olmaktan çıkıp birden fazla konuma ve bölgeye yayılan, birbirine bağlı kaynaklardan oluşan ekosistemlere dönüşüyor. Bu karmaşıklığı elle ya da birbirinden kopuk noktasal çözümlerle yönetmek giderek zorlaşıyor. Orkestrasyon katmanı, yığının çeşitli ve karmaşık bileşenlerini koordine ederek ve bunların altında yatan karmaşıklığın bir kısmını soyutlayarak bu sorunu ele alıyor; böylece operatörlerin altyapıyı koordineli bir sistem olarak yönetmesini kolaylaştırıyor.

Kuruluşlar mevcut veri merkezlerini yapay zekâya uyarlarken, bu tesislerin çoğu günümüzün yapay zekâ iş yüklerinin gereksinimleri göz önünde bulundurularak tasarlanmamış oluyor. Yapay zekâ alanında bugün üç temel soruna ayrılabilecek yapısal bir uyumsuzluk söz konusu. İlk sorun enerji: iş yüklerini büyük ölçekte çalıştırmaya yetecek, güvenilir enerjiye sahip bir yer bulmak. İkinci sorun ekosistemin parçalı yapısı; yapay zekâ yığınları çoğu zaman birbirinden yalıtılmış ortamlara bölünüyor ve birlikte çalışacak şekilde tasarlanmıyor. Üçüncü sorun, işletme ve sahip olma toplam maliyetinin yeterince görünür olmaması; bu durum yapay zekâ altyapısının gerçek maliyetini belirsizleştirebiliyor. Sonuç olarak iş yükleri gerektiği gibi optimize edilemeyebiliyor, donanım yeterince kullanılamayabiliyor ve beklenmedik işletme maliyetleri toplam sahip olma maliyetini artırarak nihayetinde token maliyetlerinin yükselmesine katkıda bulunabiliyor.

Yapay zekâ altyapısı hiper ölçekli bulutlara, özel veri merkezlerine, kurum içi sistemlere ve uzmanlaşmış GPU sağlayıcılarına giderek daha fazla yayılıyor. Kuruluşlar, farklı ortamlardaki yapay zekâ iş yüklerini yönetmeye çalışırken karşılaştıkları en büyük zorluklar neler?

Son birkaç yıldır yapay zekâ altyapısı yarışını basit bir varsayım belirliyordu: daha büyük altyapılar kurmak. Daha büyük veri merkezleri. Daha büyük kümeler. Daha fazla GPU. Daha fazla kapasite. Ancak daha büyük altyapılar kurma modeli, fiziksel, ekonomik ve mevzuata ilişkin kısıtlamalara giderek daha fazla takılıyor.

Enerji kısıtlı. Elektrik şebekesine erişim zaman alıyor. Ekonomik koşullar, coğrafya ve egemenlik kaygıları, altyapının nerede kurulabileceğini ve kurulması gerektiğini giderek daha fazla belirliyor. Artık asıl zorluk yalnızca daha fazla yapay zekâ altyapısı kurmak değil; tüm bu ortamları koordineli bir sistem olarak çalıştırırken doğru yerlerde doğru altyapıyı kurmak. Kapasite, birlikte çalışmak üzere tasarlanmamış olabilecek hiper ölçekli bulutlara, özel veri merkezlerine, kurum içi altyapılara ve uzmanlaşmış sağlayıcılara yayıldığında bu daha da zorlaşıyor.

Bu kısıtların en belirgini enerji. Enerjiye erişilebilirlik, yapay zekâ altyapısının ilk etapta nerede kurulacağını giderek daha fazla belirliyor.

Federasyonun kritik hâle geldiği nokta burası. Federasyon, farklı ortamlardaki altyapıları ortak bir işletim ortamında birleştiriyor. Ardından akıllı orkestrasyon; kapasite, enerji, performans, maliyet, politika, dayanıklılık ve egemenlik ölçütlerine göre iş yüklerinin nerede çalıştırılması gerektiğini belirliyor.

Yapay zekâ altyapısı konumlar veya sağlayıcılar arasında daha da yaygınlaştıkça, rekabet avantajı yalnızca daha fazla kapasiteye sahip olmaktan gelmeyecek. Bu kapasiteyi birlikte çalıştırabilmekten gelecek. Federasyon, bu yeni gerçekliğe uygun altyapı modelini oluştururken akıllı orkestrasyon da bu modeli büyük ölçekte işler hâle getiriyor.

Latin Amerika’nın en büyük yapay zekâ teknoloji parklarının ve veri merkezlerinin geliştiricisi olan müşterilerimizden RT-One, Amerika kıtası genelinde federatif altyapı planlarken bu modeli izliyor: dağıtık kapasiteyi birbirine bağlayarak nihayetinde koordineli bir ortam olarak yönetilebilmesini sağlıyor.

GPU kıtlığı büyük ilgi gördü, ancak yalnızca daha fazla hızlandırıcı eklemek, yapay zekâ için daha fazla kullanılabilir işlem gücü sağlayacağı anlamına gelmiyor. Günümüzün yapay zekâ altyapısındaki en büyük verimsizlik kaynaklarını nerede görüyorsunuz ve şirketler daha iyi orkestrasyon sayesinde ne kadar ek kapasiteyi kullanıma açabilir?

Yapay zekâ altyapısı yarışı, planlanan yeni kapasitenin kaç gigawatt olduğuna ve bunu kurmak için ne kadar sermaye taahhüt edildiğine büyük ölçüde odaklandı. Yapay zekâ altyapısı sorununu yalnızca GPU ya da kapasite eksikliği olarak görmek cazip gelebilir; ancak bu yaklaşım, verimsizliğin asıl nerede olduğunu gözden kaçırıyor. Planlanan kapasitenin kullanılabilir kapasiteyle aynı olmadığını belirtmek önemlidir.

GPU kümeleri tamamen dolu görünebilir, ancak yığının başka bir bölümünde performans darboğazları ortaya çıktığında pahalı GPU’lar yine de atıl kalabilir. Bu darboğazlar; depolama aktarım hızını, veri hatlarını, ağ tıkanıklığını, iş planlama verimsizliklerini, güvenlik gereksinimlerini ve mimari, uygulamalar, sürücüler ile bağımlılıklar arasındaki uyumsuzlukları içerebilir. GPU eklemek her zaman kullanılabilir işlem gücünü artırmaz.

Daha fazla altyapı eklemek verimliliği kendiliğinden artırmaz. Çoğu durumda maliyetleri yükseltirken daha fazla yalıtılmış yapı oluşturur.

Kuruluşların kaynak kullanımını iyileştirebilmek, altyapı kararlarını otomatikleştirebilmek ve iş yüklerini mevcut kaynaklar ile iş öncelikleriyle daha iyi eşleştirebilmek için daha fazla görünürlüğe ve kontrole ihtiyacı var. Daha fazla görünürlük ve kontrol, altyapı kaynakları toplamını daha eşgüdümlü bir çalışma ortamına dönüştürmeye yardımcı olabilir. Orkestrasyonla ne kadar kapasitenin açığa çıkarılabileceğine ilişkin kesin ya da evrensel bir sayı yoktur; her iş yükünün kendine özgü gereksinimleri vardır. Ancak bir şey açık: Atıl kalan veya yeterince kullanılmayan kapasitenin çözümü yalnızca daha fazla satın almak ya da altyapı kurmak değildir.

RAVEL, altyapı, sanallaştırma teknolojileri, kimlik sistemleri ve uygulamalar arasındaki birlikte çalışabilirliği öne çıkarıyor. Yapay zekâ iş yükleri daha karmaşık ve dağıtık hâle geldikçe birlikte çalışabilirlik neden özellikle önem kazanıyor?

Altyapı daha heterojen hâle geldikçe kuruluşların, birbirinden yalıtılmış altyapı silolarını çoğaltmadan farklı teknolojileri ve ortamları kullanabilmek için esnekliğe ihtiyacı var. Birlikte çalışabilirlik, farklı tedarikçilere ve ortamlara ait işlem, depolama, ağ ve uygulama kaynaklarının birlikte çalışmasını sağlayarak altyapı geliştikçe seçenekleri korur. Ancak kaynakların nasıl kullanılması gerektiğini tek başına birlikte çalışabilirlik belirlemez.

Orkestrasyon burada devreye girer: İş yüklerinin nerede çalışacağını, nasıl taşınacağını ve politikaların farklı ortamlarda nasıl uygulanacağını koordine eder. Yapay zekâ altyapısı giderek daha dağıtık ve federatif hâle gelirken birlikte çalışabilirlik, farklı teknolojiler arasında çalışma esnekliği sağlar; orkestrasyon ise bu kaynakları eşgüdümlü bir çalışma ortamına dönüştürür.

RAVEL Orchestrate AI; bulut, şirket içi ve hibrit ortamlardaki yapay zekâ iş yüklerini koordine ederek işlem, depolama, ağ ve diğer altyapı teknolojileri genelinde ortak bir orkestrasyon katmanı sunar.

Veri egemenliği, yapay zekâ kullanan hükümetler ve işletmeler için önemli bir husus hâline geliyor. Egemen yapay zekâ altyapısının büyümesi, kuruluşların iş yüklerinin yerleştirilmesi, verilerin taşınması, güvenlik ve orkestrasyon konularını ele alış biçimini nasıl değiştiriyor?

Egemen yapay zekâ artık stratejik bir öncelik. Bununla birlikte daha temel bir soru gündeme geliyor: Egemen olmak gerçekte ne anlama geliyor? Tartışmalar büyük ölçüde verilerin nerede tutulduğuna odaklandı, ancak bence bu tanım çok dar.

Egemen yapay zekâyı; bir ulusun, işletmenin, devlet kurumunun veya başka bir kuruluşun, bu iş yüklerini yöneten veriler, modeller, işlem altyapısı, erişim, güvenlik, operasyonlar ve yargı yetkisi dâhil olmak üzere yapay zekâ iş yükleri üzerinde politikalarla tanımlanmış kontrolü sürdürme becerisi olarak tanımlıyorum. Egemenlik, her iş yükünün mutlaka tek bir veri merkezinde ya da tek bir kuruluşun sahip olduğu altyapıda kalması gerektiği anlamına gelmez. Aksine, kuruluşun bir iş yükünün nerede çalışabileceğini, verilerinin nerede tutulabileceğini veya nereye taşınabileceğini, bu verilere kimlerin erişebileceğini, hangi altyapının iş yükünü çalıştırabileceğini ve hangi güvenlik, mevzuat, coğrafi konum, operasyonel ve ticari politikaların her koşulda korunması gerektiğini belirlemesi anlamına gelir. Bu iş yükü merkezli tanım, egemenliği yalnızca verilerin nerede tutulması olarak değil, tüm yapay zekâ ortamı üzerindeki kontrol olarak ele alma yönündeki daha geniş sektör eğilimiyle uyumludur.

Egemen yapay zekâ ile federasyonun kesiştiği noktada RAVEL’in yaklaşımı özellikle farklılaşıyor. RAVEL Orchestrate AI, egemenlik gereksinimlerini orkestrasyon ve politika katmanındaki kısıtlar olarak ele alabilir: Bir iş yükünün federasyondaki siteler, bulutlar, veri merkezleri, uç konumlar veya diğer altyapılar arasında çalışmasına izin verilebilir; ancak yalnızca iş yükünün egemenlik politikalarını karşılayan kaynaklarda. RAVEL, onaylanmış bu sınırlar dâhilinde güç, maliyet, performans, kapasite, kullanım, ağ özellikleri, konum ve öncelik gibi etkenlere göre uygun altyapıyı belirleyebilir. Federasyon egemenliği ortadan kaldırmaz; federasyon, egemenlikle belirlenen sınırlar içinde işleyebilir. Örneğin hassas bir devlet iş yükü tamamen onaylanmış ABD tesislerinde kalırken birden fazla yetkili site arasında dinamik olarak orkestre edilebilir. Böylece kuruluşlar, en hassas iş yüklerinin nerede ve nasıl çalışacağı üzerindeki kontrollerinden vazgeçmeden dağıtık yapay zekâ altyapısının kullanım verimliliği ve dayanıklılık avantajlarından yararlanabilir.

RAVEL; iş yüklerinin son derece yoğun işlem gücü gerektirebildiği medya, eğlence, oyun ve tasarım gibi sektörlerde ortaya çıktı. Üretken yapay zekânın gereksinimleri, platformu yaratıcı profesyoneller için başlangıçta çözüm geliştirdiğiniz altyapı sorunlarına kıyasla nasıl değiştirdi?

RAVEL, sanatçıların ve mühendislerin pahalı işlem, depolama ve ağ kaynakları üzerinde büyük ölçekli işleme, simülasyon ve içerik oluşturma iş yüklerini zaten yürüttüğü altyapı sorunlarını çözmek üzere ortaya çıktı. Temel mesele, kullanım verimliliğini ve performansı en üst düzeye çıkarırken heterojen altyapıya erişimi, altyapıyı paylaşmayı ve kaynakları orkestre etmeyi nasıl kolaylaştıracağımızdı.

Üretken yapay zekâ aynı sorunun ölçeğini ve karmaşıklığını önemli ölçüde artırdı. Artık ağırlıklı olarak uygulamaları ve render iş yüklerini orkestre etmek yerine; yapay zekâ modellerini, motorlarını, ajanlarını, eğitim ve çıkarım iş yüklerini, farklı GPU mimarilerini, hızla değişen yazılım yığınlarını, muazzam miktarda veri taşınmasını ve güç, maliyet, güvenlik ile kullanılabilirliğe ilişkin çok daha ciddi kısıtları hesaba katmamız gerekiyor.

Sonuç olarak RAVEL, öncelikle işlem kaynaklarını düzenleyen bir yapıdan, yapay zekâ altyapısı için akıllı bir kontrol ve optimizasyon katmanı sunan bir yapıya dönüştü. Orchestrate AI, telemetri ve politikaları kullanarak altyapının yalnızca kullanılabilir olup olmadığını değil; maliyet, hız, güç, performans, kullanım oranı, konum ve egemenlik gereksinimleri gibi etkenlere göre bir iş yükünün nerede ve nasıl çalıştırılması gerektiğini de belirliyor.

Yapay zekâ altyapısı artık birbirinden yalıtılmış veri merkezlerinin toplamı olarak ele alınamayacağından, federasyon da giderek daha önemli hâle geldi; kuruluşların yönetişim ve güvenliği korurken farklı sahalardaki kapasiteyi akıllıca kullanabilmesi gerekiyor. Üretken yapay zekâ, RAVEL’in çözmek üzere yola çıktığı temel sorunu değiştirmedi; birçok açıdan sorunu çok daha büyük ve karmaşık hâle getirerek akıllı düzenleme, optimizasyon ve federasyonun önemini artırdı.

Kariyeriniz sizi makine mühendisliği ve Starbucks’ta süreç optimizasyonundan dijital medyaya, veri merkezlerine, sanal stüdyolara ve şimdi de yapay zekâ altyapısına taşıdı. Mühendislik geçmişiniz, şirket kurma ve altyapı sorunlarını çözme yaklaşımınızı nasıl etkiledi?

Mühendislik geçmişim, şirket kurma biçimimin neredeyse her yönünü muhtemelen etkiledi. Makine mühendisliği, tek tek bileşenlere değil bir sisteme bakmayı; kısıtların nerede olduğunu, enerji ya da kaynakların nerede boşa harcandığını ve tüm sistemin nasıl daha iyi çalışabileceğini sorgulamayı öğretir. Starbucks’ta bu yaklaşımı süreç optimizasyonuna uyguladım; daha sonra dijital medya ve görsel efektler alanında sistemin kapsamına işlem gücü, depolama, ağ iletişimi, uygulamalar ve sonunda tüm veri merkezleri girdi. Teknoloji değişti ama sorunlara yaklaşım biçimim gerçekten değişmedi. Kendime sürekli şunları soruyorum: Darboğaz nerede? Hangi kaynaklar yeterince kullanılmıyor? Neleri basitleştirebiliriz? Sistemin yalnızca bir bölümünü optimize etmek yerine tamamının daha iyi çalışmasını nasıl sağlayabiliriz?

RAVEL’i kurarken de tam olarak bu yaklaşımı benimsedik. Yapay zekâ altyapısı sorununun yalnızca daha fazla GPU edinmekten ya da daha fazla veri merkezi kurmaktan ibaret olduğunu düşünmüyorum. Bu; işlem gücü, enerji, depolama, ağ iletişimi, yazılım, iş yükleri, insanlar ve giderek daha fazla coğrafya ile egemenliği kapsayan bir sistem mühendisliği sorunu. Dünyanın en hızlı GPU’suna sahip olabilirsiniz; ancak sistemin geri kalanı optimize edilmemişse, yalnızca son derece pahalı bir darboğaz yaratmış olursunuz. Bu nedenle RAVEL’deki yaklaşımımız; telemetriyi, politikaları, düzenlemeyi ve federasyonu kullanarak iş yüklerinin nasıl ve nerede çalıştırılması gerektiğini sürekli belirlemek ve böylece altyapının kendisini daha akıllı hâle getirmek. Kariyerime fiziksel sistemleri optimize ederek başladım; bugün de yapay zekâyı çalıştıran altyapıyı optimize etmek için aynı mühendislik disiplinini uyguluyoruz.

İleriye baktığımızda, modeller, ajanlar ve uygulamalar giderek daha büyük miktarlarda dağıtık işlem gücüne ihtiyaç duydukça yapay zekâ altyapısının nasıl gelişeceğini öngörüyorsunuz? Yapay zekâ fabrikalarının, tıpkı son on yılda bulut bilişimin yaptığı gibi, kurumsal altyapının standart bir katmanı hâline geleceğini düşünüyor musunuz?

Yapay zekâ fabrikalarının, bulut bilişim gibi kurumsal altyapının temel bir katmanı hâline geleceğine kesinlikle inanıyorum; ancak bunların tek bir standart veri merkezine ya da buluta benzeyeceğini düşünmüyorum. Modeller, ajanlar ve uygulamalar giderek daha fazla işlem gücü tükettikçe kuruluşlar; GPU’lar, CPU’lar, özel altyapılar, yeni nesil bulut sağlayıcıları, büyük ölçekli bulut hizmeti sağlayıcıları, uç bilişim ortamları ve özel yapay zekâ sistemlerinden oluşan farklı türlerdeki kaynakları birlikte kullanacak.

Güç kaynaklarının kullanılabilirliği, maliyet, egemenlik, performans ve konum, işlem gücünün kullanılabilirliği kadar önemli hâle gelecek. Asıl zorluk yalnızca daha fazla altyapı kurmak olmayacak; bu dağıtık altyapının tamamının tek bir akıllı sistem gibi çalışmasını sağlamak olacak. Geleceğin yapay zekâ fabrikası tek bir binadan ibaret değil; yapay zekâ iş yüklerini en uygun yerde çalıştırmak için gereken işlem gücünü, enerjiyi, veriyi ve kaynakları bir araya getiren federatif bir altyapı ortamı.

Bence bir sonraki büyük altyapı katmanı burada ortaya çıkacak. Bulut bilişim, sunucuları soyutlayarak işlem gücünden yararlanmayı kolaylaştırdı; sıradaki adım ise tüm yapay zekâ altyapısı yığınının karmaşıklığını soyutlamak. Kuruluşlar, her modelin ya da ajanın hangi GPU’da, veri merkezinde, bulutta, enerji kaynağında veya coğrafi bölgede çalıştırılacağını elle belirlemek zorunda kalmamalı. Altyapı, maliyet, hız, güç, performans, kullanılabilirlik ve egemenliği optimize etmek için telemetri ve politikaları kullanarak bu kararları giderek daha fazla kendi başına vermeli. RAVEL’de geliştirdiğimiz gelecek bu: Kurumun politika ve denetimlerini korurken iş yüklerinin federatif bir yapay zekâ altyapısında farklı kaynaklar arasında taşınmasını sağlayan akıllı bir düzenleme katmanı. Bulut, işlem gücünü talep üzerine kullanılabilir hâle getirdi. Yapay zekâ altyapısının gelecek neslinin optimizasyonu talep üzerine sunacağına inanıyorum.

Harika röportaj için teşekkürler. Dağıtık altyapılarda yapay zekâ iş yüklerini düzenleme hakkında daha fazla bilgi edinmek isteyen okurlar RAVEL sitesini ziyaret edebilir.