Backblaze’de AI Ürün Müdürü Jeronimo De Leon ile Röportaj Serisi

Jeronimo De Leon, 10 yılı aşkın bir süredir işletme ve startup ortamlarında AI odaklı inovasyonu yönlendiren deneyimli bir ürün yönetim lideridir. Şu anda Backblaze’de AI Ürün Müdürü olarak görev yapmakta ve AI/ML özelliklerinin geliştirilmesini yönlendirmekte, Backblaze’in müşterilerin MLOps mimarileri için AI veri yaşam döngüsünü nasıl geliştirdiğini odaklanmakta ve dahili operasyonları optimize etmek için AI araçları ve ajanları uygulamaktadır.

Backblaze, bireyler ve işletmeler için sınırsız, otomatik bilgisayar yedeklemeleri sunan bir bulut depolama ve yedekleme şirketidir. Ayrıca, işletme, medya ve uygulama iş yükleri için ölçeklenebilir nesne depolama çözümleri sunar. Hizmetleri, uygun fiyat, veri güvenliği, kolay kurtarma ve mevcut sistemlerle sorunsuz uyumluluk üzerine odaklanmıştır.

AI odaklı ürün yönetiminde 10 yılı aşkın bir süredir deneyime sahipsiniz – Intelas’ta LLM’ler ve Welcome.AI’da RAG ile çalışmaktan, Bloomberg’in sohbet botunu başlatmaya ve şimdi Backblaze’de AI çabalarını yönlendirmeye kadar. Bu deneyimler, AI/ML iş akışlarını ölçekleme konusunda bulut depolamanın rolüne ilişkin görüşünüzü nasıl şekillendirdi?

IBM Watson’da AI projelerine başladığımdan beri, inovasyon hızının dramatik bir şekilde hızlandığını gördüm. Araştırma aşamasından üretime geçmek yıllar alıyordu, şimdi ise aylar sürüyor. Ancak, temel altyapı sorunları aynı kaldı: veri nerede, nasıl depolanıyor ve nasıl verimli bir şekilde erişiliyor?

Önceki kısıtlamalar hesaplama ve modellerdi, ancak şimdi önceden eğitilmiş modellerden bolca var ve birçok hesaplama sağlayıcısı mevcut. Yine de, o zamanlar bir proje başlatmak için genellikle veri toplama ve işleme projesi ile başlamak zorundaydık, bu hala bugün de aynı. Organizasyonların çoğunda, farklı kaynaklardan verileri birleştirmenin aynı tıkanıklığını görüyorum. Başarılı olan organizasyonlar, veri erişilebilirliğini erken bir aşamada çözenlerdir, bu da AI olgunluğuna göre ölçeklenebilen bir temel oluşturur. Depolama mimarisi kararlarınız, model eğitimi ve inovasyona ne kadar hızlı ulaşabileceğinizi belirler.

AI yaşam döngüsünün her aşamasında – veri alımı ve işlemeden eğitim ve ince ayarlamaya, çıkarıma ve izlemeye kadar – bulut depolamanın en kritik rollerini nerede görüyorsunuz?

Bulut depolama, AI yaşam döngüsünün her aşamasında kritiktir, özellikle veri toplama, işleme, eğitim ve çıkarım aşamalarında. Başlangıçta, arşivlerin sistematik olarak birleştirilmesi, kataloglanması ve güvenliğinin sağlanması, yeni projelerin hızlanmasını ve yeni modellerin test edilmesini kolaylaştırır. Temiz, iyi işlenmiş veri, sadece daha fazla veriden daha iyi olabilir, bu nedenle depolama, kalite ve ölçek için merkezi bir role sahiptir. Backblaze’in favori sözlerinden biri, “Veri ise biriktirme değil.” Ne kadar değerli olacağını asla bilemezsiniz, bu nedenle organizasyonlar mümkün olduğunca çok veri toplamalıdır. Eğitim sırasında, ölçeklenebilir depolama, büyük veri kümelerinin aktarımını sağlar ve çıkarım sırasında, tahmin çıktılarının ve kullanıcı geri bildiriminin yakalanması, sürekli iterasyonu ermöglicht.

Organizasyonlar, AI için depolamayı ölçekleme konusunda hangi en büyük engellerle karşılaşıyor ve bu zorluklar küçük işletmeler ve büyük işletmeler arasında nasıl farklılık gösteriyor?

AI için depolamayı ölçekleme konusunda karşılaşılan en büyük engeller, maliyet, veri yönetimi ve erişilebilirliktir. Büyük miktarda veriyi depolamak sadece bir kısmını oluşturur; aynı zamanda organize edilmeli, erişilebilir ve doğru kontrollerle yönetilmelidir. Temiz, iyi yapılandırılmış veri, sadece daha fazla veriden daha değerli olabilir.

Küçük işletmeler için ilk zorluk, modelleri eğitmek ve iyileştirmek için yeterli veriyi edinmektir. Bir kez edindiklerinde, maliyet ve mimari bir sonraki engeller haline gelir.

Büyük işletmeler için zorluk, karmaşıklıktır. Verileri boldur, ancak silolar, eski sistemler ve uyumluluk rejimleri arasında parçalanmış durumdadır, bu da birleştirmeyi ve erişimi zorlaştırır.

Başarılı olan organizasyonlar, depolamayı AI olgunluğuyla birlikte ölçeklenebilen, maliyet, performans ve erişilebilirlik açısından stratejik bir olanak olarak ele alır.

Maliyet, gecikme, güvenlik ve uyumluluk arasında, AI’yi ölçekleme konusunda hangi engelin en kritik olduğunu görüyorsunuz ve organizasyonların bunu nasıl önceliklendirmeleri gerekir?

Maliyet, gecikme, güvenlik ve uyumluluk arasında, gecikme en kritik engellerden biridir. Hem model eğitimi hem de çıkarımı doğrudan etkiler ve özellikle çıkarım, kullanıcı deneyimi şekillendirir. Organizasyonlar, bu aşamada gecikmeyi azaltmak için mümkün olan her şeyi yapar, çünkü tahminlerin sunulmasındaki gecikmeler, benimsenmeyi zayıflatabilir.

Maliyet, veri hacminin büyümesi nedeniyle sürekli bir zorluk oluşturur ve uyumluluk, özellikle düzenlenmiş endüstrilerde, ölçeklemeyle birlikte daha kritik hale gelir. Küçük işletmeler genellikle önce maliyet ve gecikme üzerinde odaklanırken, büyük işletmeler gecikme ile yönetim ve düzenleyici talepleri arasında denge kurmak zorundadır. Öncelik, eğitim ve çıkarım için gecikmeyi en aza indirgeyen, aynı zamanda maliyet etkinliği ve uyumluluğu sağlayan depolama oluşturmak olmalıdır.

İşletmeler, AI inovasyonunu sürdürebilmek için esneklik ve veri erişimi ihtiyacını vurgulamaktadır. Veri erişimi esnekliğinin gerçek anlamı nedir ve neden bu kadar önemlidir?

Veri erişimi esnekliği, merkezi, yapılandırılmış ve aranabilir bir arşiv oluşturmakla başlar. Bu, çeşitli formatları birleştirmek, tutarlılık için normalleştirmek ve etiketlemek ve gelecekteki sorgular için dizin oluşturmak anlamına gelir. Bu yaklaşım, verilerin sadece depolanmadığını, aynı zamanda kullanılabilir hale getirildiğini garantiler.

Bu, analitik ve modelleme için temel oluşturması nedeniyle önemlidir. Veriler yapılandırılmış ve aranabilir olduğunda, ekipler daha hızlı hareket edebilir, daha özgürce deney yapabilir ve eğitim ve çıkarımda gecikmeleri azaltabilir. Bu tür esneklik olmadan, depolama nhanh AI inovasyonunu engellemek yerine bir hızlandırıcı haline gelir.

Decart AI veya Wynd Labs gibi müşterilerle gerçek dünya örneklerini paylaşabilir misiniz – doğru bulut depolama yaklaşımının AI inovasyonunu doğrudan nasıl sağlayabileceğini gösteren örnekler?

Bunlar, doğru bulut depolama yaklaşımının AI inovasyonunu doğrudan nasıl sağlayabileceğini gösteren iki harika örnektir. Decart, model eğitimi üzerinde odaklandı, burada verilerin hesaplama birimlerine verimli bir şekilde taşınması kritikti. Backblaze B2 ile 90 günde 16 PB’ye ölçeklendiler, birden fazla GPU kümesinde egress maliyeti olmadan eğitim yaptılar ve rakiplerine göre 10 kat daha verimli oldular. Bu güvenilirlik ve verimlilik, daha hızlı inovasyon yapmalarını sağladı.

Wynd Labs, müşteri erişimi için veri üzerinde odaklandı. Günlük olarak petabaytlarca veri işliyorlar ve aylık olarak onlarca petabayt veri sunuyorlar. Backblaze’in yüksek performansı ve ücretsiz egress ile, işletme taleplerine ölçeklenebilir ve kaynaklarını ürün geliştirmeye yeniden yatırabilirler. Bu, platformları için yeni fırsatlar sunan bir veri erişimi sağladı.

Her iki durumda da, doğru depolama stratejisi, altyapıyı bir kısıtlamadan bir olanak haline getirdi ve şirketlerin AI’de inovasyon yapmaya odaklanmalarını sağladı.

AI modelleri ve veri kümeleri daha da karmaşık hale geldikçe, depolama performansını maliyet etkinliğiyle dengelemeye çalışan organizasyonlara hangi rehberliği verirsiniz?

Organizasyonlar, ürünlerini göz önünde bulundurarak uzun vadeli veri kullanımını düşünmelidir. Veri toplama, işleme, taşıma ve çıkarım, ürünlerinin evrimi için Temel olacaktır. Bunu şimdi hesaba katmazlarsa, maliyetler ve depolama zorlukları zamanla artacaktır. AI, ürünlerinin ve organizasyonlarının merkezi bir parçası olacağından, depolama, performans ve maliyet etkinliği arasında denge sağlayarak ölçeklenebilir bir şekilde büyümelerini sağlayacak şekilde tasarlanmalıdır.

Güvenlik ve uyumluluk, özellikle düzenlenmiş endüstrilerde daha da kritik hale geliyor. Bulut depolamasının, yönetim ihtiyaçlarını desteklerken aynı zamanda ekiplerin hızlı bir şekilde inovasyon yapmasına nasıl evrileceğini görüyorsunuz?

Güvenlik ve uyumluluk, depolamanın temel bir parçasıdır. Erişimi, veri yönetimi, güvenliği ve denetimi için güçlü temel oluşturmak kritiktir. Bulut depolamasının, varsayılan olarak şifreleme, ince ayarlanmış izinler, denetim izleri ve veri ikamet seçenekleri gibi daha güçlü yerleşik kontrollerle gelişmesini bekliyorum. Aynı zamanda, veri kökeni de önemlidir. AI’de, verinin nereden geldiğini, nasıl işlendiğini ve modellere nasıl beslendiğini bilmek, hem uyumluluk hem de güven için Temel’dir.

Aynı zamanda, depolama platformları, ekiplerin hızlı bir şekilde hareket etmesini sağlayarak kullanılabilirliği geliştiriyor. Yönetim, köken ve erişilebilirlik birlikte çalıştığında, organizasyonlar düzenleyici gereksinimleri karşılayabilir ve aynı zamanda AI ile hızlı bir şekilde inovasyon yapabilir.

B2’ye geçiş yapan veya değerlendiren organizasyonlar için, özellikle veri göçü, mevcut MLOps veya hesaplama yığınlarıyla entegrasyon ve veri aktarımını optimize etme açısından hangi tavsiyelerde bulunursunuz?

Backblaze B2, S3 uyumlu olduğundan, mevcut MLOps ve hesaplama yığınlarına doğrudan entegre olur ve yeniden mimari gerektirmez. Müşterilerle birlikte, ölçeklendirme ve entegrasyon öncesi performans ve entegrasyonu doğrulamak için bir kanıt konsepti üzerinde çalışıyoruz. Bundan sonra, odak, veri aktarımını, hareketini ve orkestrasyonunu optimize etmek üzerinedir, böylece ekipler, kümeler arasında eğitim yapabilir, çıkarım çalıştırabilir ve altyapı engelleri olmadan hızlı bir şekilde iterasyon yapabilir.

AI iş yükleri, özellikle LLM’ler, exabyte ölçekli veri kümeleri ve hibrit veya çoklu bulut stratejileri etrafındaki trendlerle birlikte ölçeklenmeye devam ederken, Backblaze’in depolama tekliflerini bu ortaya çıkan ihtiyaçları karşılamak için nasıl geliştirdiğini görüyorsunuz?

Backblaze’de, sadece bugünkü veri kullanımını değil, gelecekte nasıl orkestrasyon yapılacağını da düşünüyoruz. Depolama, sadece bir arşiv değil, aynı zamanda hızlı erişimi, verimli hareketi ve veri hareketinin çeşitli ortamlarda güvenilir orkestrasyonunu sağlayan bir araç haline geliyor. LLM’ler ve exabyte ölçekli veri kümeleriyle, bu temel, hızlı erişimi, yüksek aktarım hızını ve AI ajanlarının veri kullanarak otomatik süreçleri oluşturmasına olanak tanıyan bir temel oluşturacaktır. Sonuç, bugün inovasyonu sağlayan ve organizasyonları gelecekteki gelişmelere hazırlayan bir depolama temeli olacaktır.

Harika bir röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Backblaze ziyaret edebilir.