Düşünce Liderleri

AI Yatırımınızı Koruma: Neden Soğutma Stratejisi Her Zamankinden Daha Önemli

mm
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin

Veri merkezi operatörleri, eski soğutma teknolojilerine milyonlarca dolar yatırım yapıyor. Veri merkezi soğutması etrafındaki konuşma sadece değişmiyor, AI’nin ekonomisi tarafından tamamen yeniden tanımlanıyor. Riskler hiç bu kadar yüksek olmamıştı.

AI’nin hızlı gelişimi, veri merkezi ekonomisini kimsenin öngöremeyeceği şekilde değiştirdi. Bir AI sunucu raftının yaklaşık 3 milyon dolar maliyeti – bir lüks evin maliyetine eşit – risk hesaplamasını temel olarak değiştiriyor. Andreessen Horowitz kurucu ortağı Ben Horowitz yakın zamanda uyardığı gibi, bu büyük donanım yatırımlarını finanse eden veri merkezleri, altyapı stratejilerini dikkatli bir şekilde yönetmezlerse “çok hızlı bir şekilde tersine dönebilirler”.

Bu yeni gerçeklik, soğutma yaklaşımlarının temel olarak yeniden düşünülmesini gerektiriyor. Geleneksel metrikler gibi PUE ve işletme maliyetleri hala önemli olsa da, bu multi-milyon dolarlık donanım yatırımlarını korumaya ikincil olarak kalıyorlar. Veri merkezi operatörlerinin sorması gereken gerçek soru: AI altyapı yatırımımızı en iyi nasıl koruyabiliriz?

Geleneksel Soğutmanın Gizli Riskleri

Endüstrinin tarihi olarak tek fazlı, su tabanlı soğutma çözümlerine olan bağımlılığı, AI döneminde giderek kabul edilemez riskler taşıyor. Yıllarca veri merkezlerine iyi hizmet etmiş olsa da, AI iş yüklerinin termal talepleri bu teknolojiyi pratik sınırlarının ötesine itti. Sebep basit fizik: tek fazlı sistemler, bugünün termal yüklerini yönetmek için daha yüksek akış oranlarına ihtiyaç duyar, bu da sızıntı ve felaketsel arızalar riskini artırır.

Bu, hipotetik bir risk değil. Tek bir su sızıntısı, aniden milyonlarca dolarlık AI donanımını yok edebiliyor – bu donanım, bugünlerin arz kısıtlı pazarında genellikle aylarca süren teslim sürelerine sahip. Tek bir felaketçi arızanın maliyeti, bir veri merkezinin soğutma altyapısı bütçesinin tüm bir yılını aşabilir. Buna rağmen, birçok operatör hala bu sistemlere güvenmeye devam ediyor, efektif olarak AI yatırımını eski teknolojiye bahis ediyor.
Data Center World 2024’te, NVIDIA’ın Veri Merkezi Mekanik Mühendisliği Müdürü Dr. Mohammad Tradat, sorduğu soru, “Tek fazlı soğutma ne kadar sürecek? Çok yakında aşamalı olarak kaldırılacak… ve o zaman ihtiyaç, iki fazlı, soğutucu tabanlı soğutmaya olacaktır.” Bu, sadece büyüyen bir görüş değil, fizik ve finansal gerçeklik tarafından desteklenen bir endüstri konsensüsüne dönüşüyor.

Yatırım Koruma Yaklaşımında Yeni Bir Yaklaşım

İki fazlı soğutma teknolojisi, su yerine dielektrik soğutucuları kullandığı için bu risk denklemini temel olarak değiştiriyor. İki fazlı bir soğutma sisteminin uygulanma maliyeti – genellikle bir rafta yaklaşık 200.000 dolar – 5 milyon dolarlık bir AI donanım yatırımını korumak için sigorta olarak görülmelidir. Bunu perspektife koyarsak, bu, varlığın %4’ü civarında bir prim – diğer çok milyonluk iş yatırımları için sigorta oranlarının çok altında. İş durumu, AI eğitimi kesintisi ve planlanmamış kapalı kalma sırasında boşta kalan altyapının potansiyel maliyetlerini dikkate aldığınızda daha da netleşiyor.

Veri merkezi operatörleri ve finansal paydaşlar için, iki fazlı soğutma yatırımına karar verme, risk yönetimi ve yatırım koruması açısından değerlendirilmelidir. Relevant metrikler, sadece işletme maliyetleri veya enerji verimliliği değil, aynı zamanda korunmakta olan donanımın toplam değeri, potansiyel arıza senaryolarının maliyeti, gelecek nesil donanım için gelecek kanıtlama değeri ve soğutma yatırımının risk ayarlı getirisi dahil olmalıdır.

AI, veri merkezi altyapısının yoğunluğunu ve değerini artırdıkça, endüstri soğutma stratejisi yaklaşımını evrimleştirmelidir. Soru, iki fazlı soğutmaya geçip geçmemek değil, ne zaman ve nasıl geçiş yapılacağı ve mevcut operasyonlara ve yatırımlara riski en aza indirerek.

Akıllı operatörler zaten bu değişimi yapıyorlar, diğerleri ise pahalı bir ders öğrenme riski taşıyor. Bir raftın maliyeti, birçok veri merkezinin yıllık işletme bütçesinden daha fazla olan bir dönemde, eski soğutma teknolojilerine bahis oynamak sadece riskli değil, potansiyel olarak felaketçi. Harekete geçme zamanı şimdi – bu risk gerçek olmadan önce.

Josh Claman, Accelsius'in İcra Kurulu Başkanı ve Kurucu CEO'sudur, AI veri merkezleri için iki fazlı doğrudan çip sıvı soğutma teknolojisinde küresel bir liderdir. Accelsius'i 2022 yılında kurdu ve sektörün en büyük zorluklarından birini ele aldı: AI altyapısı tarafından topluluklara yönelik devasa enerji ve su talepleri. Liderliği altında şirket, NeuCool'u geliştirdi, next-generation AI çiplerinin termal talepleri için tasarlanmış kapalı devre, susuz soğutma platformu - geleneksel hava soğutmasına kıyasla %50'ye varan enerji tasarrufu sağlarken, tesislerin yerel su kaynaklarına bağımlılığını ortadan kaldırıyor.

Claman, role 30 yılı aşkın küresel teknoloji liderliği deneyimini getiriyor. Daha önce Dell Technologies'de Amerika için Kamu ve Büyük Kuruluşlar Başkan Yardımcısı olarak görev yaptı, Kuzey ve Güney Amerika'da çok milyarlık dolarlık iş birimlerini denetledi ve Dell UK'nin Genel Müdürü olarak görev yaptı - beş kıtada ve AT&T ve NCR'de dahil olmak üzere üst düzey rollerde geçen bir kariyerin parçası. Daha sonra ReachLocal'in Başkanı, 3D yazıcı öncüsü Stratasys'in İşletme Başkanı ve dijital sağlık şirketi Rimidi'nin CEO'su olarak görev yaptı.

Claman, Illinois Urbana-Champaign Üniversitesi'nden Tarih ve Hükümet alanında Yüksek Distinction ile BA ve Güney Carolina Üniversitesi'ndeki Darla Moore İşletme Okulu'ndan MBA aldı. Teknoloji, enerji ve kamu politikasının kesişiminde sık sık yazıyor ve konuşuyor ve Kuzey Amerika ve Avrupa'daki forumlarda veri merkezi sürdürülebilirliği hakkında konuştu. Endüstrinin uzun vadeli işletme izninin teknik performans kadar topluluk güvenine bağlı olduğuna inanıyor.