Bir Sonraki AI Güç Darboğazı Şehirlerin İçinde Olacak

Son birkaç yılda, ve hâlâ devam ederken, AI altyapı pazarı büyük miktarda zaman ve para harcadı (yaklaşık $7 trilyon veri merkezi yatırımı 2030 yılına kadar, McKinsey tahminine göre) yeterli güç bulunduğu her yerde büyük veri merkezleri inşa etmeyi öğrenmek için. “Her yerde” anahtar kelime çünkü konum çok önemli değildi. Bir eğitim kümesi sadece yeterli güce erişim gerektirir. Ancak konum, AI’nın kullanımının sohbet arayüzlerinin ötesine geçerek makineler, ses sistemleri, video ve fiziksel dünya ile etkileşen uygulamalara yayılmasıyla günümüzde giderek daha önemli hale geliyor. Bu tür operasyonlar, gecikmeyi azaltmak için etkileşimlerin gerçekleştiği kentsel merkezlere daha yakın bir hesaplama gücüne ihtiyaç duyar. Sohbet botları gibi araçlar yarım saniyelik gecikmeye tolerans gösterebilirken, uzaktan denetlenen teslimat robotları, canlı ses asistanları veya otomatik sipariş karşılama sistemleri milisaniyeler içinde yanıt vermek zorunda kalabilir.

Bu, AI şirketleri için yeni bir engel. Büyük metropol bölgelerinde ve çevresinde güvenilir enerjinin daha küçük bloklarını nasıl bulabiliriz? Ve konumlar belirlendikten sonra, hatta uzaktan veri merkezlerinin karşılaştığı tepkilerle nasıl başa çıkılır?

Kentsel Merkezlerde AI Talebi Artıyor

Kentsel alanda, sohbet botlarının kişisel kullanımının ya da robotlara aşırı odaklanmanın ötesinde AI için artan bir talep var. Bir IMF çalışma raporu 2023 yılında veri merkezleri ve AI’dan kaynaklanan elektrik tüketiminin küresel olarak 400–500 TWh’ye ulaştığını ve AI kaynaklı tüketimin 2030’a kadar potansiyel olarak 1.500 TWh’ye ulaşabileceğini tahmin ediyor. Basit işlemleri — belge işleme ya da video arşivleme gibi — daha verimli hale getirmek için gereken otomasyon, büyük ölçekte çok fazla enerji gerektirir.

Şehirler, 78 ülke genelinde 250 şehrin incelendiği OECD raporunda görüldüğü gibi, bu konunun ön saflarında. Raporda yüzde 56’sı zaten AI’ı aktif olarak kullanıyordu, yüzde 35’i ise pilot uygulama ya da dağıtım planlıyordu bulunduğu belirtiliyor. Basit bir kullanım örneğini göstermek için şehirdeki güvenlik kameralarını ele alalım. IHS Markit tahmin etti birkaç yıl önce dünya çapında güvenlik kamerası sayısının bir milyarı aşacağını. Kameralar öncelikle kayıt amaçlı kullanılsa da, artık ağ üzerinde nesne takibi ya da doğal dil kullanarak büyük video arşivlerini arama gibi daha hesaplama yoğun işleri de yapıyorlar. Bu süreçler mevcut AI işleme kapasitemizle her kamerada gerçekleşemez. Kameralar şehir dışına, uzak bir veri merkezine gönderilerek işlenmeli mi? Veri düzenlemeleri ve bu kadar büyük veri trafiğinin taşınma maliyeti nedeniyle bu pratik değildir.

Son bir Gallup araştırması, rolünde özel ve kamu sektörü çalışanlarının %30’u AI kullanıyor ve bu oranların arttığını gösteriyor. Bu sektörler — banka, hastane ya da kamu kuruluşları — aynı sorunlarla karşılaşıyor. kendi yetki alanlarındaki AI altyapısı ve kontrol edebilecekleri kadar fiziksel olarak yakın bir konum istiyorlar. Etkileşimli ses sistemleri ve video uygulamaları ağ gecikmesi arttıkça performans kaybı yaşıyor. İlk nesil otonom sistemler için bir insan operatör tutularak sorun geçici olarak aşılabilse bile, bu denetim gecikmeye karşı çok hoşgörülü değil. Örneğin, video bağlantısı üzerinden denetlenen teslimat robotları ve ev robotları, uzaktan robotik teleoperasyon çalışmasıyla ölçülen yaklaşık 80 milisaniye altında kalması gereken tam bir iletişim döngüsü gerektirir. Otonom arabalar, tersine, istisna: güvenlik nedeniyle sürüş araç içinde kalır ve Waymo’nun uzaktan operatörleri çeyrek saniyelik bir gecikmeyle çalışır, bazıları başka bir kıtadan. Şehrin otonom filo’dan miras aldığı şey verileri, direksiyonları değil.

Veri merkezi pazarı bu talep artışını küçümsüyor. World Bank bir rapor yayınladı Arjantin, Hindistan ve Etiyopya gibi ülkelerdeki belediyelerin adalet, yolsuzlukla mücadele, gümrük, kamu yönetimi ve hizmet iyileştirme alanlarında AI’ı nasıl benimsediğini gösteriyor. Bu yerel bir durum değil. Küresel bir dönüşüm. Teravolt’ta, 10 ila 15 milyon nüfuslu bir metropol alanının 2030 yılına kadar sürekli gecikmeye duyarlı AI yükü olarak yaklaşık 6 ila 13 MW destekleyebileceğini tahmin ediyoruz, genel amaçlı robotlar yaygın olarak dağıtılmadan önce. Hiperskala standartlarına göre sayı büyük olmasa da, doğru noktada bulmak göründüğünden çok daha zor. 2036 yılına gelindiğinde, aynı metropol alanı gecikmeye duyarlı yükte 22 ila 50 MW’ye yükselir — ve otomotiv ölçeğinde robot üretmeye başlarsa 60 ila 100 MW’ye çıkabilir. Talep ekonomisi en iyi anlamda acımasızdır: $30.000 ila $60.000 arasında iş gücünü değiştiren bir makinede yıllık birkaç yüz dolar sunucu maliyeti, fiyat üzerinde pazarlık etmeyen bir talep demektir.

Bilgi İşlemeye Dördüncü Katman Ekleniyor

Şu anda, AI için hesaplama gücü üç seviyede mevcut. En üst katman, modelleri eğitmek için kullanılan gigafabriklerden oluşur. Konumları, geliştiriciler için yalnızca yeterli gücü kabul edilebilir bir fiyatla temin ettiği sürece önem taşır. Ardından, tipik olarak 20 ila 200 MW arasında değişen bölgesel AI tesisleri gelir; burada büyük bulut ve kurumsal operasyonlarda tekrarlayan çıkarım talebi gerçekleşir. Son olarak, gücün doğrudan cihazda ya da robotta gömülü olduğu durum vardır.

Son iki katman arasında, benim kentsel katman olarak adlandırdığım bir boşluk olduğu görülüyor—bu boşluk gecikme sorunlarından sorumlu. Bunların büyük şehirlerin içinde ya da çok yakınında konumlandırılması gerekir. Tek tek megavat seviyeleri tek haneli ya da düşük çift haneli megavatlarda ölçülmeli ve metropol alanları içinde konumlandırılıp yüksek kaliteli fiberle bağlanmalıdır. Başlangıç noktası, site garantili güç sağlıyorsa yaklaşık 2 MW olabilir. Pratiği göstermek için bir teslimat robotunu düşünün. Farklı istekleri yönetir ve hepsi cihazda işlenemez. Gigafabrikada eğitilmiş olsa da, gerçek zamanlı daha gelişmiş yardım, her seferinde bölgesel bir tesise göndermek yerine yakın bir kentsel tesis tarafından işlenmelidir.

İki Yönlü Trafik Sorunu

Kentsel veri merkezleri sadece eğitim merkezlerinden veri alan ara noktalar olmayacak, aynı zamanda veri hattının geri gönderilmesi için büyük miktarda veri üretecekler.

Her otonom makine ve sensör açısından zengin sistem, işlenip eğitime entegre edilmesi gereken bilgileri biriktirecek. Bir vardiya sonrası şarj noktalarına dönen robot filoları, veri merkezlerinin işlevleri geliştirebilmesi için kenar durumları ve günlük operasyonlar hakkında muazzam faydalı bilgiler gönderecek. Tüm bu trafiğin aynı anda aynı yönde gönderildiğini hayal edin. Bu bir darboğaz oluşturacak. İşte bu noktada kentsel veri merkezi devreye giriyor; bölgesel hesaplama tesisini aşırı yüklemeden önce bazı yükleri işleyebiliyor. Hatalı verileri tanımlayıp ayıklarken, faydalı kısımları sıkıştırıp ilerletebiliyor.

Özünde, kentsel veri merkezi, öncesindeki iki katmana ek bir filtreleme katmanı sağlayarak veri akışını daha da düzenli hale getirir.

Gelecek Her Blokta Bir Sunucu mu?

Kentsel sunucuları bir çözüm olarak sunmama rağmen, sınırsız yayılma ile gecikme sorunlarını çözmek basitçe çok pahalıdır. Boyutu ne olursa olsun, bir veri merkezi hâlâ şebeke bağlantısı, transformatör, soğutma, güvenlik, ağ ve personel gerektirir. Bu maliyetler IT yüküyle orantılı olarak azalmıyor. Perspektif vermek gerekirse, 0.5 MW’lık bir tesis hâlâ çok daha büyük bir siteyle aynı sabit maliyetleri taşıyor.

Projelerimizde, bağımsız bir kentsel veri merkezinin ekonomik olarak 5 ila 8 MW civarında sürdürülebilir olduğunu gördük. Birkaç sitenin ortak bir ağ operasyon merkezi paylaşabileceği varsayımıyla bile eşik sadece 1.5 ila 3 MW’a düşüyor. Bu nedenle, temel sonuç hâlâ aynı. 20 MW’ı yirmi lokasyona bölmek, iki ya da üç lokasyona bölmekten metropol içinde neredeyse hiç gecikme tasarrufu sağlamaz — şehir fiber halkası sadece birkaç milisaniye sürer — ancak sermaye ve işletme maliyetlerini katlayarak artırır.

Bu yüzden sektörün küçülerek, benim “zeka için trafo istasyonları” dediğim şeyi inşa etmesi gerektiğine inanıyorum. Şu anda geliştiriciler 20 ila 100 MW aralığında bölgesel tesisler inşa etmeyi öğreniyor. Gelecek hedefi, bunu daha küçük, kentsel sitelere uygulayarak büyük şehirler için uygun 2 MW seviyesine ulaşmak.

Siyasi Engel

Ekonomik uygulanabilirliğin ötesine geçince, siyasi zorluk hâlâ devam ediyor. Veri merkezleri medyada giderek daha çok kınanıyor çevre üzerindeki olumsuz etkileri nedeniyle. Pew anketine göre, Amerikalıların yarıdan fazlası veri merkezlerinin çevreye zararlı olduğunu düşünüyor ve olumsuz bir görüşe sahip. İş yaratma argümanı, tüketilen su, arazi ve elektrik miktarı; ayrıca ses ve emisyonlar karşısında sönük kalıyor. Daha küçük kentsel tesisler için onay almak bile zor olacaktır.

Zaten veri merkezi geliştiricileri ve şehir otoriteleri arasında çatışmalar görüyoruz. ABD’de xAI’nin gaz türbinleri kullanması, Memphis’teki genişlemesini hızlandırmak için izin anlaşmazlıklarına, topluluk muhalefetine ve davalara yol açtı. Avrupa daha da ileri gitti: Amsterdam 70 MW üzerindeki tesislere moratoryo getirdi, Dublin yeni veri merkezlerini yalnızca kendi üretim ya da depolama birimlerini getiriyorlarsa kabul ediyor ve Batı Londra koridorunun ana trafo istasyonu 2030’ların başına kadar güçlendirilmemek üzere. Bu tür yüksek profilli vakaların dışında, bu yeni bir çekişme alanı olduğundan, birçok şehir otoritesi kentsel alanda ek 10 MW AI altyapısı onaylamak için net bir süreç geliştirmedi. Bir National League of Cities raporuna göre, şehirlerin en yaygın zorluklarından biri, eski yerel imar kodlarının veri merkezlerini açıkça ele almaması ve bu yüzden vaka bazlı incelemelere yol açması. Böyle yasal belirsizlikler teknik olarak uygulanabilir projeleri bile geciktirebilir.

Bugünkü Altyapı Kararları Gelecek Kapasitemizi Şekillendiriyor

Tüm bunlar, yapay zekadaki gelecekteki ilerlemeler için gerekli altyapıyı önceden planlamamız ve inşa etmemiz gerektiğini söylemek için. Çünkü modeller hızla gelişirken, onları çalıştırmak için gereken güç, zaman alan bir altyapı türüne bağlıdır. Şebeke bağlantıları yıllar sürebilir ve bazı büyük veri merkezi pazarlarında kuyruklar şu anda yedi ila on yıla kadar uzamaktadır. Dolayısıyla şehirler 2030 yılına kadar yapay zeka hesaplama gücünü artırıyorsa, bu elektrik altyapısının şimdi kurulması gerekir. Teravolt’ta, çalışan modelimiz küresel şehir yapay zekası talebinin 2036 yılına kadar 9 ila 18 GW arasında olacağını tahmin ediyor. Bu, ortalama tesis büyüklüğüne bağlı olarak dünya çapında yaklaşık 1.000 ila 1.500 önemli şehir ve metropol sitesine işaret eder ve toplamda yaklaşık 500 milyar ila 1 trilyon dolar değerinde bir pazar oluşturabilir.

Gerekli planlama yapılmazsa, kullanılamayan ileri yapay zeka kapasitesiyle sıkışıp kalacağız. Mobil çağ, insanları takip edebilecek radyo kapsama altyapısı olarak kulelere ihtiyaç duyuyordu; aksi takdirde cep telefonu anlamsız olurdu. Benzer şekilde, yapay zekanın evrimi ile elektrik altyapısının kurulumu arasındaki uyumsuzluğu kabul etmeliyiz. Mobil çağ kapsamı sinyal çubuklarıyla ölçerken, yapay zeka çağı bunu milisaniye ve kişi başına watt cinsinden ölçecek — ve milyonlarca kuleye değil, yaklaşık bir binaya eşdeğer bir trafo alt istasyonu büyüklüğündeki tesislere ihtiyaç duyacak. Fiber, milisaniye ve megawatt bu alandaki para birimleridir ve bu kıtlığı önceden fark edenler geleceği şekillendirmeye daha uygun olacaktır.