Seuraava tekoälyn energiatehoon liittyvä pullonkaula on kaupunkien sisällä

Viime vuosina, ja edelleen, tekoälyinfrastruktuurimarkkinat ovat käyttäneet paljon aikaa ja rahaa (lähes $7 triljoonaa datakeskusinvestointeja vuoteen 2030 mennessä, McKinseyn arvion mukaan) oppiakseen, miten rakentaa suuria datakeskuksia missä tahansa on saatavilla energiaa. “Missä tahansa” on avainsana, koska sijainti ei ollut erityisen tärkeä. Koulutusklusteri tarvitsee vain riittävän energian. Mutta sijainti alkaa nykyään olla yhä merkityksellisempi, kun tekoälyn käyttö laajenee chat‑rajapintojen ulkopuolelle koneisiin, äänijärjestelmiin, videoihin ja fyysiseen maailmaan vuorovaikuttaviin sovelluksiin. Tällaiset toiminnot vaativat laskentatehoa olla lähempänä kaupunkialueita, joissa nuo vuorovaikutukset tapahtuvat latenssin pitämiseksi alhaisena. Vaikka työkalut kuten chatbotit sietävät puolen sekunnin viivettä, automatisoidut palvelusovellukset, kuten etävalvotut toimitusrobotit, reaaliaikaiset ääniavustajat tai automatisoidut täyttöjärjestelmät saattavat tarvita reagoida millisekunneissa.

Tämä on tekoälyyritysten uusi haaste. Kuinka löytää pienempiä luotettavan energian lohkoja suurten metropolialueiden sisällä ja ympäristössä? Ja vaikka sijainnit olisi kartoittu, miten käsitellä vastareaktioita, joita jopa etädatakeskukset kohtaavat?

Kysyntä tekoälylle kaupunkialueilla kasvaa

Kaupunkialueilla on kasvava kysyntä tekoälylle, joka ylittää henkilökohtaisen chatbotien käytön tai robotteihin kohdistuneen pakkomielteisen kiinnostuksen. IMF:n työpaperi arvioi, että datakeskusten ja tekoälyn sähkönkulutus oli jo vuonna 2023 maailmanlaajuisesti 400–500 TWh, ja tekoälyyn perustuva kulutus voisi mahdollisesti nousta 1 500 TWh:iin vuoteen 2030 mennessä. Yksinkertaisten toimintojen tehostamiseen vaadittava automaatio — oli kyse sitten asiakirjojen käsittelystä tai videoiden arkistoinnista — edellyttää suurta energiamäärää mittakaavassa.

Kaupungit ovat tässä eturintamassa, kuten OECD:n tarkastelu 250 kaupungista 78 maassa osoittaa. Siinä havaittiin, että 56 % käytti jo aktiivisesti tekoälyä, kun taas 35 % pilottasi tai suunnitteli käyttöönottoja. Yksinkertaisen käyttötapauksen havainnollistamiseksi tarkastellaan kaupungin valvontakameroita. IHS Markit arvioi muutama vuosi sitten, että valvontakameroiden määrä maailmanlaajuisesti ylittäisi miljardin. Vaikka niitä käytetään pääasiassa tallennustarkoituksiin, niitä hyödynnetään nyt myös vaativammissa tehtävissä, kuten kohteiden seuraamisessa verkossa tai suurten videoarkistojen hakuun luonnollisen kielen avulla. Tällaisia prosesseja ei voida toteuttaa jokaisessa kamerassa nykyisen tekoälyprosessoinnin rajoissa. Jos ne lähetettäisiin kaupungin ulkopuolelle kaukaiseen datakeskukseen käsiteltäväksi, se olisi epäkäytännöllistä tietosääntelyn ja suurten liikennemäärien siirtokustannusten vuoksi.

Äskettäinen Gallup‑kysely osoittaa, että noin 30 % yksityisen ja julkisen sektorin työntekijöistä käyttää tekoälyä roolissaan, ja luku kasvaa. Nämä sektorit — olipa kyseessä pankit, sairaalat tai julkisen sektorin organisaatiot — kohtaavat samat ongelmat. He haluavat tekoälyinfrastruktuurin omassa toimivalta-alueessaan ja fyysisesti tarpeeksi lähellä hallintaa. Heidän interaktiiviset äänijärjestelmänsä ja videosovelluksensa heikkenevät verkon latenssin noustessa. Vaikka ongelma voitaisiin aluksi kiertää pitämällä ihmisen operaattorina ensimmäisen sukupolven autonomisissa järjestelmissä, tämä valvonta ei ole kovin armollista latenssia kohtaan. Esimerkiksi toimitusrobotit ja kotirobotit, joita valvotaan videoyhteyden kautta, vaativat täyden viestintäketjun, jonka viiveen on pysyttävä alle noin 80 millisekuntia kaukosäätörobotiikan tutkimuksessa mitattuna. Itseohjautuvat autot ovat, paradoksisesti, poikkeus: ajaminen pysyy laitteessa turvallisuussyistä, ja Waymon etäoperaattorit toimivat noin neljännes sekunnin viiveellä, osa heistä toiselta mantereelta. Mitä kaupunki perii autonomisista laivastoista, on niiden data, ei ohjauspyörä.

Datakeskusmarkkinat aliarvioivat tätä kysynnän kasvua. World Bank julkaisi tutkimuksen joka osoittaa, miten kunnissa maissa kuten Argentiina, Intia ja Etiopia, muiden ohella, on otettu käyttöön tekoälyä oikeus-, korruptionvastaisissa, tullin-, julkishallinnon- ja palveluiden parantamisen alueilla. Tämä ei ole paikallinen ilmiö. Se on globaali muutos. Teravoltilla arvioimme, että 10–15 miljoonan asukkaan metropolialue voisi tukea noin 6–13 MW jatkuvaa latenssiherkkää tekoälykuormaa vuoteen 2030 mennessä, ennen kuin yleiskäyttöiset robotit otetaan laajamittaisesti käyttöön. Väitteellisesti kyseessä ei ole hyperskaalan mittakaavassa suuri luku, mutta sen löytäminen oikeasta paikasta on hankalampaa kuin miltä se näyttää. Vuoteen 2036 mennessä sama metropolialue siirtyy 22–50 MW:n latenssiherkkiin kuormiin — ja 60–100 MW:iin, jos autoteollisuus alkaa tuottaa robotteja autoteollisuuden mittakaavassa. Kysynnän talous on armoton parhaimmillaan: muutama sata dollaria vuodessa palvelinmaksuna laitteessa, joka korvaa 30 000–60 000 dollarin työvoiman, on kysyntää, joka ei neuvottele hinnasta.

Neljännen tason lisääminen laskentaan

Tällä hetkellä tekoälyn laskentateho on kolmessa tasossa. Ylin taso koostuu gigatehtailta, joita käytetään mallien kouluttamiseen. Niiden sijainti on kehittäjille merkityksellinen vain siinä määrin, että se takaa suuren energiamäärän kohtuulliseen hintaan. Seuraavaksi tulevat alueelliset tekoälylaitokset, tyypillisesti 20–200 MW, joissa suuri osa toistuvasta inferenssitarpeesta suurissa pilvi- ja yritystoiminnoissa ilmenee. Viimeisenä on laskentateho, joka on upotettu suoraan laitteeseen tai robottiin.

Näyttää siltä, että kahden viimeisen kerroksen välillä on aukko, jonka tunnistan kaupunkikerrokseksi – tämä aukko aiheuttaa viiveongelmia. Näiden tulisi sijaita suurten kaupunkien sisällä tai aivan niiden lähellä. Niiden teho tulisi olla yksinumeroisissa tai matalissa kaksinumeroisissa megawatteissa, sijoitettuna metropolialueille ja kytkettynä korkealaatuiseen kuituun. Lähtöpiste voisi olla noin 2 MW, jos paikalla on taattu virransyöttö. Käytännön havainnollistamiseksi ajatellaan toimitusrobottia. Se käsittelee erilaisia pyyntöjä, eikä kaikkiä pysty käsittelemään laitteessa paikallisesti. Vaikka se koulutetaan gigatehtaassa, reaaliaikaisempaa edistynyttä apua tulisi käsitellä lähellä sijaitsevassa kaupunkitietokeskuksessa sen sijaan, että data lähetettäisiin jokaisella kerralla alueelliseen keskukseen.

Kaksisuuntainen liikenneongelma

Kaupunkitietokeskukset eivät ole pelkästään välikäsinä, jotka vastaanottavat dataa koulutuskeskuksista, vaan ne myös tuottavat suuria määriä dataa, joka lähetetään takaisin putkistoon.

Jokainen autonominen kone ja anturirikas järjestelmä kerää tietoa, joka täytyy prosessoida ja lähettää takaisin koulutukseen integroitavaksi. Robottifleetit, jotka palaavat latauspisteisiinsä työvuoron jälkeen, lähettävät valtavan määrän hyödyllistä tietoa poikkeustapauksista ja päivittäisistä toiminnoista, joita tietokeskukset tarvitsevat toimintojen parantamiseen. Kuvittele, että kaikki tämä liikenne lähetetään kerralla samaan suuntaan. Se aiheuttaa pullonkaulan. Tässäkin kaupunkitietokeskuksen rooli on kätevä, sillä se voi käsitellä osan kuormasta ennen kuin se ylikuormittaa alueellisen laskentakeskuksen. Se voi tunnistaa ja hylätä virheellistä dataa samalla, kun se pakkaa ja siirtää hyödylliset osat eteenpäin.

Periaatteessa kaupunkitietokeskus tarjoaa lisäsuodatuksen kerroksen kahden sitä edeltävän kerroksen päälle, mikä tekee datavirrosta entistä järjestäytyneempää.

Onko tulevaisuus jokaisella korttelilla oleva palvelin?

Vaikka esittelen kaupunkipalvelimia ratkaisuna, niiden käyttö on myös yksinkertaisesti liian kallista ratkaisemaan viiveongelmia hallitsemattomalla leviämisellä. Koon riippumatta tietokeskus tarvitsee edelleen verkkoyhteyden, muuntajat, jäähdytyksen, turvallisuuden, verkottumisen ja henkilökunnan. Nämä kustannukset eivät pienene suhteellisesti IT-kuorman mukana. Vertailun vuoksi, 0,5 MW:n laitoksella on edelleen monia samoja kiinteitä kustannuksia kuin paljon suuremmassa kohteessa.

Projekteissamme olemme havainneet, että itsenäinen kaupunkitietokeskus tulee taloudellisesti kannattavaksi noin 5–8 MW:n tasolla. Vaikka oletetaan, että useat kohteet voisivat jakaa verkko‑operaatiokeskuksen, raja-arvo laskee vain 1,5–3 MW:iin. Siksi lopputulos on edelleen sama. 20 MW:n jakaminen kahdenkymmenen sijainnin kesken kahden tai kolmen sijainnin sijaan ei säästä lähes lainkaan viivettä metropolialueella – kaupungin kuiturenkaat ovat vain muutaman millisekunnin päässä – samalla kun se moninkertaistaa pääoma‑ ja käyttökustannukset.

Tämän vuoksi uskon, että ala on siirrettävä koossa alaspäin ja rakennettava, mitä kutsun “älykkyyden alaitureiksi”. Tällä hetkellä kehittäjät oppivat rakentamaan alueellisia laitoksia 20 – 100 MW:n alueella. Tulevaisuuden tavoitteena on soveltaa tätä vielä pienempiin, kaupunkisijainteihin, jotta saavutetaan 2 MW:n taso, joka sopii suuriin kaupunkeihin.

Poliittinen este

Taloudellisen kannattavuuden ohi siirtyessä poliittinen haaste on edelleen olemassa. Tietokeskuksia on yhä enemmän väritetty mediassa negatiivisesti niiden haitallisesta vaikutuksesta ympäristöön. Pew‑tutkimuksen mukaan yli puolet amerikkalaisista pitää tietokeskuksia ympäristölle haitallisina ja suhtautuu niihin kielteisesti. Työpaikkojen luomisen argumentti kalvaa veden, maankäytön ja sähkön kulutuksen määrän sekä melun ja päästöjen aiheuttaman vaikutuksen rinnalla. Pienempienkin kaupunkilaitosten lupien saaminen osoittautuu vaikeaksi.

Olemme jo nähneet esimerkkejä tietokeskuskehittäjien ja kaupunkiviranomaisten välisten erimielisyyksien. Yhdysvalloissa xAI:n kaasusäätöjen käyttö Memphisin laajennuksen nopeuttamiseksi on johtanut lupakiistoihin, yhteisön vastustukseen ja oikeudenkäynteihin. Euroopassa tilanne on vielä vakavampi: Amsterdam on asettanut moratoriota yli 70 MW:n laitoksille, Dublin hyväksyy uudet tietokeskukset vain, jos ne tuovat oman tuotannon tai varastoinnin, ja Länsi-Lontoon koridorin keskeistä alaiturista ei tehdä vahvistuksia ennen 2030‑luvun alkua. Vaikka näissä tapauksissa on kyse korkeaprofiilisista kiistoista, monilla kaupunkiviranomailla ei ole selkeää hyväksymisprosessia 10 MW:n lisä‑AI‑infrastruktuurin hyväksymiseksi kaupunkialueella. Kuten National League of Cities -raportti toteaa, yksi yleisimmistä haasteista kaupungeille on, että vanhat paikalliset kaavoitusmääräykset eivät nimenomaisesti käsittele tietokeskuksia, mikä johtaa tapauskohtaisiin tarkasteluihin. Tällaiset oikeudelliset epävarmuudet voivat viivästyttää jopa teknisesti toteuttamiskelpoisia hankkeita.

Infrastruktuuripäätökset tänään muokkaavat tulevaisuuden kapasiteettiamme

Kaikki tämä tarkoittaa, että meidän on ennakoivasti suunniteltava ja rakennettava tekoälyn tuleviin edistysaskeliin tarvittava infrastruktuuri. Koska vaikka mallit kehittyvät nopeasti, niiden ajamiseen tarvittava energia riippuu sellaisesta infrastruktuurista, jonka rakentaminen vie aikaa. Verkkoyhteydet voivat kestää vuosia, ja joillakin suurilla datakeskusmarkkinoilla jonot venyvät seitsemästä kymmeneen vuoteen. Jos kaupungit siis lisäävät tekoälyn laskentatehoa vuoteen 2030 mennessä, sähköinfrastruktuuri on rakennettava nyt. Teravoltilla työskentelevä mallimme arvioi globaalin kaupunkien tekoälykysynnän olevan 9–18 GW vuoteen 2036 mennessä. Tämä tarkoittaa noin 1 000–1 500 merkittävää kaupunkia ja metropolialuetta maailmanlaajuisesti, riippuen keskimääräisen laitoksen koosta, ja yhteensä se voisi edustaa markkinaa, jonka arvo on noin 500 miljardia–1 triljoona dollaria.

Jos tarvittavaa suunnittelua ei toteuteta, jäämme jumiin kehittyneeseen tekoälykapasiteettiin, jota emme pysty hyödyntämään. Mobiiliaikakausi tarvitsi tornien infrastruktuurin radiokatteen tarjoamiseksi ihmisille, muuten matkapuhelin olisi ollut merkityksetön. Samoin meidän on tunnistettava epäsuhta tekoälyn kehityksen ja sähköinfrastruktuurin toteuttamisen välillä. Kun mobiiliaikakausi mittasi kattavuutta signaalipylväillä, tekoälykausi mittaa sen millisekunneissa ja wateissa asukasta kohti — eikä se tarvitse miljoonia torneja, vaan noin tuhat alikytkentäkoon laitosta. Kuitu, millisekunnit ja megawattit ovat tämän alan valuuttaa, ja ne, jotka tunnistavat tämän niukkuuden etukäteen, ovat paremmin varustautuneita muokkaamaan tulevaisuutta.