Ajatusjohtajat

Seuraava tekoälyn sähkönsaannin pullonkaula on kaupunkien sisällä

Denis Alkhazov
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatViiveherkkä tekoäly vaatii nyt laskentatehoa kaupunkien sisällä eikä etäisissä…
Näytä lisää
  • Viiveherkkä tekoäly vaatii nyt laskentatehoa kaupunkien sisällä eikä etäisissä datakeskuksissa.
  • Puuttuvan kaupunkilaskennan tason on sijaittava alueellisten laitosten ja laitteessa tapahtuvan käsittelyn välissä.
  • Kaupunkien on suunniteltava sähköinfrastruktuuria nyt, koska verkkoliitäntöjen rakentaminen kestää vuosia.

Viime vuosina, ja edelleen, tekoälyinfrastruktuurimarkkinat ovat käyttäneet paljon aikaa ja rahaa (lähes $7 biljoonaa datakeskusinvestointeja vuoteen 2030 mennessä, McKinseyn arvion mukaan) oppiakseen, miten rakentaa suuria datakeskuksia missä tahansa on saatavilla energiaa. “Missä tahansa” on avainsana, koska sijainti ei ollut erityisen tärkeä. Koulutusklusteri tarvitsee vain riittävän energian. Mutta sijainti alkaa nykyään olla yhä merkityksellisempi, kun tekoälyn käyttö laajenee chat‑rajapintojen ulkopuolelle koneisiin, äänijärjestelmiin, videoihin ja fyysisen maailman kanssa vuorovaikuttaviin sovelluksiin. Tällaiset toiminnot edellyttävät laskentatehon olevan lähempänä kaupunkialueita, joissa nuo vuorovaikutukset tapahtuvat, jotta latenssi pysyy alhaisena. Vaikka työkalut kuten chatbotit sietävät puolen sekunnin viivettä, automatisoidut palvelusovellukset, kuten etävalvotut toimitusrobotit, reaaliaikaiset ääniavustajat tai automatisoidut tilaustentoimitusjärjestelmät saattavat joutua reagoimaan millisekunneissa.

Tämä on tekoälyyritysten uusi haaste. Kuinka löytää pienempiä luotettavan energian lohkoja suurten metropolialueiden sisällä ja ympäristössä? Ja vaikka sijainnit olisi kartoitettu, miten käsitellä vastareaktioita, joita jopa etädatakeskukset kohtaavat?

Kysyntä tekoälylle kaupunkialueilla kasvaa

Kaupunkialueilla on kasvava kysyntä tekoälylle, joka ylittää henkilökohtaisen chatbotien käytön tai robotteihin kohdistuneen pakkomielteisen kiinnostuksen. IMF:n työpaperi arvioi, että datakeskusten ja tekoälyn sähkönkulutus oli jo vuonna 2023 maailmanlaajuisesti 400–500 TWh, ja tekoälyyn perustuva kulutus voisi mahdollisesti nousta 1 500 TWh:iin vuoteen 2030 mennessä. Yksinkertaisten toimintojen tehostamiseen vaadittava automaatio — oli kyse sitten asiakirjojen käsittelystä tai videoiden arkistoinnista — edellyttää suurta energiamäärää mittakaavassa.

Kaupungit ovat tässä eturintamassa, kuten OECD:n tarkastelu 250 kaupungista 78 maassa osoittaa. Siinä havaittiin, että 56 % käytti jo aktiivisesti tekoälyä, kun taas 35 % pilottasi tai suunnitteli käyttöönottoja. Yksinkertaisen käyttötapauksen havainnollistamiseksi tarkastellaan kaupungin valvontakameroita. IHS Markit arvioi muutama vuosi sitten, että valvontakameroiden määrä maailmanlaajuisesti ylittäisi miljardin. Vaikka niitä käytetään pääasiassa tallennustarkoituksiin, niitä hyödynnetään nyt myös vaativammissa tehtävissä, kuten kohteiden seuraamisessa verkossa tai suurten videoarkistojen hakuun luonnollisen kielen avulla. Tällaisia prosesseja ei voida toteuttaa jokaisessa kamerassa nykyisen tekoälyprosessoinnin rajoissa. Jos ne lähetettäisiin kaupungin ulkopuolelle kaukaiseen datakeskukseen käsiteltäväksi, se olisi epäkäytännöllistä tietosääntelyn ja suurten liikennemäärien siirtokustannusten vuoksi.

Äskettäinen Gallup‑kysely osoittaa, että noin 30 % yksityisen ja julkisen sektorin työntekijöistä käyttää tekoälyä roolissaan, ja luku kasvaa. Nämä sektorit — olipa kyseessä pankit, sairaalat tai julkisen sektorin organisaatiot — kohtaavat samat ongelmat. He haluavat tekoälyinfrastruktuurin omassa toimivalta-alueessaan ja fyysisesti tarpeeksi lähellä, jotta sitä voidaan hallita. Heidän interaktiiviset äänijärjestelmänsä ja videosovelluksensa heikkenevät verkon latenssin noustessa. Vaikka ongelma voitaisiin aluksi kiertää pitämällä ihmisen operaattorina ensimmäisen sukupolven autonomisissa järjestelmissä, tämä valvonta ei ole kovin armollista latenssia kohtaan. Esimerkiksi toimitusrobotit ja kotirobotit, joita valvotaan videoyhteyden kautta, vaativat täyden viestintäketjun, jonka viiveen on pysyttävä alle noin 80 millisekunnin kaukosäätörobotiikan tutkimuksessa mitattuna. Itseohjautuvat autot ovat, paradoksisesti, poikkeus: ajaminen pysyy laitteessa turvallisuussyistä, ja Waymon etäoperaattorit toimivat noin neljännes sekunnin viiveellä, osa heistä toiselta mantereelta. Mitä kaupunki perii autonomisista laivastoista, on niiden data, ei ohjauspyörä.

Datakeskusmarkkinat aliarvioivat tätä kysynnän kasvua. World Bank julkaisi tutkimuksen joka osoittaa, miten kunnissa maissa kuten Argentiina, Intia ja Etiopia, muiden ohella, on otettu käyttöön tekoälyä oikeus-, korruptionvastaisissa, tullin-, julkishallinnon- ja palveluiden parantamisen alueilla. Tämä ei ole paikallinen ilmiö. Se on globaali muutos. Teravoltilla arvioimme, että 10–15 miljoonan asukkaan metropolialue voisi tukea noin 6–13 MW jatkuvaa latenssiherkkää tekoälykuormaa vuoteen 2030 mennessä, ennen kuin yleiskäyttöiset robotit otetaan laajamittaisesti käyttöön. Voidaan väittää, että kyseessä ei ole hyperskaalan mittakaavassa suuri luku, mutta sen löytäminen oikeasta paikasta on hankalampaa kuin miltä se näyttää. Vuoteen 2036 mennessä sama metropolialue siirtyy 22–50 MW:n latenssiherkkiin kuormiin — ja 60–100 MW:iin, jos autoteollisuus alkaa tuottaa robotteja autoteollisuuden mittakaavassa. Kysynnän talous on armoton parhaimmillaan: muutama sata dollaria vuodessa palvelinmaksuna laitteessa, joka korvaa 30 000–60 000 dollarin työvoiman, on kysyntää, joka ei neuvottele hinnasta.

Neljännen tason lisääminen laskentaan

Tällä hetkellä tekoälyn laskentateho on kolmessa tasossa. Ylin taso koostuu gigatehtaista, joita käytetään mallien kouluttamiseen. Niiden sijainti on kehittäjille merkityksellinen vain siinä määrin, että se takaa suuren energiamäärän kohtuulliseen hintaan. Seuraavaksi tulevat alueelliset tekoälylaitokset, tyypillisesti 20–200 MW, joissa suuri osa toistuvasta inferenssitarpeesta suurissa pilvi- ja yritystoiminnoissa ilmenee. Viimeisenä on laskentateho, joka on upotettu suoraan laitteeseen tai robottiin.

Näyttää siltä, että kahden viimeisen kerroksen välillä on aukko, jonka tunnistan kaupunkikerrokseksi – tämä aukko aiheuttaa viiveongelmia. Näiden tulisi sijaita suurten kaupunkien sisällä tai aivan niiden lähellä. Niiden tehon tulisi olla yksinumeroisissa tai matalissa kaksinumeroisissa megawatteissa, sijoitettuna metropolialueille ja kytkettynä korkealaatuiseen kuituun. Lähtöpiste voisi olla noin 2 MW, jos paikalla on taattu virransyöttö. Käytännön havainnollistamiseksi ajatellaan toimitusrobottia. Se käsittelee erilaisia pyyntöjä, eikä kaikkia pysty käsittelemään laitteessa paikallisesti. Vaikka se koulutetaan gigatehtaassa, edistyneempää reaaliaikaista apua tulisi käsitellä lähellä sijaitsevassa kaupunkitietokeskuksessa sen sijaan, että data lähetettäisiin jokaisella kerralla alueelliseen keskukseen.

Kaksisuuntainen liikenneongelma

Kaupunkitietokeskukset eivät ole pelkästään välikäsinä, jotka vastaanottavat dataa koulutuskeskuksista, vaan ne myös tuottavat suuria määriä dataa, joka lähetetään takaisin putkistoon.

Jokainen autonominen kone ja anturirikas järjestelmä kerää tietoa, joka täytyy prosessoida ja lähettää takaisin koulutukseen integroitavaksi. Robottifleetit, jotka palaavat latauspisteisiinsä työvuoron jälkeen, lähettävät valtavan määrän hyödyllistä tietoa poikkeustapauksista ja päivittäisistä toiminnoista, joita tietokeskukset tarvitsevat toimintojen parantamiseen. Kuvittele, että kaikki tämä liikenne lähetetään kerralla samaan suuntaan. Se aiheuttaa pullonkaulan. Tässäkin kaupunkitietokeskuksen rooli on kätevä, sillä se voi käsitellä osan kuormasta ennen kuin se ylikuormittaa alueellisen laskentakeskuksen. Se voi tunnistaa ja hylätä virheellistä dataa samalla, kun se pakkaa ja siirtää hyödylliset osat eteenpäin.

Periaatteessa kaupunkitietokeskus tarjoaa lisäsuodatuksen kerroksen kahden sitä edeltävän kerroksen päälle, mikä tekee datavirrosta entistä järjestäytyneempää.

Onko tulevaisuus jokaisella korttelilla oleva palvelin?

Vaikka esittelen kaupunkipalvelimia ratkaisuna, niiden käyttö on myös yksinkertaisesti liian kallista ratkaisemaan viiveongelmia hallitsemattomalla leviämisellä. Koosta riippumatta tietokeskus tarvitsee edelleen sähköverkkoliitynnän, muuntajat, jäähdytyksen, turvallisuuden, verkottumisen ja henkilökunnan. Nämä kustannukset eivät pienene suhteellisesti IT-kuorman mukana. Vertailun vuoksi, 0,5 MW:n laitoksella on edelleen monia samoja kiinteitä kustannuksia kuin paljon suuremmassa kohteessa.

Projekteissamme olemme havainneet, että itsenäinen kaupunkitietokeskus tulee taloudellisesti kannattavaksi noin 5–8 MW:n tasolla. Vaikka oletetaan, että useat kohteet voisivat jakaa verkko‑operaatiokeskuksen, raja-arvo laskee vain 1,5–3 MW:iin. Siksi lopputulos on edelleen sama. 20 MW:n jakaminen kahdenkymmenen sijainnin kesken kahden tai kolmen sijainnin sijaan ei säästä lähes lainkaan viivettä metropolialueella – kaupungin kuiturenkaat ovat vain muutaman millisekunnin päässä – samalla kun se moninkertaistaa pääoma‑ ja käyttökustannukset.

Tämän vuoksi uskon, että ala on siirrettävä koossa alaspäin ja rakennettava, mitä kutsun “älykkyyden sähköasemiksi”. Tällä hetkellä kehittäjät oppivat rakentamaan alueellisia laitoksia 20 – 100 MW:n alueella. Tulevaisuuden tavoitteena on soveltaa tätä vielä pienempiin, kaupunkisijainteihin, jotta saavutetaan 2 MW:n taso, joka sopii suuriin kaupunkeihin.

Poliittinen este

Taloudellisen kannattavuuden ohi siirtyessä poliittinen haaste on edelleen olemassa. Tietokeskuksia on yhä enemmän väritetty mediassa negatiivisesti niiden haitallisesta vaikutuksesta ympäristöön. Pew‑tutkimuksen mukaan yli puolet amerikkalaisista pitää tietokeskuksia ympäristölle haitallisina ja suhtautuu niihin kielteisesti. Työpaikkojen luomista koskeva perustelu kalpenee veden, maankäytön ja sähkön kulutuksen määrän sekä melun ja päästöjen aiheuttaman vaikutuksen rinnalla. Pienempienkin kaupunkilaitosten lupien saaminen osoittautuu vaikeaksi.

Olemme jo nähneet esimerkkejä tietokeskuskehittäjien ja kaupunkiviranomaisten välisistä erimielisyyksistä. Yhdysvalloissa xAI:n kaasuturbiinien käyttö Memphisin laajennuksen nopeuttamiseksi on johtanut lupakiistoihin, yhteisön vastustukseen ja oikeudenkäynteihin. Euroopassa tilanne on vielä vakavampi: Amsterdam on asettanut moratorion yli 70 MW:n laitoksille, Dublin hyväksyy uudet tietokeskukset vain, jos ne tuovat oman tuotannon tai varastoinnin, ja Länsi-Lontoon koridorin keskeistä sähköasemaa ei vahvisteta ennen 2030‑luvun alkua. Vaikka näissä tapauksissa on kyse korkeaprofiilisista kiistoista, monilla kaupunkiviranomailla ei ole selkeää hyväksymisprosessia 10 MW:n lisä‑AI‑infrastruktuurin hyväksymiseksi kaupunkialueella. Kuten National League of Cities -raportti toteaa, yksi yleisimmistä haasteista kaupungeille on, että vanhat paikalliset kaavoitusmääräykset eivät nimenomaisesti käsittele tietokeskuksia, mikä johtaa tapauskohtaisiin tarkasteluihin. Tällaiset oikeudelliset epävarmuudet voivat viivästyttää jopa teknisesti toteuttamiskelpoisia hankkeita.

Infrastruktuuripäätökset tänään muokkaavat tulevaisuuden kapasiteettiamme

Kaikki tämä tarkoittaa, että meidän on ennakoivasti suunniteltava ja rakennettava tekoälyn tuleviin edistysaskeliin tarvittava infrastruktuuri. Koska vaikka mallit kehittyvät nopeasti, niiden ajamiseen tarvittava energia riippuu sellaisesta infrastruktuurista, jonka rakentaminen vie aikaa. Sähköverkkoliityntöjen saaminen voi kestää vuosia, ja joillakin suurilla datakeskusmarkkinoilla jonot venyvät seitsemästä kymmeneen vuoteen. Jos kaupungit siis lisäävät tekoälyn laskentatehoa vuoteen 2030 mennessä, sähköinfrastruktuuri on rakennettava nyt. Teravoltilla käyttämämme työmalli arvioi globaalin kaupunkien tekoälykysynnän olevan 9–18 GW vuoteen 2036 mennessä. Tämä tarkoittaa noin 1 000–1 500 merkittävää kaupunki- ja metropolialueiden laitospaikkaa maailmanlaajuisesti, riippuen keskimääräisen laitoksen koosta, ja yhteensä se voisi edustaa markkinaa, jonka arvo on noin 500 miljardia–1 biljoona dollaria.

Jos tarvittavaa suunnittelua ei toteuteta, jäämme jumiin kehittyneeseen tekoälykapasiteettiin, jota emme pysty hyödyntämään. Mobiiliaikakausi tarvitsi tornien infrastruktuurin radiokatteen tarjoamiseksi ihmisille, muuten matkapuhelin olisi ollut merkityksetön. Samoin meidän on tunnistettava epäsuhta tekoälyn kehityksen ja sähköinfrastruktuurin toteuttamisen välillä. Kun mobiiliaikakausi mittasi kattavuutta signaalipylväillä, tekoälykausi mittaa sen millisekunneissa ja wateissa asukasta kohti — eikä se tarvitse miljoonia torneja, vaan noin tuhat sähköaseman kokoista laitosta. Kuitu, millisekunnit ja megawattit ovat tämän alan valuuttaa, ja ne, jotka tunnistavat tämän niukkuuden etukäteen, ovat paremmin varustautuneita muokkaamaan tulevaisuutta.

Denis Alkhazov on Teravoltin perustaja ja johtava osakas. Teravolt on tekoälyinfrastruktuuriyritys, joka kehittää seuraavan sukupolven datakeskusprojekteja konseptista käyttöönottoon. Yhtiössä hän johtaa strategiaa, keskeisiä kumppanuuksia ja pääoman kohdentamista. Hän tuo mukanaan yli kahden vuosikymmenen kokemuksen teknologia- ja pääomavaltaisten liiketoimintojen rakenteiden suunnittelusta ja toiminnan johtamisesta monimutkaisissa oikeudenkäyttöalueissa, yhdessä UHNWIs:ien ja teollisuuskumppaneiden kanssa.

Aikaisemmin Denis työskenteli suoraan suuren luonnonvararyhmän omistajien kanssa luotettavana kumppanina teknologiainvestoinneissa, käyttämällä sekä yritys- että perhepääomaa. Hän hallinnoi 250 miljoonan dollarin sijoitusrahastoa, jonka salkussa oli noin 30 yritystä, ja kehitti sitä myöhemmin 800 miljoonan dollarin lisäohjelman avulla monialaiseksi ekosysteemiksi Keski-Aasiassa. Hän toimi myös riippumattomana hallituksen jäsenenä ja sijoitusten valvontatehtävissä samojen osakkeenomistajien monipuolisissa omistuksissa, johtaen hallintoa ja uudelleenjärjestelytoimia. Hänen kokemuksensa kattaa myös fintech- ja pankkialan, mukaan lukien digitaalisen pankin yhteisperustamisen.