Kaikkialla oleva ongelma: Miksi “Data Anywhere” on muuttumassa tekoälyajan määrittäväksi infrastruktuur haasteeksi

Teckoälyssä tärkein kysymys tänään ei ole, kumpi malli on älykkäin. Se on, missä data sijaitsee ja pystyykö äly saavuttaamaan sen.

Vuosikymmenen parissa tekoälyala toimi lohduttavan oletuksen alla: keskitä data, keskitä laskenta, ja nerous seuraa. Hyperskalausmalli — keskittämällä laajat koulutusaineistot suuriin pilvipalveluihin ja soveltamalla massiivisia GPU-laskentaa niiden tiivistämiseksi malliparametreiksi — tuotti erinomaisia tuloksia, mutta myös arkkitehtuurin, joka nyt kärsii oman menestyksensä painosta.

Kutsukaamme tätä “data anywhere” -ongelmaa. Kun tekoäly valuu tutkimuslaboratoriosta ja sairaaloiden, tehtaiden, rahoituslaitosten ja hallitusten toiminnan ytimeen, tämän järjestelmän muodostama data on luonnostaan hajautunut, alueellisesti rajoitettu ja toiminnallisesti liikuttamaton. Euroopan sääntelijät vaativat, että kansalaisten taloudelliset tiedot eivät saa poistua mantereelta. Baselissä olevan lääkealan kokeellisen datan ei voida laillisesti yhdistää Soulissa olevan genomiikan aineistoon pilvipalveluun.

Mikä tahansa tapaus, älyllisyys on mentävä dataan. Data, painokkaasti, ei tule älyllisyyteen.

Taloudellinen muutos

Tämä rakenteellinen jännite on tehty akuutiksi samanaikaisen vallankumouksen kautta tekoälyn taloudessa. Ala on käymässä mullistavan uudelleen tasapainottamisen koulutuksesta inference-keskeiseen kulutukseen, ja tämän vaikutus data-arkkitehtuuriin on syvä.

Deloitte arvioi, että inference-kuormat käsittivät puolet kaikista tekoälylaskennasta vuonna 2025, ja tämä luku hyppää kahteen kolmasosaan vuonna 2026. Suhde kääntyy hämmästyttävän nopeasti. Analyytikot arvioivat, että vuoteen 2026 mennessä inference-kysyntä ylittää koulutuskysynnän 118-kertaisesti. Vuoteen 2030 mennessä inference voi käsittää 75% tekoälylaskennasta, ajamalla 7 biljoonan dollarin infrastruktuurisijoitusta.

Kustannusmatematiikka on yhtä hämmästyttävä. Jokaiselle 1 miljardille dollarille, joka kuluu tekoälymallin koulutukseen, organisaatiot kohtaavat 15–20 miljardia dollaria inference-kustannuksissa mallin tuotantoon, suhde, joka on havainnollistettu GPT-4:n kautta, jonka koulutuskustannukset olivat noin 150 miljoonaa dollaria, mutta kertyneet inference-kustannukset olivat 2,3 miljardia dollaria vuoden 2024 loppuun mennessä. Koulutus, josta aiemmin oli pääasiassa tekoälysijoittajien ja hankintaviranomaisten päähuomio, on määritelty uudelleen yksinkertaisesti yhden kerran maksuksi. Inference on älyllisyyden jatkuva toimintakulu, ja se on nyt hallitseva kohdistus.

Kuitenkin tässä on paradoksi: inference-kustannukset GPT-3.5-tasoiselle järjestelmälle laskivat yli 280-kertaisesti marraskuun 2022 ja lokakuun 2024 välillä, kun hardware-kustannukset laskivat noin 30% vuodessa ja energiatehokkuus parani 40% vuodessa. Hinnat laskevat; kulutus kiihtyy nopeammin. Yksikkökohtaiset inference-kustannukset laskivat 100-kertaisesti, kun Microsoft ja Google ilmoittivat tekoälytyön kasvaneen 31-kertaisesti puolessa ajassa.

Jevonsin paradoksi, jossa tehokkuuden parantaminen johtaa suurempiin resursseihin, on löytänyt modernin ilmitulon GPU-klustereissa.

Missä data sijaitsee, siellä älyllisyys on seurattava

Inference-talous muuttaa perustavanlaatuisesti infrastruktuurin vaatimuksia, ja missä tahansa muualla kuin data-gravitaation ympärillä. Inference, toisin kuin koulutus, ei ole erillinen tehtävä, jota suoritetaan kerran tietokeskuksessa. Se on jatkuva, viiveherkkä, maantieteellisesti hajautunut palvelu, ja se on yhtä hyvä kuin data, jonka se voi tavoittaa kyselyhetkellä.

Tämä on data anywhere -haasteen ydin.

Esimerkiksi kielen malli, joka päättelee potilaan reaaliaikaisen telemetrian perusteella, ei voi odottaa 200 millisekunnin kierrosta hyperskalaattorin itärannikon klusteriin. Rahoituspalvelujen petosmalli, joka suorittaa inference-työtä transaktiohetkellä, ei voi poistaa tiliaineistoa alueelle, jossa se rikkoisi GDPR:ää. Suvereeni tekoälykäyttöönotto ei voida perustaa infrastruktuuriin, jota omistaa ja operoi ulkomainen kaupallinen taho.

Eturintamalaboratoriot ovat tietoisia tästä. Anthropicin sopimus Google Cloudin kanssa jopa miljoonaan TPU:hen, jotka toimittavat yli gigawatin tekoälylaskentakapasiteetin vuoteen 2026 mennessä, osoittaa, miten johtavat laboratoriot investoivat ennennäkemättömän mittakaavan infrastruktuurin jalanjäljen muotoiluun inference-työlle.

Data-intensiteetin taksonomia

Kaikki tekoälyjärjestelmät eivät kohtaa tätä haasteen samalla tavalla, ja on opiskeltava karkea taksonomia, koska on erilaisia tekoälymallityyppejä ja -monimuotoisuutta. Tässä on kolme ydinesimerkkiä: LLM, kuva ja fyysinen malli.

Laajat kielen mallit — Claude, GPT ja Gemini -perheet — käsittelevät pääasiassa kielen symboleja: suhteellisen kevyitä, pakattavia ja soveltuvia yksityisyyttä suojeleviin tekniikoihin, kuten differentiaalinen yksityisyys tai liittoutumisen oppiminen. Heidän data anywhere -ongelmansa on hyvin monimutkainen.

Generatiiviset visuaaliset mallit esittävät vielä vaikeamman tapauksen. Järjestelmät kuten Black Forest Labsin FLUX.2 voi tuottaa korkearesoluutioisia, fotorealistisia kuvia alle sekunnissa voimakkaalla laitteistolla, mutta yhden kuvan generointi vaatii paljon enemmän dataa ja laskentaa kuin tekstin generointi. Kun visuaalinen tekoäly siirtyy luovista työkaluista teolliseen tarkasteluun, lääketieteelliseen kuvantamiseen ja satelliittianalyysiin, perustavanlaatuisesti suuri ja arka data on usein vaikea liikuttaa, kasvattaen tarvetta suorittaa tekoäly siellä, missä data jo sijaitsee.

Monimutkaisin kategoria on fyysinen tekoäly. NVIDIA:n Jensen Huang on julistanut, että “fyysinen tekoäly on saapunut, ja jokainen teollisuusyritys tulee olemaan robottiyritys”. Uudet mallit, kuten NVIDIA:n Cosmos 3, antavat koneille yleistyneen ymmärryksen fyysisestä maailmasta yhdistämällä simulaation, näön ja päättelyn, kun taas yritykset kuten Physical Intelligence kouluttavat roboteja todellisen maailman anturidataa — mukaan lukien voiman, liikkeen ja visuaalisen syötteen — mahdollistaakseen sopeutuvamman, autonomisen käyttäytymisen.

Samaa skaalautuvaa dynamiikkaa, joka paransi suuria päättelymallia, sovelletaan nyt todellisen maailman dataan, kuten tärinään, ääneen ja anturisyötteisiin. Mutta tämä tieto on luonnostaan paikallista. Robotti tehtaan lattialla ei voi lähettää reaaliaikaista visuaalista ja kosketustietoa etäiseen pilveen prosessointia varten ilman, että se aiheuttaa viiveitä, jotka voivat luoda turvallisuusriskejä, mikä tarkoittaa, että tekoäly on suoritettava yhä enemmän reunassa, lähellä sitä, missä data on luotu.

Luottamus, selitettävyys ja tulokset

Tässä data anywhere -haaste siirtyy infrastruktuurin ulkopuolelle ja muuttuu hallintokysymykseksi. Kun tekoälyä sovelletaan korkean panoksen päätöksiin — terveydenhuollon diagnooseista rahoitusriskejä arvioivien mallien kautta fyysisten ohjausjärjestelmien ohjaukseen — kysymykset siitä, missä data sijaitsee, ovat yhä enemmän kytköksissä siihen, kuka on vastuussa tuloksista.

Tänään sääntelyympäristössä selitettävyys ei ole vapaaehtoista. EU:n tekoälylain mukaan esimerkiksi korkean riskin järjestelmien on osoitettava perusta ulostulolle, mikä on vaikeaa, jos data, joka ohjaa näitä päätöksiä, on hajautunut useiden järjestelmien, alueiden ja sääntelykehysten ympärille.

Luottamus on siten edellytys laajamittaiselle omaksumiselle. Valvonta data-ympäristöstä on yhtä tärkeää kuin valvonta malleista itsestään.

Seuraava tekoälyinfrastruktuurin sukupolvi

Data anywhere -haasteen ratkaisu määrittää tekoälyn kilpailukartan seuraavaksi vuosikymmeneksi. Federation inference, turvalliset datakäsittely-ympäristöt, reunan optimoidut mallit ja orkesterointijärjestelmät, jotka ottaa huomioon, missä data on sallittua asua, eivät ole niukkoja teknisiä ominaisuuksia, vaan edellytyksiä tekoälyn laajentumiselle niiden käyttötapauksiin, joissa data voidaan vapaasti keskittää.

Yritykset ja hallitukset, jotka rakentavat infrastruktuuria, joka pystyy toimittamaan luotettavaa, selitettävää, suvereenia inferenceä — älykkyyttä, joka saavuttaa datan sen sijaan, että data matkustaa siihen — hallitsevat tekoälyajan kestävimmän esteen. Älykkämmän mallin kouluttaminen on yhä enemmän ratkaistu ja kommodisoitu ongelma. Sen vastuullinen käyttöönotto reunassa, alueellisilla rajoilla, datan kanssa, jota ei voida liikuttaa, on ongelma, joka on jäljellä.

Data anywhere ei ole slogan. Se on vaikein ratkaistu ongelma tekoälyssä. Ja se määrittää, pystyykö poikkeuksellinen kyky, joka on avattu viime vuosikymmenen koulutussijoituksella, kääntymään laajamittaisesti tuloksiin, joita maailma voi luottaa.