Tankeledere

Det overalt-problemet: Hvorfor “Data Overalt” blir den avgjÃļrende infrastrukturutfordringen i AI-ÃĶraen

mm
Legg til Unite.AI blant dine foretrukne kilder pÃĨ Google

Det mest konsekvensfulle spÃļrsmÃĨlet i AI i dag er ikke hvilket modell som er smartest. Det er hvor dataene bor, og om intelligensen kan nÃĨ dem.

I det beste del av et tiÃĨr har AI-industrien operert under en trÃļstende premisse: sentraliser dataene, sentraliser beregningene, og genialitet vil fÃļlge. Hyperscaler-modellen — sentralisering av enorme treningsdatasett i store skytjenester og anvendelse av massive GPU-beregninger for ÃĨ komprimere dem til modellparametere — produserte ekstraordinÃĶre resultater, men ogsÃĨ en arkitektur som nÃĨ strever under vekten av sin egen suksess.

Kall det “data overalt”-problemet. Mens AI flyter ut av forskningslaboratoriet og inn i den operative strukturen i sykehus, fabrikker, finansielle institusjoner og suverene regjeringer, er dataene som mÃĨ informere disse systemene inherent distribuert, juridisk begrenset og operasjonelt ubegjengelig. Regulatorer i Europa insisterer pÃĨ at innbyggernes finansielle poster aldri forlater kontinentet. Et legemiddelselskaps kliniske prÃļvedata i Basel kan ikke lovlig dele en skytjeneste med et genomics-datasett fra Seoul.

Uansett hva tilfelle er, mÃĨ intelligensen gÃĨ til dataene. Dataene, fastsatt, kommer ikke til intelligensen.

Økonomien i skiftet

Denne strukturelle spenningen blir forverret av en samtidig revolusjon i AI-Ãļkonomi. Industrien gjennomgÃĨr en tektonisk omjustering fra trenings-sentrert til inferens-sentrert utgift, og implikasjonene for dataarkitektur er dyptgÃĨende.

Deloitte estimerte at inferens-arbeidsbyrder utgjorde halvparten av all AI-beregning i 2025, et tall som vil Ãļke til to tredeler i 2026. Forholdet inverteres med forblÃļffende hastighet. Analytikere estimerer at i 2026 vil inferens-etterfrage overstige trenings-etterfrage med 118 ganger. I 2030 kan inferens utgjÃļre 75% av total AI-beregning, og drive 7 billioner dollar i infrastruktur-investeringer.

Kostnads-matematikk er like vertiginÃļs. For hver 1 milliard dollar brukt pÃĨ ÃĨ trene et AI-modell, mÃļter organisasjonene 15–20 milliarder dollar i inferens-kostnader over modellens produksjonslevetid: et forhold illustrert tydelig av GPT-4, hvis treningskostnader var rundt 150 millioner dollar, men kumulative inferens-kostnader nÃĨdde 2,3 milliarder dollar ved slutten av 2024. Treningskostnader, en gang AI-investorers og innkjÃļpsansvarliges hovedfokus, omdefineres nÃĨ som en engangskost. Inferens er den permanente driftskostnaden for intelligens, og det er nÃĨ den dominerende linje-posten.

Likevel ligger her paradokset: Inferens-kostnader for et GPT-3.5-nivÃĨ system falt mer enn 280 ganger mellom november 2022 og oktober 2024, med hÃĨrdvaru-kostnader som sank rundt 30% ÃĨrlig og energi-effektivitet som forbedret seg 40% per ÃĨr. Priser synker; forbruk akselerer raskere. Per-enhet inferens-kostnader falt 100 ganger, mens Microsoft og Google rapporterte at AI-arbeidsbyrder Ãļkte 31 ganger i halvparten av perioden.

Den Jevons-paradokset, hvor effektivitetsgevinster driver stÃļrre ressursbruk, har funnet en moderne uttrykk i GPU-kluster.

Hvor Data Bor, MÃĨ Intelligensen FÃļlge

Inferens-Ãļkonomien omdefinerer fundamentalt infrastruktur-kravene, og ingen steder mer enn rundt data-tyngde. Inferens, i motsetning til treningsarbeid, er ikke en batch-jobb som kjÃļres en gang i et datasenter. Det er en kontinuerlig, latens-fÃļlsom, geografisk distribuert tjeneste, og bare like god som dataene den kan nÃĨ i Ãļyeblikket av spÃļrring.

Dette er kjernen i “data overalt”-utfordringen.

For eksempel kan en sprÃĨkmodell som resonerer over en pasients live ICU-telemetri ikke ha rÃĨd til en 200-millisekunders tur-og-retur-reise til en hyperskalerers Ãļstkyst-kluster. En finansiell tjeneste-svindelmodell som kjÃļrer inferens ved transaksjonspunktet kan ikke eksfiltrere konto-data til en jurisdiksjon hvor det ville bryte GDPR. En suveren AI-utplassering kan ikke baseres pÃĨ infrastruktur eid og operert av en utenlandsk kommersiell enhet.

Forskningslaboratoriene er akutt klar over dette. Anthropics avtale med Google Cloud for opptil en million TPUs, som leverer mer enn en gigawatt AI-beregning kapasitet ved 2026, signaliserer hvordan ledende laboratorier investerer i utenfor sammenligning stor skala for ÃĨ forme den globale infrastruktur-fotavtrykket av inferens.

En Taksonomi Av Data-Intensitet

Ikke alle AI-systemer konfronterer denne utfordringen identisk, og det er instruktivt ÃĨ vurdere en grov taksonomi ettersom det finnes ulike typer AI-modeller og kompleksitet. La oss bryte det ned med tre kjerne-eksempler: LLM, bilde og fysiske modeller.

Store sprÃĨkmodeller — Claude-, GPT- og Gemini-familiene — behandler primÃĶrt sprÃĨk-tokens: relativt lette, komprimerte og ÃĨpne for privatlivs-bevarende tekniker som differensial-privatliv eller fÃļderert lÃĶring. Deres “data overalt”-problem er svÃĶrt komplekst.

Generative visuelle modeller presenterer en enda hardere sak. Systemer som Black Forest Labs’ FLUX.2 kan produsere hÃļyopplÃļselige, fotorealistiske bilder pÃĨ under ett sekund pÃĨ kraftig maskinvare, men ÃĨ generere ett enkelt bilde krever langt mer data og beregning enn ÃĨ generere tekst. Mens visuell AI flytter seg utenfor kreative verktÃļy og inn i industriell inspeksjon, medisinsk bildebehandling og satellitt-analyse, er underliggende data ofte store, fÃļlsomme og vanskelige ÃĨ flytte, og Ãļker behovet for ÃĨ kjÃļre AI hvor data allerede bor.

Den mest komplekse kategorien er fysisk AI. NVIDIA’s Jensen Huang har erklÃĶrt at “fysisk AI har ankommet, og hver industrivirksomhet vil bli en robot-virksomhet”. Nye modeller som NVIDIA’s Cosmos 3 har som mÃĨl ÃĨ gi maskiner en generalisert forstÃĨelse av den fysiske verden ved ÃĨ kombinere simulering, visjon og resonnering, mens selskaper som Physical Intelligence trener roboter pÃĨ sanntids-sensor-data – inkludert kraft, bevegelse og visuelle innputt – for ÃĨ muliggjÃļre mer tilpasningsdyktig, autonom adferd.

De samme skalerings-dynamikkene som forbedret store resonans-modeller blir nÃĨ anvendt pÃĨ sanntids-data som vibrasjon, lyd og sensor-innputt. Men denne informasjonen er inherent lokal. En robot pÃĨ en fabrikk-gulv kan ikke sende sanntids-visuell og berÃļrings-data til et fjernt skytjeneste uten ÃĨ introdusere forsinkelser som kunne skape sikkerhets-risiko, og AI mÃĨ derfor stadig kjÃļres pÃĨ kanten, nÃĶr hvor data genereres.

Tillit, Forklarbarhet Og Resultater

Dette er hvor “data overalt”-utfordringen beveger seg utenfor infrastruktur og blir et styrings-spÃļrsmÃĨl. Mens AI anvendes pÃĨ hÃļyrisiko-beslutninger – fra helsetjenester til finansielle risiko-modeller til fysiske kontrollsystemer – spÃļrsmÃĨl om hvor data bor er stadig mer knyttet til hvem som er ansvarlig for resultater.

I dagens regulerings-miljÃļ er forklarbarhet ikke valgfritt. EU’s AI-lov, for eksempel, krever at hÃļyrisiko-systemer demonstrerer grunnlaget for sine utdata, noe som er vanskelig hvis dataene som informerer disse beslutningene er distribuert over flere systemer, jurisdiksjoner og regulerings-rammer.

Tillit blir derfor en forutsetning for adopsjon i stor skala. Kontroll over data-miljÃļet blir like viktig som kontroll over modellene selv.

Neste Generasjon Av AI-Infrastruktur

LÃļsningen av “data overalt”-utfordringen vil definere den konkurranse-messige kartet av AI for de neste ti ÃĨrene. FÃļderert inferens, sikre data-behandlings-miljÃļer, kant-optimerte modeller og orkestrerings-systemer som tar hensyn til hvor data er tillatt ÃĨ bo, er ikke nisje-tekniske funksjoner, men forutsetninger for AI-utvidelse utenfor brukstilfeller hvor data kan sentraliseres fritt.

Selskaper og regjeringer som bygger infrastruktur i stand til ÃĨ levere pÃĨlitelig, forklarbar, suveren inferens — intelligens som nÃĨr dataene i stedet for ÃĨ kreve at dataene reiser til den — vil kommandere AI-ÃĶras mest varige fosse. Å trene en smartere modell er stadig et lÃļst og kommodifisert problem. Å utplassere den ansvarlig, pÃĨ kanten, over jurisdiksjons-grenser, mot data som ikke kan flytte, er problemet som gjenstÃĨr.

Data overalt er ikke et slagord. Det er det hardeste ulÃļste problemet i bedrifts-AI. Og det vil bestemme om den ekstraordinÃĶre kapasiteten som er lÃĨst opp av det siste tiÃĨrets trenings-investering noen gang oversettes, i stor skala, til resultater verden kan stole pÃĨ.

ies, mot data som ikke kan flytte, er problemet som gjenstÃĨr. Data overalt er ikke et slagord. Det er det hardeste ulÃļste problemet i bedrifts-AI. Og det vil bestemme om den ekstraordinÃĶre kapasiteten som er lÃĨst opp av det siste tiÃĨrets trenings-investering noen gang oversettes, i stor skala, til resultater verden kan stole pÃĨ.

Som sjefstrategidirektÃļr leder Abhas det overordnede selskapsstrategien for Cloudera og er ansvarlig for ÃĨ lage selskapets visjon, bygge forretnings- og kundemodellen, kommunisere dette med nÃļkkelstakeholdere via tydelig definerte OKR-er, og gjennomfÃļre nÃļkkeltransformasjonsinitiativer for ÃĨ realisere planen. Han er ogsÃĨ ansvarlig for ÃĨ drive vekst og innovasjon og ta beslutninger om bygging/kjÃļp av partnere, inkludert prising og pakking, bedriftsutvikling og Clouderas innovasjonsakselerator for ÃĨ lansere nye produkter. Tidligere var han sjef for staben og visepresident for forretningstransformasjon i selskapet.

FÃļr Cloudera/Hortonworks-fusjonen hjalp han med ÃĨ skalle Hortonworks' markedsfÃļringsinnsats som global sjef for kundeinnovasjon og verdiledelse. Som en ledelseskonsulent av utdanning er han lidenskapelig opptatt av ÃĨ drive handling og endring i samfunnet og har ledet prosjekter med flere organisasjoner, inkludert Verdens Ãļkonomiske forum, Founders of the Future og andre ideelle organisasjoner.