Privat KI trenger infrastruktur som kan utvikle seg i takt med arbeidsbelastningen

For to år siden antok nesten alle virksomhetene jeg snakket med at KI betydde å kalle opp en frontmodell via et API. Den antakelsen er i ferd med å slå sprekker. Modeller med åpne vekter har blitt gode nok til mye av det daglige arbeidet, og det som vanligvis gjør en KI-applikasjon verdifull for en virksomhet, er virksomhetens egne data, ikke modellen den bygger på. Når virksomhetene først ser det slik, er det rett og slett sunn fornuft å holde modellen nær dataene og under egen kontroll.

Det er dette privat KI er. Du kjører modellen i ditt eget miljø, tilpasser den med dine egne opplysninger og bestemmer hvor den skal kjøre, og hva den får tilgang til. Er du en bank eller et legemiddelselskap, ville du uansett aldri vært komfortabel med å legge proprietær forskning eller kundeopplysninger i en annens kundemiljø. For alle andre kommer drivkraften fra inferenskostnadene i stor skala og fra ønsket om ikke å være avhengig av én enkelt leverandør for noe som blir stadig viktigere for hvordan virksomheten drives. Ifølge forskning fra Linux Foundation brukte 63 % av de spurte virksomhetene en KI-modell med åpne vekter, noe som viser hvor utbredt disse alternativene allerede er blitt.

Det folk undervurderer, er at infrastrukturen følger med når du tar modellen inn i eget miljø. Strøm, kjøling, datakraft, hvor den skal stå, og hvordan den skal kobles til alt annet. Før var dette skyleverandørens problem. Nå er det ditt. De fleste virksomheter har aldri måttet ta slike beslutninger før, og teknologien endrer seg raskere enn noen rekker å støpe betong. Hvis du dimensjonerer feil, sitter du med kapasitet som ikke passer til arbeidsbelastningen du faktisk ender opp med. Fleksibilitet må bygges inn fra starten. Det kan være dyrt å bygge om eksisterende infrastruktur, der det i det hele tatt lar seg gjøre, og enkelte leverandører kan ganske enkelt ikke gjøre det fordi anleggene deres aldri ble bygget for denne typen tetthet.

Bygg grunnkapasiteten, lei inn for toppene

Begynn med å erkjenne at du ikke trenger den største modellen til alle oppgaver. Å oppsummere dokumenter, klassifisere supportsaker og svare på spørsmål ved hjelp av din egen kunnskapsbase er oppgaver en modell med åpne vekter kan utføre privat, til en kostnad du kan forutsi. Spar frontmodellene til arbeidet som virkelig trenger dem.

Det viser hvilken form infrastrukturen bør ha. Bygg privat kapasitet for den jevne etterspørselen du vet kommer hver uke. Lei kapasitet utenfra til toppene og de krevende oppgavene som overstiger det du har. Slik har virksomheter drevet datakraft lenge, og KI endrer ikke logikken; den øker bare tettheten i grunnkapasiteten og gjør at toppene kan svinge mer.

Utfordringen er å dimensjonere grunnkapasiteten riktig, samtidig som du får det private miljøet og det innleide miljøet til å fungere som ett system. Begge må ha tilgang til de samme dataene og være underlagt de samme kontrollene, uten at virksomhetene må bygge opp datastrømmen på nytt hver gang en arbeidsbelastning flyttes fra det ene miljøet til det andre.

Hvor skal infrastrukturen stå?

Det viser seg at det enkle er å kjøpe GPU-ene. Deretter må du finne et sted til dem, sørge for strøm og kjøling og koble dem til resten av IT-miljøet. AI-maskinvare med høy tetthet kan ikke settes inn i et vanlig datasenter for virksomheter uten betydelige endringer i strøm- og kjølesystemene, og den passer ikke på alle stedene du driver. I Uptime Institutes undersøkelse av AI-infrastruktur for 2025 oppga 37 % av respondentene at tilgang på strøm var en av de viktigste faktorene for hvor de kjører inferensarbeidsbelastninger for KI.

De fleste virksomheter ender opp med en kombinasjon av samlokalisering og sky. Det som vanligvis avgjør, er dataene. De er allerede spredt på flere steder, det er dyrt å flytte dem, og i regulerte bransjer kan noen av dem ikke forlate et land eller et bestemt miljø. Det høres ryddig ut å samle alt i én bygning ved siden av GPU-ene, men det skjer nesten aldri.

Spørsmålet er altså ikke bare hvor datakraften befinner seg. Det handler også om hvordan datakraften får sikker tilgang til dataene den trenger, uten å påføre deg kostnader og kompleksitet du vil angre på om tre år. Tenk på dette som det tredje store skiftet. Det første var internett, og tilkobling løste utfordringen. Det andre var skyen, og sammenkoblingsinfrastrukturen løste den ved å muliggjøre programvaredefinert sammenkobling, slik at virksomheter kunne koble seg til ulike leverandører fra ett og samme sted. KI er det tredje skiftet, og sammenkoblingsinfrastruktur alene løser ikke utfordringen. Det trengs strøm, mye strøm, på samme sted som sammenkoblingsinfrastrukturen. Virksomhetene som lykkes med privat KI, blir de som plasserer datakraften der strøm og tilkobling møtes, i stedet for å behandle disse som to separate innkjøpsprosesser.

Koble sammen privat KI i takt med at arbeidsbelastningene endres

Agentisk KI gjør spørsmålet om tilkobling mer presserende. En vanlig applikasjon tar imot en ledetekst, kaller opp en modell og gir tilbake et svar. En agent er i aktivitet hele tiden. Den kaller opp flere modeller, spør flere systemer, henter data der de enn måtte befinne seg og overlater arbeid til andre agenter. Hvert eneste steg går på tvers av en grense, noe som gir forsinkelser og reiser spørsmålet om hvem som har tilgang til hva.

Plasser nå modellen ett sted, dataene et annet, og innfør en regel om at noen av dataene må bli værende i et bestemt land eller i et privat miljø. Bedrifter trenger reell kontroll over disse banene: hvilke systemer som får tilgang til hvilke data, hva som skjer når en arbeidsbelastning flyttes, og hvordan en ny modell kobles til uten å forstyrre alt som allerede kjører.

Derfor må infrastrukturen være programmerbar. Forbindelsene mellom modeller, data og miljøer bør være noe man kan konfigurere og endre, ikke et ingeniørprosjekt hver gang. Stadig oftere vil det ikke være et menneske som står for konfigureringen. Standarder som Model Context Protocol, eller MCP, gir en agent en felles måte å kommunisere med verktøyene og systemene rundt seg på. En agent som trenger en forbindelse til en ny datakilde eller en ny modell, kan be om den på samme måte som den ville ha kalt en hvilken som helst annen tjeneste, samtidig som de nødvendige retningslinjene og kontrollene opprettholdes. Det er dette programmerbar infrastruktur betyr i praksis. Nye modeller dukker opp med noen måneders mellomrom. Nye applikasjoner vil trenge forbindelser som ikke finnes i dag. Hvis hver endring krever at alt bygges opp på nytt, har du mistet fleksibiliteten du gikk over til en privat løsning for å få.

Få økonomien til å gå opp

Riktig dimensjonering av kapasiteten er avgjørende for å lykkes, og det handler om mer enn den samlede kapasiteten. Bedrifter som gjør dette godt, har en klar forståelse av forholdet mellom strømforbruket de legger inn, og antallet tokens de får ut. Forholdet mellom strømforbruk og tokens er det økonomiske målet for privat KI, og hvis du forstår dette for dine egne arbeidsbelastninger, kan du dimensjonere miljøet med stor trygghet. En annen viktig faktor er å ha kapasitet i reserve. Nye funksjoner kommer på markedet hvert kvartal, og bedrifter som planlegger godt, sørger alltid for rom til det som kommer, i stedet for å dimensjonere nøyaktig etter dagens behov. Den beste planen kombinerer begge deler. Ha full oversikt over økonomien i forholdet mellom strømforbruk og tokens, og planlegg deretter en fornuftig sikkerhetsmargin.

GPU-ene er bare en del av regningen. Lokaler, kjøling, strømforsyning og tilkobling til resten av virksomheten kan koste like mye som selve maskinvaren. Og så er det personellet. De fleste større virksomheter har aldri drevet et datamiljø med høy tetthet, og slik kompetanse skaffer man seg ikke i løpet av ett kvartal.

Derfor er grunnkapasiteten og toppbelastningen viktig. Bygg opp nok privat kapasitet til å håndtere den vanlige belastningen, lei inn ekstra kapasitet når etterspørselen overstiger den, så unngår du å betale for maskinvare som står ubrukt det meste av året. Du beholder også muligheten til å endre kurs etter hvert som modellene og applikasjonene endrer seg, noe de kommer til å gjøre.

Planlegg for det som kommer

Under alt dette ligger en utfordring knyttet til tid. Det tar omtrent to år å bygge et datasenter. Om to år vil modellene, maskinvaren og applikasjonene bedriftene ønsker å kjøre, se betydelig annerledes ut enn i dag. Det du forplikter deg til nå, kommer til å kjøre arbeidsbelastninger som ingen ennå kan beskrive fullt ut.

Bedrifter prøver fortsatt å finne ut hvilke arbeidsbelastninger som hører hjemme i et privat miljø, og når de trenger kapasitet utenfra. Det er helt rimelig å være på det stadiet. Det man bør unngå, er å inngå infrastrukturforpliktelser som tar beslutningen ut av hendene på en før man har fått mulighet til å ta den. Sørg for rom til ulike modeller, til mer kapasitet når du trenger det, og til å flytte arbeidsbelastninger.

Om privat KI lønner seg på lang sikt, vil i mindre grad avhenge av hvilken modell du velger, og i større grad av om infrastrukturen kan holde tritt etter hvert som kravene dine blir tydeligere. Bygg for arbeidsbelastningen du har i dag, sørg for at forbindelsene kan programmeres, og plasser datakraften der nettverksinfrastrukturen møter strømforsyningen.