Privat AI kræver infrastruktur, der kan udvikle sig i takt med arbejdsbelastningen

For to år siden antog næsten alle de virksomheder, jeg talte med, at AI betød, at man kaldte på en af de mest avancerede modeller via et API. Den antagelse er ved at falde fra hinanden. Modeller med åbne vægte er blevet gode nok til mange daglige opgaver, og det, der typisk gør en virksomheds AI-applikation værdifuld, er virksomhedens egne data – ikke modellen bag den. Når virksomheder først ser det sådan, er det sund fornuft at holde modellen tæt på deres data og under deres kontrol.

Det er dét, privat AI er. Man kører modellen i sit eget miljø, tilpasser den til sine egne oplysninger og bestemmer, hvor den fungerer, og hvad den må tilgå. Hvis man er en bank eller en medicinalvirksomhed, har man aldrig været tryg ved at lægge fortrolig forskning eller kunderegistre i en andens miljø. For alle andre skyldes interessen de store inferensomkostninger i stor skala og ønsket om ikke at være afhængig af én enkelt udbyder for noget, der bliver centralt for virksomhedens drift. Ifølge Linux Foundations undersøgelse brugte 63 % af de adspurgte virksomheder en AI-model med åbne vægte, hvilket viser, hvor udbredt brugen af disse alternativer allerede er.

Det, folk undervurderer, er, at infrastrukturen følger med, når man tager modellen hjem i sin egen organisation. Strøm, køling, beregningskapacitet, placering og forbindelsen til alt det øvrige. Tidligere var det cloududbyderens problem. Nu er det dit. De fleste virksomheder har aldrig skullet træffe den slags beslutninger før, og teknologien ændrer sig hurtigere, end man kan nå at støbe beton. Hvis du dimensionerer forkert, ender du med kapacitet, der ikke passer til den arbejdsbelastning, du faktisk får. Fleksibilitet skal tænkes ind fra starten. Det kan være dyrt at tilpasse den eksisterende infrastruktur bagefter, hvis det overhovedet er muligt, og nogle udbydere kan ganske enkelt ikke gøre det, fordi deres faciliteter aldrig er bygget til så høj en effekttæthed.

Opbyg grundkapaciteten, og lej kapacitet til spidsbelastningerne

Begynd med at erkende, at du ikke har brug for den største model til alle opgaver. At opsummere dokumenter, klassificere supportsager og besvare spørgsmål ved hjælp af din egen vidensbase er alt sammen opgaver, som en model med åbne vægte kan håndtere privat til en pris, du kan forudsige. Gem de mest avancerede modeller til det arbejde, der virkelig kræver dem.

Det fortæller dig, hvordan infrastrukturen bør indrettes. Opbyg privat kapacitet til den stabile efterspørgsel, du kan forudse fra uge til uge. Lej ekstern kapacitet til spidsbelastninger og de krævende opgaver, der overstiger din egen kapacitet. Sådan har virksomheder længe håndteret beregningskapacitet, og AI ændrer ikke logikken; den øger blot grundkapacitetens tæthed og udvider spændet for, hvor meget spidsbelastningen kan svinge.

Udfordringen er at dimensionere grundkapaciteten korrekt og samtidig få det private miljø og det lejede miljø til at fungere som ét system. Begge skal have adgang til de samme data og være underlagt de samme kontrolmekanismer, uden at virksomhederne skal genopbygge datapipelinen, hver gang en arbejdsbelastning flyttes fra det ene miljø til det andet.

Hvor skal infrastrukturen placeres?

Det viser sig, at det er den nemme beslutning at købe GPU’erne. Derefter skal man finde et sted til dem, forsyne dem med strøm, køle dem og forbinde dem med resten af it-miljøet. AI-hardware med høj tæthed kan ikke uden større ændringer af strøm- og kølesystemerne installeres i et standarddatacenter til virksomheder, og den hører ikke hjemme alle de steder, hvor man driver datacentre. I Uptime Institutes undersøgelse af AI-infrastruktur i 2025 pegede 37 % af respondenterne på adgang til strøm som en af de vigtigste faktorer for, hvor de kører AI-inferensarbejdsbelastninger.

De fleste virksomheder ender med en kombination af colocation og cloud. Det afgørende er som regel dataene. De er allerede spredt flere steder, det er dyrt at flytte dem, og i regulerede brancher må nogle af dem ikke forlade et land eller et bestemt miljø. Det lyder enkelt at samle det hele i én bygning ved siden af GPU’erne, men det sker næsten aldrig.

Spørgsmålet er altså ikke kun, hvor beregningskapaciteten befinder sig. Det handler også om, hvordan den får sikker adgang til de nødvendige data uden at medføre omkostninger og kompleksitet, som man vil fortryde om tre år. Tænk på det som det tredje skifte. Det første var internettet, og forbindelser løste udfordringen. Det andet var cloud, og netværksinfrastrukturen løste den ved at muliggøre softwaredefineret sammenkobling, så virksomheder kunne oprette forbindelse til forskellige udbydere fra ét sted. Det tredje er AI, og netværksinfrastruktur alene løser ikke udfordringen. Det kræver strøm – store mængder strøm – samme sted som netværksinfrastrukturen. De virksomheder, der lykkes med privat AI, bliver dem, der placerer beregningskapaciteten dér, hvor strøm og forbindelser mødes, i stedet for at behandle dem som to separate indkøbsopgaver.

Sådan forbindes privat AI, når arbejdsbelastningerne ændrer sig

Agentbaseret AI gør spørgsmålet om forbindelser mere presserende. En konventionel applikation modtager en prompt, kalder på en model og returnerer et svar. En agent er i gang hele tiden. Den kalder på flere modeller, forespørger flere systemer, henter data, uanset hvor de befinder sig, og giver opgaver videre til andre agenter. Hvert eneste af disse spring krydser en grænse, hvilket øger forsinkelsen og rejser spørgsmålet om, hvem der har lov til at tilgå hvad.

Placér nu modellen ét sted og dataene et andet, og indfør en regel om, at nogle af dataene skal blive inden for et bestemt land eller i et privat miljø. Virksomheder har brug for reel kontrol over disse dataforbindelser: Hvilke systemer kan få adgang til hvilke data, hvad sker der, når en arbejdsbelastning flyttes, og hvordan kobles en ny model til uden at forstyrre alt det, der allerede kører?

Derfor skal infrastrukturen kunne programmeres. Forbindelserne mellem modeller, data og miljøer skal være noget, man kan konfigurere og ændre, ikke et nyt ingeniørprojekt hver gang. I stigende grad er det ikke et menneske, der står for konfigurationen. Standarder som Model Context Protocol, eller MCP, giver en agent en fælles måde at kommunikere med de værktøjer og systemer, der omgiver den. En agent, der har brug for forbindelse til en ny datakilde eller en ny model, kan anmode om den på samme måde, som den ville kalde enhver anden tjeneste, mens de relevante politikker og kontroller fortsat er på plads. Det er sådan, programmerbar infrastruktur fungerer i praksis. Der kommer nye modeller med få måneders mellemrum. Nye applikationer får brug for forbindelser, der ikke findes i dag. Hvis enhver ændring kræver, at man bygger det hele op igen, har man mistet den fleksibilitet, man gik over til privat drift for at opnå.

Få økonomien til at hænge sammen

Det er afgørende for succes at få kapaciteten til at passe, og det handler om mere end det samlede antal. Virksomheder, der lykkes med dette, har en klar forståelse af forholdet mellem den strøm, de tilfører, og de tokens, de får ud. Forholdet mellem strømforbrug og tokens er den økonomiske måleenhed for privat AI, og hvis du forstår det for dine egne arbejdsbelastninger, kan du dimensionere miljøet med stor sikkerhed. Den anden faktor er kapacitetsreserven. Nye funktioner kommer på markedet hvert kvartal, og virksomheder, der planlægger godt, sørger altid for plads til det næste i stedet for at dimensionere helt præcist efter dagens behov. Den bedste plan kombinerer de to dele. Kend økonomien i forholdet mellem strømforbrug og tokens til bunds, og læg derefter en fornuftig sikkerhedsmargin oveni.

GPU’erne er kun en del af regningen. Udgifterne til at huse dem, køle dem, forsyne dem med strøm og forbinde dem med resten af virksomheden kan være lige så store som udgifterne til selve hardwaren. Og så er der medarbejderne. De fleste virksomheder har aldrig drevet et computermiljø med høj tæthed, og den slags kompetencer kan man ikke rekruttere sig til på et kvartal.

Derfor er grundkapaciteten og spidsbelastningen vigtige. Opbyg tilstrækkelig privat kapacitet til at håndtere den normale belastning, og lej ekstra kapacitet, når efterspørgslen overstiger den. Så undgår du at betale for hardware, der står ubrugt det meste af året. Samtidig bevarer du muligheden for at ændre kurs, efterhånden som modellerne og applikationerne ændrer sig – og det kommer de til.

Planlægning for det, der venter

Under alt dette ligger der en timingmæssig udfordring. Det tager omkring to år at bygge et datacenter. Om to år vil de modeller, den hardware og de applikationer, som virksomheder ønsker at køre, se væsentligt anderledes ud end i dag. Det, du beslutter dig for nu, kommer til at køre arbejdsbelastninger, som ingen endnu kan beskrive fuldt ud.

Virksomheder er stadig ved at finde ud af, hvilke arbejdsbelastninger der hører hjemme i et privat miljø, og hvornår de har brug for ekstern kapacitet. Det er helt rimeligt at være nået dertil. Det, man skal undgå, er at binde sig til infrastruktur på en måde, der fratager en muligheden for selv at træffe beslutningen, før man har haft chancen for det. Sørg for plads til forskellige modeller, til mere kapacitet, når der er brug for det, og til at flytte arbejdsbelastninger.

Om privat AI giver udbytte på lang sigt, afhænger mindre af, hvilken model du vælger, og mere af, om din infrastruktur kan følge med, efterhånden som dine behov bliver tydeligere. Byg til de arbejdsbelastninger, du har i dag, sørg for, at forbindelserne kan programmeres, og placér computerkraften dér, hvor netværksinfrastrukturen møder strømforsyningen.