Virksomheds-AI har brug for kumulativ kontekst, før den kan opnå autonomi

Forestil dig, at det er mandag morgen, få timer før mødet om den kvartalsvise prognose. En økonomiansvarlig spørger en AI-agent: »Hvorfor faldt bruttoavancen? Hvilke antagelser skal ændres? Og hvad bør virksomheden gøre nu?« På få sekunder henter agenten oplysninger fra flere systemer, identificerer en række årsager og anbefaler at skære ned på de skønsmæssige udgifter eller revidere ansættelsesplanen. Svaret er klart, detaljeret og plausibelt. Der er ikke noget ved det, der umiddelbart ser forkert ud.

Det er netop det, der gør det så farligt. 

Hvis man løfter sløret, viser der sig flere manglende detaljer. Agenten brugte den forkerte version af prognosen. Den overså en godkendt regnskabsmæssig justering fra det foregående kvartal. Den tog ikke højde for, at en region følger andre forretningsregler. De underliggende data var ikke nødvendigvis forkerte; agenten vidste simpelthen ikke, hvordan organisationen fortolkede dataene, eller hvordan de enkelte dele hang sammen. Problemet ligger ikke i modellen, og det er ikke noget, en anden model uden videre kan løse. Problemet er, at modellen ikke kender denne virksomhed. 

En stor del af udviklingen inden for virksomheds-AI har været koncentreret om modellernes kapacitet og agenternes autonomi. Men en model kan ikke nå frem til en pålidelig konklusion, der er specifik for virksomheden, medmindre den forstår, hvordan organisationen definerer sine tal, og hvordan de hænger sammen med virksomhedens drift. 

Det manglende lag er kumulativ forretningskontekst – en styret forståelse af, hvad virksomhedens data betyder: deres definitioner, relationer, antagelser, beregninger, arbejdsgange, undtagelser og de beslutninger, der akkumuleres omkring dem over tid.

Denne kontekst udvikles gennem planlægning, prognoser, scenariemodellering, afvigelsesanalyse, korrektioner, feedback, afslutningsarbejde og godkendte beslutninger. Uden den risikerer organisationer at give AI mere ansvar uden samtidig at give den tilstrækkelig forretningsforståelse til at løfte ansvaret pålideligt. 

AI-kapaciteten vokser hurtigere end virksomhedernes parathed

Ifølge Stanford’s 2026 AI Index brugte 88 % af de adspurgte organisationer AI i 2025, men udbredelsen af AI-agenter lå fortsat på encifrede niveauer inden for næsten alle forretningsfunktioner. 

Disse statistikker viser, at virksomhederne har adgang til AI-kapaciteter, men at mange ikke er klar til at lade AI udføre arbejde med væsentlige konsekvenser. Lederne ved, at de skal udvikle sig med AI, men de skal stadig afgøre, om de arbejder med det rigtige lag af problemet.

En model kan læse data uden at forstå virksomheden

Grundmodeller er gode til mønstergenkendelse, syntese, naturlig sproginteraktion og udforskning af store datasæt. Det er væsentlige fremskridt, men selve modellen bliver en stadig mindre afgørende forskel. 

Den vanskeligere udfordring for virksomhederne er at lære AI, hvad virksomhedens oplysninger betyder, og – ikke mindst – hvordan de bruges i beslutningstagning og analyse.

En stor del af debatten om AI-styring har fokuseret på rene data. Det er et nødvendigt skridt, men ikke tilstrækkeligt, når AI skal skaleres til bred anvendelse i virksomheder. To rene datasæt kan stadig bygge på forskellige definitioner, tidsperioder og forretningsregler. 

IBM’s 2025 CEO Study viste, at 25 % af AI-initiativerne leverede det forventede investeringsafkast, og at kun 16 % blev skaleret til brug i hele virksomheden. Dette mønster stemmer overens med en større implementeringsudfordring: Adgang til modeller og data sikrer ikke, at et AI-system kan afstemme de organisatoriske regler, der afgør, hvordan oplysninger skal bruges.

Det er nemt at anskaffe mere kapable modeller. En virksomhedsspecifik forståelse skal opbygges. 

Kontekst ved hentning er ikke kumulativ kontekst

Meget af det, der beskrives som kontekst i virksomheds-AI, tilføres stadig via hentning, når en forespørgsel stilles. Systemet finder et relevant dokument, en post eller et datapunkt og bruger det til at generere et svar. Næste gang det bliver spurgt, begynder det forfra. 

Hentning er nyttig, men skaber ikke i sig selv en kumulativ organisatorisk hukommelse. Der føres kun lidt videre, hvilket betyder, at AI kan møde virksomheden som en fremmed i hver ny interaktion.

Det svarer til at introducere en ny, brillant analytiker hver morgen. Analytikeren forstår økonomi og ved, hvordan man undersøger et datasæt, men skal stadig lære, hvordan netop denne virksomhed definerer sine målepunkter, hvilken prognose der er gældende, hvorfor en undtagelse blev godkendt, og hvilke antagelser der gentagne gange viser sig at være forkerte.

Kumulativ kontekst tjener et andet formål. I stedet for at blive nulstillet ved hver prompt eller planlægningscyklus opbygges konteksten over tid. Hver undersøgelse, hvert scenarie, hver korrektion, godkendelse og beslutning kan bidrage til en styret forståelse af, hvordan organisationen fungerer. Det betyder, at senere cyklusser kan bygge videre på det, tidligere cyklusser har fastslået, i stedet for ved hver prompt at genopdage de samme relationer, den samme logik og de samme arbejdsmåder. 

Det betyder ikke, at alt skal gemmes på ubestemt tid. Nyttig kontekst i virksomheden skal afgrænses bevidst, kunne korrigeres, tage højde for tilladelser og kunne spores tilbage til sin kilde. Organisationer skal bevare det, der er vigtigt, og samtidig sikre, at forældede antagelser, midlertidige undtagelser og fejlagtige fortolkninger kan identificeres og ændres over tid.

Tillid hviler på mere end modellen

Modellen er den mest synlige del af et AI-system, men det er sjældent den del, der afgør, om en virksomhed kan have tillid til resultatet. 

En kompetent model kan undersøge en afvigelse, udforske mulige forklaringer og anbefale en handling. Om en virksomhed kan stole på anbefalingen, afhænger af den arkitektur, der omgiver modellen. 

Gartner fandt, at organisationer, der rapporterede vellykkede AI-initiativer, investerer op til fire gange så meget, målt som andel af omsætningen, i grundlæggende områder som datakvalitet, styring, AI-kompetencer og forandringsledelse end organisationer, der oplever dårlige resultater.

Det styrede kontekstlag er en del af dette fundament og ligger mellem kildesystemer, modeller og forretningshandlinger. 

Det er også her, intelligens og determinisme må adskilles. AI kan undersøge, udarbejde udkast og komme med anbefalinger. Når en handling er blevet gennemgået og godkendt, bør udførelsen ske gennem styrede beregninger, tilladelseskontroller, kontroller for tilbageskrivning og revisionsspor. Den fleksibilitet, der gør en model nyttig til udforskning, er ikke altid passende, når en ændring gennemføres i virksomheden.

En model kan anbefale, hvad der bør ske. Den omgivende arkitektur, herunder menneskelig godkendelse og systemkontroller, afgør, hvad der må ske.

Begrænsninger, der gør agenter nyttige

Agenter bliver indført hurtigere, end de tilhørende kontroller bliver etableret. KPMG fandt, at andelen af organisationer, der anvender mindst nogle AI-agenter, steg fra 11 % i første kvartal 2025 til 42 % i tredje kvartal. Gartner rapporterede imidlertid, at kun 13 % af organisationerne i høj grad var enige i, at de havde de rette styringsstrukturer for agenter på plads.

Dette gab er vigtigt, fordi kapacitet og beføjelser er to forskellige designbeslutninger. Et system kan rent teknisk have adgang til en database, ændre en prognose eller igangsætte en arbejdsgang. Det betyder ikke, at det bør have tilladelse til at gøre disse ting på egen hånd. 

Organisationer bør indføre tre begrænsninger, før de delegerer opgaver af væsentlig betydning.

• Skab en fælles forståelse

Definitioner, målepunkter, hierarkier, regnskabskalendere og beregningsregler skal afstemmes, før en agent kan ræsonnere konsekvent på tværs af dem. 

Man bør ikke forvente, at AI i stilhed løser uenigheder, som organisationen ikke selv har taget stilling til. Uden en fælles forståelse kan AI behandle modstridende definitioner, som om de var udskiftelige, og give et svar, der virker sammenhængende, men er forkert i praksis.

• Beslut, hvad der skal videreføres

Organisationer skal fastlægge, hvilke korrektioner, godkendelser, beslutninger og resultater der skal blive til genanvendelig kontekst. De har også brug for politikker for opbevaring, adgang og korrektion. 

Nyttig hukommelse udvælges og styres; den ophobes ikke ukritisk. Ellers kan en forældet antagelse eller en enkeltstående undtagelse ubemærket påvirke fremtidige anbefalinger.

• Adskil anbefaling fra beslutning

Analyse, en anbefaling, en foreslået ændring, udførelse godkendt af et menneske og afgrænset autonom udførelse repræsenterer forskellige niveauer af beføjelser. Agenter bør have identiteter og tilladelser, der passer til hvert niveau.

Evalueringen skal også omfatte hele handlingsforløbet: hvilke oplysninger der blev hentet, hvilken kontekst der blev brugt, hvilke værktøjer der blev kaldt, hvad der blev ændret, og om ændringen kan rulles tilbage. 

Hvis man kun tester det endelige svar, overser man de fleste måder, en agentbaseret arbejdsgang kan slå fejl på.

Kapacitet beskriver, hvad en agent kan gøre, og styring fastlægger, hvad den har tilladelse til at gøre.

Autonomi kræver mere end kapacitet

I scenariet om marginen i indledningen er hastighed kun nyttig, hvis systemet også ved, hvilken prognose der er autoritativ, hvilken undtagelse der blev godkendt, hvilken handling det må foretage, og hvem der fortsat står til ansvar. 

Jeg mener, at AI i virksomheder først vil gøre sig fortjent til tillid, når den viderefører den rette kontekst og kan vise, hvordan den nåede frem til et resultat med væsentlige konsekvenser. 

Organisationer bør opbygge dette kontekst- og kontrollag, før de udvider agenternes autonomi. Arbejdet vil ændre sig, men ansvaret vil bestå.