Fra automatisering til kognition: Udviklingen af agentisk AI

For årtier har virksomhedens automatisering fulgt en velkendt logik: definere processen, kode trinnene og lade softwaren udføre dem konsekvent. Scripts automatiserede kommandoer, runbooks indfangede procedurer, orkestrering forbandt opgaver på tværs af systemer, og AIOps bragte maskinlæring til den voksende mængde driftsdata. Hvert skridt gjorde automatiseringen mere kapabel, men mennesker traf stadig de fleste beslutninger. De fastlagde processen; softwaren udførte den.

Agentic AI ændrer dette forhold. I stedet for at starte med et fast sæt instruktioner, kan en agent starte med et mål og udtænke, hvordan det skal forfølges inden for definerede grænser. Det kræver mere end blot at generere et svar. Systemet skal fortolke målet, samle relevant kontekst, evaluere beviser, bruge hukommelse, vælge mellem værktøjer eller automatiseringer og tilpasse sig, når betingelserne ændrer sig. Anthropic skitserer en lignende sondring mellem arbejdsprocesser, hvor modeller og værktøjer følger foruddefinerede kodeveje, og agenter, hvor modellen dynamisk kan styre sin egen proces og værktøjsbrug.

Fra deterministisk udførelse til adaptive beslutninger

Intet af dette gør traditionel automatisering overflødig. Faktisk forbliver deterministisk automatisering det rigtige svar, når vejen fra en kendt tilstand til en handling er vel forstået. Hvis en tjeneste fejler en sundhedstjek, genstart den. Hvis en anmodning opfylder specifikke kriterier, rout den til den rette kø. Hvis en grænseflade krydser en tærskel, åbn en sag og kør en diagnostik. Dette er præcis de typer af gentagelige handlinger, som automatisering håndterer godt.

AIOps udvidede denne model ved at hjælpe organisationer med at fortolke, hvad der skete, før en automatisering blev udløst: korrelation af hændelser, identifikation af anomalier, reduktion af støj og tilføjelse af kontekst. Agentisk AI tager næste skridt ved at indføre dømmekraft mellem signalet og handlingen. Spørgsmålet er ikke længere kun, “Hvilken arbejdsproces udløser denne betingelse?” Det bliver, “Givet målet og de beviser, vi har nu, hvad er det bedste næste skridt?”

Forestil dig en forværret tjeneste. En agent kan have brug for at undersøge telemetri, topologi, nylige ændringer, sager, konfigurationsdata, historiske hændelser og forretningsmæssig påvirkning, før den beslutter, hvad der skal gøres. I én situation kan beviserne pege på en velkendt afhjælpning, og i en anden kan agenten have brug for at indsamle mere information eller køre en skrivebeskyttet diagnostik. Og når den potentielle påvirkning er høj, eller beviserne er uklare, kan den rigtige beslutning være at inddrage et menneske. Denne evne til at tilpasse vejen baseret på, hvad systemet opdager, er det væsentlige skift.

Kontekst og hukommelse ændrer beslutningens kvalitet

Agentur uden kontekst er ikke særlig nyttigt. Det samme symptom kan betyde noget helt andet afhængigt af topologi, vedligeholdelsesaktivitet, nylige ændringer, afhængigheder eller kundepåvirkning. Erfarne operatører forstår dette intuitivt; de træffer sjældent væsentlige beslutninger ud fra et enkelt isoleret signal. De samler et billede, adskiller observation fra inferens og beslutter, hvor meget tillid beviserne fortjener.

Hukommelse tilføjer en ekstra dimension. Google Cloud identificerer hukommelse som en kernekomponent i agentiske arkitekturer, fordi den hjælper agenter med at bevare kontekst og bruge information fra tidligere interaktioner. I driftsverdenen er muligheden bredere end blot at hente en gammel sag. Nyttig operationel hukommelse kan bevare, hvad der skete, da lignende tilstande optrådte, hvilken hypotese der viste sig korrekt, hvilken afhjælpning der blev forsøgt, om den virkede eller blev rullet tilbage, og hvad operatørerne lærte bagefter. Når den erfaring er blevet bekræftet, kan den blive til bevis for den næste beslutning i stedet for viden, der forsvinder i en postmortem eller forbliver i en eksperts hoved.

Der er en interessant parallel inden for kognitiv videnskab. Forskning i kognitiv offloading undersøger, hvordan mennesker bruger eksterne værktøjer og handlinger til at reducere de mentale krav i en opgave, mens forskning i værktøjsbrug har vist, at gentagen interaktion med værktøjer kan ændre, hvordan folk repræsenterer deres praktiske rækkevidde og handleevne. Analogen til virksomhedens AI bør ikke tages bogstaveligt, men den underliggende idé er nyttig: værktøjer gør mere end at spare tid. Over tid kan de ændre, hvordan vi tackler et problem. Den velkendte forskning om London-taxichauffører og navigationsekspertise giver en yderligere påmindelse om, at vedvarende erfaring kan forme selve kognition. For virksomheder er designspørgsmålet derfor ikke blot, hvor meget arbejde en agent kan overtage, men om det menneske‑agent‑system bliver bedre til at forstå og handle på kompleksitet.

Agenter bør orkestrere automatisering, ikke erstatte den

Dette er også grunden til, at jeg ikke ser agentisk AI som en afvisning af automatisering. Tidligere i min karriere brugte jeg år på at bygge driftsautomatisering, og én lektie har siddet fast hos mig: kun udførelse er ikke nok. Automatisering skal opnå tillid. Operatører har brug for sikkerhed for, at den rette handling anvendes i den rette situation, med den rette autoritet og tilstrækkelige beviser til at forstå hvorfor.
En praktisk agentisk arkitektur bygger på den investering. Eksisterende scripts, arbejdsprocesser, API’er, orkestreringsplatforme og domænespecifikke værktøjer bliver kapaciteter, som agenten kan kalde på, når det er passende. Hvis beviserne understøtter en kendt afhjælpning, kan agenten bruge den dokumenterede automatisering i stedet for at improvisere en ny handling. Hvis beviserne er ufuldstændige, kan den undersøge nærmere. Værdien kommer fra at kombinere pålidelig udførelse med mere adaptiv beslutningstagning omkring hvornår og hvordan den udførelse skal ske.

Mere autonomi gør governance vigtigere

Det øjeblik, softwaren kan vælge mellem handlinger, kan governance ikke længere være noget, der tilføjes bagefter. En virksomhedsagent skal forstå ikke kun, hvad den teknisk set kan gøre, men hvad den er autoriseret til at gøre i et givet miljø, på et givet risikoniveau og under en given identitet eller rolle. NIST’s AI Risk Management Framework afspejler dette bredere syn på governance, organiserer AI-risikostyring omkring govern, map, measure og manage, med governance på tværs af de andre funktioner.

I praksis betyder det, at en agent skal kunne vise beviserne bag en anbefaling, tydeligt angive hvilke systemer og data den brugte, afsløre usikkerhed, respektere godkendelseskrav og efterlade et revisionsspor over, hvad der skete. Tilbageførbarhed er også vigtigt. En skrivebeskyttet diagnostik og en produktionskonfigurationsændring bør ikke have samme autonomigrænse.

Menneskelig tilsyn bliver derfor mere præcist snarere end blot at forsvinde. Den samme agent kan indsamle beviser autonomt, anbefale en afhjælpning, kræve godkendelse før en handling med højere risiko, og derefter verificere, om den godkendte handling faktisk virkede. Målet er ikke at erklære mennesker generelt “inde” eller “ude” af kredsløbet. Det er at placere menneskelig dømmekraft på de punkter, hvor den tilfører mest værdi.

Den reelle fordel er, hvad der sker efter handlingen

Måske er den mest betydningsfulde forskel tydelig efter, at en handling er udført. Traditionel automatisering spørger typisk, om arbejdsprocessen kørte succesfuldt. Et kognitivt system bør stille et sværere spørgsmål: leverede handlingen det tilsigtede resultat, og hvad kan vi lære af, hvad der skete?

Det ændrer værdien af feedback‑sløjfen. En succesfuld afhjælpning kan styrke beviserne for en lignende situation i fremtiden. En mislykket hypotese bør gøre systemet mindre tilbøjeligt til at gentage den samme ræsonnement. En operatørkorrektion kan forbedre den næste anbefaling, mens en rollback kan afsløre, at tilliden oversteg, hvad de tilgængelige beviser retfærdiggjorde. Over tid er den vigtige ressource ikke blot et større bibliotek af automatiseringer, men den akkumulerede relation mellem situationer, beviser, beslutninger, handlinger og resultater.

Set i dette lys er udviklingen af virksomhedens automatisering mindre et spørgsmål om at erstatte én teknologigeneration med en anden, end om at tilføje nye muligheder omkring det, der allerede fungerer. Scripts kodede handlinger, runbooks indfangede procedurer, orkestrering forbandt dem, og AIOps hjalp med at fortolke stadig mere komplekse operationelle signaler. Agentisk AI tilføjer evnen til at forfølge mål, ræsonnere på tværs af kontekst og beviser, trække på hukommelse, vælge mellem tilgængelige kapaciteter, handle inden for styrede grænser og lære af resultatet.

Slutmålet bør ikke være ubegrænset autonomi. Det bør være ansvarlig autonomi: systemer, der kan genkende, hvornår de skal handle, hvornår de skal undersøge, hvornår de skal anmode om tilladelse og hvornår de skal stoppe. Det er overgangen fra automatisering til kognition – ikke maskiner, der erstatter menneskelige operationer, men virksomheder, der udvikler en bedre måde at opfatte, beslutte, handle og lære på.