Hvorfor bedre data alene ikke er nok for AI-agenter

I årevis har et af de mest almindelige råd om AI i virksomheder været først at få styr på dataene. Logikken er enkel: Hvis et system skal kunne træffe nyttige beslutninger, har det brug for nøjagtige og tilgængelige oplysninger at arbejde med.

Det råd gælder stadig, men er ved at blive utilstrækkeligt, efterhånden som AI-agenter går fra at besvare spørgsmål og skabe indhold til at handle på vegne af medarbejdere og organisationer. Data kan fortælle en agent, hvad der er sandt om en kunde, en transaktion, et krav eller en anmodning, men ikke nødvendigvis, hvad der skal ske som det næste – eller hvilke konsekvenser en handling vil få. Den forskel er vigtig, når en agent ikke længere blot giver et svar, men godkender en anmodning, opdaterer en registrering, kontakter en kunde eller fører en sag videre.

Medarbejdere i virksomheder forventes at lære at arbejde inden for rammerne af en struktur med godkendelseskæder, forretningsregler, afhængigheder, undtagelser og eskaleringsveje – agenter har brug for en måde at gøre det samme på. Med Gartner, der forudsiger, at 40 % af virksomhedsapplikationerne vil omfatte opgavespecifikke AI-agenter ved udgangen af 2026, mod mindre end 5 % i 2025, bliver det stadig sværere at overse agenternes videnshuller. 

Gartner forudsiger også, at 80% af den konkrete ROI fra agentic AI i 2028 vil komme fra specialiserede, domænespecifikke agenter. Specialisering er vigtig, men det løser kun en del af problemet. At kende et bestemt domæne fortæller ikke automatisk en agent, hvor dens ansvar begynder og slutter, hvordan dens opgave passer ind i en større proces, eller hvem der skal overtage, når noget falder uden for dens mandat. For at agenter kan blive pålidelige deltagere i virksomhedens arbejde, har de brug for både workflow-proceskontekst og forretningsdata.

Gode data fortæller ikke en agent, hvad der skal ske som det næste

Se for eksempel på en låneansøgning, hvor en agent måske har adgang til ansøgerens økonomiske historik, oplysninger om ansættelsesforhold og andre relevante registreringer. Disse oplysninger kan hjælpe agenten med at forstå ansøgningen, men fortæller den ikke, hvordan organisationen behandler den.

Hvilke kontroller skal udføres først? Hvad ændrer sig, hvis en ansøger opfylder én betingelse, men ikke en anden? Hvilke oplysninger er obligatoriske, før sagen kan gå videre? Hvilke beslutninger kan træffes automatisk, og hvilke skal sendes til en lånesagsbehandler?

De fleste opgaver i virksomheder omfatter mange sådanne betingede forløb. En proces kan gå videre automatisk, når bestemte kriterier er opfyldt, sættes på pause, mens der indsamles flere oplysninger, eller følge en helt anden rute, hvis der opstår en undtagelse. Den rette næste handling afhænger ikke kun af de tilgængelige oplysninger, men også af, hvor arbejdet befinder sig i processen, og hvad der allerede er sket.

Det ændrer betydningen af pålidelighed for en virksomhedsagent. Et korrekt svar er ikke nok, hvis den næste handling er forkert. En agent kan fortolke de foreliggende oplysninger korrekt og alligevel flytte en sag til det forkerte trin, springe den påkrævede godkendelse over eller handle, før en afhængig opgave er afsluttet.

McKinseyhar for nylig delt indsigter fra sit arbejde med en virksomhed inden for medicinsk teknologi, som opdagede, at den AI-platform, virksomheden brugte, ikke kunne understøtte flere af dens centrale regler for arbejdsgange. I stedet for at udskyde lanceringsdatoen for at løse problemerne fortsatte virksomheden som planlagt og endte med ikke at realisere anslået 30 % af den værdi, AI-løsningen skulle skabe. Eksemplet understreger, at virksomheder skal tage højde for den proces, der omgiver opgaven, og ikke kun for de oplysninger, der skal til for at løse den. 

Tilpas sikkerhedsrammerne til de beslutninger, en agent kan træffe

I takt med at agenter bliver i stand til at handle, skal styringen også blive mere specifik. En agent, der henter et politikdokument, indebærer ikke samme risikoniveau som en agent, der ændrer en kundes konto, godkender en betaling eller iværksætter en transaktion. Organisationer kan dog let ende i en af to yderligheder: enten at lade agenter handle alt for frit eller at kræve menneskelig godkendelse af næsten alt.

Kontrollerne omkring en agent bør afspejle de beslutninger, den kan træffe, og de mulige konsekvenser. En handling med lav risiko, der gentages ofte, kan være passende at udføre selvstændigt. En anden handling kan kræve godkendelse, hvis den overstiger en bestemt værdi. En usædvanlig sag kan kræve øjeblikkelig eskalering til en medarbejder.

Menneskeligt tilsyn er mest nyttigt, når det er velovervejet. Hvis en person skal godkende hvert rutinemæssige trin, forsvinder en stor del af gevinsten ved at indføre en agent. Men hvis man fjerner kontrolpunkter ved beslutninger, der reelt kræver dømmekraft eller ansvarlighed, opstår et andet problem.

IBM Research har slået til lyd for eksplicitte regler for, hvilke handlinger agenter må udføre, og på hvilke tidspunkter der kræves menneskeligt tilsyn. Disse kontrolmekanismer skal også tage højde for den proces, agenten deltager i. En agents beføjelser forbliver ikke nødvendigvis uændrede fra sagens begyndelse til dens afslutning. Hvad den sikkert kan gøre, kan afhænge af processens fase, de oplysninger, der allerede er verificeret, de beslutninger, der tidligere er truffet, og konsekvenserne af den næste handling.

Det betyder, at organisationer skal indarbejde styring i selve arbejdsgangen. I stedet for at give en agent et bredt sæt tilladelser og lade den bruge dem overalt kan de fastlægge, hvor agenten må handle selvstændigt, hvor yderligere betingelser skal være opfyldt, og hvor ansvaret skal overdrages til et menneske. Spørgsmålet bliver dermed mindre, om en agent er autonom, og mere, hvor autonomi giver mening i en proces.

Agenter skal fungere sammen med den eksisterende forretning

Proceskonteksten bliver endnu vigtigere, når en agent skal interagere med resten af virksomheden. Organisationer starter ikke med blanke tavler. En enkelt kundehenvendelse kan allerede bevæge sig mellem et CRM-system, et dokumentlager, en sagsbehandlingsplatform og et ERP-system, samtidig med at medarbejdere fra flere afdelinger er involveret.

At indsætte en agent ét sted i dette miljø gør ikke automatisk den samlede proces mere effektiv. En agent kan løse sin opgave perfekt, men hvis en medarbejder derefter skal kopiere resultatet over i et andet program, finde ud af, hvem der skal have det som det næste, eller manuelt genstarte processen et andet sted, er flaskehalsen blot blevet flyttet.

Derfor skal virksomheder betragte agenter som deltagere i en større proces snarere end som isolerede værktøjer. Hvad udløser agentens arbejde? Hvilke oplysninger modtager den? Hvad har den ansvaret for? Hvor bevæger arbejdet sig hen, når agenten er færdig? Og hvad sker der, hvis den ikke kan løse sin opgave?

Disse spørgsmål bliver endnu vigtigere, når organisationer indfører flere specialiserede agenter. Deloitte har udpeget orkestrering som et centralt krav for virksomheder, der bevæger sig i retning af multiagentsystemer, hvor forskellige agenter kan påtage sig særskilte roller og koordinere arbejdet. Orkestrering på tværs af virksomheden skal også omfatte, hvordan agenter kommunikerer og koordinerer med hinanden, ikke kun hvordan de fungerer hver for sig. Uden dette tilsyn risikerer agenter at handle på et ufuldstændigt grundlag, iværksætte modstridende handlinger eller omgå etablerede forretningsregler og godkendelsesprocesser. Agenter fungerer stadig i organisationer, der er fyldt med eksisterende applikationer, medarbejdere, forretningsregler og processer, som kan strække sig over dage, uger eller måneder.

Tag udgangspunkt i den proces, der skal gennemføres, og fastlæg, hvilken rolle agenter, mennesker og eksisterende systemer hver især skal spille. En agent kan håndtere ét trin selvstændigt, en anden agent kan udføre en specialiseret kontrol, en medarbejder kan foretage et skøn, og et eksisterende system kan gennemføre den endelige transaktion. Det afgørende er, at arbejdet kan bevæge sig mellem deltagerne, uden at konteksten går tabt undervejs.

Autonomi kræver struktur

At give agenter mere struktur betyder ikke, at enhver handling kræver endnu et lag af begrænsninger. Tværtimod kan det forholde sig sådan. Tydelige processer kan give organisationer større sikkerhed for, hvor agenter kan arbejde selvstændigt, fordi grænserne, undtagelserne og eskaleringspunkterne allerede er fastlagt. En agent behøver ikke ubegrænset frihed for at skabe reel værdi. Den skal have tilstrækkeligt ansvar til at føre arbejdet videre, tilstrækkelig kontekst til at vide, hvad der skal ske bagefter, og en klar forståelse af, hvornår ansvaret ligger et andet sted.

Bedre data vil fortsat gøre agenter mere kompetente. Men kompetence alene gør ikke en agent nyttig i en virksomhed. Den afgørende prøve er, om den kan udføre den rette handling på det rette tidspunkt i en proces og inden for de rammer, virksomheden har fastlagt.