Hvorfor bedre data alene ikke er nok for KI-agenter

I årevis har et av de vanligste rådene om KI i virksomheter vært å få dataene på plass først. Logikken er enkel: Hvis et system skal kunne ta nyttige beslutninger, trenger det nøyaktig og tilgjengelig informasjon å arbeide med.

Dette er fortsatt sant, men det blir stadig mindre dekkende etter hvert som KI-agenter går fra å svare på spørsmål og generere innhold til å handle på vegne av ansatte og organisasjoner. Data kan fortelle en agent hva som stemmer om en kunde, en transaksjon, et krav eller en forespørsel, men forteller den ikke nødvendigvis hva som bør skje videre – eller hvilke konsekvenser en handling vil få. Dette skillet er viktig når en agent ikke lenger bare gir et svar, men godkjenner en forespørsel, oppdaterer en oppføring, kontakter en kunde eller fører en sak videre.

Det forventes at ansatte i virksomheter lærer å arbeide innenfor rammer med godkjenningskjeder, forretningsregler, avhengigheter, unntak og eskaleringsrutiner – agenter trenger en måte å gjøre det samme på. Med Gartner som anslår at 40 % av virksomhetsapplikasjonene vil omfatte KI-agenter for bestemte oppgaver innen utgangen av 2026, opp fra under 5 % i 2025, blir det stadig vanskeligere å overse kunnskapshullene hos agentene. 

Gartner spår også at spesialiserte, domenespesifikke agenter vil stå for 80 % av den konkrete avkastningen på investeringene fra agentisk KI innen 2028. Spesialisering er viktig, men løser bare en del av problemet. Det at en agent kjenner et bestemt fagområde, forteller den ikke automatisk hvor ansvaret dens begynner og slutter, hvordan oppgaven inngår i en større prosess, eller hvem som bør overta når noe faller utenfor ansvarsområdet. For å bli pålitelige deltakere i virksomheters arbeid trenger agenter både kontekst om arbeidsflytprosessen og forretningsdata.

Gode data forteller ikke en agent hva som skjer videre

Tenk på en lånesøknad, der en agent kan ha tilgang til søkerens økonomiske historikk, arbeidsforhold og andre relevante opplysninger. Denne informasjonen kan hjelpe agenten med å forstå søknaden, men forteller den ikke hvordan organisasjonen behandler den.

Hvilke kontroller må gjennomføres først? Hva endres når søkeren oppfyller ett vilkår, men ikke et annet? Hvilke opplysninger må foreligge før saken kan gå videre? Hvilke beslutninger kan tas automatisk, og hvilke må sendes til en lånesaksbehandler?

De fleste arbeidsprosesser i virksomheter er fulle av slike betingede forløp. En prosess kan gå videre automatisk når bestemte kriterier er oppfylt, stanse mens den innhenter mer informasjon, eller ta en helt annen retning hvis det oppstår et unntak. Hva som er riktig neste handling, avhenger ikke bare av informasjonen som er tilgjengelig, men også av hvor i prosessen arbeidet befinner seg, og hva som allerede har skjedd.

Dette endrer hva pålitelighet betyr for en agent i en virksomhet. Et korrekt svar er ikke nok hvis neste handling er feil. En agent kan tolke informasjonen den har foran seg riktig og likevel flytte en sak til feil trinn, hoppe over en påkrevd godkjenning eller handle før en avhengighet er oppfylt.

McKinsey delte nylig innsikt fra arbeidet sitt med et selskap innen medisinsk teknologi, som oppdaget at KI-plattformen det brukte, ikke støttet flere av de sentrale reglene for arbeidsflytene. I stedet for å utsette lanseringsdatoen for å rette opp disse manglene fortsatte selskapet som planlagt, og endte med at anslagsvis 30 % av den tiltenkte verdien av KI-en ikke ble realisert. Dette eksempelet understreker at virksomheter må ta hensyn til prosessen rundt oppgaven, ikke bare informasjonen som trengs for å fullføre den. 

Tilpass sikkerhetsrammene til beslutningene en agent kan ta

Etter hvert som agenter blir i stand til å handle, må også styringen bli mer konkret. En agent som henter et policydokument, innebærer ikke samme risikonivå som en agent som endrer en kundekonto, godkjenner en betaling eller setter i gang en transaksjon. Organisasjoner kan likevel lett havne i en av to ytterligheter: enten lar de agentene handle for fritt, eller krever menneskelig godkjenning for nesten alt.

Kontrollene rundt en agent bør gjenspeile hvilke beslutninger den kan ta, og hvilke konsekvenser de kan få. Det kan være hensiktsmessig å la agenten utføre en gjentakende handling med lav risiko på egen hånd. En annen handling kan kreve godkjenning hvis beløpet overstiger en bestemt grense. En uvanlig sak kan måtte eskaleres umiddelbart til en ansatt.

Menneskelig tilsyn er mest nyttig når det brukes bevisst. Hvis en person må godkjenne hvert rutinemessige trinn, forsvinner mye av gevinsten ved å innføre en agent. Men å fjerne kontrollpunkter fra beslutninger som faktisk krever skjønn eller ansvarlighet, skaper et annet problem.

IBM Research har tatt til orde for tydelige regler for hvilke handlinger agenter har tillatelse til å utføre, og når menneskelig tilsyn er påkrevd. Disse kontrollene må også ta hensyn til prosessen agenten deltar i. En agents myndighet forblir ikke nødvendigvis uendret fra begynnelsen til slutten av en sak. Hva agenten trygt kan gjøre, kan avhenge av hvilket stadium prosessen er på, hvilken informasjon som allerede er bekreftet, hvilke beslutninger som tidligere er tatt, og hvilke konsekvenser den neste handlingen kan få.

Det betyr at organisasjoner må bygge styring inn i selve arbeidsflyten. I stedet for å gi en agent et omfattende sett med tillatelser og stole på at den fungerer overalt, kan de definere hvor agenten får handle selvstendig, hvor ytterligere vilkår må være oppfylt, og hvor ansvaret må overføres til et menneske. Spørsmålet handler dermed mindre om hvorvidt en agent er autonom, og mer om hvor i en prosess autonomi er hensiktsmessig.

Agenter må fungere i samspill med virksomheten slik den allerede er

Prosesskonteksten blir enda viktigere når en agent må samhandle med resten av virksomheten. Organisasjoner starter ikke med blanke ark. En enkelt kundehenvendelse kan allerede gå mellom et CRM-system, et dokumentarkiv, en saksbehandlingsplattform og et ERP-system, samtidig som ansatte fra flere avdelinger er involvert.

Å plassere en agent i én del av dette miljøet gjør ikke automatisk hele prosessen mer effektiv. En agent kan fullføre sin egen oppgave helt perfekt, men hvis en ansatt deretter må kopiere resultatet til et annet program, finne ut hvem som trenger det videre, eller starte prosessen på nytt et annet sted manuelt, er flaskehalsen bare flyttet.

Derfor må virksomheter se på agenter som deltakere i en større prosess, ikke som isolerte verktøy. Hva utløser agenten? Hvilken informasjon mottar den? Hva har den ansvar for? Hvor går arbeidet videre når den er ferdig? Og hva skjer når den ikke kan fullføre oppgaven?

Disse spørsmålene blir enda viktigere når organisasjoner tar i bruk flere spesialiserte agenter. Deloitte har identifisert orkestrering som et sentralt krav for virksomheter som beveger seg mot systemer med flere agenter, der ulike agenter kan ha forskjellige roller og koordinere arbeidet. Orkestrering på virksomhetsnivå må også omfatte hvordan agenter kommuniserer og koordinerer med hverandre, ikke bare hvordan de fungerer hver for seg. Uten slikt tilsyn risikerer agenter å handle på grunnlag av ufullstendig kontekst, utløse handlinger som er i konflikt med hverandre, eller omgå etablerte forretningsregler og godkjenningsprosesser. Agenter opererer fortsatt i organisasjoner med eksisterende applikasjoner, ansatte, forretningsregler og prosesser som kan vare i dager, uker eller måneder.

Ta utgangspunkt i prosessen som skal fullføres, og finn ut hvilken rolle agenter, mennesker og eksisterende systemer hver for seg skal ha. Én agent kan håndtere et trinn selvstendig, en annen agent kan utføre en spesialisert kontroll, en ansatt kan ta en skjønnsmessig avgjørelse, og et eksisterende system kan gjennomføre den endelige transaksjonen. Det avgjørende er at arbeidet kan flyttes mellom deltakerne uten at konteksten går tapt underveis.

Autonomi krever struktur

Å gi agenter mer struktur betyr ikke at enhver handling trenger enda et lag med begrensninger. Tvert imot kan det være slik. Tydelige prosesser kan gjøre organisasjoner tryggere på hvor agenter kan arbeide selvstendig, fordi grensene, unntakene og punktene for eskalering allerede er definert. En agent trenger ikke ubegrenset frihet for å skape reell verdi. Den trenger nok ansvar til å drive arbeidet fremover, nok kontekst til å vite hva som skal skje videre, og en klar forståelse av når ansvaret ligger et annet sted.

Bedre data vil fortsatt gjøre agenter mer kompetente. Men kompetanse alene gjør ikke en agent nyttig i en virksomhet. Den virkelige prøven er om den kan utføre riktig handling på riktig tidspunkt i en prosess, innenfor rammene virksomheten har fastsatt.