Når AI er rigtig, og processen er forkert

Forestil dig en almindelig situation i finanssektoren. Et team implementerer AI til at gennemgå kontrakter: hundredvis af sider, gentagne klausuler og rutinearbejde, der normalt tager ansatte dage. Modellen identificerer risici og henvisninger til korrekte paragraffer. Men outputtet stemmer ikke overens.

Det viser sig, at problemet ligger i kontraktmappen, hvor filer sidder side om side med navne som contract_v1.docx, contract_v2.docx, contract_final.docx, contract_final2.docx og contract_finalfinal_THIS_ONE.docx.

AI’en valgte den senest gemte fil. Men den fil var en ældre version, som nogen havde åbnet og autosaved for sidste uge.

Modellen gjorde præcis, hvad den var designet til at gøre. Processen, derimod, svigtede den.

Når modellen ikke er problemet

I min forrige artikel, argumenterede jeg for, at AI-fejl ofte begynder uden for modellen – i governance, ejerskab og beslutningsstrukturerne omkring den. Men governance er kun en del af problemet. Selv en velgoverned AI-system vil have svært ved at fungere, hvis processen under den afhænger af forældede dokumenter, uformelle undtagelser eller godkendelsesveje, der er designet til en langsomere arbejdspace.

Når en AI-system producerer et dårligt resultat, er modellen normalt den første mistænkte. Måske hallucinerede den, misforstod opgaven eller fik en svag prompt. Men nogle gange gjorde modellen præcis, hvad den var suppet til at gøre. Fejlen opstod i processen, der forsynede dens information eller i organisationen, der ikke kunne handle på dens output.

Implementering af AI afslører procesproblemer, der altid har eksisteret, men aldrig har været synlige – ligesom et diagnostisk værktøj. Det afslører svagheder, som mennesker tidligere kompenserer for uden at tænke: manglende kontekst, uklar ejerskab og uformelle workaround, der aldrig er blevet dokumenteret.

Hastighed uden kapacitet

AI accelererer ikke kun output. Det accelererer også eskaleringer, anmodninger om beslutninger og opdagelse af problemer. En model markerer en anomali i realtid, ikke på fredag eftermiddag, når nogen endelig finder tid til at gå igennem logfilerne.

Organisationer er ikke indrettet til denne hastighed. Godkendelsesprocesser, eskalationsveje, beslutningsmyndighed – alt dette er kalibreret til menneskelig hastighed. Når AI producerer output hurtigere, end organisationen kan absorberere det, kan tre ting ske:

• AI venter på en beslutning, hvilket eliminerer effektivitetsgevinsten.
• Ansattes ignorerer dens output og vender tilbage til, hvad de tror fungerer – den gamle proces.
• Ansattes skynder sig at træffe beslutninger uden at kontrollere dem ordentligt, fordi de føler sig presset til at opretholde hastigheden, som teknologien lover.

Nogle ansatte vender tilbage til manuelle kontroller, fordi de føler sig sikrere. Andre godkender resultater, som de ikke har haft tid til at verificere, fordi de føler sig presset til at opretholde hastigheden, som teknologien lover. I begge tilfælde betaler organisationen for hurtigere output uden at blive hurtigere til at træffe ansvarlige beslutninger.

Ejerskab kan også blive uklart. Hvem er ansvarlig for at gennemgå en markeret anomali, beslutte, om modellen er forkert, og eskalere sagen, når flere teams er involveret? Uden et klart svar fortsætter AI med at køre i baggrunden og producere output, som ingen rigtigt ejer.

Dette afspejler et bredere organisationsproblem. Som en Forbes-analyse fra slutningen af 2025 observerede, når teknologi ændrer arbejdsprocesser hurtigere, end en organisation kan absorberere, er resultatet ikke effektivitet, men overarbejdning. AI kan accelerere en fase af en proces, men dens værdi afhænger stadig af, om den omgivende organisation kan absorberere og handle på, hvad den producerer.

Den tavse viden, som ingen skrev ned

Forestil dig, at Martin ved, at virksomhedens kontrakt med en leverandør indeholder en undtagelse for betalinger under 2.000 euro. Det blev aftalt mundtligt for tre år siden, men aldrig dokumenteret. Når virksomheden implementerer AI til at automatisere betalingsgodkendelser, blokerer systemet betalingen – korrekt ifølge den skrevne kontrakt.

Dette er tavse viden: organisationskundskab, der lever i menneskers hoveder i stedet for i systemer. Hver virksomhed har det. Og de fleste virksomheder har ingen idé om, hvor meget de har.

AI kan kun bruge den viden, der er gjort tilgængelig for den. Martins undtagelse eksisterer ikke fra systemets synspunkt. Uden den kontekst kan dens beslutning være teknisk korrekt, men operationelt forkert.

McKinsey har identificeret det samme udfordring i agente AI-implementeringer. At bygge effektive AI-agenter kræver, at virksomheder kodificerer ekspertpraksis, der måske eksisterer i standardprocedurer – eller kun som tavse viden i ansattes hoveder. Med andre ord: AI-implementering kan være den første gang, en organisation ser, hvor meget processen afhænger af, hvad Martin ved.

Den falske kilde til sandhed

Den farligste AI-output er ikke altid en åbenlyst forkert en. Det kan være et troværdigt, professionelt præsenteret svar produceret fra forældet information.

I årevis har mange afdelinger opereret med multiple versioner af samme dokument, fordi Jane fra juridisk altid ved, hvilken version der er autoritativ. AI, desværre, gør ikke.

Medmindre den er blevet givet regler for at skelne mellem versioner, har systemet ingen grund til at sætte spørgsmålstegn ved dokumentet, det modtager. Og så kører AI-gennemgangen korrekt – på det forkerte dokument. Det kan være værre end ingen gennemgang overhovedet, fordi outputtet ser troværdigt ud.

En erfaren ansat kan vide, hvor sandheden er, og kan navigere gennem kaos. Et system, derimod, har brug for en pålidelig måde at identificere, hvilken information der er aktuel, godkendt og relevant.

Tavse viden, upålidelige dokumenter og godkendelsesprocesser, der er bygget til menneskelig output, synes at være separate problemer. Men de deler samme rodårsag. Ingen af dem blev skabt af AI, men AI gør dem sværere at ignorere.

Spørgsmål at besvare, før du bygger en agent

Før du implementerer en AI-agent, skal en organisation kunne besvare tre spørgsmål.

Hvilke beslutninger afhænger af viden, der aldrig er blevet dokumenteret?

Dette indebærer at identificere undtagelser, genveje og dømmekraft, som erfarna ansatte anvender uden at beskrive dem bevidst. Interviews alene kan måske ikke afsløre al denne viden. Organisationer kan have brug for at observere, hvordan arbejdet udføres i praksis, og sammenligne det med den officielle proces.

Hvordan vil systemet identificere information, der er aktuel, godkendt og relevant?

At give en agent adgang til flere dokumenter løser ikke problemet, hvis den ikke kan skelne mellem en godkendt kontrakt og en kladde eller en aktiv politik og en forældet en. Versionsstyring, ejerskab, godkendelsesstatus og retentionsregler må være klare nok for systemet til at identificere, hvilken kilde der skal styre dens beslutning.

Kan eksisterende godkendelses- og eskalationsprocesser absorberere volumen og hastighed af dens output?

Teams skal anslå, ikke kun hvor meget arbejde agenten kan udføre, men også hvor mange gennemgang, undtagelser og eskaleringer, som arbejdet kan skabe. NIST AI-risikostyringsrammen anbefaler klart at definere roller og ansvar for menneskelig oversigt over AI-systemer. Disse skal være designet til den forventede mængde før systemet er implementeret – ikke efter, at ansatte er blevet overvældet af det.

Disse spørgsmål er ikke noget, man besvarer én gang og så glemmer. Processer ændrer sig, dokumenter bliver gamle, og udokumenterede undtagelser akkumulerer sig igen. Readiness skal derfor opretholdes, ikke kun etableres før lancering.

AI-readiness starter med processen

AI-readiness er ikke kun en test af teknologien. Det er en test af, om organisationen har gjort sine egne processer eksplisitte nok til, at teknologien kan fungere inden for dem.

At forberede en organisation på AI indebærer mere end at vælge en model eller bygge en agent. Det indebærer at klargøre ejerskab, identificere autoritativ information, dokumentere undtagelser og redesigne, hvordan output bliver gennemgået, eskaleret og håndteret.

Dette er svært arbejde, men en fejlende implementering vil til sidst tvinge organisationen til at gøre det alligevel. Den eneste variabel er timing.