Når AI er riktig og prosessen er feil

Forestillingen en vanlig scenario i finansielle tjenester. Et team deployer AI for å gjennomgå kontrakter: hundrevis av sider, repetitive klausuler og rutinearbeid som normalt tar ansatte dager. Modellen identifiserer risikoene og referanser til korrekte paragrafer. Men utgangen adderer ikke opp.

Det viser seg at problemet ligger i kontraktmappen, der filer sitter side om side med navn som contract_v1.docx, contract_v2.docx, contract_final.docx, contract_final2.docx og contract_finalfinal_THIS_ONE.docx.

AI valgte den nyeste filen som ble lagret. Men den filen var en eldre versjon som noen hadde åpnet og autosparet forrige uke.

Modellen gjorde akkurat det den var designet til å gjøre. Prosesen, derimot, lot den ned.

Når modellen ikke er problemet

I min forrige artikkel, argumenterte jeg for at AI-feil ofte begynner utenfor modellen – i styringen, eierskapet og beslutningsstrukturer som omgir den. Men styring er bare en del av problemet. Selv en godt styrt AI-system vil stride hvis prosessen under den avhenger av foreldede dokumenter, uformelle unntak eller godkjenningsprosesser designet for en mye langsommere arbeidstakt.

Når et AI-system produserer et dårlig resultat, er modellen vanligvis den første mistenkte. Kanskje den hallucinerte, misforstod oppgaven eller mottok en svak prompt. Men noen ganger gjorde modellen akkurat det den var ment å gjøre. Feilen skjedde i prosessen som leverte informasjonen eller i organisasjonen som ikke kunne handle på utgangen.

Deploying AI avslører prosessproblemer som alltid har eksistert, men aldri var synlige – som et diagnostisk verktøy. Det avslører svakheter som mennesker tidligere kompenserte for uten å tenke: manglende kontekst, uklart eierskap og uformelle midler som aldri ble dokumentert.

Hastighet uten kapasitet

AI akselererer ikke bare utgangen. Det akselererer også eskalasjoner, forespørsler om beslutninger og oppdagelse av problemer. En modell flagger en anomali i sanntid, ikke på fredag ettermiddag når noen endelig finner tid til å gå gjennom loggene.

Organisasjoner er ikke utstyrt for denne takten. Godkjenningsprosesser, eskalasjonsveier, beslutningsmyndighet – alt dette var kalibrert til menneskelig hastighet. Når AI produserer utgang raskere enn organisasjonen kan absorbere dem, kan tre ting skje:

• AI venter på en beslutning, og sletter effektivitetsgevinsten.
• Ansatt ignorerer utgangen og returnerer til det de tror fungerer – den gamle prosessen.
• Ansatt skyver beslutninger fremover uten å sjekke dem ordentlig fordi de føler seg presset til å opprettholde hastigheten.

Noen ansatte returnerer til manuelle sjekker fordi de føler seg tryggere. Andre godkjenner resultater de ikke har hatt tid til å verifisere fordi de føler seg presset til å opprettholde hastigheten. I begge tilfeller betaler organisasjonen for raskere utgang uten å bli raskere til å fatte ansvarlige beslutninger.

Eierskap kan også bli uklart. Hvem er ansvarlig for å gjennomgå en flagget anomali, avgjøre om modellen er feil og eskalere problemet når flere team er involvert? Uten et klart svar, fortsetter AI å kjøre i bakgrunnen og produsere utgang som ingen virkelig eier.

Dette reflekterer et bredere organisatorisk problem. Som en Forbes-analyse fra slutten av 2025 observerte, når teknologi endrer arbeidsflyter raskere enn en organisasjon kan absorbere, er resultatet ikke effektivitet, men overarbeid. AI kan akselerere en fase av en prosess, men dens verdi avhenger fortsatt av om den omgivende organisasjonen kan absorbere og handle på det den produserer.

Den stille kunnskapen ingen skrev ned

Forestillingen at Martin vet at selskapets kontrakt med en leverandør inkluderer en unntak for betalinger under €2 000. Det ble enige verbalt for tre år siden, men aldri dokumentert. Når selskapet deployer AI for å automatisere godkjenning av betalinger, blokkerer systemet betalingen – korrekt, ifølge den skrevne kontrakten.

Dette er taksitt kunnskap: organisatorisk kunnskap som bor i menneskers hoder heller enn i systemer. Hvert selskap har det. Og de fleste selskaper har ingen ide om hvor mye de har.

AI kan bare bruke kunnskap som er blitt tilgjengelig for den. Martins unntak eksisterer ikke fra systemets perspektiv. Uten denne konteksten kan dens avgjørelse være teknisk korrekt, men operasjonelt feil.

McKinsey har identifisert samme utfordring i agente AI-deployments. Bygging av effektive AI-agenter krever at selskaper kodifiserer ekspertpraksis som kan eksistere i standardprosedyrer – eller bare som taksitt kunnskap i ansattes hoder. Med andre ord: AI-deployment kan være den første gang en organisasjon ser hvor mye prosessen avhenger av hva Martin vet.

Den feilaktige kilden til sannhet

Den farligste AI-utgangen er ikke alltid en åpenbart feil. Den kan være en troverdig, profesjonelt presentert svar produsert fra foreldet informasjon.

I mange år har mange avdelinger operert med flere versjoner av samme dokument fordi Jane fra juridisk alltid vet hvilken som er autoritativ. AI, dessverre, gjør ikke.

Med mindre den har fått regler for å skille mellom versjoner, har systemet ingen grunn til å spørre om dokumentet det mottar. Og så kjører AI-gjennomgangen korrekt – på feil dokument. Det kan være verre enn ingen gjennomgang i det hele tatt, fordi utgangen ser troverdig ut.

En erfaren ansatt kan vite hvor sannheten er og kan navigere gjennom kaos. Et system, derimot, trenger en pålitelig måte å identifisere hvilken informasjon som er aktuell, godkjent og relevant.

Taksitt kunnskap, upålitelige dokumenter og godkjenningsprosesser bygget for menneskelig hastighet ser ut til å være separate problemer. Men de deler samme årsak. Ingen av dem ble skapt av AI, men AI gjør dem vanskeligere å ignorere.

Spørsmål å besvare før du bygger en agent

Før du deployer en AI-agent, bør en organisasjon kunne besvare tre spørsmål.

Hvilke beslutninger avhenger av kunnskap som aldri har blitt dokumentert?

Dette betyr å identifisere unntak, kortveier og dømmekraft som erfarne ansatte anvender uten å beskrive dem bevisst. Intervjuer alene kan ikke avsløre all denne kunnskapen. Organisasjoner kan trenge å observere hvordan arbeid faktisk utføres og sammenligne det med den offisielle prosessen.

Hvordan vil systemet identifisere informasjon som er aktuell, godkjent og relevant?

Å gi en agent tilgang til flere dokumenter løser ikke problemet hvis den ikke kan skille mellom en godkjent kontrakt og en utkast eller en aktiv politikk og en foreldet en. Versjonering, eierskap, godkjenningsstatus og oppbevaringsregler må være klare nok for systemet til å identifisere hvilken kilde som skal styre dens avgjørelse.

Kan eksisterende godkjennings- og eskalasjonsprosesser absorbere volum og hastighet på utgangen?

Team bør anslå ikke bare hvor mye arbeid agenten kan fullføre, men også hvor mange gjennomganger, unntak og eskalasjoner arbeidet kan skape. NIST AI-risikostyringsrammeverk anbefaler å definere roller og ansvar for menneskelig tilsyn av AI-systemer. Disse må være designet for det forventede volum før systemet deployeres – ikke etter at ansatte blir overveldet av det.

Disse er ikke spørsmål å besvare en gang og glemme. Prosesser endrer seg, dokumenter blir gamle og udokumenterte unntak akkumulerer igjen. Beredskap må derfor opprettholdes, ikke bare etableres før lansering.

AI-beredskap starter med prosessen

AI-beredskap er ikke bare en test av teknologien. Det er en test av om organisasjonen har gjort sine egne prosesser eksplisitte nok for teknologien til å operere innenfor dem.

Forberedelse av en organisasjon for AI innebærer mer enn å velge en modell eller bygge en agent. Det betyr å klargjøre eierskap, identifisere autoritativ informasjon, dokumentere unntak og redesigne hvordan utgang blir gjennomgått, eskalert og håndtert.

Dette er vanskelig arbeid, men en feilaktig deployering vil til slutt tvinge organisasjonen til å gjøre det likevel. Den eneste variabelen er tid.