När AI är rätt och processen är fel

Föreställ er en vanlig scenarie inom finansiella tjänster. Ett team distribuerar AI för att granska kontrakt: hundratals sidor, upprepade klausuler och rutinarbete som normalt tar dagar för anställda. Modellen identifierar risker och hänvisningar till korrekta paragrafer. Men utmatningen adderar inte upp.

Det visar sig att problemet ligger i kontraktmappen, där filer sitter sida vid sida med namn som contract_v1.docx, contract_v2.docx, contract_final.docx, contract_final2.docx och contract_finalfinal_THIS_ONE.docx.

AI valde den senast sparade filen. Men den filen var en äldre version som någon hade oavsiktligt öppnat och autosparat förra veckan.

Modellen gjorde exakt vad den var utformad för att göra. Processen, däremot, lät den ner.

När modellen inte är problemet

I min förra artikel, hävdade jag att AI-misslyckanden ofta börjar utanför modellen – i styrningen, ägandet och beslutsprocesserna som omger den. Men styrning är bara en del av problemet. Även ett välstyrt AI-system kommer att kämpa om processen under det beror på föråldrade dokument, informella undantag eller godkännandeprocesser som är utformade för en mycket långsammare arbetsrytm.

När ett AI-system producerar ett dåligt resultat, är modellen vanligtvis den första misstänkta. Kanske hallucinerade den, missförstod uppgiften eller fick en svag prompt. Men ibland gjorde modellen exakt vad den var tänkt att göra. Misslyckandet inträffade i processen som tillhandahöll dess information eller i organisationen som inte kunde agera på dess utmatning.

Att distribuera AI avslöjar processproblem som alltid funnits men aldrig varit synliga – som ett diagnostiskt verktyg. Det avslöjar svagheter som människor tidigare kompenserade för utan att tänka på: saknad kontext, oklar äganderätt och informella lösningar som aldrig dokumenterades.

Hastighet utan kapacitet

AI accelererar inte bara utmatningen. Det accelererar också eskaleringar, begäranden om beslut och upptäckten av problem. En modell flaggar en anomali i realtid, inte på fredag eftermiddag när någon slutligen hittar tid att gå igenom loggarna.

Organisationer är inte utformade för denna takt. Godkännandeprocesser, eskaleringssvägar, beslutsbefogenheter – allt detta var kalibrerat för mänsklig hastighet. När AI producerar utmatning snabbare än organisationen kan absorbera den, kan tre saker hända:

• AI väntar på ett beslut, utplånar effektivitetsvinster.
• Anställda ignorerar dess utmatning och återgår till vad de tror fungerar – den gamla processen.
• Anställda skickar beslut vidare utan att ordentligt kontrollera dem eftersom de känner sig pressade att upprätthålla hastigheten.

Vissa anställda återgår till manuella kontroller eftersom de känns säkrare. Andra godkänner resultat som de inte har haft tid att verifiera eftersom de känner sig pressade att upprätthålla den hastighet som tekniken lovar. I båda fallen betalar organisationen för snabbare utmatning utan att bli snabbare på att fatta ansvarsfulla beslut.

Äganderätten kan också bli otydlig. Vem är ansvarig för att granska en flaggad anomali, besluta om modellen är fel och eskalera frågan när flera team är inblandade? Utan ett tydligt svar fortsätter AI att köra i bakgrunden, producera utmatning som ingen verkligen äger.

Detta speglar ett bredare organisationsproblem. Som en Forbes-analys från slutet av 2025 observerade, när teknologi förändrar arbetsflöden snabbare än en organisation kan absorbera, är resultatet inte effektivitet; det är överbelastning. AI kan accelerera en fas av processen, men dess värde beror fortfarande på om den omgivande organisationen kan absorbera och agera på vad den producerar.

Den tysta kunskapen som ingen skrev ner

Föreställ er att Martin vet att företagets kontrakt med en leverantör innehåller ett undantag för betalningar under 2000 euro. Det var överenskommet muntligen för tre år sedan men aldrig dokumenterat. När företaget distribuerar AI för att automatisera betalningsgodkännanden, blockerar systemet betalningen – korrekt enligt det skriftliga kontraktet.

Detta är tyst kunskap: organisationskunskap som lever i människors huvuden snarare än i system. Varje företag har det. Och de flesta företag har ingen aning om hur mycket de har.

AI kan bara använda kunskap som har gjorts tillgänglig för den. Martins undantag existerar inte från systemets perspektiv. Utan den kontexten kan dess beslut vara tekniskt korrekt men operativt fel.

McKinsey har identifierat samma utmaning i agenter för AI-distribution. Att bygga effektiva AI-agenter kräver att företag kodifierar expertpraxis som kan finnas i standardförfaranden – eller bara som tyst kunskap i anställdas huvuden. Med andra ord: AI-distribution kan vara första gången en organisation ser hur mycket processen beror på vad Martin vet.

Den falska källan till sanning

Den farligaste AI-utmatningen är inte alltid en uppenbart felaktig. Den kan vara ett trovärdigt, professionellt presenterat svar producerat från föråldrad information.

Under många år har många avdelningar arbetat med flera versioner av samma dokument eftersom Jane från juridiken alltid vet vilken som är auktoritativ. AI, tyvärr, gör inte det.

Om den inte har fått regler för att skilja mellan versioner, har systemet ingen anledning att ifrågasätta dokumentet den får. Och så körs AI-granskningen korrekt – på fel dokument. Det kan vara värre än ingen granskning alls eftersom utmatningen ser trovärdig ut.

En erfaren anställd kan veta var sanningen är och kan navigera genom kaos. Ett system, däremot, behöver ett tillförlitligt sätt att identifiera vilken information som är aktuell, godkänd och relevant.

Tyst kunskap, opålitliga dokument och godkännandeprocesser byggda för mänsklig utmatning verkar vara separata problem. Men de delar samma rotorsak. Ingen av dem skapades av AI, men AI gör dem svårare att ignorera.

Frågor att besvara innan du bygger en agent

Innan du distribuerar en AI-agent, bör en organisation kunna besvara tre frågor.

Vilka beslut beror på kunskap som aldrig har dokumenterats?

Detta innebär att identifiera undantag, genvägar och bedömningar som erfarna anställda tillämpar utan att medvetet beskriva dem. Intervjuer ensam kan inte avslöja all denna kunskap. Organisationer kan behöva observera hur arbetet faktiskt utförs och jämföra det med den officiella processen.

Hur kommer systemet att identifiera information som är aktuell, godkänd och relevant?

Att ge en agent tillgång till fler dokument löser inte problemet om den inte kan skilja mellan en godkänd kontrakt och en utkast eller en aktiv policy och en föråldrad. Versionshantering, äganderätt, godkännandestatus och kvarhållningsregler måste vara tydliga nog för systemet att identifiera vilken källa som ska styra dess beslut.

Kan befintliga godkännande- och eskaleringprocesser absorbera volymen och hastigheten på dess utmatning?

Team bör uppskatta inte bara hur mycket arbete agenten kan slutföra, utan också hur många granskningar, undantag och eskaleringar som arbetet kan skapa. NIST AI Risk Management Framework rekommenderar att tydligt definiera roller och ansvar för mänsklig tillsyn av AI-system. Dessa behöver utformas för den förväntade volymen innan systemet distribueras – inte efter att anställda har blivit överväldigade av det.

Dessa är inte frågor att besvara en gång och glömma. Processer förändras, dokument åldras och odokumenterade undantag ackumuleras igen. Beredskap måste därför upprätthållas, inte bara etableras före lansering.

AI-beredskap börjar med processen

AI-beredskap är inte bara en test av teknologin. Det är en test av om organisationen har gjort sina egna processer tillräckligt explicita för teknologin att fungera inom dem.

Att förbereda en organisation för AI innebär därför mer än att välja en modell eller bygga en agent. Det innebär att klargöra äganderätt, identifiera auktoritativ information, dokumentera undantag och omforma hur utmatning granskas, eskaleras och ageras på.

Detta är svårt arbete, men en misslyckad distribution kommer så småningom att tvinga organisationen att göra det ändå. Den enda variabeln är tidpunkten.