AI-vasking setter bedrifter opp for å mislykkes

Hvert enkelt bedrift i dag føler presset for å ha en AI-historie. Styrene ønsker å se det. Investorer forventer det. Kunder spør om det. Men dette presset har skapt en voksende bølge av “AI-vasking” – hvor automatisering blir “AI”, analyse blir omdøpt til “maskinlæring” og skriptede chatboter plutselig blir “agentic AI”.

Jeg har sett denne filmen før. Dagens AI-landskap er lignende på de tidlige dagene av skytjenester, da selskaper merket på-prem-systemer som “skygnaturlig” lenge før deres arkitektur eller driftsmodeller var klare. Samme mønster utvikler seg nå, og konsekvensene vil være verre.

Med skyvasking var nedside effekten ineffektivitet og ødslet utgift. Med AI-vasking er nedside effekten kundeorientert. Vi deployer ikke bakkontor-infrastruktur som feiler med en crash eller en feilkode. Vi deployer systemer som samhandler direkte med kunder – og disse systemene feiler stille, selvfolgelig og ofte i de tilfeller som betyr mest.

Dette kan være grunnen til at, ifølge en MIT Sloan-studie, de fleste AI-piloter aldri kommer til produksjon. Og de som gjør det, underpresterer ofte — ikke fordi AI-en ikke er i stand til det, men fordi organisasjonene som deployer det har hoppet over det harde arbeidet med testing, validering og operasjonell beredskap.

De virkelige drivkreftene bak AI-vasking

Frykten for å bli sett på som forsinket driver mest av dette beteendet. Organisasjoner presenterer AI som et signal om innovasjon i stedet for en refleksjon av virkelig evne. De hopper over testing og validering for å nå produktlanseringstidslinjer, uten noen tydelig utviklingsprosess som er tilpasset kundens behov.

Investorforventninger forsterker problemet. Offentlige og venture-backed selskaper står overfor frister for å vise AI-integrasjon og AI-drevne vekstnarrativer. Faktisk 90% av ekslusivt rapporterer å føle press fra investorer til å adoptere AI. Dette presset oppmuntrer selskaper til å omdøpe eksisterende evner som AI i stedet for å bygge virkelig nye, AI-naturlige tilbud.

Resultatet er feilaktige forventninger overalt — for investorer, for kunder og for de interne teamene som er ansvarlige for å gjøre det hele fungere. Det skaper en illusjon av innovasjon når i virkeligheten det er merking.

Hvorfor agentic AI bryter illusjonen

Agentic AI er der hvor hypen faller fra hverandre. Og med 68% av organisasjonene forventer å integrere AI-agenter i år, er regnskapsåret kommet raskt.

Her er det grunnleggende problemet de fleste bedrifter ikke har kjempet med: tradisjonell programvare er deterministisk. Samme innputt, samme utputt, hver gang. Du kan skrive en test, reproducere en feil og forutsi atferd. AI-agenter er ikke-deterministiske – samme spørsmål kan produsere et annet svar hver gang. Dette er ikke en feil. Det er arkitekturen. Og det endrer alt om hvordan du tester, overvåker og stoler på disse systemene.

Ditt hele QA-infrastruktur var bygget på antagelsen om reproduserbarhet. Med generativ AI, er denne antagelsen borte. Du kan kjøre samme test hundre ganger og få hundre forskjellige svar – noen korrekte, noen subtilt feil, noen farlig feil. Testrammeverkene som fungerte for IVR og skriptede chatboter overføres ikke til agentic AI. Og de fleste bedrifter har ikke bygget de nye ennå.

Dette er der AI-vasking blir avdekket. Det er en ting å gi en polert demo med kurerte innputt og forutsigbare stier. Det er en annen å håndtere en virkelig kunde som avbryter, motsier seg selv, snakker i brutt engelsk og ringer klokken 23 om en fakturingskonflikt de ikke fullstendig forstår. Modeller er trent på data, ikke på den emosjonelle, uforutsigbare virkeligheten av menneskelig interaksjon.

Når disse systemene feiler, feiler de ikke som tradisjonell programvare. Det er ingen crash. Ingen feilkode. AI-en lyder selvfolgelig mens den er feil. Den håndterer 95% av tilfellene fint og katastrofalt feiler de 5% som betyr mest. Og til forskjell fra en feil webform, feiler disse feilene over tusenvis av kunder før noen legger merke til det.

Hvor AI-feil skjules

Kundeopplevelsen er ett av de mest komplekse miljøene for agentic AI – og hvor AI-vasking er mest åpenbart. Gartner forutså nylig at over 40% av agentic AI-prosjekter vil bli kansellert innen utgangen av 2027 på grunn av økende kostnader, utilstrekkelige risikokontroller eller uklar forretningsverdi. CX er en primær årsak til dette.

Kundeferden involverer sjelden bare ett system. Den flytter over conversational AI, IVR-systemer, kunnskapsbasert, CRM-plattformer og menneskelige agenter. Hybridferder er vanlige – hver interaksjon er sannsynligvis over flere systemer før det når en løsning.

Her er hva jeg har sett gjentatte ganger: hvert system ser ut til å fungere korrekt på egen hånd, men den endelige ferd feiler likevel. En AI-agent tolker et spørsmål korrekt, men CRM-en har utdatert informasjon og leverer feil svar. AI-en blir beskyldt, men det virkelige problemet er fragmentert data og fragmentert eierskap.

Fragmenterte teknologistaker betyr også fragmentert synlighet. Det er ingen enkeltvisning av kundeferden. Til forskjell fra tradisjonell programvare med klare feilsignaler, når agentic AI bryter sammen, ser det selvfolgelig ut uansett nøyaktighet. Eskalasjonsregler utløses for sent. Kunder blir fanget i løkker. Systemet fortsetter å kjøre — og feilen blir bare synlig gjennom kundefrustrasjon eller avhopping.

Dette er det stille feilproblemet. AI-en krasjer ikke. Det er selvfolgelig og undergraver tillit, en gang om gangen, i skala.

Beveger seg fra AI-hype til operasjonell disiplin

Svaret på AI-vasking er ikke bedre markedsføring. Det er en grunnleggende endring i hvordan organisasjoner behandler AI, fra en funksjon de annonserer til infrastruktur de opererer.

Jeg har brukt 25 år på å bygge og skalerer bedriftssystemer, inkludert å grunnlegge et AI-testautomatiseringsselskap. Mønsteret jeg har sett over hver teknologibølge er det samme. Selskapene som vinner er ikke de som adopterer først. De er de som opererer best. Her er hva det ser ut som for AI:

Mål produksjonsytelse, ikke demo-ytelse

Evaluering av AI basert på kontrollerte miljø forteller deg ingenting om virkelig atferd. Metrikker som betyr noe er eskalasjonsnøyaktighet, løsningsrater, politikkoverholdelse og kundetilfredshet over tusenvis av uskriptede interaksjoner — ikke cherry-picked demo-scenarier.

Fix foundationen før du skalerer

AI løser ikke brutte arbeidsflyter – det forsterker dem. Ulik-routing, ufullstendige kunnskapsbasert, utdatert CRM-data – disse problemene forsvinner ikke når du legger til AI. De blir verre, raskere og i skala. Arbeidsflyt-beredskap må komme før AI-deployering, ikke etter.

Test hele ferden, ikke individuelle komponenter

De fleste bedrifter validerer individuelle systemer i isolasjon, men feilene viser seg i overleveringene. End-to-end-ferd-testing over stemme, digital og AI-kanaler er den eneste måten å fange integrasjonsfeilene som kunder faktisk opplever.

Bygg for tillit, ikke bare effisiens

Brukere vil avvise AI som fanger dem i døde løkker, gir feil svar eller gjør det umulig å nå en menneskelig. Bedriftene som optimaliserer for effisiens på bekostning av tillit vil tape kundene de prøver å tjene billigere.

Slutten på AI-vasking

Etterhvert som AI integreres dyptere i operasjonelle arbeidsflyter, vil bedrifter ikke lenger kunne skjule seg bak hype. Flere enn halvparten av investorene forventer nå avkastning fra AI innen seks måneder. En slik tidsramme er umulig uten systemer designet for den uforutsigbare virkeligheten — ikke det polerte demo-miljøet.

Kravet utvikler seg fra å ha AI som en produktfunksjon til å bevise at det fungerer når det betyr mest, i skala, i produksjon, med virkelige kunder.

AI-vasking kan vinne kortvarig oppmerksomhet. Det vil ikke overleve kontakt med virkeligheten.