Maskin til menneske-interaksjon: “Siste mile”-problemet som holder tilbake bedrifts-AI

Fram til helt nylig var det styreromssamtaler om AI sentrert rundt modellene selv. Er utdataen nøyaktig? Hvor rent var treningsdataene? Hvordan kan vi redusere bias? Er hallucinasjoner under kontroll? Disse spørsmålene er fortsatt viktige, men utdata er ikke lenger det eneste styre og aksjonærer er opptatt av. I stedet er de blitt interessert i noe som er mye harder å måle – om AI-systemer faktisk fungerer med mennesker like effektivt som de kunne i dag-til-dag interaksjoner.  

Dette er delvis hvorfor IBM nylig fant seg selv med en aksjonærforsettelse som krevde større åpenhet om hvordan de håndterer AI-bias og styring. Forsettelsen fokuserte spesifikt på bias-mildring, men den bredere takeaway var at når AI blir mer dypt integrert i beslutningsprosesser, blir det vurdert basert på operasjonell ansvar og målbare forretningsresultater i stedet for dens grunnleggende nivå av evne. 

Hva jeg ser i samtaler med bedrifter er at svært få mennesker fortsatt debatterer om hvorvidt modellene selv er kapable. De fleste organisasjonene vet allerede at disse systemene kan generere utdata, automatisere arbeidsflyter og surface innlysninger med ekstraordinær hastighet. Det hardeste spørsmålet er om noen av dette konsistent forbedrer resultater innenfor bedriften. Bruker ansatte faktisk disse systemene på meningsfulle måter? Stoler de på anbefalingene de mottar? Blir beslutningene mer klare, raskere eller mer konsistente? Eller genererer organisasjonene bare mer innhold, mer analyse og mer støy uten å endre hvordan mennesker opererer? Gapet mellom AI-evne og menneskelig tilpasning er hva jeg mener er “siste mile” av bedrifts-AI. Det er der hvor ROI, tillit, ansvar og operasjonell konsistens konvergerer, og det er der hvor mange deployeringer begynner å stanse.

Kapasitet er ikke flaskenakken – menneskelig kontekst er

IBM-aksjonærforsettelsen selv sentrerte rundt bias, en kjent og voksende bekymring i industrien.  Resolusjonen krevde at IBM skulle produsere ytterligere rapportering om metodene de bruker for å identifisere og mildre bias over sine AI-modeller, inkludert de potensielle risikoene forbundet med disse mildringsinnsatsene. IBM kjempet tilbake, og argumenterte for at mye av denne informasjonen allerede var offentlig tilgjengelig gjennom modellkort, styringsdokumentasjon, åpenhetsrapportering og innlegg til Stanfords Foundation Model Transparency Index. De fleste observatører erkjente at IBM hadde gjort mer enn mange leverandører for å operasjonalisere ansvarlig AI-praksis, mens de også erkjente at styring og bias fortsatt var uavklarte industribrede utfordringer.

Hva som er interessant for meg er ikke om IBMs respons var riktig eller galt. Det er hva hele situasjonen sier om hvor bedrifts-AI-samtaler er på vei. Styre har i stor grad flyttet inn i en ny fase av AI-vurdering fokusert på beslutningskvalitet, operasjonell påvirkning, ansatt-tillit og langvarig tilpasning innenfor bedriften.

Dette er der hvor en nevrovitenskapelig perspektiv fører meg til en annen konklusjon enn mye av den nåværende bedrifts-AI-samtalen. Mennesker er ikke rasjonelle inndata-utdata-maskiner. Vi nærmer oss beslutninger med endelig oppmerksomhet, fluktuasjon i tillit, kognitiv overbelastning og konstant skiftende intensjon. Når interaksjoner føles langsomme, når forhåndsdefinerte svar mangler hva vi faktisk mente, eller når mennesker må kjempe mot systemet for å komme til noe nyttig, kollapser engasjementet lenge før tilpasningsmetrikker fanger opp. Hallusinasjonsrisiko, inkonsistens og bias forverrer bare problemet, og skaper friksjon innen arbeidsflyter som opprinnelig var ment å forbedre produktivitet og beslutningsprosesser. Denne “siste mile” er hva de fleste organisasjonene fortsatt undervurderer: AI-verdi skapes ikke når en modell genererer et svar, men når det leverer riktig svar på riktig tidspunkt og mennesker kan stole på det nok til å handle på hva det produserer. 

Hvorfor ignorerer vi den virkelige “menneske i løkken” – brukeren?

Vi har hørt mye nylig om “menneske i løkken” og viktigheten av å ha et menneske til stede for å godkjenne AI-drevet utdata. Men hva hvis det viktigste mennesket – brukeren – ikke blir ordentlig forstått? Menneske-til-menneske-interaksjon er kompleks og multifaset, men grunnen til at direkte kommunikasjon fungerer så godt er at ingen nuanser går tapt. Hvis noen nøler, mister tillit, blir frustrert eller forvirret, eller hvis intensjonen skifter, går det gjennom under en interaksjon og samtalen skifter deretter. De fleste AI-systemer sliter fortsatt med å gjenkjenne disse signalene fordi de er mer eller mindre “på skinner” i og med at de bare responderer på siste prompt fra brukeren. 

Ifølge min mening er dette en av de avgjørende begrensningene i nåværende bedrifts-AI-deployeringer. Vi har bygget systemer som er usedvanlig gode til å generere informasjon mens de forblir begrensede i deres evne til å gjenkjenne om den informasjonen hjelper noen med å ta bedre beslutninger.

En organisasjon kan deployere bedrifts-AI-verktøy for tusenvis av ansatte og likevel ikke oppnå meningsfull tilpasning i hvordan disse systemene faktisk brukes. Rammer som NIST AI Risk Management Framework, ISO/IEC 42001 og EU AI Act driver organisasjoner mot større styringsmodenhet og operasjonell ansvar. Men styring på papir går bare så langt hvis ansatt-engasjement med AI forblir fragmentert. Hvis forskjellige lag stoler på og bruker AI på helt forskjellige måter, blir måling av ROI nesten umulig, og det er et problem som ingen mengde prompting kan fikse. 

Kosten av AI-overbelastning

Vi går nå inn i en fase der AI blir fullstendig ubetydelig innenfor AI-arbeidsflyter. Det er copiloter integrert i produktivitetssuiter, AI-genererte møtesammendrag som ankommer etter hvert møte, dashboards som surface prediktive innlysninger i sanntid, anbefalingsmotorer som mater ansatte konstante forslag, og automatisert analyse som dukker opp raskere enn de fleste lag kan realistisk prosessere det. På papir ser dette ut som fremgang – bedrifter produserer mer informasjon enn noensinne før. Men kognitiv vitenskap har vært tydelig om dette i tiår: mer informasjon produserer ikke automatisk bedre beslutninger.

Mennesker kan bare absorbere så mye informasjon før overbelastning begynner å sette inn. For mange anbefalinger skaper nøling. For mange varsler blir bakgrunnstøy. For mange AI-genererte alternativer kan etterlate ansatte med tvil i stedet for å handle med tillit. Hva som er interessant er at AI-systemer blir usedvanlig gode til å produsere informasjon mens de fortsatt forblir relativt dårlige til å forstå hvordan mennesker mottar, tolker og responderer på den informasjonen i kontekst. Styre bryr seg ikke om hvor mange sammendrag, anbefalinger eller genererte innlysninger et system kan produsere. De bryr seg om hvorvidt beslutninger blir mer klare og pålitelige over hele bedriften.

AI har gått inn i sin ansvarlig fase

IBM-aksjonærforsettelsen kan ha kommet fra bekymringer om bias, men jeg mener det reflekterer noe mye bredere som skjer over hele bedrifts-AI. Nysgjerrigheten rundt AI er over, og bedrifter som søker en solid avkastning på sine AI-investeringer kan ikke lenger se på modellkapasitet alene. Teknologien har bevist seg selv, men nå trenger den en målestokk for ansvar. Hvor konsistent bruker ansatte disse systemene? Forbedres beslutninger? Øker tillit og engasjement over tid, ellereroserer de gradvis? Når AI blir mer integrert i dag-til-dag-arbeidsflyter, kan neste generasjons systemer måtte bli mye mer bevisste på menneskelig atferd, oppmerksomhet, tillit og intensjon hvis bedrifter ønsker varig tilpasning og målbare ROI. Inntil da vil “siste mile” sannsynligvis forbli en av de største utfordringene i bedrifts-AI-tilpasning.