Tankeledere
AI-styring utover modellen

Viktige punkterVacuums de responsabilidad causan la mayoría de los fracasos de IA empresarial, no…
Vis mer
- Vacuums de responsabilidad causan la mayoría de los fracasos de IA empresarial, no fallos en los modelos.
- Air Canada fue considerada responsable por el consejo incorrecto de su chatbot sobre tarifas por duelo.
- La IA agéntica amplificará las brechas de gobernanza existentes, ya que las acciones autónomas agravan el riesgo.
Advarsel: Problemet Er Ikke Modellen
I 2023 lanserte New York City chatboten MyCity for å hjelpe bedrifter å navigere komplekse regler. Ideen var enkel: gjøre juridisk informasjon lettere tilgjengelig.
I praksis produserte systemet svar som ikke bare var feil, men også juridisk misvisende – fra regler om tips til boligdiskriminering til betalingslover.
En senere revisjon fant at 71,4% av brukerfeedback var negativ. I stedet for å fikse de underliggende problemene, var responsen å legge til ansvarsfraskrivelser. Chatboten forble i “beta” i over to år før den ble stengt.
Feilen var ikke teknisk. Systemet brøt sammen i produksjon fordi det ikke var noen mekanisme for å sikre nøyaktighet, intet klart ansvar og ingen måte å gripe inn når ting gikk galt.
Dette er mønsteret bak enterprise AI i dag: teknologien fungerer, men organisasjonene er ikke organisert til å operere den pålitelig når den er live.
Fra Pilot Til Produksjon: Hvor Alt Går Galt
Å bygge en pilot er ganske enkelt – velg et bruksområde, velg en modell, forbered data, finn en sponsor. Å kjøre et system i produksjon er noe helt annet.
Gapet er som forskjellen på å hoppe i et svømmebasseng og å hoppe fra stratosfæren, som Felix Baumgartner gjorde i 2012. Samme grunnleggende fysikk, helt forskjellige forhold – og helt forskjellige konsekvenser for feil.
I produksjon, går AI inn i virkelige beslutningsprosesser, samhandler med kunder og skaper juridiske og operative konsekvenser. Det er der gapene begynner å dukke opp – ikke i modellen, men i hvordan den styres.
Europa gjør dette synlig tidligere enn de fleste regioner. Regler som EU AI-loven, GDPR og NIS2 sakter ikke ned adopsjonen – de avdekker om organisasjonene kan operere AI-systemer under virkelige begrensninger.
I 2025 var 55% av store EU-bedrifter allerede i gang med å bruke AI. Adopsjonen skjer allerede i stor skala. Utfordringen er hva som skjer etter produksjonssetting.
Da begynner grunnleggende operative spørsmål å dukke opp. Og ofte kan ingen svare på dem: Hvem er ansvarlig for AI-utdata og autonome beslutninger? Hva skjer når systemet oppfører seg på uventede måter? Og hvem vil fange det før skaden når media?
Ansvar ligger hos selskapet, ikke teknologien. Air Canadas chatbot (AC.TO ) ga en kunde feil informasjon om særlige flypriser ved dødsfall i nær familie. Kunden stolte på informasjonen og ble senere nektet en refusjon. En tribunal fastslo at flyselskapet var ansvarlig – chatboten var ikke en separat enhet.
Samme problem, annen vinkel: McDonalds McHire-systemet avdekket følsomme data fra nesten 64 000 søkere. Årsaken var ikke et sofistikert angrep – admin-innloggingen brukte “admin” og “123456”. Systemet så avansert ut. Feilen var grunnleggende.
Når du ettermonterer styring på et system som allerede er i drift, er det allerede for sent. Å sette et system i produksjon er en teknisk beslutning. Å operere det pålitelig er en organisatorisk beslutning. Og det er den delen de fleste selskaper undervurderer.
Hvem Eier Egentlig AI-Risiko? Ingen.
Dette er kjernen i problemet, og paradoksalt nok det som diskuteres minst. IT-avdelingen styrer infrastrukturen. Juridisk håndterer samsvar. Bedriftsteamene driver bruksområder. Men ingen har det samlede ansvaret for AI-risiko fra ende til ende.
Dette skaper to umiddelbare problemer. “Go”-beslutningen blir langsommere – fordi ingen vil ta ansvar. Og “stop”-beslutningen blir like langsom – fordi ingen vet hvem som kan.
Dataene reflekterer dette. Færre enn 10% av AI-bruksområder kommer fra pilot til produksjon, og de fleste organisasjonene sliter med å generere målbare forretningsresultater. Samtidig er mange allerede i gang med å distribuere AI – men ifølge en styringsmodenhet-undersøkelse, hadde bare 7% en godt strukturert og konsekvent anvendt styring på plass.
Hvorfor skjer dette så jevnt? Fordi de fleste rammer og bedriftspolitikker definerer hva som skal skje – ikke hvem som er ansvarlig når det teller. Når et system begynner å produsere feil utdata ved midnatt en fredag, er spørsmålet ikke teoretisk. Hvem handler? Og hvem har myndighet til å bestemme?
Dette blir bare verre med skala. Et system kan håndteres uformelt. Når du har tretti, fragmenteres ansvar over team, og ingen har det fullstendige bildet.
Commonwealth Bank of Australia (CBA.AX ) gir et tydelig eksempel. Banken erstattet 45 kundeservicearbeidere med AI-voice-bots, og forventet at etterspørselen ville synke. Den gjorde det ikke. Ringevolum økte, ledere trådte inn for å håndtere overskudd, og banken måtte gjenansette alle 45 ansatte. Når de ble utfordret, kunne de ikke demonstrere at automatisering hadde redusert arbeidsmengden.
Ingen hadde validert antagelsene før produksjonssetting. Ingen eide utfallet når antagelsene feilet. Det er hva et ansvarstomrom ser ut som i praksis.
Å Ha Regler Er Ikke Nok. Du Trenger En Mekanisme
De fleste organisasjonene mangler ikke politikker. De mangler systemer som fungerer når noe går galt.
En politikk definerer hva som skal skje. En mekanisme bestemmer hva som faktisk skjer – når en modell produserer feil utdata, når en leverandør endrer noe i bakgrunnen, eller når et system begynner å oppføre seg på uventede måter.
Den forskjellen blir synlig i produksjon – når beslutninger må tas under virkelige forhold.
Disse feilene følger en konsistent dynamikk. I hvert tilfelle dukker de samme operative gapene opp – bare i forskjellige former.
Eierskap Kommer Først
Hvert AI-system i drift trenger en tydelig ansvarlig eier – en person, ikke et team eller en avdeling, med myndighet til å godkjenne, pause og stenge det ned.
Uten det er hverken rask produksjonssetting eller trygg inngripen mulig. Som vist i Commonwealth Bank-eksemplet, fører mangelen på tydelig eierskap direkte til operativ feil.
Data Og Juridisk Klarhet Er Ofte Mangelfull
Mange systemer går live uten dokumenterte datastrømmer, en verifisert juridisk grunn eller klarhet om hvilke forpliktelser som gjelder når systemet er i produksjon.
Den italienske tilsynsmyndighetens inngrep mot DeepSeek i 2025 illustrerer dette tydelig. Problemet var ikke modellkvalitet – det var manglende evne til å forklare hvordan personlige data ble behandlet. Resultatet var et plutselig tjenesteavbrudd for europeiske brukere.
Testing Reflekterer Sjelden Virkelige Bruksområder
Systemer blir ofte evaluert på scenarier hvor de fungerer bra, men ikke på tilfellene hvor feil ville være mest kritisk.
MyCity-chatboten er et tydelig eksempel. Grunnleggende edge-cases – rundt arbeidsrett, boligdiskriminering eller betalingsregler – ble ikke fanget før produksjonssetting. Når de ble eksponert for virkelige brukere, ble feilene umiddelbart offentlige.
Testing er ikke bare om ytelse – det er om å identifisere hvor systemet feiler før brukere, regulatorene eller journalistene gjør.
Inngripen Er Uklar Eller For Sein
Selv når problemer er synlige, er det ofte ingen klar utløser eller myndighet til å pause eller stenge ned systemet.
Zillow Offers demonstrerer dette i stor skala. Systemet brukte en algoritme til å prise og kjøpe hjem. Da markedet kjølnet i 2021, fortsatte systemet å kjøpe til for høye priser. Det var ingen mekanisme til å oppdage avvik i tide, og intet klart beslutningspunkt til å stoppe det. Resultatet var tap på over 880 millioner dollar og stenging av hele avdelingen.
Overvåking Er Ikke Eierskap
Overvåking reduseres ofte til dashboards, men det er ikke det som forhindrer feil.
Hva som teller, er definert ansvar: hvem sporer signaler, hva utløser eskalering, og hvem forventes å handle.
Deloitte Australias sak viser hva som skjer når det mangler. En regjeringsrapport inkluderte hallucinerte sitater og feil juridiske referanser fordi ingen var eksplisitt ansvarlig for å verifisere utdata før levering. Resultatet var en delvis refusjon og omdømmeskade.
Agentbasert AI: Hva Som Kommer Vil Være Enda Hardere
Generativ AI produserer utdata. Agentbasert AI utfører handlinger. Det endrer risikoen fullstendig.
I stedet for ett enkelt svar å evaluere, kan en enkelt instruksjon utløse en rekke beslutninger over systemer – API-kall, dataaksess, transaksjoner, oppdateringer – ofte uten menneskelig inngripen på hvert trinn.
Når noe går galt, er problemet ikke lenger nøyaktighet. Det er sporbarhet. Hvilket trinn forårsaket problemet? Hva slags data ble brukt? Hvem autoriserte handlingen? I mange tilfeller er disse spørsmålene vanskelige å svare på etterpå.
Det er der eksisterende gap blir kritiske. Uklart eierskap, svak overvåking og manglende inngripen ikke bare består – de forsterkes. Et feilaktig svar kan korrigeres. En feilaktig handling kan skape konsekvenser før noen legger merke til det.
Tidlige signaler peker allerede i denne retningen. Gartner estimerer at over 40% av prosjekter med agentbasert AI vil bli kansellert innen 2027 – ikke på grunn av modellbegrensninger, men fordi organisasjonene sliter med å kontrollere kostnader, risiko og resultater. Det er samme mønster vi ser med generativ AI etter produksjonssetting. Bare med høyere innsats.
Regulatorene responderer allerede med et enkelt prinsipp: automatisering fjerner ikke ansvar. For organisasjonene skaper det en klar implikasjon: hvis eierskap og kontroll er uklare i dag, vil skaling inn i agentbaserte systemer ikke løse problemet. Det vil forsterke det.
Operer Det – Ellers Mister Du Det
AI er ikke lenger begrensningen. Modellene er vidt tilgjengelige, kapable og stadig kommodifiserte. Den virkelige differensiatoren er ikke om en organisasjon kan bygge AI – men om den kan operere det pålitelig når det er live.
Det er der de fleste feilene skjer – i hvordan systemer kjøres, ikke hvordan de bygges. Organisasjonene som lykkes, vil ikke være de med de mest avanserte modellene. De vil være de med de klareste operative strukturer rundt dem.
Dette kan testes direkte. Ta ditt viktigste AI-system og besvar tre spørsmål:
- Hvem kan stenge det ned?
- Hvordan vet du når det feiler?
- Hva skjer når det feiler?
Hvis disse svarene er uklare, er systemet ikke klart for produksjon.
Modellen kan være det. Organisasjonen er det ikke.












