Tankeledere

AI-styring ud over modellen

Zuzana Drotárová
Føj Unite.AI til dine foretrukne kilder på Google
NøglepunkterMangel på ansvarlighed forårsager de fleste AI-fejl i virksomheder, ikke modelmangler.
Vis mere
  • Mangel på ansvarlighed forårsager de fleste AI-fejl i virksomheder, ikke modelmangler.
  • Air Canada blev holdt ansvarlig for sin chatbots forkerte rådgivning om begravelsesbilletter.
  • Agentisk AI vil forstærke eksisterende styringshuller, da autonome handlinger øger risikoen.

Advarsel: Problemet er ikke modellen

I 2023 lancerede New York City chatbot’en MyCity for at hjælpe virksomheder med at navigere i komplekse regler. Ideen var simpel: gøre det lettere at få adgang til juridisk information.

I praksis producerede systemet svar, der ikke blot var forkerte, men også juridisk misvisende – fra regler om drikkepenge til boligdiskrimination til betalingslove.

En senere revision fandt, at 71,4% af brugerfeedback var negativt. I stedet for at løse de underliggende problemer var svaret at tilføje ansvarsfraskrivelser. Chatbot’en forblev endda i “beta”-version i over to år, før den blev lukket ned.

Fejlen var ikke teknisk. Systemet brød sammen i produktionen, fordi der ikke var nogen mekanisme til at sikre nøjagtighed, ingen klar ansvarlig og ingen måde at gribe ind, når noget gik galt.

Det er mønsteret bag enterprise AI i dag: teknologien fungerer, men organisationer er ikke klar til at operere den pålideligt, når den er live.

Fra pilot til produktion: Hvor det hele falder fra hinanden

At bygge en pilot er ret direkte – vælg et anvendelsesområde, vælg en model, forbered data, find en sponsor. At køre et system i produktion er en helt anden liga.

Afstanden er som forskellen på at springe i en pool og springe fra stratosfæren, som Felix Baumgartner gjorde i 2012. Samme grundlæggende fysik, helt forskellige betingelser – og meget forskellige konsekvenser for fejl.

I produktion kommer AI ind i rigtige beslutningsprocesser, interagerer med kunder og skaber juridiske og operative konsekvenser. Det er, hvor huller begynder at dukke op – ikke i modellen, men i, hvordan den styres.

Europa gør dette synligt tidligere end de fleste regioner. Regler som EU’s AI-lov, GDPR og NIS2 bremser ikke indførelsen – de afslører, om organisationer kan operere AI-systemer under rigtige begrænsninger.

I 2025 var 55% af de store EU-virksomheder allerede i gang med at bruge AI. Indførelsen sker allerede i stor målestok. Udfordringen er, hvad der sker efter deployment.

På det tidspunkt begynder grundlæggende operative spørgsmål at dukke op. Og ofte kan ingen svare på dem: Hvem er ansvarlig for AI-output og autonome beslutninger? Hvad sker, når systemet opfører sig på uventede måder? Og hvem vil fange det, før skaden når medierne?

Ansvaret ligger hos virksomheden, ikke teknologien. Air Canadas chatbot (AC.TO ) gav en kunde forkert information om særlige flypriser ved dødsfald i nærmeste familie. Kunden stolede på det og blev senere afvist en refusion. En tribunal fastslog, at flyselskabet var ansvarligt – chatbot’en var ikke en separat enhed.

Samme problem, forskellig vinkel: McDonald’s McHire -system afslørede følsomme data fra næsten 64.000 ansøgere. Årsagen var ikke et sofistikeret angreb – admin-login brugte “admin” og “123456”. Systemet så avanceret ud. Fejlen var grundlæggende.

Når du tilføjer styring til et live-system, er det allerede for sent. At deployere et system er en teknisk beslutning. At operere det pålideligt er en organisatorisk beslutning. Og det er den del, som de fleste virksomheder undervurderer.

Hvem ejer egentlig AI-risikoen? Ingen.

Dette er kernen i problemet og paradoksalt det, der diskuteres mindst. IT-afdelingen styrer infrastrukturen. Juridisk håndterer overholdelse. Forretningsteams fremmer anvendelsesområder. Men ingen ejer AI-risikoen fra ende til anden.

Det skaber to umiddelbare problemer. “Go”-beslutningen bliver langsommere – fordi ingen vil tage ansvar. Og “stop”-beslutningen bliver ligeledes langsommere – fordi ingen ved, hvem der kan.

Data viser det. Færre end 10% af AI-anvendelser når fra pilot til produktion, og de fleste organisationer kæmper med at generere målbar forretningseffekt. Samtidig er mange allerede i gang med at deployere AI – men ifølge en undersøgelse af modenheden i styringen havde kun 7% en velstruktureret og konsekvent anvendt styring på plads.

Hvorfor sker dette så konsekvent? Fordi de fleste rammer og virksomhedspolitikker definerer, hvad der skal ske – ikke hvem der er ansvarlig, når det kommer til stykket. Når et system begynder at producere forkert output ved midnat en fredag, er spørgsmålet ikke teoretisk. Hvem handler? Og hvem har myndighed til at træffe beslutninger?

Dette bliver kun værre med skala. Et system kan håndteres uformelt. Når du har tredive, fragmenteres ansvar over hold, og ingen har det fulde overblik.

Commonwealth Bank of Australia (CBA.AX ) giver et klart eksempel. Banken erstattede 45 kundeservicearbejdere med AI-voice-bots, forventede, at efterspørgslen ville falde. Det gjorde den ikke. Antallet af opkald steg, chefer trådte til for at håndtere overskuddet, og banken måtte genansætte alle 45 ansatte. Når de blev udfordret, kunne de ikke demonstrere, at automatisering havde reduceret arbejdsbyrden.

Ingen havde valideret antagelserne før idriftsættelsen. Ingen ejede udfaldet, når antagelserne fejlede. Sådan ser et ansvarstomrum ud i praksis.

At have regler er ikke nok. Du har brug for en mekanisme

De fleste organisationer mangler ikke politikker. De mangler systemer, der fungerer, når noget går galt.

En politik definerer, hvad der skal ske. En mekanisme bestemmer, hvad der faktisk sker – når en model producerer forkert output, når en leverandør ændrer noget i baggrunden eller når et system begynder at opføre sig på uventede måder.

Den forskel bliver synlig i produktion – når beslutninger skal træffes under rigtige betingelser.

Disse fejl følger en konsekvent dynamik. I hvert tilfælde dukker de samme operative huller op – blot i forskellige former.

Ejerskab kommer først

Hvert deployet AI-system har brug for en tydelig ansvarlig ejer – en person, ikke et hold eller en afdeling, med myndighed til at godkende, pause og lukke det ned.

Uden det er det hverken muligt at deployere hurtigt eller gribe ind sikkert. Som set i Commonwealth Bank-eksemplet fører manglen på klart ejerskab direkte til operativ fejl.

Data og juridisk klarhed mangler ofte

Mange systemer går live uden dokumenterede datastrømme, en verificeret juridisk basis eller klarhed om, hvilke forpligtelser der gælder, når systemet er i produktion.

Den italienske tilsynsmyndigheds indgreb mod DeepSeek i 2025 illustrerer dette tydeligt. Problemet var ikke modelkvalitet – det var den manglende evne til at forklare, hvordan persondata blev behandlet. Resultatet var en pludselig afbrydelse af tjenesten for europæiske brugere.

Testning reflekterer sjældent rigtig brug

Systemer evalueres ofte på scenarier, hvor de fungerer godt, men ikke på tilfælde, hvor fejl ville have størst betydning.

MyCity-chatbot’en er et klart eksempel. Grundlæggende edge-cases – omkring arbejdslov, boligdiskrimination eller betalingsregler – blev ikke fanget, før deployment. Når de blev udsat for rigtige brugere, blev fejlene offentlige med det samme.

Testning handler ikke kun om præstation – det handler om at identificere, hvor systemet fejler, før brugere, tilsynsførende eller journalister gør.

Indgreb er uklart eller for langsomt

Selv når problemer er synlige, er der ofte ingen klar udløser eller myndighed til at pause eller lukke systemet ned.

Zillow Offers demonstrerer dette i stor målestok. Systemet brugte en algoritme til at prissætte og købe huse. Da markedet kølnede i 2021, fortsatte systemet med at købe til for høje priser. Der var ingen mekanisme til at registrere afvigelser i tide, og intet klart beslutningspunkt til at stoppe det. Resultatet var tab på over 880 millioner dollar og lukningen af hele afdelingen.

Overvågning er ikke ejerskab

Overvågning reduceres ofte til dashboards, men det er ikke det, der forhindrer fejl.

Det, der betyder noget, er defineret ansvar: hvem sporer signaler, hvad udløser eskalering, og hvem forventes at handle.

Deloitte Australiens sag viser, hvad der sker, når det mangler. En regeringsrapport indeholdt hallucinerede citater og forkerte juridiske referencer, fordi ingen var udtrykkeligt ansvarlig for at verificere output, før levering. Resultatet var en delvis refusion og skade på omdømmet.

Agentbaseret AI: Hvad der kommer, vil være endnu sværere

Generativ AI producerer output. Agentbaseret AI udfører handlinger. Det ændrer risikoen helt.

I stedet for et enkelt svar at evaluere, kan en enkelt instruks udløse en kæde af beslutninger på tværs af systemer – API-kald, dataadgang, transaktioner, opdateringer – ofte uden menneskelig indgriben på hvert trin.

Når noget går galt, er problemet ikke længere nøjagtighed. Det er sporbarhed. Hvilket trin forårsagede problemet? Hvilke data blev brugt? Hvem autoriserede handlingen? I mange tilfælde er disse spørgsmål svære at besvare efterfølgende.

Det er, hvor eksisterende huller bliver kritiske. Uklart ejerskab, svag overvågning og manglende indgreb består ikke blot – deres virkninger forstærker hinanden. Et fejlagtigt svar kan korrigeres. En fejlhandling kan skabe konsekvenser, før nogen lægger mærke til det.

Tidlige signaler peger allerede i denne retning. Gartner estimerer, at over 40% af projekter med agentbaseret AI vil blive aflyst inden 2027 – ikke på grund af modelbegrænsninger, men fordi organisationer kæmper med at kontrollere omkostninger, risiko og resultater. Det er det samme mønster, vi ser med generativ AI efter deployment. Kun med højere indsats.

Tilsynsmyndigheder reagerer allerede med et simpelt princip: automatisering fjerner ikke ansvar. For organisationer skaber det en klar implikation: hvis ejerskab og kontrol er uklare i dag, vil en udvidelse til agentbaserede systemer ikke løse problemet. Det vil forstærke det.

Operér det – eller tab det

AI er ikke længere begrænsningen. Modeller er vidt tilgængelige, kapable og stadig mere kommodificerede. Den virkelige differentiator er ikke, om en organisation kan bygge AI – men om den kan operere det pålideligt, når det er live.

Det er, hvor de fleste fejl sker – i, hvordan systemer køres, ikke i, hvordan de bygges. Organisationerne, der lykkes, vil ikke være dem med de mest avancerede modeller. De vil være dem med de klareste operative strukturer omkring dem.

Dette kan testes direkte. Tag dit vigtigste AI-system og besvar tre spørgsmål:

  • Hvem kan lukke det ned?
  • Hvordan ved du, når det fejler?
  • Hvad sker der, når det fejler?

Hvis disse svar er uklare, er systemet ikke klar til produktion.

Modellen kan være det. Organisationen er det ikke.

Zuzana Drotárová leder forretningsanalyse hos Avenga, hvor hun overvåger ~100 analytikere over virksomhedsprogrammer i CZ & SK. Hun fokuserer på de operationelle og beslutningsstrukturelle aspekter, der afgør, om virksomhedsinitiativer, herunder AI, fungerer i den faktiske drift.