At gå på linje med AI: Hvorfor operationshold behøver at balancere impact med risiko

AI udvikler sig i så dramatiskt et tempo, at hvert skridt fremad er et skridt ind i det ukendte. Muligheden er stor, men risikoen er sandsynligvis endnu større. Mens AI lover at revolutionere brancher – fra automatisering af rutineopgaver til at give dybe indsighter gennem dataanalyse – åbner det også op for etiske dilemmær, bias, dataprivatlivsproblemer og endda en negativ avkastning (ROI), hvis det ikke implementeres korrekt.

Analytikere laver allerede forudsigelser om, hvordan fremtiden for AI vil – i hvert fald delvis – blive formet af risiko.

Ifølge en rapport fra 2025 fra Gartner med titlen Riding The AI Whirlwind, vil vores forhold til AI ændre sig, efterhånden som teknologien udvikler sig og risikoen tager form. For eksempel forudser rapporten, at virksomheder vil begynde at inkludere emotionel AI-relaterede juridiske beskyttelser i deres vilkår og betingelser – med sundhedssektoren forventet at starte disse opdateringer inden for de næste to år. Rapporten foreslår også, at mere end en fjerdedel af alle virksomhedsdataudbrud vil kunne spores tilbage til en form for AI-agentmisbrug, enten fra interne trusler eller eksterne ondsindede aktører.

Ud over regulering og datasikkerhed er der en anden – relativt usynlig – risiko, med lige så høje indsatser. Ikke alle virksomheder er “klar” til AI, og selvom det kan være fristende at skynde sig igennem med AI-udrulning, kan det føre til store finansielle tab og operative tilbageslag. Tag et dataintensivt område som finansielle services, for eksempel. Mens AI har potentialet til at superchargere beslutningstagning for operationshold i denne sektor, fungerer det kun, hvis disse hold kan stole på de indsighter, de handler på. I en rapport fra 2024 afslørede ActiveOps, at 98% af finansielle servicesledere citerer “betydelige udfordringer”, når de adopterer AI til dataindsamling, analyse og rapportering. Selv efter udrulning finder 9 af 10 det stadig svært at få de indsighter, de har brug for. Uden struktureret styring, tydelig ansvar og en kompetent arbejdsstyrke til at fortolke AI-drevne anbefalinger, er den virkelige “risiko” for disse virksomheder, at deres AI-projekter kan blive mere af en byrde end en aktiv.

Høje indsatser, høj risiko

AI’s potentiale til at transformere virksomheder er uafviseligt, men også omkostningerne ved at gøre det forkert. Mens virksomheder er ivrige efter at udnytte AI til effektivitet, automatisering og realtidsbeslutning, kompenserer risikoen lige så hurtigt som mulighederne. Et misstep i AI-styring, manglende tilsyn eller en overafhængighed af AI-genererede indsighter baseret på utilstrækkelige eller dårligt vedligeholdte data kan resultere i alt fra reguleringssanktioner til AI-drevne sikkerhedsbrud, fejlbeslutning og reputationsbeskadigelse. Med AI-modeller, der stadig mere træffer eller påvirker kritiske forretningsbeslutninger, er der en presserende behov for, at virksomheder prioriterer datastyring, før de skalerer AI-initiativer. Som McKinsey siger, vil virksomhederne behøve at antage en “alt, overalt, samtidig” holdning for at sikre, at data på tværs af hele virksomheden kan bruges sikkert og sikret, før de udvikler deres AI-initiativer.

Dette er sandsynligvis en af de største risici forbundet med AI. Løftet om automatisering og effektivitet kan være forførende, hvilket får virksomheder til at hælde ressourcer i AI-drevne projekter, før de sikrer, at deres data er klar til at støtte dem. Mange organisationer skynder sig at implementere AI uden at etablere robust datastyring, tværfaglig samarbejde eller intern ekspertise, hvilket ultimativt fører til AI-modeller, der forstærker eksisterende bias, producerer upålidelige outputs og ikke genererer en tilfredsstillende ROI. Sandheden er, at AI ikke er en “plug and play”-løsning – det er en langsigtede strategisk investering, der kræver planlægning, struktureret tilsyn og en arbejdsstyrke, der forstår, hvordan man bruger det effektivt.

At etablere en stærk grund

Ifølge tightrope walker og forretningsleder, Marty Wolner, er den bedste råd, når man lærer at gå på en slackline, at starte småt: “Prøv ikke at gå på en tightrope over en canyon med det samme. Start med en lav wire og øg langsomt afstanden og sværhedsgraden, efterhånden som du bygger op din færdigheder og tillid.” Han foreslår, at det samme er sandt for virksomheder: “Små sejre kan forberede dig på større udfordringer.”

For at AI skal levere langsigtede, bæredygtige værdier, er disse “små sejre” afgørende. Mens mange organisationer fokuserer på AI’s tekniske evner og får et skridt foran konkurrenterne, ligger den virkelige udfordring i at bygge den rette operationelle ramme til at støtte AI-adopteringsprocessen i stor skala. Dette kræver en tre-del approach: robust styring, kontinuerlig læring og en forpligtelse til etisk AI-udvikling.

Styring: AI kan ikke fungere effektivt uden en struktureret styringsramme, der dikterer, hvordan det er designet, udrullet og overvåget. Uden styring risikerer AI-initiativer at blive fragmenterede, uansvarlige eller direkte farlige. Virksomheder må etablere tydelige politikker for datastyring, beslutningstransparens og systemovervågning for at sikre, at AI-drevne indsighter kan være troværdige, forklarbare og revisionssikre. Regulatorer strammer allerede forventningerne til AI-styring, med rammer som EU’s AI-lov og udviklende amerikanske reguleringer, der skal holde virksomheder ansvarlige for, hvordan AI bruges i beslutningstagning. Ifølge Gartner vil AI-styringsplatforme spille en afgørende rolle i at enable virksomheder til at styre deres AI-systemers juridiske, etiske og operationelle præstation, sikre overholdelse af regler, mens de opretholder agility. Organisationer, der ikke implementerer AI-styring nu, vil sandsynligvis opleve betydelige regulatoriske, reputationsmæssige og finansielle konsekvenser længere nede ad linjen.

Mennesker: AI er kun så effektivt, som de mennesker, der bruger det. Mens virksomheder ofte fokuserer på teknologien i sig selv, er arbejdsstyrkens evne til at forstå og integrere AI i daglige operationer lige så kritisk. Mange organisationer falder i fælden med at antage, at AI automatisk vil forbedre beslutningstagning, når virksomheder i virkeligheden kræver, at medarbejdere trænes til at fortolke AI-genererede indsighter og bruge dem effektivt. Medarbejdere må ikke kun tilpasse sig AI-drevne processer, men også udvikle de kritiske tænkningsevner, der kræves for at udfordre AI-outputs, når det er nødvendigt. Uden dette risikerer virksomheder at blive for afhængige af AI – og tillade fejlbeslægtede modeller at påvirke strategiske beslutninger ubemærket. Uddannelsesprogrammer, opkvalificeringsinitiativer og tværfaglig AI-uddannelse må blive prioriteret for at sikre, at medarbejdere på alle niveauer kan samarbejde med AI i stedet for at blive erstattet eller sat på sidelinjen af det.

Etik: Hvis AI skal være en langsigtede drivkraft for virksomhedsucces, må det være rodfæstet i etiske principper. Algoritme-bias, dataprivatlivsbrud og uigennemsigtige beslutningsprocesser har allerede undergravet tilliden til AI i visse brancher. Organisationer må sikre, at AI-drevne beslutninger er i overensstemmelse med lovgivning og regulatoriske standarder, og at kunder, medarbejdere og interessenter kan have tillid til AI-drevne processer. Dette indebærer at tage proaktive skridt for at eliminere bias, beskytte privatliv og bygge AI-systemer, der fungerer gennemsigtigt. Ifølge The World Bank handler AI-styring om at skabe retfærdige muligheder, beskytte rettigheder og – væsentligt – bygge tillid til teknologien.

Data: At have et enkelt, konsolideret datasæt på tværs af hele operationen er afgørende for at fastlægge både en start- og slutposition for AI’s involvering. At vide, hvor AI allerede bruges, forstå, hvor man skal udrulle AI, og være i stand til at spotte muligheder for yderligere AI-involvering, er afgørende for fortsat succes. Data er også det bedste mål, hvormed man kan måle AI’s fordele – hvis virksomheder ikke forstår deres “startposition” og ikke måler AI’s rejse, kan de ikke demonstrere dens fordele. Som Galileo engang sagde: “Mål, hvad der kan måles, og hvad der ikke kan måles, gør målbart.”

At gå på en tightrope handler om forberedelse, ro og balance med hvert skridt fremad. Virksomheder, der tilgår AI med mådeholden forsigtighed, struktureret datastyring og en kompetent arbejdsstyrke, vil være dem, der kommer over sikkert, mens de, der skynder sig fremad uden at sikre deres fodfæste, risikerer et dyrt fald.