AI træffer beslutninger hvert minut. Det meste governance foregår stadig kvartalsvis

Et AI-assisteret system kan påvirke hundredvis af driftsbeslutninger, før en styregruppe har planlagt sit næste møde. Governance, der bygger på kvartalsvise gennemgange, blev aldrig udformet til det tempo, og det er dette misforhold, der får mange virksomheders AI-programmer til at komme i vanskeligheder.

Vi bruger enormt meget tid på at diskutere, hvilke modeller vi skal implementere. Gartner forudsiger imidlertid, at organisationer frem til og med 2026 vil opgive 60% af de AI-projekter, der ikke understøttes af AI-klare data. De fleste AI-fiaskoer i virksomheder har meget lidt at gøre med selve modellen. De skyldes noget mere grundlæggende: Organisationerne mangler en troværdig, sammenhængende forståelse af deres egen virksomhed.

De skjulte omkostninger ved AI-klare data

De fleste virksomheder undervurderer den indsats, det kræver at etablere ejerskab, governance, tillid og kontekst omkring deres data. Kun få investerer i den tværfaglige ekspertise og driftsmodel, der skal til for at opbygge governance-rammer, som sikrer den gennemsigtighed, forklarlighed og ansvarlighed, der kræves for at føre AI ud over pilotprojekter.

Der er en enkel test, jeg opfordrer kunderne til at gennemføre. Kan organisationen tydeligt forklare, hvem der ejer dataene, hvordan de hænger sammen med forretningsprocesserne, hvilke kontroller der regulerer deres brug, og hvem der fortsat er ansvarlig for AI-assisterede beslutninger? Hvis ikke, vil deres AI-initiativer næppe lykkes, uanset hvor meget de investerer i platforme, infrastruktur eller modeller.

Det første skridt på enhver virksomheds AI-rejse bør være at investere i governance og en praktisk driftsmodel, der fastlægger tydeligt ejerskab, ansvar og beslutningsrettigheder. Det, jeg ser, er, at de fleste organisationer gør det omvendt og etablerer modeller og infrastruktur, før de nødvendige grundlag for at drive AI i stor skala er på plads.

AI-assisterede beslutninger bygger imidlertid på mere end enkelte datapunkter; de afhænger også af en forståelse af, hvordan information hænger sammen med forretningsprocesser, politikker, ejerskab og driftskontekst. Når disse sammenhænge er fragmenterede, bør organisationerne ikke blive overraskede, når AI-anbefalingerne bliver inkonsekvente.

Når AI-applikationer er tæt på at fejle, svigter eller giver modstridende anbefalinger, er de vigtigste spørgsmål organisatoriske snarere end tekniske. Hvem ejer dataene? Hvem ejer beslutningen? Hvem kan tilsidesætte AI’en? Hvordan eskaleres undtagelser? Uden svar risikerer virksomheder at skabe automatisering uden ansvarlighed.

Tillid opbygges før implementeringen

Tilliden til AI etableres længe før en model tages i brug. Effektiv governance kræver samarbejde på tværs af teknologi, forretningsområder, risikostyring, jura, compliance og sikkerhed, fordi AI-systemer opererer på tværs af organisatoriske grænser, mens ansvaret ofte forbliver opdelt i siloer. Mange governance-udfordringer, der tilskrives AI, er symptomer på ældre problemer med dataejerskab og beslutningskompetence, som teknologien blot har blotlagt.

De fleste organisationer har allerede governance i form af sikkerhedspolitikker, compliance-rammer og godkendelsesprocesser. Det, de ofte mangler, er et samlet overblik over, hvordan de forskellige dele hænger sammen.

Tillid udvikles, når interessenterne forstår begrundelsen for anbefalingerne, har tillid til de underliggende data og ved, at de rette kontroller og eskaleringsmekanismer er på plads. Intet af dette kan eftermonteres efter en hændelse.

Når kvartalsvis governance møder beslutninger fra minut til minut

Traditionelle governance-modeller bygger på periodiske gennemgange, styregrupper og retrospektiv rapportering. AI-assisterede systemer genererer anbefalinger løbende og i stor skala. De eksisterende rammer er ikke forkerte, men de er for langsomme og for løsrevet fra de operationelle beslutningsprocesser. En kvartalsvis gennemgang kan ikke styre beslutninger, der træffes hver time, døgnet rundt.

Jeg ser størst succes hos organisationer, der indarbejder governance direkte i de operationelle arbejdsgange gennem håndhævelse af politikker, godkendelsesforløb, overvågning, revisionssporbarhed og menneskeligt tilsyn. De har forpligtet sig til at gå fra periodisk til løbende governance, så de i realtid kan se, hvilke data der bruges, hvilke beslutninger der påvirkes, hvem der er ansvarlig, og hvornår det er nødvendigt, at et menneske griber ind.

Løbende governance handler om mere end at overvåge AI-output. Det indebærer en forståelse af, hvilke oplysninger AI bruger, om de fortsat er gyldige, og om beslutningerne stadig stemmer overens med virksomhedens politikker og mål.

AI vil modsige sig selv

Store organisationer håndterer allerede konkurrerende prioriteter hver dag. Sikkerhedsteams ønsker at mindske risikoen, driftsteams ønsker stabilitet, forretningsteams ønsker hurtighed, og økonomiteams ønsker omkostningseffektivitet. Nu kommer AI-systemerne til, trænet på forskellige datasæt og med forskellige mål, og de vil naturligt afspejle disse prioriteter.

En AI-løsning til sikkerhed kan anbefale straks at afhjælpe en kritisk sårbarhed, mens driftsteamet udsætter ændringen, fordi det berørte system understøtter en kritisk forretningstjeneste. Begge synspunkter kan være gyldige. Konflikterne kræver klare beslutningsrettigheder, fastlagt risikoejerskab og tydelige eskaleringsveje for at blive løst.

AI bør levere data, kontekst og anbefalinger, men ansvaret for at afveje forretningsmæssige, operationelle og risikomæssige hensyn skal fortsat ligge hos organisationen.

Håndtering af skepsis, når uoverensstemmelser kommer frem

Når AI giver en uoverensstemmende anbefaling, er det indlysende, at virksomheden vil være skeptisk over for den fremover. Tilliden genopbygges, når interessenterne forstår, hvorfor anbefalingen blev givet, hvilke data der blev brugt, og hvem der fortsat står til ansvar for resultatet.

AI afdækker ofte problemer med datakvaliteten, huller i ansvarsfordelingen og uoverensstemmelser i processerne, som allerede fandtes i organisationen. Det er langt mere produktivt at betragte disse situationer som muligheder for at forbedre styringen og de operationelle procedurer end at forsvare teknologien. Tillid opbygges over tid gennem gennemsigtighed, konsekvens og dokumenterbare forretningsresultater.

Det pålidelige informationsgrundlag

Samtalen om AI-parathed fokuserer ofte på modeller, infrastruktur og værktøjer. I praksis investerer de organisationer, der opnår de bedste resultater, i noget mere grundlæggende: et pålideligt informationsgrundlag. Det giver den forretningskontekst, der forklarer, hvordan information hænger sammen med processer, politikker, ansvarsforhold og operationelle beslutninger, og giver AI et stærkere grundlag for anbefalinger, som organisationer kan forstå, styre og have tillid til.

Selv den mest avancerede AI-model kan ikke kompensere for svag informationsstyring, uklare ansvarsforhold eller mangelfuld forretningskontekst. Organisationer skal opbygge den kontekst, styring, organisatoriske hukommelse og beslutningsintelligens, der er nødvendig for at bruge AI ansvarligt og effektivt i stor skala.

Det arbejde tager længere tid og er mindre synligt end at udrulle en ny model, men det afgør i sidste ende, om modellen skaber varig forretningsværdi.