Tankeledere

Hvorfor AI-styring feiler

Sitaram Srivatsavai
Legg til Unite.AI blant dine foretrukne kilder på Google
Viktige punkterGovernance debe enviarse como código que pueda fallar una compilación para proteger la…
Vis mer
  • Governance debe enviarse como código que pueda fallar una compilación para proteger la producción.
  • Solo el 10% de las empresas están completamente preparadas para auditar sistemas de IA según Ernst & Young.
  • La evidencia generada automáticamente por los sistemas es más sólida que la documentación para las auditorías.

Problemet er ikke at organisasjonene ikke har AI-retningslinjer. Det er at disse retningslinjene ikke gjør noe.

Et sted mellom den pent formaterte PDF-en og den distribuerte modellen, forsvinner intensjonen. Teamene improviserer. Unntak akkumulerer. Styringen utvikler seg fra et system til en forhandling – og i regulerte bransjer som helse og livsvitenskap, er dette gapet ikke bare pinlig. Det er en driftsmessig risiko.

Løsningen er ikke mer dokumentasjon. Det er å behandle styring som programvare.

Styringsgapet er allerede målbart

AI-bruken har akselerert dramatisk, mens styringsinfrastrukturen ikke har holdt tritt. En studie fra september 2025 av Ernst & Young fant at bare 10% av selskapene er fullstendig forberedt på å auditere AI-systemer. Samtidig fant ny Ponemon-forskning at 92% av organisasjonene sier at generativ AI har endret måten ansatte aksesserer og deler informasjon, men bare 18% har fullstendig integrert AI-styring i insider-risikoprogrammer.

Mønsteret er konsistent: AI er allerede innbygget i daglig arbeid. Tilsynet prøver fortsatt å ta igjen utviklingen. Og jo lenger styringen forblir i dokumentform, jo verre blir gapet.

Styring som leveres

Konseptet er bedragende enkelt: hvis et styringskrav ikke kan få en programvarebuild til å feile, kan det ikke beskytte produksjonsmiljøet.

Reell styring har inndata, utdata, gjennomføringspunkter og observerbare resultater. Den kjører kontinuerlig – ikke kvartalsvis. Avgjørende er at styringen produserer bevis som et biprodukt av arbeidet, ikke som et separat complianceritual lagt til i etterkant.

Driftsmodellen ser ut som følger:

Retningslinjer → Kontroller → Bevis → Måltall

Retningslinjer definerer intensjonen. Kontroller tvinger atferd. Bevis beviser gjennomføring. Måltall validerer resultatene. Dette er ikke en ny idé – det er akkurat hvordan modne sikkerhets- og compliance-systemer allerede opererer. Skiftet er å anvende samme logikk på AI.

Kontroller er ikke forslag. Bevis er ikke dokumentasjon. Og hvis en kontroll krever manuell innsats for å produsere bevis, er det ikke en kontroll. Det er et håp.

Risikonivåer, ikke risikoteater

Ikke alle AI-systemer fortjener samme granskning. Å behandle et lavrisiko internt verktøy med samme grundighet som en klinisk beslutningsstøttemodell er hvordan organisasjonene enten stopper opp eller utsetter seg for unødvendig risiko.

NISTs rammeverk for AI-risikostyring, utgitt i 2023, gir en grunnleggende struktur for å tenke om dette – å kartlegge AI-risiko over fire funksjoner: Govern, Map, Measure og Manage. En funksjonell bedriftsstyringsmodell bygger på denne logikken med praktiske risikonivåer:

Nivå Omfang Kontroller
Minimalt Interne verktøy, ingen sensitive data Registrering, lette kontroller
Begrenset Brukerrettet, moderat risiko Dokumentasjon, gjennomgang av prompter, sikkerhetstesting
Høyt Regulerte beslutninger eller beslutninger med store konsekvenser Formell risikovurdering, auditlogging, streng endringskontroll
Forbudt Uakseptable bruksområder Blokkert ved design og distribusjon

Hva dette gir ingeniørteamene er noe de sjelden får fra styringsprosesser: klare linjer. Ikke “hva skal vi gjøre?” men “hvilket nivå er dette, og hva utløser det?”

God styring fjerner uklarhet. Fremragende styring fjerner behovet for debatt.

Retningslinjer som kode: Fra rådgivning til håndheving

Retningslinjer skrevet i dokumenter er rådgivende. Retningslinjer kodet inn i utviklingspipelines kan håndheves.

På samme måte som infrastruktur valideres før utrulling kan AI-systemer underlegges automatiske kontroller som verifiserer om et bruksområde er registrert, om nødvendig dokumentasjon eksisterer, om evalueringsresultater møter definerte terskler, og om tilgang til sensitive data følger prinsippet om minste privilegium. Disse kontrollene kjører i CI/CD. De venter ikke på en komité. De avhenger ikke av noen sin hukommelse eller godvilje.

Open Policy Agent — et prosjekt med Graduated-status i Cloud Native Computing Foundation — demonstrerer akkurat hvordan regler kan versjoneres, gjennomgås og konsistent gjennomføres over ingeniørekosystemer. Mønsteret er forstått. Gapet er at AI-teamene ikke anvender det.

Det tryggeste AI-systemet er ikke det med de beste retningslinjene. Det er det som teknisk sett ikke kan bryte dem.

LLM-spesifikke kontroller: Hvor det blir interessant

Generativ AI introduserer en kategori av risiko som tradisjonelle styringsrammeverk ikke var designet for — promptinjeksjon, outputmanipulasjon, verktøymisbruk. Disse er ikke randtilfeller. De er strukturelle egenskaper hos hvordan LLM-er fungerer, og som Unite.AI’s dekning av agentisk AI-styring har notert, blir styringsgapet enda mer tydelig når AI-systemer går fra å svare på spørsmål til å utføre handlinger.

Effektiv styring for GenAI-systemer krever kontroller bygget spesifikt for LLM-atferd: streng adskillelse av systeminstruksjoner og brukerinput, kontrollert verktøytilgang og tillatelister, outputvalidering før utførelse, sikkerhetsforanstaltninger mot dataeksfiltrering og sikre standardinnstillinger for kontrollert feilhåndtering.

Disse kartlegger direkte til dokumenterte sårbarhetsklasser i OWASP Top 10 for LLM-applikasjoner – et fellesdrevet rammeverk som nå dekker over 600 bidragende eksperter fra 18 land. LLM-styring er mindre om hva modellen vet og mer om hva systemet tillater den å gjøre.

Bevis er infrastruktur, ikke papirarbeid

Revisorer stoler ikke på intensjon. De stoler på dokumenterte registreringer.

I et system hvor styring leveres, genereres bevis automatisk: modellkort som beskriver tiltenkt bruk og begrensninger, data-dokumentasjon som dekker proveniens, evalueringsrapporter som viser ytelse og kjente risikoer, logger som fanger beslutninger og endringer. Disse artefaktene eksisterer ikke for revisjoner. De eksisterer fordi systemet krever dem for å fungere.

Den sterkeste revisjonsposisjonen er når bevis allerede eksisterer før noen spør om det. Dette er ikke teoretisk — regulatorer flytter allerede i denne retningen. Som nylig analyse om forsvarbar AI-styring noterer, er spørsmålene regulatorer snart vil stille ikke lenger bare “har du beholdt det?” men “kan du bevise hva som skjedde, under hvilke retningslinjer, ved hjelp av hvilke data og med fullmakt fra hvem?”

Den virkelige argumentasjonen: Styring som akselerator

Den vedvarende myten er at styring og hastighet er i opposisjon. I praksis bremser dårlig utformet styring teamene. Veldesignet styring fjerner friksjon.

Når kontroller er standardisert, kontroller er automatisert, og forventninger er kodifisert, stopper teamene å forhandle og starter å bygge. Utgivelser blir mer forutsigbare. Beslutninger slutter å kreve heltedåder fra en liten gruppe spesialister som har lært retningslinjedokumentene utenat.

Styring skalerer når den er infrastruktur. Den skalerer ikke når den bygger på løse inntrykk.

Målet var aldri kontroll for sin egen skyld. Det er momentum uten kaos – og organisasjonene som får dette riktig, er ikke de med de mest omfattende PDF-ene. De er de som har gjort riktig atferd til den enkleste veien.

Sitaram Srivatsavai er en tankeleder innen CRM-teknologi med 18+ års erfaring på tvers av CRM, iOS og webplattformer. Leder globale team som leverer stor skala bedriftsprogramvare, med fokus på arkitektur-gjennomganger, automatiseringsmodernisering og sikring av pålitelighet, regulatorisk overholdelse og skalerbar ytelse.