Tankeledare

Varför AI-styrning fortsätter att misslyckas

Sitaram Srivatsavai
Lägg till Unite.AI bland dina föredragna källor på Google
Viktiga punkterStyrning måste levereras som kod som kan få en byggnation att misslyckas för att skydda…
Visa mer
  • Styrning måste levereras som kod som kan få en byggnation att misslyckas för att skydda produktionen.
  • Endast 10 % av företagen är fullt förberedda att granska AI-system enligt Ernst & Young.
  • Bevis som genereras automatiskt av system är starkare än dokumentation för granskningar.

Problemet är inte att organisationer inte har AI-policyer. Det är att dessa policyer inte faktiskt gör någonting.

Någonstans mellan den snyggt formaterade PDF-filen och den distribuerade modellen försvinner avsikten. Teamen improviserar. Undantag ackumuleras. Styrning utvecklas från ett system till en förhandling – och i reglerade branscher som hälsovård och livsvetenskaper är detta gap inte bara pinsamt. Det är en operativ risk.

Lösningen är inte mer dokumentation. Det är att behandla styrning som programvara.

Styrningsgapet är redan mätbart

AI-användningen har accelererat dramatiskt medan styrningsinfrastrukturen inte har hållit jämna steg. En studie från Ernst & Young i september 2025 fann att bara 10% av företagen är fullständigt förberedda att granska AI-system. Samtidigt fann ny Ponemon-forskning att 92% av organisationerna säger att generativ AI har förändrat hur anställda får tillgång till och delar information, men bara 18% har fullständigt integrerat AI-styrning i insider-riskprogram.

Mönstret är konsekvent: AI är redan inbäddat i dagligt arbete. Övervakning är fortfarande på väg att komma ikapp. Och ju längre styrning förblir i dokumentform, desto värre blir gapet.

Styrning som levereras

Konceptet är bedrägligt enkelt: om ett styrningskrav inte kan få en programvarubuild att misslyckas kan det inte skydda produktionsmiljön.

Riktig styrning har ingångar, utgångar, verkställande punkter och observerbara resultat. Den körs kontinuerligt – inte kvartalsvis. Avgörande är att den skapar bevis som en biprodukt av arbetet, inte genom en separat efterlevnadsritual som läggs till i efterhand.

Driftsmodellen ser ut så här:

Policy → Kontroller → Bevis → Mått

Policyer definierar avsikt. Kontroller tvingar beteende. Bevis bevisar utförande. Mått validerar resultat. Detta är inte en ny idé – det är exakt hur mogna säkerhets- och efterlevnadssystem redan fungerar. Skiftet är att tillämpa samma logik på AI.

Kontroller är inte förslag. Bevis är inte dokumentation. Och om en kontroll kräver manuellt arbete för att producera bevis, är det inte en kontroll. Det är ett hopp.

Risknivåer, inte riskteater

Inte alla AI-system förtjänar samma granskning. Att behandla ett lågriskinternt verktyg med samma stränghet som ett kliniskt beslutsstödssystem är hur organisationer antingen stannar upp eller utsätter sig för onödiga risker.

Den NIST AI Risk Management Framework, som släpptes 2023, tillhandahåller en grundläggande struktur för att tänka på detta – kartläggning av AI-risk över fyra funktioner: Styra, Kartlägga, Mäta och Hantera. En fungerande företagsstyrningsmodell bygger på denna logik med praktiska risknivåer:

Nivå Omfattning Kontroller
Minimal Interna verktyg, ingen känslig data Registrering, lätta kontroller
Begränsad Användarvända system, måttlig risk Dokumentation, granskning av promptar, säkerhetstestning
Hög Reglerade beslut eller beslut med stor påverkan Formell riskbedömning, granskningsloggning, sträng ändringskontroll
Förbjuden Oacceptabla användningsfall Blockerad vid design och driftsättning

Vad detta ger utvecklingsteam är något de sällan får från styrningsprocesser: tydlighet. Inte “vad ska vi göra?” utan “vilken nivå är detta, och vad utlöser det?”

Bra styrning tar bort tvetydighet. Utomordentlig styrning tar bort debatt.

Policy som kod: Från rådgivande till verkställande

Policyer skrivna i dokument är rådgivande. Policyer kodade i pipelines är verkställbara.

På samma sätt som infrastruktur valideras före driftsättning kan AI-system villkoras av automatiserade kontroller som verifierar om ett användningsfall är registrerat, om erforderlig dokumentation finns, om utvärderingsresultat uppfyller definierade trösklar och om åtkomst till känslig data följer minsta behörighet. Dessa kontroller körs i CI/CD. De väntar inte på en kommitté. De är oberoende av någons minne eller god vilja.

Open Policy Agent — ett projekt med Graduated-status inom Cloud Native Computing Foundation — demonstrerar exakt hur regler kan versioneras, granskas och konsekvent verkställas över ingenjörsekosystem. Mönstret är förstått. Gapet är att AI-team inte tillämpar det.

Det säkraste AI-systemet är inte det med de bästa policyerna. Det är det som tekniskt sett inte kan bryta mot dem.

LLM-specifika kontroller: Där det blir intressant

Generativ AI introducerar en kategori av risk som traditionella styrningsramverk inte var utformade för — promptinjektion, utdatamanipulation, verktygsmissbruk. Dessa är inte randfall. De är strukturella egenskaper hos hur LLM fungerar, och som Unite.AI:s bevakning av styrning för agentisk AI har noterat, blir styrningsgapet ännu mer uttalat när AI-system flyttar från att svara på frågor till att vidta åtgärder.

Effektiv styrning för GenAI-system kräver kontroller som är specifikt utformade för LLM-beteende: strikt separation av systeminstruktioner och användarindata, kontrollerad verktygsåtkomst och tillåtningslistor, utdatavalidering före körning, skydd mot dataexfiltration och säkra standarder för smidig felhantering.

Dessa kartläggs direkt till dokumenterade sårbarhetsklasser i OWASP Top 10 för LLM-applikationer – ett communitydrivet ramverk som nu täcker över 600 bidragande experter i 18 länder. LLM-styrning handlar mindre om vad modellen känner till och mer om vad systemet tillåter den att göra.

Bevis är infrastruktur, inte pappersarbete

Revisorer litar inte på avsikt. De litar på register.

I ett system där styrning levereras genereras bevis automatiskt: modellkort som beskriver avsedd användning och begränsningar, data-dokumentation som täcker ursprung, utvärderingsrapporter som visar prestanda och kända risker, loggar som fångar beslut och ändringar. Dessa artefakter existerar inte för revisioner. De existerar för att systemet kräver dem för att fungera.

Den starkaste revisionspositionen är när bevis redan finns innan någon ber om det. Detta är inte teoretiskt — regulatorer flyttar redan i denna riktning. Som senaste analys om försvarbar AI-styrning noterar, är frågorna regulatorer snart kommer att ställa inte längre bara “sparade ni det?” utan “kan ni bevisa vad som hände, enligt vilken policy, med vilka data och med vems befogenhet?”

Det verkliga argumentet: Styrning som accelerator

Den bestående myten är att styrning och hastighet är i opposition. I praktiken bromsar dåligt utformad styrning teamen. Välutformad styrning tar bort friktion.

När kontroller är standardiserade, kontroller är automatiserade och förväntningar är kodifierade, slutar teamen att förhandla och börjar bygga. Utgåvor blir mer förutsägbara. Beslut slutar att kräva hjältedåd från en liten grupp specialister som har memorerat policydokumenten.

Styrning skalar när den är infrastruktur. Den skalar inte när den bygger på lösa intryck.

Målet var aldrig kontroll för sin egen skull. Det är momentum utan kaos – och organisationerna som får detta rätt är inte de med de mest omfattande PDF:erna. De är de som gjorde rätt beteende till den lättaste vägen.

Sitaram Srivatsavai är en tankeledare inom CRM-teknik med 18+ års erfarenhet av CRM, iOS och webbplattformar. Leder globala team som levererar storskalig företagsprogramvara med fokus på arkitekturgranskning, automatiseringsmodernisering och säkerställande av tillförlitlighet, regelefterlevnad och skalbar prestanda.