Er minimering den bedste tilgang til AI-styring?

Når organisationer integrerer kunstig intelligens (AI) i deres forretningsaktiviteter, har de brug for klare metoder til at håndtere de risici, der er forbundet med udvikling og brug af teknologien. Effektiv styring sikrer tilsyn, men komplekse procedurer kan lægge beslag på ressourcer og forsinke implementeringen. Minimering kan gøre styringen mere proportional ved at begrænse unødvendig brug af data og samtidig bevare ansvarlighed og sikkerhedsforanstaltninger.

Hvorfor AI-styring er vigtig

AI-styring fastlægger de politikker, ansvarsområder og tilsynsordninger, der guider organisationers udvikling, implementering og brug af AI-systemer. Den hjælper organisationer med at identificere risici, placere beslutningskompetencen og etablere processer til at overvåge ydeevnen og håndtere problemer.

Organisationer skal tage højde for flere risici, når de indfører AI, herunder brud på privatlivets fred, sikkerhedssårbarheder, skæve resultater, unøjagtige output og begrænset gennemsigtighed. Uden passende kontrolforanstaltninger kan AI-genererede beslutninger påvirke kunder, medarbejdere og andre interessenter på måder, der er vanskelige at rette op på. Styring hjælper også organisationer med at overholde gældende lovkrav og tilpasse brugen af AI til forretningsmålene.

International Association of Privacy Professionals rapporterede, at 77 % af de adspurgte organisationer arbejdede med AI-styring i 2025. Resultatet viser, at organisationer i betydeligt omfang beskæftiger sig med emnet, men arbejdet med styring betyder ikke nødvendigvis, at en organisation har færdiggjort eller fuldt ud implementeret sin ramme.

Klare ansvarsområder og løbende overvågning hjælper organisationer med at identificere nye problemer, undersøge uventede resultater og tilpasse kontrolforanstaltninger, efterhånden som systemerne ændres. Effektiv styring kan også styrke interessenternes tillid ved at vise, at organisationen tager konsekvenserne af AI-brug i betragtning og står til ansvar for sine beslutninger.

Udfordringer ved AI-styring

Selvom styring hjælper organisationer med at håndtere AI-risici, kan det være vanskeligt at etablere og opretholde et effektivt tilsyn. For at fastlægge tilsynets omfang skal organisationer afgøre, hvilke AI-systemer, aktiviteter og afhængigheder der skal være omfattet af styringen. 

For at fastlægge et klart omfang for AI-styringen kan organisationer tage udgangspunkt i ISO/IEC 42001, som indeholder krav til etablering og vedligeholdelse af et ledelsessystem for AI. Overholdelse af standarden kan forbedre modellens ydeevne og dermed gøre AI hurtigere og sikrere. Den hjælper også organisationer med at afgøre, hvilke dele af deres aktiviteter der er omfattet af deres AI-ledelsessystem. Standarderne tager højde for geografisk dækning, forbindelser til andre systemer og omfanget af organisationernes AI-aktiviteter. 

Andre centrale udfordringer omfatter:

• Komplekse AI-systemer: AI-applikationer kan være baseret på indbyrdes forbundne modeller, datasæt, tredjepartsværktøjer og automatiserede beslutninger. Disse afhængigheder kan gøre det vanskeligt at spore output, identificere sårbarheder og afgøre, hvor der er behov for kontrolforanstaltninger.
• Databeskyttelse og datasikkerhed: Organisationer skal beskytte følsomme oplysninger under hele forløbet fra dataindsamling og modeltræning til implementering og løbende brug. 
• Skævhed og begrænset gennemsigtighed: Træningsdata, der ikke er repræsentative, kan føre til urimelige resultater, mens uigennemsigtig modeladfærd kan gøre beslutninger vanskelige at forklare, vurdere eller anfægte.
• Regler og standarder under udvikling: Organisationer, der opererer på tværs af jurisdiktioner, kan være underlagt forskellige eller ændrede lovkrav. Styringsprocesser skal tage højde for relevante forpligtelser uden at skabe unødvendigt dobbeltarbejde.
• Ressource- og driftsmæssige begrænsninger: Specialiserede kompetencer, dokumentation, gennemgange og løbende overvågning kræver tid og finansiering. 
• Afvejning mellem tilsyn og innovation: For mange krav om godkendelse kan forsinke projekter, mens utilstrækkelige kontrolforanstaltninger kan betyde, at væsentlige risici ikke håndteres.

Disse udfordringer understreger værdien af at reducere unødvendig kompleksitet. Minimering af styringen skal dog også omfatte etablering af kontrolforanstaltninger, der beskytter mennesker og oplysninger og sikrer, at organisationen kan holdes til ansvar.

New York State Comptroller fandt for eksempel, at myndighederne i New York City greb forskelligt an i tilsynet med AI, og at nogle af dem manglede politikker til vurdering af skævhed og nøjagtighed. Resultaterne viser, at reduktion af kompleksitet kræver klare og ensartede styringsstandarder for at sikre ansvarlighed. 

Hvad minimering betyder for AI-styring

Minimering inden for AI-styring handler om at reducere unødvendig brug af data og administrative byrder, samtidig med at man bevarer de foranstaltninger, der er nødvendige for at håndtere risici. Den har to hoveddimensioner: dataminimering og minimering af styringen. Begge har til formål at tilpasse AI-praksis bedre til dens formål og potentielle indvirkning.

Dataminimering

Dataminimering begrænser indsamling, opbevaring, behandling og deling af oplysninger til det, som et AI-system har brug for til et klart defineret formål. Organisationer kan anvende princippet ved at begrænse adgangen til følsomme oplysninger og bruge anonymiserede eller syntetiske data, hvor det er relevant.

Ved at reducere unødvendige data kan man begrænse indgreb i privatlivets fred og mindske mængden af oplysninger, som organisationer skal beskytte. Dataminimering kræver dog nøje overvejelser. Hvis relevante oplysninger fjernes, kan det svække modellens nøjagtighed, mindske repræsentationen af forskellige grupper eller gøre det vanskeligere at identificere skæve resultater. Organisationer skal afgøre, hvilke data der er nødvendige for at opfylde det tilsigtede formål og sikre pålidelige og retfærdige resultater.

Minimering af AI-styring

Minimering af AI-styring handler om at effektivisere tilsynsprocesserne. Organisationer kan samle overlappende gennemgange og genbruge vurderinger, hvor det er relevant. De kan også tydeliggøre beslutningskompetencen og fjerne godkendelseslag, der ikke giver en meningsfuld beskyttelse mod risici.

Disse ændringer bidrager til at reducere administrationsomkostninger og forsinkelser og samtidig tydeliggøre teamenes ansvar. Minimering af AI-styring bør dog ikke føre til, at nødvendig dokumentation, uafhængig gennemgang, menneskeligt tilsyn eller obligatoriske kontroller afskaffes. Målet er at gøre tilsynet mere effektivt og samtidig bevare ansvarligheden.

Strategier til minimering i AI-styring

En minimeringstilgang kan gøre AI-styringen mere effektiv, når organisationer tilpasser datapraksis og tilsynskrav til risiciene ved hvert enkelt anvendelsesområde. Flere tiltag kan reducere unødvendig kompleksitet og samtidig bevare ansvarlighed, pålidelig ydeevne og passende sikkerhedsforanstaltninger.

Anvend en risikobaseret tilgang

Organisationer kan klassificere AI-systemer efter deres tilsigtede anvendelse, potentielle påvirkning og datasensitivitet. National Institute of Standards and Technology’s AI Risk Management Framework giver en ramme for håndtering af AI-risici gennem fire funktioner, som omfatter styring, kortlægning, måling og håndtering. Organisationer kan bruge disse funktioner til at identificere risici, vurdere deres betydning og fastlægge passende tiltag.

Fastlæg tydelige datakrav

Hvert AI-system bør have et klart defineret formål, inden dataindsamlingen begynder. Organisationer kan derefter udpege de nødvendige datakategorier, fjerne irrelevante felter, begrænse adgangen og fastsætte passende opbevaringsperioder. Afprøvning bør bekræfte, at reducerede datasæt fortsat understøtter nøjagtige og retfærdige resultater.

Optimér modeller og computerressourcer

Optimering af modeller, effektive algoritmer og energieffektiv hardware kan bidrage til at mindske unødvendige beregningskrav. Virksomheder kan undersøge fødereret læring, som mindsker behovet for at overføre store mængder oplysninger. Disse metoder kan reducere beregningsomkostninger og energiforbrug og samtidig beskytte privatlivets fred. 

Forenkl arbejdsgange for AI-styring

Organisationer kan samle overlappende gennemgange, genbruge vurderinger, der dækker de samme risici, tydeliggøre ansvarsområder og fastlægge godkendelsesforløb efter risikoniveau. Standardiserede processer hjælper teams med at håndtere rutinemæssige anvendelser effektivt og sende mere komplekse sager videre til de rette specialister.

Bevar de nødvendige sikkerhedsforanstaltninger

En minimeringstilgang skal bevare beskyttelsen af privatliv og sikkerhed, vurderinger af skævheder, passende menneskeligt tilsyn, revisionsspor og procedurer for håndtering af hændelser. Organisationer bør også sikre sig, at effektiviserede processer fortsat opfylder gældende juridiske og lovgivningsmæssige forpligtelser.

Overvåg ydeevnen, og revurdér kontrollerne

Kravene til styring kan ændre sig, efterhånden som et AI-system udvikles, når ud til nye brugere eller understøtter flere opgaver. Organisationer bør overvåge nøjagtighed, retfærdighed og risici for privatlivets fred efter implementeringen. De bør også genoverveje datakrav og tilsynsprocedurer, når forholdene ændrer sig.

Sådan får du minimering til at fungere i AI-styring

Minimering er mest effektiv som en del af en risikobaseret styringsstrategi. Det passende niveau af minimering vil dog variere alt efter AI-systemets formål, kompleksitet og potentielle påvirkning. Ved at afveje effektivitet mod passende sikkerhedsforanstaltninger, ansvarlighed og løbende evaluering kan organisationer forenkle AI-styringen og samtidig sikre ansvarlig og pålidelig brug af AI.