Tankeledere
Fra hensigt til autonom handling: Styring af AI-agenter i virksomheden

NøglepunkterStyring skal ligge inde i produktet, fordi det definerer, hvilke ansvarsområder en…
Vis mere
- Styring skal ligge inde i produktet, fordi det definerer, hvilke ansvarsområder en organisation sikkert kan delegere.
- Et agentisk kontrolplan knytter agentidentitet og godkendte kapaciteter til håndhævelse af politik og tilsyn med udførelse.
- Organisationer bør starte med en snæver arbejdsgang og kun udvide agentens beføjelser, i takt med at operationelle beviser understøtter det.
En instruktion som »gendan tjenesten« lyder ligetil, indtil en AI-agent skal afgøre, hvad den giver tilladelse til. Genstart af en applikation, ændring af en konfiguration og klargøring af infrastruktur kan alle understøtte dette mål, men de har forskellige konsekvenser. Efterhånden som agenter går fra at anbefale handlinger til at udføre dem, har organisationer brug for en tydelig forbindelse mellem forretningshensigt og operationelle beføjelser.
Styring hører hjemme i selve produktet, fordi den afgør, hvilke ansvarsområder en organisation trygt kan uddelegere. En agent, der pålideligt kan udføre en opgave inden for aftalte rammer og dokumentere sine handlinger, giver et stærkere grundlag for implementering i virksomheder end en agent, hvis beføjelser fortsat er uklare. Den arkitektoniske udfordring er at gøre disse rammer til en del af systemets måde at fungere på.
For at føre disse rammer ud i livet kræves en ensartet måde at styre agenternes handlinger på. En agentisk kontrolplan kan danne grundlag for dette ved at forbinde agentidentitet, godkendte funktioner, håndhævelse af politikker, hukommelsesstyring og tilsyn med udførelse på tværs af eksisterende virksomhedssystemer. Den fastslår, hvem der har anmodet om en handling, hvilke beføjelser der ligger til grund for den, hvilke ressourcer den kan påvirke, og hvordan resultatet skal verificeres.
Her er tre praktiske retningslinjer, vi anbefaler til styring af AI-agenter i virksomheden:
Knyt funktioner til tydelige beføjelser
Hver agent bør have en identificerbar ejer, et klart formål og tilladelser, der passer til dens opgave. Det er i tråd med NIST’s ramme for risikostyring af AI, som betragter styring som en løbende funktion gennem hele AI-livscyklussen. For agenter skal dette princip også gælde i det øjeblik, en handling ændrer et virksomhedssystem. Når én agent uddelegerer til en anden, bør disse rammer fortsat gælde.
Det kræver tilsvarende omhu at finde frem til tilgængelige funktioner: Et godkendt katalog bør beskrive hvert værktøjs formål, input, output, tilladte miljøer og mulige følgevirkninger. At finde et værktøj giver ikke tilladelse til at bruge det, så autorisationen skal kontrolleres, når en handling forsøges udført. OWASP’s vejledning om overdreven handlefrihed understreger denne forskel med anbefalinger om at begrænse funktionalitet og tilladelser samt håndhæve autorisation i efterfølgende systemer.
Forestil dig et eksempel på en arbejdsgang til genetablering af en tjeneste, hvor en agent undersøger, hvorfor en applikation er blevet langsommere, og foreslår at genstarte en komponent. Politikken tillader adgang til godkendte telemetridata, mens en genstart i produktionsmiljøet kræver dokumentation for, at redundansen fungerer, samt godkendelse fra den tjenesteansvarlige. Disse betingelser omsætter en bred instruktion til en afgrænset operationel beslutning.
Omsæt operationelle hensigter til værktøjer underlagt styring
Hvis der findes et godkendt værktøj til genetablering, kan agenten udarbejde en anmodning ved hjælp af denne funktion. Hvis et sådant værktøj ikke findes, kan agenten hjælpe med at oprette et script, en driftsvejledning, et inputskema og en værktøjsbeskrivelse og dermed omsætte den operationelle hensigt til en foreslået funktion, som andre kan gennemgå. Det er den praktiske værdi af agentisk værktøjskodning: Agenter kan bidrage til driftsværktøjerne såvel som bruge dem.
At generere disse driftsværktøjer bør dog ikke automatisk gøre dem klar til udførelse i produktionsmiljøet. En foreslået funktion kræver en uafhængig frigivelsesproces med tydeligt ansvar, sikkerhedskontroller, versionsstyring og test, der dækker ugyldige input, for bredt omfang, delvise fejl og gentagen udførelse. Test, der er genereret af en agent, kan bidrage med dokumentation, men en uafhængig validering bør fastslå, om funktionen opfylder de operationelle krav, før den optages i det godkendte katalog.
Rammerne for udførelse bør derefter begrænse omfanget af de ressourcer, der kan påvirkes, netværksadgangen, varigheden og forbruget, og eventuelle påkrævede godkendelser bør knyttes til den specifikke handling, det specifikke mål og den specifikke version. Beredskab ved genopretning fortjener samme opmærksomhed, fordi nogle ændringer kan rulles tilbage, mens andre kræver kompenserende handlinger eller ikke kan omgøres. Hver funktion bør tydeliggøre disse begrænsninger og give operatørerne en afprøvet måde at standse yderligere udførelse på.
Hukommelse indebærer endnu et ansvar for styringen, fordi gemte observationer kan påvirke fremtidige beslutninger længe efter, at den oprindelige kontekst har ændret sig. Organisationer bør fastlægge, hvad agenter må gemme, hvor længe oplysningerne skal være tilgængelige, og hvilke adgangsbegrænsninger der skal gælde, understøttet af mekanismer til sporing af oprindelse og rettelse. En husket tilladelse må aldrig blive til en permanent beføjelse, og forældet driftsviden bør ikke lydløst påvirke nye handlinger.
Udvid autonomien på grundlag af dokumentation
Et meningsfuldt tilsyn afhænger af dokumentation, der forbinder den oprindelige anmodning med den gældende politik, godkendelsen, værktøjets version, resultatet af udførelsen og den efterfølgende verifikation. Menneskelige kontrollanter skal have tilstrækkelig kontekst til at vurdere den foreslåede ændring, usikkerheden ved den og mulighederne for at genoprette situationen uden at blive overvældet af unødvendige detaljer. For at understøtte dette tilsyn bør eskalering følge fastlagte betingelser, såsom modstridende observationer eller en ukendt systemtilstand, i stedet for udelukkende at bero på agentens udtrykte tillid til sin egen vurdering.
IT-ledere bør begynde med en afgrænset arbejdsgang og udvide agentens beføjelser, efterhånden som driftsmæssige resultater giver grundlag for det. De bør måle vellykkede resultater sammen med undtagelser, genopretningstid, overtrædelser af politikker og den indsats, der kræves til tilsyn. Disse målinger hjælper med at afgøre, om en agent er klar til større ansvar, og hvor der er behov for yderligere sikkerhedsforanstaltninger eller test.
Muligheden ligger i at gøre delegering til en gentagelig proces, hvor hver godkendt funktion fastlægger, hvad en agent kan gøre, under hvilke betingelser og hvilket ansvar der følger med. Denne disciplin kan styrke robusthed og effektivitet, samtidig med at organisationer får et velbegrundet grundlag for at give større autonomi. Det vigtigste budskab er dette: Styring hører hjemme i produktet, fordi den gør denne udvikling mulig.












