Tankeledere
Fra hensikt til selvstendig handling: styring av KI-agenter i virksomheten

Viktige punkterStyring må ligge inne i produktet fordi det definerer hvilke ansvarsområder en…
Vis mer
- Styring må ligge inne i produktet fordi det definerer hvilke ansvarsområder en organisasjon trygt kan delegere.
- Et agentisk kontrollplan knytter agentidentitet og godkjente evner til policyhåndhevelse og tilsyn med utførelse.
- Organisasjoner bør starte med en smal arbeidsflyt og utvide agentens myndighet bare når operasjonelle bevis støtter det.
En instruks som «gjenopprett tjenesten» høres enkel ut helt til en KI-agent må avgjøre hva den gir tillatelse til. Å starte et program på nytt, endre en konfigurasjon og klargjøre infrastruktur kan alle bidra til å nå målet, men får ulike konsekvenser. Etter hvert som agenter går fra å anbefale handlinger til å utføre dem, trenger organisasjoner en tydelig forbindelse mellom virksomhetens hensikt og den operative myndigheten.
Styring må være innebygd i produktet fordi den avgjør hvilke ansvarsområder en organisasjon trygt kan delegere. En agent som kan utføre en oppgave pålitelig, innenfor avtalte rammer og med dokumentasjon på handlingene sine, gir et bedre grunnlag for innføring i virksomheten enn en agent med uklare fullmakter. Den arkitektoniske utfordringen er å gjøre disse rammene til en del av hvordan systemet fungerer.
For å omsette disse rammene i praksis trengs en konsekvent måte å styre hvordan agenter handler på. Et kontrollplan for KI-agenter kan gi dette grunnlaget ved å knytte sammen agentidentitet, godkjente funksjoner, håndheving av retningslinjer, minnekontroller og tilsyn med gjennomføring på tvers av eksisterende virksomhetssystemer. Det fastslår hvem som ba om en handling, hvilken myndighet den bygger på, hvilke ressurser den kan påvirke, og hvordan resultatet skal verifiseres.
Her er tre praktiske retningslinjer vi anbefaler for styring av KI-agenter i virksomheten:
Knytt funksjoner til tydelige fullmakter
Hver agent bør ha en identifiserbar eier, et klart definert formål og tillatelser som passer til oppgaven. Dette er i tråd med NISTs rammeverk for risikostyring innen kunstig intelligens, som behandler styring som en kontinuerlig funksjon gjennom hele KI-livssyklusen. For agenter må dette prinsippet også gjelde når en handling endrer et virksomhetssystem. Når én agent delegerer til en annen, bør disse rammene fortsatt gjelde.
Det kreves tilsvarende grundighet når agenter skal finne funksjoner: En godkjent katalog bør beskrive formålet med hvert verktøy, inndata, utdata, tillatte miljøer og mulige bivirkninger. Det at en agent finner et verktøy, gir den ikke tillatelse til å bruke det. Derfor må autorisasjonen kontrolleres når en handling forsøkes utført. OWASPs veiledning om overdreven handlefrihet understreker dette skillet ved å anbefale at funksjonalitet og tillatelser begrenses, og at autorisasjon håndheves i nedstrøms systemer.
Tenk deg en illustrerende arbeidsflyt for tjenestegjenoppretting der en agent undersøker hvorfor et program går tregt, og foreslår å starte en komponent på nytt. Retningslinjene tillater tilgang til godkjente telemetridata, mens en omstart i produksjonsmiljøet krever dokumentasjon på at redundansen fungerer som den skal, og godkjenning fra tjenesteeieren. Disse vilkårene gjør en generell instruks om til en avgrenset operativ beslutning.
Gjør operasjonelle hensikter om til styrte verktøy
Hvis det finnes et godkjent gjenopprettingsverktøy, kan agenten klargjøre en forespørsel ved hjelp av denne funksjonen. Hvis et slikt verktøy ikke finnes, kan agenten bidra med å lage et skript, en driftsprosedyre, et skjema for inndata og en verktøybeskrivelse, og dermed omsette den operasjonelle hensikten til en foreslått funksjon som andre kan gjennomgå. Dette er den praktiske verdien av agentbasert verktøykoding: Agenter kan bidra til driftsverktøyene, ikke bare bruke dem.
At slike verktøy blir generert, bør imidlertid ikke automatisk gjøre dem kjørbare i produksjon. En foreslått funksjon trenger en uavhengig utrullingsprosess med tydelig ansvarlig eierskap, sikkerhetskontroller, versjonskontroll og tester som dekker ugyldige inndata, for stort omfang, delvise feil og gjentatt kjøring. Tester generert av agenter kan bidra med dokumentasjon, men en uavhengig validering bør fastslå om funksjonen oppfyller de operative kravene før den tas inn i den godkjente katalogen.
Rammene for gjennomføring bør deretter begrense ressursomfang, nettverkstilgang, varighet og kostnader, og eventuelle nødvendige godkjenninger bør knyttes til den konkrete handlingen, det aktuelle målet og den aktuelle versjonen. Gjenopprettingsordninger krever like stor oppmerksomhet, siden noen endringer kan rulles tilbake, mens andre krever kompenserende tiltak eller ikke kan gjøres om. Hver funksjon bør tydeliggjøre disse begrensningene og gi operatørene en utprøvd måte å stanse videre kjøring på.
Minne innebærer et ytterligere ansvar for styring, fordi lagrede observasjoner kan påvirke framtidige beslutninger lenge etter at den opprinnelige konteksten har endret seg. Organisasjoner bør definere hva agenter kan lagre, hvor lenge informasjonen skal være tilgjengelig, og hvilke tilgangsbegrensninger som gjelder, med støtte fra mekanismer for proveniens og korrigering. En lagret tillatelse må aldri bli en stående fullmakt, og utdatert operativ kunnskap bør ikke i det stille påvirke nye handlinger.
Utvid autonomien på grunnlag av dokumentasjon
Effektivt tilsyn avhenger av dokumentasjon som knytter sammen den opprinnelige forespørselen, gjeldende retningslinjer, godkjenning, verktøyversjon, resultatet av gjennomføringen og den etterfølgende verifiseringen. Menneskelige kontrollører trenger nok kontekst til å vurdere den foreslåtte endringen, usikkerheten knyttet til den og mulighetene for gjenoppretting, uten å bli overveldet av unødvendige detaljer. For å støtte dette tilsynet bør eskalering utløses av definerte forhold, for eksempel motstridende observasjoner eller en ukjent systemtilstand, i stedet for å baseres utelukkende på agentens uttrykte grad av sikkerhet.
IT-ledere bør begynne med en avgrenset arbeidsflyt og utvide fullmaktene etter hvert som driftsmessige erfaringer gir grunnlag for det. De bør måle vellykkede resultater opp mot avvik, gjenopprettingstid, brudd på retningslinjer og innsatsen som kreves til tilsyn. Disse målene bidrar til å avgjøre om en agent er klar for større ansvar, og hvor det er behov for ytterligere sikkerhetstiltak eller testing.
Muligheten ligger i å gjøre delegering til en repeterbar prosess, der hver godkjente funksjon fastslår hva en agent kan gjøre, under hvilke betingelser og med hvilket ansvar. En slik tilnærming kan styrke robustheten og effektiviteten, samtidig som den gir organisasjoner et forsvarlig grunnlag for å gi større grad av autonomi. Det viktigste poenget er dette: Styring har sin plass i produktet fordi den gjør denne utviklingen mulig.












