Tankeledere

Det arkitektoniske skiftet som kreves for å styre AI-agenter

Sergio Gago
Legg til Unite.AI blant dine foretrukne kilder på Google
A photorealistic widescreen image of a technician viewed from behind, seated at a dark command center with multiple monitors. A large glass wall in front of him displays a complex, glowing architectural blueprint made of blue and green light. The hologram features intricate pathways, interconnected nodes, and two small silhouettes of figures standing together, representing a human and an AI
Viktige punkterBehandle agenter som digitale kolleger med tilgangsmerker og grenser for…
Vis mer
  • Behandle agenter som digitale kolleger med tilgangsmerker og grenser for informasjonsdeling, ikke som noe som løses med prompt-justeringer.
  • Styring gjennom design krever et enhetlig kontrollplan for å håndheve retningslinjer konsekvent på tvers av alle miljøer.
  • Uten sanntidsovervåking og sporing av dataopphav kan virksomheter ikke revidere agenters handlinger eller bevise samsvar under kjøring.

AI er ikke lenger bare en chatbot som genererer tekst. I bedriftsmiljøer utfører AI-agenter handlinger som å hente sensitive data, utløse arbeidsflyter, kalle verktøy og logge aktivitet over systemer. Autonomi endrer hele diskusjonen om styring; kontroller og prosedyrer som opprinnelig var designet for menneskelige brukere og tradisjonelle applikasjoner var ikke bygget for å styre programvare som kan utføre flertrinns handlinger under kjøring.

Risikoen er ikke teoretisk. Små hull i synlighet, tilgangskontroll og reviderbarhet kan raskt bli til kjøretidsfeil som er vanskelige å oppdage og enda vanskeligere å reversere.

For å holde tritt med denne nye æraen, kan styring av AI-agenter ikke gjøres ved å legge til flere policydokumenter. Det krever styring ved design: en arkitektonisk tilnærming hvor kontroller er innbygget i kontrollplanet og påtvinges kontinuerlig under kjøring. Hvis agenter skal fungere som digitale kolleger, må de arve de samme sikkerhetsrammene i bedriften som mennesker, pluss sterkere overvåkning under kjøring.

Hvorfor styring feiler i konvergensens æra

Bedriftsarkitektur har gått inn i en æra av konvergens. Data og arbeidsbelastninger omfatter nå flere skyer, private datasentre og kantmiljøer.

Det finnes organisasjoner som kjører sine plattformer i parallellsystemer fordi de har flere prosesser å håndtere samtidig. Dette inkluderer separate identitetssystemer, loggbehandlingsløp, kataloger og godkjente prosesser. Resultatet er det noen kaller en “Frankenstein-plattform”, hvor integrasjonsarbeidet øker med hvert nytt verktøy eller skymiljø. Faktisk viser denne fragmenteringen seg i hverdagsrealiteten.

Ifølge en nylig undersøkelse, nevner 47% av respondentene kompliserte tilgangskrav og prosesser, og 44% nevner begrensede muligheter for å se hvor data befinner seg som barrierer for å bruke data effektivt.

Dette er nettopp der agenter avslører sprekker mellom systemer.

For å svare på et forretningsspørsmål kan en agent måtte hente data fra et lokalt ERP-system, et skybasert CRM, operasjonell telemetri i en annen sky og dokumenter i et samarbeidsverktøy. Hvis organisasjonen håndhever regler forskjellig på hvert sted, vil agenten enten feile eller, verre, lykkes på måter du ikke kan forklare eller kontrollere.

Dette er øyeblikket når bedriftsledere må være oppmerksomme. Agenter hever standarden som krever konsistens over miljøer og ansvar under kjøring.

Styring, av denne grunn, blir trukket inn i rampelyset av regulatorer og sikkerhetsbyråer. Et eksempel på dette er NIST AI Risk Management Framework, som betoner risikostyring over hele AI-livssyklusen, ikke bare på byggetid. Det er en påminnelse om at samsvar og tillit er operative ansvar, ikke engangssjekklister.

Fra retningslinjer til plattform

Styring ved design betyr at styring følger med arbeidsbelastningen i stedet for å bli implementert på nytt i hver silo. I praksis avhenger dette av tre byggeklosser:

  • Et felles kontrollplan

En plass å definere og påtvinge identitet, tilgang, retningslinjer, kataloger og tilgangsrettigheter over skyer og datasentre.

Målet er å skrive retningslinjer én gang og påtvinge dem hvor data og modeller kjører, i stedet for å bygge kontrollsystemer system for system. Dette forhindrer at agentatferden glir fra hverandre, hvor samme agent oppfører seg trygt i ett miljø, men farlig i et annet.

En praktisk test er enkel: hvis en bruker ikke kan få tilgang til en kolonne, verifiser at en agent som handler på deres vegne heller ikke kan få tilgang til den. Dette bør indikere om skrevne retningslinjer påtvinges i hele kontrollplanet.

  • En data fabric basert på åpne standarder

Agenter trenger kontekst for å fungere. Når denne konteksten er spredt over forskjellige strukturer eid av forskjellige team, hjelper en data fabric med å standardisere semantikk og tilgangsmønster, så agenter ikke må lære et nytt sett med regler for hvert datasett.

Åpne tabellformater som Apache Iceberg støtter dette ved å tillate flere motorer å dele de samme styrte dataene uten å kopiere dem inn i en ny silo. Dette er viktig fordi dataduplisering er der styring vanligvis feiler. Når team starter å kopiere “bare det agenten trenger”, har du skapt et nytt, mindre styrt miljø.

Hvis agenter kan fungere over datasett uten å innføre nye tilgangshull, fungerer styring som det skal.

  • Observerbarhet og datasporbarhet i sanntid

Agenter er bare styrbare hvis du kan se hva de gjør under kjøring.

Observerbarhet her er ikke bare et “nice-to-have”, men er grunnlaget for kjøretidskontroller og hendelsesrespons.

Spesifikt må det være end-to-end bevis for agenthandling. Agenter bør kunne bevise handlinger, som hvilke data som ble aksessert og hvilke verktøy som ble kalt, og derfra kan datasporbarhet koble utdata tilbake til inndata. Dette tillater team å granske disse beslutningene og feilsøke feil, hvis nødvendig, og dermed bevise overholdelse.

Behandle agenter som “digitale kolleger”

En av de mest nyttige mentale modellene er å behandle agenter som digitale kolleger.

Her er en sammenligning som bryter dette ned: like som ansatte har tilgangsbrikker som gir adgang til noen bygninger og rom, men ikke andre, tillater styring agenter å ha tilgang med begrensninger. Et viktig tillegg er at agenter må være situasjonsbevisste på hva de er tillatt å avsløre.

Vurdér en støtteagent. Den må kanskje aksessere tidligere støttesaker for å løse et problem, men den kan ikke lekke en annen kundes private detaljer mens den gjør det. Med andre ord, agenten kan bruke kunnskap med begrenset tilgang til å resonnere, men må likevel påtvinge avsløringsgrenser. Dette er ikke et “prompt-skriveri”-problem som vi historisk har visst hvordan vi skal navigere; i stedet er det et problem med identitet og håndheving under kjøring.

Hva endrer seg i 2026: agenter flytter fra eksperimenter til produksjon

2026 er året når eksperimenter slutter, og agenter tas i bruk i produksjon.

Dette skiftet tvinger bedrifter til å operere med to hastigheter. En er innovasjonshastighet, hvor team tester nye modeller, verktøy og agentarbeidsflyter for å få en konkurransefordel. Og den andre er sikkerhastighet, hvor systemer må møte overholdelses- og operative krav, som kan inkludere streng tilgangskontroll og blindsoner.

Uten en arkitektonisk styring, vil disse to hastighetene komme i konflikt.

Hvis team deployerer disse agentene før de er underlagt styring, vil det bli et lappeteppe av enkeltkontroller og operative feil. Og hvis det motsatte skjer, får du en feilmodus hvor sikkerhet blokkerer alt, og innovasjon flytter til skygge-IT, som undergraver styring.

Målet er ikke å velge en hastighet. Det er å bygge en arkitektur som støtter begge.

En praktisk sjekkeliste for å styre agenter under kjøring

  • Hvis du bygger eller skalerer agenter, er det avgjørende å spørre deg selv følgende spørsmål for å avsløre om styring virkelig er arkitektonisk: Kan du forklare, fra ende til ende, hvilke data en agent fikk tilgang til for å produsere et svar eller utføre en handling?
  • Er tilgangsbeslutninger konsistente over hybridmiljøer, eller skiller de seg etter plattform?
  • Har du telemetri for agenthandling, inkludert verktøykall, policykontroller og eskalering til mennesker?
  • Kan du bremse, sette på pause eller isolere en agent under kjøring hvis den oppfører seg uventet?
  • Har du en plan for overvåking etter utrulling som samsvarer med dine regulatoriske forpliktelser og risikoappetitt?

Hvis du ikke kan svare på disse, behandl agent-deployeringen som en produksjonshendelse som venter på å skje.

Styringsskiftet må være arkitektonisk, eller det eksisterer ikke

Agenter vil bli et standardtillegg til bedriftsoperasjoner. Spørsmålet er om de vil bli en pålitelig del av bedriftsoperasjoner.

Hvis agenter ikke styres minst like trygt som mennesker og kritisk programvare, vil konsekvensene være reelle. Vi vil se disse konsekvensene i datalekkasje, overholdelsesfeil, operative nedtider og tap av tillit til AI-programmer.

Lederne må slutte å behandle agentstyring som en dokumenteringsøvelse. Ettersom plattformkapasiteter utvides, bør agentstyring være en av dem som tar på seg tilsyn over andre roller. Dette betyr å innbygge kontroller i kontrollplanet, gjøre handlinger overvåkbare og beslutninger granskbare. Og deretter skalere.

Dette er hvordan du får agenter som handler raskt uten å ødelegge bedriftens drift.

Sergio Gago er CTO i Cloudera, med over 20 års erfaring innen AI/ML, kvantecomputing og data-drevne arkitekturer. Tidligere direktør for AI/ML og kvanteberegning i Moody’s Analytics, har han også hatt CTO-roller i Rakuten, Qapacity og Zinio. Sergio er en sterk forkjemper for pålitelig data-infrastruktur, og mener at AI vil utvikle seg til å bli bedriftens operativsystem innen 2030.