Tankeledare

Den arkitektoniska förändring som krävs för att styra AI-agenter

Sergio Gago
Lägg till Unite.AI bland dina föredragna källor på Google
A photorealistic widescreen image of a technician viewed from behind, seated at a dark command center with multiple monitors. A large glass wall in front of him displays a complex, glowing architectural blueprint made of blue and green light. The hologram features intricate pathways, interconnected nodes, and two small silhouettes of figures standing together, representing a human and an AI
Viktiga punkterBehandla agenter som digitala kollegor med åtkomstbrickor och avslöjandegränser, inte…
Visa mer
  • Behandla agenter som digitala kollegor med åtkomstbrickor och avslöjandegränser, inte snabba korrigeringar.
  • Styrning genom design kräver en enhetlig kontrollplan för att konsekvent tillämpa policyer över alla miljöer.
  • Utan realtidsobserverbarhet och härledning kan företag inte granska agenters handlingar eller bevisa efterlevnad i körning.

AI är inte längre bara en chattbot som genererar text. I företagsmiljöer utför AI-agenter åtgärder som att hämta känsliga data, utlösa arbetsflöden, anropa verktyg och logga aktivitet över system. Autonomi förändrar helt diskussionen om styrning; kontroller och procedurer som ursprungligen utvecklades för mänskliga användare och traditionella applikationer var inte byggda för att styra programvara som kan utföra åtgärder i flera steg under körning.

Risken är inte teoretisk. Små luckor i synlighet, åtkomstkontroll och granskningsbarhet kan snabbt förvärras och förvandlas till fel under körning som är svåra att upptäcka och ännu svårare att återställa efter.

För att hålla jämna steg med denna nya era kan AI-agenter inte styras genom att lägga till fler policydokument. Det kräver styrning genom design: ett arkitektoniskt angreppssätt där kontroller är inbäddade i kontrollplanet och tillämpas kontinuerligt under körning. Om agenter ska bete sig som digitala kollegor måste de ärva samma företagskontroller som människor, plus starkare tillsyn under körning.

Varför styrningen brister i konvergensens era

Företagsarkitektur har gått in i en era av konvergens. Data och arbetsbelastningar sträcker sig nu över flera moln, privata datacenter och edge-miljöer.

Det finns organisationer som kör sina plattformar i parallella system eftersom de har flera processer att hantera samtidigt. Detta inkluderar separata identitetssystem, loggningspipelines, kataloger och godkända processer. Resultatet är vad vissa kallar en “Frankenstein-plattform”, där integrationsarbetet ökar med varje nytt verktyg eller molnmiljö. Denna splittring märks redan i vardagen.

Enligt en nylig undersökning anger 47% av respondenterna komplicerade åtkomstkrav och processer, och 44% anger begränsad insyn i var data finns som hinder för att använda data effektivt.

Det är just här som agenter blottlägger skarvarna mellan systemen.

För att besvara en affärsrelaterad fråga kan en agent behöva hämta data från ett lokalt ERP-system, ett molnbaserat CRM, operativ telemetri i ett annat moln och dokument i en samarbetsmiljö. Om organisationen tillämpar policy på olika sätt i varje miljö kommer agenten antingen att misslyckas eller, värre, lyckas på sätt som du inte kan förklara eller kontrollera.

Det är nu företagsledare måste vara uppmärksamma. Agenter tvingar fram en högre standard som kräver enhetlighet mellan miljöer och ansvar under körning.

Därför lyfter tillsynsmyndigheter och säkerhetsorgan fram styrningen. Ett exempel på detta är NIST AI Risk Management Framework, som betonar riskhantering över hela AI-livscykeln, inte bara under utvecklingen. Det är en påminnelse om att regelefterlevnad och förtroende är operativa ansvarsområden, inte checklistor som bockas av en gång.

Från policy till plattform

Styrning genom design innebär att styrning följer med arbetsbelastningen snarare än att återuppbyggas i varje silo. I praktiken bygger detta på tre byggblock:

  • Ett enhetligt kontrollplan

En plats att definiera och verkställa identitet, åtkomst, policy, kataloger och behörigheter över moln och datacenter.

Målet är att skriva policyer en gång och tillämpa dem överallt där data behandlas och modeller körs, snarare än att återuppbygga kontrollsystem system för system. Detta förhindrar att agentens beteende glider isär, så att samma agent agerar säkert i en miljö men farligt i en annan.

Ett praktiskt test är enkelt: om en användare inte kan komma åt en kolumn, verifiera att en agent som agerar på deras vägnar inte heller kan komma åt den. Detta bör indikera om de skrivna policyerna verkställs över hela kontrollplanet.

  • En data fabric grundad på öppna standarder

Agenter behöver kontext för att fungera. När den kontexten är spridd över olika strukturer som ägs av olika team, hjälper en data fabric till att standardisera semantik och åtkomstmönster, så att agenter inte behöver lära sig en ny uppsättning regler för varje dataset.

Öppna tabellformat som Apache Iceberg stöder detta genom att tillåta flera motorer att dela samma styrda data utan att kopiera den till en ny silo. Detta är viktigt eftersom datakopiering är där styrning vanligtvis misslyckas. När team börjar kopiera “bara vad agenten behöver” har du skapat en ny, mindre styrd miljö.

Om agenter kan fungera över dataset utan att införa nya behörighetsluckor, fungerar styrning som avsett.

  • Observerbarhet och datalinjer i realtid

Agenter är endast styrbara om du kan se vad de gör under körning.

Observerbarhet är här inte bara något som är trevligt att ha, utan grunden för kontroller under körning och incidenthantering.

Det behövs bevis för agenternas åtgärder genom hela kedjan. Agenter bör kunna visa vilka data de har använt och vilka verktyg de har anropat. Datalinjer kan sedan koppla utdata tillbaka till indata. Därmed kan team granska besluten och vid behov felsöka, och på så sätt visa den övergripande regelefterlevnaden.

Behandla agenter som “digitala kollegor”

En av de mest användbara mentala modellerna är att behandla agenter som digitala kollegor.

En jämförelse förklarar detta: precis som anställda har åtkomstbrickor som ger tillgång till vissa byggnader och rum, men inte andra, tillåter styrning agenter att ha åtkomst med begränsningar. Ett viktigt tillägg är att agenter måste vara situationsmedvetna om vad de har tillåtelse att avslöja.

Tänk på en supportagent. Den kan behöva komma åt tidigare supportärenden för att lösa ett problem, men den kan inte läcka en annan kunds privata uppgifter medan den gör det. Uttryckt annorlunda, agenten kan använda begränsad kunskap för att resonera, men den behöver fortfarande verkställa gränser för utlämnande. Detta är inte ett problem med att skriva promptar av det slag vi tidigare har hanterat; det handlar i stället om identitet och att upprätthålla regler under körning.

Vad som förändras 2026: agenter flyttar från experiment till produktion

2026 är året när experimenten tar slut och agenter börjar användas i produktion.

Denna förändring tvingar företag att operera i två hastigheter. En är innovationshastighet, där team testar nya modeller, verktyg och agentarbetsflöden för att få en konkurrensfördel. Och den andra är den säkra hastigheten, där system måste uppfylla regelefterlevnads- och operativa krav, som kan inkludera stränga åtkomstkontroller och blindfläckar.

Utan en fast arkitektonisk styrning kommer dessa två hastigheter att hamna i konflikt.

Om team distribuerar dessa agenter innan de är styrda, kommer det att finnas ett lapptäcke av enskilda kontroller och operativa fel. Och om det omvända sker, får du ett felläge där säkerheten blockerar allt, och innovation flyttar till skugg-IT, som undergräver styrning.

Målet är inte att välja en hastighet. Det är att bygga en arkitektur som stöder båda.

En praktisk checklista för att styra agenter under körning

  • Om du bygger eller skalar agenter är det avgörande att ställa sig själv följande frågor för att avslöja om styrning verkligen är arkitektonisk: Kan du förklara, från början till slut, vilka data en agent använde för att producera ett svar eller vidta en åtgärd?
  • Är åtkomstbeslut konsekventa över hybridmiljöer, eller skiljer de sig åt beroende på plattform?
  • Har du telemetri för agentåtgärder, inklusive verktygsanrop, policykontroller och ärenden som eskaleras till människor?
  • Kan du bromsa, pausa eller sätta en agent i karantän under körning om den beter sig oväntat?
  • Har du en plan för övervakning efter driftsättning som överensstämmer med dina regulatoriska skyldigheter och riskaptit?

Om du inte kan besvara dessa, behandla din agentdistribution som en produktionsincident som bara väntar på att inträffa.

Styrningsförändringen måste vara arkitektonisk, annars existerar den inte

Agenter kommer att bli ett normalt inslag i företagsverksamheten. Frågan är om de kommer att bli en tillförlitlig del av företagsverksamhet.

Om agenter inte styrs åtminstone lika tillförlitligt som människor och verksamhetskritisk programvara, kommer konsekvenserna att vara verkliga. Vi kommer att se dessa konsekvenser i form av dataläckage, regelefterlevnadsfel, operativa avbrott och förlust av förtroende för AI-program.

Chefer måste sluta behandla agentstyrning som en dokumentationsövning. När plattformens funktioner utökas bör agentstyrningen vara en av de funktioner som också tar ansvar för tillsyn av andra roller. Detta innebär att infoga kontroller i kontrollplanet, göra åtgärder synliga och beslut granskbara. Och sedan skala.

Det är så du får agenter som rör sig snabbt utan att slå sönder företagets verksamhet.

Sergio Gago är CTO på Cloudera, med över 20 års erfarenhet av AI/ML, kvantberäkning och datadrivna arkitekturer. Tidigare var han Managing Director för AI/ML och kvant på Moody's Analytics och har också haft CTO-roller på Rakuten, Qapacity och Zinio. Sergio är en stark förespråkare för tillförlitlig data-infrastruktur och tror att AI kommer att utvecklas till företagets operativsystem senast år 2030.