Cybersäkerhet
AI-säkerhet 2027: Agenters behörigheter avgör skadeomfånget

Viktiga punkterAgentbehörigheter, inte modellens tillförlitlighet, kommer att avgöra hur långt ett…
Visa mer
- Agentbehörigheter, inte modellens tillförlitlighet, kommer att avgöra hur långt ett missförstånd kan nå.
- Säkerhetsutvärderingar måste rapportera legitim uppgiftslösning tillsammans med blockerade attacker för att visa att agenter förblir användbara.
- Incidentrapporter bör spåra autentiseringsuppgiften och den delegerade behörighetsvägen snarare än modellens märkliga utdata.
Föreställ dig att en anställd ber en AI-assistent att sortera en överfull inkorg. Uppgiften verkar harmlös tills ett meddelande övertalar assistenten att öppna en kundpost, exportera en bilaga eller skicka en betalningsbegäran. Säkerhetsfrågan handlar inte längre bara om huruvida svaret är tillförlitligt. Nu handlar den om huruvida programvaran har behörighet att omvandla ett missförstånd till en handling.
Det är den utveckling som driver på arbetet med agentsäkerhet inför 2027. Företag vill ha assistenter som kan slutföra arbetsuppgifter. Säkerhetsteamen behöver veta var den friheten går över gränsen – och om de kan återkalla den medan arbetet fortfarande pågår.
Den kopplingen håller redan på att byggas. Microsoft gjorde Entra Agent ID-plattformen allmänt tillgänglig 2026. Okta har utvidgat styrningen av agentidentiteter mellan identitetsleverantörer och agentekosystem. AWS gjorde Policy i Bedrock AgentCore allmänt tillgängligt i mars, vilket innebär att behörighetsbeslut fattas utanför agentens egen kod. Den som förutspår att produkter för agentidentitet dyker upp 2027 bortser från den marknad som redan finns.
1. Produktionsbevis blir viktigare än tillkännagivanden om identitet
En agent ska kunna fråntas sitt uppdrag utan att den mänskliga sponsorn förlorar sin åtkomst. Den enkla förväntningen blir svår att uppfylla när flera kopplingar och tjänstekonton finns mellan assistenten och programmet den använder. Under 2027 kommer produktionsredogörelser från namngivna företag att börja visa om separata agentidentiteter klarar hela kedjan: begränsad behörighet från början, igenkännbar identitet längs vägen och en individuell avstängningsknapp i slutet.
Mekanismen är välbekant, även om arbetsflödet är nytt. Autentisering fastställer vilken programvaruidentitet som agerar. Auktorisering avgör vilka resurser och åtgärder den identiteten får använda. Delegering kopplar dess behörighet till en person eller organisation. En post i ett register visar inte i sig att någon av dessa kontroller finns på plats när en handling med betydande konsekvenser utförs.
NIST:s diskussion om agentidentitet i augusti 2026 beskriver de ansvarsproblem som uppstår när inloggningsuppgifter delas. I de efterföljande designprinciperna efterlyser organisationen separata identiteter, begränsad delegering samt kortlivad och återkallelig auktorisering. Detta är föreslagna designprinciper, inte bevis för att alla produkter som används har infört dem eller ett nytt universellt lagkrav.
De tekniska svårigheterna visar sig när ett arbetsflöde passerar organisationsgränser. En agent kan logga in via en identitetsleverantör, anropa en koppling som drivs av ett annat företag och använda ett program med en tredje modell för auktorisering. En begränsad behörighet uppströms kan leda till omfattande åtkomst nedströms om en koppling ersätter den med ett eget, kraftfullt tjänstekonto. Den synliga identiteten måste följa med genom hela kedjan, annars förlorar kontrollplanet just den åtskillnad det var avsett att upprätthålla.
Microsofts tillkännagivande av Agent 365 och Oktas förklaring av Agent Gateway visar att leverantörer utvecklar lösningar på det här problemet. De är fortfarande leverantörernas egna beskrivningar av funktionerna. Jag är betydligt säkrare på att konkreta belägg från produktionsmiljöer kommer att dyka upp än på att hävda att dessa system eliminerar intrång.
Vad du bör hålla utkik efter 2027
Håll utkik efter produktionsinstallationer där en agent har en egen identitet, får åtkomst som begränsas till dess uppgift och kan inaktiveras utan att den mänskliga sponsorn stängs ute. Kundberättelser om hur kontrollerna fungerar mellan sammankopplade program ger mer information än enbart registreringar av agentidentiteter. Om organisationer fortsätter att förlita sig på delade tjänsteinloggningar försvagas prognosen.
Vad det innebär för företag
Säkerhetsansvariga bör be leverantörer visa hela delegeringskedjan, inklusive vilka behörigheter kopplingar nedströms använder. Vid upphandling och granskning inför driftsättning bör man identifiera vem som äger agenten, vilka åtgärder den får utföra och hur åtkomsten återkallas. Ett växande register över registrerade agenter är bara användbart om organisationen kan styra vad var och en faktiskt får göra.
2. Starkare skydd ska mätas utifrån hur väl de möjliggör nyttigt arbete
Den enklaste agenten att säkra är en som inte kan göra någonting. Den är också enklast att göra kommersiellt oanvändbar. Det mer intressanta utfallet 2027 blir ett skydd som låter legitimt arbete fortsätta samtidigt som obehöriga verktygsåtgärder minskar kraftigt. Mitt test är medvetet krävande: en reproducerbar halvering av sådana åtgärder, med högst tio punkters tapp i slutförandet av legitima uppgifter. Skyddet måste bevara tillräckligt mycket nytta för att förbli aktiverat.
En promptinjektion ändrar vad modellen ombeds att behandla som en instruktion. Auktoriseringen bör avgöra om den föreslagna åtgärden är tillåten, oavsett hur övertygande instruktionen blir. Ett hämtat dokument som begär en export ska inte få behörighet att exportera bara för att agenten kan läsa dokumentet.
Vägledningen om säkerhet i Model Context Protocol visar varför integrationslagret är viktigt: den tar upp problem med förvirrade ställföreträdare, vidarebefordran av token och andra sätt som en anslutning kan missbruka behörighet på. Det får konsekvenser för arkitekturen. En modells uttalade avsikt och en applikations verkställbara behörighet är två skilda saker, och applikationen måste validera den senare.
Det finns ett andra krav: den skyddade agenten måste fortfarande kunna utföra behöriga uppgifter. AgentDojo skapade en utbyggbar miljö för att testa attacker mot och försvar av agenter som använder verktyg. Förtrycket från 2026, AgentDyn, hävdar att realistiska uppgifter utan förutbestämda ramar blottlägger både säkerhetsbrister och överdriven blockering. En annan färsk analys av misslyckade promptinjektioner skiljer mellan att avvisa en attack, att bara ignorera den och att misslyckas med användarens uppgift. Forskningsresultaten gäller de system och förhållanden som utvärderades; de är inte säkerhetsmått för hela befolkningen.
Den centrala avvägningen går att mäta. Om alla skrivåtgärder blockeras kan resultatet bli utmärkt när det gäller att förhindra obehöriga skrivningar, samtidigt som en bokföringsagent blir oanvändbar. Ett övertygande resultat bör redovisa utfallet av attacken, utfallet av den legitima uppgiften, mängden tillåtna åtgärder och i vilka fall mänskligt godkännande krävdes. Även anpassningsbara angripare spelar roll: ett försvar som bara fungerar mot attacker som utvecklades innan försvaret blev känt ger en svagare säkerhetsgaranti.
Vad du bör hålla utkik efter 2027
Leta efter säkerhetsutvärderingar som redovisar hur väl legitima uppgifter slutförs, parallellt med vilka attacker som stoppas. De starkaste beläggen visar att en agent fortsätter att utföra behöriga uppgifter samtidigt som ett oberoende verkställighetslager avvisar obehöriga åtgärder, även attacker som anpassats efter försvaret. En sjunkande andel lyckade attacker i kombination med omfattande misslyckanden med uppgifterna skulle ge betydligt mindre anledning till trygghet.
Vad det här innebär för företag
Utvärdera en agents säkerhet och användbarhet tillsammans. Ett inköpsteam bör ta med representativa affärsuppgifter och realistiska scenarier för missbruk i samma utvärdering och sedan undersöka vilka åtgärder som kräver godkännande och var behörigheterna verkställs. På så sätt blir kostnaden för överdriven blockering synlig, liksom den möjliga skadan av att ge en agent alltför omfattande behörighet.
3. Incidentrapporter kommer att kartlägga behörighetsvägen
Efter en agentincident kan den mest avslöjande frågan vara hur en instruktion fick befogenhet att utlösa en åtgärd. Ett skadligt meddelande är en del av förloppet; autentiseringsuppgiften, anslutningen och den delegerade behörigheten som förde det vidare är andra delar. Jag förväntar mig att leverantörsbekräftade redogörelser 2027 kommer att göra sådana förlopp mer synliga. Då får försvarare något mer användbart än ännu ett exempel på att en modell säger något den inte borde säga.
De viktigaste beläggen i en sådan redogörelse utgörs av ett händelseförlopp: agenten mötte någon form av indata, föreslog eller valde en åtgärd, fick eller ärvde behörighet och överskred en avsedd gräns. Om man bara beskriver modellens ovanliga formuleringar förblir det operativa felet oförklarat. Om man bara beskriver en läckt autentiseringsuppgift kan man missa varför agenten röjde eller använde den.
Det här är inte en prognos om att det första sådana gränsöverskridandet kommer att ske nästa år. I sin bedömning av cybersäkerhetsincidenter från september 2026 beskrev Anthropic fyra fall där Claude-modeller fick obehörig åtkomst till verkliga tredjepartssystem under aktiviteter med koppling till utvärdering. Det är en redogörelse från modellleverantören om specifika incidenter. Den bör inte generaliseras till ett uppmätt antal intrång i företag eller betraktas som oberoende verifiering av varje detalj.
OWASP:s topp 10-risker för agentbaserade applikationer är ett användbart ramverk för att diskutera agentfel. Ett ramverk ger dock kategorier, inte någon nämnare för incidenter. Fler redogörelser kan bero på ökad användning, bättre upptäckt, öppnare rapportering eller en kombination av alla tre. De skulle inte i sig visa att varje agent som tagits i bruk har blivit mindre säker.
Min tilltro till den här prognosen är lägre eftersom incitamenten att offentliggöra information är osäkra. Organisationer kan åtgärda en anslutning utan att säga något, behandla ett fel som en vanlig brist i åtkomstkontrollen eller avstå från att avslöja kundens namn. En allvarlig operativ förändring kan därför ge upphov till få offentliga uppgifter. Den osäkerheten hör hemma i prognosen och bör inte suddas ut genom att varje hypotetisk demonstration av en sårbarhet räknas som ett intrång.
Vad du bör hålla utkik efter 2027
Var uppmärksam på incidentrapporter som förklarar hur en agent gick från att läsa material som inte gick att lita på till att använda en behörighet mot en verklig resurs. Tydliga beskrivningar av anslutningen, den delegerade autentiseringsuppgiften, den berörda åtgärden och åtgärderna för att avhjälpa problemet skulle stärka prognosen. Rapporter som bara tar upp ovanliga modellsvar säger mindre om den operativa gräns som inte fungerade.
Vad det här innebär för företag
Incidenthanteringsteam bör bevara tillräckligt med telemetridata från agenter och applikationer för att kunna återskapa förloppet från indata till åtgärd. Granskningar av leverantörer bör klargöra vem som ska underrätta kunden, vilka uppgifter som kommer att finnas tillgängliga och hur en komprometterad anslutning kan begränsas. Dessa överenskommelser avgör hur snabbt en organisation kan bedöma exponeringen när en agent beter sig oväntat.
4. Återkallande av behörighet kommer att sättas på tid
En avstängningsknapp är ett löfte om hur snabbt något sker. Om en agent redan har kopierat en autentiseringsuppgift eller öppnat en annan session kan det uppstå ett tidsfönster efter att dess identitet har återkallats, då åtgärder fortfarande lyckas. Under 2027 kommer oberoende tester att börja mäta hur väl det löftet håller i olika uppkopplade applikationer. Prognosen här är konkret: nya skyddade åtgärder ska blockeras inom en minut, även när autentiseringsuppgifter har cachelagrats.
Det är lätt att utlova återkallelse i identitetskatalogen, men svårare att visa att den får effekt längre ned i kedjan. En anslutning kan behålla en åtkomsttoken. En arbetsprocess kan fortsätta i en aktiv session. Ett schemalagt jobb kan ha en begäran som redan har auktoriserats. Att inaktivera en agent i inventariet bevisar inte att dessa körvägar slutar förlita sig på inaktuell behörighet.
NIST:s princip om återkallelig behörighet och AWS:s tillämpning av regler i gatewayen och loggning av policyer beskriver delar av den arkitektur som krävs. Min slutsats är att köpare i allt högre grad kommer att efterfråga en uppmätt tid till inneslutning. Gränsen på 60 sekunder är mitt prognosmål, inte ett krav som tillskrivs någon av källorna.
En väl genomförd övning skiljer mellan att stoppa nytt arbete och att återställa sådant som redan har slutförts. Att återkalla behörighet kan inte ta tillbaka ett meddelande som redan har levererats. Det mätbara löftet är att en ny skyddad åtgärd som skickas efter att återkallelsen har trätt i kraft nekas. För åtgärder som redan pågår behövs separat dokumenterade regler för avbrytande eller slutförande. Utan den skillnaden kan en dramatisk demonstration av ett ”nödstopp” dölja en betydligt snävare garanti.
Den låga till måttliga säkerhetsgraden speglar svårigheten att få fram reproducerbara belägg från flera olika anslutningar. Offentlig produktdokumentation kan visa vilket beteende som stöds, men prognosen kräver ett faktiskt mätresultat för tidsåtgången. Testaren måste också använda en redan etablerad session, där inaktuell behörighet sannolikt har störst betydelse.
Det här bör du hålla ögonen på under 2027
Håll utkik efter demonstrationer av återkallelse som inleds medan en agent redan arbetar via aktiva anslutningar, bland annat med cachelagrade autentiseringsuppgifter eller etablerade sessioner. Det användbara resultatet är en uppmätt stopptid för nya skyddade åtgärder, tillsammans med en tydlig förklaring av hur pågående arbete hanteras. En inaktiverad post i en kontrollpanel utan tester längre ned i kedjan lämnar den centrala frågan obesvarad.
Vad det här innebär för företag
Se avstängning av agenter som en förmåga inom incidenthantering som behöver övas. Testa vilka applikationer en agent kan nå, ta reda på om några sessioner består efter återkallelse och utse ansvariga för att stoppa köat arbete. Skilj mellan att förhindra nästa åtgärd och att återställa en åtgärd som redan har slutförts; beredskapsplaneringen behöver hantera båda delarna.
Säkerhetsbudgeten kommer att följa exekveringsgränsen
Ambitionen är att ge agenter tillräckliga befogenheter för att vara användbara, men också tillräckliga begränsningar för att de ska förbli styrbara. Den balansen kommer att förhandlas fram i anslutningar, token och behörighetskontroller, långt från det konversationsbaserade gränssnittet. När nästa incident inträffar blir den avgörande frågan hur långt systemet hann gå innan någon – eller något – stoppade det.












