Cybersikkerhed
AI-sikkerhed i 2027: Agenters adgangsrettigheder bestemmer skadeomfanget

NøglepunkterAgenttilladelser, ikke modellens troværdighed, vil afgøre, hvor langt en misforståelse…
Vis mere
- Agenttilladelser, ikke modellens troværdighed, vil afgøre, hvor langt en misforståelse kan nå.
- Sikkerhedsevalueringer skal rapportere legitim opgavefuldførelse sammen med blokerede angreb for at bevise, at agenter forbliver nyttige.
- Hændelsesrapporter bør spore legitimations- og delegeret tilladelsesvej frem for modellens mærkelige output.
Forestil dig, at en medarbejder beder en AI-assistent om at rydde op i en overfyldt indbakke. Opgaven lyder harmløs, indtil en besked får assistenten til at åbne en kundeprofil, eksportere en vedhæftet fil eller sende en betalingsanmodning. Sikkerhedsspørgsmålet handler ikke længere kun om, hvorvidt svaret er troværdigt. Nu handler det om, hvorvidt softwaren har beføjelse til at omsætte en misforståelse til en handling.
Det er det pres, der ligger bag den voksende interesse for agentsikkerhed i 2027. Virksomheder ønsker assistenter, der kan udføre opgaverne. Sikkerhedsteams skal vide, hvor den frihed ophører – og om de kan trække den tilbage, mens arbejdet stadig er i gang.
Den forbindelse er allerede ved at blive etableret. Microsoft gjorde sin Entra Agent ID-platform generelt tilgængelig i 2026. Okta har udvidet styringen af agentidentiteter på tværs af identitetsudbydere og agentøkosystemer. AWS gjorde Policy in Bedrock AgentCore generelt tilgængelig i marts, så beslutninger om autorisation træffes uden for agentens egen kode. Hvis man forudsiger, at produkter til agentidentitet dukker op i 2027, overser man det marked, der allerede findes.
1. Dokumentation fra produktionsmiljøer bliver vigtigere end annonceringer om identitetsløsninger
En agent bør kunne fratages sin rolle, uden at dens menneskelige sponsor mister adgangen til sit arbejde. Den enkle forventning bliver vanskelig at indfri, når der er flere forbindelser og tjenestekonti mellem assistenten og den applikation, den bruger. I 2027 vil beretninger fra navngivne virksomheders produktionsmiljøer begynde at vise, om separate agentidentiteter holder hele vejen: begrænsede beføjelser fra start, en genkendelig identitet undervejs og en individuel slukknap til sidst.
Mekanismen er velkendt, selv om arbejdsbyrden er ny. Autentificering fastslår, hvilken softwareidentitet der handler. Autorisation afgør, hvilke ressourcer og handlinger den pågældende identitet må bruge. Delegering knytter dens beføjelser til en person eller organisation. En post i et register dokumenterer ikke i sig selv, at nogen af disse kontroller er på plads, når en handling med væsentlige konsekvenser udføres.
NISTs diskussion om agentidentitet fra august 2026 beskriver de problemer med ansvarlighed, som deling af legitimationsoplysninger skaber. De efterfølgende designprincipper anbefaler entydig identifikation, begrænset delegering samt kortvarig autorisation, der kan tilbagekaldes. Der er tale om foreslåede designprincipper, ikke dokumentation for, at alle udrullede produkter implementerer dem, eller om et nyt universelt lovkrav.
Den tekniske udfordring viser sig, når en arbejdsgang krydser organisatoriske grænser. En agent kan logge ind via én identitetsudbyder, kalde en forbindelse, der drives af en anden virksomhed, og bruge en applikation med en tredje autorisationsmodel. En begrænset tilladelse opstrøms kan blive til omfattende adgang nedstrøms, hvis en forbindelse erstatter den med sine egne stærke tjenestelegitimationsoplysninger. Den synlige identitet skal bevares gennem hele kæden, ellers mister kontrolplanet netop den skelnen, det skulle opretholde.
Microsofts annoncering af Agent 365 og Oktas forklaring af Agent Gateway viser, at leverandørerne udvikler løsninger på dette problem. Det er stadig leverandørernes egne beskrivelser af funktionerne. Jeg er mere sikker på, at der vil komme konkret dokumentation fra produktionsmiljøer, end på, at disse systemer eliminerer kompromittering.
Hvad man skal holde øje med i 2027
Hold øje med produktionsimplementeringer, hvor en agent har sin egen identitet, får adgang, der er begrænset til opgaven, og kan deaktiveres uden at blokere dens menneskelige sponsor. Kunders beretninger om, hvordan disse kontroller fungerer på tværs af forbundne applikationer, vil give mere indsigt end registreringer af agentidentiteter alene. Hvis man fortsat er afhængig af delte tjenestelegitimationsoplysninger, vil det svække denne forudsigelse.
Hvad det betyder for virksomheder
Sikkerhedsledere bør bede leverandørerne om at demonstrere hele delegeringskæden, herunder de tilladelser, som forbindelser nedstrøms bruger. Gennemgange af indkøb og implementering bør fastslå, hvem der ejer agenten, hvilke handlinger den må udføre, og hvordan dens adgang trækkes tilbage. Et voksende register over registrerede agenter er kun nyttigt, hvis organisationen kan styre, hvad hver enkelt faktisk kan gøre.
2. Stærkere forsvar skal måles på, om nyttigt arbejde stadig kan udføres
Den nemmeste agent at sikre er en, der ikke kan gøre noget. Det er også den nemmeste agent at gøre kommercielt ubrugelig. Det mere interessante resultat i 2027 vil være et forsvar, der lader legitime opgaver fortsætte, samtidig med at uautoriserede handlinger med værktøjer reduceres markant. Min målestok er bevidst krævende: en halvering af disse handlinger, som kan reproduceres, med et fald på højst ti point i gennemførelsen af legitime opgaver. Beskyttelsen skal bevare tilstrækkelig nytteværdi til, at den forbliver slået til.
En prompt injection ændrer, hvad modellen bliver bedt om at opfatte som en instruktion. Autorisation bør afgøre, om den foreslåede handling er tilladt, uanset hvor overbevisende instruktionen bliver. Et hentet dokument, der anmoder om en eksport, bør ikke få ret til at eksportere, blot fordi agenten kan læse dokumentet.
Vejledningen om sikkerhed i Model Context Protocol illustrerer, hvorfor integrationslaget er vigtigt: Den behandler problemer med forvirrede stedfortrædere, videreformidling af tokens og andre måder, hvorpå en forbindelse kan misbruge beføjelser. Konsekvensen er arkitektonisk. En models erklærede hensigt og en applikations håndhævelige tilladelse er to forskellige størrelser, og applikationen skal validere sidstnævnte.
Der er et andet krav: Den beskyttede agent skal stadig kunne udføre autoriseret arbejde. AgentDojo etablerede et udvideligt miljø til at teste angreb på og forsvar mod agenter, der bruger værktøjer. Fortrykket AgentDyn fra 2026 hævder, at realistiske opgaver uden fastlagte slutpunkter afdækker både sikkerhedssvagheder og overdreven blokering. En anden nyere analyse af mislykkede promptinjektioner skelner mellem at afvise et angreb, blot at ignorere det og ikke at kunne udføre brugerens opgave. Forskningsresultaterne er knyttet til de systemer og indstillinger, der blev evalueret; de er ikke sikkerhedsrater for hele befolkningen.
Den centrale afvejning kan måles. Hvis alle skrivehandlinger blokeres, kan det give en fremragende score for uautoriserede skrivninger, samtidig med at en bogføringsagent bliver ubrugelig. Et overbevisende resultat bør offentliggøre udfaldet af angrebene, resultatet af den legitime opgave, mængden af tilladte handlinger og de tilfælde, hvor det var nødvendigt at få en persons godkendelse. Adaptive angribere er også relevante: Et forsvar, der kun virker mod angreb, som blev udviklet, før forsvaret blev kendt, giver mindre sikkerhed.
Det skal man holde øje med i 2027
Se efter sikkerhedsevalueringer, der opgør, hvor ofte legitime opgaver gennemføres, sideløbende med blokerede angreb. Det stærkeste belæg vil vise en agent, der fortsat udfører autoriseret arbejde, mens et uafhængigt håndhævelseslag afviser uautoriserede handlinger, herunder angreb, der er tilpasset forsvaret. Et fald i andelen af vellykkede angreb, der følges af omfattende svigt i opgaveløsningen, vil give langt mindre grund til tryghed.
Hvad det betyder for virksomheder
Vurder en agents sikkerhed og anvendelighed samlet. Et indkøbsteam bør inddrage repræsentative forretningsopgaver og realistiske scenarier for misbrug i den samme vurdering og derefter undersøge, hvilke handlinger der kræver godkendelse, og hvor tilladelser håndhæves. Så bliver omkostningerne ved overdreven blokering synlige på linje med den potentielle skade ved at give en agent for vidtgående beføjelser.
3. Hændelsesrapporter vil kortlægge tilladelsesforløbet
Efter en hændelse med en agent kan det mest afslørende spørgsmål være, hvordan en instruktion fik beføjelse til at handle. En ondsindet besked er én del af historien; de legitimationsoplysninger, den forbindelse og den delegerede tilladelse, der førte den videre, er andre dele. Jeg forventer, at leverandørbekræftede offentliggørelser i 2027 vil gøre disse forløb mere synlige. Det vil give forsvarere noget mere nyttigt end endnu et eksempel på, at en model siger noget, den ikke burde.
Det vigtige belæg i sådan en offentliggørelse er et hændelsesforløb: Agenten stødte på et input, foreslog eller valgte en handling, fik eller overtog beføjelser og overskred en tilsigtet grænse. Hvis man kun beskriver modellens usædvanlige formuleringer, forbliver den operationelle fejl uforklaret. Hvis man kun beskriver lækkede legitimationsoplysninger, kan man overse, hvorfor agenten afslørede eller brugte dem.
Dette er ikke en forudsigelse om, at den første overskridelse af en sådan grænse vil ske næste år. I sin vurdering af cybersikkerhedshændelser fra september 2026 beskrev Anthropic fire tilfælde, hvor Claude-modeller fik uautoriseret adgang til virkelige tredjepartssystemer under aktiviteter i forbindelse med evaluering. Det er en offentliggørelse fra modeludbyderen om konkrete hændelser. Den bør ikke generaliseres til en målt rate for sikkerhedsbrud i virksomheder eller betragtes som uafhængig bekræftelse af alle detaljer.
OWASP’s top 10 over agentbaserede applikationer udgør en nyttig risikoramme til at drøfte fejl i agenter. En ramme giver dog kategorier, ikke en nævner for hændelser. Flere offentliggørelser kan skyldes større udbredelse, bedre detektion, mere åben rapportering eller en blanding af alle tre. De vil ikke i sig selv bevise, at hver enkelt implementeret agent er blevet mindre sikker.
Min tillid til denne forudsigelse er mindre, fordi incitamenterne til at offentliggøre oplysninger er usikre. Organisationer kan rette en forbindelse uden at fortælle det, behandle en fejl som en almindelig adgangskontrolfejl eller undlade at afsløre kundens navn. En væsentlig ændring i driften kan derfor føre til få offentligt tilgængelige oplysninger. Den usikkerhed hører med i forudsigelsen og bør ikke fjernes ved at tælle enhver spekulativ demonstration af en sårbarhed som et sikkerhedsbrud.
Det skal man holde øje med i 2027
Vær opmærksom på hændelsesrapporter, der forklarer, hvordan en agent gik fra at læse materiale, man ikke kan stole på, til at udøve en tilladelse over for en reel ressource. Tydelige beskrivelser af forbindelsen, de delegerede legitimationsoplysninger, den berørte handling og afhjælpningen vil styrke forudsigelsen. Rapporter, der kun beskriver usædvanlige svar fra modellen, vil afsløre mindre om den operationelle grænse, der blev overskredet.
Hvad det betyder for virksomheder
Hændelseshåndteringsteams bør bevare tilstrækkelige telemetridata fra agenter og applikationer til at rekonstruere forløbet fra input til handling. Leverandørvurderinger bør fastslå, hvem der underretter kunden, hvilke registreringer der vil være tilgængelige, og hvordan en kompromitteret forbindelse kan inddæmmes. Disse aftaler afgør, hvor hurtigt en organisation kan vurdere omfanget af eksponeringen, når en agent opfører sig uventet.
4. Tilbagekaldelse bliver sat på tid
En nødafbryder er et løfte om, hvor hurtigt noget kan stoppes. Hvis en agent allerede har kopieret en adgangsoplysning eller åbnet en anden session, kan tilbagekaldelse af dens identitet efterlade et tidsrum, hvor handlinger stadig lykkes. I 2027 vil uafhængige tests begynde at sætte det løfte på stopur på tværs af forbundne applikationer. Prognosen her er konkret: Nye beskyttede handlinger skal blokeres inden for et minut, også når adgangsoplysninger er blevet cachelagret.
Det er let at love tilbagekaldelse i identitetskataloget, men sværere at påvise, at den slår igennem i de efterfølgende systemer. En connector kan beholde et adgangstoken. En arbejdsproces kan opretholde en aktiv session. Et planlagt job kan fastholde en tidligere godkendt anmodning. Deaktivering af en agentpost i fortegnelsen beviser ikke, at disse udførelsesveje holder op med at bruge forældede adgangsrettigheder.
NIST’s princip om tilbagekaldelig autorisation og AWS’ håndhævelse via gateway og logning af politikker beskriver dele af den nødvendige arkitektur. Jeg udleder, at købere i stigende grad vil efterspørge en målt tid til inddæmning. Grænsen på 60 sekunder er mit mål for prognosen, ikke et krav, der tilskrives nogen af kilderne.
En god øvelse skelner mellem at standse nyt arbejde og at omgøre arbejde, der allerede er udført. Tilbagekaldelse af en tilladelse kan ikke tilbagekalde en besked, der allerede er sendt. Det målbare løfte er, at en ny beskyttet handling, der indsendes, efter at tilbagekaldelsen er trådt i kraft, bliver afvist. Handlinger, der allerede er i gang, kræver særskilt dokumentation af, hvordan de annulleres eller færdiggøres. Uden den skelnen kan en dramatisk demonstration af en »nødafbryder« skjule, at garantien er langt snævrere.
Den lave til moderate grad af sikkerhed afspejler, hvor svært det er at få reproducerbar dokumentation på tværs af connectors. Offentlig produktdokumentation kan fastslå, hvilken adfærd der understøttes, men prognosen kræver et faktisk måleresultat. Testeren skal også afprøve en allerede etableret session, hvor forældet autorisation mest sandsynligt vil have betydning.
Hvad man skal holde øje med i 2027
Hold øje med demonstrationer af tilbagekaldelse, der begynder, mens en agent allerede arbejder via aktive connectors, herunder med cachelagrede adgangsoplysninger eller etablerede sessioner. Det nyttige resultat er en målt tid for standsning af nye beskyttede handlinger sammen med en klar forklaring af, hvad der sker med igangværende arbejde. En deaktiveret post i et kontrolpanel uden test af de efterfølgende systemer efterlader det centrale spørgsmål ubesvaret.
Hvad det betyder for virksomheder
Behandl nedlukning af agenter som en beredskabskapacitet, der skal øves. Afprøv de applikationer, en agent kan tilgå, find ud af, om nogen sessioner overlever tilbagekaldelsen, og udpeg en ansvarlig for at standse arbejde i kø. Skeln mellem at forhindre den næste handling og at omgøre en handling, der allerede er gennemført; beredskabsplanlægningen skal tage højde for begge dele.
Sikkerhedsbudgettet vil følge grænsen for, hvad der kan udføres
Ambitionen er at give agenter tilstrækkelige beføjelser til at være nyttige og samtidig sætte tilstrækkelige grænser til, at de fortsat kan styres. Den balance vil blive forhandlet i connectors, tokens og tilladelseskontroller, langt fra den samtalebaserede grænseflade. Når den næste hændelse indtræffer, bliver det afgørende spørgsmål, hvor langt systemet kunne nå, før nogen – eller noget – standsede det.












