Cybersikkerhet
AI-sikkerhet i 2027: Agenters tillatelser vil avgjøre skadeomfanget

Viktige punkterAgenttillatelser, ikke modellens pålitelighet, vil avgjøre hvor langt en misforståelse…
Vis mer
- Agenttillatelser, ikke modellens pålitelighet, vil avgjøre hvor langt en misforståelse kan nå.
- Sikkerhetsevalueringer må rapportere legitim oppgavefullføring sammen med blokkerte angrep for å bevise at agenter forblir nyttige.
- Hendelsesrapporter bør spore legitimasjons- og delegert tillatelsesbane i stedet for modellens merkelige output.
Se for deg en ansatt som ber en AI-assistent rydde opp i en overfylt innboks. Oppgaven virker harmløs helt til en melding overtaler assistenten til å åpne en kundepost, eksportere et vedlegg eller sende en betalingsforespørsel. Sikkerhetsspørsmålet handler ikke lenger bare om hvorvidt svaret er til å stole på. Nå handler det om hvorvidt programvaren har myndighet til å omsette en misforståelse til handling.
Det er dette som øker presset på agentsikkerheten i 2027. Selskaper vil ha assistenter som kan få arbeidet gjort. Sikkerhetsteamene må vite hvor denne friheten tar slutt – og om de kan trekke den tilbake mens arbeidet fortsatt pågår.
Denne forbindelsen er allerede under oppbygging. Microsoft gjorde Entra Agent ID-plattformen allment tilgjengelig i 2026. Okta har utvidet styringen av agentidentiteter på tvers av identitetsleverandører og agentøkosystemer. AWS gjorde Policy i Bedrock AgentCore allment tilgjengelig i mars, slik at beslutninger om tilgangskontroll tas utenfor agentens egen kode. Å spå at produkter for agentidentitet vil dukke opp i 2027, ville overse markedet som allerede finnes.
1. Dokumentasjon fra produksjonsmiljøer blir viktigere enn kunngjøringer om identitet
En agent bør kunne miste jobben sin uten at den menneskelige sponsoren mister tilgangen til sin. Denne enkle forventningen blir vanskelig å innfri når flere koblinger og tjenestekontoer ligger mellom assistenten og applikasjonen den bruker. I 2027 vil beskrivelser av produksjonsbruk fra navngitte selskaper begynne å vise om separate agentidentiteter består gjennom hele kjeden: begrenset myndighet fra start, en gjenkjennelig identitet underveis og en egen av-knapp til slutt.
Mekanismen er velkjent, selv om arbeidsoppgaven er ny. Autentisering fastslår hvilken programvareidentitet som handler. Autorisasjon avgjør hvilke ressurser og operasjoner denne identiteten kan bruke. Delegering knytter myndigheten dens til en person eller organisasjon. En oppføring i et register alene dokumenterer ikke at noen av disse kontrollene er på plass når en handling med betydelige konsekvenser utføres.
NISTs drøfting av agentidentitet i august 2026 beskriver ansvarlighetsproblemene som oppstår når legitimasjon deles. De påfølgende designprinsippene anbefaler entydig identifikasjon, begrenset delegering og kortvarig, tilbakekallbar autorisasjon. Dette er foreslåtte designprinsipper, ikke dokumentasjon på at alle produkter som er tatt i bruk, implementerer dem, eller et nytt universelt lovkrav.
Den tekniske utfordringen oppstår når en arbeidsflyt krysser organisatoriske grenser. En agent kan komme inn via én identitetsleverandør, kalle opp en kobling som driftes av et annet selskap, og bruke en applikasjon med en tredje autorisasjonsmodell. En snever tilgangstillatelse oppstrøms kan gi bred tilgang nedstrøms hvis en kobling erstatter den med sin egen, mer omfattende tjenestepålogging. Den synlige identiteten må følge med gjennom hele kjeden, ellers mister kontrollplanet nettopp det skillet det skulle bevare.
Microsofts kunngjøring av Agent 365 og Oktas forklaring av Agent Gateway viser at leverandører utvikler løsninger på dette problemet. Dette er fortsatt leverandørenes beskrivelser av funksjoner. Jeg har større tiltro til at det vil komme konkrete bevis fra produksjonsmiljøer enn til en påstand om at disse systemene eliminerer kompromittering.
Dette bør du følge med på i 2027
Se etter produksjonsinstallasjoner der en agent har sin egen identitet, får tilgang som er begrenset til oppgaven, og kan deaktiveres uten å stenge den menneskelige sponsoren ute. Kundeberetninger om hvordan disse kontrollene fungerer på tvers av tilkoblede applikasjoner, vil gi mer innsikt enn registreringer av identiteter alene. Fortsatt avhengighet av delte tjenestepålogginger vil svekke prognosen.
Hva dette betyr for bedrifter
Sikkerhetsledere bør be leverandørene demonstrere hele delegeringskjeden, inkludert tillatelsene som brukes av koblinger nedstrøms. I anskaffelses- og implementeringsgjennomganger bør man identifisere hvem som eier agenten, hvilke handlinger den har tillatelse til å utføre, og hvordan tilgangen kan trekkes tilbake. Et voksende register over registrerte agenter er bare nyttig hvis organisasjonen kan kontrollere hva hver enkelt faktisk kan gjøre.
2. Sterkere forsvar vil bli målt opp mot nyttig arbeid
Den enkleste agenten å sikre er en som ikke kan gjøre noe. Det er også den enkleste agenten å gjøre kommersielt ubrukelig. Det mer interessante resultatet i 2027 vil være et forsvar som lar legitimt arbeid fortsette, samtidig som uautoriserte verktøyhandlinger reduseres kraftig. Testen min er bevisst krevende: en halvering av slike handlinger som kan gjenskapes, uten mer enn et tap på ti poeng i andelen legitime oppgaver som fullføres. Beskyttelsen må bevare nok nytte til at den forblir aktivert.
En promptinjeksjon endrer hva modellen blir bedt om å behandle som en instruksjon. Autorisasjonen bør avgjøre om den foreslåtte handlingen er tillatt, uansett hvor overbevisende instruksjonen blir. Et dokument som hentes inn og ber om en eksport, bør ikke få eksporttillatelse bare fordi agenten kan lese det.
Sikkerhetsveiledningen for Model Context Protocol viser hvorfor integrasjonslaget er viktig: Den tar for seg problemer med forvirrede stedfortredere, videreformidling av tokener og andre måter en tilkobling kan misbruke myndighet på. Dette får arkitektoniske følger. En modells uttalte intensjon og en applikasjons håndhevbare tillatelse er to separate forhold, og applikasjonen må validere sistnevnte.
Det er også et annet krav: Den beskyttede agenten må fortsatt kunne utføre arbeid den er autorisert til å gjøre. AgentDojo etablerte et utvidbart miljø for å teste angrep på og forsvar mot agenter som bruker verktøy. Forhåndspublikasjonen AgentDyn fra 2026 hevder at realistiske, åpne oppgaver avdekker både sikkerhetssvakheter og overdreven blokkering. En annen nyere analyse av mislykkede promptinjeksjoner skiller mellom å avvise et angrep, bare ignorere det og ikke klare å utføre brukerens oppgave. Disse forskningsfunnene er knyttet til systemene og innstillingene som ble evaluert; de er ikke sikkerhetsrater for hele befolkningen.
Den sentrale avveiningen kan måles. Hvis alle skriveoperasjoner blokkeres, kan resultatet bli en utmerket poengsum for uautoriserte skrivinger, samtidig som en bokføringsagent blir ubrukelig. Et overbevisende resultat bør offentliggjøre utfallet av angrepet, utfallet av den legitime oppgaven, hvilke handlinger som var tillatt, og i hvilke tilfeller det var nødvendig med godkjenning fra et menneske. Det er også viktig å ta høyde for angripere som tilpasser seg: Et forsvar som bare virker mot angrep utviklet før forsvaret ble kjent, gir svakere sikkerhet.
Dette bør du følge med på i 2027
Se etter sikkerhetsevalueringer som rapporterer om både gjennomføring av legitime oppgaver og blokkerte angrep. De sterkeste bevisene vil vise at en agent fortsetter å utføre autorisert arbeid, samtidig som et uavhengig håndhevingslag avviser uautoriserte handlinger, også angrep som er tilpasset forsvaret. En lavere andel vellykkede angrep kombinert med omfattende svikt i oppgaveløsningen vil gi langt mindre grunn til trygghet.
Hva dette betyr for bedrifter
Vurder agentens sikkerhet og nytteverdi samlet. Et innkjøpsteam bør ta med representative forretningsoppgaver og realistiske scenarioer for misbruk i samme vurdering, og deretter undersøke hvilke handlinger som krever godkjenning, og hvor tillatelsene håndheves. Slik blir kostnaden ved overdreven blokkering synlig, side om side med den mulige skaden ved å gi en agent for vide fullmakter.
3. Hendelsesrapporter vil spore tillatelsesforløpet
Etter en agenthendelse kan det mest avslørende spørsmålet være hvordan en instruksjon fikk myndighet til å utløse handlinger. En ondsinnet melding er én del av historien; legitimasjonen, tilkoblingen og den delegerte tillatelsen som førte den videre, er andre deler. Jeg forventer at leverandørbekreftede offentliggjøringer i 2027 vil gjøre slike forløp mer synlige. Det vil gi forsvarere noe mer nyttig enn enda et eksempel på at en modell sier noe den ikke burde.
Det viktigste beviset i en slik offentliggjøring er en sekvens: Agenten møtte en form for inndata, foreslo eller valgte en handling, fikk eller arvet myndighet og krysset en tiltenkt grense. Hvis man bare beskriver modellens uvanlige formuleringer, blir den operative svikten uforklart. Hvis man bare beskriver en lekket legitimasjon, kan man overse hvorfor agenten røpet eller brukte den.
Dette er ikke en prognose om at den første slike grenseoverskridelsen vil skje neste år. I sin vurdering av cybersikkerhetshendelser fra september 2026 beskrev Anthropic fire tilfeller der Claude-modeller fikk uautorisert tilgang til ekte tredjepartssystemer i forbindelse med evalueringsaktiviteter. Dette er en offentliggjøring fra modellens leverandør om konkrete hendelser. Den bør ikke generaliseres til en målt rate for datainnbrudd i bedrifter eller behandles som uavhengig bekreftelse av alle detaljer.
OWASP Top 10 for agentbaserte applikasjoner gir et nyttig rammeverk for å drøfte agentsvikt. Et rammeverk gir imidlertid kategorier, ikke en nevner for hendelser. Flere offentliggjøringer kan skyldes økt bruk, bedre oppdagelse, mer åpen rapportering eller en kombinasjon av alle tre. I seg selv vil de ikke vise at hver agent som er tatt i bruk, er blitt mindre sikker.
Jeg er mindre sikker på denne prognosen fordi insentivene for å offentliggjøre hendelser er usikre. Organisasjoner kan rette en tilkobling uten å si noe, behandle en svikt som en vanlig feil i tilgangskontrollen eller la være å røpe navnet på en kunde. En betydelig operasjonell endring kan derfor gi få offentlige opplysninger. Denne usikkerheten hører hjemme i prognosen og bør ikke viskes ut ved å telle enhver spekulativ demonstrasjon av en sårbarhet som et datainnbrudd.
Dette bør du følge med på i 2027
Følg med på hendelsesrapporter som forklarer hvordan en agent gikk fra å lese materiale man ikke kan stole på, til å bruke en tillatelse mot en reell ressurs. Tydelige beskrivelser av tilkoblingen, den delegerte legitimasjonen, den berørte handlingen og utbedringen vil styrke prognosen. Rapporter som bare omtaler uvanlige svar fra modellen, sier mindre om den operative grensen som sviktet.
Hva dette betyr for bedrifter
Hendelseshåndteringsteam bør bevare nok telemetri fra agenter og applikasjoner til å rekonstruere forløpet fra inndata til handling. Gjennomganger av leverandører bør fastslå hvem som skal varsle kunden, hvilke logger som vil være tilgjengelige, og hvordan en kompromittert tilkobling kan isoleres. Disse avtalene vil avgjøre hvor raskt en organisasjon kan vurdere omfanget av eksponeringen når en agent oppfører seg uventet.
4. Tilbakekalling skal settes på stoppeklokke
En avstengningsmekanisme er et løfte om hvor raskt noe kan stoppes. Hvis en agent allerede har kopiert en legitimasjonsopplysning eller åpnet en ny økt, kan det å trekke tilbake identiteten etterlate et tidsrom der handlinger fortsatt lykkes. I 2027 vil uavhengige tester begynne å måle dette løftet med stoppeklokke på tvers av tilkoblede applikasjoner. Prognosen her er konkret: Nye beskyttede handlinger skal blokkeres innen ett minutt, også når legitimasjonsopplysninger er bufret.
Det er lett å love at tilganger kan trekkes tilbake i identitetskatalogen, men vanskeligere å påvise at det skjer lenger ned i systemet. En kobling kan beholde et tilgangstoken. En arbeidsprosess kan holde en aktiv økt åpen. En planlagt jobb kan ha en tidligere autorisert forespørsel liggende. Å deaktivere en agentoppføring i registeret beviser ikke at disse kjøringsbanene slutter å bruke foreldede tilgangsrettigheter.
NISTs prinsipp om tilbakekallbar autorisasjon og AWSs håndheving via gateway og logging av tilgangsregler beskriver deler av den nødvendige arkitekturen. Jeg antar at kjøpere i økende grad vil be om dokumentert tid til inneslutning. Terskelen på 60 sekunder er målet i min prognose, ikke et krav som tilskrives noen av kildene.
En god øvelse skiller mellom å stanse nytt arbeid og å reversere arbeid som allerede er utført. Å trekke tilbake en tillatelse kan ikke sende tilbake en melding som allerede er levert. Det målbare løftet er at en ny beskyttet handling som sendes etter at tilbakekallingen har trådt i kraft, blir avvist. Handlinger som pågår, trenger egne dokumenterte regler for kansellering eller fullføring. Uten dette skillet kan en dramatisk demonstrasjon av en «nødstopp» skjule en langt snevrere garanti.
Den lave til moderate graden av sikkerhet gjenspeiler hvor vanskelig det er å få fram reproduserbare bevis på tvers av koblinger. Offentlig produktdokumentasjon kan fastslå hvilken atferd som støttes, men prognosen krever et faktisk måleresultat for tiden det tar. Testeren må også prøve ut en økt som allerede er etablert, der foreldet autorisasjon mest sannsynlig vil ha betydning.
Dette bør du følge med på i 2027
Følg med på demonstrasjoner av tilbakekalling som starter mens en agent allerede arbeider gjennom aktive koblinger, blant annet med bufrede legitimasjonsopplysninger eller etablerte økter. Det nyttige resultatet er en målt stansetid for nye beskyttede handlinger, sammen med en tydelig forklaring av hva som skjer med arbeid som pågår. En deaktivert oppføring i et kontrollpanel uten testing lenger ned i systemet lar hovedspørsmålet stå ubesvart.
Hva dette betyr for virksomheter
Se på nedstenging av agenter som en beredskapsfunksjon ved hendelser som må øves på. Test applikasjonene en agent har tilgang til, finn ut om noen økter overlever tilbakekallingen, og plasser ansvaret for å stanse arbeid som ligger i kø. Skill mellom å hindre neste handling og å gjøre om en handling som allerede er fullført; beredskapsplanleggingen må ta høyde for begge deler.
Sikkerhetsbudsjettet vil følge grensen for hva som kan kjøres
Målet er å gi agenter nok myndighet til å være nyttige og tilstrekkelige begrensninger til at de fortsatt kan styres. Denne balansen vil bli forhandlet fram i koblinger, tokener og tillatelseskontroller, langt unna samtalegrensesnittet. Når neste hendelse inntreffer, blir det avgjørende spørsmålet hvor langt systemet rakk å gå før noen – eller noe – stanset det.












