Cybersikkerhed

AI-agenter bliver smartere, og deres angrebsflade vokser

Gary Espinosa
Føj Unite.AI til dine foretrukne kilder på Google
NøglepunkterAI-agenters uforudsigelige autonomi skaber et enormt og dynamisk angrebsområde, som…
Vis mere
  • AI-agenters uforudsigelige autonomi skaber et enormt og dynamisk angrebsområde, som trodser traditionelle sikkerhedsmodeller.
  • Prompt injection-angreb manipulerer agentinstruktioner gennem hverdagsinput som dokumenter og websider.
  • Multi-agent-systemer forstærker risici farligt gennem tillidshierarkier og overprivilegeret adgang til kritiske systemer.

I det øjeblik, hvor AI-agenter begyndte at booke møder, udføre kode og browse på nettet på dine vegne, ændrede samtalen om cybersikkerhed sig. Ikke langsomt, men fra den ene dag til den anden.

Det, der tidligere var et afgrænset, forudsigeligt softwaresystem, blev til noget, der ræsonnerer, planlægger og handler ved hjælp af værktøjer og API’er, som det knap nok vidste eksisterede for et år siden.

Det er virkelig spændende, og det er også virkelig skræmmende, fordi angrebsfladen, der følger med den selvstændighed, er enorm, og de fleste organisationer er kun lige begyndt at forstå, hvad det betyder at lukke agenter ind i deres infrastruktur.

Fra chatbots til udførende agenter

Det oprindelige løfte om AI var enkelt: stille et spørgsmål, få et svar. Det er stadig sandt for de fleste forbrugerinteraktioner, men det er ikke, hvad der sker i virksomhedsinstallationer længere. I dag får agenter adgangsoplysninger, API-nøgler og mulighed for at slette, oprette og annotere data, samt udføre faktiske handlinger i systemer, der har virkelige konsekvenser.

Skiftet skete hurtigt. På mindre end to år gik AI-agenter fra at være tekstgenereringsværktøjer til at lade os drive velfungerende systemer med flere agenter. De læser e-mails, udløser arbejdsgange, forespørger databaser og i visse tilfælde styrer andre agenter under dem. Dette adgangsniveau krævede tidligere en længerevarende indkøbsproces og menneskelig deltagelse. Nu er det en konfigurationsfil og nogle få API-kald.

Mere adgang betyder større eksponering

Traditionelle softwareangreb har en nogenlunde forudsigelig profil. Der er et kendt indgangspunkt, en kendt sårbarhed, en kendt patch. AI-agenter bryder denne model, fordi de er udformet til at være dynamiske. De følger ikke en statisk kodevej. De ræsonnerer om, hvad de skal gøre herefter, hvilket gør deres adfærd sværere at forudsige og meget sværere at gennemgå efterfølgende.

Denne uforudsigelighed er nyttig til at få arbejdet gjort. Det er også en fordel for enhver, der forsøger at udnytte systemet. Når en agent kan beslutte, midt i en opgave, at kalde et eksternt API eller tage et tredjepartsværktøj i brug, er der ingen klar perimeter at forsvare.

Sikkerhedsteams er vant til at beskytte kendte overflader og overvåge Kubernetes-omkostninger. Agenter opdager løbende nye angrebsflader og udnyttelsesmetoder, og ingen kortlægger dem i realtid. Før man ved det, kan nogen kapre legitimationsoplysningerne og få kontrol over hele din AI-“organisme” med ét træk.

Prompt Injection er det nye SQL Injection

Hvis der er én angrebsvektor, som sikkerhedsforskere konstant vender tilbage til, er det prompt injection. Idéen er enkel: i stedet for at udnytte en kode-sårbarhed, manipulerer en angriber de instruktioner, en agent modtager gennem sine input. En ondsindet instruktion indlejret i en webside, et dokument eller endda en e-mail kan omdirigere, hvad agenten gør herefter.

Det, der gør dette særligt alvorligt, er, at agenter ofte gør præcis, hvad de bliver bedt om. De behandler indhold fra nettet, fra brugermeddelelser, fra tredjepartsværktøjer. Alt dette indhold kan være en potentiel injektionsflade. En agent, der læser et kompromitteret dokument og derefter foretager API-kald baseret på dets indhold, er blevet kapret, og den logger sandsynligvis ikke noget, der gør årsagskæden åbenbar.

Forsvarsmekanismerne her er reelle, men ufuldstændige. At isolere agenthandlinger, begrænse, hvilke værktøjer en agent kan kalde i bestemte sammenhænge, og bygge menneskelige kontrolpunkter ind i arbejdsgange med alvorlige konsekvenser reducerer risikoen. De eliminerer den ikke. Og de fleste organisationer har endnu ikke engang indført de grundlæggende foranstaltninger.

Tillidsproblemet i systemer med flere agenter

Systemer med flere agenter introducerer et lag af kompleksitet, der er let at undervurdere. Når en agent koordinerer flere andre, er der et tillidshierarki på spil. Koordinatoren sender instruktioner videre ned gennem hierarkiet, og underagenter følger dem. Hvis koordinatoren bliver kompromitteret, bliver hver underordnet agent i praksis også kompromitteret, og skadens omfang vokser meget hurtigt.

Der er også problemet med for vidtgående tilladelser. Agenter får ofte tildelt mere adgang, end de behøver, fordi det er nemmere at give bred adgang fra starten end at finjustere tilladelserne løbende. En forskningsagent har ikke brug for skriveadgang til en produktionsdatabase.

En agent, der planlægger møder, har ikke brug for adgang til finansielle optegnelser. Ja, det føles beroligende at have alt sammenkoblet, men risikoen er simpelthen for stor til, at udbyttet kan opretholdes uden at aftage. Men grænserne bliver uklare i praksis, og principper om mindst mulige rettigheder, der fungerer fint i teorien, bliver stille og roligt opgivet i hastværket med at lancere produktet.

Sådan ser rimelig sikkerhed ud her

Der er ingen enkelt løsning, der gør agentimplementeringer sikre. Det er et lagdelt problem, og det kræver en lagdelt respons. Organisationer, der gør det godt, starter ofte med adgangskontrol: giv hver agent et klart afgrænset virkefelt, og indbyg kontroltrin i enhver handling, der berører følsomme systemer eller eksterne tjenester.

Observerbarhed er lige så vigtig som forebyggelse. Hvis en agent gør noget uventet, har teamene brug for en fuldstændig sporingslog over, hvilke instruktioner den modtog, hvilke værktøjer den kaldte, og hvad den returnerede. De fleste logopsætninger er ikke indrettet til den slags detaljegrad, og det er besværligt at tilføje den efterfølgende. Det er umagen værd at indbygge den fra starten.

Test fra angriberens perspektiv bruges også for lidt. Red team-test af agenter, især forsøg på at injicere ondsindede instruktioner og se, hvad der sker, afslører sårbarheder, som statisk kodegennemgang aldrig vil fange. Det er ubehageligt at tænke på, men de mennesker, der senere vil forsøge at udnytte disse systemer, udfører allerede sådanne test. At komme først er den eneste fornuftige beslutning.

Afsluttende tanker

AI-agenter vil blive en større del af, hvordan organisationer opererer, og dette skift er allerede godt i gang. Sikkerhedsdiskussionen skal følge med, og det skal gå hurtigt. Risikoen er reel, angrebsvektorerne er nye, og vinduet for at komme foran dem bliver mindre.

At forstå trusselslandskabet for autonome AI-systemer er ikke længere valgfrit. Det er en af de vigtigste ting, sikkerheds- og ingeniørteams kan gøre lige nu, og tiden til at få det rigtigt er allerede begyndt at løbe.

Gary er en ekspertforfatter med over 10 års erfaring inden for softwareudvikling, webudvikling og indholdsstrategi. Han specialiserer sig i at skabe indhold af høj kvalitet, som er engagerende, driver konverteringer og opbygger brandloyalitet. Han har en passion for at udforme historier, der fastholder og informerer publikum, og han er altid på udkig efter nye måder at engagere brugere på.