Cybersikkerhet
Cato Networks lanserer AgentSense for å stanse skadelige handlinger fra KI-agenter før de utføres

Viktige punkterAgentSense retter seg mot indirekte prompt-injeksjon ved å spore hvordan upålitelig…
Vis mer
- AgentSense retter seg mot indirekte prompt-injeksjon ved å spore hvordan upålitelig innhold styrer en agents handlinger.
- Gyldige legitimasjoner garanterer ikke trygg atferd fordi en agent kan manipuleres til skadelige handlinger.
- Catos utfordring på 10 000 dollar inviterer forskere til å teste om AgentSense motstår fiendtlig omdirigering av arbeidsflyter.
Cato Networks har lansert AgentSense, en sikkerhetsfunksjon for kjøring som skal stanse skadelige handlinger fra KI-agenter før de utføres. Teknologien er utviklet av Cato AI Labs og sporer hvordan innhold som ikke er til å stole på, påvirker agentens atferd. Den retter seg mot en risiko som vanlige tilgangstillatelser ikke fullt ut håndterer: En agent kan ha gyldig tilgangsinformasjon og likevel bli manipulert til å gjøre noe galt.
Cato sier at AgentSense er integrert i plattformen deres og vil være inkludert uten ekstra kostnad i Cato AI Usage-lisenser. I kunngjøringen presenteres teknologien sammen med en utfordring i angrepsbasert testing. De tre første kvalifiserte deltakerne som lykkes med å omdirigere en beskyttet arbeidsflyt til ondsinnede handlinger, får 10 000 dollar hver.
Gyldige tillatelser kan likevel føre til utrygge handlinger
En bedriftsagent kan måtte lese e-post, søke i dokumenter, slå opp informasjon på nettsteder og bruke verktøy for å fullføre en oppgave. Hver kilde utvider informasjonen den kan bruke, men gir også eksternt innhold en mulighet til å påvirke neste steg.
Indirekte prompt-injeksjon utnytter denne sårbarheten. I stedet for å gi en instruks direkte som den autoriserte brukeren, skjuler en angriper den i materiale agenten møter mens den arbeider. Et dokument, en sak, en nettside eller et svar fra et verktøy kan inneholde tekst som forsøker å omdirigere arbeidsflyten, eksponere informasjon eller utløse en handling som ikke har med oppgaven å gjøre.
Det er fortsatt viktig å kontrollere om en agent har tilgang til en applikasjon. Det besvarer et annet spørsmål enn om en bestemt handling tjener oppgaven brukeren har autorisert. En agent kan for eksempel ha tillatelse til å lese forretningsdokumenter uten å ha tillatelse til å sende dem til en mottaker som foreslås i et dokument den har hentet inn.
AgentSense skal evaluere denne atferden mens agenten kjører, slik at det er mulig å gripe inn før en sensitiv handling utføres.
Sporing av påvirkning fra innhold man ikke kan stole på, i KI-økten
Den annonserte funksjonen Untrusted Influence Detection skiller mellom betrodde instruksjoner og innhold man ikke kan stole på, i en KI-økt, og sporer hvordan sistnevnte påvirker atferd og resultater. Cato sier at funksjonen blokkerer en handling når den oppdager at innhold man ikke kan stole på, styrer agenten mot et utrygt steg.
Dette skillet er viktig fordi et angrep ikke trenger å ligne på en kjent, ondsinnet prompt. Cato beskriver AgentSense som en løsning som vurderer påvirkning, i stedet for å basere seg på statiske klassifikatorer eller en katalog over tidligere observerte angrepsmønstre. Dette skal gjøre det mulig å håndtere både nye og kjente former for indirekte prompt-injeksjon.
I kunngjøringen beskrives teknologien som patentert, men det oppgis ikke noe patentnummer, noen detaljert beskrivelse av implementeringen eller noen uavhengig referanse for effektiviteten. Påstanden om beskyttelse mot tidligere ukjente angrep bør derfor forstås som produktets tiltenkte sikkerhetsfunksjon, ikke som en garanti for at alle forsøk på prompt-injeksjon vil bli stanset.
Det sentrale operative spørsmålet er om et sikkerhetslag har nok kontekst om økten og handlingen til å skille mellom å bruke et dokument som belegg og å behandle det som en autoritet. AgentSense er rettet direkte mot dette skillet.
Drift Detection er en separat planlagt funksjon
Cato omtaler også AgentSense Drift Detection som en framtidig funksjon. Den planlagte funksjonen skal vurdere om agentens handlinger fortsatt tjener det opprinnelige formålet etter hvert som arbeidsflyten utvikler seg.
Dette utfyller deteksjon av påvirkning, men løser ikke nøyaktig det samme problemet. Untrusted Influence Detection undersøker om eksternt innhold styrer en handling. Drift Detection skal undersøke om handlingen fortsatt hører til formålet, selv om det enkelte steget teknisk sett er tillatt.
En arbeidsflyt kan gradvis få flere steg som ikke lenger fremmer formålet. For å oppdage dette avviket må man holde oversikt over det autoriserte formålet gjennom hele økten, i stedet for å vurdere hvert verktøykall isolert. I kunngjøringen oppgis ingen egen dato for når Drift Detection blir tilgjengelig.
Slik passer AgentSense inn i Catos eksisterende KI-sikkerhetsplattform
Catos tilbud innen sikkerhet for agentisk KI omfatter allerede kontroller for å oppdage agenter og Model Context Protocol-servere, kartlegge verktøykall og håndheve retningslinjer for samhandling med agenter. Den bredere plattformen kombinerer nettverk, tilgang og sikkerhetskontekst.
Selskapet skiller også mellom sikkerhet for ansattes bruk av KI og beskyttelse av applikasjoner. Tilbudet deres innen KI-sikkerhet for applikasjoner omfatter innsyn i kjøretid, inspeksjon av prompter og svar samt konfigurerbare beskyttelsestiltak for KI-applikasjoner som er satt i drift. Dette gir kontekst for AgentSense-fokuset på integriteten til handlinger som utføres i en arbeidsflyt.
I praksis innebærer kontroll med KI-bruk flere relaterte beslutninger: hvilke tjenester en organisasjon tillater, hvilke data som kan nå dem, og hva en agent kan gjøre med informasjonen den møter. AgentSense føyer til et atferdsbasert sikkerhetsløfte: å identifisere når innhold man ikke kan stole på, driver selve handlingen.
Forskning på prompt-injeksjon viser hvorfor grensen er viktig
Catos EchoLeak-forskning beskriver en angrepskjede der innhold fra eksterne kilder kunne føre til at Microsoft 365 Copilot røpet informasjon fra konteksten sin. Betydningen for agentsikkerhet ligger i overgangen fra å lese eksternt materiale til å følge instruksjoner som er innebygd i det.
Catos CurXecute-forskning undersøkte et annet utfall: Prompt-injeksjon via eksternt innhold kunne føre til at en kodeagent endret en MCP-konfigurasjon og utløste kjøring av kommandoer. Ifølge Catos omtale rettet Cursor denne sårbarheten i versjon 1.3. Eksempelet illustrerer en mulig feilmodus; det skal ikke tolkes som en påstand om at det utbedrede problemet fortsatt er uløst.
Begge tilfellene viser hvorfor det er viktig å vite hvor innhold kommer fra, når en assistent har tilgang til sensitive data eller verktøy for å kjøre kode. En interaksjon som begynner med informasjonsinnhenting, kan bli en sikkerhetshendelse hvis den innhentede teksten endrer arbeidsflytens kontrollflyt.
En offentlig utfordring setter beskyttelsen på prøve
AgentSense Challenge inviterer sikkerhetsmiljøet til å plassere instruksjoner i en beskyttet arbeidsflyt og forsøke å styre agenten bort fra brukerens hensikt. Cato sier at funn og tilbakemeldinger fra deltakerne vil bidra til videre evaluering og forbedring.
De tre første kvalifiserte deltakerne som lykkes, vil hver motta 10 000 dollar, ifølge kunngjøringen. Den medfølgende pressemeldingen inneholder ikke den endelige nettadressen til utfordringen eller de detaljerte reglene, så kvalifikasjonskrav og grenser for testingen vil avhenge av vilkårene for programmet når de publiseres.
For virksomheter som gir agenter større selvstendighet, dekker AgentSense et konkret behov: å bevare forbindelsen mellom oppgaven brukeren godkjenner, og handlingene et AI-system faktisk utfører. Teknologiens verdi vil avhenge av hvor konsekvent den kan håndheve denne grensen, samtidig som legitimt arbeid får fortsette.












