Cybersäkerhet
Cato Networks presenterar AgentSense för att stoppa skadliga handlingar från AI-agenter innan de utförs

Viktiga punkterAgentSense riktar sig mot indirekt promptinjektion genom att spåra hur opålitligt…
Visa mer
- AgentSense riktar sig mot indirekt promptinjektion genom att spåra hur opålitligt innehåll styr en agents handlingar.
- Giltiga autentiseringsuppgifter garanterar inte säkert beteende eftersom en agent kan manipuleras till skadliga handlingar.
- Catos utmaning på 10 000 dollar bjuder in forskare att testa om AgentSense motstår fientlig omdirigering av arbetsflöden.
Cato Networks har presenterat AgentSense, en säkerhetsfunktion som verkar under körning och är utformad för att stoppa skadliga handlingar från AI-agenter innan de utförs. Tekniken har utvecklats av Cato AI Labs och spårar hur innehåll från otillförlitliga källor påverkar en agents beteende. Den hanterar en risk som vanliga åtkomstbehörigheter inte helt undanröjer: en agent kan ha giltiga inloggningsuppgifter och ändå manipuleras till att göra fel saker.
Cato uppger att AgentSense är integrerat i företagets plattform och kommer att ingå utan extra kostnad i licenser för Cato AI Usage. I samband med tillkännagivandet utlyses en utmaning i säkerhetstestning med angreppssimulering. De tre första behöriga deltagarna som lyckas styra om ett skyddat arbetsflöde så att det utför skadliga handlingar får 10 000 dollar var.
Giltiga behörigheter kan ändå leda till osäkra handlingar
En företagsagent kan behöva läsa e-post, söka i dokument, besöka webbplatser och anropa verktyg för att slutföra en uppgift. Varje källa utökar den information agenten kan använda, men skapar också en möjlighet för extern text att påverka dess nästa steg.
Indirekt promptinjektion utnyttjar den gränsen. I stället för att ge en instruktion direkt som den behöriga användaren gömmer en angripare den i material som agenten stöter på under arbetet. Ett dokument, ett ärende, en webbsida eller ett verktygssvar kan innehålla text som försöker styra om arbetsflödet, röja information eller utlösa en orelaterad handling.
Det är fortfarande viktigt att kontrollera om en agent har åtkomst till en applikation. Det besvarar en annan fråga än om en viss handling tjänar det uppdrag som användaren har godkänt. En agent kan till exempel ha tillstånd att läsa affärshandlingar utan att ha tillstånd att skicka dem till en mottagare som föreslås i ett hämtat dokument.
AgentSense ska utvärdera sådant beteende medan det pågår, så att det finns möjlighet att ingripa innan en känslig handling genomförs.
Spårning av påverkan från otillförlitliga källor under AI-sessionen
Den aviserade funktionen Untrusted Influence Detection skiljer mellan betrodda instruktioner och innehåll från otillförlitliga källor i en AI-session och spårar hur det senare påverkar beteende och resultat. Cato uppger att funktionen blockerar en handling när den upptäcker att material från en otillförlitlig källa styr agenten mot ett osäkert steg.
Skillnaden är viktig eftersom en attack inte behöver likna en välbekant skadlig prompt. Cato beskriver AgentSense som en lösning som bedömer påverkan i stället för att förlita sig på statiska klassificerare eller en katalog över tidigare observerade attackmönster. Avsikten är att hantera såväl nya som igenkännbara former av indirekt promptinjektion.
I tillkännagivandet beskrivs tekniken som patenterad, men där anges inget patentnummer, ingen detaljerad beskrivning av implementeringen och inget oberoende riktmärke för effektiviteten. Påståendet att lösningen skyddar mot tidigare osedda attacker bör därför förstås som produktens avsedda säkerhetsförmåga, inte som en garanti för att varje försök till promptinjektion stoppas.
Den praktiska frågan är om ett säkerhetslager har tillräcklig information om sessionen och handlingen för att skilja mellan att använda ett dokument som underlag och att behandla det som en auktoritet. AgentSense är direkt inriktat på den skillnaden.
Drift Detection är en separat planerad funktion
Cato beskriver även AgentSense Drift Detection i framåtblickande ordalag. Den planerade funktionen ska utvärdera om en agents handlingar fortsätter att tjäna det ursprungliga uppdraget allt eftersom arbetsflödet fortskrider.
Det kompletterar detektering av påverkan, men hanterar inte exakt samma problem. Untrusted Influence Detection undersöker om externt innehåll styr en handling. Drift Detection ska undersöka om handlingen fortfarande tjänar målet, även om det enskilda steget är tekniskt sett tillåtet.
Ett arbetsflöde kan gradvis samla på sig steg som inte längre för det framåt mot sitt syfte. För att upptäcka en sådan avvikelse måste man hålla det godkända målet i åtanke under hela sessionen, i stället för att bedöma varje verktygsanrop isolerat. I tillkännagivandet anges inget separat datum för när Drift Detection blir tillgängligt.
Så passar AgentSense in i Catos befintliga plattform för AI-säkerhet
Catos säkerhetserbjudande för agentisk AI omfattar redan kontroller för att upptäcka agenter och Model Context Protocol-servrar, profilera verktygsanrop och tillämpa policyer för interaktioner med agenter. Den bredare plattformen samlar nätverks-, åtkomst- och säkerhetskontext.
Företaget skiljer också mellan säkerhet för anställdas användning av AI och skydd av applikationer. Erbjudandet AI-säkerhet för applikationer omfattar insyn under körning, granskning av promptar och svar samt konfigurerbara skydd för driftsatta AI-applikationer. Det ger en bakgrund till AgentSense fokus på att säkerställa att handlingar som utförs under ett arbetsflöde förblir tillförlitliga.
I praktiken innebär styrning av AI-användning flera närliggande beslut: vilka tjänster en organisation tillåter, vilka data som får skickas till dem och vad en agent får göra med den information den stöter på. AgentSense tillför ett beteendeinriktat säkerhetspåstående till den helheten: att identifiera när innehåll från otillförlitliga källor driver själva handlingen.
Forskning om promptinjektion visar varför gränsen är viktig
Catos forskning om EchoLeak beskriver en attackkedja där externt tillhandahållet innehåll kunde få Microsoft 365 Copilot att röja information från sin kontext. Betydelsen för agentsäkerheten ligger i övergången från att läsa externt material till att agera på instruktioner som bäddats in i det.
Dess forskning om CurXecute undersökte ett annat utfall: promptinjektion via externt innehåll kunde leda till att en kodningsagent ändrade en MCP-konfiguration och utlöste kommandokörning. Catos redogörelse säger att Cursor åtgärdade sårbarheten i version 1.3. Exemplet illustrerar ett felaktigt funktionssätt; det ska inte tolkas som ett påstående om att den åtgärdade sårbarheten fortfarande finns kvar.
Båda fallen visar varför innehållets ursprung spelar roll när en assistent kan komma åt känsliga data eller verktyg för att köra kod. En interaktion som börjar med informationssökning kan bli en säkerhetsincident när hämtad text ändrar arbetsflödets styrlogik.
En offentlig utmaning för att testa skyddet
AgentSense Challenge bjuder in säkerhetsbranschen att placera instruktioner i ett skyddat arbetsflöde och försöka styra agenten bort från användarens avsikt. Cato uppger att resultaten och deltagarnas synpunkter ska ligga till grund för fortsatt utvärdering och förbättring.
Enligt tillkännagivandet får de tre första behöriga deltagarna som lyckas vardera 10 000 dollar. Det tillhandahållna pressmeddelandet innehåller inte den slutliga webbadressen till utmaningen eller de detaljerade reglerna, så behörighetskraven och ramarna för testningen kommer att bero på de publicerade programvillkoren.
För företag som utökar agenternas självständighet svarar AgentSense mot ett konkret behov: att bevara kopplingen mellan uppgiften som en användare godkänner och de åtgärder som ett AI-system till slut utför. Teknikens värde kommer att bero på hur konsekvent den kan upprätthålla den gränsen och samtidigt låta legitimt arbete fortsätta.












