När AI blir rogue: Minskning av insiderhot i åldern av autonoma agenter

 Den omfattande ökningen av AI-agenter skapar nya utmaningar för säkerhets- och IT-team. I samband med denna förändring mot mer agent-automatiserade arbetsflöden för affärskontinuitet, fann nylig testning att AI-agenter kan uppvisa osäkra eller bedrägliga beteenden under vissa förhållanden, vilket skapar ett nytt insiderhot för företag över hela branscherna.

Det finns ett kritiskt behov för organisationer att ordentligt övervaka AI-agenter som har tillgång till känslig data och agerar utan mänsklig tillsyn, vilket potentiellt introducerar nya klasser av risker som är snabbare, mindre förutsägbara och svårare att attribuera. Verkligheten av dessa risker är tvåfaldig. Å ena sidan måste säkerhetsteam vara beredda på illvilliga aktörer som använder AI-agenter för att stärka sociala ingenjörshattacker som riktar sig mot deras anställda. Å andra sidan måste de vara beredda på företags sanktionerade interna AI-agenter som kan uppvisa beteende som skapar en helt ny uppsättning säkerhetsrisker och sårbarheter.

Hur interna AI-agenter kan leda till insiderhot

AI-agenter utgör två viktiga interna säkerhetsrisker inom företagsnätverk. Först fungerar de autonomt utan de etiska gränserna eller den inbyggda ansvar som mänskliga arbetare följer. Genom att arbeta baserat på antagna mål och inte explicita instruktioner, kan deras effektivitet och uthållighet driva gränser och möjliggöra för dem att agera utan godkännande. Utan nödvändiga kontroller och balanser på plats, kan exponeringar lätt skapas och förbises.

Dessa agenter kan också ha tillgång till stora mängder data men sakna förmågan att skilja mellan privilegerad och rutinmässig information. Därför kan till och med enkla uppgifter som att analysera datamängder orsaka att data läcks eller exponeras för externa parter. Denna utmaning blir ännu mer komplex när AI skalas över olika system och arbetsflöden med olika dataregler och protokoll. Agenter som fungerar över regioner kan ofta bryta mot plats-specifika datahanteringsregler på grund av inkonsekvent policytillämpning, vilket bygger säkerhetsrisker. Verkligheten är att endast 30% av amerikanska företag aktivt kartlägger vilka AI-agenter som har tillgång till kritiska system, vilket skapar en stor säkerhetsblind fläck.

Hur externa AI-agenter kan leda till insiderhot

En av de vanligaste metoderna för hackare att komma in är genom phishing- och sociala ingenjörshattacker. Illvilliga aktörer och cybergrupper använder AI-agenter för att förbättra dessa attacker och genomföra sofistikerade deepfake- och imitationincidenter. AI-agenter kan användas för att skapa phishing- och sociala ingenjörshattacker som verkar mer verkliga och trovärdiga för en outbildad öga. 60% av dataintrång 2024 involverade en mänsklig faktor, och nästan en fjärdedel av dessa kom från sociala ingenjörshattacker. Detta antal kommer bara att öka när användningen av AI-agenter kommer att fortsätta att stärka dessa metoder för att komma in.

AI-agenter kan tränas för att gå igenom stora mängder sociala medier och personliga data över plattformar och kanaler för att skicka riktade, personliga meddelanden. Meddelanden som imiterar avsändarens ton och röst är mer sannolika att lyckas och svårare att skilja från riktiga medier. AI-agenter kan lära sig att anpassa sina kampanjer för att förbättra effektiviteten, vända när en attack inte fungerar eller imitera en attack som lyckades.

När det gäller deepfakes kan AI-agenter generera dessa imitationer i enastående hastighet, vilket leder till massmanipulation. Illvilliga aktörer använder också AI-agenter för att kommunicera med realtidsvideoanrop med liten eller ingen fördröjning och förbättra trovärdigheten. De kan reagera på en målpersons reaktion i realtid och ändra sin tillvägagångssätt om nödvändigt. Dessa förbättrade attacker kan öka risken för insiderhot från omedvetna anställda som kan luras att exponera känslig data, auktorisera transaktioner eller dela autentiseringsuppgifter med hotaktörer.

Säkerhetsteamens roll i att hantera agenterelaterade AI-utmaningar

Säkerhetsteam måste vidta specifika åtgärder för att begränsa de blindfläckar som skapas av AI-agenter. IT-avdelningar bör i första hand begränsa AI-agenter tillgång till känslig data genom datagovernance och realtidsövervakningskontroller. Steg för att uppnå detta inkluderar att klassificera AI-agentidentiteter i IAM-system och övervaka deras aktivitet med samma rigor som privilegerade konton. Övervakningsdelen går längre genom att övervaka nätverksaktivitet för redan implementerade beteendebaslinjer tilldelade AI-agenter. Med övervakning kan IT-team övervaka privilegerad åtkomst och avvikelser, inte bara för att stödja förebyggande insatser, utan också för att påskynda inneslutning och återhämtningsinsatser i händelse av en rogueagent.

Utöver detta kan organisationer, genom att identifiera nya mönster och taktiker som används i AI-agentattacker, uppdatera sina försvarstrategier och utbilda sina säkerhetssystem för att känna igen och avvärja liknande hot i framtiden.

Att ligga före insiderhot introducerade av AI-agenter

Verkligheten är att AI-agenter introducerar en ny insiderrisk på grund av deras autonomi och ökande tillgång till känsliga system. Dessutom kommer hotaktörer att fortsätta att använda AI-agenter för att mer effektivt utnyttja mänskliga sårbarheter genom deepfakes, phishing och sociala ingenjörshattacker.

Såsom denna teknik utvecklas, måste företag förbättra sin insyn i AI-agenter tillgång och beteende innan de antas i sina arbetsflöden. Detta inkluderar att investera i proaktiva, 360-graders, realtidsövervakningar tillsammans med en AI-agentarbetsstyrka. Medan AI-agenter kan lösa kritiska affärsbottleneck och utmaningar, kräver de en proaktiv approach för att begränsa framtida insiderhot.