Når AI bliver rogue: Afværge indre trusler i alderen af autonome agenter

 Den omfattende stigning i AI-agenter skaber nye udfordringer for sikkerheds- og IT-hold. På kanten af denne skift mod mere agent-automatiserede arbejdsgange for business-continuitet-opgaver, fandt seneste tests ud af, at AI-agenter kan udvise usikre eller bedrageriske adfærd under visse betingelser, og skabe en ny indre trussel for virksomheder på tværs af brancher.

Der er en kritisk behov for, at organisationer ordentligt overvåger AI-agenter, der har adgang til følsomme data og handler uden menneskelig tilsyn, og dette kan introducere nye klasser af risici, der er hurtigere, mindre forudsigelige og sværere at tilskrive. Realiteten af disse risici er todelt. På den ene side skal sikkerhedshold være forberedt på dårlige aktører, der udnytter AI-agenter til at styrke sociale ingeniørangreb, der rammer deres medarbejdere. På den anden side skal de være forberedt på virksomheds-godkendte interne AI-agenter, der kan udvise adfærd, der skaber en helt ny sæt af sikkerhedsrisici og sårbarheder.

Hvordan interne AI-agenter kan føre til indre trusler

AI-agenter udgør to nøgleinterne sikkerhedsrisici inden for virksomhedsnetværk. Først opererer de autonomt uden de etiske grænser eller indbyggede ansvar, som menneskelige medarbejdere følger naturligt. Arbejdende på basis af antagede mål og ikke eksplisitte instruktioner, kan deres effektivitet og ihærdighed føre til, at de kan overskride grænser og handle uden godkendelse. Uden nødvendige kontroller og balancer på plads, kan eksponeringer let blive skabt og overset.

Disse agenter kan også have adgang til store mængder data, men mangler evnen til at differentiere mellem privilegeret og rutineinformation. Derfor kan selv simple opgaver som analyse af datasæt kunne føre til, at data bliver lækket eller eksponeret for eksterne parter. Denne udfordring bliver endnu mere kompleks, når AI skaleres på tværs af forskellige systemer og arbejdsgange med forskellige dataregler og protokoller. Agenter, der opererer på tværs af regioner, kan ofte krænke lokal-specifikke datahandteringsregler på grund af inkonsistent politikgennemførelse, og dermed bygge sikkerhedsrisici op. Realiteten er, at kun 30% af amerikanske virksomheder aktivt kortlægger, hvilke AI-agenter der har adgang til kritiske systemer, og skaber dermed en stor sikkerhedsblindhed.

Hvordan eksterne AI-agenter kan føre til indre trusler

En af de mest almindelige måder, hvorpå hackere kommer ind, er gennem phishing- og sociale ingeniørangreb. Dårlige aktører og cybergange bruger AI-agenter til at forbedre disse angreb og udføre sofistikerede deepfake- og impersonations-episoder. AI-agenter kan bruges til at skabe phishing- og sociale ingeniørangreb, der synes mere realistiske og troværdige for et uuddannet øje. 60% af datakrænkelser i 2024 involverede et menneskeligt element, og næsten en fjerdedel af disse stammede fra sociale ingeniørangreb. Dette tal vil kun stige, da brugen af AI-agenter vil fortsætte med at styrke disse metoder til indtrængen.

AI-agenter kan trænes til at gennemgå store mængder sociale medier og personlige data på tværs af platforme og kanaler for at sende målrettede, personlige kommunikationer. Beskeder, der efterligner tone og stemme fra afsenderen, er mere sandsynlige for at være succesfulde og sværere at skelne fra rigtige medier. AI-agenter kan lære at tilpasse deres kampagner for at forbedre effekten, og ændre retning, hvis et angreb ikke virker, eller efterligne et angreb, der gjorde.

Når det kommer til deepfakes, kan AI-agenter generere disse efterligninger i overvældende hastighed, hvilket fører til massemanipulation. Dårlige aktører bruger også AI-agenter til at kommunikere med realtidsvideoopkald med lille til ingen forsinkelse og forbedre troværdigheden. De kan reagere på et måls reaktion i realtid og ændre deres tilgang, hvis nødvendigt. Disse forbedrede angreb kan øge risikoen for indre trusler fra uvidende medarbejdere, der kan blive narret til at eksponere følsomme data, godkende transaktioner eller dele legitimationsoplysninger med trusler.

Sikkerhedsholdets rolle i at imødegå agente AI-udfordringer

Sikkerhedshold skal tage specifikke handlinger for at begrænse de blinde pletter, der skabes af AI-agenter. IT-afdelinger skal først og fremmest begrænse AI-agenter adgang til følsomme data gennem datastyring og realtids-overvågningskontroller. Skridt til at opnå dette inkluderer klassificering af AI-agenter-identiteter i IAM-systemer og overvågning af deres aktivitet med samme rigor som privilegerede konti. Overvågningsdelen går videre med at overvåge netværksaktivitet for allerede implementerede adfærdsbaseliner, der er tildelt AI-agenter. Med overvågning kan IT-hold overvåge privilegeret adgangsbevægelse og anomalier, ikke kun for at støtte forebyggende indsats, men også for at accelerere indhegnings- og genoprettelsesindsats i tilfælde af en rogue-agent.

Derudover kan organisationer, ved at identificere nye mønstre og taktikker, der bruges i AI-agents-angreb, opdatere deres forsvarstrategier og træne deres sikkerhedssystemer til at genkende og afværge lignende trusler i fremtiden.

At holde sig foran indre trusler, der introduceres af AI-agenter

Realiteten er, at AI-agenter introducerer en ny indre risiko på grund af deres autonomi og øgede adgang til følsomme systemer. Desuden vil trusler fortsætte med at bruge AI-agenter til at udnytte menneskelige sårbarheder mere effektivt gennem deepfakes, phishing og sociale ingeniørangreb.

Som denne teknologi udvikler sig, skal virksomheder forbedre deres indsigt i AI-agenter adgang og adfærd, før de indfører dem i deres arbejdsgange. Dette inkluderer at investere i proaktive, 360-graders, realtids-overvågning sammen med en AI-agents-arbejdsstyrke. Mens AI-agenter kan løse kritiske forretningsbottlenecks og udfordringer, kræver de en proaktiv tilgang for at begrænse fremtidige indre trusler.