Hvordan håndtere nettverkssikkerhetsutfordringene relatert til Agentic AI

Agentic kunstig intelligens (AI) representerer den neste fronten av AI, og lover å gå utenfor selv de evnene til generativ AI (GenAI). I motsetning til de fleste GenAI-systemer, som avhenger av menneskelige instrukser eller tilsyn, er agentic AI proaktiv fordi den ikke krever brukerinput for å løse komplekse, flertrinnsproblemer. Ved å utnytte et digitalt økosystem av store språkmodeller (LLM), maskinlæring (ML) og naturlig språkbehandling (NLP), utfører agentic AI oppgaver autonomt på vegne av et menneske eller system, og forbedrer produktiviteten og driftene betydelig.

Mens agentic AI fortsatt er i sine tidlige faser, har eksperter fremhevet noen banebrytende bruksområder. Overveur en kundeservice-miljø for en bank hvor en AI-agent gjør mer enn bare å svare på en brukers spørsmål når de spørres. I stedet vil agenten faktisk fullføre transaksjoner eller oppgaver som å flytte midler når det blir bedt om det av brukeren. Et annet eksempel kan være i en finansiell setting hvor agentic AI-systemer hjelper menneskelige analytikere med å autonomt og raskt analysere store mengder data for å generere rapporter som er klare for revisjon for beslutningsstaking basert på data.

De fantastiske mulighetene med agentic AI er ubestridelige. Men, som med alle nye teknologier, finnes det ofte sikkerhets-, styrings- og overholdelsesproblemer. Den unike naturen til disse AI-agentene presenterer flere sikkerhets- og styringsutfordringer for organisasjoner. Bedrifter må håndtere disse utfordringene for ikke bare å høste fordelen av agentic AI, men også sikre nettverkssikkerhet og effisiens.

Hvilke nettverkssikkerhetsutfordringer skaper Agentic AI for organisasjoner?

AI-agenter har fire grunnleggende operasjoner. Den første er persepsjon og datainnsamling. Disse hundre, tusen og kanskje millioner agentene samler og innhenter data fra flere steder, enten skyen, på stedet, kanten osv., og denne dataen kan fysisk være fra hvor som helst, i stedet for ett bestemt geografisk sted. Den andre fasen er beslutningstaking. Når disse agentene har samlet inn data, bruker de AI- og ML-modeller til å fatte beslutninger. Den tredje fasen er handling og gjennomføring. Etter å ha fattet en beslutning, handler disse agentene i henhold til å utføre den beslutningen. Den siste fasen er læring, hvor disse agentene bruker dataen som ble samlet inn før og etter deres beslutning til å justere og tilpasse seg i henhold til.

I denne prosessen, krever agentic AI tilgang til enorme datamengder for å fungere effektivt. Agentene vil vanligvis integrere med datasystemer som håndterer eller lagrer følsom informasjon, som finansielle poster, helseregistre og andre personlige identifiseringsopplysninger (PII). Dessverre, kompliserer agentic AI forsøkene på å sikre nettverksinfrastrukturen mot sårbarheter, spesielt med tverrsky-forbindelser. Det presenterer også utfordringer med tanke på eksfiltrering, og gjør det vanskelig for bedrifter å beskytte seg mot eksfiltrering og kommando- og kontrollbrudd. Hvis en AI-agent blir kompromittert, kan følsom data lett bli lekket eller stjålet. Liksom kan agentene bli kapret av skurkeaktører og brukt til å generere og distribuere desinformasjon i stor skala. Når det skjer brudd, er det ikke bare økonomiske straffer, men også konsekvenser for omdømmet.

Nøkkelkapasiteter som overvåkbarhet og sporing kan bli frustrert av agentic AI, da det er vanskelig å spore hvilke datamengder AI-agentene har tilgang til, øker risikoen for at data blir eksponert eller tilgangen til uautoriserte brukere. Liksom kan agentic AI sin dynamiske læring og tilpasning hindre tradisjonelle sikkerhetsauditorer, som avhenger av strukturerte logger for å spore dataflyt. Agentic AI er også efemær, dynamisk og kontinuerlig kjørende, og skaper et 24/7 behov for å opprettholde optimal synlighet og sikkerhet. Skala er en annen utfordring. Angrepsflaten har økt eksponentielt, og omfatter ikke bare det lokale datasenteret og skyen, men også kanten. I virkeligheten kan agentic AI legge til tusenvis til millioner av nye endepunkter på kanten, avhengig av organisasjonen. Disse agentene opererer i flere lokasjoner, enten forskjellige skyer, på stedet, kanten osv., og gjør nettverket mer sårbart for angrep.

En komprehensiv tilnærming til å håndtere Agentic AI-sikkerhetsutfordringer

Organisasjoner kan håndtere sikkerhetsutfordringene med agentic AI ved å bruke sikkerhetsløsninger og beste praksis på hver av de fire grunnleggende operasjonene:

1. Persepsjon og datainnsamling: Bedrifter trenger høyhastighets nettverksforbindelse som er end-to-end kryptert for å kunne samle inn den enorme mengden data som kreves for å fungere. Husk at denne dataen kan være følsom eller svært verdifull, avhengig av bruksområdet. Selskaper bør deployere en høyhastighets kryptert forbindelsesløsning for å kjøre mellom alle disse datakildene og beskytte følsom og PII-data.
2. Beslutningstaking: Selskaper må sikre at deres AI-agenter har tilgang til de riktige modellene og AI- og ML-infrastrukturen for å fatte riktige beslutninger. Ved å implementere en sky-beskyttelse, kan bedrifter få den tilkoblingen og sikkerheten deres AI-agenter trenger for å få tilgang til de riktige modellene på en måte som kan auditeres.
3. Handling og gjennomføring: AI-agenter handler basert på beslutningen. Men bedrifter må identifisere hvilken agent av de hundre eller tusen agentene som fattet den beslutningen. De må også vite hvordan deres agenter kommuniserer med hverandre for å unngå konflikt eller “roboter som slåss mot hverandre”. Derfor trenger organisasjonene overvåkbarhet og sporing av handlingene som utføres av deres AI-agenter. Overvåkbarhet er evnen til å spore, overvåke og forstå interne tilstander og atferd av AI-agenter i sanntid. Sporing er evnen til å spore og dokumentere data, beslutninger og handlinger som er gjort av en AI-agent.
4. Læring og tilpasning: Selskaper bruker millioner, hvis ikke hundre millioner eller mer, på å finjustere deres algoritmer, som øker verdien og nøyaktigheten av disse agentene. Hvis en skurkeaktør får tak i den modellen og eksfiltrerer den, kan alle disse ressursene være i deres hender på minutter. Bedrifter kan beskytte sine investeringer gjennom eksfiltreringssikkerhetsfunksjoner som beskytter mot eksfiltrering og kommando- og kontrollbrudd.

Å utnytte Agentic AI på en sikker og ansvarlig måte

Agentic AI har en bemerkelsesverdig potensial, og gir bedrifter mulighet til å nå nye høyder av produktivitet og effisiens. Men, som med alle nye teknologier i AI-rommet, må organisasjoner være forsiktige for å beskytte sine nettverk og følsomme data. Sikkerhet er spesielt viktig i dag, når man tar hensyn til svært sofistikerte og godt organiserte skurkeaktører som er finansiert av nasjoner, som Salt Typhoon og Silk Typhoon, som fortsatt utfører store angrep.

Organisasjoner bør samarbeide med sky-sikkerhetsekspertene for å utvikle en robust, skalerbar og fremtidssikker sikkerhetsstrategi som kan håndtere de unike utfordringene med agentic AI. Disse partnerne kan enable bedrifter til å spore, håndtere og sikre sine AI-agenter; i tillegg hjelper de bedrifter med å få den bevisstheten de trenger for å oppfylle standardene relatert til overholdelse og styring.