Hoe Netwerkbeveiligingsuitdagingen Gerelateerd aan Agentic AI Aan te Pakken

Agentic artificial intelligence (AI) vertegenwoordigt de volgende frontier van AI, met de belofte om verder te gaan dan de capaciteiten van generatieve AI (GenAI). In tegenstelling tot de meeste GenAI-systemen, die afhankelijk zijn van menselijke prompts of toezicht, is agentic AI proactief omdat het geen gebruikersinvoer nodig heeft om complexe, multi-stap problemen op te lossen. Door het gebruik van een digitale ecosysteem van grote taalmodellen (LLM), machine learning (ML) en natuurlijke taalverwerking (NLP), voeren agentic AI-taken autonoom uit namens een mens of systeem, waardoor de productiviteit en operaties aanzienlijk worden verbeterd.

Terwijl agentic AI nog in de kinderschoenen staat, hebben deskundigen enkele baanbrekende use cases benadrukt. Overweeg een klantenservice-omgeving voor een bank waar een AI-agent meer doet dan alleen vragen van een gebruiker beantwoorden. In plaats daarvan zal de agent daadwerkelijk transacties of taken uitvoeren, zoals het overmaken van fondsen wanneer door de gebruiker aangevraagd. Een ander voorbeeld kan zijn in een financiële omgeving waar agentic AI-systemen human analysts ondersteunen door grote hoeveelheden gegevens autonoom en snel te analyseren om audit-klaar rapporten te genereren voor gegevensgestuurd beslissen.

De ongekende mogelijkheden van agentic AI zijn onmiskenbaar. Echter, zoals bij elke nieuwe technologie, zijn er vaak beveiligings-, governance- en compliance-problemen. De unieke aard van deze AI-agents stelt verschillende beveiligings- en governance-uitdagingen voor organisaties. Bedrijven moeten deze uitdagingen aanpakken om niet alleen de voordelen van agentic AI te plukken, maar ook om netwerkbeveiliging en efficiëntie te waarborgen.

Welke Netwerkbeveiligingsuitdagingen Creëert Agentic AI voor Organisaties?

AI-agents hebben vier basisoperaties. De eerste is perceptie en gegevensverzameling. Deze honderden, duizenden en misschien wel miljoenen agents verzamelen en verzamelen gegevens vanuit meerdere locaties, of het nu de cloud, on-premises, de edge, etc. is, en deze gegevens kunnen fysiek van overal vandaan komen, in plaats van één specifieke geografische locatie. De tweede stap is besluitvorming. Zodra deze agents gegevens hebben verzameld, gebruiken ze AI- en ML-modellen om beslissingen te nemen. De derde stap is actie en uitvoering. Deze agents handelen overeenkomstig om de beslissing uit te voeren. De laatste stap is leren, waarbij deze agents de gegevens die eerder en later zijn verzameld, gebruiken om aan te passen en te leren.

In dit proces vereist agentic AI toegang tot enorme datasets om effectief te functioneren. Agents integreren meestal met gegevenssystemen die gevoelige informatie verwerken of opslaan, zoals financiële records, gezondheidsdatabases en andere persoonlijk identificeerbare informatie (PII). Helaas compliceert agentic AI de inspanningen om netwerkinfrastructuur te beveiligen tegen kwetsbaarheden, met name bij cross-cloud-connectiviteit. Het presenteert ook egress-beveiligingsuitdagingen, waardoor het moeilijk is voor bedrijven om zich te beschermen tegen exfiltratie, evenals commando- en controlemiddelen. Als een AI-agent wordt gecompromitteerd, kunnen gevoelige gegevens gemakkelijk worden gelekt of gestolen. Bovendien kunnen agents worden overgenomen door kwaadwillige actoren en worden gebruikt om desinformatie op grote schaal te genereren en te verspreiden. Wanneer er inbraken plaatsvinden, zijn er niet alleen financiële boetes, maar ook reputatiegevolgen.

Sleutelcapaciteiten zoals observatie en traceerbaarheid kunnen worden gefrustreerd door agentic AI, omdat het moeilijk is om te volgen welke datasets AI-agents toegang hebben, waardoor het risico van gegevensblootstelling of ongeoorloofde toegang toeneemt. Bovendien kan de dynamische leer- en aanpassingsvermogen van agentic AI traditionele beveiligingsaudits belemmeren, die afhankelijk zijn van gestructureerde logbestanden om gegevensstroom te volgen. Agentic AI is ook efemere, dynamische en continue uitvoering, waardoor een 24/7 behoefte aan optimale zichtbaarheid en beveiliging ontstaat. Schaal is een andere uitdaging. Het aanvalsoppervlak is exponentieel gegroeid, waardoor het verder gaat dan het on-premises datacenter en de cloud om de edge te omvatten. In feite kan agentic AI, afhankelijk van de organisatie, duizenden tot miljoenen nieuwe eindpunten toevoegen aan de edge. Deze agents opereren op verschillende locaties, of het nu verschillende clouds, on-premises, de edge, etc. is, waardoor het netwerk kwetsbaarder wordt voor aanvallen.

Een Uitgebreide Aanpak voor het Aanpakken van Agentic AI-beveiligingsuitdagingen

Organisaties kunnen de beveiligingsuitdagingen van agentic AI aanpakken door beveiligingsoplossingen en best practices toe te passen bij elk van de vier basisoperaties:

1. Perceptie en Gegevensverzameling: Bedrijven hebben een hoge bandbreedte netwerkconnectiviteit nodig die eind-tot-eind is versleuteld om hun agents in staat te stellen de enorme hoeveelheid gegevens te verzamelen die nodig zijn om te functioneren. Herinner dat deze gegevens gevoelig of waardevol kunnen zijn, afhankelijk van het gebruik. Bedrijven moeten een hoge-snelheidsversleutelde connectiviteitsoplossing implementeren om tussen al deze gegevensbronnen te draaien en gevoelige en PII-gegevens te beschermen.
2. Besluitvorming: Bedrijven moeten ervoor zorgen dat hun AI-agents toegang hebben tot de juiste modellen en AI- en ML-infrastructuur om de juiste beslissingen te nemen. Door een cloud-firewall te implementeren, kunnen bedrijven de connectiviteit en beveiliging verkrijgen die hun AI-agents nodig hebben om toegang te krijgen tot de juiste modellen op een auditable manier.
3. Actie-uitvoering: AI-agents nemen actie op basis van de beslissing. Echter, bedrijven moeten identificeren welke agent van de honderden of duizenden agents die beslissing heeft genomen. Ze moeten ook weten hoe hun agents met elkaar communiceren om conflicten of “robots die tegen robots vechten” te voorkomen. Daarom hebben organisaties observatie en traceerbaarheid van deze acties nodig die door hun AI-agents worden uitgevoerd. Observatie is de mogelijkheid om interne staten en gedrag van AI-agents in real-time te volgen, te monitoren en te begrijpen. Traceerbaarheid is de mogelijkheid om gegevens, beslissingen en acties die door een AI-agent zijn genomen, te volgen en te documenteren.
4. Leren en Aanpassen: Bedrijven geven miljoenen, zo niet honderden miljoenen of meer, uit om hun algoritmes af te stemmen, waardoor de waarde en precisie van deze agents toenemen. Als een kwaadwillige actor deze modellen in handen krijgt en deze exfiltreert, kunnen al deze middelen in enkele minuten in hun handen zijn. Bedrijven kunnen hun investeringen beschermen door middel van egress-beveiligingsfuncties die exfiltratie en commando- en controlemiddelen beschermen.

Agentic AI op een Beveiligde en Verantwoorde Manier Uitbaten

Agentic AI heeft een opmerkelijk potentieel, waardoor bedrijven nieuwe hoogtes van productiviteit en efficiëntie kunnen bereiken. Echter, zoals bij elke opkomende technologie in de AI-ruimte, moeten organisaties voorzorgsmaatregelen nemen om hun netwerken en gevoelige gegevens te beschermen. Beveiliging is vooral cruciaal vandaag de dag, gezien de hoge mate van geavanceerde en goed georganiseerde kwaadwillige actoren die door nationale staten worden gefinancierd, zoals Salt Typhoon en Silk Typhoon, die grote aanvallen blijven uitvoeren.

Organisaties moeten samenwerken met cloud-beveiligingsexperts om een robuuste, schaalbare en toekomstbestendige beveiligingsstrategie te ontwikkelen die de unieke uitdagingen van agentic AI aankan. Deze partners kunnen bedrijven in staat stellen om hun AI-agents te volgen, te beheren en te beveiligen; bovendien helpen ze bedrijven om de bewustzijn te verkrijgen die nodig is om te voldoen aan de normen met betrekking tot compliance en governance.