Thought leaders

AI kan beveiliging opschalen. Maar wat schaal je dan?

Eyal Fisher
Voeg Unite.AI toe aan je voorkeursbronnen op Google
Belangrijkste puntenHet verwerken van meer gegevens verbetert de dreigingsdetectie niet automatisch zonder…
Meer weergeven
  • Het verwerken van meer gegevens verbetert de dreigingsdetectie niet automatisch zonder organisatorische context.
  • Fijn afgestemde modellen kunnen grootschalige onderzoeken ondersteunen tegen voorspelbaardere kosten dan frontier-modellen.
  • Autonomie moet in verhouding staan tot het risico, met governance die is ontworpen voordat agents worden opgeschaald.

Beveiligingsteams van grote ondernemingen krijgen tegenwoordig te maken met meer activiteit, telemetrie en waarschuwingen dan ze redelijkerwijs handmatig kunnen onderzoeken. De schattingen lopen uiteen, maar volgens sommige onderzoeken ontvangt een gemiddeld security operations-team dagelijks meer dan 4.400 waarschuwingen. Naarmate organisaties groeien en meer tools inzetten, en AI meer aanvallen mogelijk maakt, zal dat aantal ongetwijfeld toenemen. We zien nu al voorbeelden van ondernemingen met twee miljoen eindpunten in hun omgeving. Beveiligingsteams die deze waarschuwingen handmatig onderzoeken, hebben geen eerlijke kans tegenover aanvallers die steeds autonomer met agents opereren.

Voor verdedigers kunnen AI-agents de situatie veranderen door onderzoeken en andere repetitieve taken in de hele omgeving op zich te nemen. Maar meer gegevens kunnen verwerken leidt niet automatisch tot betere detectie of bestrijding van dreigingen. Er is niet alleen schaal nodig, maar ook context.

Waarom context belangrijk is bij het beoordelen van schaal

Een agent die miljoenen eindpunten onderzoekt, moet begrijpen waarnaar hij op zoek is, welk gedrag in die specifieke omgeving ongebruikelijk is en welke bevindingen nader onderzoek rechtvaardigen. Zonder die context bestaat het risico dat automatisering de hoeveelheid ruis opschaalt en irrelevante of misleidende conclusies oplevert.

Het is ook belangrijk om te beseffen dat niet elke organisatie voor elke waarschuwing kan vertrouwen op onderzoeken met de meest geavanceerde modellen: dat wordt veel te duur.

Beveiligingsomgevingen verschillen wat betreft hun infrastructuur, toepassingen, operationele vereisten, wettelijke verplichtingen en risicotolerantie. Verdedigers moeten toepassingen draaiende houden, aan compliancevereisten voldoen en operationele verstoringen voorkomen.

Om effectief te zijn, moeten agents kennis van de organisatie benutten, waaronder eerdere onderzoeken, vastgestelde procedures en het beoordelingsvermogen van ervaren analisten. Veel van die kennis kun je niet zomaar in een spreadsheet of een ander formaat aan een agent voeren; die moet worden opgedaan door ervaren beveiligingsspecialisten aan het werk te observeren en van hen te leren.

De grote vraag voor ondernemingen is hoe ze die institutionele kennis kunnen omzetten in systemen die op machinesnelheid consistente, contextueel passende beslissingen nemen.

Zo zet u kennis binnen de organisatie om in de praktijk

Organisaties hebben mechanismen nodig om de kennis vast te leggen die richting geeft aan onderzoeken en die toe te passen. Het gaat onder meer om eerdere beslissingen in zaken, vastgestelde procedures en de manier waarop analisten bewijsmateriaal interpreteren. Ondernemingen hebben mogelijk ook ‘eigen’ processen, hulpmiddelen en impliciete kennis die binnen teams is opgebouwd, en die eveneens moeten worden vastgelegd.

Specialisatie van modellen is een mogelijke aanpak. Door modellen verder te trainen voor afzonderlijke zakelijke klanten kunnen grootschalige onderzoeken tegen voorspelbaardere kosten worden ondersteund, terwijl de prestaties hoog blijven. Verder getrainde opensourcemodellen kunnen bijzonder nuttig zijn voor taken waarbij zeer grote aantallen eindpunten betrokken zijn.

Organisaties moeten ook de prestaties van agents beoordelen wanneer modellen, werkstromen en bedrijfsomgevingen veranderen. Synthetische omgevingen, oftewel digitale tweelingen, kunnen representatieve testomgevingen bieden om verschillende versies van agents te testen wanneer productiegegevens niet langer beschikbaar of verouderd zijn.

Modellen verder trainen is niet de enige manier om context te bieden. Informatie opvragen, geheugen, orkestratie van werkstromen en expliciete beleidscontroles zijn alternatieve benaderingen. De belangrijkste vereiste is dat de gekozen methode de prestaties van een agent verbetert in de omgeving waarin die actief zal zijn.

Autonomie op grote schaal vereist duidelijke grenzen, toezicht en coördinatie

Een dreiging correct identificeren is slechts een deel van de uitdaging. Agents moeten begrijpen welke acties ze mogen uitvoeren, wanneer menselijke goedkeuring nodig is en hoe ze verstoring van legitieme bedrijfsactiviteiten kunnen voorkomen. Om agents op een betrouwbare manier in te zetten, is het essentieel te bepalen waar ze zelfstandig kunnen handelen en waar menselijke besluitvorming nodig is.

Autonomie op grote schaal vereist ook schaalvoordelen. Bedrijven die voor miljoenen onderzoeken de meest geavanceerde modellen gebruiken, zullen zichzelf failliet maken. Daarom is het cruciaal om de meest efficiënte manier te vinden om onderzoeken uit te voeren met een AI-model, of dat nu een klein taalmodel (SLM) of een bedrijfseigen model is.

De mate van autonomie moet in verhouding staan tot het risico. Routinematige, goed begrepen taken kunnen geschikt zijn voor autonome uitvoering, terwijl ingrijpende of verstorende acties mogelijk menselijke goedkeuring of aanvullende toestemming vereisen. Beveiliging binnen ondernemingen is ook afhankelijk van coördinatie tussen teams. Als een onderzoek een dreiging aan het licht brengt waarvoor een wijziging in de firewallconfiguratie nodig is, moet de zaak naadloos worden overgedragen aan het team dat verantwoordelijk is voor dat systeem, met passende bevoegdheden en duidelijke verantwoordelijkheid voor het verhelpen van het probleem.

Governance en het ontwerp van werkstromen zijn daarom essentiële onderdelen van de inzet van agents, geen controles die pas kunnen worden toegevoegd nadat de technologie is opgeschaald.

De kwaliteit van resultaten wordt de volgende maatstaf voor het succes van AI in de beveiliging

Organisaties moeten agents beoordelen aan de hand van resultaatgerichte maatstaven, waaronder de nauwkeurigheid van onderzoeken, het percentage fout-positieve en fout-negatieve resultaten, de tijd die nodig is om onderzoek te doen en maatregelen te treffen, de kosten per onderzoek, de kwaliteit van escalaties en de naleving van autorisatiebeleid.

Voortdurende evaluatie is essentieel wanneer modellen en workflows veranderen. Door verschillende agentversies te testen aan de hand van representatieve gevallen en synthetische omgevingen te gebruiken, kunnen organisaties regressies opsporen voordat ze updates in productie nemen.

Beveiligingsverantwoordelijken moeten de voordelen van automatisering afwegen tegen de operationele risico’s van implementatie. De beschikbaarheid van applicaties, complianceverplichtingen, de risicotolerantie van de organisatie en de implementatietermijnen bepalen allemaal hoe snel nieuwe mogelijkheden kunnen worden ingevoerd.

AI biedt beveiligingsteams de kans om een al lang bestaand capaciteitsprobleem aan te pakken, maar schaalvergroting op zich is niet het einddoel. De echte kans schuilt in het combineren van machinesnelheid met organisatorische context, passende bevoegdheden en menselijk oordeel, zodat agents kunnen onderscheiden wat ertoe doet, de juiste acties kunnen ondernemen en zo nodig de juiste mensen kunnen betrekken.

Eyal Fisher is medeoprichter en CTO van Legion Security, waar hij leiding geeft aan de technische visie achter het platform van het bedrijf voor beveiligingsoperaties met AI-agenten. Eyal is een vooraanstaand denker op het gebied van AI en ondernemer. Eerder was hij medeoprichter van het generatieve-AI-bedrijf ART AI en een startup voor cloudbeveiliging. Ook heeft hij onderzoekservaring opgedaan aan University of Cambridge. Als erkend pionier op het gebied van generatieve AI heeft hij gedurende zijn carrière de grenzen verlegd van de manieren waarop machine learning kan worden toegepast op beveiligingsoperaties in de praktijk.