Hanah-Marie Darley, Chief AI Officer bij Geordie AI – Interview Serie

Hanah-Marie Darley, Chief AI Officer bij Geordie AI, is een ervaren AI- en beveiligingsleider die het bedrijf heeft opgericht om enterprise IT-, risico- en beveiligingsteams te helpen bij het adopteren van agente AI met duidelijkheid en controle. Met bijna een decennium ervaring in inlichtingenoperaties binnen de Amerikaanse federale overheid en daaropvolgende senior leiderschapsrollen bij Darktrace, combineert ze diepe expertise in bedreigingsinformatie, geopolitieke analyse en toegepaste psychologie met hands-on ervaring in AI-strategie en productontwikkeling. Haar werk is gericht op het uitlijnen van autonome systemen met menselijke intentie, waardoor ondernemingen AI-agents kunnen operationaliseren op een manier die innovatie, toezicht en echte wereldbeperkingen in evenwicht brengt.

Geordie AI is een in Londen gevestigd bedrijf voor enterprise software dat zich richt op het beveiligen en besturen van AI-agents die worden geïntegreerd in corporate omgevingen. Het platform biedt inzicht in agentactiviteit, continue monitoring van risicopostuur en gestructureerde besturingsmechanismen die organisaties in staat stellen om AI-systemen met vertrouwen te implementeren en op te schalen. Door observabiliteit, compliance-ondersteuning en operationeel toezicht te bieden die zijn afgestemd op de agente-era, streeft Geordie ernaar om ondernemingen de transparantie en controle te geven die nodig is om steeds autonomere technologieën te integreren zonder de beveiliging of verantwoordelijkheid te compromitteren.

U hebt bijna een decennium in de Amerikaanse federale dreigingsinformatie en geopolitieke analyse doorgebracht, later leidde u dreigingsonderzoek en AI-strategie bij Darktrace, en nu leidt u AI- en productstrategie bij Geordie AI. Welke ervaringen in de overheid en enterprise-beveiliging hebben uw beslissing om Geordie op te richten het meest beïnvloed, en welk kernprobleem was u vastbesloten om op te lossen?

Over zowel de overheid als de enterprise-beveiliging heen, bleef ik steeds dezelfde structurele spanning tegenkomen. Organisaties investeerden zwaar in AI, maar het vertrouwen in hoe die systemen zich gedroegen, bleef achter bij de verwachtingen voor rendement op investering. De uitdaging was niet de capaciteit. Het was vertrouwen.

Naarmate AI van experimentele tooling naar operationele workflows verhuisde, werd die kloof zichtbaarder. Agents introduceren autonomie, besluitvorming en persistentie over systemen heen op manieren die traditionele software nooit deed. Bedrijven hadden een manier nodig om te begrijpen hoe agents functioneren, waar ze opereren en hoe risico ontstaat door hun gedrag. Geordie is opgericht om die duidelijkheidskloof te dichten, zodat organisaties autonomie met vertrouwen kunnen adopteren in plaats van aarzeling.

Volgens u, wat is het meest misverstane risico dat autonome of agente AI-systemen voor ondernemingen vormen, en hoe verschilt de “kettingreactie” van contextuele besluitvorming van traditionele cybersecurity-expositiemodellen?

Stille fouten blijven het minst begrepen. Een agent kan binnen goedgekeurde machtigingen en legitieme toegangsgrenzen opereren, terwijl hij nog steeds resultaten produceert die afwijken van de bedoeling.

Dit weerspiegelt de aard van agente systemen. Ze interpreteren context en nemen beslissingen in real-time. In tegenstelling tot deterministische software, wordt het gedrag dynamisch gevormd over sequenties van acties. Dat verandert het beveiligingsmodel. Expositie hangt niet langer alleen af van toegangsverlettingen. Het ontstaat door hoe beslissingen, tools en context over tijd interactief zijn.

Geordie’s aanpak benadrukt gedragsobservabiliteit, contextuele risicobeoordeling en dynamische controle over agentactiviteiten. Hoe moeten organisaties de behoefte aan dat soort real-time zichtbaarheid in evenwicht brengen met zorgen over operationele complexiteit of systeemprestaties?

Ondernemingen hoeven niet te kiezen tussen prestaties en toezicht. Onze architectuur vermijdt opzettelijk inlineproxies en gateways, waardoor organisaties agents kunnen bouwen en exploiteren waar het operationeel zinvol is.

Zichtbaarheid en controle moeten schalen met autonomie zonder wrijving of latentie in te voeren. Als governance-mechanisme workflows belemmert, stagneert adoptie. Effectieve beveiliging stelt ecosystemen in staat om veilig uit te breiden in plaats van innovatie te beperken.

Vanuit uw werk met enterprise-klanten en risicoleiders, welke soorten workflows of use cases zijn het meest vatbaar voor agente-drift naar hogere-risicoactiviteiten, en hoe kunnen vroege indicatoren worden gedetecteerd voordat ze escaleren tot materiële incidenten?

Risico neigt ertoe om toe te nemen met complexiteit. Hoe meer keuzes een agent onafhankelijk maakt, hoe groter het potentieel voor gedragsafwijking.

Drift verschijnt vaak door toolchaining, contexthergebruik en emergente workflows. Vroege indicatoren omvatten onverwachte toolaanroep, ongebruikelijke sequentiepatronen en verschuivingen in dataverplaatsing. Het detecteren van deze signalen vereist gedragsanalyse in plaats van geïsoleerd evenementenbewaking.

Wanneer AI-agents context en tools hergebruiken over taken, welke zijn de meest subtiele of onderschatte foutmodi die beveiligingsteams moeten volgen?

Contexthergebruik blijft onderschat. Expositie ontstaat vaak niet door overtollige machtigingen, maar door hoe informatie persistent is en over taken heen wordt doorgegeven.

Agents kunnen legitiem toegang krijgen tot gegevens binnen één context en onopzettelijk die staat meenemen naar een andere. In combinatie met toolchaining kan dit onbedoelde openbaarmaking of transformatie van gevoelige informatie produceren.

Veel organisaties vertrouwen nog steeds op traditionele enterprise-beveiligingshulpmiddelen zoals Endpoint Detection en Response en Extended Detection en Response-platforms. Waar falen deze benaderingen als het gaat om het beheren van autonome AI-systemen die meerdere stappen nemen?

EDR- en XDR-platforms blijven essentieel, maar ze zijn ontworpen rond mensgerichte bedreigingsmodellen. Agents opereren over besluitvormingslagen die verder gaan dan endpoint- en identiteitstelemetrie.

Het begrijpen van agentgedrag vereist inzicht in redenpatronen, toolselectie en contextuele besluitvloeden. Zonder die laag blijven grote delen van agentactiviteit ondoorzichtig.

Voor IT-, risico- en beveiligingsleiders die innovatie willen stimuleren maar autonomie willen vermijden, wat ziet “bestuurde autonomie” er in de praktijk uit?

Bestuurde autonomie begint met zichtbaarheid. Organisaties moeten weten waar agents opereren, hoeveel beslissingsbevoegdheid ze hebben en welke risico’s hun capaciteiten introduceren.

Bestuur is meest effectief als het vroeg wordt ingebed, waardoor experimenten binnen gedefinieerde grenzen mogelijk zijn. Dit ondersteunt innovatie terwijl het vertrouwen in resultaten behoudt.

Leg uit hoe ondernemingen explainability en auditability moeten benaderen wanneer het echte risico in de sequentie van acties ligt die een agent over tijd neemt.

Model-explainability is slechts een deel van de vergelijking. Ondernemingsrisico woont steeds vaker in gedragssequentie in plaats van geïsoleerde uitvoer.

Auditability vereist het begrijpen van hoe guardrails interpretatie vormden, welke tools werden aangeroepen en hoe context beslissingen beïnvloedde. Gedragsobservabiliteit wordt de basis voor verantwoordelijkheid.

Voor organisaties die de noodzaak erkennen van een sterkere toezicht op autonome AI-systemen, welke concrete stappen moeten ze vandaag nemen om agente-risico’s te verminderen zonder innovatie te vertragen, en hoe helpt Geordie AI ondernemingen specifiek bij het operationaliseren van die balans tussen controle en capaciteit?

Ondernemingen profiteren van het starten van vroeg in plaats van te wachten op perfecte kaders. De eerste focus moet liggen op inventaris, gedragszichtbaarheid en het begrijpen van hoe agents met systemen interactief zijn.

Bestuursmodellen die latentie introduceren, belemmeren vaak schaalbaarheid. Toezicht moet in overeenstemming zijn met operationele snelheid. Geordie biedt zichtbaarheid in agentconfiguratie, gedrag en risicodynamiek, terwijl het correctieve controles mogelijk maakt die zijn ontworpen voor autonome systemen.

Kijkend naar de toekomst, wat zal ondernemingen die met succes agente AI over workflows schalen, onderscheiden van die welke door onbeheerd risico worden tegengewerkt, en hoe moet leiderschap zich nu voorbereiden?

Vroege differentiatoren zullen duidelijkheid en meting zijn. Teams die agentcapaciteit, impact en gedragspatronen begrijpen, zullen met meer vertrouwen schalen.

Op lange termijn zal concurrentievoordeel de voorkeur geven aan ondernemingen die gespecialiseerde, contextueel bewuste agent-ecosystemen ontwikkelen. Precisie, in plaats van generalisatie, wordt de driver van prestatie en veerkracht.

Bedankt voor het geweldige interview, lezers die meer willen leren, kunnen Geordie AI bezoeken.