Hanah-Marie Darley, Chief AI Officer hos Geordie AI – Intervju-serie

Hanah-Marie Darley, Chief AI Officer hos Geordie AI, er en erfaren AI- og sikkerhedsleder, der har co-founder virksomheden for at hjælpe enterprise IT-, risiko- og sikkerhedshold med at adoptere agentic AI med klarhed og kontrol. Med næsten et årti med støtte til efterretningssamarbejder inden for den amerikanske føderale regering og efterfølgende senior ledelsesroller hos Darktrace, kombinerer hun dyb ekspertise i truslen intelligens, geopolitisk analyse og anvendt psykologi med praktisk erfaring i AI-strategi og produktudvikling. Hendes arbejde handler om at tilpasse autonome systemer til menneskelig hensigt, hvilket giver virksomheder mulighed for at operationalisere AI-agenter på en måde, der balancerer innovation, tilsyn og virkelige begrænsninger.

Geordie AI er et London-baseret enterprise software-virksomhed, der fokuserer på at sikre og styre AI-agenter, mens de bliver integreret i virksomhedens miljøer. Deres platform giver indsigt i agentaktivitet, kontinuerlig overvågning af risikostilling og struktureret styring, der giver virksomheder mulighed for at implementere og skala AI-systemer med tillid. Ved at levere overvågning, compliance-støtte og operationel tilsyn tilpasset den agentic æra, sigter Geordie mod at give virksomheder den transparens og kontrol, der kræves for at integrere stadig mere autonome teknologier uden at kompromittere sikkerheden eller ansvarligheden.

Du har brugt næsten et årti i amerikansk føderal truslen intelligens og geopolitisk analyse, og har herefter ledet truslen forskning og AI-strategi roller hos Darktrace, og nu leder AI- og produktstrategi hos Geordie AI. Hvad oplevelser over regering og enterprise sikkerhed har haft den største indflydelse på din beslutning om at opbygge Geordie, og hvilket kerneproblem var du fast besluttet på at løse?

Over både regering og enterprise sikkerhed mødte jeg konstant den samme strukturelle spænding. Virksomheder investerede massivt i AI, men tilliden til, hvordan disse systemer opførte sig, lå efter forventningerne til afkast på investeringen. Udfordringen var ikke evnen. Det var tilliden.

Da AI bevægede sig fra eksperimentel værktøj til operationelle arbejdsprocesser, blev dette gap mere synligt. Agenter introducerer autonomi, beslutningstagning og vedvarende handlinger på tværs af systemer på måder, som traditionel software aldrig har gjort. Forretninger havde brug for en måde at forstå, hvordan agenter fungerer, hvor de opererer, og hvordan risiko opstår gennem deres adfærd. Geordie blev opbygget for at lukke dette klarhedsgab, så virksomheder kan adoptere autonomi med tillid i stedet for tøven.

I din mening, hvad er den mest misforståede risiko, som autonome eller agentic AI-systemer udgør for virksomheder, og hvordan adskiller “kædeeffekten” af kontekstuel beslutningstagning sig fra traditionelle cybersikkerhedsmodeller?

Stille fejl er den mindst forståede. En agent kan operere inden for godkendte tilladelser og legitime adgangsgrænser, mens den stadig producerer resultater, der afviger fra hensigten.

Dette afspejler naturen af agentic systemer. De tolker kontekst og træffer beslutninger i realtid. I modsætning til deterministisk software er adfærden dynamisk formet på tværs af handlinger. Det skifter sikkerhedsmodellen. Udsættelse hænger ikke længere kun på adgangsovertrædelser. Det opstår gennem, hvordan beslutninger, værktøjer og kontekst interagerer over tid.

Geordies tilgang betoner adfærdsobservabilitet, kontekstuel risikovurdering og dynamisk kontrol over agentaktiviteter. Hvordan bør virksomheder balancere behovet for denne type realtids indsigt med bekymringer om operationel kompleksitet eller systemydeevne?

Virksomheder bør ikke være nødt til at udveksle ydeevne med tilsyn. Vores arkitektur undgår med vilje inline-proxies og gateways, hvilket giver virksomheder mulighed for at bygge og operere agenter, hvor det giver operationel mening.

Indsigt og kontrol må skalere med autonomi uden at introducere friktion eller latency. Hvis styringsmekanismer hæmmer arbejdsprocesser, stopper adoptionen. Effektiv sikkerhed giver økosystemer mulighed for at udvide sig sikkert i stedet for at begrænse innovation.

Fra dit arbejde med enterprise-kunder og risikolede, hvilke typer arbejdsprocesser eller brugsområder er mest sårbare over for agentic drift ind i højere-risiko aktiviteter, og hvordan kan tidlige indikatorer opdages, før de eskalerer til væsentlige uheld?

Risiko tenderer til at øge med kompleksitet. Jo flere valg en agent træffer uafhængigt, jo større er potentialet for adfærdsafvigelse.

Drift opstår ofte gennem værktøjskæder, kontekstgenbrug og opstående arbejdsprocesser. Tidlige indikatorer omfatter uventet værktøjsaktivering, usædvanlige sekvensmønstre og ændringer i dataforskydning. Opdækkelse af disse signaler kræver adfærdsanalyse i stedet for isoleret begivenhedsovervågning.

Når AI-agenter genbruger kontekst og værktøjer på tværs af opgaver, hvilke er de mest subtile eller underskattede fejlmodi, som sikkerhedshold bør være mere opmærksomme på?

Kontekstgenbrug er underskattet. Udsættelse opstår ofte ikke fra overdrivne tilladelser, men fra, hvordan informationer består og spreder sig på tværs af opgaver.

Agenter kan lovligt få adgang til data inden for en kontekst og ufrivilligt medføre denne tilstand til en anden. Kombineret med værktøjskæder kan dette producere uventet afsløring eller transformation af følsomme oplysninger.

Mange virksomheder afhænger stadig af traditionelle enterprise sikkerhedsredskaber, såsom Endpoint Detection og Response og Extended Detection og Response-platforme. Hvor falder disse tilgange kort, når det handler om at styre autonome AI-systemer, der tager multi-trins handlinger?

EDR- og XDR-platforme er stadig essentielle, men de blev designet omkring menneskecentrerede truselmodeller. Agenter opererer på tværs af beslutningslag, der udvider sig ud over endpoint- og identitets-telemetri.

Forståelse af agentadfærd kræver indsigt i resonemønster, værktøjsvalg og kontekstuel beslutningsflow. Uden denne lag er store dele af agentaktivitet oplevelsesløse.

For IT-, risiko- og sikkerhedsledere, der ønsker at aktivere innovation, men undgå ukontrolleret autonomi, hvad ser “styret autonomi” ud som i praksis?

Styret autonomi begynder med indsigt. Virksomheder må forstå, hvor agenter opererer, hvor meget beslutningsmyndighed de har, og hvilke risici deres evner introducerer.

Styring er mest effektiv, når den er indbygget tidligt, hvilket giver mulighed for eksperimenter inden for definerede grænser. Dette understøtter innovation, mens man opretholder tillid til resultaterne.

Forklarelsesmulighed diskuteres ofte på modellens udgangsniveau. Hvordan bør virksomheder tænke om forklarelsesmulighed og revisionmulighed, når den virkelige risiko kan ligge i sekvensen af handlinger, en agent tager over tid?

Modellens forklarelsesmulighed er kun en del af ligningen. Virksomhedens risiko ligger stadig mere i adfærdssekvenser i stedet for isolerede udgangspunkter.

Revisionmulighed kræver forståelse af, hvordan vejledning formede fortolkning, hvilke værktøjer der blev aktiveret, og hvordan kontekst påvirkede beslutninger. Adfærdsobservabilitet bliver grundlaget for ansvarlighed.

For virksomheder, der erkender behovet for stærkere tilsyn med autonome AI-systemer, hvilke konkrete skridt bør de tage i dag for at reducere agentic risiko uden at bremse innovation, og hvordan hjælper Geordie AI specifikt virksomheder med at operationalisere denne balance mellem kontrol og evne?

Virksomheder har glæde af at starte tidligt i stedet for at vente på perfekte rammer. Fokus bør være på inventar, adfærdsindsigt og forståelse af, hvordan agenter interagerer med systemer.

Styringsmodeller, der introducerer latency, hæmmer ofte skalerbarhed. Tilsyn må være i takt med operationel hastighed. Geordie giver indsigt i agentkonfiguration, adfærd og risikodynamik, mens det giver mulighed for korrektive kontroller, der er designet til autonome systemer.

At se fremad, hvad vil adskille virksomheder, der succesfuldt skalere agentic AI på tværs af arbejdsprocesser, fra dem, der oplever tilbageslag på grund af ukontrolleret risiko, og hvordan bør ledelsen forberede sig nu?

Tidlige differentierende vil være klarhed og måling. Hold, der forstår agentkapacitet, påvirkning og adfærds mønstre, vil skalere mere tillidsfuldt.

Langsigtigt vil den konkurrencemæssige fordel favorisere virksomheder, der udvikler specialiserede, kontekstbevidste agentøkosystemer. Præcision i stedet for generalisering bliver drivkraften bag ydeevne og robusthed.

Tak for det gode interview, læsere, der ønsker at lære mere, kan besøge Geordie AI.