Hanah-Marie Darley, Chief AI Officer i Geordie AI – Intervju-serie

Hanah-Marie Darley, Chief AI Officer i Geordie AI, er en erfaren AI- og sikkerhetsleder som var med å grunnlegge selskapet for å hjelpe bedrifter med IT, risiko og sikkerhetsteam å adoptere agensbasert AI med klarhet og kontroll. Med nesten et tiår med støtte til etterretningoperasjoner innenfor den amerikanske føderale regjeringen og senere ledende roller i Darktrace, kombinerer hun dypt ekspertise i trusselintelligens, geopolitisk analyse og anvendt psykologi med praktisk erfaring i AI-strategi og produktutvikling. Hennes arbeid handler om å alignere autonome systemer med menneskelig intensjon, og å enable bedrifter til å operasjonalisere AI-agenter på en måte som balanserer innovasjon, tilsyn og reelle begrensninger.

Geordie AI er et London-basert bedriftsprogramvareselskap som fokuserer på å sikre og styre AI-agenter når de blir integrert i bedriftsmiljøer. Deres plattform gir synlighet inn i agentaktivitet, kontinuerlig overvåking av risikostilling og strukturert styring som gjør det mulig for organisasjoner å deployere og skalerer AI-systemer med tillit. Ved å levere observasjoner, retningslinjer for overholdelse og operasjonell tilsyn tilpasset den agensbaserte æraen, sikter Geordie å gi bedrifter den transparensen og kontrollen som er nødvendig for å integrere stadig mer autonome teknologier uten å kompromittere sikkerhet eller ansvar.

Du har brukt nesten et tiår i amerikansk føderal trusselintelligens og geopolitisk analyse, og har senere ledet trusselanalyse og AI-strategi i Darktrace, og nå leder du AI- og produktstrategi i Geordie AI. Hva erfaringer over regjering og bedriftssikkerhet har hatt størst innvirkning på ditt valg om å bygge Geordie, og hva var det sentrale problemet du var bestemt på å løse?

Over både regjering og bedriftssikkerhet møtte jeg på den samme strukturelle spenningen. Organisasjoner investerte tungt i AI, men tilliten til hvordan disse systemene oppførte seg, lå etter forventningene til avkastning. Utfordringen var ikke evne. Det var tillit.

Da AI gikk fra eksperimentell verktøy til operasjonelle arbeidsflyter, ble gapet mer synlig. Agenter introduserer autonomi, beslutningstaking og varighet over systemer på måter som tradisjonell programvare aldri gjorde. Bedrifter trengte en måte å forstå hvordan agenter fungerer, hvor de opererer og hvordan risiko oppstår gjennom deres atferd. Geordie ble bygget for å lukke denne klarhetsgapet så organisasjoner kan adoptere autonomi med tillit i stedet for tøven.

I ditt syn, hva er den mest misforståtte risikoen som autonome eller agensbaserte AI-systemer presenterer for bedrifter, og hvordan skilles “kjedeeffekten” av kontekstuell beslutning fra tradisjonelle sikkerhetsmodeller?

Stille feil er den minst forståtte. En agent kan operere innenfor godkjente tillatelser og legitime tilgangsgrenser samtidig som den produserer resultater som avviker fra intensjon.

Dette reflekterer naturen til agensbaserte systemer. De tolker kontekst og tar beslutninger i sanntid. I motsetning til deterministisk programvare, er atferd formet dynamisk over sekvenser av handlinger. Dette endrer sikkerhetsmodellen. Eksponering henger ikke lenger bare på tilgangsbrudd. Den oppstår gjennom hvordan beslutninger, verktøy og kontekst samspiller over tid.

Geordies tilnærming betoner atferdsobservasjon, kontekstuell risikovurdering og dynamisk kontroll over agentaktivitet. Hvordan bør organisasjoner balansere behovet for slik sanntids synlighet med bekymringer om operasjonell kompleksitet eller systemytelse?

Bedrifter bør ikke måtte bytte ytelser mot tilsyn. Vår arkitektur unngår med vilje inline-proxies og gateways, og lar organisasjoner bygge og operere agenter der det er operasjonelt meningsfullt.

Synlighet og kontroll må skaleres med autonomi uten å introdusere friksjon eller forsinkelse. Hvis styringsmekanismer hemmer arbeidsflyter, stopper adopsjonen. Effektiv sikkerhet muliggjør at økosystemer kan utvides trygt i stedet for å begrense innovasjon.

Fra ditt arbeid med bedriftskunder og risikledere, hvilke typer arbeidsflyter eller brukstilfeller er mest utsatt for agensdrift inn i høyere-risikoaktiviteter, og hvordan kan tidlige indikatorer detekteres før de eskalerer til materielle hendelser?

Risiko tenderer å øke med kompleksitet. Jo flere valg en agent tar uavhengig, jo større er potensialet for atferdsavvik.

Drift viser seg ofte gjennom verktøychaining, kontekstrebruk og opprinnelige arbeidsflyter. Tidlige indikatorer inkluderer uventet verktøyaktivering, uvanlige sekvensmønster og endringer i dataflyt. Å detektere disse signalene krever atferdsanalyse i stedet for isolert hendelsesovervåking.

Når AI-agenter gjenbruker kontekst og verktøy over oppgaver, hva er de mest subtile eller undervurderte feilmodusene som sikkerhetsteam bør være mer oppmerksomme på?

Kontekstrebruk er undervurdert. Eksponering oppstår ofte ikke fra eksessive tillatelser, men fra hvordan informasjon varer og sprer seg over oppgaver.

Agenter kan legitimt aksessere data innenfor en kontekst og uaktsomt bære denne tilstanden over i en annen. Kombinert med verktøychaining, kan dette produsere uventet åpenbaring eller transformasjon av sensitiv informasjon.

Mange organisasjoner avhenger fortsatt av tradisjonelle bedriftssikkerhetsverktøy som Endpoint Detection and Response og Extended Detection and Response-plattformer. Hvor mangler disse tilnærmingene når det gjelder å håndtere autonome AI-systemer som tar multi-trinnsaksjoner?

EDR- og XDR-plattformer er fortsatt essensielle, men de ble designet rundt menneske-sentrerte trusselmodeller. Agenter opererer over beslutningslag som strekker seg ut over endpoint- og identitetstelemetri.

Å forstå agentatferd krever innsikt i mønster for beslutning, verktøyvalg og kontekstuelt beslutningsflyt. Uten denne laget, er store deler av agentaktivitet uklare.

For IT-, risiko- og sikkerhetsledere som ønsker å enable innovasjon, men unngå uhåndtert autonomi, hva ser “styrt autonomi” ut som i praksis?

Styrt autonomi begynner med synlighet. Organisasjoner må forstå hvor agenter opererer, hvor mye beslutningsmyndighet de har, og hvilke risikoer deres evner introduserer.

Styring er mest effektiv når den er innbygget tidlig, og lar eksperimentering innenfor definerte grenser. Dette støtter innovasjon samtidig som det opprettholder tillit til resultater.

Forklar hvordan bedrifter bør tenke om forklarbarhet og granskbarhet når den virkelige risikoen kan ligge i sekvensen av handlinger en agent tar over tid?

Modellforklarbarhet er bare en del av ligningen. Bedriftsrisiko ligger stadig mer i atferdsskvenser i stedet for isolerte utdata.

Granskbarhet krever å forstå hvordan retningslinjer formet tolkning, hvilke verktøy som ble aktiveret, og hvordan kontekst påvirkte beslutninger. Atferdsobservasjon blir grunnlaget for ansvar.

For organisasjoner som erkjenner behovet for sterkere tilsyn over autonome AI-systemer, hva konkrete skritt bør de ta i dag for å redusere agensrisiko uten å bremse innovasjon, og hvordan hjelper Geordie AI spesifikt bedrifter med å operasjonalisere denne balansen mellom kontroll og evne?

Organisasjoner har nytte av å starte tidlig i stedet for å vente på fullstendige rammer. Fokus bør initialt ligge på inventar, atferdsobservasjon og å forstå hvordan agenter samhandler med systemer.

Styringsmodeller som introduserer forsinkelse, hemmer ofte skalerbarhet. Tilsyn må være i takt med operasjonell hastighet. Geordie gir synlighet inn i agentkonfigurasjon, atferd og risikodynamikk samtidig som det muliggjør korrektive kontroller designet for autonome systemer.

Ser fremover, hva vil skille organisasjoner som vellykker å skalerer agensbasert AI over arbeidsflyter fra de som opplever tilbakeslag på grunn av uhåndtert risiko, og hvordan bør ledelsen forberede seg nå?

Tidlige differensierere vil være klarhet og måling. Team som forstår agentkapasitet, påvirkning og atferdsmønster, vil skalerer med større tillit.

På lengre sikt, vil konkurransefordel favorisere organisasjoner som utvikler spesialiserte, kontekstuell-agensøkosystemer. Presisjon, i stedet for generalisering, blir drivkraften for ytelse og motstandskraft.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, bør besøke Geordie AI.