Hanah-Marie Darley, Chief AI Officer på Geordie AI – Intervju-serie

Hanah-Marie Darley, Chief AI Officer på Geordie AI, är en erfaren AI- och säkerhetsledare som co-founderade företaget för att hjälpa företags IT-, risk- och säkerhetsteam att anta agentic AI med tydlighet och kontroll. Med nästan ett decennium av stöd till underrättelseoperationer inom den amerikanska federala regeringen och efterföljande seniora ledarroller på Darktrace, kombinerar hon djup expertis inom hotanalys, geopolitisk analys och tillämpad psykologi med praktisk erfarenhet av AI-strategi och produktutveckling. Hennes arbete fokuserar på att anpassa autonoma system till mänsklig avsikt, vilket möjliggör för företag att operationalisera AI-agenter på ett sätt som balanserar innovation, tillsyn och verkliga begränsningar.

Geordie AI är ett London-baserat företag som fokuserar på att säkra och styra AI-agenter när de integreras i företagsmiljöer. Deras plattform tillhandahåller insyn i agentaktivitet, kontinuerlig övervakning av riskläge och strukturerade styrningskontroller som möjliggör för organisationer att distribuera och skala AI-system med tillförlitlighet. Genom att leverera observabilitet, efterlevnad och operativ tillsyn anpassad till den agentiska eran, syftar Geordie till att ge företagen den transparens och kontroll som krävs för att integrera alltmer autonoma teknologier utan att äventyra säkerhet eller ansvar.

Du har tillbringat nästan ett decennium inom amerikansk federal hotanalys och geopolitisk analys, och har senare lett hotforsknings- och AI-strategiroller på Darktrace, och nu leder du AI- och produktstrategi på Geordie AI. Vilka erfarenheter inom regering och företagssäkerhet har påverkat ditt beslut att bygga Geordie, och vilket kärnproblem var du fast besluten att lösa?

Inom både regering och företagssäkerhet mötte jag samma strukturella spänning. Organisationer investerade tungt i AI, men förtroendet för hur dessa system uppförde sig låg efter förväntningarna på avkastning. Utmaningen var inte förmåga. Det var förtroende.

När AI gick från experimentell verktyg till operativa arbetsflöden blev den här klyftan mer synlig. Agenter introducerar autonomi, beslutsfattande och uthållighet över system på sätt som traditionell programvara aldrig gjort. Företag behövde ett sätt att förstå hur agenter fungerar, var de opererar och hur risk uppstår genom deras beteende. Geordie byggdes för att stänga den här klargapen så att organisationer kan anta autonomi med tillförlitlighet snarare än tvekan.

I din åsikt, vad är den mest missförstådda risken som autonoma eller agentiska AI-system presenterar för företag, och hur skiljer sig “kedjeeffekten” av kontextuell beslutsfattning från traditionella cybersäkerhetsmodeller?

Tysta fel förblir den minst förstådda risken. En agent kan operera inom godkända behörigheter och legitima åtkomstgränser medan den fortfarande producerar resultat som avviker från avsikt.

Detta återspeglar naturen hos agenter. De tolkar kontext och fattar beslut i realtid. Till skillnad från deterministisk programvara formas beteendet dynamiskt över sekvenser av handlingar. Det skiftar säkerhetsmodellen. Exponering beror inte längre enbart på åtkomstbrott. Den uppstår genom hur beslut, verktyg och kontext interagerar över tid.

Geordies tillvägagångssätt betonar beteendemässig observabilitet, kontextuell riskbedömning och dynamisk kontroll över agentaktiviteter. Hur bör organisationer balansera behovet av den här typen av realtidsinsyn med oro kring operativ komplexitet eller systemprestanda?

Företag bör inte behöva handla om prestanda för tillsyn. Vår arkitektur undviker medvetet inline-proxys och gateways, vilket möjliggör för organisationer att bygga och operera agenter där det är operativt meningsfullt.

Insyn och kontroll måste skalas med autonomi utan att introducera friktion eller latency. Om styrningsmekanismer hämmar arbetsflöden, stannar antagandet. Effektiv säkerhet möjliggör för ekosystem att expandera säkert snarare än att begränsa innovation.

Från ditt arbete med företagskunder och riskledare, vilka typer av arbetsflöden eller användningsfall är mest benägna att driva agenter mot högriskaktiviteter, och hur kan tidiga indikatorer upptäckas innan de eskalerar till materiella incidenter?

Risk tenderar att öka med komplexitet. Ju fler val en agent gör oberoende, desto större är potentialen för beteendemässig avvikelse.

Avvikelse uppträder ofta genom verktygschaining, kontextåteranvändning och emergentiska arbetsflöden. Tidiga indikatorer inkluderar oväntad verktygsanrop, ovanliga sekvensmönster och förändringar i dataöverföring. Upptäckt av dessa signaler kräver beteendeanalys snarare än isolerad händelseövervakning.

När AI-agenter återanvänder kontext och verktyg över uppgifter, vad är de mest subtila eller underskattade felmoderna som säkerhetsteam bör vara mer uppmärksamma på?

Kontextåteranvändning förblir underskattad. Exponering uppstår ofta inte från överdrivna behörigheter, utan från hur information består och sprids över uppgifter.

Agenter kan lagligt komma åt data inom en kontext och oavsiktligt föra den staten till en annan. Kombinerat med verktygschaining kan detta producera oavsiktlig exponering eller omvandling av känslig information.

Många organisationer förlitar sig fortfarande på traditionella företagssäkerhetsverktyg som Endpoint Detection and Response och Extended Detection and Response-plattformar. Var brister dessa tillvägagångssätt när det gäller att hantera autonoma AI-system som vidtar flerstegsåtgärder?

EDR- och XDR-plattformar förblir essentiella, men de utformades kring mänskliga hotmodeller. Agenter opererar över beslutsområden som sträcker sig bortom slutpunkts- och identitetstelemetri.

Förståelse av agentbeteende kräver insikt i resonemangsmönster, verktygsval och kontextuella beslutsflöden. Utan den här nivån förblir stora delar av agentaktivitet ogenomskinliga.

För IT-, risk- och säkerhetsledare som vill möjliggöra innovation men undvika okontrollerad autonomi, vad ser “styrda autonomi” ut som i praktiken?

Styrd autonomi börjar med insyn. Organisationer måste förstå var agenter opererar, hur mycket beslutsbefogenhet de har och vilka risker deras förmågor introducerar.

Styrning är mest effektiv när den införs tidigt, vilket möjliggör för experiment inom definierade gränser. Detta stöder innovation samtidigt som förtroendet för resultat upprätthålls.

Förklarbarhet diskuteras ofta på modellutdatanivå. Hur bör företag tänka på förklarbarhet och granskbarhet när den verkliga risken kan ligga i sekvensen av handlingar en agent vidtar över tid?

Modellförklarbarhet är bara en del av ekvationen. Företagsrisk ligger alltmer i beteendesequenser snarare än isolerade utdata.

Granskbarhet kräver förståelse för hur skyddsanordningar formade tolkning, vilka verktyg som anropades och hur kontext påverkade beslut. Beteendemässig observabilitet blir grunden för ansvar.

För organisationer som erkänner behovet av starkare tillsyn av autonoma AI-system, vilka konkreta steg bör de ta idag för att minska agentrisk utan att bromsa innovation, och hur hjälper Geordie AI specifikt företag att operationalisera den här balansen mellan kontroll och förmåga?

Organisationer har nytta av att börja tidigt snarare än att vänta på perfekta ramar. Inledande fokus bör ligga på inventering, beteendemässig synlighet och förståelse för hur agenter interagerar med system.

Styrningsmodeller som introducerar latency hämmar ofta skalbarhet. Tillsyn måste anpassas till operativ hastighet. Geordie tillhandahåller insyn i agentkonfiguration, beteende och riskdynamik samtidigt som korrektiva kontroller utformas för autonoma system.

Om vi blickar framåt, vad kommer att skilja organisationer som framgångsrikt skalar agentic AI över arbetsflöden från de som upplever bakslag på grund av ohanterad risk, och hur bör ledarskap förbereda sig nu?

Tidiga differentierare kommer att vara tydlighet och mätning. Team som förstår agentförmåga, påverkan och beteendemönster kommer att skala med större tillförlitlighet.

På längre sikt kommer konkurrensfördel att gynna organisationer som utvecklar specialiserade, kontextmedvetna agentekosystem. Precision snarare än generalisering blir drivkraften för prestanda och motståndskraft.

Tack för det utmärkta intervjun, läsare som vill lära sig mer kan besöka Geordie AI.