Hanah-Marie Darley, Diretora de Inteligência Artificial da Geordie AI – Série de Entrevistas

Hanah-Marie Darley, Diretora de Inteligência Artificial da Geordie AI, é uma líder experiente em inteligência artificial e segurança que co-fundou a empresa para ajudar equipes de TI, risco e segurança de empresas a adotar inteligência artificial autônoma com clareza e controle. Com quase uma década de apoio a operações de inteligência dentro do governo federal dos EUA e papéis de liderança sênior na Darktrace, ela combina expertise profunda em inteligência de ameaças, análise geopolítica e psicologia aplicada com experiência prática em estratégia e desenvolvimento de produtos de inteligência artificial. Seu trabalho centra-se em alinhar sistemas autônomos com a intenção humana, permitindo que as empresas operacionalizem agentes de inteligência artificial de forma que equilibre inovação, supervisão e restrições do mundo real.

Geordie AI é uma empresa de software de empresa com sede em Londres, focada em segurança e governança de agentes de inteligência artificial à medida que se tornam incorporados em ambientes corporativos. Sua plataforma fornece visibilidade em atividades de agentes, monitoramento contínuo de postura de risco e controles de governança estruturados que permitem que as organizações implantem e escalonem sistemas de inteligência artificial com confiança. Ao fornecer observabilidade, suporte à conformidade e supervisão operacional personalizada para a era dos agentes, a Geordie visa dar às empresas a transparência e o controle necessários para integrar tecnologias cada vez mais autônomas sem comprometer a segurança ou a responsabilidade.

Você passou quase uma década em inteligência de ameaças federais dos EUA e análise geopolítica, liderou pesquisas de ameaças e estratégia de inteligência artificial na Darktrace, e agora lidera estratégia de inteligência artificial e produtos na Geordie AI. Quais experiências em governo e segurança de empresa mais influenciaram sua decisão de construir a Geordie, e qual é o problema central que você estava determinado a resolver?

Em ambos, governo e segurança de empresa, eu continuei encontrando a mesma tensão estrutural. As organizações estavam investindo pesadamente em inteligência artificial, mas a confiança em como esses sistemas se comportavam ficava aquém das expectativas de retorno sobre o investimento. O desafio não era capacidade. Era confiança.

À medida que a inteligência artificial mudou de ferramentas experimentais para fluxos de trabalho operacionais, essa lacuna se tornou mais visível. Os agentes introduzem autonomia, tomada de decisões e persistência em sistemas de maneiras que o software tradicional nunca fez. As empresas precisavam de uma maneira de entender como os agentes funcionam, onde operam e como o risco emerge por meio de seu comportamento. A Geordie foi construída para fechar essa lacuna de clareza para que as organizações possam adotar autonomia com confiança em vez de hesitação.

Na sua opinião, qual é o risco mais mal compreendido que os sistemas de inteligência artificial autônoma ou agente apresentam às empresas, e como o “efeito em cadeia” da tomada de decisões contextuais difere dos modelos tradicionais de exposição à segurança cibernética?

As falhas silenciosas permanecem as menos compreendidas. Um agente pode operar dentro de permissões aprovadas e limites de acesso legítimos, enquanto ainda produz resultados que divergem da intenção.

Isso reflete a natureza dos sistemas agente. Eles interpretam o contexto e tomam decisões em tempo real. Ao contrário do software determinístico, o comportamento é moldado dinamicamente ao longo de sequências de ações. Isso muda o modelo de segurança. A exposição não depende mais apenas de violações de acesso. Ela emerge por meio de como as decisões, as ferramentas e o contexto interagem ao longo do tempo.

A abordagem da Geordie enfatiza a observabilidade comportamental, a avaliação de risco contextual e o controle dinâmico sobre as atividades dos agentes. Como as organizações devem equilibrar a necessidade desse tipo de visibilidade em tempo real com as preocupações em torno da complexidade operacional ou do desempenho do sistema?

As empresas não devem ter que negociar o desempenho pela supervisão. Nossa arquitetura evita deliberadamente proxies e gateways inline, permitindo que as organizações construam e operem agentes onde isso faz sentido operacionalmente.

A visibilidade e o controle devem escalar com a autonomia sem introduzir fricção ou latência. Se os mecanismos de governança impedem os fluxos de trabalho, a adoção estagna. A segurança eficaz permite que os ecossistemas se expandam com segurança em vez de restringir a inovação.

A partir do seu trabalho com clientes e líderes de risco de empresa, quais tipos de fluxos de trabalho ou casos de uso são mais suscetíveis ao desvio agente para atividades de maior risco, e como os indicadores iniciais podem ser detectados antes que eles se tornem incidentes materiais?

O risco tende a aumentar com a complexidade. Quanto mais escolhas um agente faz independentemente, maior é o potencial para divergência comportamental.

O desvio frequentemente aparece por meio de encadeamento de ferramentas, reutilização de contexto e fluxos de trabalho emergentes. Os indicadores iniciais incluem a invocação de ferramentas inesperadas, padrões de sequência incomuns e mudanças nos padrões de movimento de dados. Detectar esses sinais requer análise comportamental em vez de monitoramento de eventos isolados.

Quando os agentes de inteligência artificial reutilizam o contexto e as ferramentas em tarefas, quais são os modos de falha mais sutis ou subestimados que as equipes de segurança devem estar mais atentas?

A reutilização de contexto permanece subestimada. A exposição frequentemente surge não de permissões excessivas, mas de como as informações persistem e se propagam por meio de tarefas.

Os agentes podem acessar legitimamente os dados dentro de um contexto e, inadvertidamente, levar esse estado para outro. Combinado com o encadeamento de ferramentas, isso pode produzir a divulgação ou transformação não intencionais de informações sensíveis.

Muitas organizações ainda dependem de ferramentas de segurança de empresa tradicionais, como Detecção e Resposta de Endpoint e Plataformas de Detecção e Resposta Estendida. Onde essas abordagens falham quando se lida com sistemas de inteligência artificial autônoma que tomam ações em várias etapas?

As plataformas de EDR e XDR permanecem essenciais, mas foram projetadas em torno de modelos de ameaças centrados no ser humano. Os agentes operam em camadas de decisão que se estendem além da telemetria de endpoint e identidade.

Entender o comportamento do agente requer insights em padrões de raciocínio, seleção de ferramentas e fluxos de decisão contextuais. Sem essa camada, grandes porções da atividade do agente permanecem opacas.

Para líderes de TI, risco e segurança que desejam permitir a inovação, mas evitar a autonomia descontrolada, como a “autonomia governada” realmente se parece na prática?

A autonomia governada começa com visibilidade. As organizações devem entender onde os agentes operam, quanto autoridade de decisão eles detêm e quais riscos suas capacidades introduzem.

A governança é mais eficaz quando incorporada desde o início, permitindo experimentação dentro de limites definidos. Isso apoia a inovação enquanto mantém a confiança nos resultados.

Explique como as empresas devem pensar sobre a explicabilidade e a auditoria quando o risco real pode residir na sequência de ações que um agente toma ao longo do tempo?

A explicabilidade do modelo é apenas parte da equação. O risco da empresa reside cada vez mais em sequências comportamentais, e não em saídas de modelo isoladas.

A auditoria requer entender como as barreiras moldaram a interpretação, quais ferramentas foram invocadas e como o contexto influenciou as decisões. A observabilidade comportamental se torna a base para a responsabilidade.

Para organizações que reconhecem a necessidade de uma supervisão mais forte dos sistemas de inteligência artificial autônoma, quais passos concretos elas devem dar hoje para reduzir o risco agente sem retardar a inovação, e como a Geordie AI ajuda especificamente as empresas a operacionalizar esse equilíbrio entre controle e capacidade?

As organizações se beneficiam de começar cedo, em vez de esperar por estruturas perfeitas. O foco inicial deve centrar-se no inventário, visibilidade comportamental e compreensão de como os agentes interagem com os sistemas.

Os modelos de governança que introduzem latência frequentemente impedem a escalabilidade. A supervisão deve alinhar-se com a velocidade operacional. A Geordie fornece visibilidade na configuração do agente, comportamento e dinâmicas de risco, enquanto habilita controles corretivos projetados para sistemas autônomos.

Olhando para o futuro, o que separará as organizações que escalonam com sucesso a inteligência artificial agente em fluxos de trabalho daquelas que experimentam contratempos devido ao risco não gerenciado, e como a liderança deve se preparar agora?

Os primeiros diferenciadores serão a clareza e a medição. As equipes que entendem a capacidade do agente, o impacto e os padrões comportamentais escalarão com mais confiança.

Em longo prazo, a vantagem competitiva favorecerá as organizações que desenvolvem ecossistemas de agentes especializados e conscientes do contexto. A precisão, em vez da generalização, se torna o motor do desempenho e da resiliência.

Obrigado pela grande entrevista, os leitores que desejam aprender mais devem visitar Geordie AI.