Natasha Mohanty, SVP de Engenharia da Doppel – Série de Entrevistas

Natasha Mohanty, Vice-Presidente Sênior de Engenharia da Doppel, é uma líder de tecnologia experiente com profunda experiência em AI, pagamentos, mídia e plataformas de consumo. Antes de se juntar à Doppel, ela liderou a engenharia para a Suíte de Checkout Otimizado da Stripe e Link, escalando a organização de 30 para 200 engenheiros, enquanto ajudava a impulsionar a adoção majoritária nos produtos de checkout da Stripe e carteira de consumidor. Anteriormente, ela atuou como VP de Engenharia da Nielsen após a aquisição da Prizma.ai, a empresa de engajamento de vídeo e análise de mídia impulsionada por AI que ela co-fundou e liderou como CTO. Mais cedo em sua carreira, ela passou mais de sete anos na Google (GOOGL ), trabalhando em Search Quality, Google News e personalização do Google+.

Doppel é uma empresa de defesa de engenharia social nativa em AI, focada em proteger organizações, executivos, marcas e clientes de impessoalização, phishing, fraude e riscos digitais mais amplos. Sua plataforma combina proteção de risco digital, proteção de executivos e marcas, segurança de e-mail, gerenciamento de risco humano, simulações e treinamento de conscientização de segurança, usando AI e inteligência de ameaças em tempo real para detectar, correlacionar e interromper a infraestrutura de atacantes em canais como domínios, mídia social, aplicativos de mensagens, anúncios e dark web. A empresa se posicionou em torno da ameaça crescente de engenharia social habilitada por AI gerativa, ajudando equipes de segurança a responder a ataques cada vez mais sofisticados em todo o cenário de ameaças digitais modernas.

Você liderou organizações de engenharia em empresas como Stripe, Google, Nielsen e agora Doppel. Ao longo dessa jornada, como sua visão do papel do engenheiro de software evoluiu de escrever sistemas diretamente para orquestrar fluxos de trabalho cada vez mais autônomos impulsionados por AI?

O fluxo de trabalho do engenheiro de software mudou dramaticamente, mas a responsabilidade exigida dos engenheiros não mudou. Quando comecei minha carreira na Google há duas décadas, os engenheiros passavam a maior parte do tempo escrevendo e revisando código eles mesmos. Hoje, a AI pode lidar com a maioria da geração de código, mas os engenheiros ainda são responsáveis por definir metas, validar saídas, estabelecer guardiões, revisar código e garantir que os sistemas permaneçam confiáveis a longo prazo. De muitas maneiras, a AI expandiu o escopo da responsabilidade de engenharia, em vez de reduzi-la.

O que evoluiu é onde os engenheiros criam valor. À medida que a AI assume mais da mecânica da codificação, o papel se torna cada vez mais centrado no gosto e julgamento, entendendo o problema, tomando decisões arquitetônicas, avaliando trade-offs e garantindo que os resultados estejam alinhados com as necessidades dos usuários e negócios. Os melhores engenheiros fazem mais do que apenas escrever software. Eles orquestrarão sistemas coesos de humanos e AI, aplicando o contexto e a responsabilidade que as máquinas ainda falta. É semelhante à mudança de contribuidor individual para gerente.

Você argumentou que a AI não reduz a responsabilidade de engenharia, ela a expande. Quais são os maiores mal-entendidos que os executivos ainda têm sobre o que os agentes de codificação de AI podem lidar realisticamente sem supervisão humana?

O maior mal-entendido é que a AI vai eliminar a necessidade de engenheiros fortes. A realidade é que a AI eleva o teto do que uma equipe pequena e habilidosa pode construir, o que torna o julgamento de engenharia mais valioso, não menos.

O que está mudando é a área de superfície que os engenheiros são responsáveis. Eles não estão mais apenas escrevendo código. Eles estão definindo o que é construído, validando que os agentes estão fazendo o que foi pretendido e donos do resultado quando não o fazem.

Se algo, o espaço de problemas se tornou mais atraente. Os atacantes têm acesso às mesmas ferramentas de AI que nós, o que significa que o desafio de ficar à frente deles é genuinamente mais difícil e mais interessante do que nunca. Não há falta de problemas difíceis para resolver, e a Doppel está contratando engenheiros para pessoas que estão animadas com esse tipo de trabalho.

À medida que as equipes de engenharia começam a coordenar vários agentes de AI em codificação, teste, depuração e documentação, como um fluxo de trabalho de “gerenciamento de agente” eficaz realmente parece na prática?

Os engenheiros estão cada vez mais agindo como gerentes de sistemas autônomos, não apenas contribuintes para eles. Os melhores engenheiros podem manter um contexto significativo em várias fluxos de trabalho paralelos, sabendo exatamente qual contexto compartilhar com cada agente. Na prática, isso significa escrever critérios de aceitação bem definidos, definir guardiões claros para privacidade e segurança e pedir aos agentes que expliquem seu raciocínio e suposições como um passo de validação. Se um agente não pode articular o que está fazendo e por quê, você não pode confiar totalmente na saída.

Na Doppel, estamos construindo sistemas agênticos que investigam ameaças, adaptam continuamente políticas de detecção e explicam suas decisões em linguagem simples. O gerenciamento de agente eficaz também exige infraestrutura de sistema, incluindo ambientes de estágio, pipelines de teste automatizados, ferramentas de segurança com permissões e supervisão definidas e estruturas de avaliação que continuamente avaliam se os agentes e o sistema mais amplo estão operando conforme o esperado.

Quais são os maiores riscos operacionais ou de segurança que surgem quando os agentes de AI são dados acesso a ferramentas internas, sistemas de produção ou fluxos de trabalho sensíveis sem guardiões fortes?

O risco não é apenas que os agentes de AI cometam erros. É que eles podem cometê-los em uma escala que é difícil de capturar em tempo real. O perigo mais específico é os agentes agindo fora de seu escopo pretendido, seja acessando sistemas que não foram projetados para tocar ou lidar com dados que não devem reter.

Em nosso produto de segurança de e-mail, por exemplo, os agentes processam dados que são inerentemente sensíveis. Nós fomos a grandes lengths para garantir que esses agentes tenham acesso estritamente restrito, não possam expor acidentalmente informações pessoais sensíveis downstream e não retenham informações confidenciais, enquanto ainda têm o contexto necessário para tomar a decisão certa.

Em que ponto começar a confiar fortemente em código gerado por AI começa a introduzir dívida técnica a longo prazo, e como os líderes de engenharia devem pensar sobre equilibrar velocidade versus manutenibilidade?

O risco é priorizar a velocidade a curto prazo sobre os fundamentos que permitem que os sistemas escalonem e evoluam. Uma das maiores lições do meu tempo na Stripe foi que nem todas as decisões são iguais. Algumas são armadilhas: difíceis de reverter e prováveis de ter consequências a longo prazo, enquanto outras podem ser alteradas mais facilmente.

Com a AI, a disciplina é saber quais decisões ainda carregam consequências a longo prazo, colocar guardiões mais fortes em torno delas e se mover rapidamente no resto. Na Doppel, isso significa usar sistemas de avaliação e documentação atual para garantir que os agentes continuem operando conforme pretendido à medida que os sistemas evoluem. O objetivo não é desacelerar, mas garantir que a velocidade não erode silenciosamente os fundamentos em que você está construindo.

Durante seu tempo escalonando organizações de engenharia na Stripe, quais lições sobre confiabilidade, confiança e design de sistemas agora se sentem especialmente relevantes na era de agentes de AI autônomos?

Na Stripe, a confiabilidade era tudo, especialmente porque a indústria financeira é tão regulamentada e poderia ser catastrófico para os negócios se seus portais de pagamento parassem de funcionar. Se um sistema não funcionasse conforme pretendido, haveria um impacto direto nos clientes, e isso criou uma forte cultura de propriedade e responsabilidade na empresa.

Uma das coisas que me atraiu para a Doppel foi um nível semelhante de obsessão pelo cliente. As equipes aqui estão profundamente focadas em entender os desafios que os clientes enfrentam e assumir a responsabilidade de resolvê-los.

Agora que estou na Doppel, essas lições se sentem especialmente relevantes. Estamos construindo sistemas nativos em AI para ajudar as organizações a se defender contra ataques de engenharia social cada vez mais sofisticados. E semelhante à Stripe, onde você não pode se dar ao luxo de ter sistemas de processamento de pagamento que parassem de funcionar, é catastrófico para os negócios não ter uma postura de segurança cibernética forte. São ambos muito arriscados, mas por razões diferentes.

Como você espera que a contratação de engenharia mude nos próximos anos, à medida que as empresas priorizam cada vez mais a fluência em AI, pensamento de sistemas e adaptabilidade sobre especialização técnica mais estreita?

Acho que veremos um aumento no ênfase na contratação de engenheiros que possam operar com autonomia, julgamento forte e capacidade de aprender rapidamente. Essas são características que eu sempre contratei, mas que importam mais agora, não menos. Ao longo de minha carreira, os engenheiros que tiveram o maior impacto não foram necessariamente aqueles com a especialização mais estreita. Eles foram aqueles que puderam adaptar-se rapidamente, navegar pela ambiguidade e aprender continuamente à medida que a tecnologia evoluía.

Mas a barra mudou. Na Doppel, os problemas que estamos resolvendo não estão bem definidos. Estamos constantemente trabalhando para ficar à frente dos atacantes que também estão usando AI, o que significa construir sistemas como agentes de inteligência de ameaças que exploram proativamente a web para descobrir ameaças. Não há um playbook estabelecido para esse tipo de trabalho, então é necessário garra e disposição para empurrar os limites do que é possível.

A AI continuará a mudar como o trabalho é feito, mas as empresas ainda precisarão de pessoas que possam trabalhar em sistemas e assumir a responsabilidade pelo ciclo de vida completo do que constroem. Os engenheiros que prosperarão serão aqueles que estão constantemente reinventando o que são capazes de fazer à medida que o cenário de AI evolui ao seu redor.

Você trabalhou extensivamente em personalização, sistemas de recomendação e plataformas impulsionadas por aprendizado de máquina ao longo de sua carreira. Como essa experiência molda a forma como você pensa sobre a colaboração humano-AI dentro das organizações de engenharia hoje?

Uma coisa que aprendi ao trabalhar em sistemas de personalização e aprendizado de máquina é que a qualidade da saída é apenas tão boa quanto a qualidade das entradas, incluindo dados de treinamento, estruturas de avaliação e uma definição clara do que “bom” realmente significa. Os modelos são ótimos para processar informações em escala, mas as pessoas trazem julgamento, contexto e compreensão do que é mais importante.

Acho que o mesmo princípio se aplica às organizações de engenharia que operam hoje. A AI pode ajudar as equipes a se moverem mais rapidamente, mas as melhores equipes serão deliberadas sobre o contexto e a verdade que dão à AI, bem como como os sistemas impulsionados por AI se integram ao ecossistema de engenharia mais amplo. Os engenheiros ainda precisam tomar decisões, avaliar trade-offs e, em última análise, donos do resultado.

Muitas empresas estão correndo para maximizar a produtividade do desenvolvedor com ferramentas de AI. Você acha que a vantagem competitiva virá finalmente de codificação mais rápida, ou de construir organizações que saibam governar e coordenar sistemas de AI eficazmente?

A velocidade importa, especialmente em segurança cibernética, onde ficar atrás dos atacantes não é uma opção. Mas a velocidade sem guardiões é apenas uma maneira mais rápida de criar lacunas exploráveis. A governança dos sistemas de AI deve ser a base para cada empresa que constrói com AI, não um afterthought. É essencial garantir a qualidade, confiabilidade e responsabilidade nos fluxos de trabalho de engenharia de software. Na indústria de segurança cibernética, em particular, a governança é essencial porque os atacantes encontrarão e explorarão qualquer lacuna que você deixe. É por isso que construímos nossa plataforma de agente na Doppel, lideramos com guardiões de privacidade e um rastro de auditoria claro construído desde o início.

Olhando para a frente, cinco anos, como você acha que a equipe de engenharia de software moderna parecerá uma vez que os agentes de AI se tornem profundamente incorporados aos fluxos de trabalho de desenvolvimento diários?

Cinco anos é difícil de prever com confiança porque o mundo está se movendo tão rapidamente. O que posso dizer com mais confiança é que dentro dos próximos 18 meses a três anos, os agentes de AI provavelmente lidarão com a maioria da geração de código, teste e depuração de primeira passagem.

O que os engenheiros possuirão é julgamento de produto: a especificação, o gosto, a arquitetura e a responsabilidade quando algo quebra. As equipes podem ser menores, mas o papel se tornará mais difícil. Os engenheiros que prosperarão não serão necessariamente aqueles que produzem o mais código, mas aqueles que podem direcionar, avaliar e corrigir sistemas autônomos eficazmente.

Tendo trabalhado através de mudanças tecnológicas anteriores, uma coisa que aprendi é que a inovação raramente segue uma linha reta. As equipes que terão sucesso serão aquelas que permanecem curiosas, adaptam-se rapidamente e evoluem seus fluxos de trabalho à medida que a tecnologia muda. Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Doppel.