Aarti Samani, Fundadora e CEO da Shreem Growth Partners – Série de Entrevistas

Aarti Samani, Fundadora e CEO da Shreem Growth Partners, é uma líder em tecnologia e estrategista de IA com mais de duas décadas de experiência impulsionando o crescimento em IA, identidade digital e segurança biométrica. Ela ocupou cargos seniores na iProov e na Digital Surgery (adquirida pela Medtronic), liderando estratégias globais de produto e marketing e garantindo rodadas de financiamento importantes. Como comentarista frequente da BBC e palestrante principal em eventos globais, incluindo o Money 20/20 e o CogX Festival, ela aconselha conselhos e executivos sobre ética de IA, governança e risco, ajudando as organizações a construir confiança e resiliência na era da inteligência artificial.

A Shreem Growth Partners ajuda as organizações a se proteger contra fraude de deepfake e impessoalização impulsionada por IA, focando na camada humana de defesa. Por meio de treinamento personalizado, briefings executivos, avaliações de vulnerabilidade e consultas estratégicas, a empresa equipa equipes e líderes para reconhecer, responder e prevenir tentativas de manipulação. Ao promover a conscientização, a preparação e a resiliência cultural, a Shreem empodera as organizações a proteger sua identidade, reputação e força de trabalho contra ameaças de IA em evolução.

Você fundou a Shreem Growth Partners após ocupar cargos seniores na iProov, Medtronic Digital Surgery e outras empresas impulsionadas por IA. O que a inspirou a criar uma empresa dedicada especificamente à resiliência contra fraude de deepfake?

Após o lançamento do ChatGPT no final de 2022, testemunhamos uma explosão de ferramentas de mídia impulsionadas por IA capazes de clonar vozes e faces em minutos. A maioria das organizações as viu como aceleradores criativos para design e marketing. Mas os criminosos viram uma nova oportunidade para engenharia social mais impactante.

Os deepfakes rapidamente se tornaram a ferramenta de escolha dos fraudadores para manipular as pessoas. As equipes de segurança responderam investindo em tecnologia de detecção, mas a detecção sozinha não pode resolver um problema enraizado na confiança humana. A psicologia era o ponto cego da indústria.

Essa percepção me levou a fundar a Shreem Growth Partners, uma empresa dedicada a construir resiliência contra fraude de deepfake por meio de conscientização, simulação e resiliência cognitiva. Fortalecer a capacidade das pessoas de pensar criticamente e resistir à manipulação é a chave para mitigar esse tipo de fraude.

Na iProov, você trabalhou na fronteira da biometria facial e verificação de identidade. Como essa experiência revelou a ameaça crescente que os deepfakes representam para os sistemas de autenticação?

Como Diretora de Produto e Marketing da iProov, ajudei a trazer a verificação facial biométrica para organizações de segurança sensível em ambos os setores público e privado. Essas instituições são alvos constantes de cibercrime organizado. Seus adversários são inteligentes, bem financiados e equipados com tecnologia de ponta.

Começamos a ver tentativas de contornar os sistemas biométricos usando deepfakes construídos a partir de identidades roubadas. Como a iProov operava como um serviço gerenciado baseado em nuvem, pudemos observar esses ataques em tempo real e analisar como cada iteração evoluiu. Ficou claro que os criminosos estavam aprendendo mais rápido do que o mercado estava se adaptando.

Essa experiência me deu uma visão interna da evolução da fraude habilitada por deepfakes e uma profunda apreciação de como a criatividade e a psicologia impulsionam o cibercrime. A mesma compreensão da mentalidade criminosa agora informa meu trabalho em resiliência contra fraude de deepfake.

Os deepfakes estão sendo cada vez mais usados para impessoalização executiva, clonagem de voz e ataques de engenharia social. Quais cenários você está vendo com mais frequência no campo hoje?

É sempre mais fácil obter acesso por meio de engenharia social do que quebrando os sistemas de segurança. À medida que as pessoas se tornam mais conscientes dos golpes tradicionais, os criminosos estão se voltando para novas maneiras de manipular a confiança.

A tecnologia de deepfake se tornou a ferramenta de engenharia social mais poderosa que já vimos. Ela permite que os perpetradores gerem sinais de confiança de alta fidelidade: faces, vozes e narrativas realistas que contornam o julgamento humano.

A vantagem criminosa não se limita à impessoalização executiva ou pagamentos. Cada vez mais, os alvos são propriedade intelectual, dados sensíveis e credenciais de acesso. Ao treinar agentes de IA e dar-lhes vozes clonadas, a fraude agora pode ser executada em escala, velocidade e precisão. Essa é a ameaça que estamos enfrentando.

O que distingue um programa de resiliência contra fraude de deepfake do treinamento de cibersegurança ou antiphishing tradicional?

O treinamento de cibersegurança, como o conhecemos, foi criado no início dos anos 2000, quando a internet e o computador comercial ainda estavam se desenvolvendo. Desde então, o conteúdo evoluiu para atender às necessidades de conformidade, com foco em plataformas LMS e gamificação para engajamento. Mas o cenário de ameaças mudou.

A fraude de hoje é inteligente, criativa e psicologicamente engenhada. Os criminosos usam IA com a mesma sofisticação que a academia ou a empresa. O treinamento, portanto, deve ir além da conformidade e entrar na cognição.

O treinamento de resiliência contra fraude de deepfake não pode ser reduzido a clicar em um link. Ele deve ensinar as pessoas a pensar criticamente, a questionar a autenticidade das faces e vozes com as quais interagem e a reconhecer como facilmente a percepção pode ser manipulada.

Um ênfase igual deve ser colocado na resiliência cognitiva. Emoções intensificadas, mentes distraídas e multitarefa constante todas enfraquecem o pensamento crítico. Construir resiliência cognitiva treina os funcionários para manter um equilíbrio emocional e permanecer analíticos e alertas. É exatamente a mentalidade necessária para resistir à manipulação.

Sua empresa oferece Avaliações de Vulnerabilidade de Deepfake e Exercícios de Mesa. Pode nos levar por um desses simulados e quais insights os clientes geralmente ganham?

Em nossas avaliações de vulnerabilidade e exercícios de mesa, replicamos os vetores de ataque habilitados por deepfakes mais recentes, extraídos de incidentes reais. Cenários comuns incluem um candidato a emprego falso usando uma identidade clonada, uma help desk de TI comprometida para redefinir credenciais de autenticação de vários fatores ou uma chamada de vídeo com uma persona gerada por IA que convence a equipe a baixar software malicioso.

Esses simulados expõem como as pessoas respondem sob pressão e revelam pontos cegos na comunicação, processo e resposta a incidentes. Os executivos frequentemente descobrem expertise em falta e propriedade de decisão não clara. Os resultados geralmente levam a um programa de resiliência sustentado. Um que fortalece a literacia de fraude, mudança de processo e cultura e preparação para crises em toda a organização.

Você frequentemente fala sobre gestão de risco centrada no ser humano. Como as empresas podem empoderar seus funcionários para detectar e resistir à manipulação de deepfake em vez de confiar apenas em ferramentas técnicas?

Os deepfakes exploram o mesmo circuito neural que nos ajuda a avaliar confiança e emoção. Nosso cérebro é projetado para priorizar pistas visuais e auditivas, pois esses são os primeiros sentidos que desenvolvemos. Mas ainda não evoluímos para questionar instintivamente essas pistas, então devemos aprender e reforçar constantemente essa habilidade.

As empresas podem empoderar seus funcionários treinando-os para tratar interações digitais com cautela e curiosidade. Quando estamos em uma ligação de voz ou vídeo, estamos interagindo com um artefato. Esse artefato pode ser uma pessoa real projetada na tela ou pode ser um artefato artificial. Não podemos determinar isso visualmente.

A única defesa é a verificação ativa: fazer as perguntas certas, verificar detalhes e notar inconsistências na narrativa. O novo mantra deve ser simples — confiança zero, sempre verificar.

Os deepfakes borram a linha entre desinformação e fraude. Como os executivos podem se preparar para crises de reputação e operacionais desencadeadas por incidentes de mídia sintética?

As equipes de liderança devem agora tratar incidentes de deepfake como um risco comercial fundamental, não hipotético. Cada executivo ao redor da mesa deve saber seu papel quando uma crise se desenrola.

Assim como os conselhos de administração revisam registros de risco, eles também devem revisar planos de resposta a incidentes, e esses planos não podem ser estáticos. O cenário de ameaças muda muito rapidamente. Os planos precisam ser testados e atualizados pelo menos duas vezes por ano, idealmente após um exercício de mesa que simula um evento real.

As crises de deepfake raramente se encaixam neatamente dentro de uma função. Elas exigem coordenação entre comunicações, jurídico, segurança e RH. As organizações que respondem melhor são aquelas cujos líderes ensaiam essa colaboração antes que um incidente real ocorra.

também há um custo psicológico quando os funcionários ou executivos se tornam alvos de deepfakes convincentes. Quais protocolos ou apoio as organizações devem ter em lugar para abordar esse impacto humano?

“Vergonha do golpe” deve ser evitada a todo custo. As organizações devem construir uma cultura de segurança psicológica muito antes de um incidente ocorrer. Quando os funcionários ou executivos se tornam alvos de deepfakes, a experiência pode parecer um ataque. Uma perda de controle sobre a própria semelhança, voz e identidade digital.

A resposta deve ser tanto procedimental quanto humana. Protocolos de relatório claros devem estar ao lado do apoio à saúde mental, debriefings confidenciais e acesso à forense digital para que os indivíduos entendam o que aconteceu.

Os líderes definem o tom. Quando os executivos falam abertamente sobre tentativas de manipulação e recuperação, isso remove o estigma e encoraja a transparência. Essa abertura é o que transforma a vulnerabilidade individual em resiliência coletiva.

Como fundadora de uma consultoria nesse espaço, quais são suas maiores preocupações sobre como a IA gerativa está evoluindo — e onde você vê a próxima onda de capacidades de deepfake emergir?

A IA gerativa está evoluindo a uma velocidade extraordinária. Isso em si não é a preocupação. O risco real jaz em sua adoção rápida e adesão em operações comerciais diárias. O ritmo de gestão de ameaças e conscientização simplesmente não acompanhou. Essa lacuna entre ameaça e resiliência é exatamente onde os fraudadores prosperam, com deepfakes como seu principal habilitador.

Cada nova inovação se torna outra superfície para exploração. No momento, os agentes de IA representam um risco crescente. Quando combinados com tecnologia de deepfake, eles podem executar fraude em escala, velocidade e precisão que nenhum atacante humano pode igualar.

Conversamente, quais tecnologias ou esforços colaborativos lhe dão otimismo de que podemos ficar à frente da fraude e desinformação impulsionadas por deepfake?

O fato de essa conversa estar acontecendo em uma publicação respeitada é em si um sinal de progresso. Isso mostra que inovadores, reguladores, mídia e empresas estão todos sendo afetados pela desinformação.

O que me dá otimismo é a crescente disposição para colaborar. A resiliência contra deepfake não virá de uma ferramenta ou organização, mas de inteligência compartilhada. Aprender a trocar informações e educar a comunidade com a mesma eficiência que os criminosos.

Ainda precisamos refinar como essa colaboração acontece, mas a intenção está lá. E essa intenção coletiva é o que restaurará a confiança.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Aarti Samani.