Como os Criminosos Estão Ganhar a Corrida Armamentista de IA Antes que as Empresas Mesmo Comecem

Em uma era em que a IA transforma as indústrias a um ritmo sem precedentes, o lado sombrio dessa revolução tecnológica é igualmente alarmante. À medida que as empresas correm para aproveitar o potencial da IA, os cibercriminosos estão explorando esses avanços, alterando a dinâmica do cibercrime e da fraude.

Mudando a Economia do Cibercrime e da Fraude

Os cibercriminosos utilizam os mesmos modelos e tecnologias de IA que as empresas empregam, muitas vezes adaptando-os dentro de dias após o seu lançamento. Um dos primeiros exemplos de tal mau uso foi a automação da resolução de CAPTCHA usando o ChatGPT-1, que demonstrou como os modelos gerativos podiam rapidamente contornar controles de segurança básicos.

Desde então, cada avanço importante na IA gerativa foi rapidamente refletido por adaptações criminosas, incluindo a geração de vozes e vídeos deepfake que aparecem quase imediatamente em plataformas darknet. Esse ciclo acelerado permite que fraudadores explorem tecnologias sofisticadas para criar golpes convincentes, minando as medidas de segurança tradicionais.

No primeiro trimestre de 2025, a fraude habilitada por deepfake causou mais de $200 milhões em perdas financeiras. A rentabilidade do cibercrime disparou, com plataformas que oferecem “fraude como um serviço” tornando mais fácil do que nunca para os criminosos executarem esquemas complexos, incluindo identidades sintéticas e kits de phishing avançados.

À medida que as empresas lutam para ampliar suas capacidades de IA, os criminosos estão à frente, inovando continuamente e explorando lacunas deixadas por estruturas de segurança desatualizadas.

Por Que as Estruturas de Segurança Cibernética e Confiança Legadas Falham Contra Atores Movidos por IA

As medidas de segurança cibernética tradicionais que uma vez forneceram uma aparência de proteção estão se provando inadequadas. Os sistemas legados, que confiam em listas negras, CAPTCHAs e autenticação de um único fator, estão mal equipados para combater o paisagem em evolução de ataques impulsionados por IA. Os criminosos empregam deepfakes que podem enganar scanners biométricos e identidades sintéticas que facilmente contornam protocolos de KYC.

Essa falha é agravada pelo fato de que muitas organizações ainda tratam a segurança cibernética como um centro de custo em vez de um componente crítico de infraestrutura. À medida que o Pentágono investe milhões para contratar hackers de IA, a lacuna tecnológica se torna evidente. Enquanto as empresas estão atoladas em teatro de conformidade, os criminosos estão utilizando a IA para explorar vulnerabilidades humanas, como ataques de spear-phishing que imitam comunicações de executivos.

Como os Ataques “Nativos de IA” Aparecem na Prática

As táticas de fraude modernas evoluíram muito além dos esquemas de phishing do passado. Os atacantes constroem cadeias de fraude elaboradas que parecem legítimas em cada etapa.

Imagine uma manhã corporativa familiar. Terça-feira, 9h43. Um CFO recebe um e-mail marcado como “urgente”, aparentemente vindo do CEO. O tom é familiar. A linguagem corresponde a solicitações anteriores. Uma mensagem de follow-up chega minutos depois em um canal diferente, reforçando a urgência. Até 11h00, uma transferência de wire de vários milhões de dólares é aprovada, mas posteriormente descoberta ter sido encaminhada para uma conta offshore controlada por atacantes.

Esses ataques nativos de IA são manipulações psicológicas que aproveitam a confiança e a autoridade. A sofisticação dessas operações destaca uma lacuna nas medidas de segurança existentes, que não podem detectar as anomalias comportamentais sutis que caracterizam a fraude moderna.

O Que as Empresas Devem Priorizar Realisticamente Antes de Implantar Mais IA Internamente

Antes de implantar mais IA internamente, as empresas precisam parar e reavaliar suas suposições sobre confiança. A aceleração do crime habilitado por IA expôs uma fraqueza estrutural: as organizações ainda estão defendendo contra ameaças de ontem, enquanto os ataques de hoje são projetados para parecer legítimos por padrão.

1. As Empresas Devem Repensar Como o Risco em Si é Definido.

As matrizes de risco tradicionais foram construídas em torno de falhas como falhas de sistema, vazamentos de dados, violações de política. Na era da IA, o risco cada vez mais decorre da simulação em vez do mau funcionamento. Em vez de perguntar “o que pode dar errado”, é mais apropriado perguntar “o que pode ser convincemente falsificado, em escala, mais rápido do que podemos reagir”.

As identidades sintéticas, a imitação de executivos e as narrativas geradas por IA se comportam de forma diferente das ameaças legadas: elas se espalham mais rápido, se misturam com atividades legítimas e exploram a confiança em vez de lacunas técnicas. Não é surpreendente que esses riscos tendem a ser classificados mais alto e materializarem-se com mais frequência do que seus antecessores não IA, escondendo-se dentro da segurança cibernética, fraude, risco de reputação ou conformidade.

2. As Organizações Devem Aceitar que a Prevenção Sozinha Não é Mais Suficiente.

As principais empresas agora mapeiam os riscos de IA para três camadas defensivas, que correspondem à arquitetura modular do AI Defender:

• Prevenção de Risco – que agora inclui antecipar ataques que exploram a confiança humana e o conteúdo gerado por IA, e não apenas bloquear ameaças conhecidas.
• Verificação de identidade consciente de IA
• Integridade de dispositivo e sessão
• Proteção de comunicação de executivos
• Deteção e Monitoramento de Ameaças combina análise de anomalias técnicas com monitoramento comportamental e de mídia, refletindo o fato de que muitos ataques nativos de IA se manifestam em padrões de comunicação em vez de código.
• Monitoramento contínuo de sinais e anomalias
• Deteção de IA vs IA
• Monitoramento de narrativa e mídia
• Investigação e Atribuição – focando em reconstruir eventos, atribuir intenção e produzir evidências ação, permitindo que as organizações respondam efetivamente mesmo quando a decepção escala mais rápido do que suas defesas iniciais.
• Explicabilidade de alertas de IA
• Atribuição de atividade suspeita
• Evidência de OSINT de nível

3. As Empresas Devem Confrontar a Dimensão Humana da Fraude Nativa de IA.

Os funcionários continuam a ser o principal ponto de entrada para ataques modernos, mas a natureza da exploração mudou. Um padrão comum observado cada vez mais em fraudes impulsionadas por IA envolve interações internas em vez de ataques externos. Os funcionários podem receber chamadas de vídeo curtas de algo que parece ser o RH, pedindo para “rapidamente verificar a identidade” para resolver um problema de folha de pagamento. O rosto, a voz e a marca parecem autênticos. O pedido em si parece inofensivo, mas silenciosamente habilita a tomada de conta mais tarde naquele dia.

Esse tipo de cenário ilustra por que a fraude impulsionada por IA aproveita o contexto, a autoridade e o timing, muitas vezes imitando a comunicação de executivos com precisão inquietante. Nesse ambiente, o treinamento de segurança tradicional arrisca se tornar pouco mais do que teatro de conformidade, oferecendo segurança sem resiliência real.

O desafio não está apenas na conscientização, mas em como o problema é enquadrado.

Reenquadrar o Problema (este é o passo zero)

Velho modelo mental: “Treinar funcionários para não cometerem erros.”

Novo modelo mental: “Assumir que os funcionários serão alvo, manipulados e instrumentalizados.”

Treinamento não é educação.

Treinamento é inoculação + memória muscular.

Visto por Essa Lente, o que as Equipes Devem ser Treinadas para Reconhecer Padrões de Fraude Recorrentes.

Os 5 vetores de fraude de IA dominantes que passam através dos funcionários – nenhum deles é parado por cartazes de conscientização:

4. As Organizações Precisam Repensar o que “Identidade” Significa em um Mundo de Realidade Sintética.

À medida que as vozes e vídeos deepfake minam a confiança biométrica, nenhum fator único pode provar autenticidade de forma confiável. A resiliência vem cada vez mais da acumulação de muitos sinais fracos ao longo do tempo, como contexto, continuidade e consistência em dispositivos, sessões e pontos de dados externos.

Dados abertos e externos, que foram por muito tempo tratados como secundários, estão ganhando importância estratégica. Quando combinados com sinais comportamentais internos, eles ajudam a responder a uma pergunta crítica: essa identidade ou ação faz sentido em diferentes contextos? Em um mundo onde quase tudo pode ser fabricado, a coerência se torna uma das poucas âncoras de confiança restantes.