Cómo los delincuentes están ganando la carrera armamentística de la IA antes de que las empresas incluso comiencen

En una era en la que la IA transforma las industrias a un ritmo sin precedentes, el lado oscuro de esta revolución tecnológica es igualmente alarmante. Mientras las empresas corren para aprovechar el potencial de la IA, los ciberdelincuentes están explotando estos avances, cambiando la dinámica del cibercrimen y el fraude.

Cambiar la economía del cibercrimen y el fraude

Los ciberdelincuentes utilizan los mismos modelos y tecnologías de IA que las empresas, a menudo adaptándolos dentro de días de su lanzamiento. Uno de los primeros ejemplos de este mal uso fue la automatización de la resolución de CAPTCHA utilizando ChatGPT-1, lo que demostró cómo los modelos generativos podían eludir los controles de seguridad básicos.

Desde entonces, cada avance importante en la IA generativa ha sido rápidamente replicado por adaptaciones criminales, incluida la generación de voces y videos deepfake que aparecen casi inmediatamente en plataformas de darknet. Este ciclo acelerado permite a los estafadores explotar tecnologías sofisticadas para crear estafas convincentes, socavando las medidas de seguridad tradicionales.

En el primer trimestre de 2025 solo, se informó que el fraude habilitado por deepfake causó más de $200 millones en pérdidas financieras. La rentabilidad del cibercrimen ha aumentado vertiginosamente, con plataformas que ofrecen “fraude como servicio” que facilitan a los delincuentes ejecutar esquemas complejos, incluyendo identidades sintéticas y kits de phishing avanzados.

Mientras las empresas luchan por ampliar sus capacidades de IA, los delincuentes están adelantándose, innovando y explotando continuamente las brechas dejadas por los marcos de seguridad obsoletos.

Por qué los marcos de seguridad y confianza heredados fallan contra actores impulsados por IA

Las medidas de seguridad tradicionales que una vez proporcionaron una apariencia de protección están demostrando ser inadecuadas. Los sistemas heredados, que confían en listas negras, CAPTCHAs y autenticación de un solo factor, están mal equipados para combatir el panorama cambiante de los ataques impulsados por IA. Los delincuentes emplean deepfakes que pueden engañar a los escáneres biométricos y identidades sintéticas que fácilmente evaden los protocolos de KYC.

Este fracaso se ve agravado por la realidad de que muchas organizaciones todavía tratan la seguridad como un centro de costos en lugar de un componente crítico de la infraestructura. Mientras el Pentágono invierte millones para contratar a hackers de IA, la brecha tecnológica se vuelve evidente. Mientras las empresas se pierden en el teatro de la conformidad, los delincuentes están utilizando la IA para explotar las vulnerabilidades humanas, como ataques de phishing dirigidos que imitan las comunicaciones de los ejecutivos.

Qué aspecto tienen los ataques “nativos de IA” en la práctica

Las tácticas modernas de fraude han evolucionado mucho más allá de los esquemas de phishing del pasado. Los atacantes construyen cadenas de fraude elaboradas que parecen legítimas en cada paso.

Imaginen una mañana corporativa familiar. Martes, 9:43 a. m. Un director financiero recibe un correo electrónico marcado como “urgente”, que parece provenir del CEO. El tono es familiar. El lenguaje coincide con solicitudes anteriores. Un mensaje de seguimiento llega minutos después en un canal diferente, reforzando la urgencia. A las 11:00 a. m., se aprueba una transferencia bancaria de varios millones de dólares, pero más tarde se descubre que se ha enviado a una cuenta offshore controlada por los atacantes.

Estos ataques nativos de IA son manipulaciones psicológicas que aprovechan la confianza y la autoridad. La sofisticación de estas operaciones destaca una brecha en las medidas de seguridad existentes, que no pueden detectar las anomalías conductuales sutiles que caracterizan al fraude moderno.

Qué deben priorizar realistamente las empresas antes de implementar más IA internamente

Antes de implementar más IA internamente, las empresas necesitan hacer una pausa y reevaluar sus suposiciones sobre la confianza. La aceleración del crimen habilitado por IA ha expuesto una debilidad estructural: las organizaciones todavía están defendiéndose contra las amenazas de ayer, mientras que los ataques de hoy están diseñados para parecer legítimos por defecto.

1. Las empresas deben replantear cómo se define el riesgo en sí.

Las matrices de riesgo tradicionales se construyeron alrededor de fallas como apagones del sistema, fugas de datos, violaciones de políticas. En la era de la IA, el riesgo cada vez más se deriva de la simulación en lugar del mal funcionamiento. En lugar de preguntar “qué podría salir mal”, es más apropiado preguntar “qué se puede falsificar de manera convincente, a escala, más rápido de lo que podemos reaccionar”.

Las identidades sintéticas, la impersonación de ejecutivos y las narrativas generadas por IA se comportan de manera diferente a las amenazas heredadas: se propagan más rápido, se mezclan con la actividad legítima y explotan la confianza en lugar de las brechas técnicas. No es de extrañar que estos riesgos tienden a clasificarse más alto y materializarse con más frecuencia que sus predecesores no IA, escondiéndose dentro de la ciberseguridad, el fraude, el riesgo de reputación o la conformidad.

2. Las organizaciones deben aceptar que la prevención sola ya no es suficiente.

Las principales empresas ahora asignan riesgos de IA a tres capas defensivas, que corresponden a la arquitectura modular de AI Defender:

• Prevención de riesgos – que ahora incluye anticipar ataques que explotan la confianza humana y el contenido generado por IA, no solo bloquear amenazas conocidas.
• Verificación de identidad consciente de IA
• Integridad de dispositivo y sesión
• Protección de la comunicación de ejecutivos
• Detección y monitoreo de amenazas combina el análisis de anomalías técnicas con el monitoreo de comportamiento y medios, reflejando el hecho de que muchos ataques nativos de IA se manifiestan en patrones de comunicación en lugar de código.
• Monitoreo continuo de señales y anomalías
• Detección de IA vs IA
• Monitoreo de narrativa y medios
• Investigación y atribución – centrándose en reconstruir eventos, atribuir intención y producir evidencia accionable, lo que permite a las organizaciones responder de manera efectiva incluso cuando el engaño se propaga más rápido que sus defensas iniciales.
• Explicación de alertas de IA
• Atribución de actividad sospechosa
• Evidencia de OSINT de grado

3. Las empresas deben enfrentar la dimensión humana del fraude nativo de IA.

Los empleados siguen siendo el punto de entrada principal para los ataques modernos, pero la naturaleza de la explotación ha cambiado. Un patrón común observado cada vez más en el fraude impulsado por IA implica interacciones internas en lugar de ataques externos. Los empleados pueden recibir llamadas de video cortas de lo que parece ser RRHH, pidiendo “verificar rápidamente la identidad” para resolver un problema de nómina. La cara, la voz y la marca parecen auténticas. La solicitud en sí misma parece inofensiva, pero silenciosamente permite la toma de cuenta más tarde ese día.

Este tipo de escenario ilustra por qué el fraude impulsado por IA aprovecha el contexto, la autoridad y el momento, a menudo imitando la comunicación de los ejecutivos con una precisión inquietante. En este entorno, la formación de seguridad tradicional riesgos a convertirse en poco más que teatro de conformidad, ofreciendo tranquilidad sin resiliencia real.

El desafío no radica solo en la conciencia, sino en cómo se plantea el problema.

Replantear el problema (este es el paso cero)

Viejo modelo mental: “Capacitar a los empleados para que no cometan errores”.

Nuevo modelo mental: “Suponer que los empleados serán objetivo, manipulados y utilizados como armas”.

La capacitación no es educación.

La capacitación es inmunización + memoria muscular.

Visto a través de esta lente, qué equipos deben ser capacitados para reconocer patrones de fraude recurrentes.

Los 5 vectores de fraude de IA dominantes que pasan a través de los empleados – ninguno de estos es detenido por carteles de conciencia:

4. Las organizaciones necesitan replantear qué significa “identidad” en un mundo de realidad sintética.

A medida que las voces y los videos deepfake socavan la confianza biométrica, ningún factor único puede demostrar de manera confiable la autenticidad. Cada vez más, la resiliencia proviene de la acumulación de muchas señales débiles a lo largo del tiempo, como contexto, continuidad y coherencia a través de dispositivos, sesiones y puntos de datos externos.

Los datos abiertos y externos, que durante mucho tiempo se trataron como secundarios, están ganando importancia estratégica. Cuando se combinan con señales de comportamiento internas, ayudan a responder a una pregunta crítica: ¿esta identidad o acción tiene sentido en diferentes contextos? En un mundo donde casi cualquier cosa puede ser fabricada, la coherencia se convierte en uno de los pocos anclajes de confianza restantes.