Luchando contra el AI con AI en el paisaje de amenazas modernas

No es exactamente una noticia de última hora decir que el AI ha cambiado dramáticamente la industria de la ciberseguridad. Tanto los atacantes como los defensores están recurriendo a la inteligencia artificial para mejorar sus capacidades, cada uno tratando de mantenerse un paso por delante del otro. Este juego del gato y el ratón no es nada nuevo – los atacantes han estado tratando de superar a los equipos de seguridad durante décadas, después de todo – pero la aparición de la inteligencia artificial ha introducido un elemento fresco y a menudo impredecible en la dinámica. Los atacantes de todo el mundo se frotan las manos con alegría ante la perspectiva de aprovechar esta nueva tecnología para desarrollar métodos de ataque innovadores y nunca antes vistos.

Al menos, esa es la percepción. Pero la realidad es un poco diferente. Si bien es cierto que los atacantes están utilizando cada vez más el AI, en su mayoría lo están utilizando para aumentar la escala y la complejidad de sus ataques, perfeccionando su enfoque de tácticas existentes en lugar de romper nuevos caminos. La lógica aquí es clara: ¿por qué gastar tiempo y esfuerzo en desarrollar los métodos de ataque del mañana cuando los defensores ya luchan por detener los de hoy? Afortunadamente, los equipos de seguridad modernos están aprovechando las capacidades del AI por su cuenta – muchas de las cuales están ayudando a detectar malware, intentos de phishing y otras tácticas de ataque comunes con mayor velocidad y precisión. A medida que la “carrera armamentística del AI” entre atacantes y defensores continúa, será cada vez más importante que los equipos de seguridad entiendan cómo los adversarios están desplegando realmente la tecnología – y asegurarse de que sus propios esfuerzos estén enfocados en el lugar correcto.

Cómo los atacantes están aprovechando el AI

La idea de un AI semi-autónomo desplegado para hackear metódicamente las defensas de una organización es aterradora, pero (por ahora) permanece firmemente en el reino de las novelas de William Gibson y otros relatos de ciencia ficción. Es cierto que el AI ha avanzado a un ritmo increíble en los últimos años, pero todavía estamos lejos de la inteligencia artificial general (IAG) capaz de imitar perfectamente los patrones de pensamiento y comportamiento humanos. Eso no significa que el AI de hoy no sea impresionante – ciertamente lo es. Pero las herramientas de AI generativo y los modelos de lenguaje grande (LLM) son más efectivos para sintetizar información a partir de material existente y generar pequeños cambios iterativos. No pueden crear algo completamente nuevo por sí mismos – pero no te equivoques, la capacidad de sintetizar e iterar es increíblemente útil.

En la práctica, esto significa que en lugar de desarrollar nuevos métodos de ataque, los adversarios pueden mejorar los actuales. Usando el AI, un atacante podría enviar millones de correos electrónicos de phishing, en lugar de miles. También pueden utilizar un LLM para crear un mensaje más convincente, engañando a más destinatarios para que hagan clic en un enlace malicioso o descarguen un archivo con malware. Las tácticas como el phishing son básicamente un juego de números: la gran mayoría de las personas no caerán en un correo electrónico de phishing, pero si millones de personas lo reciben, incluso una tasa de éxito del 1% puede resultar en miles de nuevas víctimas. Si los LLM pueden aumentar esa tasa de éxito del 1% al 2% o más, los estafadores pueden efectivamente duplicar la eficacia de sus ataques con poco o ningún esfuerzo. Lo mismo ocurre con el malware: si los pequeños ajustes al código de malware pueden efectivamente camuflarlos de las herramientas de detección, los atacantes pueden obtener mucho más provecho de un programa de malware individual antes de tener que pasar a algo nuevo.

Otro elemento en juego aquí es la velocidad. Debido a que los ataques basados en AI no están sujetos a limitaciones humanas, a menudo pueden realizar una secuencia de ataque completa a un ritmo mucho más rápido que un operador humano. Eso significa que un atacante podría potencialmente infiltrarse en una red y llegar a los “tesoros” de la víctima – sus datos más sensibles o valiosos – antes de que el equipo de seguridad siquiera reciba una alerta, y mucho menos responda a ella. Si los atacantes pueden moverse más rápido, no necesitan ser tan cuidadosos – lo que significa que pueden permitirse actividades más ruidosas y disruptivas sin ser detenidos. No necesariamente están haciendo algo nuevo aquí, pero al avanzar en sus ataques más rápidamente, pueden superar las defensas de la red de una manera potencialmente cambiadora del juego.

Esta es la clave para entender cómo los atacantes están aprovechando el AI. Los estafadores de ingeniería social y los programas de malware ya son vectores de ataque exitosos – pero ahora los adversarios pueden hacerlos aún más efectivos, desplegarlos más rápidamente y operar a una escala aún mayor. En lugar de luchar contra docenas de intentos por día, las organizaciones podrían estar luchando contra cientos, miles o incluso decenas de miles de ataques rápidos. Y si no tienen soluciones o procesos en lugar para detectar rápidamente esos ataques, identificar cuáles representan amenazas reales y tangibles, y remediarlos efectivamente, se están dejando peligrosamente abiertos a los atacantes. En lugar de preguntarse cómo los atacantes podrían aprovechar el AI en el futuro, las organizaciones deberían aprovechar las soluciones de AI por su cuenta con el objetivo de manejar los métodos de ataque existentes a una mayor escala.

Volviendo el AI a la ventaja de los equipos de seguridad

Los expertos en seguridad en todos los niveles de negocio y gobierno están buscando formas de aprovechar el AI para fines defensivos. En agosto, la Agencia de Investigación y Desarrollo Avanzado de Defensa de EE. UU. (DARPA) anunció a los finalistas de su reciente Desafío de AI en ciberseguridad (AIxCC), que otorga premios a los equipos de investigación de seguridad que trabajan para entrenar a los LLM para identificar y solucionar vulnerabilidades basadas en código. El desafío está respaldado por importantes proveedores de AI, incluidos Google, Microsoft y OpenAI, que brindan apoyo tecnológico y financiero para estos esfuerzos para fortalecer la seguridad basada en AI. Por supuesto, DARPA es solo un ejemplo – apenas puedes sacudir un palo en Silicon Valley sin golpear a una docena de fundadores de startups ansiosos por contarte sobre sus avanzadas soluciones de seguridad basadas en AI. Basta decir que encontrar nuevas formas de aprovechar el AI para fines defensivos es una alta prioridad para las organizaciones de todos los tipos y tamaños.

Pero al igual que los atacantes, los equipos de seguridad a menudo encuentran el mayor éxito cuando utilizan el AI para amplificar sus capacidades existentes. Con los ataques sucediendo a una escala cada vez mayor, los equipos de seguridad a menudo están estirados delgados – tanto en términos de tiempo como de recursos – lo que hace difícil identificar, investigar y remediar adecuadamente cada alerta de seguridad que aparece. Simplemente no hay tiempo. Las soluciones de AI están desempeñando un papel importante para aliviar ese desafío al proporcionar capacidades de detección y respuesta automatizadas. Si hay algo en lo que el AI es bueno, es identificar patrones – y eso significa que las herramientas de AI son muy buenas para reconocer comportamiento anormal, especialmente si ese comportamiento se ajusta a patrones de ataque conocidos. Debido a que el AI puede revisar vastas cantidades de datos mucho más rápidamente que los humanos, esto permite a los equipos de seguridad ampliar sus operaciones de manera significativa. En muchos casos, estas soluciones incluso pueden automatizar procesos de remediación básicos, contrarrestando ataques de bajo nivel sin la necesidad de intervención humana. También se pueden utilizar para automatizar el proceso de validación de seguridad, pinchando y probando constantemente las defensas de la red para asegurarse de que estén funcionando como se pretendía.

También es importante destacar que el AI no solo permite a los equipos de seguridad identificar la actividad de ataque potencial más rápidamente – también mejora drásticamente su precisión. En lugar de perseguir falsas alarmas, los equipos de seguridad pueden estar seguros de que cuando una solución de AI les alerta sobre un ataque potencial, es digno de su atención inmediata. Este es un elemento del AI que no se habla lo suficiente – mientras que gran parte de la discusión se centra en el AI “reemplazando” a los humanos y quitándoles sus trabajos, la realidad es que las soluciones de AI están permitiendo a los humanos hacer sus trabajos mejor y más eficientemente, al mismo tiempo que alivian el agotamiento que conlleva realizar tareas tediosas y repetitivas. Lejos de tener un impacto negativo en los operadores humanos, las soluciones de AI están manejando gran parte del “trabajo” percibido asociado con las posiciones de seguridad, lo que permite a los humanos centrarse en tareas más interesantes y importantes. En un momento en que el agotamiento está en un máximo histórico y muchas empresas luchan por atraer nuevo talento de seguridad, mejorar la calidad de vida y la satisfacción laboral puede tener un impacto positivo masivo.

Ahí radica la verdadera ventaja para los equipos de seguridad. No solo las soluciones de AI pueden ayudarlos a ampliar sus operaciones para combatir eficazmente a los atacantes que aprovechan las herramientas de AI – también pueden mantener a los profesionales de seguridad más felices y satisfechos en sus roles. Esa es una solución de ganar-ganar para todos los involucrados, y debería ayudar a que las empresas de hoy reconozcan que el momento de invertir en soluciones de seguridad basadas en AI es ahora.

La carrera armamentística del AI apenas comienza

La carrera para adoptar soluciones de AI está en marcha, con ambos atacantes y defensores encontrando diferentes formas de aprovechar la tecnología para su ventaja. A medida que los atacantes utilizan el AI para aumentar la velocidad, la escala y la complejidad de sus ataques, los equipos de seguridad necesitarán luchar contra el fuego con fuego, utilizando herramientas de AI por su cuenta para mejorar la velocidad y la precisión de sus capacidades de detección y remediación. Afortunadamente, las soluciones de AI están brindando información crítica a los equipos de seguridad, lo que les permite probar y evaluar la eficacia de sus propias soluciones mientras también liberan tiempo y recursos para tareas más críticas. No te equivoques, la carrera armamentística del AI apenas comienza – pero el hecho de que los profesionales de la seguridad ya estén utilizando el AI para mantenerse un paso por delante de los atacantes es un muy buen signo. them to better test and evaluate the efficacy of their own solutions while also freeing up time and resources for more mission-critical tasks. Make no mistake, the AI arms race is only getting started—but the fact that security professionals are already using AI to stay one step ahead of attackers is a very good sign.