Luchando contra la IA con IA en el paisaje de amenazas modernas

No es exactamente una noticia de última hora decir que la IA ha cambiado dramáticamente la industria de la ciberseguridad. Tanto los atacantes como los defensores están recurriendo a la inteligencia artificial para mejorar sus capacidades, cada uno tratando de mantenerse un paso por delante del otro. Este juego del gato y el ratón no es nada nuevo, después de todo, los atacantes han estado tratando de superar a los equipos de seguridad durante décadas, pero la emergencia de la inteligencia artificial ha introducido un elemento fresco y a menudo impredecible en la dinámica. Los atacantes de todo el mundo se frotan las manos con alegría ante la perspectiva de aprovechar esta nueva tecnología para desarrollar métodos de ataque innovadores y nunca antes vistos.

Al menos, esa es la percepción. Pero la realidad es un poco diferente. Si bien es cierto que los atacantes están utilizando cada vez más la IA, en su mayoría la están utilizando para aumentar la escala y la complejidad de sus ataques, perfeccionando su enfoque de tácticas existentes en lugar de romper nuevos caminos. La lógica aquí es clara: ¿por qué gastar tiempo y esfuerzo en desarrollar los métodos de ataque del mañana cuando los defensores ya luchan por detener los de hoy? Afortunadamente, los equipos de seguridad modernos están aprovechando las capacidades de la IA por su parte, muchas de las cuales están ayudando a detectar malware, intentos de phishing y otras tácticas de ataque comunes con mayor velocidad y precisión. A medida que continúa la “carrera de armas de la IA” entre atacantes y defensores, será cada vez más importante que los equipos de seguridad entiendan cómo los adversarios están desplegando realmente la tecnología y asegurarse de que sus propios esfuerzos estén enfocados en el lugar correcto.

Cómo los atacantes están aprovechando la IA

La idea de una IA semi-autónoma desplegada para hackear metódicamente las defensas de una organización es aterradora, pero (por ahora) permanece firmemente en el reino de las novelas de William Gibson y otros relatos de ciencia ficción. Es cierto que la IA ha avanzado a un ritmo increíble en los últimos años, pero todavía estamos lejos de la inteligencia artificial general (AGI) capaz de imitar perfectamente los patrones de pensamiento y comportamiento humanos. No es decir que la IA de hoy no sea impresionante, ciertamente lo es. Pero las herramientas de IA generativa y los grandes modelos de lenguaje (LLM) son más efectivos para sintetizar información a partir de material existente y generar pequeños cambios iterativos. No pueden crear algo completamente nuevo por sí mismos, pero no te equivoques, la capacidad de sintetizar e iterar es increíblemente útil.

En la práctica, esto significa que en lugar de desarrollar nuevos métodos de ataque, los adversarios pueden mejorar los actuales. Usando la IA, un atacante podría enviar millones de correos electrónicos de phishing, en lugar de miles. También pueden utilizar un LLM para crear un mensaje más convincente, engañando a más destinatarios para que hagan clic en un enlace malicioso o descarguen un archivo con malware. Las tácticas como el phishing son efectivamente un juego de números: la gran mayoría de las personas no caerán en un correo electrónico de phishing, pero si millones de personas lo reciben, incluso una tasa de éxito del 1% puede resultar en miles de nuevas víctimas. Si los LLM pueden aumentar esa tasa de éxito del 1% al 2% o más, los estafadores pueden efectivamente duplicar la eficacia de sus ataques con poco o ningún esfuerzo. Lo mismo ocurre con el malware: si los pequeños ajustes al código del malware pueden efectivamente camuflarlo de las herramientas de detección, los atacantes pueden obtener mucho más provecho de un programa de malware individual antes de tener que moverse a algo nuevo.

El otro elemento en juego aquí es la velocidad. Debido a que los ataques basados en la IA no están sujetos a las limitaciones humanas, a menudo pueden realizar una secuencia de ataque completa a un ritmo mucho más rápido que un operador humano. Eso significa que un atacante podría potencialmente infiltrarse en una red y llegar a los “tesoros” de la víctima, sus datos más sensibles o valiosos, antes de que el equipo de seguridad siquiera reciba una alerta, y mucho menos responda a ella. Si los atacantes pueden moverse más rápido, no necesitan ser tan cuidadosos, lo que significa que pueden permitirse actividades más ruidosas y disruptivas sin ser detenidos. No están necesariamente haciendo nada nuevo aquí, pero al avanzar en sus ataques más rápidamente, pueden superar las defensas de la red de una manera potencialmente cambia del juego.

Esta es la clave para entender cómo los atacantes están aprovechando la IA. Los estafadores de ingeniería social y los programas de malware ya son vectores de ataque exitosos, pero ahora los adversarios pueden hacerlos aún más efectivos, desplegarlos más rápidamente y operar a una escala aún mayor. En lugar de luchar contra docenas de intentos por día, las organizaciones podrían estar luchando contra cientos, miles o incluso decenas de miles de ataques rápidos. Y si no tienen soluciones o procesos en lugar para detectar rápidamente esos ataques, identificar cuáles representan amenazas reales y tangibles, y remediarlos efectivamente, se están dejando peligrosamente abiertos a los atacantes. En lugar de preguntarse cómo los atacantes podrían aprovechar la IA en el futuro, las organizaciones deberían aprovechar las soluciones de IA por su parte con el objetivo de manejar los métodos de ataque existentes a una mayor escala.

Poniendo la IA a favor de los equipos de seguridad

Los expertos en seguridad en todos los niveles, tanto de empresas como de gobiernos, están buscando formas de aprovechar la IA para fines defensivos. En agosto, la Agencia de Investigación y Desarrollo Avanzado de Defensa de EE. UU. (DARPA) anunció a los finalistas de su reciente Desafío de IA en ciberseguridad (AIxCC), que otorga premios a los equipos de investigación de seguridad que trabajan para entrenar a los LLM para identificar y solucionar vulnerabilidades basadas en código. El desafío cuenta con el apoyo de importantes proveedores de IA, incluidos Google, Microsoft y OpenAI, todos los cuales brindan apoyo tecnológico y financiero para estos esfuerzos por fortalecer la seguridad basada en IA. Por supuesto, DARPA es solo un ejemplo, puedes golpear con un palo en Silicon Valley sin golpear a una docena de fundadores de startups ansiosos por contarte sobre sus soluciones de seguridad avanzadas basadas en IA. Basta decir que encontrar nuevas formas de aprovechar la IA para fines defensivos es una alta prioridad para las organizaciones de todos los tamaños y tipos.

Pero al igual que los atacantes, los equipos de seguridad a menudo encuentran el mayor éxito cuando utilizan la IA para amplificar sus capacidades existentes. Con los ataques ocurriendo a una escala cada vez mayor, los equipos de seguridad a menudo están estirados delgados, tanto en términos de tiempo como de recursos, lo que hace que sea difícil identificar, investigar y remediar adecuadamente cada alerta de seguridad que aparece. Simplemente no hay tiempo. Las soluciones de IA están desempeñando un papel importante para aliviar ese desafío al proporcionar capacidades de detección y respuesta automatizadas. Si hay algo en lo que la IA es buena, es identificar patrones, y eso significa que las herramientas de IA son muy buenas para reconocer comportamientos anormales, especialmente si ese comportamiento se ajusta a patrones de ataque conocidos. Debido a que la IA puede revisar vastas cantidades de datos mucho más rápido que los humanos, esto permite a los equipos de seguridad ampliar sus operaciones de manera significativa. En muchos casos, estas soluciones incluso pueden automatizar procesos básicos de remediación, contrarrestando ataques de bajo nivel sin la necesidad de intervención humana. También se pueden utilizar para automatizar el proceso de validación de seguridad, pinchando y probando constantemente las defensas de la red para asegurarse de que funcionen como se pretende.

También es importante destacar que la IA no solo permite a los equipos de seguridad identificar la actividad de ataque potencial más rápidamente, sino que también mejora dramáticamente su precisión. En lugar de perseguir falsas alarmas, los equipos de seguridad pueden estar seguros de que cuando una solución de IA les alerta sobre un ataque potencial, es digno de su atención inmediata. Este es un elemento de la IA que no se habla lo suficiente, mientras que gran parte de la discusión se centra en la IA “reemplazando” a los humanos y quitándoles sus trabajos, la realidad es que las soluciones de IA están permitiendo a los humanos hacer sus trabajos mejor y más eficientemente, al mismo tiempo que alivian el agotamiento que conlleva realizar tareas tediosas y repetitivas. Lejos de tener un impacto negativo en los operadores humanos, las soluciones de IA están manejando gran parte del “trabajo de mantenimiento” asociado con las posiciones de seguridad, lo que permite a los humanos centrarse en tareas más interesantes y importantes. En un momento en que el agotamiento está en un máximo histórico y muchas empresas luchan por atraer a nuevos talentos de seguridad, mejorar la calidad de vida y la satisfacción laboral puede tener un impacto positivo masivo.

Ahí radica la verdadera ventaja para los equipos de seguridad. No solo pueden las soluciones de IA ayudarlos a ampliar sus operaciones para combatir eficazmente a los atacantes que aprovechan las herramientas de IA por su parte, sino que también pueden mantener a los profesionales de la seguridad más felices y satisfechos en sus roles. Esa es una solución de ganar-ganar para todos los involucrados, y debería ayudar a las empresas de hoy a reconocer que el momento de invertir en soluciones de seguridad basadas en IA es ahora.

La carrera de armas de la IA apenas comienza

La carrera para adoptar soluciones de IA está en marcha, con ambos atacantes y defensores encontrando diferentes formas de aprovechar la tecnología en su beneficio. A medida que los atacantes utilizan la IA para aumentar la velocidad, la escala y la complejidad de sus ataques, los equipos de seguridad necesitarán luchar contra el fuego con fuego, utilizando herramientas de IA por su parte para mejorar la velocidad y la precisión de sus capacidades de detección y remediación. Afortunadamente, las soluciones de IA están proporcionando información crítica a los equipos de seguridad, lo que les permite probar y evaluar mejor la eficacia de sus propias soluciones, al mismo tiempo que liberan tiempo y recursos para tareas más críticas. No te equivoques, la carrera de armas de la IA apenas comienza, pero el hecho de que los profesionales de la seguridad ya estén utilizando la IA para mantenerse un paso por delante de los atacantes es un muy buen signo.