Inteligencia Artificial en Phishing: ¿Quiénes se benefician más, los atacantes o los defensores?

A medida que el cibercrimen ha crecido, la industria de la ciberseguridad ha tenido que adoptar tecnologías de vanguardia para mantenerse al día. La inteligencia artificial (IA) se ha convertido rápidamente en una de las herramientas más útiles para detener los ciberataques, pero los atacantes también pueden utilizarla. Las tendencias recientes de phishing son un excelente ejemplo de ambos lados del problema.

El phishing es el tipo de cibercrimen más común hoy en día por mucho. A medida que más empresas se han dado cuenta de esta amenaza en crecimiento, más han implementado herramientas de IA para detenerla. Sin embargo, los cibercriminales también están aumentando su uso de la IA en el phishing. Aquí hay una mirada más cercana a cómo ambos lados utilizan esta tecnología y quién se beneficia más de ella.

¿Cómo la IA ayuda a combatir el phishing?

Los ataques de phishing se aprovechan de la tendencia natural de las personas hacia la curiosidad y el miedo. Debido a que esta ingeniería social es tan efectiva, una de las mejores formas de protegerse contra ella es asegurarse de que no la vea en primer lugar. Ahí es donde entra en juego la IA.

Las herramientas de IA anti-phishing suelen venir en forma de filtros de correo electrónico avanzados. Estos programas escaneán sus mensajes entrantes en busca de signos de intentos de phishing y envían automáticamente los correos electrónicos sospechosos a su carpeta de basura. Algunas soluciones más nuevas pueden detectar correos electrónicos de phishing con una precisión del 99,9% al generar diferentes versiones de mensajes de estafa basados en ejemplos reales para entrenarlos para detectar variaciones.

A medida que los investigadores de seguridad detectan más correos electrónicos de phishing, pueden proporcionar a estos modelos más datos, lo que los hace aún más precisos. La capacidad de aprendizaje continuo de la IA también ayuda a refinar los modelos para reducir los falsos positivos.

La IA también puede ayudar a detener los ataques de phishing cuando haga clic en un enlace malicioso. El software de monitoreo automatizado puede establecer un estándar de comportamiento normal para detectar anomalías que probablemente surjan cuando alguien más use su cuenta. Pueden bloquear el perfil y alertar a los equipos de seguridad antes de que el intruso cause demasiado daño.

¿Cómo los atacantes utilizan la IA en el phishing?

El potencial de la IA para detener los ataques de phishing es impresionante, pero también es una herramienta poderosa para generar correos electrónicos de phishing. A medida que la IA generativa como ChatGPT se ha vuelto más accesible, está haciendo que los ataques de phishing sean más efectivos.

El phishing dirigido —que utiliza detalles personales para crear mensajes específicos para el usuario— es uno de los tipos de phishing más efectivos. Un correo electrónico que obtenga todos los detalles personales correctos será naturalmente mucho más convincente. Sin embargo, estos mensajes han sido tradicionalmente difíciles y tediosos de crear, especialmente a gran escala. Eso no es el caso con la IA generativa.

La IA puede generar grandes cantidades de mensajes de phishing personalizados en una fracción del tiempo que le tomaría a un ser humano. También es mejor que las personas para escribir correos electrónicos de phishing convincentes. En un estudio de 2021, los correos electrónicos de phishing generados por IA tuvieron tasas de clic significativamente más altas que los que escribieron los humanos — y eso fue antes del lanzamiento de ChatGPT.

Al igual que los marketeros utilizan la IA para personalizar sus campañas de alcance al cliente, los cibercriminales pueden utilizarla para crear mensajes de phishing efectivos y personalizados. A medida que la IA generativa mejora, estos mensajes de phishing falsos solo se volverán más convincentes.

Los atacantes siguen en la delantera gracias a las debilidades humanas

Con los atacantes y los defensores aprovechando la IA, ¿qué lado ha visto los beneficios más prominentes? Si se miran las tendencias recientes de cibercrimen, se verá que los cibercriminales han prosperado a pesar de protecciones más sofisticadas.

Los ataques de compromiso de correo electrónico empresarial aumentaron un 81% en la segunda mitad de 2022 y los empleados abrieron el 28% de estos mensajes. Eso es parte de un aumento a largo plazo del 175% en los últimos dos años, lo que sugiere que el phishing está creciendo más rápido que nunca. Estos ataques son efectivos, también, roban $17,700 por minuto, lo que probablemente explique por qué están detrás del 91% de los ciberataques.

¿Por qué ha crecido tanto el phishing a pesar de que la IA está mejorando las protecciones anti-phishing? Probablemente se deba al elemento humano. Los empleados deben utilizar realmente estas herramientas para que sean efectivas. Más allá de eso, los trabajadores podrían participar en otras actividades inseguras que los hacen propensos a intentos de phishing, como iniciar sesión en sus cuentas de trabajo en dispositivos personales no autorizados y no protegidos.

La encuesta mencionada anteriormente también encontró que los trabajadores informan solo el 2,1% de los ataques. Esta falta de comunicación puede hacer que sea difícil ver dónde y cómo deben mejorar las medidas de seguridad.

¿Cómo protegerse contra los ataques de phishing en aumento?

Dada esta tendencia alarmante, las empresas y los usuarios individuales deben tomar medidas para mantenerse a salvo. Implementar herramientas de IA anti-phishing es un buen comienzo, pero no puede ser la única medida. Solo el 7% de los equipos de seguridad no están utilizando o planean utilizar la IA, y sin embargo, la dominancia del phishing persiste, por lo que las empresas deben abordar el elemento humano también.

Dado que los humanos son el eslabón más débil contra los ataques de phishing, deben ser el enfoque de las medidas de mitigación. Las organizaciones deben hacer que las mejores prácticas de seguridad sean una parte más prominente de la capacitación de los empleados y la capacitación continua. Estos programas deben incluir cómo detectar ataques de phishing, por qué es un problema y simulaciones para probar su retención de conocimientos después de la capacitación.

Utilizar herramientas de gestión de identidad y acceso más fuertes también es importante, ya que ayudan a detener las violaciones exitosas después de que se produzcan. Incluso los empleados experimentados pueden cometer errores, por lo que debe ser posible detectar y detener las cuentas comprometidas antes de que causen un daño extenso.

La IA es una herramienta poderosa para el bien y el mal

La IA es una de las tecnologías más disruptivas de la historia reciente. Si eso es bueno o malo depende de su uso.

Es vital reconocer que la IA puede ayudar a los cibercriminales tanto como a los profesionales de la ciberseguridad. Cuando las organizaciones reconocen estos riesgos, pueden tomar medidas más efectivas para abordar los ataques de phishing en aumento.