David Kellerman, Field CTO en Cymulate – Serie de entrevistas

David Kellerman es el Field CTO en Cymulate, y un profesional técnico senior con experiencia en el campo de la seguridad de la información y la ciberseguridad. David lidera a los clientes hacia el éxito y los estándares de seguridad más altos.

Cymulate es una empresa de ciberseguridad que proporciona validación de exposición a amenazas para organizaciones que buscan cerrar brechas de seguridad antes de que los atacantes las exploten. Su plataforma permite a las organizaciones establecer un estándar de seguridad y fortalecer la resiliencia cibernética a través de la detección continua, la validación, la priorización y la remediación guiada de debilidades de seguridad. A través de la automatización y la inteligencia artificial, Cymulate ofrece pruebas de seguridad ofensiva avanzadas para validar controles, amenazas y rutas de ataque. Como plataforma abierta, Cymulate se integra con la infraestructura de seguridad y TI existente para impulsar el flujo de trabajo del proceso de gestión de exposición y mejorar las defensas en tiempo real. Al ofrecer simulación de brecha y ataque (BAS), gestión de exposición y gestión de postura de seguridad, Cymulate ayuda a las empresas a identificar vulnerabilidades.

¿Qué considera el principal impulsor detrás del aumento de las amenazas de ciberseguridad relacionadas con la inteligencia artificial en 2025?

Las amenazas de ciberseguridad relacionadas con la inteligencia artificial están aumentando debido a la mayor accesibilidad de la inteligencia artificial. Los actores maliciosos ahora tienen acceso a herramientas de inteligencia artificial que pueden ayudarles a iterar sobre malware, crear correos electrónicos de phishing más creíbles y aumentar su alcance. Estas tácticas no son “nuevas”, pero la velocidad y la precisión con las que se están desplegando han agregado significativamente a la ya larga lista de amenazas cibernéticas que los equipos de seguridad deben abordar. Las organizaciones se apresuran a implementar tecnología de inteligencia artificial, sin comprender completamente que los controles de seguridad deben establecerse alrededor de ella, para asegurarse de que no sea explotada fácilmente por los actores maliciosos.

¿Hay industrias o sectores específicos más vulnerables a estas amenazas relacionadas con la inteligencia artificial, y por qué?

Las industrias que comparten datos consistentemente a través de canales entre empleados, clientes o clientes son susceptibles a amenazas relacionadas con la inteligencia artificial porque la inteligencia artificial está haciendo que sea más fácil para los actores maliciosos participar en esquemas de ingeniería social convincentes. Los estafadores de phishing son efectivamente un juego de números, y si los atacantes pueden enviar correos electrónicos que parecen más auténticos a un número mayor de destinatarios, su tasa de éxito aumentará significativamente. Las organizaciones que exponen sus servicios impulsados por inteligencia artificial al público potencialmente invitan a los atacantes a intentar explotarlos. Aunque es un riesgo inherente al hacer que los servicios sean públicos, es crucial hacerlo correctamente.

¿Cuáles son las principales vulnerabilidades que enfrentan las organizaciones al utilizar modelos de lenguaje grande (LLM) públicos para funciones comerciales?

La fuga de datos es probablemente la principal preocupación. Al utilizar un modelo de lenguaje grande (LLM) público, es difícil decir con certeza adónde irá ese dato, y lo último que desea hacer es subir información confidencial a una herramienta de inteligencia artificial accesible públicamente. Si necesita analizar datos confidenciales, manténgalos dentro de la empresa. No recurra a modelos de lenguaje grande públicos que puedan filtrar esa información a Internet.

¿Cómo pueden las empresas asegurar de manera efectiva los datos sensibles al probar o implementar sistemas de inteligencia artificial en producción?

Al probar sistemas de inteligencia artificial en producción, las organizaciones deben adoptar una mentalidad ofensiva (en lugar de defensiva). Es decir, los equipos de seguridad deben proactivamente probar y validar la seguridad de sus sistemas de inteligencia artificial, en lugar de reaccionar a las amenazas entrantes. La monitorización constante de los ataques y la validación de los sistemas de seguridad pueden ayudar a asegurarse de que los datos sensibles estén protegidos y las soluciones de seguridad estén funcionando según lo previsto.

¿Cómo pueden las organizaciones defenderse proactivamente contra los ataques impulsados por la inteligencia artificial que están evolucionando constantemente?

Mientras que los actores maliciosos están utilizando la inteligencia artificial para evolucionar sus amenazas, los equipos de seguridad también pueden utilizar la inteligencia artificial para actualizar sus herramientas de simulación de brecha y ataque (BAS) para asegurarse de que estén protegidos contra las amenazas emergentes. Herramientas como la alimentación diaria de amenazas de Cymulate cargan las últimas amenazas emergentes en el software de simulación de brecha y ataque de Cymulate a diario para asegurarse de que los equipos de seguridad estén validando la ciberseguridad de su organización contra las amenazas más recientes. La inteligencia artificial puede ayudar a automatizar procesos como estos, lo que permite a las organizaciones permanecer ágiles y listas para enfrentar incluso las amenazas más nuevas.

¿Cuál es el papel que desempeñan las plataformas de validación de seguridad automatizadas, como Cymulate, en la mitigación de los riesgos que plantean las amenazas cibernéticas impulsadas por la inteligencia artificial?

Las plataformas de validación de seguridad automatizadas pueden ayudar a las organizaciones a mantenerse por delante de las amenazas cibernéticas emergentes impulsadas por la inteligencia artificial a través de herramientas destinadas a identificar, validar y priorizar las amenazas. Con la inteligencia artificial actuando como un multiplicador de fuerza para los atacantes, es importante no solo detectar posibles vulnerabilidades en la red y los sistemas, sino validar cuáles representan un riesgo real para la organización. Solo entonces se pueden priorizar eficazmente las exposiciones, lo que permite a las organizaciones mitigar las amenazas más peligrosas primero antes de pasar a artículos menos apremiantes. Los atacantes están utilizando la inteligencia artificial para sondear entornos digitales en busca de posibles debilidades antes de lanzar ataques altamente personalizados, lo que significa que la capacidad de abordar las vulnerabilidades peligrosas de manera automática y eficaz nunca ha sido más crítica.

¿Cómo pueden las empresas incorporar herramientas de simulación de brecha y ataque para prepararse para los ataques impulsados por la inteligencia artificial?

El software de simulación de brecha y ataque es un elemento importante de la gestión de exposición, lo que permite a las organizaciones crear escenarios de ataque del mundo real que pueden utilizar para validar los controles de seguridad contra las amenazas más apremiantes de hoy en día. La última inteligencia de amenazas y la investigación primaria del Grupo de Investigación de Amenazas de Cymulate (combinada con información sobre amenazas emergentes y nuevas simulaciones) se aplica diariamente a la herramienta de simulación de brecha y ataque de Cymulate, alertando a los líderes de seguridad si una nueva amenaza no fue bloqueada o detectada por los controles de seguridad existentes. Con la simulación de brecha y ataque, las organizaciones también pueden personalizar simulaciones impulsadas por la inteligencia artificial para sus entornos y políticas de seguridad únicos con un marco abierto para crear y automatizar campañas y escenarios de ataque avanzados.

¿Cuáles son las tres principales recomendaciones que daría a los equipos de seguridad para mantenerse por delante de estas amenazas emergentes?

Las amenazas están volviéndose más complejas cada día. Las organizaciones que no tienen un programa de gestión de exposición efectivo en lugar de riesgo de caer peligrosamente atrás, por lo que mi primera recomendación sería implementar una solución que permita a la organización priorizar eficazmente sus exposiciones. A continuación, asegúrese de que la solución de gestión de exposición incluya capacidades de simulación de brecha y ataque que permitan al equipo de seguridad simular amenazas emergentes (y de inteligencia artificial) para evaluar cómo los controles de seguridad de la organización funcionan. Finalmente, recomendaría aprovechar la automatización para asegurarse de que la validación y las pruebas puedan realizarse de forma continua, no solo durante las revisiones periódicas. Con el panorama de amenazas cambiando en una base de minuto a minuto, es fundamental tener información actualizada. Los datos de amenazas del último trimestre ya están obsoletos.

¿Qué desarrollos en la tecnología de inteligencia artificial prevé en los próximos cinco años que podrían agravar o mitigar los riesgos de ciberseguridad?

Mucho dependerá de cuán accesible siga siendo la inteligencia artificial. Hoy en día, los atacantes de bajo nivel pueden utilizar capacidades de inteligencia artificial para mejorar y aumentar sus ataques, pero no están creando nuevas tácticas sin precedentes: solo están haciendo que las tácticas existentes sean más efectivas. Por ahora, podemos (en su mayoría) compensar por eso. Pero si la inteligencia artificial sigue creciendo y sigue siendo muy accesible, eso podría cambiar. Las regulaciones desempeñarán un papel aquí: la UE (y, en menor medida, EE. UU.) han tomado medidas para regular cómo se desarrolla y utiliza la inteligencia artificial, por lo que será interesante ver si eso tiene un efecto en el desarrollo de la inteligencia artificial.

¿Prevé un cambio en la forma en que las organizaciones priorizan las amenazas de ciberseguridad relacionadas con la inteligencia artificial en comparación con los desafíos de ciberseguridad tradicionales?

Ya estamos viendo que las organizaciones reconocen el valor de soluciones como la simulación de brecha y ataque y la gestión de exposición. La inteligencia artificial está permitiendo que los actores maliciosos lancen campañas avanzadas y dirigidas con rapidez, y los equipos de seguridad necesitan cualquier ventaja que puedan obtener para ayudar a mantenerse por delante de ellos. Las organizaciones que utilizan herramientas de validación tendrán una tarea significativamente más fácil para mantener la cabeza por encima del agua al priorizar y mitigar las amenazas más apremiantes y peligrosas primero. Recuerde, la mayoría de los atacantes buscan una puntuación fácil. Es posible que no pueda detener cada ataque, pero puede evitar convertirse en un objetivo fácil.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Cymulate.