Keith Stewart, Fundador y CEO de Humanix – Serie de Entrevistas

Keith Stewart, Fundador y CEO de Humanix, es un veterano de la ciberseguridad con más de 25 años de experiencia en gestión de productos, ingeniería, desarrollo empresarial y liderazgo ejecutivo en algunas de las empresas más reconocidas de la industria, incluyendo Cisco, Brocade, Riverbed y vArmour. Antes de fundar Humanix en 2023, se desempeñó como CEO interino y Vicepresidente de Producto y Ingeniería en vArmour, donde ayudó a guiar a la empresa a través de su adquisición y transición a un modelo de negocio basado en SaaS. A lo largo de su carrera, Stewart ha liderado equipos globales, impulsado importantes iniciativas de productos de ciberseguridad, participado en actividades de recaudación de fondos y fusiones y adquisiciones, y desempeñado un papel clave en el desarrollo de tecnologías de seguridad de última generación. Su amplia experiencia en seguridad empresarial y su profunda comprensión de cómo los atacantes explotan el comportamiento humano lo llevaron a establecer Humanix con la misión de proteger a las personas de ataques de ingeniería social cada vez más sofisticados.

Humanix es una empresa de ciberseguridad que está pionera en lo que llama Detección y Respuesta de Amenazas Humanas (HTDR), una nueva categoría centrada en proteger la “capa humana” de la seguridad empresarial. En lugar de centrarse únicamente en puntos finales, redes e infraestructura, Humanix utiliza inteligencia artificial conversacional entrenada en psicología humana y patrones de ataques de lenguaje natural para detectar manipulación, engaño, impersonación y otras tácticas de ingeniería social en interacciones de voz, chat, correo electrónico, video y servicio de escritorio. La plataforma está diseñada para identificar ataques en tiempo real, ayudando a las organizaciones a detener violaciones antes de que los atacantes exploten a los empleados, contratistas o clientes. El enfoque de Humanix refleja un creciente reconocimiento de que la mayoría de los ataques cibernéticos exitosos apuntan a las personas y no a los sistemas, y la empresa tiene como objetivo proporcionar a los equipos de seguridad el mismo nivel de visibilidad y capacidades de respuesta para amenazas dirigidas a humanos que ya tienen para amenazas cibernéticas tradicionales.

Ha liderado transformaciones importantes en empresas como vArmour, incluyendo transiciones a SaaS, escalado de equipos de ingeniería y navegación en una adquisición. ¿Qué brecha o punto de inflexión específico lo llevó a fundar Humanix, y por qué se centra tanto en asegurar a los humanos en lugar de los sistemas?

El mayor desafío en la postura de seguridad de cualquier organización es el riesgo humano. Los humanos son tanto nuestro activo defensivo más poderoso como nuestra mayor área de vulnerabilidad persistente. Sin embargo, es un problema que ha sido continuamente sin solución. La respuesta de la industria ha sido la capacitación, intentando transformar al empleado promedio en un experto en ciberseguridad en una sesión de una hora. Sabemos que no funciona, pero no hemos tenido mejores soluciones.

Dos cosas han cambiado recientemente, una para peor y una para mejor. Primero, lo peor: el AI hace que los ataques que apuntan directamente a los humanos sean mucho más accesibles. Ahora puedes ser un adolescente en el otro lado del mundo, no hablar una palabra de inglés, no saber nada sobre una empresa en particular, y de repente un LLM te permite saber casi cualquier cosa y sonar como casi cualquier persona. Eso crea un peligro real y presente.

Segundo, un cambio para mejor: ahora tenemos la tecnología para detectar estos ataques. Los LLM son muy buenos para entender la sutileza y complejidad de las interacciones humanas. Con inteligencia artificial conversacional, podemos identificar patrones en esas interacciones y responder en casi tiempo real.

<p Ya no necesitamos confiar únicamente en estrategias anticuadas y centradas en la capacitación. Por primera vez, tenemos una forma de resolver directamente el problema de la vulnerabilidad humana. Eso es por lo que construimos Humanix.

Su trabajo se ha centrado durante mucho tiempo en grandes conjuntos de datos, análisis de comportamiento y modelos de seguridad basados en gráficos. ¿Cómo han influido esas experiencias en el enfoque de Humanix para detectar ataques que no parecen violaciones tradicionales?

En la superficie, detectar ataques de ingeniería social interactiva parece abrumador. Cada persona es diferente. El lenguaje natural es extremadamente de alta dimensión. Los modelos de comportamiento centrados en ML clásicos no entienden el contexto y, por lo tanto, a menudo fallan.

Sin embargo, cuando se profundiza un poco más, se puede ver que esta clase de ataque tiene patrones como cualquier otro. En lugar de desbordamientos de búfer o cero días, los atacantes explotan brechas en los procesos comerciales y la confianza humana. Los atacantes tienen libros de jugadas que ejecutan consistentemente contra las organizaciones, lo que significa que deberíamos poder detectar y responder a estos ataques al igual que lo hacemos en puntos finales, redes, nubes o identidad.

Esa percepción nos permite combinar patrones de detección y respuesta clásicos que sabemos que son efectivos, incluyendo análisis de comportamiento y teoría de grafos, con capacidades de razonamiento semántico de los modelos de lenguaje. Humanix utiliza esa combinación para comprender entidades, relaciones, comportamiento, riesgo y la interacción en sí. Esta es la forma en que creamos una nueva clase de producto de detección y respuesta: Detección y Respuesta de Amenazas Humanas.

Grupos emergentes como BlackFile están utilizando phishing de voz y ingeniería social en tiempo real en lugar de tácticas pesadas de malware. ¿Qué nos dice este cambio sobre cómo está cambiando el panorama de amenazas?

BlackFile es parte de un cambio más amplio hacia ataques que son menos sobre introducir malware en un entorno y más sobre utilizar lenguaje natural para hacer que una persona abra la puerta.

Estos grupos han descubierto que una llamada telefónica convincente, un pretexto plausible y la cantidad adecuada de urgencia pueden ser tan efectivos como una explotación técnica, y a menudo más difíciles para que los equipos de seguridad las detecten. La superficie de ataque no ha cambiado tanto como el enfoque del atacante ha cambiado. Las personas siempre han sido parte de la superficie de ataque. Lo que ha cambiado es la escala, la madurez y la repetibilidad del libro de jugadas.

La ingeniería social se está copiando, perfeccionando y industrializando porque funciona. Se aprovecha de cómo operan las empresas, especialmente en flujos de trabajo donde se espera que las personas ayuden rápidamente, resuelvan excepciones y mantengan las cosas en marcha.

Estamos viendo a atacantes que se hacen pasar por mesas de ayuda de IT y explotan directamente a los empleados para obtener acceso. ¿Por qué las técnicas como el vishing y la manipulación de la mesa de ayuda se están convirtiendo en puntos de entrada primarios tan efectivos?

Las técnicas como el vishing y la manipulación de la mesa de ayuda son tan efectivas porque explotan la combinación de confianza, urgencia y acceso que se encuentra en muchos flujos de trabajo de soporte y administración.

Si quiero entrar en su entorno, puedo pasar semanas buscando una explotación técnica. O puedo llamar a alguien que esté entrenado para ayudar, crear una historia creíble y hacer que esa persona haga lo que necesito que haga, ya sea restablecer una contraseña, registrar un nuevo factor de autenticación, cambiar un permiso o aprobar una solicitud.

La persona al otro lado de la llamada a menudo está tratando de resolver un problema real con presión de tiempo y con información incompleta. Eso es exactamente lo que hace que la mesa de ayuda sea un objetivo atractivo. Es uno de los pocos lugares donde una conversación puede convertirse directamente en acceso. Una vez que se otorga el acceso, el resto puede ocurrir muy rápidamente.

La industria ha invertido mucho en la capacitación de los empleados, sin embargo, las violaciones que apuntan a las personas continúan aumentando. ¿Dónde está fallando la conciencia de seguridad tradicional, y qué necesita cambiar?

La capacitación en conciencia de seguridad ha sido tratada como la defensa principal contra la ingeniería social, a pesar de que los resultados claramente muestran sus límites. Las organizaciones continúan invirtiendo mucho en capacitación, sin embargo, los atacantes siguen teniendo éxito porque apuntan a las personas en interacciones en vivo, no porque los empleados recuerden material de un curso.

Un ataque de ingeniería social no es un examen. Es una persona al otro lado de una llamada telefónica o hilo de chat que crea urgencia, construye confianza y trata de hacer que alguien tome una acción que no debería tomar. El modelo actual se rompe porque espera que el empleado reconozca y detenga el ataque mientras el atacante está manipulando activamente la interacción.

Cuando algo sale mal, la respuesta a menudo es culpar al empleado y asignar más capacitación. Pero el empleado estaba tratando de ayudar, lo que es exactamente lo que la empresa les pide que hagan todos los días. Necesitamos dejar de tratar la ingeniería social como un problema de conciencia solo. Es una clase de ataque, y debemos detectar y responder a ella mientras la interacción está sucediendo.

Humanix se centra en detectar ataques a las personas en tiempo real. ¿Cómo se ve la observabilidad del riesgo humano en la práctica?

La observabilidad del riesgo humano significa dar a los equipos de seguridad visibilidad en las interacciones en vivo donde los atacantes tratan de manipular a las personas para cambiar el acceso, omitir un procedimiento requerido o tomar alguna otra acción insegura en nombre del atacante.

Hoy en día, estas interacciones son efectivamente invisibles para la seguridad. Alguien llama a la mesa de ayuda, abre un ticket o inicia un chat. Una contraseña se restablece, un factor de autenticación se registra, un permiso se cambia o una excepción se aprueba. Estos son flujos de trabajo altamente sensibles, sin embargo, los equipos de seguridad no tienen visibilidad ni observabilidad.

Humanix cambia esto. Nos conectamos a los sistemas de comunicación empresarial ya en uso, como Microsoft 365, ServiceNow , Zoom, Slack y más. Humanix monitorea acciones e interacciones a través de esos canales y las compara con tácticas de ataque y procedimientos corporativos.

¿Se verificó adecuadamente al que llamaba? ¿Hablaban su manera alrededor de la verificación? ¿Había urgencia, impersonación o presión para omitir un paso requerido? ¿El agente estaba a punto de tomar una acción de alto riesgo? ¿Cómo ha cambiado el perfil de riesgo a medida que avanzaba la llamada? Humanix proporciona detección y respuesta de seguridad mientras ocurre la interacción y permite que el equipo de seguridad sepa si algo parece sospechoso.

El objetivo final de este análisis no es castigar a las víctimas después del hecho. Es protegerlas en el momento. Si una conversación se convierte en un ataque, el equipo de seguridad necesita saberlo.

A medida que mejoran las tecnologías de voz generadas por AI y deepfakes, ¿cuán cerca estamos de un punto en el que la confianza humana se convierta en la superficie de ataque más débil?

La confianza humana ha sido una de las superficies de ataque más débiles durante mucho tiempo. El AI hace que los ataques contra la confianza sean más fáciles de crear, personalizar y escalar.

Sin embargo, necesitamos tener cuidado de no exagerar el caso específico de los deepfakes. Los deepfakes son solo un medio que los atacantes pueden usar para manipular a alguien. De hecho, si miramos la gran mayoría de los ataques de ingeniería social exitosos en los últimos años, la mayoría no fueron deepfakes, sino simplemente atacantes humanos y estafadores que levantaron el teléfono. Grupos como Scattered Spider, ShinyHunters y BlackFile han demostrado que una llamada telefónica normal, un pretexto creíble y la cantidad adecuada de urgencia son más que suficientes para hacer que alguien tome una acción en nombre del atacante.

Los equipos de seguridad necesitan centrarse en el mensaje, no en el medio. Alguien que está siendo presionado para violar una política o aprobar una excepción en circunstancias sospechosas, estas son las verdaderas conductas de riesgo. Los riesgos se encuentran en la interacción en sí y en la acción que está diseñada para inducir.

La confianza no es algo que podamos eliminar de los negocios. Las personas tienen que responder a llamadas, resolver problemas, aprobar solicitudes y ayudarse mutuamente. La respuesta no puede ser hacer que todos sean menos humanos. Tiene que ser proteger los momentos en los que la confianza se está explotando.

¿Cuál debería ser el papel del AI en la defensa contra la ingeniería social impulsada por AI, y cuáles son los mayores desafíos técnicos para detectar la manipulación en tiempo real?

La inteligencia artificial conversacional abre la oportunidad de transformar la ingeniería social impulsada por AI de un problema de capacitación a un problema de detección y respuesta. Los modelos de lenguaje permiten aplicar todos nuestros conocimientos de dominios como puntos finales o redes y aplicarlos a la capa humana. Necesitamos detectar y responder a estos ataques, no seguir por el camino inútil de tratar de capacitarlos.

Hay muchos desafíos técnicos para hacer que esta visión sea una realidad. El lenguaje natural es altamente dimensional, lo que significa que hay innumerables formas de transmitir el mismo significado. Decir “Estoy bloqueado en mi sistema” es una declaración funcionalmente equivalente a decir “Necesito restablecer mi contraseña”, aunque las palabras “contraseña” y “restablecer” nunca se usaron.

Otro es la importancia del contexto. Las interacciones humanas son contextuales y acumulativas, y por lo tanto, también lo es la manipulación humana. Un llamador puede sonar calmado, educado y creíble mientras aún está dirigiendo a alguien alrededor de la verificación o hacia una acción insegura. Necesitamos combinar múltiples señales y datos contextuales para separar con precisión lo benigno de lo malicioso.

Finalmente, cada organización es diferente. Tiene diferentes procedimientos y normas, virtualmente todos los cuales no son legibles por máquina. Esta es otra área en la que el AI puede ser de gran ayuda, entendiendo esas políticas y comparándolas con comportamientos observados en el mundo real.

Muchas herramientas de seguridad todavía se centran en puntos finales, redes y sistemas de identidad. ¿Cómo deberían los CISO replantear su arquitectura si el campo de batalla principal se desplaza hacia el comportamiento humano?

Primero, los CISO deben reconocer formalmente lo que todos sabemos intuitivamente: el capital humano de una organización es una clase de activos (como puntos finales, redes o nubes) que necesita ser gestionado. Las amenazas y los riesgos necesitan ser modelados y controlados con precisión.

El Marco de Ciberseguridad de NIST ya proporciona orientación sobre cómo hacerlo. La “identificación” y “gestión” de las personas son parte del subconjunto de identificación de riesgos (ID.AM) de identificación de riesgos. Sin embargo, muchas organizaciones definen el problema de riesgo humano como un problema de capacitación y solo lo gestionan a través del requisito de cumplimiento de la capacitación en conciencia de seguridad. Esto necesita cambiar.

Cuando tratamos el capital humano como su propia clase de activos, esto abre los libros de jugadas estándar que ejecutamos para cualquier otra clase de activos. ¿Cuáles son los riesgos clave (ID.RA)? ¿Cómo defiendo sistemáticamente contra ellos (Proteger)? ¿Cuáles son nuestros sistemas y procesos para detectar si un atacante está a punto de violar esas defensas o, peor, ya lo ha hecho (Detectar)? ¿Cómo responde la organización para contener la amenaza y restaurar finalmente los servicios (Responder y Recuperar)? Al tomar el mismo enfoque sistemático hacia nuestro capital humano como hacia cualquier otra clase de activos, podemos identificar riesgos más claramente y priorizar recursos para gestionar esos riesgos de manera más efectiva.

Mirando hacia adelante, ¿espera que los ataques de capa humana dominen el cibercrimen, o veremos un modelo híbrido donde la automatización impulsada por AI y la ingeniería social se fusionen en algo más difícil de defender?

Seguramente será un modelo de amenaza combinado. Estamos viendo dos cosas que ocurren simultáneamente. Primero, los atacantes están aprendiendo a escalar sus ataques con AI, aumentando el acceso y reduciendo el costo de esta clase de ataque. Segundo, las empresas en sí están pasando por una transformación de AI agente liderada por los mismos servicios comerciales que están siendo atacados por BlackFile y sus pares.

El servicio de atención al cliente, la mesa de ayuda, el servicio de escritorio, las operaciones financieras y los flujos de trabajo de soporte interno están siendo transformados de entregados por humanos a entregados por AI. Eso significa que experimentaremos una explosión en la superficie de ataque de lenguaje natural mientras nos deshacemos del sentido común humano. Los grandes modelos de lenguaje están entrenados para responder a instrucciones y ser útiles. Los sentimientos de sospecha o “corazonadas” humanas que han sido algunas de nuestras mejores defensas contra ataques de ingeniería social han sido deliberadamente eliminados de las respuestas del modelo. La transición a servicios entregados por AI aumentará finalmente el riesgo de ataques de ingeniería social, no lo reducirá.

Como resultado, la exposición de la empresa a esta clase de ataque es casi seguramente que continuará creciendo en los próximos años. Los humanos y los agentes son ambos vulnerables a los ataques de lenguaje natural. Los equipos de seguridad necesitan comenzar a planificar hoy para un plan de defensa y respuesta sistemáticos a esta nueva realidad.

Gracias por la gran entrevista, lectores que deseen aprender más Humanix.