Steve Wilson, Chief de Inteligencia Artificial y Oficial de Producto en Exabeam – Serie de Entrevistas

Steve Wilson es el Chief de Inteligencia Artificial y Oficial de Producto en Exabeam, donde su equipo aplica tecnologías de inteligencia artificial de vanguardia para abordar desafíos de seguridad cibernética del mundo real. Fundó y copreside el proyecto de seguridad de inteligencia artificial de OWASP, la organización detrás de la lista de seguridad de los 10 principales para la seguridad de modelos de lenguaje grande de OWASP.

Su libro galardonado, “The Developer’s Playbook for Large Language Model Security” (O’Reilly Media), fue seleccionado como el mejor libro de ciberseguridad de vanguardia por Cyber Defense Magazine.

Exabeam es un líder en inteligencia y automatización que impulsa las operaciones de seguridad para las empresas más inteligentes del mundo. Al combinar la escala y el poder de la inteligencia artificial con la fuerza de nuestros análisis de comportamiento y automatización de vanguardia, las organizaciones obtienen una visión más holística de los incidentes de seguridad, descubren anomalías que otros herramientas pasan por alto y logran respuestas más rápidas, precisas y repetibles. Exabeam capacita a los equipos de seguridad globales para combatir las amenazas cibernéticas, mitigar el riesgo y optimizar las operaciones.

Su nuevo título es Chief de Inteligencia Artificial y Oficial de Producto en Exabeam. ¿Cómo refleja esto la importancia creciente de la inteligencia artificial dentro de la ciberseguridad?

La ciberseguridad fue uno de los primeros dominios en adoptar realmente el aprendizaje automático; en Exabeam, hemos estado utilizando el aprendizaje automático como el núcleo de nuestro motor de detección durante más de una década para identificar comportamientos anómalos que los humanos solos podrían pasar por alto. Con la llegada de tecnologías de inteligencia artificial más nuevas, como los agentes inteligentes, la inteligencia artificial ha crecido de ser importante a absolutamente central.

Mi función combinada como Chief de Inteligencia Artificial y Oficial de Producto en Exabeam refleja exactamente esta evolución. En una empresa profundamente comprometida con integrar la inteligencia artificial en todos sus productos y en una industria como la ciberseguridad donde el papel de la inteligencia artificial es cada vez más crítico, tenía sentido unificar la estrategia de inteligencia artificial y la estrategia de producto bajo un solo rol. Esta integración garantiza que estemos estratégicamente alineados para ofrecer soluciones impulsadas por la inteligencia artificial transformadoras a los analistas de seguridad y equipos de operaciones que dependen de nosotros más.

Exabeam está pionera en “agentic AI” en operaciones de seguridad. ¿Puede explicar qué significa esto en la práctica y cómo se diferencia de los enfoques tradicionales de inteligencia artificial?

La inteligencia artificial agente representa una evolución significativa de los enfoques tradicionales de inteligencia artificial. Está orientada a la acción; iniciando procesos de manera proactiva, analizando información y presentando información antes de que los analistas la soliciten. Más allá del simple análisis de datos, la inteligencia artificial agente actúa como asesor, ofreciendo recomendaciones estratégicas en todo el Centro de Operaciones de Seguridad (SOC), guiando a los usuarios hacia las victorias más fáciles y brindándoles orientación paso a paso para mejorar su postura de seguridad. Además, los agentes operan como paquetes especializados, no como un chatbot incómodo, cada uno personalizado con personalidades y conjuntos de datos específicos que se integran perfectamente en el flujo de trabajo de los analistas, ingenieros y gerentes para brindar asistencia impactante y dirigida.

Con Exabeam Nova integrando múltiples agentes de inteligencia artificial en el flujo de trabajo del SOC, ¿cómo se ve el futuro del papel del analista de seguridad? ¿Está evolucionando, disminuyendo o volviéndose más especializado?

El papel del analista de seguridad definitivamente está evolucionando. Los analistas, ingenieros de seguridad y gerentes de SOC están abrumados con datos, alertas y casos. El verdadero cambio en el futuro no se trata solo de ahorrar tiempo en tareas mundanas; aunque los agentes ciertamente ayudan allí, sino de elevar el papel de todos a líder de equipo. Los analistas aún necesitarán habilidades técnicas sólidas, pero ahora liderarán un equipo de agentes listos para acelerar sus tareas, amplificar sus decisiones y impulsar genuinamente mejoras en la postura de seguridad. Esta transformación posiciona a los analistas para convertirse en orquestadores estratégicos en lugar de respondedores tácticos.

Los datos recientes muestran una desconexión entre los ejecutivos y los analistas con respecto al impacto de la productividad de la inteligencia artificial. ¿Por qué cree que existe esta brecha de percepción y cómo se puede abordar?

Los datos recientes muestran una desconexión clara: el 71% de los ejecutivos cree que la inteligencia artificial mejora significativamente la productividad, pero solo el 22% de los analistas de primera línea, los usuarios diarios, están de acuerdo. En Exabeam, hemos visto que esta brecha crece junto con la reciente fiebre de promesas de inteligencia artificial en ciberseguridad. Nunca ha sido más fácil crear demos impresionantes de inteligencia artificial, y los proveedores están rápidos para reclamar que han resuelto todos los desafíos del SOC. Mientras estas demos impresionan inicialmente a los ejecutivos, muchas caen cortas donde cuenta; en las manos de los analistas. El potencial está allí, y hay bolsillos de beneficios genuinos, pero todavía hay demasiado ruido y demasiadas mejoras significativas. Para cerrar esta brecha de percepción, los ejecutivos deben priorizar las herramientas de inteligencia artificial que realmente empoderan a los analistas, no solo impresionan en una demo. Cuando la inteligencia artificial realmente mejora la efectividad de los analistas, la confianza y las mejoras reales de la productividad seguirán.

La inteligencia artificial está acelerando la detección y respuesta a las amenazas, pero ¿cómo mantiene el equilibrio entre la automatización y el juicio humano en incidentes de ciberseguridad de alto riesgo?

Las capacidades de la inteligencia artificial están avanzando rápidamente, pero los modelos de lenguaje fundamentales que subyacen a los agentes inteligentes fueron diseñados originalmente para tareas como la traducción de lenguaje; no para la toma de decisiones matizadas, la teoría de juegos o el manejo de factores humanos complejos. Esto hace que el juicio humano sea más esencial que nunca en ciberseguridad. El papel del analista no se reduce por la inteligencia artificial; se eleva. Los analistas son ahora líderes de equipo, aprovechando su experiencia y perspicacia para guiar y dirigir a múltiples agentes, asegurando que las decisiones sigan informadas por el contexto y la sutileza. En última instancia, equilibrar la automatización con el juicio humano se trata de crear una relación simbiótica donde la inteligencia artificial amplifica la experiencia humana, no la reemplaza.

¿Cómo evoluciona su estrategia de producto cuando la inteligencia artificial se convierte en un principio de diseño central en lugar de un complemento?

En Exabeam, nuestra estrategia de producto está fundamentalmente moldeada por la inteligencia artificial como un principio de diseño central, no como un complemento superficial. Construimos Exabeam desde cero para soportar el aprendizaje automático; desde la ingesta de registros, el análisis, el enriquecimiento y la normalización para poblar un modelo de información común robusto específicamente optimizado para alimentar sistemas de aprendizaje automático. Los datos estructurados de alta calidad no son solo importantes para los sistemas de inteligencia artificial; son su sangre vital. Hoy en día, incorporamos directamente a nuestros agentes inteligentes en flujos de trabajo críticos, evitando chatbots genéricos y poco manejables. En su lugar, apuntamos a casos de uso cruciales que brindan beneficios tangibles y del mundo real a nuestros usuarios.

Con Exabeam Nova, está apuntando a “moverse de asistente a autónomo”. ¿Cuáles son los hitos clave para lograr operaciones de seguridad completamente autónomas?

La idea de operaciones de seguridad completamente autónomas es intrigante pero prematura. Los agentes autónomos completamente autónomos, en cualquier dominio, simplemente no son eficientes ni seguros. Mientras que la toma de decisiones en la inteligencia artificial está mejorando, no ha alcanzado la confiabilidad humana y no lo hará por algún tiempo. En Exabeam, nuestro enfoque no es perseguir la autonomía total, lo que mi grupo en OWASP identifica como una vulnerabilidad central conocida como Excesiva Agencia. Dar a los agentes más autonomía de la que se puede probar y validar de manera confiable pone a las operaciones en terreno riesgoso. En su lugar, nuestro objetivo es equipos de agentes inteligentes, capaces pero cuidadosamente guiados, que trabajan bajo la supervisión de expertos humanos en el SOC. Esa combinación de supervisión humana y asistencia agente dirigida es el camino realista e impactante hacia adelante.

¿Cuáles son los mayores desafíos que ha enfrentado al integrar GenAI y aprendizaje automático a la escala necesaria para la ciberseguridad en tiempo real?

Uno de los mayores desafíos al integrar GenAI y aprendizaje automático a escala para la ciberseguridad es equilibrar la velocidad y la precisión. GenAI solo no puede reemplazar la escala de lo que nuestro motor de aprendizaje automático de alta velocidad maneja; procesando terabytes de datos continuamente. Incluso los agentes de inteligencia artificial más avanzados tienen una “ventana de contexto” que es vastamente insuficiente. En su lugar, nuestra receta implica utilizar el aprendizaje automático para destilar datos masivos en información accionable, que nuestros agentes inteligentes luego traducen y operacionalizan de manera efectiva.

Co-fundó la lista de los 10 principales de OWASP para aplicaciones de LLM. ¿Qué lo inspiró y cómo ve que esto dará forma a las mejores prácticas de seguridad de inteligencia artificial?

Cuando lancé la lista de los 10 principales de OWASP para aplicaciones de LLM a principios de 2023, la información estructurada sobre la seguridad de LLM y GenAI era escasa, pero el interés era increíblemente alto. Dentro de días, más de 200 voluntarios se unieron a la iniciativa, trayendo opiniones y experiencia diversa para dar forma a la lista original. Desde entonces, ha sido leída más de 100,000 veces y se ha convertido en fundamental para los estándares internacionales de la industria. Hoy en día, el esfuerzo ha expandido al Proyecto de Seguridad de GenAI de OWASP, cubriendo áreas como el rojo de equipo de inteligencia artificial, la seguridad de sistemas agente y el manejo de usos ofensivos de GenAI en ciberseguridad. Nuestro grupo recientemente superó los 10,000 miembros y continúa avanzando en las prácticas de seguridad de inteligencia artificial a nivel mundial.

Su libro, ‘The Developer’s Playbook for LLM Security‘, ganó un premio importante. ¿Cuál es el mensaje más importante o principio del libro que todo desarrollador de inteligencia artificial debe entender al construir aplicaciones seguras?”

El mensaje más importante de mi libro, “The Developer’s Playbook for LLM Security”, es simple: “con gran poder viene gran responsabilidad”. Mientras que entender conceptos de seguridad tradicionales sigue siendo esencial, los desarrolladores ahora enfrentan un conjunto completamente nuevo de desafíos únicos para los LLM. Esta tecnología poderosa no es un pase libre; exige prácticas de seguridad proactivas y reflexivas. Los desarrolladores deben expandir su perspectiva, reconociendo y abordando estas nuevas vulnerabilidades desde el principio, integrando la seguridad en cada paso del ciclo de vida de la aplicación de inteligencia artificial.

¿Cómo ve que evoluciona la fuerza laboral de ciberseguridad en los próximos 5 años a medida que la inteligencia artificial agente se vuelve más mainstream?

Estamos actualmente en una carrera armamentística de inteligencia artificial. Los adversarios están desplegando agresivamente la inteligencia artificial para avanzar en sus objetivos maliciosos, lo que hace que los profesionales de la ciberseguridad sean más cruciales que nunca. Los próximos cinco años no disminuirán la fuerza laboral de ciberseguridad; la elevarán. Los profesionales deben abrazar la inteligencia artificial, integrándola en sus equipos y flujos de trabajo. Los roles de seguridad se desplazarán hacia el mando estratégico; menos hacia el esfuerzo individual y más hacia la orquestación de una respuesta efectiva con un equipo de agentes impulsados por la inteligencia artificial. Esta transformación capacita a los profesionales de la ciberseguridad para liderar de manera decisiva y confiada en la batalla contra las amenazas en constante evolución.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Exabeam.