Carl Froggett, CIO de Deep Instinct – Serie de entrevistas

Carl Froggett, es el Director de Información (CIO) de Deep Instinct, una empresa fundada en un principio simple: que el aprendizaje profundo, un subconjunto avanzado de IA, podría aplicarse a la ciberseguridad para prevenir más amenazas, más rápido.

El Sr. Froggett tiene un historial comprobado en la construcción de equipos, arquitectura de sistemas, implementación de software de empresa a gran escala, así como en alinear procesos y herramientas con los requisitos comerciales. Froggett fue anteriormente Jefe de Defensa de Infraestructura Global, CISO Servicios de Seguridad Cibernética en Citi.

Su trasfondo es en la industria financiera, ¿podría compartir su historia de cómo luego se trasladó a la ciberseguridad?

Empecé a trabajar en ciberseguridad a fines de los 90 cuando estaba en Citi, trasladándome desde un rol de TI. Rápidamente me mudé a un puesto de liderazgo, aplicando mi experiencia en operaciones de TI al mundo evolutivo y desafiante de la ciberseguridad. Trabajando en ciberseguridad, tuve la oportunidad de centrarme en la innovación, mientras también desplegaba y ejecutaba soluciones de ciberseguridad y tecnología para diversas necesidades comerciales. Durante mi tiempo en Citi, mis responsabilidades incluyeron innovación, ingeniería, entrega y operaciones de plataformas globales para los negocios y clientes de Citi en todo el mundo.

Formó parte de Citi durante más de 25 años y pasó gran parte de este tiempo liderando equipos responsables de estrategias y aspectos de ingeniería de seguridad. ¿Qué fue lo que lo atrajo para unirse a la startup Deep Instinct?

Me uní a Deep Instinct porque quería asumir un nuevo desafío y utilizar mi experiencia de una manera diferente. Durante 15+ años estuve muy involucrado en startups de ciberseguridad y empresas FinTech, asesorando y haciendo crecer equipos para apoyar el crecimiento empresarial, llevando a algunas empresas hasta su IPO. Estaba familiarizado con Deep Instinct y vi cómo su tecnología de aprendizaje profundo (DL) única y disruptiva producía resultados que ningún otro proveedor podía. Quería ser parte de algo que introduciría una nueva era de protección de empresas contra las amenazas maliciosas que enfrentamos todos los días.

¿Puede discutir por qué la aplicación de Deep Instinct del aprendizaje profundo a la ciberseguridad es tan innovadora?

Cuando Deep Instinct se formó inicialmente, la empresa estableció una meta ambiciosa de revolucionar la industria de la ciberseguridad, introduciendo una filosofía de prevención en lugar de estar en la posición de “detectar, responder, contener”. Con el aumento de los ciberataques, como el ransomware, las explotaciones de día cero y otras amenazas nunca antes vistas, el modelo de seguridad reactivo no está funcionando. Ahora, a medida que continuamos viendo que las amenazas aumentan en volumen y velocidad debido a la IA generativa, y que los atacantes reinventan, innovan y evaden los controles existentes, las organizaciones necesitan una capacidad predictiva y preventiva para mantenerse un paso adelante de los actores maliciosos.

La IA adversaria está en aumento con actores maliciosos que aprovechan WormGPT, FraudGPT, mutaciones de malware y más. Hemos entrado en un momento crucial, uno que requiere que las organizaciones luchen contra la IA con IA. Pero no toda IA es igual. Defenderse contra la IA adversaria requiere soluciones que estén impulsadas por una forma más sofisticada de IA, a saber, el aprendizaje profundo (DL). La mayoría de las herramientas de ciberseguridad aprovechan modelos de aprendizaje automático (ML) que presentan varias limitaciones para los equipos de seguridad en cuanto a la prevención de amenazas. Por ejemplo, estas ofertas se entrenan en subconjuntos limitados de datos disponibles (generalmente 2-5%), ofrecen solo 50-70% de precisión con amenazas desconocidas y presentan muchos falsos positivos. Las soluciones de ML también requieren una gran intervención humana y se entrenan en conjuntos de datos pequeños, lo que los expone a sesgos y errores humanos. Son lentos y no responden incluso en el punto final, lo que permite que las amenazas persistan hasta que se ejecutan, en lugar de tratarlas mientras están inactivas. Lo que hace que DL sea efectivo es su capacidad para autoaprender a medida que ingiere datos y trabaja de forma autónoma para identificar, detectar y prevenir amenazas complicadas.

DL permite a los líderes cambiar de una mentalidad tradicional de “suponer una violación” a un enfoque de prevención predictiva para combatir el malware generado por IA de manera efectiva. Este enfoque ayuda a identificar y mitigar las amenazas antes de que ocurran. Proporciona una tasa de eficacia extremadamente alta contra malware conocido y desconocido, y una tasa de falsos positivos extremadamente baja en comparación con las soluciones basadas en ML.

El núcleo de DL solo requiere una actualización una o dos veces al año para mantener esa eficacia y, ya que opera de forma independiente, no requiere búsquedas constantes en la nube ni intercambio de inteligencia. Esto lo hace extremadamente rápido y respetuoso con la privacidad.

¿Cómo puede el aprendizaje profundo prevenir de manera predictiva el malware desconocido que nunca se ha encontrado antes?

El malware desconocido se crea de varias maneras. Un método común es cambiar el hash en el archivo, lo que podría ser tan pequeño como agregar un byte. Las soluciones de seguridad de punto final que confían en la blacklist de hash son vulnerables a tales “mutaciones” porque sus firmas de hash existentes no coincidirán con los hashes de esas nuevas mutaciones. El empaquetado es otra técnica en la que los archivos binarios se empaquetan con un empaquetador que proporciona una capa genérica en el archivo original —piense en ello como una máscara. Las nuevas variantes también se crean modificando el malware binario original. Esto se hace en las características que los proveedores de seguridad podrían firmar, comenzando desde cadenas de caracteres codificadas, nombres de dominio/direcciones IP de servidores C&C, claves de registro, rutas de archivo, metadatos o incluso mutex, certificados, desplazamientos, así como extensiones de archivo que se correlacionan con los archivos cifrados por ransomware. El código o partes del código también pueden cambiarse o agregarse, lo que evita las técnicas de detección tradicionales.

DL se basa en una red neuronal y utiliza su “cerebro” para entrenarse continuamente en datos sin procesar. Un punto importante aquí es que el entrenamiento de DL consume todos los datos disponibles, sin intervención humana en el entrenamiento —una razón clave por la que es tan preciso. Esto conduce a una tasa de eficacia muy alta y una tasa de falsos positivos muy baja, lo que lo hace hiper resistente a amenazas desconocidas. Con nuestro marco de DL, no confiamos en firmas o patrones, por lo que nuestra plataforma es inmune a las modificaciones de hash. También clasificamos con éxito los archivos empaquetados —ya sea utilizando los simples y conocidos, o incluso FUD.

Durante la fase de entrenamiento, agregamos “ruido”, que cambia los datos sin procesar de los archivos que alimentamos a nuestro algoritmo, para generar automáticamente ligeras “mutaciones”, que se alimentan en cada ciclo de entrenamiento durante nuestra fase de entrenamiento. Este enfoque hace que nuestra plataforma sea resistente a las modificaciones aplicadas a las diferentes variantes de malware desconocido, como cadenas de caracteres o incluso polimorfismo.

Una mentalidad de prevención en primer lugar es a menudo clave para la ciberseguridad, ¿cómo se centra Deep Instinct en la prevención de ciberataques?

Los datos son la sangre vital de cada organización y protegerlos debería ser lo más importante. Solo se necesita un archivo malicioso para ser vulnerado. Durante años, “suponer una violación” ha sido la mentalidad de seguridad de facto, aceptando la inevitabilidad de que los datos serán accesados por actores de amenazas. Sin embargo, esta mentalidad, y las herramientas basadas en esta mentalidad, no han podido proporcionar una seguridad de datos adecuada, y los atacantes están aprovechando al máximo este enfoque pasivo. Nuestra investigación reciente encontró que hubo más incidentes de ransomware en el primer semestre de 2023 que en todo 2022. Abordar eficazmente este panorama de amenazas en constante cambio no solo requiere alejarse de la mentalidad de “suponer una violación”: significa que las empresas necesitan un enfoque y un arsenal de medidas preventivas completamente nuevos. La amenaza es nueva y desconocida, y es rápida, lo que explica los resultados en los incidentes de ransomware. Al igual que las firmas no podían seguir el ritmo del panorama de amenazas en constante cambio, ninguna solución existente basada en ML puede hacerlo.

En Deep Instinct, estamos aprovechando el poder de DL para proporcionar un enfoque de prevención en primer lugar para la seguridad de los datos. La Plataforma de Prevención Predictiva de Deep Instinct es la primera y única solución basada en nuestro marco de DL único diseñado específicamente para la ciberseguridad. Es la solución de ciberseguridad más eficiente, efectiva y confiable del mercado, que previene más del 99% de las amenazas de día cero, ransomware y otras amenazas desconocidas en menos de 20 milisegundos con la tasa de falsos positivos más baja de la industria (<0,1%). Ya hemos aplicado nuestro marco de DL único para asegurar aplicaciones y puntos finales, y más recientemente extendimos las capacidades a la protección de almacenamiento con el lanzamiento de Deep Instinct Prevention for Storage.

Un cambio hacia la prevención predictiva para la seguridad de los datos es necesario para mantenerse por delante de las vulnerabilidades, limitar los falsos positivos y aliviar el estrés del equipo de seguridad. Estamos a la vanguardia de esta misión y está empezando a ganar tracción a medida que más proveedores de legado ahora anuncian capacidades de prevención en primer lugar.

¿Puede discutir qué tipo de datos de entrenamiento se utilizan para entrenar sus modelos?

Al igual que otros modelos de IA y ML, nuestro modelo se entrena con datos. Lo que hace que nuestro modelo sea único es que no necesita datos o archivos de los clientes para aprender y crecer. Este aspecto de privacidad único da a nuestros clientes un sentido adicional de seguridad cuando implementan nuestras soluciones. Nos suscribimos a más de 50 fuentes que descargamos archivos para entrenar nuestro modelo. Desde allí, validamos y clasificamos los datos nosotros mismos con algoritmos que desarrollamos internamente.

Debido a este modelo de entrenamiento, solo necesitamos crear 2-3 nuevos “cerebros” al año en promedio. Estos nuevos cerebros se implementan de forma independiente, lo que reduce significativamente cualquier impacto operativo en nuestros clientes. También no requiere actualizaciones constantes para mantener el ritmo del panorama de amenazas en constante evolución. Esta es la ventaja de que la plataforma esté impulsada por DL y nos permite proporcionar un enfoque proactivo y de prevención en primer lugar, mientras que otras soluciones que aprovechan la IA y el ML proporcionan capacidades reactivas.

Una vez que el repositorio esté listo, creamos conjuntos de datos utilizando todos los tipos de archivos con clasificaciones maliciosas y benignas, así como otros metadatos. Desde allí, entrenamos un cerebro en todos los datos disponibles —no descartamos ningún dato durante el proceso de entrenamiento, lo que contribuye a una tasa de falsos positivos baja y una tasa de eficacia alta. Estos datos siguen aprendiendo por sí mismos sin nuestra intervención. Ajustamos los resultados para enseñar al cerebro y luego sigue aprendiendo. Es muy similar a cómo funciona el cerebro humano y cómo aprendemos —cuanto más se nos enseña, más precisos y más inteligentes nos volvemos. Sin embargo, somos extremadamente cuidadosos para evitar el sobreajuste, para mantener que el cerebro de DL no memorice los datos en lugar de aprender y entender.

Una vez que tenemos un nivel de eficacia extremadamente alto, creamos un modelo de inferencia que se implementa en los clientes. Cuando el modelo se implementa en esta etapa, no puede aprender nuevas cosas. Sin embargo, tiene la capacidad de interactuar con nuevos datos y amenazas desconocidas, y determinar si son maliciosos. Esencialmente, toma una decisión de “día cero” en todo lo que ve.

Deep Instinct se ejecuta en un entorno de contenedor del cliente, ¿por qué es importante?

Una de nuestras soluciones de plataforma, Deep Instinct Prevention for Applications (DPA), ofrece la capacidad de aprovechar nuestras capacidades de DL a través de una interfaz de API / iCAP. Esta flexibilidad permite a las organizaciones incorporar nuestras capacidades revolucionarias dentro de aplicaciones y infraestructura, lo que significa que podemos expandir nuestro alcance para prevenir amenazas utilizando una estrategia de defensa en profundidad de ciberseguridad. Esto es un diferenciador único. DPA se ejecuta en un contenedor (que proporcionamos), y se alinea con las estrategias de modernización digitales que nuestros clientes están implementando, como migrar a entornos de contenedor en premises o en la nube para sus aplicaciones y servicios. Generalmente, estos clientes también adoptan una estrategia de “desplazamiento a la izquierda” con DevOps. Nuestro modelo de servicio orientado a API complementa esto al permitir el desarrollo y los servicios ágiles para prevenir amenazas.

Con este enfoque, Deep Instinct se integra de forma transparente en la estrategia tecnológica de una organización, aprovechando los servicios existentes sin nuevos hardware o preocupaciones logísticas y sin nuevo sobrecoste operativo, lo que conduce a un costo total de propiedad (TCO) muy bajo. Aprovechamos todos los beneficios que ofrecen los contenedores, incluida la escalabilidad automática masiva, la resiliencia, la baja latencia y las actualizaciones fáciles. Esto permite una estrategia de ciberseguridad de prevención en primer lugar, incorporando la prevención de amenazas en aplicaciones y infraestructura a gran escala, con eficiencias que las soluciones heredadas no pueden lograr. Debido a las características de DL, tenemos la ventaja de una baja latencia, una alta eficacia / baja tasa de falsos positivos, combinada con ser sensible a la privacidad —nunca sale del contenedor, que siempre está bajo el control del cliente. Nuestro producto no necesita compartir con la nube, realizar análisis o compartir archivos / datos, lo que lo hace único en comparación con cualquier producto existente.

La IA generativa ofrece el potencial de amplificar los ciberataques, ¿cómo mantiene Deep Instinct la velocidad necesaria para desviar estos ataques?

Nuestro marco de DL se basa en redes neuronales, por lo que su “cerebro” sigue aprendiendo y entrenándose en datos sin procesar. La velocidad y precisión con las que opera nuestro marco son el resultado de que el cerebro se haya entrenado en cientos de millones de muestras. A medida que estos conjuntos de datos de entrenamiento crecen, la red neuronal sigue volviéndose más inteligente, lo que le permite ser más detallado en la comprensión de lo que hace que un archivo sea malicioso. Debido a que puede reconocer los componentes básicos de los archivos maliciosos a un nivel más detallado que cualquier otra solución, DL detiene las amenazas conocidas, desconocidas y de día cero con mayor precisión y velocidad que otros productos de ciberseguridad establecidos. Esto, combinado con el hecho de que nuestro “cerebro” no requiere ningún análisis ni búsqueda en la nube, lo hace único. El ML por sí solo nunca fue lo suficientemente bueno, por lo que necesitamos análisis en la nube para respaldar el ML —pero esto lo hace lento y reactivo. DL simplemente no tiene esta limitación.

¿Cuáles son algunas de las mayores amenazas que se amplifican con la IA generativa que las empresas deben tener en cuenta?

Los correos electrónicos de phishing se han vuelto mucho más sofisticados gracias a la evolución de la IA. Anteriormente, los correos electrónicos de phishing generalmente eran fáciles de detectar ya que estaban llenos de errores gramaticales. Pero ahora los actores de amenazas están utilizando herramientas como ChatGPT para crear correos electrónicos más detallados y gramaticalmente correctos en una variedad de idiomas que son más difíciles de detectar para los filtros de spam y los lectores.

Otro ejemplo son los deepfakes que se han vuelto mucho más realistas y creíbles debido a la sofisticación de la IA. Las herramientas de audio de IA también se están utilizando para simular las voces de los ejecutivos dentro de una empresa, dejando mensajes de voz fraudulentos para los empleados.

Como se mencionó anteriormente, los atacantes están utilizando la IA para crear malware desconocido que puede modificar su comportamiento para eludir las soluciones de seguridad, evadir la detección y propagarse de manera más efectiva. Los atacantes seguirán aprovechando la IA no solo para construir malware nuevo, sofisticado, único y desconocido, sino también para automatizar la “cadena de ataque de extremo a extremo”. Al hacerlo, reducirán significativamente sus costos, aumentarán su escala y, al mismo tiempo, harán que los ataques tengan campañas más sofisticadas y exitosas. La industria de la ciberseguridad necesita replantear las soluciones, el entrenamiento y los programas de conciencia que hemos confiado durante los últimos 15 años. Como podemos ver en las violaciones de este año solo, ya están fallando, y empeorará.

¿Podría resumir brevemente los tipos de soluciones que ofrece Deep Instinct en cuanto a aplicaciones, puntos finales y soluciones de almacenamiento?

La Plataforma de Prevención Predictiva de Deep Instinct es la primera y única solución basada en un marco de DL único diseñado específicamente para resolver los desafíos de ciberseguridad de hoy —específicamente, prevenir las amenazas antes de que puedan ejecutarse y aterrizar en su entorno. La plataforma tiene tres pilares:

1. Sin agente, en un entorno de contenedor, conectado a través de API o ICAP: Deep Instinct Prevention for Applications es una solución sin agente que previene el ransomware, las amenazas de día cero y otras amenazas desconocidas antes de que lleguen a sus aplicaciones, sin afectar la experiencia del usuario.
2. Basado en agente en el punto final: Deep Instinct Prevention for Endpoints es una plataforma de prevención de amenazas en primer lugar de pre-ejecución —no en ejecución como la mayoría de las soluciones de hoy. O puede proporcionar una capa de prevención de amenazas real para complementar cualquier solución de EDR existente. Previene las amenazas conocidas y desconocidas, de día cero y ransomware pre-ejecución, antes de que se produzca cualquier actividad maliciosa, reduciendo significativamente el volumen de alertas y reduciendo los falsos positivos para que los equipos de SOC puedan centrarse exclusivamente en amenazas legítimas de alta fidelidad.
3. Un enfoque de prevención en primer lugar para la protección de almacenamiento: Deep Instinct Prevention for Storage ofrece un enfoque de prevención predictiva para detener el ransomware, las amenazas de día cero y otras amenazas desconocidas de infiltrarse en entornos de almacenamiento —ya sea que los datos se almacenen en premises o en la nube. Proporciona una solución rápida y extremadamente eficaz en el almacenamiento centralizado para los clientes, lo que evita que el almacenamiento se convierta en un punto de propagación y distribución para cualquier amenaza.

Gracias por la gran revisión, los lectores que deseen aprender más deben visitar Deep Instinct.