IA contra IA: La Nueva Realidad de la Ciberseguridad

Los ciberataques impulsados por IA han llegado, confirmando lo que una vez fue solo un riesgo teórico, pero anticipado, y están anunciando una nueva era en el panorama de amenazas. Con agentes de IA que ahora pueden lanzar campañas complejas y de extremo a extremo en minutos, los ciberdelincuentes pueden identificar y explotar las vulnerabilidades de las empresas a velocidad de máquina. Las reglas de compromiso han cambiado: la defensa cibernética de ayer ya no puede seguir el ritmo de la ofensiva impulsada por IA de hoy.

Al supercargar las amenazas cibernéticas, las empresas necesitan desplegar sus propias capacidades defensivas impulsadas por IA para mantener el ritmo en términos de velocidad, escala y precisión. Por ahora, los adversarios cibernéticos siguen tácticas, técnicas y procedimientos (TTP) familiares, pero la IA está acelerando y mejorando su libro de jugadas. Además, los modelos de IA de las empresas en sí son también un nuevo objetivo a través del envenenamiento de modelos y la ingeniería social impulsada por lenguaje, lo que requiere que los equipos de ciberseguridad protejan adecuadamente sus capacidades de IA. Por lo tanto, la seguridad debe ser una parte fundamental de la estrategia de IA de una organización.

¿Qué Diferencia a los Ciberataques Impulsados por IA?

En un mundo digital ya saturado por intentos de intrusión cibernética virtualmente constantes, la barrera de entrada para un actor malicioso se ha reducido, aumentando no solo el volumen sino también la complejidad de los ataques. Los ataques impulsados por IA pueden aprovechar la IA o el aprendizaje automático (ML) para automatizar, acelerar o mejorar cualquier fase del ciclo de ataque, desde la exploración y la recopilación de información hasta la explotación y la extracción de datos sensibles.

Confiar exclusivamente en procesos y tecnologías de seguridad existentes sin desplegar la misma tecnología avanzada que los adversarios están utilizando otorga a los adversarios una ventaja que es casi imposible de igualar sin IA defensiva. Las organizaciones ya están abrumadas con la supervisión de sus empresas desde actores de amenazas tradicionales. Los ataques impulsados por IA exacerbarán la fatiga de alertas. Esto requiere una evolución de los procesos gestionados por humanos a una fuerza de trabajo cibernética híbrida humano/digital.

Mapa de Todos los Activos Digitales

En el mundo de hoy, entender los posibles puntos de entrada en todo el entorno de la empresa es fundamental, pero todavía está fuera del alcance de muchas grandes empresas. Más allá de los sistemas y activos digitales es la necesidad de un mapeo integral de todas las identidades y accesos dentro de una organización. La identidad digital, que vincula las características físicas y de comportamiento a un individuo, es bien entendida con los controles existentes necesarios para gestionar el acceso digital.

Sin embargo, entender el paisaje empresarial de identidades no humanas (NHIs) es esencial para proteger los activos digitales. Darse cuenta del valor potencial de la IA dentro de una organización significa dar a los agentes de IA acceso y permiso para completar autónomamente un proceso empresarial. Al igual que los entornos de nube de la era de seguridad anterior, los flujos de trabajo impulsados por agentes de hoy en día se activan y desactivan las NHIs a escala, lo que requiere una capacidad avanzada para gestionar y rastrear dónde operan en el entorno y cómo logran las misiones o roles previstos.

Las empresas deben ampliar la gobernanza de identidad a lo largo del ciclo de vida de la identidad del agente y supervisar las acciones del agente, al igual que supervisan el acceso de los usuarios humanos hoy en día para comportamientos de riesgo interno o compromiso de cuenta de actores de amenazas. A medida que las capacidades de los agentes asumen más autonomía y trabajo crítico para el negocio, entender qué se parece su huella de identidad y patrón de acceso es fundamental para implementar los controles de acceso y supervisión necesarios para protegerlos y a la empresa del mal uso.

Bloquear los Modelos de IA

Las capacidades de IA tienen la promesa de desbloquear la eficiencia y la productividad, pero también el potencial de ser utilizadas en contra de las organizaciones. Introducir la IA en todos los aspectos de las operaciones comerciales ya no es un “mejor tener” – es un requisito para el éxito en el panorama competitivo actual. Por lo tanto, desplegar la IA de manera segura es un componente necesario para realizar el potencial empresarial completo y los resultados de manera segura.

El cambio a la ciberdefensa impulsada por IA está en curso, mientras que los modelos de IA en sí se han convertido en objetivos. Los adversarios pueden intentar envenenar los datos que alimentan estos modelos y manipularlos para que tomen acciones no intencionadas o incluso divulguen información sensible.

Los ataques adversarios contra la IA pueden venir en diferentes formas, como ataques de envenenamiento, ataques de inyección de instrucciones y otros. Para proteger adecuadamente la IA de la posible manipulación, las organizaciones deben aprovechar la filosofía de la Agencia de Infraestructura y Seguridad Cibernética (CISA) de Diseño Seguro. Esto comienza con los datos que alimentan el entrenamiento del modelo. Bloquear las entradas temprano en el proceso de desarrollo establece la base para resultados confiables en la implementación.

Entender las entradas que se utilizan para desarrollar los modelos y capacidades es posible a través de la gobernanza de datos intencional y el control de acceso a los modelos en sí. Los controles críticos que permiten validar los resultados deseados vienen en la forma de prevención de pérdida de datos (DLP); aplicación de políticas y seguridad; anclaje a través de fuentes verificables; y controles estrictos de aprobación para acciones de alto impacto, auditoría y pruebas continuas, incluyendo pruebas de penetración de modelos para endurecerlos.

Integrar la IA en las Operaciones de Seguridad

Hasta ahora, aplicar la IA a la ciberdefensa ha sido táctico, con muchas organizaciones agregando la IA a procesos humanos centricos legados, en lugar de replantear estratégicamente cómo construir procesos centrados en la IA. Esto es como intentar poner un motor V8 en una bicicleta. La próxima evolución de la habilitación de la IA será diseñar procesos desde cero, con la IA y la automatización nativas en el diseño. Los métodos y procesos de operaciones de seguridad probados, como la detección de amenazas, la caza de amenazas y la ingeniería de detección, siguen siendo artículos críticos que son imperativos para la seguridad de la organización en la era de la IA. Transformar los procesos de seguridad actuales para habilitar la mejora de la IA puede sentar una base sólida para el centro de operaciones de seguridad (SOC) impulsado por la IA del futuro.

Además, la automatización no es un concepto nuevo único para el surgimiento de la IA; los flujos de trabajo y procesos de seguridad han sido automatizados durante años, con organizaciones maduras que tienen capacidades de orquestación y automatización muy sofisticadas. Sin embargo, la IA mejora la automatización basada en reglas existente y la evoluciona aún más, permitiendo flujos de trabajo automatizados dinámicos, adaptables y ricos en contexto que pueden ayudar a abordar la velocidad y la agilidad necesarias para estos riesgos emergentes de la IA.

¿Qué sigue?

La seguridad debe seguir siendo una prioridad para los negocios y la TI para mantener sus activos y usuarios críticos a salvo de la explotación maliciosa. La IA segura por diseño es una necesidad dada la velocidad a la que los modelos de IA pueden ser desplegados y solicitados para realizar actividades más críticas. Los equipos de ciberseguridad deben pensar estratégicamente sobre transformar los procesos desde cero para implementar adecuadamente las nuevas capacidades de la IA y mantener el ritmo en el juego de gato y ratón cibernético.

Los líderes de seguridad pueden tomar varios pasos concretos en el corto plazo: realizar una revisión integral de los procesos de seguridad actuales para identificar brechas, oportunidades de modernización y áreas maduras para la transformación. Mantenerse al tanto de las amenazas, tendencias y tecnologías emergentes de la IA. Por encima de todo, permanecer anclado en el principio de seguridad fundamental de la defensa en profundidad que se ha demostrado con el tiempo – protección en capas y validación desde la identidad, el punto final, la red, los datos, con capacidades de monitoreo y respuesta robustas que siempre se están probando.

El potencial transformador de la IA promete una ventaja demasiado grande como para rechazar su adopción, y el genio ya ha salido de la botella para los actores de amenazas. Por lo tanto, el papel de los líderes de seguridad en esta próxima era es el mismo que siempre ha sido: apoyar a las organizaciones para lograr sus objetivos comerciales con una mitigación de riesgos reflexiva – solo que ahora a velocidad de máquina con el uso de la IA.