El AI no arreglará las bases de seguridad rotas

El AI afina la visibilidad, el análisis y la toma de decisiones, pero su eficacia está limitada por la calidad del entorno subyacente

“¿Utiliza AI?” se ha convertido en la pregunta por defecto en conversaciones sobre productos de seguridad, planteada por líderes de seguridad y repetida en casi todas las presentaciones de los vendedores.

El problema es que es la pregunta equivocada. El hecho de que un producto utilice AI no significa que vaya a ayudar a fortalecer la postura de seguridad de una organización. El AI no es una cura para todos los problemas de ciberseguridad. Su valor depende de cómo se aplique, lo que comienza con definir claramente el problema que se quiere resolver.

La mejor pregunta es: “¿Qué brecha de seguridad específica estamos tratando de cerrar, y ¿esta tecnología impulsada por AI realmente ayuda a cerrarla?”

Qué hace bien el AI

El AI aporta valor en la seguridad en tres áreas clave. Primero, llena las brechas de datos. Los equipos de seguridad extraen datos de decenas de fuentes, incluyendo inventarios de activos obsoletos, sistemas de identidad que no capturan todas las relaciones de acceso, y telemetría de red que no detecta cierto tráfico. El AI puede inferir contexto a partir de conjuntos de datos incompletos para construir una imagen más completa de los activos, identidades, conectividad y comportamiento de las cargas de trabajo.

El AI también mejora el análisis a escala. El problema de señal de ruido en las operaciones de seguridad es grave y empeora. El AI puede correlacionar eventos a través de múltiples fuentes de datos, presentar las alertas que merecen atención y empujar el ruido de baja prioridad fuera del campo de visión del analista. Es aquí donde la mayoría de los vendedores de seguridad han centrado su inversión en AI. Los equipos de SOC dedican menos tiempo a triage de alertas de baja valor y más tiempo a actividades que requieren juicio humano.

En tercer lugar, una vez que el AI ha enriquecido los datos y analizado las señales, puede guiar la acción recomendando el próximo paso, como qué cambio de política mitigará el riesgo, qué acción de respuesta se ajusta al patrón de comportamiento, o dónde se necesita un cambio de configuración.

El AI aporta el mayor valor cuando mejora el contexto, el análisis y la toma de decisiones. Mejora las prácticas de seguridad sólidas, pero no puede compensar las que faltan.

Por qué las bases débiles todavía fallan

El AI está limitado por las entradas que una organización se lo alimenta. Esas entradas (por ejemplo, telemetría, arquitectura, políticas, controles y herramientas existentes) definen los límites de lo que el AI puede hacer. Afine esas entradas, y el AI produce resultados más afilados. Debilítelos, y la salida se degrada.

Sin el contexto para identificar una ausencia, el AI no tiene forma de informar sobre ella. No se tomará la tarea de examinar un entorno y señalarizar lo que falta. No dirá a un equipo de seguridad que la red carece de segmentación adecuada, que los controles de acceso son demasiado permisivos, o que las brechas de visibilidad dejan segmentos enteros del entorno sin supervisión.

El AI no escapa del antiguo principio de calidad de datos, “basura dentro, basura fuera”, lo refuerza. La telemetría débil produce un análisis débil. Los controles defectuosos dan al AI algo que optimizar en la dirección equivocada. La visibilidad incompleta significa que las decisiones se toman a partir de una imagen parcial, y el AI toma esas decisiones más rápido, no más precisas. La velocidad no es una mejora cuando la información subyacente es poco fiable.

Es por eso que la calidad de la base es importante antes de que cualquier capacidad de AI entre en juego. Una base sólida incluye controles de identidad y acceso que aplican límites significativos, el privilegio mínimo en usuarios, workloads, aplicaciones, datos, microsegmentación para limitar el movimiento lateral, y visibilidad/observabilidad comprehensiva en todo el entorno. También requiere telemetría confiable y una comprensión clara de cómo los sistemas se conectan y dependen entre sí.

Nada de esto es nuevo. Estas son las mismas disciplinas que los equipos de seguridad han discutido durante años, desde el cambio a móvil hasta el movimiento a la nube. Lo que ha cambiado es el costo de descuidarlos. El AI puede amplificar una base de seguridad sólida, pero no puede reemplazarla.

El AI agente cambia la ecuación de riesgo

El cambio no es de no AI a AI; es de AI que asiste a AI que actúa. El AI tradicional analiza datos, presenta información y recomienda los próximos pasos. El AI agente ejecuta a través de sistemas, datos y flujos de trabajo sin esperar a una decisión humana.

Piénselo de esta manera: desplegar 100 agentes de AI en una noche es efectivamente como contratar a 100 nuevos empleados que nunca se desconectan, operan a velocidad de máquina y tienen acceso a cualquier sistema que sus permisos permitan. Pero a diferencia de los empleados humanos, estos agentes no se detienen, no cuestionan ni aplican juicio sobre cuándo ese acceso debe usarse. Ejecutan continuamente, moviéndose a través de sistemas y tocando múltiples aplicaciones exactamente como se les permite.

Esa es la brecha. Su modelo de acceso asume comportamiento humano (por ejemplo, acciones discretas, ritmo más lento y algún nivel de juicio). Los agentes de AI eliminan esas limitaciones. Así, si los permisos son demasiado amplios (o inexactos), no solo se quedan inactivos o se usan incorrectamente de vez en cuando; se ejercen constantemente, a escala, en cada sistema que tocan.

El riesgo se complica cuando una organización asigna a un agente el mismo perfil de acceso que un usuario específico, crean un clon, no un proxy útil. Ese clon tiene los mismos permisos amplios que el original, se ejecuta continuamente y puede exponer a la organización a los mismos riesgos, ya sea que su comportamiento sea malicioso o solo mal configurado.

En la era del AI, la identidad, el control de acceso, el privilegio mínimo, la segmentación y la observabilidad ya no son solo las mejores prácticas; son requisitos de seguridad fundamentales. Un informe reciente de la Cloud Security Alliance desarrollado con SANS, el Proyecto de Seguridad de AI de OWASP Gen, y una comunidad de practicantes, refuerza el punto de que el AI agente no hace que estos fundamentos sean obsoletos. Los hace innegociables.

Qué aspecto tiene la seguridad lista para AI

Tratar la preparación para AI como una pregunta de adquisición y centrarse en qué herramientas habilitadas para AI implementar ignora el hecho de que la preparación para AI es una cuestión de arquitectura, gobernanza y controles. La pregunta no es qué herramientas comprar, sino si el entorno apoyará al AI operando de manera segura.

Comience con la visibilidad. Antes de implementar cualquier capacidad de AI, los equipos de seguridad necesitan una imagen clara de lo que existe en el entorno: activos, workloads, identidades, aplicaciones, datos, modelos de AI, agentes y conexiones de terceros. Ese inventario no es algo que el AI pueda construir para usted. Es el punto de partida que el AI necesita para hacer algo útil.

A partir de ahí, defina el problema. Identifique la brecha de control o el riesgo específico. Decida qué resultado necesita mejorar. Luego pregúntese si el AI puede ayudar a cerrar esa brecha mejor que otros enfoques. Las organizaciones que invierten este orden comenzando con una herramienta de AI y luego buscando un problema al que aplicarla tienden a generar actividad sin mejorar la seguridad.

Aplicar los principios de confianza cero a los agentes de AI es donde esto se vuelve operativo. La instintiva respuesta es definir qué no deben hacer los agentes, pero esa lista siempre será incompleta. Un enfoque más confiable es ser prescriptivo sobre qué puede hacer cada agente, darle solo el acceso que requiere una tarea definida y hacer cumplir esos límites en cada capa de la pila. Segmentar los sistemas a los que los agentes pueden acceder para que, si uno se comporta de manera que está fuera de sus límites definidos o un atacante lo abuse, el daño se mantenga contenido.

Finalmente, un aumento en la actividad no es una métrica de éxito. El AI aumentará el volumen de acciones que toma un equipo de seguridad, pero eso no significa que esté mejorando la seguridad. Un panel que presenta mucha actividad no señaliza que el AI esté entregando valor.

Mida los resultados, como si los volúmenes de alertas están disminuyendo de maneras que reflejen una señal de alerta genuina y el nivel de riesgo está disminuyendo más rápido en las áreas que más importan. Asegúrese de que las recomendaciones de políticas fortalezcan los controles, permitan que el equipo de seguridad contenga incidentes más rápido y permitan que los analistas de SOC dediquen más tiempo a trabajos que requieren juicio humano.

La base es lo primero

El AI no es la base de una postura de seguridad sólida. Es un multiplicador de fuerza, y como cualquier multiplicador, su valor depende enteramente de a qué se aplica.

Las organizaciones que han construido una arquitectura sólida con visibilidad clara, privilegios mínimos aplicados, segmentación y controles de identidad sólidos pueden utilizar el AI para afilar su contexto, acelerar el análisis y actuar con mejor información. Aquellos que no lo han hecho encontrarán que el AI los mueve más rápido en la dirección equivocada, optimizando controles defectuosos y presentando información a partir de una imagen incompleta.

La pregunta que debe hacerse antes de realizar cualquier inversión en AI es la misma que debe impulsar cada decisión de seguridad: ¿Qué problema estamos tratando de resolver? Si la respuesta es clara y la arquitectura para apoyarla está en su lugar, entonces el AI puede hacer que la solución sea más efectiva. Si la respuesta es vaga o la base es débil, agregar AI no cambiará eso. Solo hará que la brecha sea más difícil de ver.

El AI no arreglará una base de seguridad rota. Solo hará que las grietas sean visibles más rápido.