Líderes de opinión
La IA puede llevar la seguridad a gran escala. Pero ¿qué es lo que se escala?

Puntos claveProcesar más datos no mejora automáticamente la detección de amenazas sin contexto…
Ver más
- Procesar más datos no mejora automáticamente la detección de amenazas sin contexto organizacional.
- Los modelos ajustados pueden apoyar investigaciones a gran escala con un costo más predecible que los modelos de frontera.
- La autonomía debe ser proporcional al riesgo con una gobernanza diseñada antes de escalar los agentes.
Hoy, los equipos de seguridad empresarial se enfrentan a más actividad, telemetría y alertas de las que pueden investigar manualmente de forma realista. Las estimaciones varían, y algunas investigaciones indican que el equipo medio de operaciones de seguridad recibe más de 4.400 alertas al día. A medida que las organizaciones crecen y añaden más herramientas, y la IA facilita más ataques, es inevitable que esa cifra aumente. Ya vemos empresas con dos millones de dispositivos en sus entornos, cuyos equipos de seguridad investigan estas alertas manualmente y no pueden competir en igualdad de condiciones con atacantes que recurren cada vez más a agentes.
Para quienes defienden los sistemas, los agentes de IA pueden cambiar esa ecuación al hacerse cargo de las investigaciones y otras tareas repetitivas en todo el entorno. Sin embargo, la capacidad de procesar más datos no se traduce automáticamente en una mejor detección de amenazas ni en una mejor respuesta. No basta con escalar: también hace falta contexto.
La importancia del contexto para evaluar la escala
Un agente que investiga millones de dispositivos debe entender qué busca, qué constituye un comportamiento inusual en ese entorno concreto y qué hallazgos justifican una investigación más exhaustiva. Sin este contexto, la automatización corre el riesgo de amplificar el ruido y generar conclusiones irrelevantes o engañosas.
También es importante tener presente que no todas las organizaciones podrán recurrir a modelos de frontera para investigar cada alerta; eso resultaría demasiado costoso.
Los entornos de seguridad varían en cuanto a su infraestructura, aplicaciones, requisitos operativos, obligaciones normativas y tolerancia al riesgo. Quienes defienden los sistemas deben mantener las aplicaciones en funcionamiento mientras gestionan los requisitos de cumplimiento y evitan interrupciones operativas.
Para ser eficaces, los agentes deben incorporar el conocimiento de la organización, incluidas investigaciones anteriores, procedimientos establecidos y el criterio de analistas experimentados. Gran parte de este conocimiento no se puede simplemente cargar en un agente mediante una hoja de cálculo u otro formato; es algo que debe observarse en la práctica, aprendiendo de defensores experimentados en acción.
Para las empresas, la gran pregunta es cómo aprovechar ese conocimiento institucional y transformarlo en sistemas capaces de tomar decisiones coherentes y adecuadas al contexto a la velocidad de las máquinas.
Cómo llevar a la práctica el conocimiento de la organización
Las organizaciones necesitan mecanismos para captar y aplicar los conocimientos que orientan las investigaciones, incluidas las decisiones tomadas en casos anteriores, los procedimientos establecidos y la manera en que los analistas interpretan las pruebas. Además, las empresas pueden tener procesos y herramientas «a medida», así como conocimientos informales propios de la organización, que también deben documentarse.
La especialización de modelos es una posible opción. El ajuste fino de modelos para clientes empresariales individuales puede permitir realizar investigaciones a gran escala con costos más previsibles y mantener un alto rendimiento. Los modelos de código abierto ajustados con precisión pueden ser especialmente útiles para tareas que implican poblaciones muy numerosas de dispositivos.
Las organizaciones también deben evaluar el rendimiento de los agentes a medida que cambian los modelos, los flujos de trabajo y los entornos empresariales. Los entornos sintéticos, o gemelos digitales, pueden ofrecer contextos representativos para probar distintas versiones de agentes cuando los datos de producción ya no están disponibles o han quedado obsoletos.
El ajuste fino no es la única forma de proporcionar contexto. La recuperación de información, la memoria, la orquestación de flujos de trabajo y los controles explícitos de políticas son alternativas. El requisito fundamental es que el método elegido mejore el rendimiento del agente en el entorno donde vaya a operar.
La autonomía a gran escala exige límites claros, supervisión y coordinación
Identificar correctamente una amenaza es solo una parte del desafío. Los agentes deben entender qué acciones están autorizados a realizar, cuándo se necesita la aprobación de una persona y cómo evitar interrumpir las operaciones legítimas de la empresa. Para desplegarlos de forma confiable, es esencial determinar en qué casos pueden actuar de manera autónoma y en cuáles se requiere la intervención humana en la toma de decisiones.
La autonomía a gran escala también requiere economías de escala. Las empresas que utilicen modelos de frontera para millones de investigaciones acabarán llevándose a la quiebra. Por eso es fundamental encontrar el método más eficiente para investigar con un modelo de IA, ya sea un modelo de lenguaje pequeño (SLM) o uno propietario.
El grado de autonomía debe ser proporcional al riesgo. Las tareas rutinarias y bien conocidas pueden ser adecuadas para la ejecución autónoma, mientras que las acciones de gran impacto o que puedan causar interrupciones quizá requieran la aprobación de una persona o una autorización adicional. La seguridad empresarial también depende de la coordinación entre equipos. Si una investigación identifica una amenaza que exige cambiar la configuración de un cortafuegos, debe transferirse sin contratiempos al equipo responsable de ese sistema, con la autorización adecuada y responsabilidades claras para llevar a cabo la corrección.
Por tanto, la gobernanza y el diseño de los flujos de trabajo son componentes esenciales del despliegue de agentes, no controles que puedan añadirse después de haber ampliado la tecnología.
La próxima medida del éxito de la IA en seguridad será la calidad de sus resultados
Las organizaciones deben evaluar a los agentes con medidas basadas en resultados, como la precisión de las investigaciones, las tasas de falsos positivos y falsos negativos, el tiempo necesario para investigar y corregir los problemas, el costo por investigación, la calidad de las escalaciones y el cumplimiento de las políticas de autorización.
La evaluación continua es esencial a medida que cambian los modelos y los flujos de trabajo. Probar distintas versiones de los agentes con casos representativos y utilizar entornos sintéticos puede ayudar a las organizaciones a detectar regresiones antes de implementar actualizaciones en producción.
Los responsables de seguridad deben sopesar los beneficios de la automatización frente a los riesgos operativos de su implementación. La disponibilidad de las aplicaciones, las obligaciones de cumplimiento, la tolerancia al riesgo de la organización y los plazos de implementación influyen en la rapidez con que se pueden adoptar nuevas capacidades.
La IA ofrece a los equipos de seguridad la oportunidad de abordar un problema de capacidad de larga data, pero la escala bruta no es el objetivo final. La verdadera oportunidad consiste en combinar la velocidad de las máquinas con el contexto de la organización, la autoridad adecuada y el criterio humano, para que los agentes puedan distinguir lo que importa, tomar las medidas correctas e involucrar a las personas indicadas cuando sea necesario.












