Redefiniendo la autoridad en la alta dirección: lo que realmente requiere fomentar una relación con la IA

He pasado 25 años del lado del comprador en operaciones de seguridad, y nunca he perdido el sueño por una regla de firewall. Sin embargo, he perdido el sueño por la IA.

97% de los líderes de seguridad confían en que la IA puede manejar la triage, pero solo el 35% la está usando allí. Este punto de inflexión es un problema de confianza, y la confianza solo se puede resolver como siempre, a través de la estructura, la evidencia y el tiempo.

¿Puedes ver la automatización, pero puedes confiar en la IA?

Con la automatización tradicional, los profesionales pueden saber con certeza qué sucederá antes de que suceda. Esta transparencia es la razón por la que los equipos SOC han pasado una década construyendo confianza en flujos de trabajo automatizados sin mucho debate interno; sin embargo, la IA agente ha roto el molde al introducir una capa de juicio aprendida, un sistema que pondera el contexto, hace llamadas predictivas y llega a conclusiones mediante un proceso que no siempre es completamente legible, incluso para quienes lo construyeron. 

Solo 21% de las organizaciones afirman que tienen un modelo de gobernanza maduro para la IA agente, a pesar de que el 74% espera usar agentes de IA al menos “moderadamente” para 2027. Cuando los profesionales de seguridad no pueden explicar de forma transparente este tipo de “IA de caja negra”, es un testimonio de la dificultad de gobernar las herramientas de IA. No es porque las herramientas no se estén asegurando correctamente, sino porque el funcionamiento interno de la herramienta de IA se basa en juicio más que en un diagrama de flujo.

En las salas de juntas, los líderes evalúan la IA como lo harían con la automatización, preguntando “¿puedo ver la lógica?” en lugar de preguntar “¿cómo gano confianza en un tomador de decisiones cuya lógica evoluciona?” La mayoría de los CISOs probablemente ya conocen la respuesta, pero el desafío está en aplicarla en la práctica.

Tratar la IA como una contratación de alto riesgo

Piensa en la incorporación de un nuevo analista senior. Un CISO no entregaría las llaves de producción a un analista recién contratado el primer día, sin importar cuán impresionante sea su currículum. Lo comenzarían con tareas de bajo riesgo, observarían cómo manejan la ambigüedad y ampliarían su autoridad a medida que la ganan. La IA merece la misma incorporación, fomentada en una confianza basada en evidencia que se construye con el tiempo.

Ya hemos visto los efectos en acción cuando un agente autónomo de Meta AI desencadenó un incidente de seguridad a nivel de empresa después de actuar sin la aprobación humana, exponiendo datos sensibles de la compañía y de usuarios a empleados no autorizados durante aproximadamente dos horas antes de que se contuviera el problema. La causa raíz fue la falta de supervisión humana en el punto de decisión donde debería haberse requerido una aprobación explícita. Ese es el modo de falla exacto que los guardarraíles rígidos están diseñados para prevenir, y es un recordatorio de que la disciplina del alcance importa más que la sofisticación del modelo.

La IA merece la misma atención, y podemos considerarla como una rampa basada en evidencia:

• Comprende la lógica de decisión antes de implementarla. No necesitas ver cada peso del modelo, pero sí debes saber sobre qué datos está razonando, qué resultados está optimizando y dónde probablemente se encuentren sus puntos ciegos.
• Establece límites rígidos desde el primer día. Define exactamente en qué puede actuar el sistema de forma independiente y qué requiere intervención humana. Un alcance estrecho es la base sobre la que se construye la confianza.
• Amplía los límites solo a medida que se acumula evidencia. Cada decisión correcta es un punto de datos, y cada error también lo es. Amplía la apertura en proporción al historial, no en proporción al entusiasmo del proveedor o a los ciclos presupuestarios.

Seguir estos pasos como protocolo ayudará a proteger contra los temores de los CISOs, incluido evitar que un sistema autónomo opere más allá del punto donde alguien realmente lo haya verificado y merezca ser confiado.

El modelo de tres capas: donde la IA gana su lugar

SANS’ Secure AI Blueprint describe una estructura de gobernanza construida alrededor de tres vías: proteger la IA, utilizar la IA y gobernar la IA, abarcando seis categorías de control que incluyen acceso, datos, despliegue, inferencia, monitoreo y seguridad del modelo. Este es un punto de partida útil, y para dar un paso más, es provechoso estructurar esta relación dividiendo el SOC en tres capas para resolver el problema de confianza en la IA.

1. Resultado. Esta es la capa donde reside el riesgo empresarial. ¿Qué considera la organización como un resultado aceptable? ¿Cuál es la tolerancia a falsos negativos frente a falsos positivos? Esta es una decisión humana, punto final. Ningún modelo vota sobre lo que la organización está dispuesta a arriesgar.
2. Juicio. Aquí se establecen prioridades y se hacen compensaciones bajo ambigüedad. ¿Debe esta alerta escalarse ahora o esperarse más contexto? ¿Vale la anomalía la interrupción de la noche de alguien? El juicio puede ser informado por la IA, y cada vez más debería serlo, pero la autoridad final sigue siendo humana. Esta es la capa que la mayoría de las organizaciones tienden a delegar demasiado pronto, y será la que les cause problemas si lo hacen.
3. Ejecución. Aquí es donde la IA debe realizar el trabajo pesado, y hacerlo a una velocidad que ningún equipo humano puede igualar. Enriquecer una alerta, correlacionar señales entre una docena de herramientas, redactar una acción de contención, ejecutar el playbook una vez que un humano o una capa de juicio confiable haya aprobado la ruta. Velocidad de máquina, determinista una vez activada, sin ego al respecto.

Madurando la asociación, no solo gestionando la herramienta

Cuando la relación de la IA dentro del SOC se construye como una asociación en lugar de supervisar una herramienta, los CISOs pueden comenzar a ver a la IA como un compañero de equipo en desarrollo, lo que genera un cambio fundamental en cómo el CISO emplea su tiempo.

Los SOC que logran equilibrar esta relación son aquellos con el proceso de construcción de confianza más disciplinado. Esa disciplina es lo que permite que una operación de seguridad escale a velocidad de máquina en la capa de ejecución sin perder el juicio humano que las decisiones a nivel de resultado siguen exigiendo, y siempre exigirán.

Hemos superado el momento en que la IA se veía como la herramienta reluciente para impresionar a las salas de juntas. Las capacidades y el potencial de la IA han ganado la autoridad para ser tratadas como siempre se ha tratado la tecnología avanzada en un SOC, una decisión verificada a la vez.