Por qué el apocalipsis es una distracción y cuál es el verdadero riesgo de la IA que debería preocuparnos

Si consumes noticias de cualquier tipo, es difícil ignorar el alarmismo creciente en torno a la industria de la IA y las advertencias apocalípticas. El relato que advierte del «riesgo existencial» que los sistemas de IA representan para la humanidad ha facilitado demasiado que las empresas de ciberseguridad se sumen a la corriente y dejen que el miedo haga el trabajo de venta. Sin embargo, centrarse en el «apocalipsis» es un error, porque pasa por alto los riesgos más inmediatos que la IA agéntica plantea hoy a las organizaciones.

Por supuesto, los agentes de IA que actúan al margen de los controles de una organización entrañan riesgos evidentes. Hace poco, informes de Australia y Estados Unidos revelaron que agentes de IA de OpenAI se habían excedido en sus tareas en sistemas gubernamentales de ambos países.

Sin embargo, la amenaza de los escenarios apocalípticos relacionados con la IA está exagerada. En lugar de obsesionarse con hipótesis, las organizaciones deben afrontar esta nueva realidad y asegurarse de contar con salvaguardas deterministas que garanticen la resiliencia operativa.

Internet no tiene un único interruptor de apagado

Quienes creen en el relato apocalíptico piensan que, a medida que la IA gane sofisticación y alcance, podría convertirse en un «interruptor de apagado» concentrado: un único punto vulnerable a que alguien tome el control total y desencadene una catástrofe.

Sin embargo, Internet está mucho más distribuida y es más diversa de lo que supone la teoría del interruptor de apagado. Funciona como una «red de redes», compuesta por miles de millones de componentes organizados en distintas arquitecturas y protegidos por innumerables equipos de operaciones que trabajan con diferentes normas y herramientas. Por eso, no existe un único interruptor que alguien, humano o máquina, pueda accionar, ni una sola vulnerabilidad o cadena de vulnerabilidades que pueda explotarse con consecuencias tan devastadoras.

La idea de que la IA pudiera crear y liberar un patógeno diseñado o infiltrarse en sistemas nucleares aislados de Internet puede resultar atractiva como argumento cinematográfico. Aun así, está muy lejos de ser un escenario creíble para evaluar amenazas operativas.

Fuera de la vista, fuera de control

A medida que la IA agéntica sigue evolucionando, dos factores han cambiado fundamentalmente la naturaleza del riesgo empresarial.

Por un lado, la IA permite ahora a los actores maliciosos encontrar y explotar vulnerabilidades cibernéticas en minutos en lugar de meses. Para cuando las defensas basadas en IA probabilística detectan una actividad sospechosa, a menudo ya es demasiado tarde para responder a la amenaza. Como se basan en probabilidades estadísticas y no en reglas fijas, incluso las mejores dejarán pasar cierta actividad maliciosa, y al atacante le basta con colarse una sola vez

Por otro lado, el uso de la «IA en la sombra» por parte de los empleados ha dificultado mucho saber qué hay que proteger. Un abrumador 82 % de las organizaciones encuestadas por Cloud Security Alliance descubrió durante el último año que había agentes de IA en funcionamiento que los equipos de seguridad o de TI desconocían, aunque el 68 % afirmó tener mucha confianza en su visibilidad sobre los agentes. Por separado, EY descubrió que una cuarta parte de las grandes empresas estadounidenses que usan IA agéntica admitió que no podía detectar agentes no autorizados que operaban dentro de la empresa.

Como es lógico, ambos cambios ejercen una presión operativa considerable sobre los sistemas empresariales. En conjunto, dejan a las organizaciones en una situación de gran desventaja: son demasiado lentas para identificar y corregir las vulnerabilidades expuestas y desconocen qué sistemas están expuestos desde el principio.

Controlar lo que sí está en nuestras manos

Las organizaciones necesitan un inventario actualizado en tiempo real de todos los agentes que operan en la empresa, estén autorizados o no, con un responsable identificado y un ámbito claramente definido que especifique a qué pueden acceder y qué pueden hacer. Ese es el primer paso para controlar lo que sí está en nuestras manos, porque, aunque los modelos de IA pueden ser probabilísticos, los controles establecidos a su alrededor pueden ser deterministas, fijos y estar claramente definidos.

En la práctica, esto significa que cada vez que un agente propone una acción, una capa de control independiente del propio modelo debe verificar que esté permitida y mantener un registro de auditoría. Sin embargo, solo el 11 % de las organizaciones bloquea automáticamente la acción de un agente cuando este excede su ámbito; la mayoría depende de la aprobación humana o simplemente la registra. El incidente australiano demuestra el coste de confiar en que el sistema de destino diga que no: al negarle el acceso, el agente encontró otra forma de entrar. La estructura general de gobernanza también debe poder identificar, autorizar y verificar continuamente a todos los agentes para evitar que se materialicen riesgos operativos imprevistos. Todo esto debe hacerse con rapidez, porque los ataques que avanzan a velocidad de máquina requieren reglas que avancen a esa misma velocidad.

Del miedo hipotético a las soluciones prácticas

Por convincente que resulte, la avalancha de noticias apocalípticas suscitada por los sistemas de IA autónomos está muy alejada de la realidad. El riesgo que debería preocuparnos es mucho más prosaico que una IA que decide destruirnos: un agente que actúa dentro de tu empresa más rápido de lo que nadie puede verlo y con permisos que nadie le concedió.

Los problemas de velocidad y visibilidad tienen solución, siempre que los sistemas de seguridad que rigen la IA sean deterministas y puedan verificar y rastrear con precisión a cada agente a la velocidad a la que opera.

Para los consejos de administración y los responsables de seguridad, esto se reduce a tres preguntas prácticas: ¿sabemos qué agentes están activos en nuestro entorno?, ¿cada uno tiene un responsable y límites definidos?, ¿podemos detener una acción no autorizada antes de que se ejecute? Ayudar a los clientes a cerrar estas brechas prácticas es la forma en que los proveedores de ciberseguridad pueden contribuir mucho más a la resiliencia que vendiendo miedo a futuros hipotéticos.