Líderes de opiniÃģn

La Inteligencia Artificial en la Sombra EstÃĄ Exponiendo un Fallo Mayor en la Gobernanza de la IA

mm
AÃąade Unite.AI a tus fuentes preferidas en Google
A professional woman in an office at night uses a laptop with a glowing, abstract digital interface floating in the air. The interface shows connected data nodes and windows, symbolizing the

Durante aÃąos, el riesgo interno se ha centrado en los peores escenarios: empleados maliciosos, datos robados y daÃąos descubiertos despuÃĐs de los hechos. Ese enfoque siempre ha sido incompleto. En la era de la IA, se estÃĄ convirtiendo en activamente poco Útil.

La mayoría del riesgo interno no comienza con mala intenciÃģn. Comienza con el trabajo rutinario: resumir un documento, responder a un cliente, acelerar un flujo de trabajo o enviar cÃģdigo mÃĄs rÃĄpido. Cada vez mÃĄs, esas decisiones diarias involucran a la IA.

Es por eso que la IA en la sombra es importante. Ampliamente definida, la IA en la sombra es el uso de herramientas, agentes o automatizaciones de IA fuera de la supervisiÃģn aprobada por la empresa. En la mayoría de los casos, los empleados no estÃĄn tratando de evadir la política. EstÃĄn tratando de hacer su trabajo. El problema real es que la gobernanza no ha mantenido el ritmo con cÃģmo estÃĄ cambiando el trabajo.

Esa brecha ahora es medible. Una nueva investigaciÃģn de Ponemon encontrÃģ que el 92% de las organizaciones dice que la IA generativa ha cambiado la forma en que los empleados acceden y comparten informaciÃģn, pero solo el 18% ha integrado completamente la gobernanza de la IA en los programas de riesgo interno. La IA ya estÃĄ integrada en el trabajo diario. La supervisiÃģn todavía estÃĄ atrÃĄs.

La IA en la sombra no es un solo problema

Uno de los errores mÃĄs grandes que cometen las organizaciones es tratar a la IA en la sombra como un riesgo uniforme. No lo es.

Hay una diferencia significativa entre usar la IA para resumir investigaciones pÚblicas, pegar contratos internos en un asistente no aprobado y permitir que un agente de IA recupere datos o tome acciÃģn en sistemas empresariales. El riesgo cambia dependiendo de la sensibilidad de los datos, el nivel de autonomía involucrado y la autoridad otorgada al sistema.

Es por eso que las prohibiciones generales rara vez funcionan. Tienen tendencia a empujar el comportamiento mÃĄs allÃĄ de la vista sin abordar las condiciones que hicieron que el comportamiento fuera atractivo en primer lugar. Pero las políticas demasiado permisivas no son mejores. Si todo estÃĄ permitido, la gobernanza se convierte en poco mÃĄs que un ejercicio de papel.

Un enfoque mÃĄs efectivo es distinguir entre:

  • Asistencia de bajo riesgo, donde la IA apoya el trabajo rutinario con exposiciÃģn limitada
  • Manejo de datos de alto riesgo, donde se estÃĄ ingresando, transformando o compartiendo informaciÃģn sensible, y
  • Autoridad delegada, donde los sistemas de IA estÃĄn autorizados a recuperar, orquestar o actuar en entornos conectados.

La Última categoría marca el verdadero cambio.

A medida que la IA se mueve mÃĄs allÃĄ de la generaciÃģn de contenido hacia la recuperaciÃģn, la orquestaciÃģn y la ejecuciÃģn, la pregunta de seguridad cambia. El problema ya no es solo si alguien usÃģ una herramienta no aprobada. Es quÃĐ autoridad se ha otorgado a un sistema, quÃĐ datos puede acceder y quÃĐ se le permite hacer con ese acceso.

Los agentes de IA estÃĄn volviÃĐndose mÃĄs confiables, mÃĄs conectados y mÃĄs capaces de actuar de forma independiente. Es exactamente por eso que los modelos tradicionales de riesgo interno estÃĄn empezando a mostrar sus límites.

Por quÃĐ la IA en la sombra con autoridad delegada cambia el modelo de riesgo

La mayoría de los modelos de riesgo interno se construyeron para evaluar el comportamiento humano: negligencia, mal uso, compromiso o intenciÃģn maliciosa. Esas categorías todavía importan. Simplemente ya no capturan la imagen completa.

Esto se vuelve especialmente claro en la IA en la sombra, donde la herramienta o agente no estÃĄ necesariamente sancionado, gobernado centralmente o incluso visible para la organizaciÃģn. En estos casos, el riesgo no es solo que un empleado estÃĐ usando la IA. Es que pueden estar usando un sistema controlado por el usuario con acceso, autonomía o integraciones que la empresa no entiende completamente.

Hoy en día, una persona puede tener acceso legítimo y emitir lo que parece ser una instrucciÃģn rutinaria. Pero en un escenario de IA en la sombra, esa instrucciÃģn puede ser pasada a un asistente no aprobado, complemento, agente o flujo de trabajo que puede llevarla mÃĄs lejos, mÃĄs rÃĄpido o mÃĄs ampliamente de lo que el usuario pretendía. Esa es la verdadera consecuencia de la autoridad delegada.

El ser humano proporciona la intenciÃģn, el acceso o la seÃąal. El sistema de IA ejecuta con velocidad, escala y persistencia. Juntos, pueden amplificar los errores de maneras que los controles heredados nunca estuvieron diseÃąados para contener.

La preocupaciÃģn no es que los sistemas de IA sean maliciosos. Es que pueden operativizar instrucciones defectuosas, juicio dÃĐbil o flujos de trabajo inseguros a velocidad de mÃĄquina. Y cuando ese sistema se encuentra fuera de la supervisiÃģn aprobada, la organizaciÃģn puede tener poca visibilidad sobre quÃĐ datos tocÃģ, adÃģnde fue ese dato, quÃĐ acciones se tomaron o cÃģmo intervenir cuando algo sale mal.

Es lo que hace que la autoridad delegada dentro de la IA en la sombra sea materialmente diferente del uso no aprobado de herramientas ordinarias. El problema ya no se limita a un empleado que pega datos sensibles en la interfaz incorrecta. Se extiende a sistemas no aprobados que recuperan informaciÃģn, encadenan tareas, se conectan a aplicaciones empresariales y actÚan en nombre del usuario sin las barreras que un entorno aprobado normalmente haría cumplir.

Es por eso que los equipos de seguridad necesitan un modelo mÃĄs preciso para el riesgo interno: uno que tenga en cuenta no solo el comportamiento humano, sino la interacciÃģn entre la intenciÃģn humana y la ejecuciÃģn de la mÃĄquina.

El costo de la IA en la sombra ya es visible

Este no es un problema del futuro. Los costos ya estÃĄn apareciendo en las tendencias actuales de riesgo interno.

La investigaciÃģn de Ponemon de 2026 encontrÃģ que los costos relacionados con la negligencia del riesgo interno aumentaron un 17% con respecto al aÃąo anterior, hasta US$10,3 millones, lo que contribuyÃģ a un costo total anual de riesgo interno de US$19,5 millones. El informe identifica a la IA en la sombra como un factor contribuyente importante, convirtiendo el comportamiento de productividad ordinario en una fuente persistente de exposiciÃģn de datos.

Material sensible se estÃĄ ingresando en herramientas de IA pÚblicas o no aprobadas. Los tomadores de notas de IA estÃĄn capturando reuniones confidenciales. Las herramientas agenticas estÃĄn operando con visibilidad limitada en entornos que nunca fueron diseÃąados para este nivel de interacciÃģn autÃģnoma.

Estos no son actos maliciosos. Son comportamientos normales del lugar de trabajo que se desarrollan en sistemas con guardias dÃĐbiles y supervisiÃģn incompleta.

Es lo que hace que la IA en la sombra sea tan significativa. No introduce simplemente una nueva categoría de riesgo. Aumenta la escala, la velocidad y el costo de la negligencia al hacer que los pequeÃąos errores sean mÃĄs fÃĄciles de repetir y mÃĄs difíciles de detectar.

Por quÃĐ prohibir las herramientas de IA no es la respuesta

Las herramientas de IA ahora son demasiado Útiles, demasiado accesibles y demasiado integradas en el trabajo diario para gestionarlas solo a travÃĐs de la prohibiciÃģn. Cuando las organizaciones confían solo en las prohibiciones, a menudo empujan el uso a canales menos visibles.

Una mejor respuesta comienza con la visibilidad. Los equipos de seguridad necesitan entender quÃĐ herramientas de IA se estÃĄn utilizando, quÃĐ datos fluyen hacia ellas, quÃĐ salidas se generan y quÃĐ sistemas estÃĄn autorizados a actuar en nombre de un usuario.

Tan importante como eso, la gobernanza debe reflejar cÃģmo estÃĄ sucediendo realmente el trabajo, no cÃģmo la política asume que sucede.

Esto significa mover la gobernanza de la IA dentro de la gestiÃģn del riesgo interno, en lugar de tratarla como una iniciativa de cumplimiento separada. Si los empleados y los sistemas de IA estÃĄn accediendo, transformando y moviendo informaciÃģn, pertenecen al mismo modelo de visibilidad, responsabilidad y control.

Las organizaciones que lo hagan bien no serÃĄn las que prohíban la mayoría de las herramientas. SerÃĄn las que puedan distinguir claramente dÃģnde termina la experimentaciÃģn responsable y comienza la exposiciÃģn material.

La IA en la sombra no es un fastidio de gobernanza pasajero. Es una advertencia temprana de que el trabajo ha cambiado mÃĄs rÃĄpido que la supervisiÃģn. El desafío ahora no es frenar el negocio. Es aplicar la misma disciplina que mejorÃģ la gestiÃģn del riesgo interno a una nueva realidad operativa, una en la que el juicio humano y la ejecuciÃģn de la mÃĄquina trabajan cada vez mÃĄs lado a lado.

Rajan Koo es el director tÃĐcnico y jefe del equipo de Investigaciones y Inteligencia de Insiders (i3) de DTEX. Es responsable de desarrollar, implementar y operar tecnologías para prevenir riesgos internos que se conviertan en amenazas internas. Rajan ha desempeÃąado un papel fundamental en el establecimiento del enfoque de privacidad de DTEX para la gestiÃģn de riesgos internos. TambiÃĐn ha liderado varias investigaciones de alto perfil sobre amenazas internas que han resultado en enjuiciamientos y exoneraciones exitosas.