Inteligencia Artificial en la Sombra: La Brecha de Gobierno que las Organizaciones no Pueden Ignorar

En este punto del viaje de la inteligencia artificial, los líderes empresariales reconocen ampliamente la importancia de la gobernanza de la inteligencia artificial. Sin embargo, la velocidad a la que las organizaciones están desarrollando políticas y salvaguardas sigue siendo más lenta que la velocidad a la que los empleados están adoptando y integrando la inteligencia artificial en su trabajo diario.

Las organizaciones que esperan a que los marcos de gobernanza se sientan “completos” antes de habilitar la inteligencia artificial deben enfrentar una dura realidad: en ausencia de reglas claras sobre cómo, qué y dónde se puede utilizar la inteligencia artificial, los empleados definirán esas fronteras ellos mismos. Y esas decisiones pueden entrar en conflicto directo con los estándares organizacionales, la tolerancia al riesgo o las obligaciones regulatorias.

Esta brecha de gobernanza ha causado que la inteligencia artificial en la sombra se convierta en el modelo de operación por defecto dentro de muchas organizaciones.

Un Problema Extendido y en Crecimiento

La inteligencia artificial en la sombra no se limita a contribuyentes individuales que experimentan en los márgenes. Se extiende a lo largo de la organización, incluyendo a la dirección. A medida que la inteligencia artificial se incorpora a los flujos de trabajo diarios, incluso los tomadores de decisiones senior están sorteando los procesos de aprobación formal para capturar sus beneficios. De hecho, un estudio reciente encontró que el 68% de los líderes de seguridad, incluidos los CISO, admiten incorporar algún grado de inteligencia artificial no autorizada en los flujos de trabajo.

Al mismo tiempo, el 79% de los líderes de TI informan que sus organizaciones ya han experimentado resultados negativos al compartir datos corporativos con herramientas de inteligencia artificial. Y los analistas predicen que este problema se intensificará. Gartner estima que, para 2030, más del 40% de las organizaciones experimentarán incidentes de seguridad o cumplimiento debido al uso de herramientas de inteligencia artificial no autorizadas.

La Superficie de Riesgo en Expansión

La inteligencia artificial en la sombra presenta una amplia gama de riesgos, incluyendo:

• Pérdida de control de los datos y posible fuga de datos
• Vulnerabilidades de seguridad ampliadas y superficie de ataque
• Exposición a la cumplimentación y regulación
• Falta de visibilidad sobre cómo se está utilizando la inteligencia artificial
• Pérdida de propiedad intelectual
• Daño a la reputación
• Salidas inexactas o sesgadas

Un factor importante que impulsa estos riesgos es una falta fundamental de comprensión de cómo los sistemas de inteligencia artificial manejan los datos.

Muchos empleados asumen que utilizar herramientas “gratuitas”, especialmente aquellas que no requieren credenciales de inicio de sesión, ofrecen anonimato o protección. En realidad, estas herramientas a menudo dependen de las entradas de los usuarios para entrenar y mejorar sus modelos, y en algunos casos, comparten datos con terceros. Esos datos pueden incluir información altamente sensible, como información de identificación personal (PII), datos médicos o legales, registros financieros, propiedad intelectual y otra información de negocios confidencial.

Aún más preocupante, la conciencia no siempre cambia el comportamiento. La investigación muestra que el 38% de los empleados comparten intencionalmente información sensible con herramientas de inteligencia artificial sin la aprobación de la organización.

Por Qué Persiste la Inteligencia Artificial en la Sombra

Para abordar efectivamente la inteligencia artificial en la sombra, las organizaciones deben entender primero su causa raíz.

En la mayoría de los casos, los empleados no actúan con intención maliciosa. Están respondiendo racionalmente a su entorno. Están bajo presión para moverse más rápido, hacer más con menos y entregar mejores resultados. La inteligencia artificial permite todo eso.

La inteligencia artificial en la sombra surge cuando los sistemas organizacionales no logran mantener el ritmo con esas expectativas. Los impulsores comunes incluyen:

• Prohibiciones estrictas sobre herramientas de inteligencia artificial en el lugar de trabajo
• Herramientas aprobadas que son menos capaces o menos fáciles de usar
• Presión para cumplir con plazos agresivos
• Procesos de adquisición lentos o complejos
• Políticas poco claras, inconsistentes o inexistentes
• Capacitación o orientación limitada
• Confianza excesiva en el juicio personal o subestimación del riesgo

En su núcleo, la inteligencia artificial en la sombra es un intercambio. Cuando los beneficios de productividad percibidos superan los riesgos percibidos, los empleados elegirán velocidad y eficiencia cada vez.

Gestionar la Inteligencia Artificial sin Ahogar la Innovación

Los empleados ya están utilizando la inteligencia artificial. Ignorar este hecho o retrasar la acción solo amplía la brecha entre la política y la práctica.

Las organizaciones deben cambiar su enfoque de control a habilitación.

Esto comienza con el establecimiento de pautas claras, prácticas y transparentes, incluso si no están completamente maduras. Las salvaguardas tempranas proporcionan dirección, reducen la ambigüedad y crean una comprensión compartida del uso aceptable.

Pero la política sola no es suficiente. Las organizaciones también necesitan visibilidad. Esto requiere mecanismos basados en la confianza que permitan a los empleados revelar de manera segura qué herramientas están utilizando y por qué. Enfoques como “períodos de amnistía de inteligencia artificial en la sombra” o informes anónimos pueden proporcionar información crítica sin penalizar inmediatamente el comportamiento.

Al mismo tiempo, las organizaciones deben mantener la rendición de cuentas. En los casos en que la exposición de datos es significativa o negligente, las consecuencias pueden ser necesarias. El objetivo no es eliminar completamente el riesgo, sino gestionarlo de manera inteligente.

De la Sombra a la Estrategia

La inteligencia artificial en la sombra es una señal de que la innovación se está moviendo más rápido que las estructuras organizacionales diseñadas para contenerla.

Las organizaciones no pueden permitirse esperar. Establecer la gobernanza ahora, incluso si es imperfecta, es fundamental para reducir el riesgo y recuperar la visibilidad. Pero la gobernanza sola no es suficiente. Las salvaguardas claras deben combinarse con la habilitación, la educación y las alternativas accesibles que permitan a los empleados utilizar la inteligencia artificial de manera segura y efectiva.

El objetivo no es restringir la adopción de la inteligencia artificial, sino darle forma. Cuando las organizaciones logran ese equilibrio, la inteligencia artificial en la sombra se convierte de una responsabilidad oculta en una capacidad estratégica gestionada. Y al hacerlo, pueden cerrar la brecha entre cómo se está utilizando la inteligencia artificial y cómo se debería utilizar antes de que esa brecha se convierta en una violación.