Cómo deben abordar las empresas la sobrecarga de aplicaciones de inteligencia artificial

Computación no tan personal

Durante años, el desarrollo tecnológico ha estado impulsado por el deseo de hacer que la computación sea más accesible. Desde teléfonos inteligentes hasta tabletas, laptops y tecnología wearable, hay una tendencia general de hacer que los ordenadores y sus capacidades sean cada vez más personales. Solo considere la nomenclatura de los pilares de la industria: el “ordenador personal” o PC; el “i” Pod, Pad, Teléfono y más allá. Cada uno de estos dispositivos está diseñado para actuar como un compañero personal, ayudando a simplificar la experiencia digital del usuario y, por extensión, su vida.

El desarrollo de la inteligencia artificial (IA) – particularmente los grandes modelos de lenguaje (LLM) y las soluciones agénticas – está avanzando en gran medida en la misma dirección. Al igual que el PC y el iPhone, las herramientas de IA como ChatGPT han hecho que las actividades de computación como la búsqueda, la edición y el brainstorming sean más accesibles para el público en general. Pero a medida que esta accesibilidad ha impulsado un mayor uso, también ha aumentado el riesgo.

Ya sea a través de conectores envenenados o indexación no intencional de motores de búsqueda, las amenazas a la privacidad en el uso de la IA están volviéndose cada vez más difíciles de proteger. Agregue incertidumbres sobre quién está utilizando qué herramientas y las empresas enfrentan una tormenta perfecta de amenazas en crecimiento y protección inadecuada. Dado el potencial de las herramientas de IA y la incertidumbre sobre cómo protegerlas, ¿qué puede hacer una empresa tecnológica?

El crecimiento de las aplicaciones de IA no autorizadas

Con más de 700 millones de usuarios diarios en 2025, el uso de ChatGPT ha crecido más de 4 veces en un año. Sin embargo, solo cinco millones de estos usuarios son clientes empresariales que pagan. Esto hace que los otros 695 millones de usuarios sean usuarios personales o empresariales no autorizados. Este número parece grande hasta que recuerda que ChatGPT no es la única solución de IA en el mercado. De hecho, está lejos de serlo: la explosión contemporánea de la IA y el avance del aprendizaje automático ha generado cientos de miles de nuevos modelos y soluciones, tanto públicos como privados.

Para las empresas, el crecimiento exponencial de las soluciones de IA ha dado lugar a una nueva dimensión del paisaje de amenazas cibernéticas conocida como “IA en la sombra”. Al igual que el fenómeno de “IT en la sombra”, este concepto se basa en el uso de soluciones de IA por parte de los empleados sin la verificación y aprobación previa de su organización. Esto evita por completo la supervisión de TI y seguridad, lo que lleva a escenarios en los que los empleados podrían estar utilizando soluciones potencialmente peligrosas o inseguras para trabajo sensible.

El uso de la IA en la sombra es tanto generalizado como en expansión. Un informe encontró que más de 320 aplicaciones de IA no autorizadas se están utilizando en promedio por empresa. Cada una de estas aplicaciones no autorizadas y su uso por parte de los empleados amplía aún más el paisaje de amenazas.

Los riesgos inherentes de la sobrecarga de IA

Las amenazas asociadas con la sobrecarga de IA son multifacéticas y, desafortunadamente, en constante expansión. Algunas, como el envenenamiento de datos, la inyección de comandos, la manipulación de modelos y el raspado de datos, son de conocimiento común. Estos intentos directos de manipulación y explotación de la IA pueden permitir que actores maliciosos accedan a datos empresariales sensibles y sistemas internos. Dado este riesgo, las empresas están comenzando a protegerse activamente contra estos ataques.

Pero las empresas solo pueden protegerse contra las amenazas que conocen. Piense en la seguridad de un castillo medieval. Las murallas, las torres de vigilancia, las puertas, los fosos y más ayudan a asegurar el castillo contra enemigos y invasores externos. Pero ¿qué pasa si el personal de la cocina tiene un pasaje secreto que evita las murallas exteriores? O un guardia charlatán es escuchado discutiendo cambios de turno en la taberna local? Cualquiera de estas amenazas desconocidas podría ayudar a los ladrones a evadir la seguridad y penetrar en las murallas interiores.

La IA en la sombra tiene el mismo efecto en la seguridad de los datos empresariales. Incluso el uso bienintencionado de LLM no autorizados y copilotos puede significar un desastre para la protección de datos sensibles, ya que cualquier solución insegura puede servir como puerta de entrada para actores maliciosos. Cualquier uso de LLM aumenta inherentemente el riesgo de problemas como la retención de datos, la inyección de comandos, el sesgo de modelos, cada uno de los cuales requiere sus propias medidas de seguridad relevantes. Esto aumenta los riesgos de violaciones de datos, infracciones de cumplimiento y fallos operativos, todos los cuales a menudo solo se identifican después de que el daño ya se ha hecho.

Establecer el control sobre las soluciones de IA

A medida que el uso de la IA continúa creciendo tanto a nivel personal como empresarial, es crucial que las organizaciones establezcan el control sobre estas soluciones antes de que la adopción crezca más allá de su control. La seguridad de la IA empresarial y la protección contra los riesgos de la IA no autorizada implican:

1. Obtener visibilidad integral. Como se mencionó, no se puede proteger los datos contra amenazas de las que no se es consciente. La seguridad comienza con la supervisión de todas las soluciones de IA que los empleados están utilizando, tanto autorizadas como no autorizadas. Esto es más fácil de decir que de hacer, pero una solución de broker de seguridad de acceso a la nube (CASB) puede ayudar a establecer visibilidad continua en el uso de aplicaciones de los empleados.
2. Realizar evaluaciones de riesgos exhaustivas. Los equipos deben realizar esfuerzos de gestión de riesgos de terceros para garantizar que todas las soluciones de IA se evalúen en cuanto a su seguridad y riesgos potenciales. Estos esfuerzos también deben extenderse al nivel de cuarto partido, ya que incluso las aplicaciones autorizadas como CRM o plataformas de productividad están comenzando a integrar capacidades de LLM externas en sus plataformas. Estas soluciones de cuarto partido deben cumplir con los mismos estándares de seguridad que cualquier aplicación internamente aprobada.
3. Establecer marcos de gobernanza. Con esta supervisión y comprensión de sus soluciones, las organizaciones pueden desarrollar y desplegar marcos de política de gobernanza de IA consistentes en todo su ecosistema de aplicaciones. Al igual que con el acceso a datos, estas políticas de gobernanza pueden ayudar a controlar los tipos de soluciones de IA a las que los empleados pueden acceder, la información que pueden compartir con ellos y la transparencia de su uso diario.
4. Automatizar la detección de riesgos. El crecimiento exponencial de la adopción de la IA hace que la detección y respuesta de riesgos manuales sean casi imposibles. La automatización de estos procesos basados en políticas de gobernanza y comportamiento de usuario esperado puede ayudar a identificar proactivamente anomalías y limitar su impacto de seguridad más amplio.
5. Explicar las expectativas de los empleados. La parte más importante de la adopción y uso seguro de la IA son los empleados. Proporcionar capacitación adecuada y establecer expectativas claras ayudará a prevenir simultáneamente el uso riesgoso de la IA y a hacer cumplir el uso seguro y impulsado por el negocio de soluciones autorizadas y protegidas.

Mantener la adopción segura de la IA

Al establecer estas medidas de seguridad proactivas, las empresas obtienen una visión más holística de la forma en que están utilizando las soluciones de IA, ya sea autorizadas o en la “sombra”. Esto tiene un impacto inmediato en la seguridad, ayudando a los equipos a identificar riesgos y vectores de amenazas existentes y a tomar medidas para remediarlos.

Más importante aún, sin embargo, es que esto establece a estas empresas para el éxito a largo plazo de la IA. Al crear la base técnica para la adopción segura de la IA y una cultura de seguridad entre los usuarios de la IA, este enfoque múltiple ayuda a crear un modelo sostenible para las herramientas de IA futuras. Con el apoyo técnico y la capacitación adecuada, los empleados pueden aprovechar los beneficios de la IA sin ser obstaculizados por sus riesgos inherentes.

Las organizaciones que realicen estos cambios antes que tarde estarán mejor preparadas para enfrentar el futuro de las soluciones de IA, sea lo que sea que traigan. Realizar el trabajo de frente para crear una base sólida, en lugar de simplemente apresurarse a marcar la casilla de la adopción de la IA, pondrá a los equipos en la mejor posición posible para el éxito impulsado por la IA sostenido.