La mayoría de la inteligencia artificial empresarial no es segura. Aquí está lo que las empresas pueden hacer

Las empresas están compitiendo para adoptar la inteligencia artificial generativa (IA) para mantenerse competitivas en sus mercados. Sin embargo, los equipos de seguridad enfrentan un desafío significativo porque están confiando en marcos obsoletos diseñados para una era tecnológica diferente. Las herramientas que han protegido con éxito a las organizaciones durante décadas ahora dejan vulnerabilidades críticas expuestas cuando los empleados interactúan con plataformas de IA basadas en navegador. Para adoptar con seguridad la última tecnología, las empresas deben replantear completamente cómo controlan el acceso a la información y detectan las amenazas emergentes.

La creciente amenaza de la inteligencia artificial en la sombra en la empresa

La inteligencia artificial en la sombra surge cuando los empleados sortean los canales oficiales de TI y utilizan herramientas de IA de consumo no autorizadas para tareas de trabajo. Estas plataformas ofrecen velocidad y conveniencia que los procesos de aprobación interna no pueden igualar, lo que las hace irresistibles para los trabajadores centrados en la productividad.

Investigaciones recientes revelan que 73.8% de la participación de los empleados con ChatGPT ocurre en cuentas no corporativas, lo que significa que la información sensible fluye directamente a los modelos públicos. De manera similar, el uso de Gemini y Bard en cuentas personales alcanza el 94.4% y el 95.9%, respectivamente.

Subcontratar tareas a plataformas externas no verificadas conlleva consecuencias sustanciales. El análisis muestra que 55% de todos los fallos de IA se deben a estas soluciones de terceros, creando riesgos que abarcan daños a la reputación y pérdidas financieras. La desconfianza del consumidor, las penalizaciones de cumplimiento y los litigios a menudo siguen. Para las empresas que utilizan herramientas de IA de terceros sin realizar un análisis de riesgos antes de la implementación, esto es alarmante.

Sin directrices aplicables, los empleados comparten información confidencial de la empresa, creando pasivas de privacidad masivas, mientras que muchas plataformas de terceros carecen de las medidas de seguridad rigurosas necesarias para proteger los registros comerciales confidenciales. Las políticas y prácticas de almacenamiento en estas soluciones pueden exponer inadvertidamente la información del cliente y los registros financieros a posibles violaciones.

¿Por qué la prevención tradicional de la pérdida de datos falla?

Las herramientas de prevención de la pérdida de datos (DLP) heredadas fueron diseñadas para detener la descarga de archivos o su envío a través de correos electrónicos. Estas soluciones excelan en su propósito original, pero enfrentan una limitación fundamental en la era de la IA basada en navegador. Por ejemplo, no pueden monitorear ni bloquear fácilmente el texto que un empleado escribe o pega manualmente en una ventana de prompt de IA, creando un punto ciego en la cobertura de seguridad que se vuelve más problemático con cada trimestre.

La brecha se vuelve clara al examinar lo que estas herramientas pueden y no pueden proteger:

• DLP atrapa: Descargas de archivos, archivos adjuntos de correo electrónico, transferencias de USB y subidas de documentos
• DLP se pierde: Acciones de copiar y pegar en ventanas del navegador, prompts escritos manualmente, capturas de pantalla convertidas a texto y entrada de texto directa en aplicaciones web

A medida que la adopción de IA se acelera en las organizaciones, esta brecha de cobertura se amplía y genera una avenida para la exfiltración de información que la infraestructura de seguridad tradicional nunca estuvo diseñada para abordar. Los equipos de seguridad se encuentran en una posición reactiva, descubriendo violaciones solo después de que el contenido sensible ya ha salido del control de la organización.

¿Cuál es el mejor enfoque para una IA empresarial segura?

Afirmarse a las soluciones de DLP heredadas mientras se ignora la realidad de la adopción de IA no constituye una estrategia empresarial a largo plazo viable. Las empresas necesitan actualizar a la detección de amenazas impulsada por IA que se adapte a nuevos ataques y establezca límites estrictos en el uso de IA que protejan la información sensible. La centralización de las prácticas de gobernanza para prevenir la exposición accidental completa esta base de seguridad.

Transición a un contexto de IA multilayer

Las herramientas de detección de amenazas tradicionales confían en reglas reactivas que buscan firmas históricas de ataques conocidos. Este enfoque genera falsos positivos excesivos al marcar el comportamiento normal de los empleados como sospechoso o pasa por completo los ataques nuevos que no coinciden con ningún patrón anterior en su base de datos.

Por ejemplo, el Hospital General Artesia reconoció estas limitaciones al proteger sus operaciones de atención al paciente y ecosistemas digitales, lo que llevó a la organización a implementar la tecnología Darktrace. Operando sin una lista predefinida de amenazas, la plataforma aprende cada dispositivo, usuario e interacción dentro de la red del hospital para desarrollar una comprensión de qué se parece el comportamiento normal desde abajo.

El componente de Analista de IA de Cyber investiga las alertas utilizando métodos similares a los de los analistas humanos mientras conecta las anomalías sutiles que podrían indicar amenazas reales a los registros del paciente y las operaciones del hospital. El sistema examina autónomamente las amenazas de la red de Artesia para determinar qué alertas representan incidentes de seguridad reales.

Este enfoque de IA multilayer reduce significativamente los falsos positivos que agobian a los equipos de seguridad. Al pasar de 100 alertas benignas diarias a solo dos o tres incidentes críticos que realmente requieren la atención humana, su enfoque se estrecha. Los analistas reciben exactamente la información que necesitan sin pasar horas en investigaciones manuales.

Establecer políticas de uso de IA internas estrictas

Establecer límites firmes y desplegar barreras técnicas que controlen qué información puede ingresar a los modelos de IA públicos aborda las vulnerabilidades que las soluciones de DLP heredadas no pueden cerrar por sí solas.

Samsung proporciona un ejemplo de precaución de lo que sucede cuando los empleados acceden a herramientas de IA sin salvaguardias técnicas adecuadas. Dentro de 20 días después de permitir el acceso a ChatGPT en abril de 2023, la empresa experimentó tres fugas separadas que comprometieron información altamente confidencial en varios departamentos.

Los ingenieros pegaron el código fuente de la base de datos de semiconductores propietaria en ChatGPT para verificar errores de codificación, revelando detalles críticos sobre los procesos de fabricación de Samsung. En otro incidente, un empleado subió código especializado diseñado para identificar defectos de equipo mientras buscaba sugerencias de optimización. El personal también convirtió reuniones internas grabadas a texto antes de alimentar esas transcripciones a ChatGPT para la generación automática de actas.

Una vez que la información ingresa a la base de conocimientos de un modelo de IA público, no hay un botón de eliminar para recuperar o borrarla. Samsung finalmente prohibió ChatGPT por completo porque el contenido propietario filtrado no se puede recuperar.

Establecer gobernanza de datos centralizada

Una solución de IA empresarial es tan segura como la información a la que puede acceder dentro de la organización, y estandarizar los permisos en todos los sistemas forma la base de la implementación segura de IA. Cuando la red interna de una empresa sufre de controles de acceso inconsistentes y prácticas de gestión fragmentadas, incluso las herramientas de IA aprobadas pueden accidentalmente exponer archivos confidenciales de RRHH o registros financieros a empleados no autorizados.

Por ejemplo, AXIS Capital enfrentó este desafío directamente al tratar con plataformas de políticas y reclamaciones independientes y aisladas dispersas en diferentes geografías. Cada línea de negocio había creado sus propios estándares de referencia de informes, y las inconsistencias llevaron a errores en cotizaciones, subscripciones y ajustes de reclamaciones que hicieron que la informe corporativa fuera extremadamente difícil.

La compañía de seguros desarrolló una estrategia a nivel de organización utilizando formularios de tutela web y reglas de seguridad estrictas para estandarizar las jerarquías de referencia básicas. Comenzando con el Sistema de Clasificación de la Industria de América del Norte y el Código de Clasificación Industrial Estándar, AXIS luego expandió a códigos de calificación y subscripción que previamente variaban por ubicación.

Al implementar la gestión de datos centralizada y el control, la empresa creó una fuente única y segura de verdad accesible en todas las operaciones. Esto eliminó las inconsistencias que habían plagado sus plataformas mientras permitió a AXIS acelerar los procesos de seguros básicos, como la introducción de nuevas ofertas de productos, la reducción del riesgo operativo y el logro de análisis confiables a nivel corporativo.

Segurando el futuro de la innovación empresarial

La adopción de IA en los negocios es inevitable a medida que las organizaciones compiten por ventaja en el mercado. Confiar en marcos de seguridad heredados y tolerar prácticas de gobernanza no estructuradas solo acelerará las fugas y las violaciones de cumplimiento. La pregunta no es si las empresas adoptarán IA, sino si lo harán de manera segura. Al implementar la detección de amenazas de IA multilayer y establecer una supervisión rigurosa del acceso a la información, las empresas pueden abrazar la innovación de IA mientras protegen su contenido más sensible.