Garantizar la seguridad resiliente para la IA autónoma en la atención médica

La guerra en curso contra las violaciones de datos plantea un desafío cada vez mayor para las organizaciones de atención médica en todo el mundo. Según las estadísticas actuales, el costo promedio de una violación de datos ahora asciende a $4.45 millones en todo el mundo, una cifra que más que se duplica a $9.48 millones para los proveedores de atención médica que atienden a pacientes en los Estados Unidos. A esto se suma el fenómeno moderno de la proliferación de datos inter- e intraorganizacional. Un preocupante 40% de las violaciones de datos reveladas involucran información que se extiende por múltiples entornos, lo que amplía enormemente la superficie de ataque y ofrece muchas vías de entrada para los atacantes.

El creciente autogobierno de la IA generativa trae una era de cambio radical. Por lo tanto, con ello llega la marea de riesgos de seguridad adicionales, ya que estos agentes inteligentes avanzados salen de la teoría y se despliegan en varios dominios, como el sector de la salud. Es fundamental comprender y mitigar estas nuevas amenazas para poder ampliar la IA de manera responsable y mejorar la resistencia de una organización contra los ciberataques de cualquier naturaleza, ya sea debido a amenazas de software malicioso, violaciones de datos o incluso ataques de cadena de suministro bien orquestados.

Resiliencia en la etapa de diseño e implementación

Las organizaciones deben adoptar una estrategia de defensa proactiva integral y evolutiva para abordar los crecientes riesgos de seguridad causados por la IA, especialmente en la atención médica, donde las apuestas involucran tanto el bienestar de los pacientes como el cumplimiento de las medidas regulatorias.

Esto requiere un enfoque sistemático y elaborado, que comienza con el desarrollo y diseño de los sistemas de IA y continúa hasta el despliegue a gran escala de estos sistemas.

• El primer y más crítico paso que deben dar las organizaciones es trazar y modelar su tubería de IA completa, desde la ingesta de datos hasta el entrenamiento del modelo, la validación, el despliegue y la inferencia. Este paso facilita la identificación precisa de todos los posibles puntos de exposición y vulnerabilidad con granularidad de riesgo basada en el impacto y la probabilidad.
• En segundo lugar, es importante crear arquitecturas seguras para el despliegue de sistemas y aplicaciones que utilicen grandes modelos de lenguaje (LLM), incluidos aquellos con capacidades de IA Agentic. Esto implica considerar meticulosamente diversas medidas, como la seguridad de contenedores, el diseño de API seguro y el manejo seguro de conjuntos de datos de entrenamiento sensibles.
• En tercer lugar, las organizaciones necesitan comprender y implementar las recomendaciones de varios estándares/marco. Por ejemplo, adherirse a las pautas establecidas por el marco de gestión de riesgos de la IA de NIST para la identificación y mitigación de riesgos comprehensiva. También podrían considerar el consejo de OWASP sobre las vulnerabilidades únicas introducidas por aplicaciones de LLM, como la inyección de comandos y el manejo de salida inseguro.
• Además, las técnicas de modelado de amenazas clásicas también necesitan evolucionar para gestionar eficazmente los ataques únicos y complejos generados por la IA de generación, incluidos los ataques de envenenamiento de datos insidiosos que amenazan la integridad del modelo y el potencial de generar contenido sensible, sesgado o inapropiadamente producido en las salidas de la IA.
• Finalmente, incluso después del despliegue, las organizaciones necesitarán mantener la vigilancia practicando maniobras de “red teaming” regulares y estrictas, y auditorías de seguridad de la IA especializadas que apunten específicamente a fuentes como el sesgo, la robustez y la claridad para descubrir y mitigar continuamente las vulnerabilidades en los sistemas de IA.

Cabe destacar que la base para crear sistemas de IA sólidos en la atención médica es proteger fundamentalmente todo el ciclo de vida de la IA, desde su creación hasta su despliegue, con una comprensión clara de las nuevas amenazas y una adhesión a los principios de seguridad establecidos.

Medidas durante el ciclo de vida operativo

Además del diseño y despliegue seguros iniciales, una postura de seguridad de la IA robusta requiere una atención detallada y una defensa activa en todo el ciclo de vida de la IA. Esto requiere la monitorización continua del contenido, aprovechando la vigilancia impulsada por la IA para detectar salidas sensibles o maliciosas de inmediato, al tiempo que se adhieren a las políticas de lanzamiento de información y permisos de usuario. Durante el desarrollo del modelo y en el entorno de producción, las organizaciones necesitarán escanear activamente malware, vulnerabilidades y actividad adversa al mismo tiempo. Todo esto es complementario a las medidas de ciberseguridad tradicionales.

Para fomentar la confianza del usuario y mejorar la interpretación de la toma de decisiones de la IA, es esencial utilizar herramientas de IA Explicable (XAI) para comprender la razón subyacente de la salida y las predicciones de la IA.

El control y la seguridad mejorados también se facilitan a través del descubrimiento automático de datos y la clasificación de datos inteligente con clasificadores dinámicamente cambiantes, que proporcionan una visión crítica y actualizada del entorno de datos en constante evolución. Estas iniciativas se derivan de la imperativa de aplicar controles de seguridad sólidos como métodos de control de acceso basado en roles (RBAC) de grano fino, marcos de cifrado de extremo a extremo para proteger la información en tránsito y en reposo, y técnicas de enmascaramiento de datos efectivas para ocultar datos sensibles.

La capacitación en conciencia de seguridad exhaustiva por parte de todos los usuarios comerciales que interactúan con sistemas de IA también es esencial, ya que establece un firewall humano crítico para detectar y neutralizar posibles ataques de ingeniería social y otras amenazas relacionadas con la IA.

Seguridad del futuro de la IA Agentic

La base de la resiliencia sostenida frente a las amenazas de seguridad de la IA en evolución se encuentra en el método propuesto de monitoreo, escaneo, explicación, clasificación y seguridad estricta de los sistemas de IA. Esto, por supuesto, se suma a la creación de una cultura de seguridad orientada a los humanos y controles de ciberseguridad tradicionales maduros. A medida que los agentes de IA autónomos se incorporan a los procesos organizacionales, la necesidad de controles de seguridad robustos aumenta. La realidad de hoy es que las violaciones de datos en la nube pública ocurren y cuestan un promedio de $5.17 millones, lo que destaca claramente la amenaza para las finanzas y la reputación de una organización.

Además de las innovaciones revolucionarias, el futuro de la IA depende de desarrollar la resiliencia con una base de seguridad integrada, marcos de operación abiertos y procedimientos de gobernanza estrictos. Establecer la confianza en dichos agentes inteligentes decidirá finalmente cómo se adoptarán y se mantendrán a largo plazo, configurando el curso mismo del potencial transformador de la IA.