Thorsten Delbrouck, Director de Seguridad del Grupo en Giesecke+Devrient – Serie de Entrevistas

Thorsten Delbrouck, Director de Seguridad del Grupo en Giesecke+Devrient, es un veterano ejecutivo de ciberseguridad con más de dos décadas de experiencia en la protección de infraestructuras empresariales, identidades digitales y sistemas críticos. Desde que se unió a Giesecke+Devrient (G+D) en 2011 como Oficial de Seguridad de la Información Corporativa, ha liderado la estrategia de seguridad global de la empresa en sectores altamente regulados, incluyendo finanzas, telecomunicaciones e infraestructura gubernamental. En 2020, amplió su papel a Vicepresidente del Grupo, Jefe de Seguridad y CISO. Delbrouck también se desempeña como Presidente del Foro de Seguridad de la Información (ISF), una autoridad global líder en ciberseguridad y gestión de riesgos, y ha ocupado puestos de liderazgo en seguridad en Infineon Technologies (IFX.SW ), COMLINE y TÜV Secure iT.

Giesecke+Devrient (G+D) es una empresa de SecurityTech con sede en Múnich que ha evolucionado desde una histórica imprenta de billetes fundada en 1852 hasta un proveedor importante de soluciones de seguridad digital, tecnología financiera y infraestructura de moneda. La empresa opera en tres segmentos principales: Seguridad Digital, Plataformas Financieras y Tecnología de Moneda, entregando tecnologías que protegen la conectividad móvil, las identidades digitales, los sistemas bancarios, las plataformas de pago y tanto las monedas físicas como digitales. G+D trabaja con gobiernos, bancos centrales, instituciones financieras y empresas de todo el mundo, incluyendo soluciones para eSIM, sistemas de autenticación, pagos digitales, ciberseguridad y Monedas Digitales del Banco Central (CBDC). La empresa se posiciona como un proveedor de infraestructura de confianza para la economía digital, con más de 14,000 empleados en todo el mundo y décadas de experiencia en la protección de sistemas críticos y ecosistemas financieros.

Ha pasado casi tres décadas en puestos de liderazgo en ciberseguridad que abarcan TÜV Secure iT, Infineon y ahora más de 15 años en Giesecke+Devrient. ¿Cómo ha evolucionado el panorama de amenazas desde los riesgos de seguridad empresarial tradicionales hasta los desafíos cibernéticos impulsados por la IA de hoy, y qué le preocupa más sobre la dirección actual de la industria?

Creo que el principal cambio a lo largo de mi carrera es la velocidad y el impacto. Cuando comencé a gestionar la seguridad a fines de la década de 1990, un problema de seguridad grave significaba un firewall mal configurado o un servidor sin parches, el radio de acción era generalmente bastante contenido. A lo largo de las últimas tres décadas, he visto cómo las consecuencias de una sola brecha han crecido desde una incomodidad operativa hasta un riesgo sistémico.

Y todo es más rápido. Estamos tratando con más sistemas y mayores anchos de banda. Hoy en día, apenas la mitad del tráfico de Internet es generado por humanos, y según algunas estimaciones, alrededor del 40% del tráfico total consiste en actividad maliciosa como escaneos maliciosos, malware y DDoS.

Al mismo tiempo, el panorama se ha consolidado y concentrado mucho. La filosofía de diseño original de Internet de redundancia y descentralización se ha perdido. Como resultado, los ataques dirigidos a solo unos pocos puntos críticos de falla tienen consecuencias mucho más devastadoras de lo que solían tener. Esto deja prácticamente sin margen de error en la configuración y operación de los sistemas de TI modernos. Y ahora, la IA está comprimiendo aún más los plazos de los atacantes.

Comentarios recientes de Dario Amodei han reavivado los temores sobre sistemas de IA avanzados que identifican vulnerabilidades de software a gran escala. ¿Cree que las empresas subestiman la velocidad a la que el desarrollo asistido por IA podría abrumar los procesos de seguridad existentes?

Sí, creo que muchas empresas subestiman la velocidad de este cambio. Al principio, parecía que la IA beneficiaría a ambos lados, atacantes y defensores, más o menos igualmente. Pero una realidad preocupante está emergiendo: la IA no ha inventado categorías completamente nuevas de cibercrimen; en cambio, ha democratizado las capacidades de ataque sofisticadas, permitiendo a los actores de amenazas automatizar la reconnaissance, eliminar las barreras lingüísticas en el phishing y descubrir vulnerabilidades de software a una velocidad y escala que los defensores humanos luchan por absorber.

El problema es que, mientras la IA ha generado un aumento masivo en la identificación de vulnerabilidades, aún no se está desplegando en la misma medida en el proceso de remediación. Eso crea un desequilibrio peligroso. La descubierta de vulnerabilidades asistida por IA simplemente está produciendo más trabajo del que los defensores pueden manejar. Esto puede mejorar en unos pocos años, a medida que la IA para la remediación se ponga al día, pero ahora es un problema creciente.

Además, no es sin ironía que las mismas empresas que presentan sus últimos modelos como salvación de las amenazas cibernéticas están, al mismo tiempo, alimentando parte del problema. Las herramientas de codificación asistidas por IA aceleran la producción de software, pero a menudo producen código vulnerable y descuidado, expandiendo la superficie de ataque que sus productos de seguridad prometen reducir. Desde un punto de vista económico, esto es brillante. Desde una perspectiva de seguridad, no tanto.

En G+D, evaluamos los casos de uso de la IA de manera estructurada a través de una Junta de IA y no los escalamos de manera no controlada. El problema no es la IA en sí, sino la falta de gobernanza en su despliegue. Esto se alinea con el principio que G+D también aplica internamente: la IA requiere no solo innovación, sino también procesos de evaluación y aprobación institucionalizados.

Muchas organizaciones ven la IA principalmente como una herramienta de ciberseguridad defensiva. ¿En su opinión, dónde está la IA creando más riesgo que protección dentro de los entornos empresariales?

La mayoría de los equipos de ciberseguridad ya despliegan la IA en diferentes grados para la detección, clasificación, evaluación y triaje de eventos de seguridad, y funciona de manera remarable.

Sin embargo, nuevos riesgos están surgiendo junto con estos beneficios. Las vulnerabilidades nativas de la arquitectura de la IA en sí ya están ampliamente discutidas y en su mayoría entendidas. Ya no estamos seguros solo de código estático; estamos seguros de sistemas no determinísticos. Esto introduce vectores de amenaza completamente nuevos, como la inyección de prompts (donde los datos maliciosos engañan a un LLM para que ignore sus guardias), la intoxicación de datos para corromper la lógica de un modelo durante el entrenamiento y la fuga de datos, donde los datos empresariales propietarios se exponen accidentalmente a través de las salidas del modelo. Esto cambia fundamentalmente la definición de una explotación.

Pero nuestras defensas tradicionales, bien ensayadas, también deben adaptarse. Para muchas organizaciones, el Análisis de Comportamiento de Usuarios y Entidades (UEBA) es aún un concepto relativamente nuevo. De hecho, muchas empresas no han adoptado plenamente este enfoque debido a regulaciones estrictas de privacidad de datos, leyes laborales estrictas y derechos de codeterminación de los consejos de trabajadores. Ahora, la base ha cambiado y es incierto cuán efectivo será el UEBA en un futuro donde la IA puede aprender y mimetizar perfectamente el comportamiento humano.

Como Presidente del Foro de Seguridad de la Información, interactúa con líderes de seguridad en empresas globales importantes. ¿Están los CISO más preocupados por la calidad del código generado por la IA o por la carga operativa de asegurar códigos más grandes?

Ambos temas son reales, pero aterrizan de manera diferente. La calidad del código generado por la IA es una preocupación genuina. El código que produce la IA a menudo parece limpio, pero puede llevar fallos lógicos sutiles, configuraciones inseguras o bibliotecas mal utilizadas que son más difíciles de detectar precisamente porque parecen plausibles. Los CISO están preocupados por eso.

Pero en mis conversaciones con expertos en seguridad en organizaciones miembros del ISF, la alarma más fuerte es operativa: es el volumen simple de código que podría llevar vulnerabilidades y que, por lo tanto, necesita ser verificado.

Lo que estoy escuchando consistentemente de mis pares en diferentes industrias es que el problema de la dependencia se ha convertido en la carga definitoria. La fuerte dependencia de componentes externos y bibliotecas de terceros significa que cada dependencia individual debe ser rastreada, administrada y parcheada meticulosamente. En el código, pero también en la cadena de herramientas, potencialmente a través de diferentes entornos de nube. Eso ya era un desafío significativo. El desarrollo asistido por la IA ahora está amplificando esto. No porque la naturaleza del problema haya cambiado, sino porque la escala ha explotado. Más código, producido más rápido, con más dependencias, a través de más repositorios.

Así que si tuviera que priorizar: la calidad del código es un problema de ingeniería soluble; mejores herramientas, revisiones más estrictas, guardias más estrictos en la canalización de desarrollo. La carga operativa de asegurar una base de código exponencialmente creciente y sus cadenas de dependencia en expansión es el desafío más estructural, más persistente. Ese es el lugar donde está la presión real, y es lo que sale repetidamente en discusiones de CISO senior.

Giesecke+Devrient opera en sectores altamente sensibles, incluyendo identidad digital, pagos, infraestructura bancaria, tecnología eSIM y monedas digitales del banco central. ¿Cómo difiere la seguridad de infraestructura crítica en la era de la IA en comparación con la protección de sistemas empresariales tradicionales?

En G+D, enfrentamos las mismas responsabilidades básicas que cualquier organización que toma la seguridad en serio. Sin embargo, nuestros estándares son excepcionalmente altos, y el margen de error es muy pequeño. Somos muy conscientes de que un incidente de seguridad dentro de nuestra infraestructura lleva implicaciones mucho más amplias que una brecha en una empresa típica, lo que explica por qué nuestro apetito por el riesgo de ciberseguridad es excepcionalmente bajo.

Donde la IA agrega una capa de complejidad distinta para nosotros es en la arquitectura operativa en sí. Muchos de nuestros componentes de alta seguridad, particularmente aquellos vinculados a sistemas de pago, identidades digitales o productos para bancos centrales, son activos de alto valor y están sujetos a estrictos requisitos de certificación y seguridad. Estos componentes deben desarrollarse, probarse y operarse en entornos separados, que van desde una separación lógica pura hasta redes completamente aisladas sin conectividad externa en absoluto.

Eso ya era exigente antes de la IA, pero ahora las organizaciones de todas partes están integrando herramientas asistidas por la IA en sus flujos de trabajo de desarrollo y operación. Herramientas que típicamente dependen de la conectividad en la nube, el acceso a grandes cantidades de datos y actualizaciones de modelo continuas. Reconciliar eso con entornos donde incluso un cable de red conectado al puerto incorrecto sería una violación grave de la política es un desafío de ingeniería y gobernanza muy real.

Estamos viendo una adopción rápida de copilotos de codificación de IA y agentes de desarrollo autónomos. ¿Espera que las empresas eventualmente requieran que el código generado por la IA se someta a procesos de validación y certificación separados antes de su implementación?

No creo que el criterio decisivo deba ser si el código fue escrito por un humano o por la IA. El criterio decisivo es el riesgo. Pero el código generado por la IA ciertamente necesitará procedencia, trazabilidad y una revisión más estricta en entornos regulados o de alta seguridad.

La modelización de amenazas, las políticas de codificación segura e incorporar herramientas SAST en la cadena de herramientas de desarrollo ya es práctica estándar hoy en día, y las herramientas están volviéndose naturalmente mejoradas con la IA. Además, los equipos de desarrollo deben rastrear meticulosamente qué funcionalidades son críticas para la seguridad o pertenecen a componentes regulados y altamente sensibles. Más allá de eso, las dependencias subyacentes deben ser entendidas y probadas continuamente.

La economía inevitablemente desempeñará un papel cada vez más crítico. Ahora, el precio de los tokens de los principales proveedores de IA no cubre los costos. Los principales proveedores de IA están absorbiendo déficits de infraestructura e inferencia asombrosos para asegurar la participación de mercado. Un modelo subsidiado que es insostenible a largo plazo. Cuando los costos comerciales de implementar la IA en flujos de trabajo corporativos se ajusten hacia arriba para reflejar esos gastos de infraestructura reales, tendremos un problema. En ese punto, la industria tendrá que cambiar hacia modelos pequeños, localizados y construidos con fines específicos. Capacitar estos modelos más pequeños para casos de uso específicos se convertirá en una estrategia vital para mitigar el aumento severo de costos.

Los sistemas de IA pueden identificar vulnerabilidades mucho más rápido que los analistas humanos, pero la remediación aún depende en gran medida de los flujos de trabajo humanos. ¿Están las empresas llegando a un punto en el que la gestión de parches en sí misma debe volverse autónoma?

Sí, la gestión de parches autónoma ya no es un lujo; es una necesidad operativa. El simple volumen de vulnerabilidades de hoy en día supera con creces la capacidad de triaje humana.

Dicho esto, creo que la implementación real debe seguir un enfoque pragmático y escalonado. Para entornos estándar y no críticos, la automatización completa debería ser completamente alcanzable, siempre y cuando se tengan las guardias adecuadas en su lugar. La remediación autónoma en sistemas críticos y de alto impacto, aunque ciertamente necesaria, probablemente seguirá siendo muy difícil de implementar en un futuro predecible.

Esto es donde los fundamentos realmente importan. La distinción entre esas dos categorías suena sencilla, pero en la práctica exige una cantidad enorme de trabajo de mantenimiento detallado y sostenido para operar un entorno complejo con enfoques tan divergentes de una manera limpia y automatizada. Ese trabajo es fácil de subestimar.

El verdadero desafío, como sucede a menudo, no es la ejecución mecánica del proceso en sí; es el sistema más amplio. La toma de decisiones inteligentes solo es posible cuando todo el sistema la apoya. La gestión de parches necesita volverse significativamente más inteligente y más rápida, no solo más automatizada.

Los gobiernos de todo el mundo están compitiendo para implementar sistemas de identidad digital, monedas digitales del banco central y infraestructuras conectadas. ¿Qué tan preocupado está de que las amenazas cibernéticas impulsadas por la IA podrían superar la preparación de regulación y seguridad nacional?

Los marcos regulatorios como NIS2 y la Ley de Resiliencia Cibernética están empujando las cosas en la dirección correcta, pero la regulación es solo una pieza del rompecabezas. La regulación importa para el sistema en general, pero no podemos asumir que emitir una regla resuelve inmediatamente el problema. Las empresas aún tienen que implementar las pautas, mantener sus sistemas permanentemente seguros y mantener una comprensión sólida de su paisaje de amenazas y objetivos de protección, refinarlos continuamente y mantenerlos alineados.

Estoy cautelosamente optimista, siempre y cuando las organizaciones no traten la conformidad regulatoria como un sustituto de la seguridad real. Y la gestión de seguridad moderna no espera la regulación. Si algo, debería ser al revés: la mejor práctica del mundo real debería fluir hacia la regulación, no al revés.

En dominios de alta seguridad como la identidad digital y la infraestructura de pago, la preparación operativa no es algo dado. G+D no solo es un proveedor aquí, sino también un socio de diálogo para bancos centrales y gobiernos de todo el mundo. G+D también está activamente involucrada en la protección de infraestructuras digitales críticas, por ejemplo, a través de Secunet como socio de seguridad de la República Federal de Alemania.

Algunos expertos describen los modelos de IA avanzados como “armas cibernéticas”, mientras que otros argumentan que esa descripción es exagerada. Desde su perspectiva, ¿qué es lo que la gente está entendiendo mal sobre los riesgos del mundo real que plantean los sistemas de IA de vanguardia?

Lo que la gente entiende mal es la suposición de que los conflictos cibernéticos siguen la lógica de la guerra física. Que un arma lo suficientemente poderosa inevitablemente penetrará cualquier defensa. Gran parte del marco de “arma cibernética” toma prestado de esa mentalidad cinética: cañón más grande vence pared más gruesa, misil más inteligente vence avión más rápido. Pero el ciber no funciona de esa manera.

Un ataque cibernético exitoso casi nunca tiene éxito a través de la fuerza bruta. Tiene éxito a través de la explotación de una brecha: una configuración incorrecta, una vulnerabilidad sin parches, un error humano, un eslabón débil en la cadena de suministro. La IA no cambia esa dinámica fundamental. Hace que la búsqueda de esas brechas sea más rápida y más barata, y reduce el umbral de habilidad para explotarlas. Ese es un problema serio, pero es muy diferente a la narrativa de “arma irresistible”.

El verdadero riesgo no es que la IA cree una capacidad ofensiva omnipotente que ninguna defensa pueda resistir. El verdadero riesgo es que la IA acelera y amplía la explotación de debilidades ordinarias, las mismas que hemos estado luchando por arreglar durante décadas, a un ritmo que supera nuestra capacidad para cerrarlas.

Enmarcar la IA como un arma cibernética distrae de eso. Fomenta una mentalidad de carrera armamentista cuando lo que realmente se necesita es una mejor higiene operativa, una remediación más rápida y arquitecturas más resilientes. La amenaza no es un nuevo superarma. Son las viejas brechas, explotadas a una nueva velocidad. Así que sí, enmarcar la IA como un arma cibernética es una exageración significativa.

Mirando hacia adelante, ¿cree que la mayor amenaza de ciberseguridad de la IA provendrá de ataques sofisticados de naciones, explotación autónoma a gran escala, mal uso interno, vulnerabilidades de la cadena de suministro o algo a lo que la industria aún no presta suficiente atención?

Predecir el futuro de la seguridad siempre es particularmente difícil. Los ataques de naciones, la explotación autónoma, el mal uso interno, la compromisión de la cadena de suministro, todos son amenazas reales y crecientes, y no descartaría ninguno de ellos. Pero argumentaría que todos son consecuencias, no causas raíces. Tienen éxito cuando los defensores ya no pueden mantenerse al día, independientemente de la razón: una vulnerabilidad puede no ser aún de conocimiento público, un parche puede no estar disponible o la carga de trabajo puede ser demasiado alta.

Y ese último aspecto es donde veo el mayor riesgo al mirar hacia los próximos dos o tres años: los equipos de seguridad abrumados por la simple carga de trabajo.

Todos los temas actuales y emergentes, la regulación, la soberanía, las infraestructuras de nube complejas y todo lo que conlleva, están aterrizando en equipos que ya están estirados delgados por la triage de alertas, la respuesta a incidentes, el análisis de phishing, la gestión de vulnerabilidades y parches, la documentación, las auditorías y los informes. La carga de trabajo agregada por todo lo que la IA podría ser la paja que rompe la espalda del camello. Excepto que es mucho, mucho más que solo una paja.

Y dado el actual estado económico global, todo esto está golpeando a las organizaciones bajo una presión de costos real en todos los frentes. Si eso no se maneja extremadamente bien, eventualmente se volverá demasiado.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Giesecke+Devrient.