Thorsten Delbrouck, Directeur de la sécurité du groupe chez Giesecke+Devrient – Série d’entretiens

Thorsten Delbrouck, Directeur de la sécurité du groupe chez Giesecke+Devrient, est un vétéran de la cybersécurité avec plus de deux décennies d’expérience dans la sécurisation des infrastructures d’entreprise, des identités numériques et des systèmes critiques. Depuis son arrivée chez Giesecke+Devrient (G+D) en 2011 en tant que Directeur de la sécurité de l’information, il a dirigé la stratégie de sécurité de l’entreprise à l’échelle mondiale dans des secteurs hautement réglementés, notamment la finance, les télécommunications et les infrastructures gouvernementales. En 2020, il a élargi son rôle à celui de Vice-président du groupe, responsable de la sécurité et de la cybersécurité. Delbrouck préside également le Forum de la sécurité de l’information (ISF), une autorité mondiale de premier plan en matière de cybersécurité et de gestion des risques, et a occupé des postes de direction en matière de sécurité chez Infineon Technologies, COMLINE et TÜV Secure iT.

Giesecke+Devrient (G+D) est une entreprise de SecurityTech basée à Munich qui a évolué à partir d’une imprimerie de billets de banque historique fondée en 1852 pour devenir un fournisseur majeur de solutions de sécurité numérique, de technologie financière et d’infrastructures de monnaie. L’entreprise opère dans trois segments principaux : la sécurité numérique, les plateformes financières et la technologie de la monnaie, en fournissant des technologies qui sécurisent la connectivité mobile, les identités numériques, les systèmes bancaires, les plateformes de paiement et les monnaies physiques et numériques. G+D travaille avec des gouvernements, des banques centrales, des institutions financières et des entreprises du monde entier, notamment en fournissant des solutions pour les eSIM, les systèmes d’authentification, les paiements numériques, la cybersécurité et les monnaies numériques des banques centrales (CBDC). L’entreprise se positionne comme un fournisseur d’infrastructures de confiance pour l’économie numérique, avec plus de 14 000 employés dans le monde et des décennies d’expertise dans la sécurisation des systèmes critiques et des écosystèmes financiers.

Vous avez passé près de trois décennies dans des rôles de direction en cybersécurité, notamment chez TÜV Secure iT, Infineon et maintenant plus de 15 ans chez Giesecke+Devrient. Comment le paysage des menaces a-t-il évolué des risques de sécurité d’entreprise traditionnels aux défis cybernétiques alimentés par l’IA d’aujourd’hui, et qu’est-ce qui vous inquiète le plus dans la direction actuelle de l’industrie ?

Je pense que le principal changement au cours de ma carrière est la vitesse et l’impact. Lorsque j’ai commencé la gestion de la sécurité à la fin des années 1990, un problème de sécurité grave signifiait un pare-feu mal configuré ou un serveur non corrigé, la zone d’impact était généralement bastante contenue. Au cours des trois dernières décennies, j’ai vu les conséquences d’une faille de sécurité passer d’une gêne opérationnelle à un risque systémique.

Et tout va plus vite. Nous traitons plus de systèmes et de débits plus élevés. Aujourd’hui, à peine la moitié du trafic Internet est généré par des humains – et selon certaines estimations, environ 40 % du trafic total est constitué d’activités malveillantes telles que des analyses malveillantes, des logiciels malveillants et des attaques DDoS.

En même temps, le paysage est devenu fortement consolidé et concentré. La philosophie de conception d’Internet originale de redondance et de décentralisation a été perdue. En conséquence, les attaques ciblant quelques points de défaillance centraux ont des conséquences beaucoup plus dévastatrices qu’auparavant. Cela laisse virtuellement aucune marge d’erreur dans la configuration et l’exploitation des systèmes IT modernes. Et maintenant, l’IA comprime encore davantage les délais des attaquants.

Des commentaires récents de Dario Amodei ont ravivé les craintes autour des systèmes d’IA avancés qui identifient les vulnérabilités logicielles à grande échelle. Pensez-vous que les entreprises sous-estiment à quel point le développement assisté par l’IA pourrait submerger les processus de sécurité existants ?

Oui, je pense que de nombreuses entreprises sous-estiment la vitesse de ce changement. Au début, il semblait que l’IA allait bénéficier aux deux parties, les attaquants et les défenseurs, à peu près également. Mais une réalité inquiétante émerge : l’IA n’a pas inventé de nouvelles catégories de cybercrime ; elle a plutôt démocratisé les capacités d’attaque sophistiquées, permettant aux acteurs menaçants d’automatiser la reconnaissance, d’éliminer les barrières linguistiques dans le phishing et de découvrir les vulnérabilités logicielles à une vitesse et à une échelle que les défenseurs humains peinent à absorber.

Le problème est que tandis que l’IA a déclenché un énorme regain de découverte de vulnérabilités, elle n’est pas encore déployée dans la même mesure dans le processus de correction. Cela crée un déséquilibre dangereux. La découverte de vulnérabilités assistée par l’IA produit simplement plus de travail que les défenseurs ne peuvent gérer. Cela pourrait s’améliorer dans quelques années, lorsque la correction assistée par l’IA rattrapera son retard, mais pour le moment, c’est un problème croissant.

En outre, ce n’est pas sans ironie que les mêmes entreprises qui présentent leurs derniers modèles comme un salut contre les menaces cybernétiques sont, en même temps, en train de nourrir une partie du problème. Les outils de codage assistés par l’IA accélèrent la production de logiciels, mais ils produisent souvent du code sale, vulnérable – élargissant ainsi la surface d’attaque que leurs produits de sécurité promettent de réduire. D’un point de vue économique, c’est génial. D’un point de vue de la sécurité, pas vraiment.

Chez G+D, nous évaluons les cas d’utilisation de l’IA de manière structurée via un conseil d’administration et ne les mettons pas en œuvre de manière non contrôlée. Le problème n’est pas l’IA en soi – c’est le manque de gouvernance dans son déploiement. Cela s’aligne sur le principe que G+D applique également en interne : l’IA nécessite non seulement de l’innovation, mais également des processus d’évaluation et d’approbation institutionnalisés.

De nombreux organismes considèrent l’IA principalement comme un outil de cybersécurité défensif. À votre avis, où l’IA crée-t-elle actuellement plus de risques que de protection au sein des environnements d’entreprise ?

La plupart des équipes de cybersécurité déployant déjà l’IA à des degrés divers pour la détection, la classification, l’évaluation et la triage des événements de sécurité – et cela fonctionne de manière remarquable.

Cependant, de nouveaux risques émergent aux côtés de ces avantages. Les vulnérabilités natives de l’architecture de l’IA elle-même sont déjà largement discutées et en grande partie comprises. Nous ne sécurisons plus seulement du code statique ; nous sécurisons des systèmes non déterministes. Cela introduit de nouveaux vecteurs de menace, tels que l’injection de requêtes (où des données malveillantes trompent un LLM pour qu’il ignore ses garde-fous), l’empoisonnement des données pour corrompre la logique d’un modèle pendant la formation, et la fuite de données, où des données d’entreprise propriétaires sont exposées accidentellement via les sorties de modèle. Cela change fondamentalement la définition d’une exploitation.

Mais nos défenses traditionnelles, bien répétées, doivent également s’adapter. Pour de nombreuses organisations, l’analyse du comportement des utilisateurs et des entités (UEBA) est encore un concept relativement nouveau. En fait, de nombreuses entreprises n’ont pas encore pleinement adopté cette approche en raison de réglementations strictes en matière de confidentialité des données, de lois du travail strictes et de droits de codétermination des conseils d’entreprise. Maintenant, la base a changé et il est incertain si l’UEBA restera efficace dans un avenir où l’IA peut apprendre et imiter parfaitement le comportement humain.

En avançant, l’UEBA sera-t-elle capable de distinguer le comportement humain des attaques automatisées, ou de faire la différence entre un agent AI benin et un agent malveillant ? Il existe déjà des produits qui promettent cela, mais il faut généralement du temps pour passer des promesses marketing à des performances réelles et efficaces. Nous aurons besoin de nouveaux concepts avec des architectures de sécurité modernes pour aborder cela.

En tant que président du Forum de la sécurité de l’information, vous engagez des dirigeants de la sécurité à travers les grandes entreprises mondiales. Les DSI s’inquiètent-ils de plus en plus de la qualité du code généré par l’IA, ou est-ce que le problème plus important est la charge opérationnelle de sécuriser des bases de code exponentiellement plus grandes ?

Les deux problèmes sont réels, mais ils atterrissent différemment. La qualité du code généré par l’IA est une préoccupation légitime. Le code que l’IA produit a souvent l’air propre mais peut comporter des failles logiques subtiles, des paramètres par défaut non sécurisés ou des bibliothèques mal utilisées qui sont plus difficiles à détecter précisément parce qu’elles semblent plausibles. Les DSI sont à juste titre inquiets à ce sujet.

Cependant, dans mes conversations avec des experts en sécurité à travers les organisations membres de l’ISF, l’alarme la plus forte est opérationnelle : c’est le volume énorme de code qui pourrait comporter des vulnérabilités et qui doit donc être vérifié.

Ce que j’entends constamment de la part de mes pairs à travers les industries, c’est que le problème des dépendances est devenu la charge déterminante. La forte dépendance à l’égard de composants externes et de bibliothèques tierces signifie que chaque dépendance doit être suivie avec soin, gérée et corrigée en permanence. Cela était déjà un défi important. Le développement assisté par l’IA amplifie maintenant ce problème. Non pas parce que la nature du problème a changé, mais parce que l’échelle a explosé. Plus de code, produit plus rapidement, avec plus de dépendances, sur plus de référentiels.

Donc, si je devais prioriser : la qualité du code est un problème d’ingénierie soluble – de meilleures outils, des examens plus stricts, des garde-fous plus serrés dans le pipeline de développement. La charge opérationnelle de sécuriser une base de code qui grandit exponentiellement et ses chaînes de dépendances en expansion est le défi plus structurel, plus persistant. C’est là que se trouve la véritable pression, et c’est ce qui est répété à plusieurs reprises dans les discussions des DSI seniors.

Giesecke+Devrient opère dans des secteurs hautement sensibles, notamment l’identité numérique, les paiements, les infrastructures bancaires, la technologie eSIM et les monnaies numériques des banques centrales. Comment la sécurisation des infrastructures critiques diffère-t-elle à l’ère de l’IA par rapport à la protection des systèmes d’entreprise traditionnels ?

Chez G+D, nous affrontons les mêmes responsabilités de base que toute organisation qui prend la sécurité au sérieux. Cependant, nos normes sont exceptionnellement élevées, et la marge d’erreur est très faible. Nous sommes parfaitement conscients qu’un incident de sécurité dans nos infrastructures a des implications beaucoup plus larges qu’une faille dans une entreprise typique – c’est pourquoi notre tolérance au risque de cybersécurité est exceptionnellement faible.

Là où l’IA ajoute une couche de complexité distincte pour nous, c’est dans l’architecture opérationnelle elle-même. De nombreux composants de sécurité de haute performance, en particulier ceux liés aux systèmes de paiement, aux identités numériques ou aux produits pour les banques centrales, sont des actifs de haute valeur et sont soumis à des exigences de certification et de sécurité strictes. Ces composants doivent être développés, testés et exploités dans des environnements séparés, allant de la séparation logique pure à des réseaux complètement isolés sans aucune connectivité externe.

Cela était déjà exigeant avant l’IA, mais maintenant, les organisations partout dans le monde intègrent des outils assistés par l’IA dans leurs flux de travail de développement et d’exploitation. Des outils qui dépendent généralement de la connectivité cloud, de l’accès à grande échelle aux données et de mises à jour de modèle continues. Réconcilier cela avec des environnements où même un câble de réseau branché dans le mauvais port constituerait une violation grave de la politique est un défi d’ingénierie et de gouvernance très réel.

Cela nous oblige à être très intentionnels dans notre intégration de l’IA. Nous ne choisissons pas seulement le bon modèle d’IA, nous prenons des décisions stratégiques au niveau de l’infrastructure sur le déploiement de ces outils localement ou via le cloud.

On assiste à une adoption rapide des copilotes de codage et des agents de développement autonomes alimentés par l’IA. Pensez-vous que les entreprises finiront par exiger que le code généré par l’IA subisse des processus de validation et de certification séparés avant son déploiement ?

Je ne pense pas que le critère décisif devrait être si le code a été écrit par un humain ou par l’IA. Le critère décisif est le risque. Mais le code généré par l’IA aura certainement besoin de provenance, de traçabilité et d’examen plus strict dans les environnements réglementés ou à haute sécurité.

La modélisation des menaces, les politiques de codage sécurisé et l’intégration d’outils SAST dans la chaîne d’outils de développement sont déjà des pratiques standard aujourd’hui, et les outils deviennent naturellement améliorés par l’IA. En outre, les équipes de développement doivent suivre avec soin les fonctionnalités qui sont critiques pour la sécurité ou qui appartiennent à des composants sensibles et réglementés. Au-delà de cela, les dépendances sous-jacentes doivent être parfaitement comprises et testées en permanence.

Les économies vont inévitablement jouer un rôle de plus en plus critique. Actuellement, le prix des jetons des principaux fournisseurs d’IA n’est pas rentable. Les principaux fournisseurs d’IA absorbent des déficits d’infrastructure et d’inférence considérables pour sécuriser des parts de marché. Un modèle subventionné qui n’est pas durable à long terme. Lorsque les coûts commerciaux du déploiement de l’IA dans les flux de travail d’entreprise seront ajustés à la hausse pour refléter ces véritables dépenses d’infrastructure, nous aurons un problème. À ce stade, l’industrie devra basculer vers des modèles plus petits, localisés et conçus à des fins spécifiques. La formation de ces petits modèles pour des cas d’utilisation ciblés deviendra une stratégie vitale pour atténuer l’augmentation significative des coûts.

Et pour les catégories avec les exigences de sécurité les plus élevées, la supervision humaine restera obligatoire et c’est précisément là que se trouve le défi : utiliser la capacité humaine limitée de la manière la plus efficace possible.

Les systèmes d’IA peuvent maintenant identifier les vulnérabilités beaucoup plus rapidement que les analystes humains, mais la correction dépend toujours fortement des flux de travail humains. Les entreprises approchent-elles d’un point où la gestion des correctifs elle-même doit devenir autonome ?

Oui, la gestion autonome des correctifs n’est plus un luxe – c’est une nécessité opérationnelle. Le simple volume de vulnérabilités aujourd’hui dépasse largement la capacité de triage humaine.

Cela étant dit, je crois que le déploiement doit suivre une approche pragmatique et étagée. Pour les environnements standard, non critiques, une automatisation complète devrait être entièrement réalisable, à condition que les garde-fous appropriés soient en place. Une correction entièrement autonome dans les systèmes critiques, à fort impact, bien que certainement nécessaire, restera probablement très difficile à mettre en œuvre dans un avenir prévisible.

C’est là que les fondamentaux sont vraiment importants. La distinction entre ces deux catégories semble simple, mais dans la pratique, elle exige une quantité énorme de travail de maintenance précis, détaillé et soutenu pour exploiter un environnement complexe avec des approches divergentes de manière propre et automatisée. Ce travail est facile à sous-estimer.

Le véritable défi, comme souvent, n’est pas l’exécution mécanique du processus lui-même – c’est le système plus large. La prise de décision intelligente n’est possible que lorsque l’ensemble du système la soutient. La gestion des correctifs doit devenir significativement plus intelligente et plus rapide, et non simplement plus automatisée.

Et, comme toujours : dans des contextes hautement sensibles, la stabilité contrôlée et la grande vitesse doivent aller de pair. Cette tension est la partie difficile – et la partie que la plupart des organisations ne sont pas encore prêtes à affronter.

Les gouvernements du monde entier sont en train de mettre en œuvre des systèmes d’identité numérique, des monnaies numériques des banques centrales et des infrastructures connectées. Êtes-vous inquiet que les menaces cybernétiques alimentées par l’IA pourraient dépasser la préparation en matière de réglementation et de sécurité nationale ?

Les cadres réglementaires comme NIS2 et la loi sur la résilience cybernétique poussent les choses dans la bonne direction, mais la réglementation n’est qu’une partie du puzzle. La réglementation compte pour l’ensemble du système, mais nous ne pouvons pas supposer qu’émettre une règle résout immédiatement le problème. Les entreprises doivent toujours mettre en œuvre les directives, maintenir leurs systèmes en sécurité permanente et conserver une solide compréhension de leur paysage de menaces et de leurs cibles de protection, les affiner en permanence et les maintenir alignés.

Je suis prudemment optimiste, à condition que les organisations ne traitent pas la conformité réglementaire comme un substitut à la véritable sécurité. Et la gestion de la sécurité moderne n’attend pas la réglementation. Si quoi que ce soit, cela devrait être l’inverse : les meilleures pratiques du monde réel devraient s’insérer dans la réglementation, et non l’inverse.

Dans des domaines de haute sécurité comme l’identité numérique et les infrastructures de paiement, la préparation opérationnelle n’est pas acquise. G+D n’est pas seulement un fournisseur ici, mais également un partenaire de dialogue pour les banques centrales et les gouvernements du monde entier. G+D est également activement engagé dans la protection des infrastructures numériques critiques – par exemple, via Secunet en tant que partenaire de sécurité informatique de la République fédérale d’Allemagne.

Certains experts décrivent les modèles d’IA avancés comme des « armes cybernétiques », tandis que d’autres soutiennent que cette formulation est exagérée. De votre point de vue, qu’est-ce que les gens se trompent sur les risques réels posés par les systèmes d’IA de pointe ?

Ce que les gens se trompent, c’est l’hypothèse que les conflits cybernétiques suivent la logique de la guerre physique. Qu’une arme suffisamment puissante finira par briser toute défense. Beaucoup de la formulation des « armes cybernétiques » emprunte à cette mentalité cinétique : un plus grand canon bat un mur plus épais, un missile plus intelligent bat un avion plus rapide. Mais le cyber ne fonctionne pas de cette façon.

Une attaque cybernétique réussie presque jamais ne réussit par la force brute. Elle réussit en exploitant une faille : une configuration incorrecte, une vulnérabilité non corrigée, une erreur humaine, un maillon faible dans la chaîne d’approvisionnement. L’IA ne change pas cette dynamique fondamentale. Elle rend la recherche de ces failles plus rapide et moins coûteuse, et elle abaisse le seuil de compétence pour les exploiter. C’est un problème grave, mais c’est un problème très différent de la narration de l’« arme invincible ».

Le véritable risque n’est pas que l’IA crée une capacité offensive toute-puissante que aucune défense ne peut résister. Le véritable risque, c’est que l’IA accélère et amplifie l’exploitation des faiblesses ordinaires – les mêmes que nous essayons de corriger depuis des décennies – à une vitesse qui dépasse notre capacité à les fermer. Cela nécessite une meilleure hygiène opérationnelle, une correction plus rapide et des architectures plus résilientes. La menace n’est pas une nouvelle super-arme. Ce sont les vieilles failles, exploitées à une nouvelle vitesse. Oui, décrire l’IA comme une arme cybernétique est une affirmation significativement exagérée.

En regardant vers l’avenir, pensez-vous que la plus grande menace pour la cybersécurité provenant de l’IA viendra d’attaques sophistiquées menées par des États, d’une exploitation autonome à grande échelle, d’une utilisation abusive interne, de vulnérabilités de la chaîne d’approvisionnement, ou de quelque chose que l’industrie ne prête pas encore suffisamment attention ?

Prévoir l’avenir de la sécurité est toujours particulièrement difficile. Les attaques menées par des États, l’exploitation autonome, l’utilisation abusive interne, la compromission de la chaîne d’approvisionnement – tous ces éléments sont des menaces réelles et croissantes, et je ne les minimiserais pas. Mais je soutiendrais qu’ils sont tous des conséquences, et non des causes profondes. Ils réussissent lorsque les défenseurs ne peuvent plus suivre, pour quelque raison que ce soit : une vulnérabilité pourrait ne pas être encore connue publiquement, un correctif pourrait ne pas être encore disponible ou la charge de travail pourrait être simplement trop élevée.

Et c’est là que je vois le plus grand risque en regardant deux à trois ans dans l’avenir : les équipes de sécurité étant submergées par la charge de travail.

Tous les sujets actuels et émergents – réglementation, souveraineté, infrastructures cloud complexes, et tout ce qui les accompagne – atterrissent sur des équipes déjà étirées à l’extrême par la triage des alertes, la réponse aux incidents, l’analyse du phishing, la gestion des vulnérabilités et des correctifs, la documentation, les audits et les rapports. La charge de travail ajoutée par tout ce que l’IA pourrait être la paille qui brise le dos du chameau.

Et étant donné la situation économique mondiale actuelle, tout cela frappe les organisations sous une pression de coûts réelle, dans tous les domaines. Si cela n’est pas géré de manière extrêmement efficace, cela finira par devenir trop important.

Je vous remercie pour cette grande interview. Les lecteurs qui souhaitent en savoir plus peuvent visiter Giesecke+Devrient.