Andreas Hellander, PDG et co-fondateur de Scaleout Systems – Série d’entretiens

Andreas Hellander est le PDG et co-fondateur de Scaleout Systems, une entreprise qui construit des infrastructures pour l’intelligence artificielle en périphérie et l’apprentissage fédéré qui forme des modèles sur des données sensibles distribuées sans les centraliser. Son entreprise a travaillé avec l’OTAN et des entreprises de défense telles que BAE Systems. Il détient un doctorat en informatique scientifique et un master en génie biotechnologique, et est professeur associé à l’Université d’Uppsala, où il a créé l’un des meilleurs groupes de recherche au Département de technologie de l’information avant de fonder Scaleout.

Vous avez co-fondé Scaleout après des années de recherche en calcul distribué, en infrastructure cloud et en informatique scientifique à l’Université d’Uppsala. Quel a été le moment où vous avez réalisé que l’apprentissage fédéré et l’intelligence artificielle en périphérie devaient aller au-delà de l’université et devenir une plate-forme commerciale ?

Des années de recherche sur les systèmes distribués à grande échelle ont rendu une chose de plus en plus claire : à mesure que l’apprentissage automatique commence à montrer des promesses réelles dans les industries, l’application responsable nécessite de résoudre le problème des données en premier lieu. Pour de nombreuses organisations, les données les plus précieuses ne peuvent simplement pas être centralisées, que ce soit pour des raisons réglementaires, pratiques ou de sécurité. L’apprentissage fédéré est apparu comme une réponse de recherche à cette contrainte. Notre logiciel d’apprentissage fédéré a commencé comme un prototype de recherche à l’Université d’Uppsala et, à un moment donné, il est devenu clair que le moment était venu de le poursuivre. Les infrastructures pour rendre l’apprentissage automatique sûr et sécurisé pour les données sensibles n’existaient pas sous une forme prête à la production, et nous nous sentions bien placés pour les construire. Scaleout a été fondé pour le faire.

Le partenariat de Scaleout avec AI Verse combine la génération de données de champ de bataille synthétiques avec l’apprentissage fédéré à la périphérie tactique. Comment voyez-vous cela changer la façon dont les systèmes d’intelligence artificielle militaires sont développés par rapport aux approches traditionnelles qui s’appuient sur des ensembles de données centralisés ?

Traditionnellement, l’approche a consisté à collecter des images opérationnelles, à les envoyer centralement, à former, à rédéployer. Chaque étape introduit un goulet d’étranglement. Nous nous sommes associés à AI Verse, une entreprise de données synthétiques soutenue par l’OTAN, pour supprimer une grande partie du premier obstacle. La plate-forme GAIA d’AI Verse génère des images photoréalistes, entièrement annotées, en RGB et en infrarouge, sur demande, supprimant ainsi le besoin de collecte sur le terrain, d’étiquetage manuel et de longs délais d’attente. Scaleout supprime le goulet d’étranglement de formation à l’autre extrémité. Une fois déployé, les modèles s’améliorent en continu à partir des données de la périphérie en direct sans centraliser quoi que ce soit. L’effet combiné est que les organisations peuvent passer d’aucun modèle à un modèle amélioré et déployé sans jamais toucher aux données opérationnelles restreintes.

L’un des plus grands défis de l’intelligence artificielle dans la défense est que les conditions de champ de bataille évoluent plus rapidement que les cycles de formation. Comment l’apprentissage en périphérie peut-il aider les systèmes militaires à s’adapter à de nouveaux drones, véhicules et menaces sans attendre une rééducation centralisée ?

La vision par ordinateur pour la contre-UAS et la surveillance, la reconnaissance et la recherche (ISR) est aujourd’hui communément formée centralement, déployée une fois, puis devient obsolète. La rééducation centralisée est un processus batch qui implique la collecte de données, l’étiquetage, la rééducation du modèle, les tests et le rédéploiement. Ce cycle prend des semaines ou des mois. Pendant ce temps, les modèles de détection se dégradent à mesure que les saisons, les capteurs, les environnements et les tactiques de l’adversaire changent.

De nombreux systèmes d’intelligence artificielle dépendent encore fortement de l’infrastructure cloud. Pourquoi croyez-vous que l’avenir de l’intelligence artificielle dans la défense passera de plus en plus par des environnements distribués et déconnectés plutôt que par des architectures cloud centralisées ?

Il y a trois raisons structurelles à cela. Premièrement, les frontières de classification signifient que les données des capteurs opérationnels ne peuvent souvent pas quitter le site. Deuxièmement, les environnements contestés signifient que le lien réseau ne peut pas être supposé. Et enfin, un modèle qui nécessite une connectivité cloud pour fonctionner est un point de défaillance unique dans l’environnement exact où il est le plus nécessaire. Ce ne sont pas des préférences, ce sont des contraintes qui disqualifient les architectures cloud-first avant même de commencer.

Les données synthétiques deviennent un outil important pour le développement de l’intelligence artificielle. Dans les applications de défense, où la précision peut avoir des conséquences de vie ou de mort, quels sont les avantages et les limites de l’utilisation de données de champ de bataille synthétiques pour former des modèles de vision par ordinateur ?

Les données synthétiques offrent plusieurs avantages importants. Elles peuvent générer des scénarios impossibles ou impraticables à collecter sur le terrain, par exemple des classes de menaces rares, des conditions IR, des géométries de capteurs exactes. Elles éliminent également l’étiquetage manuel, les risques de données opérationnelles et peuvent être mises à l’échelle immédiatement.

Scaleout a passé des années à développer des technologies d’apprentissage fédéré qui permettent aux organisations de former l’intelligence artificielle sans déplacer des données sensibles. Quelles leçons des secteurs de la santé, de l’intelligence artificielle industrielle et d’autres secteurs réglementés sont maintenant prouvées précieuses dans les déploiements de défense ?

À mesure que l’apprentissage automatique a commencé à être appliqué dans les industries réglementées, un modèle commun est apparu. Les données qui amélioreraient le plus les modèles étaient également les données qui ne pouvaient pas être déplacées.

L’OTAN et les nations alliées se concentrent de plus en plus sur la souveraineté technologique. Voyez-vous l’apprentissage fédéré devenir une capacité stratégique qui permet aux nations alliées de collaborer sur le développement de l’intelligence artificielle sans partager des données opérationnelles sensibles ?

Oui, et cela se produit déjà. Le programme FEDAIR dans le cadre de l’OTAN DIANA est un test direct de savoir si les nations alliées peuvent améliorer conjointement la capacité d’intelligence artificielle partagée sans échanger des données de capteurs classifiées. L’architecture répond oui. Chaque nation forme sur ses propres données, contribue aux mises à jour de poids à un point d’agrégation partagé et reçoit un modèle global amélioré. Aucune donnée brute ne franchit les frontières nationales.

Les systèmes de contre-drone émergent comme l’une des applications d’intelligence artificielle les plus importantes dans la guerre moderne. Quels obstacles techniques doivent encore être surmontés avant que les plateformes de contre-drone alimentées par l’intelligence artificielle puissent fonctionner de manière fiable dans des environnements de combat divers et en constante évolution ?

De notre point de vue, les défis techniques dans l’intelligence artificielle de contre-drone semblent importants et sont probablement sous-estimés. Le paysage des capteurs est complexe. Les différentes modalités de capteurs produisent des caractéristiques de données différentes, et un modèle formé sur l’une peut ne pas se transférer proprement à une autre. La diversité des menaces aggrave cela. La prolifération de plateformes commerciales à faible coût signifie que la population d’objets qu’un système doit détecter et classer se développe plus rapidement que la plupart des ensembles de données de formation peuvent suivre.

À mesure que la guerre implique de plus en plus des systèmes autonomes et des processus de prise de décision assistés par l’intelligence artificielle, comment les organisations militaires doivent-elles équilibrer l’apprentissage continu sur le terrain avec le besoin de fiabilité, de prévisibilité et de surveillance humaine ?

La plate-forme est conçue comme un sidecar pour les systèmes de commandement et de contrôle existants, et non comme un remplacement. Les détections alimentent le Tactical Assault Kit (TAK) et les systèmes de commandement et de contrôle (C2) standard en utilisant des formats de données et des protocoles standardisés, permettant ainsi de les visualiser et de les agir dans les flux de travail opérationnels existants. L’intelligence artificielle améliore la prise de décision humaine plutôt que de la remplacer.

En regardant cinq ans à l’avance, qu’est-ce qui distinguera les architectures d’intelligence artificielle militaires les plus avancées de celles qui sont déployées aujourd’hui, et quels sont les technologies que vous croyez avoir le plus d’impact sur les capacités de défense futures ?

La division actuelle est entre les systèmes qui peuvent s’adapter sur le terrain et ceux qui ne le peuvent pas. La plupart des systèmes déployés aujourd’hui sont statiques. Dans cinq ans, le facteur de différenciation sera la manière dont l’adaptation est gérée, quelle version du modèle a été exécutée sur quelle plate-forme, façonnée par quelles données, dans quelles conditions, et si cette chaîne peut être auditée, validée et approuvée par les opérateurs et les acheteurs.

Les technologies sous-jacentes d’apprentissage automatique seront banalisées. Les infrastructures pour un apprentissage continu géré à la périphérie, en particulier à travers les réseaux alliés où chaque nation doit conserver la souveraineté sur ses propres données, ne le seront pas. Les nations et les programmes qui construisent ces infrastructures maintenant auront un avantage cumulé : des modèles qui s’améliorent en continu à partir des données opérationnelles, sous contrôle national, sans dépendre du cycle de mise à jour de quelque fournisseur de cloud que ce soit ou de la disponibilité de quelque fournisseur de cloud que ce soit.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Scaleout Systems.