Vaishnav Anand, auteur de Tech Demystified : Cybersécurité – Série d’entretiens

À dix-sept ans, Vaishnav Anand, élève de l’école athénienne, a développé le premier système d’intelligence artificielle capable de détecter les “deepfakes géospatiaux” – des images satellite manipulées par l’IA qui pourraient cacher des sites militaires, fabriquer des dépôts de ressources ou déformer des données sur les catastrophes, posant des risques pour la sécurité nationale et la stabilité mondiale. Sans jeux de données publics disponibles pour ce type de détection, Anand a généré ses propres images synthétiques à l’aide de réseaux antagonistes génératifs, a formé des modèles à partir de zéro et applique maintenant des méthodes de diffusion pour améliorer la précision. Ses recherches ont déjà été présentées à la conférence internationale des utilisateurs d’Esri et à l’Université de Cambridge, ce qui lui a valu une reconnaissance de la part du président d’Esri, Jack Dangermond.

Parallèlement à ses travaux sur la sécurité de l’IA, Anand a écrit deux livres sur la cybersécurité adoptés par des écoles privées, dont son dernier ouvrage, Tech Demystified : Cybersécurité : Principes fondamentaux de la défense cybernétique moderne, qui a reçu une note de 5,0 étoiles. Le livre décompose des sujets complexes tels que le phishing, les logiciels malveillants, les pare-feu et le cryptage en leçons claires et pratiques pour les étudiants, les éducateurs et quiconque s’intéresse à la sécurité numérique. En rendant la cybersécurité accessible et engageante, Anand se positionne non seulement comme un innovateur dans le domaine de l’IA, mais également comme une voix émergente dans l’éducation et la technologie.

Vous êtes encore au lycée, mais vous avez déjà un impact sur l’IA et la cybersécurité. Qu’est-ce qui vous a d’abord attiré dans ce domaine, et comment avez-vous commencé à développer des projets avancés à un âge si jeune ?

Ce qui m’a attiré dans ce domaine, c’est la nature duale de l’IA. Elle a un potentiel incroyable, mais elle peut également causer des dommages. J’ai eu une expérience directe avec la technologie des deepfakes qui a changé ma perspective. En voyant comment les médias synthétiques pouvaient nuire sérieusement aux jeunes, j’ai réalisé que c’était plus qu’une curiosité technique ; c’était une question sociétale critique qui nécessitait une meilleure compréhension.

Mon entrée dans la recherche n’est pas venue d’un grand plan, mais d’une curiosité profonde. Chaque question que j’ai examinée m’a conduit à la suivante, créant un cycle de découverte. Je me suis intéressé à des problèmes de plus en plus complexes. Je ne cherchais pas la reconnaissance ; j’étais vraiment intrigué par les questions.

J’ai transité de l’exploration individuelle à la recherche significative grâce au réseautage et à la persévérance. J’ai commencé à contacter des chercheurs établis dont les travaux j’admirais, principalement via des plateformes comme LinkedIn. Alors que beaucoup n’ont pas répondu, j’ai eu la chance de me connecter avec deux chercheurs en doctorat se concentrant sur la sécurité de l’IA et la détection des deepfakes. Ils m’ont donné des tâches petites au début, mais qui sont devenues plus substantielles à mesure que j’ai prouvé ma fiabilité et mes idées.

Ce mentorat a été un tournant dans ma vie. Avoir des chercheurs expérimentés pour guider mon développement m’a aidé à transformer ma curiosité en un travail rigoureux. Ma motivation intrinsèque, leur orientation structurée et mon effort constant ont progressivement transformé mon intérêt occasionnel en des contributions de recherche significatives. Cela a renforcé ma conviction que les progrès réels viennent souvent non de percées dramatiques, mais d’un engagement continu avec des problèmes importants.

La plupart des gens pensent aux deepfakes en termes de visages ou de voix. Qu’est-ce qui vous a inspiré pour enquêter spécifiquement sur les deepfakes géospatiaux, et pourquoi avez-vous vu cela comme un point aveugle critique ?

Lorsque la plupart des gens entendent le mot “deepfake”, ils pensent à des vidéos de célébrités falsifiées ou à des voix modifiées. J’ai fait de même au début. Mais à mesure que j’en ai appris davantage, j’ai commencé à me demander où encore cette technologie pouvait être utilisée de manière que nous ne considérions pas. C’est alors que j’ai réalisé que les images satellite sont souvent traitées comme complètement fiables. Les gouvernements, les entreprises et même les équipes de secours font des décisions importantes en fonction de ces images.

Cela semblait être un point aveugle. Si une vidéo falsifiée peut nuire à la réputation, une carte ou une image satellite altérée pourrait perturber les chaînes d’approvisionnement, induire les efforts de secours en erreur ou même conduire à de mauvaises décisions en matière de sécurité nationale. À mesure que la défense et la guerre deviennent plus dépendantes des systèmes d’IA, des drones et de la prise de décision automatisée, les risques augmentent. Une alimentation satellite manipulée peut tromper non seulement les gens, mais aussi les machines.

Ce qui m’a le plus frappé, c’est que les deepfakes géospatiaux reçoivent beaucoup moins d’attention que les deepfakes de visages ou de voix. Il y a très peu de jeux de données publics ou d’outils standard pour les détecter. De plus, repérer les faux dans les images satellite est beaucoup plus difficile. Vous n’êtes pas seulement à la recherche de problèmes tels que des erreurs de synchronisation des lèvres ou des bords flous. Les données satellite sont multi-spectrales, très détaillées et remplies de modèles que même les experts ont du mal à analyser. Ce manque de recherche, combiné aux enjeux élevés, m’a fait réaliser que c’est un domaine important à explorer.

Pouvez-vous nous guider à travers votre processus de découverte – comment vous avez réalisé que les images satellite manipulées pourraient poser des risques pour la sécurité nationale, l’économie et la réponse aux catastrophes ?

Mon point de basculement est venu après que j’aie rencontré un deepfake qui a ébranlé ma confiance en ce que je voyais. Ce moment de doute a révélé quelque chose d’important : les humains sont naturellement programmés pour faire confiance aux preuves visuelles, et lorsque cette confiance est brisée, cela change la façon dont nous voyons tout. L’expérience m’a fait comprendre à quel point nous sommes tous vulnérables à la tromperie habile.

Au début, comme la plupart des gens, je me suis concentré sur les utilisations évidentes – les vidéos de deepfakes et les visages modifiés. Mes premiers projets de détection m’ont donné des insights précieux sur la façon dont ces technologies fonctionnent, mais ils m’ont également montré les implications plus larges que je n’avais pas considérées.

La véritable révélation est venue lorsque j’ai servi en tant que directeur adjoint de l’équipe de leadership GIS du National 4-H. En travaillant avec des données géospatiales et des images satellite, j’ai vu à quel point ces sources apparemment objectives conduisent à des décisions importantes. J’ai regardé comment les cartes guidaient les réponses aux catastrophes, façonnaient les politiques environnementales et influençaient des projets de planification communautaire à plusieurs millions de dollars. Ce qui m’a le plus surpris, c’est la confiance aveugle dans ces données – elles étaient considérées comme une vérité incontestable.

C’est alors que tout a pris sens. Si une vidéo falsifiée peut causer une détresse émotionnelle et des troubles sociaux, une image satellite manipulée pourrait conduire à des conséquences réelles désastreuses. Imaginez des ressources d’urgence envoyées à des zones de catastrophe fictives, des gouvernements prenant des décisions basées sur des données environnementales incorrectes ou des marchés financiers affectés par des rapports agricoles altérés. Le potentiel de préjudice était stupéfiant.

Cette combinaison de ma recherche sur les deepfakes et de mon expérience avec le GIS a révélé un fossé dans notre conscience collective. Alors que le monde discute des échanges de visages et des médias synthétiques, la menace bien plus grande des deepfakes géospatiaux reste largement négligée. Cette réalisation est devenue la force motrice derrière ma recherche – aborder une vulnérabilité sérieuse qui pourrait changer la façon dont nous comprenons la vérité dans notre monde basé sur les données.

Votre recherche utilise des réseaux antagonistes génératifs (GAN) pour détecter les images satellite falsifiées. Comment fonctionne votre système, et qu’est-ce qui le distingue des détecteurs de deepfakes généraux ?

La plupart des détecteurs aujourd’hui sont conçus pour identifier les visages ou les voix. Ils recherchent des signes tels que des mouvements de lèvres non naturels ou des problèmes audio. Les images satellite sont très différentes. Elles se composent de textures fines et de modèles spectraux à travers les paysages, les terres agricoles, les océans et les villes. Ces modèles sont plus difficiles à remarquer et nécessitent une approche différente.

Dans mon projet initial, j’ai formé un cadre de GAN en utilisant le jeu de données SpaceNet-7 d’images satellite réelles. Le générateur crée des images synthétiques, et le discriminateur apprend à distinguer le réel du faux. En me concentrant sur le discriminateur, j’ai formé un modèle qui comprend la “signature” statistique des données géospatiales réelles. Cela inclut la façon dont les textures se comportent dans les zones urbaines par rapport aux paysages naturels et la façon dont les modèles d’intensité de pixel s’écoulent à travers différentes régions.

Grâce à ce processus de formation, le système a atteint un niveau élevé de précision dans la détection des forgeries. La principale différence avec les détecteurs généraux est que celui-ci est conçu spécifiquement pour les données géospatiales. Au lieu de rechercher des erreurs visuelles évidentes, il apprend les subtiles incohérences spectrales et texturales qui révèlent les images satellite synthétiques.

Ma recherche actuelle a évolué vers l’exploration de modèles de diffusion comme générateurs. Ceux-ci représentent une amélioration significative par rapport aux GAN en termes de qualité d’image. Les modèles de diffusion comme DDPM et DDIM créent des images satellite très réalistes en apprenant à inverser un processus d’ajout de bruit. Les images synthétiques qu’ils produisent sont souvent plus claires et plus détaillées que celles générées par les GAN. Cela présente à la fois une opportunité et un défi. Alors que ces modèles peuvent fournir de meilleures données de formation pour les systèmes de détection, ils produisent également des faux plus avancés qui sont plus difficiles à détecter.

Je compare actuellement différentes méthodes de détection pour voir lesquelles sont les plus efficaces contre différentes techniques de génération. Cela inclut des classificateurs basés sur des réseaux de neurones convolutionnels (CNN), des architectures basées sur des transformateurs qui peuvent capturer des relations spatiales à longue portée dans les images satellite, et des méthodes hybrides qui combinent l’analyse spectrale avec l’apprentissage automatique. Chaque méthode a ses propres forces : les CNN sont bons pour détecter les problèmes de texture locaux, les transformateurs peuvent repérer des problèmes structurels plus larges à travers les zones d’images, et l’analyse spectrale peut identifier des signatures de fréquence subtiles que les réseaux de neurones pourraient négliger.

Un aspect intéressant est que les différents générateurs laissent des empreintes digitales forensiques uniques. Les images générées par GAN ont souvent des artefacts spécifiques dans les détails à haute fréquence et les bords, tandis que les images générées par diffusion montrent généralement des incohérences plus subtiles dans la cohérence globale et les traits spectraux. En formant des modèles de détection sur des faux générés à la fois par GAN et par diffusion, j’acquiers une compréhension plus approfondie des signatures d’images satellite synthétiques. Cela m’aide à construire des systèmes de détection qui peuvent s’adapter à mesure que la technologie de génération évolue.

Cette approche multi-modale de détection est essentielle. À mesure que les modèles génératifs deviennent plus avancés, nous avons besoin de systèmes de détection qui ne dépendent pas des erreurs d’une seule méthode de génération. L’objectif est d’identifier les caractéristiques statistiques de base qui distinguent les prises de vues satellite réelles de toute forme de synthèse, indépendamment de la technologie utilisée pour les créer.

Dans votre article de recherche à l’UTRC du MIT, vous mentionnez avoir atteint environ 88 pour cent de précision dans la distinction entre les images satellite authentiques et les faux. Quels ont été les principaux progrès qui ont permis cette performance ?

La principale percée a été de réaliser que aucun jeu de données public n’était disponible pour la formation de modèles de détection. Cela m’a poussé à adopter une approche double, travaillant à la fois sur les aspects de génération et de détection en même temps. J’ai créé mon propre jeu de données synthétique à l’aide de GAN et j’ai formé des discriminateurs avec ces données. Cela m’a permis de construire un système qui comprend vraiment les modèles statistiques des données géospatiales réelles.

Une autre insight importante a été de reconnaître que les images satellite posent des défis très différents par rapport aux deepfakes de visages. Alors que les visages ont généralement des structures anatomiques cohérentes, les images satellite couvrent une large gamme de types de terrains – tout, des motifs agricoles aux conceptions urbaines et aux paysages naturels. J’ai dû créer un système de détection capable d’identifier les caractéristiques authentiques à travers tous ces différents environnements.

Cette méthode spécialisée, au lieu de s’appuyer sur des détecteurs généraux, a permis au modèle d’identifier les subtiles différences spectrales et texturales qui révèlent les images satellite synthétiques. Cependant, ma recherche actuelle avec les modèles de diffusion montre des résultats bien meilleurs, atteignant des taux de précision plus élevés et étant plus résistants aux techniques de génération avancées.

Comment avez-vous généré vos propres images synthétiques pour la formation, étant donné qu’il n’y a pas de jeux de données publics pour la détection de deepfakes géospatiaux ?

La création du jeu de données synthétique a impliqué la construction d’une architecture GAN complexe formée sur le jeu de données SpaceNet-7 d’images satellite réelles. Le générateur a appris à transformer du bruit aléatoire en images satellite plus réalistes. Il a capturé les modèles complexes présents dans les données géospatiales réelles.

Le processus ressemble à une compétition entre un faussaire habile et un vérificateur formé. Le générateur améliore continuellement ses images synthétiques tandis que le discriminateur devient meilleur pour repérer les signes subtils de falsification. Cette formation en alternance crée un cycle où les deux parties se poussent mutuellement à améliorer leurs performances.

En contrôlant à la fois les processus de génération et de détection, j’ai acquis des insights essentiels sur la façon dont les images satellite synthétiques sont créées. Cette double perspective a été cruciale pour développer de solides méthodes de détection qui reconnaissent à quoi ressemblent les images réelles et comment les synthétiques diffèrent de ces modèles.

Quels types d’anomalies – spectrales, texturales ou autres – votre système détecte-t-il lorsqu’il distingue les images réelles des images manipulées ?

Contrairement aux deepfakes de visages, où des problèmes tels que des mouvements de lèvres non naturels ou des erreurs de synchronisation audio sont généralement faciles à détecter, les problèmes d’images satellite sont beaucoup plus subtils. Mon système détecte des incohérences spectrales où les modèles d’interaction entre les différentes bandes électromagnétiques ne correspondent pas aux données d’observation de la Terre réelles. Il détecte également des irrégularités texturales, telles que des terres agricoles qui semblent trop uniformes, des surfaces océaniques manquant de motifs d’ondes naturelles ou des textures urbaines avec des répétitions artificielles.

Les anomalies contextuelles ajoutent une autre couche de détection. Celles-ci incluent des réseaux routiers qui ne suivent pas les formes naturelles du terrain, des dispositions agricoles qui ignorent les limites réelles de l’agriculture ou des modèles de développement urbain qui ne correspondent pas à la croissance typique des villes. Ces problèmes pourraient échapper à l’examen humain occasionnel mais créent des signatures statistiques claires que le modèle peut reconnaître.

Le système a cependant des limites avec les images complexes. Les zones urbaines denses avec des structures superposées ou les images satellite affectées par une distorsion atmosphérique significative peuvent réduire la précision de détection. Ces cas limites pointent vers des domaines nécessitant une recherche et une amélioration supplémentaires du modèle.

En regardant vers l’avenir, votre poster mentionne des travaux futurs tels que des extensions de navigateur pour l’authentification géospatiale en temps réel et des cadres multi-jeux de données. Qu’est-ce que vous voyez comme la prochaine grande étape dans cette ligne de recherche ?

Alors que mes recherches basées sur les GAN ont montré que nous pouvons détecter avec précision les forgeries d’images satellite, j’ai appris que de bons résultats en laboratoire ne garantissent pas le succès dans le monde réel. Les images synthétiques souvent ne correspondent pas aux modèles sur lesquels les modèles de détection ont été formés, et les technologies de génération évoluent rapidement.

La prochaine phase se concentre sur la construction de systèmes solides et adaptables qui fonctionnent bien dans des conditions variées. Cela signifie que nous devons créer de meilleures méthodes d’évaluation qui imitent la nature imprévisible de l’utilisation d’images synthétiques dans le monde réel. Nous devons également développer des outils pratiques comme des extensions de navigateur légères, des API en temps réel et des cadres d’intégration pour aider dans les processus de prise de décision importants.

Ma direction de recherche actuelle met l’accent sur l’adaptabilité et l’utilisation pratique. Je ne cherche pas seulement à améliorer la précision des modèles dans des environnements contrôlés. Je cherche à concevoir des systèmes de détection qui peuvent rester fiables à mesure que les techniques de génération changent. Je veux fournir des outils accessibles aux gouvernements, aux entreprises et aux communautés qui dépendent de données géospatiales fiables.

Au-delà des données géospatiales, vos recherches plus larges couvrent également les deepfakes vidéo, l’authentification vocale en temps réel et les préjugés de l’IA dans les prêts. Comment choisissez-vous quels défis éthiques aborder ensuite ?

Ma direction de recherche n’est pas influencée par les sujets tendance ; elle se concentre sur la recherche de vulnérabilités critiques dans les systèmes où les gens placent une confiance fondamentale. Chaque projet commence par l’identification de points spécifiques où la confiance peut être compromise, conduisant à des conséquences graves.

La recherche sur les deepfakes a commencé avec une expérience personnelle qui a montré comment les médias synthétiques peuvent endommager la confiance en la preuve visuelle. Le travail avec l’équipe de leadership GIS du National 4-H a mis en évidence à quel point les gens se fient aux images satellite pour la réponse aux catastrophes et les décisions politiques. Cette connexion a conduit à la recherche sur les deepfakes géospatiaux, où les enjeux sont potentiellement très élevés.

Ce modèle s’applique également à l’authentification vocale. J’ai considéré comment les appels d’urgence synthétiques pourraient submerger les systèmes 911. Il y a également la question des préjugés de l’IA dans les prêts, où la discrimination algorithmique peut refuser des opportunités à des communautés entières. Chacun de ces domaines reflète une relation de confiance cruciale entre les gens et la technologie qui nécessite une protection.

J’explore où la technologie rencontre la vulnérabilité sociale, me concentrant sur la recherche qui peut empêcher les ruptures de confiance avant qu’elles ne deviennent des crises généralisées.

Vous avez également publié Tech Demystified : Cybersécurité, qui a été adopté dans les écoles. Qu’est-ce qui vous a motivé pour écrire ce livre, et comment rendez-vous un tel contenu technique accessible aux étudiants et aux éducateurs ?

Le livre est venu directement de mon expérience de recherche sur les deepfakes. Cela m’a montré à quel point l’alphabétisation numérique est importante pour les jeunes qui font face à un monde technologique plus complexe. La cybersécurité semblait être le point de départ idéal parce qu’elle affecte tout le monde, quel que soit son niveau de compétence en technologie ou ses objectifs de carrière.

J’ai écrit pour les étudiants juste un peu plus jeunes que moi. Qu’est-ce qui m’aurait aidé à comprendre les menaces cybernétiques lorsque j’ai commencé à apprendre ? J’ai organisé le contenu en utilisant des histoires, des comparaisons et des visuels, ainsi que des activités interactives et des questions de réflexion. Ces outils rendent les idées difficiles plus faciles à comprendre.

Il a été particulièrement significatif de voir des programmes scolaires, des bibliothèques scolaires et des organisations à but non lucratif qui servent des étudiants défavorisés adopter le livre. J’ai voulu créer une ressource qui ouvre des portes pour les étudiants qui pourraient autrement se sentir exclus des conversations sur la cybersécurité.

Se concentrer sur la cybersécurité a jeté les bases pour la sécurité numérique avant que mon prochain livre n’aborde l’IA et les deepfakes, qui est mon principal domaine de recherche. Les étudiants doivent apprendre les principes de sécurité de base avant de plonger dans les questions éthiques complexes entourant l’intelligence artificielle.

Dans le livre, vous couvrez des menaces allant du phishing aux rançongiciels. Qu’est-ce que vous pensez être le principe de cybersécurité le plus important que les jeunes devraient comprendre aujourd’hui ?

Le principe le plus important est “faire confiance mais vérifier”. Il est essentiel de développer l’habitude de remettre en question les informations numériques avant d’agir. La plupart des attaques cybernétiques réussies profitent de la confiance humaine plutôt que de s’appuyer sur des failles techniques complexes. Que ce soit en cliquant sur des liens suspects, en téléchargeant des fichiers inconnus ou en répondant à des messages qui semblent familiers, prendre un moment pour vérifier peut arrêter de nombreuses attaques.

Pour les jeunes qui passent beaucoup de temps en ligne et basculent rapidement entre les plateformes, cette mentalité de vérification est particulièrement importante. Former l’habitude de questionner avant de cliquer construit une approche défensive qui protège contre diverses menaces.

Ce principe va au-delà de la cybersécurité et s’étend à une littératie numérique plus large. Les mêmes compétences de pensée critique qui protègent contre les logiciels malveillants aident également à détecter la désinformation, les deepfakes et d’autres formes de tromperie numérique.

Entre vos recherches universitaires, vos initiatives d’éducation en STEM et vos publications, vous êtes clairement passionné par la technologie et l’éthique. Comment espérez-vous façonner l’avenir de la sécurité de l’IA et de l’innovation responsable ?

Tout ce que je fais se concentre sur la construction et le maintien de la confiance dans la technologie. L’IA ne peut atteindre son plein potentiel que si les gens croient que ces systèmes sont sûrs, équitables et transparents. Sans cette confiance, même les technologies révolutionnaires auront du mal à gagner l’acceptation et l’utilisation.

À travers la recherche, je cherche à identifier les vulnérabilités clés avant qu’elles ne deviennent des problèmes généralisés. Je travaille sur des domaines tels que les deepfakes géospatiaux et l’authentification vocale, où les risques ne sont pas toujours évidents mais peuvent avoir des conséquences graves. À travers l’éducation et l’écriture, je veux aider les étudiants à comprendre ces systèmes au lieu de les considérer comme une boîte noire réservée aux experts.

Ma vision pour l’innovation responsable inclut la sécurité et l’équité dès les premières étapes de développement, et non comme des afterthoughts. Cela signifie évaluer les modèles non seulement pour leurs performances, mais aussi pour les points de défaillance potentiels, identifier qui pourrait être touché et créer des stratégies pour réduire ces risques.

À long terme, je veux contribuer à créer une culture où chaque progrès de l’IA reçoit une attention égale en matière de sécurité et de responsabilité. Mon travail implique la recherche, l’éducation et la communication, car trouver les risques ne vaut que si nous pouvons également aider les autres à les comprendre et à les aborder.

Si je peux aider à identifier les vulnérabilités critiques tout en augmentant la littératie technologique, je crois que je jouerai un rôle dans la formation d’un avenir de l’IA que les gens peuvent vraiment faire confiance et bénéficier.

Remerciements pour cette grande interview. Les lecteurs sont invités à lire Tech Demystified : Cybersécurité : Principes fondamentaux de la défense cybernétique moderne.