Vikhyat Chaudhry, CTO, COO et co-fondateur de Buzz Solutions : Une conversation de retour

Vikhyat Chaudhry, CTO, COO et co-fondateur de Buzz Solutions, dirige le développement technologique et les opérations de l’entreprise, qui applique l’intelligence artificielle, la vision par ordinateur et l’analyse prédictive à l’inspection et à la maintenance des infrastructures énergétiques critiques. Il a co-fondé Buzz Solutions en 2017 après avoir développé une expérience dans les domaines de la science des données, de l’apprentissage automatique, des systèmes intégrés, de la vision par ordinateur et des technologies autonomes. Avant de se consacrer à temps plein à l’entreprise, Chaudhry a travaillé en tant que scientifique des données chez Cisco, a développé des systèmes basés sur l’apprentissage automatique et les capteurs chez Altitude Co. et a mené des recherches à l’Université de Stanford sur les drones autonomes, la détection de la vitesse du vent et la vision par ordinateur pour les fermes éoliennes. Ses recherches antérieures à l’Organisation de recherche et de développement de la défense de l’Inde ont porté sur la prévision des glissements de terrain à l’aide de simulations et de logiciels de télédétection, lui fournissant une formation technique couvrant les risques d’infrastructure, l’analyse géospatiale et l’ intelligence artificielle appliquée. Buzz Solutions le décrit actuellement comme son co-fondateur, CTO et COO.

Buzz Solutions développe des logiciels d’intelligence visuelle conçus pour aider les entreprises énergétiques à inspecter, à maintenir et à sécuriser les infrastructures de transmission, de distribution, de sous-station et de génération. Sa plate-forme PowerAI analyse les images collectées par des drones, des hélicoptères, des avions à voilure fixe et des inspections au sol, convertissant les données visuelles en diagnostics qui aident les services publics à identifier les défauts, à évaluer l’état des actifs, à prioriser les réparations et à intégrer les résultats dans les systèmes d’information géographique, de gestion des actifs et de gestion des ordres de travail existants. L’entreprise positionne sa technologie comme un moyen de détecter les risques d’infrastructure plus tôt, de réduire le travail manuel nécessaire pour analyser les images d’inspection et de diminuer la probabilité de défaillances d’équipement contribuant aux pannes, aux arrêts ou aux incendies de forêt. Buzz Solutions propose également des outils pour la surveillance des sous-stations et la sécurité, reflétant son objectif plus large d’aider les services publics à construire des opérations de réseau plus sûres, plus résilientes et plus axées sur les données.

Lorsque nous vous avons interviewé en 2024, notre conversation portait sur l’utilisation de l’IA pour passer des inspections manuelles à la maintenance prédictive. Qu’est-ce qui a changé le plus au cours des deux dernières années, à la fois dans le secteur de l’énergie et dans votre propre réflexion, ce qui vous a conduit à écrire Powering Intelligence et à présenter l’électricité comme une contrainte potentielle pour l’avenir de l’IA ?

La dernière fois que nous nous sommes parlé, la conversation portait principalement sur le back-office du réseau, en passant des inspections manuelles à la maintenance prédictive. C’est toujours le travail. Mais quelque chose a changé sous nos yeux au cours des deux dernières années, et cela s’est produit plus rapidement que presque tout le monde dans mon monde ne l’avait prévu. À l’époque, l’IA était une histoire de demande que nous discutions de manière abstraite. Maintenant, elle se présente sous la forme de chiffres de croissance de charge importants pour les services publics. J’ai commencé à entendre la même chose de la part de personnes que j’ai connues pendant des années dans ce secteur : des demandes d’interconnexion pour des charges qui auraient été impensables il y a quelques années, des installations uniques demandant l’électricité qu’une petite ville consomme et la demandant sur un calendrier qui n’a rien à voir avec la façon dont le réseau est réellement construit. C’est le moment où cela m’a sauté aux yeux. Nous passons toute notre énergie à débattre de la capacité de ces modèles et presque rien sur la question physique ennuyeuse de savoir si nous pouvons les alimenter. J’ai écrit Powering Intelligence parce que je cherchais le livre qui relie ces deux mondes et qu’il n’existait pas. Tout le monde écrivait sur les modèles d’IA. Presque personne n’écrivait sur les électrons nécessaires pour les faire fonctionner. Et j’étais dans une position étrange, suffisamment proche du côté IA pour comprendre l’ambition, et suffisamment proche du réseau pour savoir exactement combien de temps il faut pour construire une nouvelle ligne de transmission et développer une centrale électrique, qui est toute l’histoire, et je voulais la mettre en un seul endroit.

Vous affirmez que l’industrie de l’IA évolue en quelques mois tandis que le réseau électrique change sur des décennies. Où se situe le goulet d’étranglement le plus immédiat aujourd’hui : la production d’électricité, la capacité de transmission, les sous-stations, les transformateurs, les files d’attente d’interconnexion, les autorisations ou la disponibilité de travailleurs qualifiés ?

Je pense qu’il y a plusieurs goulets d’étranglement ici, et la réponse est qu’ils sont tous emmêlés. Mais si je dois pointer vers le nœud le plus serré en ce moment, c’est relativement moins la production d’électrons et plus leur livraison : la transmission et le processus d’interconnexion, avec les transformateurs et autres équipements électriques comme les pièces physiques qui bloquent tout. Voici ce que les gens sous-estiment souvent. Vous pouvez annoncer une centrale électrique et un centre de données dans un communiqué de presse. Vous ne pouvez pas créer un grand transformateur électrique par communiqué de presse, certains de ces transformateurs ont des délais de livraison mesurés en années, et la plupart d’entre eux ne sont même pas fabriqués sur le territoire national. Donc, même lorsque la volonté et le capital sont là, vous heurtez un mur de chaîne d’approvisionnement pour les composants. Ensuite, superposé à cela, il y a la file d’attente d’interconnexion, qui dans de nombreuses régions est une ligne d’attente de plusieurs années juste pour être étudiée. Et sous tout cela, il y a le problème de la main-d’œuvre pour l’industrie électrique. Les personnes qui savent réellement comment construire et maintenir cet équipement partent à la retraite plus rapidement que nous ne les remplaçons.

Donc, ce n’est pas un goulet d’étranglement. C’est que les pièces physiques les plus lentes, les transformateurs, les corridors de transmission, les travailleurs formés, sont exactement ceux que vous ne pouvez pas accélérer avec du logiciel ou de l’argent seul. C’est ce qui rend cela difficile.

Les centres de données d’IA peuvent introduire des charges énormes et très concentrées dans des zones dont les réseaux n’ont pas été conçus pour ce niveau de demande. Comment ces installations diffèrent-elles des grandes charges industrielles que les services publics ont gérées historiquement, et quels nouveaux risques créent-elles pour la fiabilité et la planification de la capacité ?

Les services publics ont géré de grosses charges pendant un siècle. Une usine sidérurgique, une fonderie d’aluminium, des usines de fabrication d’automobiles, ce sont des charges énormes, et les planificateurs de réseau savent comment y réfléchir. Donc, l’instinct est de traiter un centre de données comme un autre grand client. Je pense que cet instinct est faux, et les différences sont ce qui crée le nouveau risque.

Trois choses ressortent pour moi. Premièrement, la concentration et la vitesse. Une charge industrielle lourde traditionnelle a généralement grandi aux côtés du réseau dans cette région sur des décennies. Ces installations veulent atterrir énormément, tout à coup, dans des endroits dont le réseau local n’a jamais été prévu pour eux. Deuxièmement, c’est le profil de charge. Beaucoup de ces installations ne sont pas des charges lisses, elles peuvent augmenter fortement et rapidement de manière à stresser les équipements différemment qu’une usine qui exécute un processus stable. Troisièmement, et c’est celui qui inquiète le plus les planificateurs, c’est l’empilement spéculatif, que je sais être votre prochaine question.

Le risque qu’il crée est que les services publics sont invités à planifier autour d’une demande qui se comporte différemment de tout ce qui est dans leurs modèles historiques, et à engager des capitaux et des infrastructures sur l’horaire de l’industrie de l’IA plutôt que sur celui du réseau. Lorsque vos hypothèses de planification sont basées sur un siècle de ce type de charge et que la nouvelle charge brise ces hypothèses, la planification de la fiabilité devient vraiment plus difficile. Ce n’est pas une raison de dire non. C’est une raison de planifier différemment.

Les services publics reçoivent des demandes de puissance ambitieuses de la part des développeurs de centres de données, mais pas toutes les installations proposées seront nécessairement achevées. Comment les services publics peuvent-ils distinguer la demande engagée de la demande spéculative et éviter de construire des infrastructures coûteuses pour des projets qui arrivent tard ou qui ne se concrétisent pas ?

Ceci est l’une des questions opérationnelles les plus importantes dans tout l’espace en ce moment, et je suis heureux que vous l’ayez posée directement, car elle n’a pas suffisamment d’attention à côté des sujets plus spectaculaires.

Un développeur peut soumettre des demandes d’interconnexion pour le même projet dans plusieurs territoires à la fois, en faisant du shopping pour savoir qui peut livrer l’électricité le plus rapidement. Certains de ces projets sont réels et financés. Certains sont des options, des placeholders et un moyen de tenir une place dans la ligne. Certains de ces sont appelés “charges fantômes” qui pourraient ne jamais se matérialiser. Si un service public traite chaque demande comme réelle et commence à construire de la production et de la transmission pour tout cela, il risque de gaspiller des coûts énormes, des infrastructures construites pour un centre de données qui arrive des années plus tard ou qui n’arrive jamais. Et devinez qui paie pour les actifs gaspillés, les abonnés existants. D’un autre côté, si les services publics construisent moins, alors ils risquent de ne pas être en mesure de répondre aux demandes de la charge entrante, ce qui peut entraîner des problèmes de fiabilité sur le réseau.

La voie à suivre est de rendre la spéculation coûteuse et l’engagement peu coûteux. Cela signifie que les dépôts financiers réels sont nécessaires avant qu’un service public n’engage des capitaux, des engagements significatifs liés aux étapes de construction, des conditions contractuelles qui font peser le risque sur la partie qui fait la demande plutôt que sur la base des abonnés. Certains territoires commencent à s’orienter dans ce sens. Le principe auquel je reviens toujours est simple : l’entité qui demande de l’électricité devrait supporter le risque que l’électricité ne soit pas nécessaire. Actuellement, trop souvent, ce risque atterrit silencieusement sur tout le monde.

Qui devrait finalement payer pour la production, la transmission et les mises à niveau des sous-stations nécessaires pour les centres de données d’IA ? Quelles structures tarifaires ou quels garde-fous contractuels pourraient empêcher les ménages et les entreprises existantes de subventionner les infrastructures construites principalement pour les entreprises de technologie à grande échelle ?

Ceci est la question qui va définir la politique des dix prochaines années du réseau, et je ne pense pas qu’elle ait une réponse purement technique. Je pense que c’est une question de justice. Mon avis honnête est que le coût devrait reposer, autant que possible, sur la charge qui le cause. Si une installation d’une entreprise de technologie à grande échelle nécessite une nouvelle sous-station et une mise à niveau de la transmission, l’hypothèse par défaut devrait être que l’installation paie pour ce qu’elle déclenche, et non l’abonné à la retraite qui vit dans la rue. Cela peut sembler évident, mais la façon dont les structures tarifaires ont fonctionné historiquement, les nouvelles infrastructures sont souvent socialisées dans toute la base de clients, ce qui avait du sens lorsque la nouvelle charge était une usine qui employait la ville. Cela a beaucoup moins de sens lorsque le bénéficiaire est l’une des entreprises les plus précieuses au monde.

Les outils existent. Des tarifs pour les grandes charges conçus spécifiquement pour ce type de client. Des contrats de prise minimale pour que le centre de données ne puisse pas obtenir des infrastructures et puis partir. Des engagements à long terme qui correspondent à la durée de vie des actifs construits. Ce qui compte, c’est que les régulateurs et les services publics utilisent réellement ces outils, et les utilisent avant la construction, et non après. Parce que, une fois que le béton est coulé et que le coût est dans la base tarifaire, il est très difficile de récupérer. J’en parle dans le livre parce que je pense que c’est l’un des endroits où obtenir les incitations légèrement fausses pourrait éroder silencieusement la confiance du public à la fois dans les services publics et dans l’industrie de l’IA.

Les centres de données d’IA peuvent-ils devenir des actifs de réseau flexibles plutôt que des sources de demande inflexibles grâce au déplacement de la charge de travail, à la réponse à la demande, aux batteries, au stockage thermique, à la production sur place ou à d’autres moyens ? Quelles charges de travail d’IA peuvent réellement être déplacées à différents moments ou emplacements sans compromettre les performances ?

Oui, et je pense que c’est l’une des idées les plus prometteuses dans ce sujet, donc je veux être prudent pour ne pas l’exagérer, car la flexibilité est réelle mais elle n’est pas illimitée. Commençons par la distinction qui compte : toutes les charges de calcul d’IA ne sont pas les mêmes. Il y a l’inférence, qui est le calcul après que ces grands modèles ont été formés (les modèles en direct), et vous demandez à un modèle une question et avez besoin d’une réponse maintenant. C’est sensible à la latence et difficile à déplacer. Et puis il y a la formation, les charges de travail massives de style par lots qui construisent les modèles. La formation est beaucoup plus flexible. Elle ne se soucie pas nécessairement de savoir si elle s’exécute à 14h ou à 2h du matin, ou dans cet État ou celui-là, tant qu’elle est terminée. Cette flexibilité est l’ouverture. Si une grande partie de la charge d’un centre de données est du type qui peut changer dans le temps, alors il peut s’appuyer sur les heures où le réseau a de l’électricité propre en surplus et réduire son activité lorsque le système est tendu.

Maintenant, ajoutez les batteries, le stockage thermique et la production sur place, et une installation qui ressemble à un bloc rigide de demande peut commencer à se comporter comme une ressource qui aide réellement à équilibrer le réseau, en absorbant l’énergie solaire en excès en milieu de journée, en traversant les pics avec de l’énergie stockée. La réserve honnête est que cela nécessite que l’opérateur veuille réellement coopérer, et cela nécessite des structures tarifaires qui le récompensent pour cela. La technologie est la partie facile, mais la conception des incitations est la partie difficile. Mais un monde où les centres de données sont des partenaires flexibles du réseau plutôt que des adversaires est réellement possible, et c’est beaucoup mieux que l’alternative.

Quelle combinaison de sources d’énergie peut réellement répondre aux besoins en électricité de l’IA au cours de la prochaine décennie ? Comment les énergies renouvelables et le stockage, le gaz naturel, l’énergie nucléaire conventionnelle, les petits réacteurs modulaires et l’énergie géothermique s’insèrent-ils dans ce mélange ?

Je vais vous donner la réponse que les gens n’aiment pas, qui est que c’est tout cela, et que quiconque vous vend une solution miracle à une seule source est en train de vendre quelque chose. Les énergies renouvelables et le stockage sont la chose la plus rapide que nous pouvons réellement déployer ; le solaire plus les batteries peut être construit sur des délais qui semblent presque raisonnables par rapport à tout le reste, et cette vitesse compte énormément lorsque la demande augmente si rapidement. Donc, c’est le cheval de bataille à court terme. Mais les énergies renouvelables sont variables, et ces charges fonctionnent 24 heures sur 24, ce qui signifie que le stockage fait beaucoup du travail lourd dans cette phrase, et c’est pourquoi l’énergie ferme compte encore. Le gaz naturel fera partie du pont, qu’on le veuille ou non, simplement parce qu’il est dispatchable et qu’il est là. L’énergie nucléaire est fascinante en ce moment, nous regardons des centrales qui allaient être mises à la retraite et qui ont une seconde vie spécifiquement parce qu’un centre de données va signer un contrat à long terme pour leur production, ce que presque personne n’a prévu. Les petits réacteurs modulaires et l’énergie géothermique sont les véritables jeux à long terme, mais j’essaie d’être discipliné sur les délais, ils font partie de l’histoire de manière significative dans la deuxième moitié de la décennie et au-delà, et non de la chose qui vous sauve en 2027.

Le mélange réaliste est donc un mélange stratifié : les énergies renouvelables et le stockage portent la croissance, le gaz comble l’écart de fermeture, l’énergie nucléaire existante est prolongée et nouvellement valorisée, et les sources de nouvelle génération arrivent en ligne à mesure qu’elles mûrissent. L’erreur est la pureté idéologique dans les deux sens, car le réseau ne se soucie pas de nos préférences. Il se soucie des kilowattheures livrés de manière fiable et à temps.

L’une des idées centrales de votre livre est que la même industrie de l’IA qui met une pression sur le réseau pourrait également fournir les outils nécessaires pour le moderniser. Où l’IA peut-elle créer les plus grands gains à court terme : la prévision de la charge, la maintenance prédictive, l’optimisation de la transmission, la gestion de la végétation, la restauration des coupures, les jumeaux numériques ou les commandes de réseau autonomes ?

Ceci est le cœur du livre, et honnêtement la partie que je trouve la plus prometteuse, la même industrie qui met le réseau à rude épreuve nous donne les meilleurs outils que nous ayons jamais eus pour le réparer. Si je classe par ordre de gain réel aujourd’hui plutôt que sur une diapositive, je le mettrais ici.

La maintenance prédictive, la surveillance et l’inspection continues en premier, parce que c’est là que Buzz a passé des années, et j’ai vu cela fonctionner. En utilisant la vision par ordinateur et l’IA visuelle pour trouver les composants défectueux avant qu’ils ne tombent en panne, l’isolateur fissuré, le transformateur surchauffé, les crochets rouillés, ce n’est pas spéculatif, c’est déployé et économise de l’argent et prévient de véritables pannes en ce moment. Juste à côté, je mettrais la prévision de la charge et la réponse à la demande, car tout le problème du centre de données que nous avons discuté devient plus gérable si vous pouvez réellement prédire la demande avec plus de précision au lieu de planifier aveuglément. Ensuite, l’optimisation de la transmission, en tirant plus de capacité des câbles que nous avons déjà, ce qui compte énormément étant donné à quel point il est lent de construire de nouveaux. La gestion de la végétation et la restauration des coupures sont juste derrière, car l’IA prend quelque chose de lent et manuel et le rend rapide et efficace, tout en fournissant suffisamment d’informations et de conscience de la situation pour apporter de la résilience au réseau afin d’empêcher des incidents tels que les incendies de forêt, les dommages causés par les tempêtes et les pannes d’électricité.

Les jumeaux numériques et les commandes de réseau autonomes sont l’horizon plus lointain, ils arrivent, et ils sont puissants, mais ils posent des questions de confiance et de sécurité que je suppose est votre prochaine question. Donc, à court terme, mon classement honnête commence par les choses peu glamour : voir le réseau mieux, prédire son comportement mieux, et obtenir plus de ce qui est déjà dans le sol en rendant également le système de réseau plus conscient. C’est là que l’IA se paie d’abord.

Nous avons discuté précédemment de la dépendance de Buzz Solutions à l’égard des données réelles des services publics et de la revue humaine dans la boucle. À mesure que les systèmes électriques deviennent plus autonomes, quels sont les décisions qui pourraient être déléguées en toute sécurité à l’IA, et où la jugement humain doit-il rester obligatoire ? Comment les services publics devraient-ils se préparer aux décisions de modèles opaques, aux attaques informatiques ou aux défaillances qui pourraient se propager à travers les infrastructures critiques ?

Quand nous avons parlé pour la dernière fois, j’ai décrit notre approche comme humaine dans la boucle, des experts du domaine donnant des commentaires aux modèles d’IA sur tout ce qui est en dessous d’un seuil de confiance ou de mauvaises prédictions, et je veux commencer par là, car mon point de vue sur cela n’a pas changé, il s’est durci.

L’IA est extraordinaire pour les tâches de perception et de recommandations, regardez toutes ces données, trouvez l’anomalie, signalez le risque, classez ce qui nécessite une attention. Déléguer cela n’est pas seulement sûr, mais également meilleur que ce que les humains peuvent faire seuls à cette échelle. Là où je deviens beaucoup plus prudent, c’est pour l’action conséquente sur les infrastructures critiques et les projets à mission critique, les décisions où être faux prend en panne l’électricité pour un hôpital ou se propage à travers une région. Celles-ci nécessitent un humain (un expert du domaine) responsable, non pas parce que le modèle est nécessairement pire dans le cas moyen, mais parce que les infrastructures critiques sont exactement l’endroit où le cas catastrophique rare est le jeu entier.

Donc, dans mon opinion, la préparation est triple. Premièrement, gardez les humains dans la boucle de décision significative sur les décisions conséquentes, pas comme un tampon, mais avec une autorité réelle pour outrepasser. Deuxièmement, exigez l’explicabilité pour tout ce qui touche aux opérations critiques, si vous ne pouvez pas comprendre pourquoi le modèle a fait ce qu’il a fait, vous ne pouvez pas en être responsable, et “l’IA a décidé” n’est pas une réponse acceptable lorsque les lumières s’éteignent. Troisièmement, et c’est celui que je pense que l’industrie est dangereusement en retard, traitez ces systèmes autonomes comme une surface d’attaque élargie dès le premier jour. Plus nous laissons le logiciel faire fonctionner le réseau, plus le réseau hérite des vulnérabilités du logiciel. Une attaque informatique contre un système de contrôle autonome n’est pas une fuite de données, c’est un événement physique. Nous devons concevoir pour cette réalité avant de devenir pleinement autonomes, et non après. La bonne nouvelle est que les services publics prennent désormais la sécurité des données, la sécurité de l’information et la gouvernance de l’IA très au sérieux et ont également commencé à établir des conseils de gouvernance de l’IA et des données au sein de leurs organisations. Nous, chez Buzz, avons publié des livres de jeu sur la cybersécurité et la gouvernance de l’IA pour que l’industrie puisse en apprendre davantage sur le déploiement réussi de systèmes d’IA de manière sécurisée et à grande échelle.

En regardant cinq ans en avant, qu’est-ce qui séparera les pays et les régions capables de soutenir la poursuite de l’expansion de l’IA de ceux qui sont contraints par la disponibilité de l’électricité ? Quelle serait une stratégie réussie pour aligner le développement de l’IA sur la modernisation du réseau d’ici 2031 ?

Je pense que dans cinq ans, nous regarderons en arrière et réaliserons que la contrainte sur l’IA n’a jamais été les puces ou le talent. Ces choses se déplacent facilement autour du globe. La chose qui ne pouvait pas se déplacer, la chose qui a réellement décidé qui gagnait, c’était l’électricité et les infrastructures. L’électricité devient la ressource stratégique de l’ère de l’IA de la même manière que le pétrole l’était pour le siècle dernier, et je ne pense pas que c’est une exagération ; je pense que c’est juste devenu visible.

Donc, les régions qui prennent les devants seront celles qui ont traité la capacité du réseau comme un atout concurrentiel et ont commencé à construire et à réformer tôt, les endroits qui ont rationalisé l’interconnexion, qui ont modernisé les autorisations sans vider les garanties qui comptent, qui ont investi dans la transmission avant que la demande ne soit pleinement arrivée plutôt que de se précipiter après. Ceux qui restent en arrière ne manqueront pas d’ambition ou de capital. Ils auront les annonces de centres de données et les dollars d’investissement, et ils ne seront simplement pas en mesure de livrer les électrons, et les projets iront tranquillement ailleurs où ils le peuvent.

Une stratégie réussie d’ici 2031 ressemble à ces deux horloges (référencées dans le livre) que je reviens sans cesse, qui fonctionnent enfin ensemble au lieu de fonctionner les unes contre les autres. Cela signifie aligner la vitesse de l’ambition de l’IA sur la réalité des délais d’infrastructure énergétique, en utilisant l’IA elle-même pour obtenir plus du réseau que nous avons, tout en construisant le réseau dont nous avons besoin, en obtenant l’allocation des coûts correcte pour que le sentiment public sur l’abordabilité de l’électricité ne devienne pas extrêmement négatif, et en prenant le problème de la main-d’œuvre au sérieux pour réellement former la prochaine génération de personnes qui construisent et font fonctionner ce système. Rien de tout cela n’est un problème de technologie, car nous avons la technologie. C’est un problème de coordination et de volonté. À mon avis, la bonne nouvelle est que ce sont des problèmes que nous savons résoudre ; cela nécessiterait simplement que l’industrie de la technologie, l’industrie de l’énergie et les décideurs et les régulateurs s’asseyent ensemble et aient la conversation pertinente. Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus devraient visiter Buzz Solutions ou lire son livre : Powering Intelligence : Pourquoi l’avenir de l’IA dépend du réseau électrique.