Équipe de recherche vise à créer un intelligence artificielle explicative pour la non-prolifération et la sécurité nucléaires

Les chercheurs du Pacific Northwest National Laboratory (PNNL) tentent de rendre l’intelligence artificielle explicative dans le but de la non-prolifération et de la sécurité nucléaires. L’objectif est de rendre les décisions prises par les modèles d’intelligence artificielle transparentes pour toute décision impliquant la sécurité nucléaire.

Plus d’attention que jamais est portée à l’importance des modèles d’intelligence artificielle explicatifs, dans le but de résoudre le problème de la « boîte noire » de l’apprentissage automatique. Les modèles d’intelligence artificielle sont souvent considérés comme fiables pour prendre des décisions complexes, même lorsque ceux qui sont responsables de la mise en œuvre de ces décisions ne comprennent pas les raisons behind ces décisions. Plus les décisions sont prises dans un contexte de catastrophe et de danger potentiel, plus il est important que les raisons behind ces décisions soient transparentes.

Il n’est peut-être pas nécessaire de comprendre les raisons behind les classifications si une application d’intelligence artificielle fait quelque chose d’aussi simple que de catégoriser des images de fruits, mais pour les cas impliquant des armes nucléaires ou la production de matières nucléaires, il est préférable d’ouvrir la boîte noire sous-jacente à l’intelligence artificielle employée dans ces scénarios.

Les scientifiques du PNNL travaillent pour rendre l’intelligence artificielle explicative en utilisant une variété de nouvelles techniques. Ces chercheurs travaillent aux côtés du Département de l’Énergie, de l’Administration nationale de la sécurité nucléaire (NNSA) et de l’Office de la recherche et du développement de la non-prolifération nucléaire (DNN R&D). Le DNN R&D est responsable de la surveillance de la capacité des États-Unis à surveiller et à détecter la production de matières nucléaires, le développement d’armes nucléaires et la detonation d’armes nucléaires à travers le monde.

Étant donné les risques élevés liés aux questions de non-prolifération nucléaire, il est crucial de savoir comment un système d’intelligence artificielle parvient à ses conclusions sur ces questions. Angie Sheffield, responsable de programme senior au DNN R&D, déclare qu’il peut souvent être difficile d’intégrer de nouvelles technologies comme les modèles d’intelligence artificielle dans les techniques et les cadres scientifiques traditionnels, mais que le processus d’intégration de l’intelligence artificielle dans ces systèmes peut être facilité en concevant de nouvelles façons d’interagir plus efficacement avec ces systèmes. Sheffield soutient que les chercheurs devraient créer des outils qui permettent aux développeurs de comprendre comment ces techniques sophistiquées fonctionnent.

La rareté relative des données impliquant des explosions nucléaires et le développement d’armes nucléaires signifie que l’intelligence artificielle explicative est encore plus importante. La formation de modèles d’intelligence artificielle dans cet espace donne lieu à des modèles qui peuvent être moins fiables en raison de la rareté des données par rapport à une tâche comme la reconnaissance faciale. Par conséquent, chaque étape du processus utilisé par le modèle pour prendre une décision doit être inspectable.

Mark Greaves, chercheur au PNNL, a expliqué que les risques inhérents à la prolifération nucléaire nécessitent un système capable d’informer les gens sur les raisons pour lesquelles une réponse donnée a été sélectionnée.

Comme l’a expliqué Greaves via EurekaAlert:

« Si un système d’intelligence artificielle fournit une probabilité erronée sur la possession d’une arme nucléaire par une nation, c’est un problème d’une tout autre échelle. Notre système doit donc au moins produire des explications pour que les humains puissent vérifier ses conclusions et utiliser leur propre expertise pour corriger les lacunes de formation de l’intelligence artificielle causées par la rareté des données. »

Comme l’a expliqué Sheffield, le PNNL a deux forces qui l’aideront à résoudre ce problème. Premièrement, le PNNL a une expérience considérable dans le domaine de l’intelligence artificielle. De plus, l’équipe a des connaissances significatives dans le domaine des matières nucléaires et des armes. L’équipe du PNNL comprend des questions comme le traitement du plutonium et les types de signaux uniques liés au développement d’armes nucléaires. La combinaison de l’expérience en intelligence artificielle, de l’expérience en sécurité nationale et des connaissances dans le domaine nucléaire signifie que le PNNL est particulièrement bien placé pour gérer les questions de sécurité nationale nucléaire et d’intelligence artificielle.