Equipe de Pesquisa Visa Criar Inteligência Artificial Explicável para Não Proliferação e Segurança Nuclear

Pesquisadores do Laboratório Nacional do Noroeste do Pacífico (PNNL) estão tentando tornar a inteligência artificial explicável para fins de não proliferação e segurança nuclear. O objetivo é tornar as decisões retornadas pelos modelos de inteligência artificial transparentes para qualquer decisão que envolva segurança nuclear.

Mais atenção do que nunca está sendo dada à importância de modelos de inteligência artificial explicáveis, em uma tentativa de resolver o problema da “caixa preta” do aprendizado de máquina. Modelos de inteligência artificial são frequentemente confiáveis para tomar decisões complexas, mesmo quando aqueles responsáveis por executar essas decisões não entendem a lógica por trás delas. Quanto maior o potencial de catástrofe e perigo que essas decisões estão sendo tomadas, mais importante é que a lógica por trás delas seja transparente.

Pode não ser necessário entender a lógica por trás das classificações se um aplicativo de inteligência artificial está fazendo algo tão simples quanto categorizar imagens de frutas, mas para casos que envolvem armas nucleares ou produção de material nuclear, é melhor abrir a caixa preta subjacente à inteligência artificial empregada nesses cenários.

Cientistas do PNNL estão trabalhando para tornar a inteligência artificial explicável usando uma variedade de novas técnicas. Esses pesquisadores estão trabalhando ao lado do Escritório de Pesquisa e Desenvolvimento de Não Proliferação Nuclear de Defesa da Administração Nacional de Segurança Nuclear do Departamento de Energia (DNN R&D). O DNN R&D é responsável pela supervisão da capacidade dos Estados Unidos de monitorar e detectar a produção de material nuclear, o desenvolvimento de armas nucleares e a detonação de armas nucleares em todo o mundo.

Considerando os riscos altos envolvidos em questões relacionadas à não proliferação nuclear, é fundamental saber como um sistema de inteligência artificial chega às suas conclusões sobre essas questões. Angie Sheffield é uma gerente de programa sênior no DNN R&D. De acordo com Sheffield, pode ser difícil incorporar novas tecnologias como modelos de inteligência artificial em técnicas e estruturas científicas tradicionais, mas o processo de incorporação de inteligência artificial a esses sistemas pode ser facilitado projetando novas maneiras de interagir mais efetivamente com esses sistemas. Sheffield argumenta que os pesquisadores devem criar ferramentas que permitam aos desenvolvedores entender como essas técnicas sofisticadas operam.

A escassez relativa de dados envolvendo explosões nucleares e desenvolvimento de armas nucleares significa que a inteligência artificial explicável é ainda mais importante. Treinar modelos de inteligência artificial nesse espaço resulta em modelos que podem ser menos confiáveis devido à quantidade relativamente pequena de dados em comparação com uma tarefa como reconhecimento facial. Como resultado, cada etapa do processo usado pelo modelo para tomar uma decisão precisa ser inspecionável.

Mark Greaves, um pesquisador do PNNL, explicou que os riscos inerentes à proliferação nuclear exigem um sistema que possa informar as pessoas sobre por que uma resposta específica foi selecionada.

Como Greaves explicou via EurekaAlert:

“Se um sistema de inteligência artificial produz uma probabilidade errada sobre se uma nação possui uma arma nuclear, esse é um problema de uma escala completamente diferente. Então, nosso sistema deve produzir explicações para que os humanos possam verificar suas conclusões e usar sua própria expertise para corrigir lacunas de treinamento de inteligência artificial causadas pela escassez de dados.”

Como explicado por Sheffield, o PNNL tem duas forças que o ajudarão a resolver esse problema. Primeiro, o PNNL tem experiência substancial no campo da inteligência artificial. Além disso, a equipe tem conhecimento significativo de domínio quando se trata de materiais nucleares e armas. A equipe do PNNL entende questões como o processamento de plutônio e os tipos de sinais únicos para o desenvolvimento de armas nucleares. A combinação de experiência em inteligência artificial, experiência em segurança nacional e conhecimento de domínio nuclear significa que o PNNL está singularmente adaptado para lidar com questões de segurança nacional nuclear e inteligência artificial.