Centro Conjunto de Inteligência Artificial do Pentágono (JAIC) Testa Primeiros Projetos Letais de IA

O novo diretor interino do Joint Artificial Intelligence Center (JAIC), Nand Mulchandani, deu sua primeira coletiva de imprensa no Pentágono na qual ele expôs o que está por vir para o JAIC e como os projetos atuais estão se desenrolando.

A coletiva de imprensa ocorre dois anos após a Google ter saído do Projeto Maven, também conhecido como Equipe de Guerra Algorítmica Cross-Functional. De acordo com o Pentágono, o projeto que foi lançado em abril de 2017 visava desenvolver “algoritmos de visão computacional necessários para ajudar analistas militares e civis sobrecarregados pelo volume de dados de vídeo em movimento completo que o DOD coleta todos os dias em apoio a operações de contra-insurgência e contra-terrorismo.”

Um dos principais objetivos do Pentágono era ter algoritmos implementados em “sistemas de guerra” até o final de 2017.

A proposta foi recebida com forte oposição, incluindo 3.000 funcionários da Google que assinaram uma petição protestando contra a participação da empresa no projeto.

De acordo com Mulchandani, essa dinâmica mudou e o JAIC agora está recebendo apoio de empresas de tecnologia, incluindo a Google.

“Tivemos apoio e interesse esmagadores da indústria de tecnologia para trabalhar com o JAIC e o DoD”, disse Mulchandani. “[Nós] temos contratos comerciais e trabalhos em andamento com todas as principais empresas de tecnologia e IA – incluindo a Google – e muitas outras.”

Mulchandani está em uma posição muito melhor do que seu antecessor, Lt. Gen. Jack Shanahan, quando se trata da relação entre o JAIC e o Vale do Silício. Shanahan fundou o JAIC em 2018 e teve uma relação tensa com a indústria de tecnologia, enquanto Mulchandani passou grande parte de sua vida como parte dela. Ele co-fundou e liderou várias empresas de startup.

O JAIC 2.0

O JAIC foi criado em 2018 com foco em áreas de baixo risco tecnológico, como alívio de desastres e manutenção preditiva. Agora, com esses projetos avançando, há trabalhos sendo feitos para transição-los para produção.

Denominado JAIC 2.0, o novo plano inclui seis iniciativas de missão que estão todas em andamento, incluindo operações de guerra conjuntas, saúde do combatente, transformação de processos de negócios, redução e proteção de ameaças, logística conjunta e a mais recente, guerra de informações conjunta. A última inclusão inclui operações cibernéticas.

Há um foco especial agora sendo direcionado para a missão de operações de guerra conjuntas, que adota as prioridades da Estratégia de Defesa Nacional em relação a avanços tecnológicos nas forças armadas dos EUA.

O JAIC não divulgou muitos detalhes sobre o novo projeto, mas Mulchandani se referiu a ele como “IA de borda tática” e disse que ele será controlado totalmente por humanos.

Mulchandani respondeu a uma pergunta de um repórter sobre as declarações do General Shanahan como diretor sobre a aplicação de IA letal por 2021, que “poderia ser a primeira IA letal na indústria”.

Aqui está como ele respondeu:

“Eu não quero começar a me afastar de questões em torno de autonomia e letalidade versus letal — ou letalidade em si. Sim, é verdade que muitos dos produtos que trabalhamos irão para sistemas de armas.”

“Nenhum deles agora será um sistema de armas autônomo. Ainda estamos governados pelo 3000.09, esse princípio ainda permanece intacto. Nenhum do trabalho ou qualquer coisa que o General Shanahan possa ter mencionado cruza essa linha, ponto.

“Agora, temos projetos em andamento sob Guerra Conjunta, que irão para testes. São muito de IA de borda tática, é assim que eu descrevo. E esse trabalho será testado, é um trabalho muito promissor, estamos muito animados com isso. É — é um dos, como eu falei sobre a mudança de manutenção preditiva e outros para Guerra Conjunta, que é o — provavelmente o produto principal que estamos pensando e falando sobre que irá sair lá.”

“Mas, irá envolver, você sabe, operadores, humano no loop, controle humano total, todas essas coisas ainda são absolutamente válidas.”

Outros Projetos

Em sua declaração, Mulchandani também falou sobre o “enorme potencial para usar IA em capacidades ofensivas” como cibersegurança.

“Você pode ler as notícias sobre o que nossos adversários estão fazendo lá fora, e pode imaginar que há muito espaço para crescimento nessa área”, disse ele.

Mulchandani revelou o que o JAIC está fazendo em relação aos desafios trazidos pela pandemia de COVID-19, por meio de um contrato recente de $800 milhões com a Booz Allen Hamilton, e do Projeto Salus. O JAIC desenvolveu uma série de algoritmos para unidades do NORTHCOM e da Guarda Nacional para prever desafios de recursos de cadeia de suprimentos.