Centro Conjunto de Inteligência Artificial do Pentágono (JAIC) Testa Primeiros Projetos Letais de IA

O novo diretor interino do Centro Conjunto de Inteligência Artificial (JAIC), Nand Mulchandani, concedeu sua primeira coletiva de imprensa no Pentágono em 8 de julho, onde ele expôs o que está por vir para o JAIC e como os projetos atuais estão se desenrolando.

A coletiva de imprensa ocorre dois anos após a Google (GOOGL ) se retirar do Projeto Maven, também conhecido como Equipe de Guerra Algorítmica Cross-Functional. De acordo com o Pentágono, o projeto que foi lançado em abril de 2017 visava desenvolver “algoritmos de visão computacional necessários para ajudar analistas militares e civis sobrecarregados pelo volume de dados de vídeo em movimento que o DOD coleta todos os dias em apoio a operações de contra-insurgência e contra-terrorismo”.

Um dos principais objetivos do Pentágono era ter algoritmos implementados em “sistemas de guerra” até o final de 2017.

A proposta foi recebida com forte oposição, incluindo 3.000 funcionários da Google que assinaram uma petição protestando contra a participação da empresa no projeto.

De acordo com Mulchandani, essa dinâmica mudou e o JAIC agora está recebendo apoio de empresas de tecnologia, incluindo a Google.

“Tivemos apoio e interesse esmagadores da indústria de tecnologia para trabalhar com o JAIC e o DoD”, disse Mulchandani. “[Nós] temos contratos comerciais e trabalhos em andamento com todas as principais empresas de tecnologia e IA – incluindo a Google – e muitas outras.”

Mulchandani está em uma posição muito melhor do que seu antecessor, Lt. Gen. Jack Shanahan, quando se trata da relação entre o JAIC e o Vale do Silício. Shanahan fundou o JAIC em 2018 e teve uma relação tensa com a indústria de tecnologia, enquanto Mulchandani passou grande parte de sua vida como parte dela. Ele co-fundou e liderou várias empresas de startup.

O JAIC 2.0

O JAIC foi criado em 2018 com foco em áreas de baixo risco tecnológico, como alívio de desastres e manutenção preditiva. Agora, com esses projetos avançando, há trabalho sendo feito para transição-los para produção.

Denominado JAIC 2.0, o novo plano inclui seis iniciativas de missão que estão todas em andamento, incluindo operações de guerra conjunta, saúde do guerreiro, transformação de processos de negócios, redução e proteção de ameaças, logística conjunta e a mais recente, guerra de informação conjunta. A última inclusão inclui operações cibernéticas.

Há um foco especial agora sendo dado às operações de guerra conjunta, que adotam as prioridades da Estratégia de Defesa Nacional em relação a avanços tecnológicos nos EUA.

O JAIC não divulgou muitos detalhes sobre o novo projeto, mas Mulchandani o referiu como “IA de borda tática” e disse que ele será controlado totalmente por humanos.

Mulchandani respondeu a uma pergunta de um repórter sobre as declarações do General Shanahan como diretor sobre a aplicação de IA letal por 2021, que “poderia ser a primeira IA letal na indústria”.

Aqui está como ele respondeu:

“Eu não quero começar a me desviar para questões em torno de autonomia e letalidade versus letal — ou letalidade em si. Sim, é verdade que muitos dos produtos que trabalhamos vão para sistemas de armas.”

“Nenhum deles agora vai ser um sistema de armas autônomo. Ainda estamos regidos pelo 3000.09, esse princípio ainda permanece intacto. Nenhum do trabalho ou qualquer coisa que o General Shanahan possa ter mencionado cruza essa linha, período.”

“Agora, temos projetos em andamento sob Guerra Conjunta, que vão ser realmente testados. Eles são muito de IA de borda tática, é assim que eu os descrevo. E esse trabalho está sendo testado, é realmente trabalho promissor, estamos muito animados com isso. É — é um dos, como eu falei sobre a mudança de manutenção preditiva e outros para Guerra Conjunta, que é o — provavelmente o produto mais importante que estamos pensando e falando sobre que vai sair lá.”

“Mas, ele vai envolver, você sabe, operadores, humanos no loop, controle humano total, todas essas coisas ainda são absolutamente válidas.”

Outros Projetos

Em sua declaração, Mulchandani também falou sobre o “enorme potencial para usar IA em capacidades ofensivas” como cibersegurança.

“Você pode ler as notícias sobre o que nossos adversários estão fazendo lá fora, e você pode imaginar que há muito espaço para crescimento nessa área”, disse ele.

Mulchandani revelou o que o JAIC está fazendo em relação aos desafios trazidos pela pandemia de COVID-19, por meio de um contrato recente de US$ 800 milhões com a Booz Allen Hamilton (BAH ), e do Projeto Salus. O JAIC desenvolveu uma série de algoritmos para unidades do NORTHCOM e da Guarda Nacional para prever desafios de recursos de cadeia de suprimentos.