Le centre conjoint d’intelligence artificielle du Pentagone (JAIC) teste les premiers projets d’IA létaux

Le nouveau directeur par intérim du Joint Artificial Intelligence Center (JAIC), Nand Mulchandani, a donné sa première conférence de presse au Pentagone le 8 juillet, où il a exposé ce qui est prévu pour le JAIC et comment les projets en cours se déroulent.

La conférence de presse a lieu deux ans après que Google (GOOGL ) se soit retiré du projet Maven, également connu sous le nom d’Algorithmic Warfare Cross-Functional Team. Selon le Pentagone, le projet lancé en avril 2017 visait à développer des algorithmes de vision par ordinateur nécessaires pour aider les analystes militaires et civils accablés par le volume énorme de données vidéo à plein mouvement que le DOD collecte chaque jour pour soutenir les opérations de contre-insurrection et de contre-terrorisme.

L’un des objectifs principaux du Pentagone était d’avoir des algorithmes implémentés dans des « systèmes de combat » d’ici la fin de 2017.

La proposition a été rencontrée par une forte opposition, y compris 3 000 employés de Google qui ont signé une pétition pour protester contre la participation de l’entreprise au projet.

Selon Mulchandani, cette dynamique a changé et le JAIC reçoit maintenant le soutien des entreprises technologiques, y compris Google.

« Nous avons eu un soutien et un intérêt écrasants de la part de l’industrie technologique pour travailler avec le JAIC et le DoD », a déclaré Mulchandani. « [nous] avons des contrats commerciaux et des travaux en cours avec toutes les grandes entreprises technologiques et d’IA – y compris Google – et de nombreuses autres. »

Mulchandani est dans une position beaucoup meilleure que son prédécesseur, le lieutenant-général Jack Shanahan, en ce qui concerne la relation entre le JAIC et la Silicon Valley. Shanahan a fondé le JAIC en 2018 et avait une relation tendue avec l’industrie technologique, alors que Mulchandani a passé une grande partie de sa vie à en faire partie. Il a co-fondé et dirigé plusieurs entreprises de démarrage.

Le JAIC 2.0

Le JAIC a été créé en 2018 avec un accent sur les domaines à faible risque technologique, comme les secours en cas de catastrophe et la maintenance prédictive. Maintenant que ces projets progressent, des travaux sont en cours pour les passer en production.

Appelé JAIC 2.0, le nouveau plan comprend six initiatives de mission qui sont toutes en cours, notamment les opérations de combat conjointes, la santé des combattants, la transformation des processus métier, la réduction et la protection des menaces, la logistique conjointe et la dernière, la guerre d’information conjointe. La dernière addition comprend les opérations cybernétiques.

Il y a maintenant un accent particulier sur les opérations de combat conjointes, qui adoptent les priorités de la Stratégie de défense nationale en ce qui concerne les progrès technologiques dans les forces armées américaines.

Le JAIC n’a pas fourni beaucoup de détails sur le nouveau projet, mais Mulchandani l’a qualifié d’« IA de bord de tactical » et a déclaré qu’il sera contrôlé entièrement par des humains.

Mulchandani a répondu à une question d’un journaliste sur les déclarations du général Shanahan, en tant que directeur, sur l’application de l’IA létale d’ici 2021, qui « pourrait être la première IA létale de l’industrie ».

Voici comment il a répondu :

« Je ne veux pas commencer à m’éloigner des questions relatives à l’autonomie et à la létalité par rapport à la létalité elle-même. Oui, il est vrai que de nombreux produits que nous travaillons seront intégrés dans des systèmes d’armes. »

« Aucun d’entre eux, pour le moment, ne sera un système d’armes autonome. Nous sommes toujours soumis à la 3000.09, ce principe reste toujours intact. Aucun de nos travaux ou de ce que le général Shanahan a pu mentionner ne franchit cette limite. »

« Nous avons des projets en cours sous la bannière des opérations de combat conjointes, qui seront réellement testés. Ils sont très prometteurs et nous sommes très enthousiastes à leur égard. C’est l’un des produits phares que nous pensons et dont nous parlons qui sortira. »

« Mais cela impliquera, vous savez, des opérateurs, un humain dans la boucle, un contrôle humain total, toutes ces choses sont toujours absolument valables. »

Autres projets

Dans sa déclaration, Mulchandani a également parlé du « potentiel énorme pour utiliser l’IA dans les capacités offensives » comme la cybersécurité.

« Vous pouvez lire les nouvelles en termes de ce que font nos adversaires là-bas, et vous pouvez imaginer qu’il y a beaucoup de place pour la croissance dans ce domaine », a-t-il déclaré.

Mulchandani a révélé ce que le JAIC fait pour relever les défis posés par la pandémie de COVID-19, grâce à un contrat récent de 800 millions de dollars avec Booz Allen Hamilton (BAH ), et le projet Salus. Le JAIC a développé une série d’algorithmes pour les unités de NORTHCOM et de la Garde nationale pour prédire les défis des ressources de la chaîne d’approvisionnement.