Le Joint AI Center (JAIC) du Pentagone teste les premiers projets d'IA mortelle

Le nouveau directeur par intérim du Joint Artificial Intelligence Center (JAIC), Nand Mulchandani, a donné son tout premier Pentagone conférence de presse le 8 juillet, où il a exposé ce qui attend le JAIC et comment se déroulent les projets en cours.

La conférence de presse intervient deux ans après que Google se soit retiré du projet Maven, également connu sous le nom d'équipe interfonctionnelle Algorithmic Warfare. Selon le Pentagone, le projet qui a été lancé en avril 2017 visait à développer « des algorithmes de vision par ordinateur nécessaires pour aider les analystes militaires et civils encombrés par le volume considérable de données vidéo en plein écran que le DOD collecte chaque jour à l'appui de la contre-insurrection et du contre-terrorisme. opérations. »

L'un des principaux objectifs du Pentagone était d'implémenter des algorithmes dans des "systèmes de combat" d'ici la fin de 2017.

La proposition a été accueillie par forte opposition, dont 3,000 XNUMX employés de Google qui ont signé une pétition protestant contre l'implication de l'entreprise dans le projet.

Selon Mulchandani, cette dynamique a changé et le JAIC reçoit désormais le soutien d'entreprises technologiques, dont Google.

"Nous avons reçu un soutien et un intérêt écrasants de la part de l'industrie technologique pour travailler avec le JAIC et le DoD", a déclaré Mulchandani. "[we] ont des contrats commerciaux et des travaux en cours avec toutes les grandes entreprises de technologie et d'IA - y compris Google - et bien d'autres." 

Mulchandani se trouve dans une bien meilleure position que son prédécesseur, le lieutenant-général Jack Shanahan, en ce qui concerne les relations entre le JAIC et la Silicon Valley. Shanahan a fondé le JAIC en 2018 et avait une relation tendue avec l'industrie technologique, tandis que Mulchandani a passé une grande partie de sa vie à en faire partie. Il a cofondé et dirigé plusieurs startups. 

Le JAIC 2.0

Le JAIC a été créé en 2018 en mettant l'accent sur les domaines à faible risque technologique, comme les secours en cas de catastrophe et la maintenance prédictive. Maintenant que ces projets avancent, du travail est en cours pour les faire passer en production. 

Appelé JAIC 2.0, le nouveau plan comprend six initiatives de mission qui sont toutes en cours, y compris les opérations de combat conjointes, la santé des combattants, la transformation des processus commerciaux, la réduction et la protection des menaces, la logistique conjointe et la plus récente, la guerre de l'information conjointe. Le dernier ajout comprend les cyber-opérations.

Une attention particulière est désormais accordée à la mission d'opérations de combat conjointes, qui adopte les priorités de la stratégie de défense nationale en ce qui concerne les avancées technologiques de l'armée américaine.

Le JAIC n'a pas donné beaucoup de détails sur le nouveau projet, mais Mulchandani l'a qualifié d '«IA de pointe tactique» et a déclaré qu'il serait entièrement contrôlé par les humains. 

Mulchandani a répondu à une question d'un journaliste sur les déclarations du général Shanahan en tant que directeur concernant l'application mortelle de l'IA d'ici 2021, qui "pourrait être la première IA mortelle de l'industrie". 

Voici comment il a répondu : 

Je ne veux pas m'égarer dans des débats sur l'autonomie et la létalité, ni sur la létalité elle-même. Il est donc vrai que nombre des produits sur lesquels nous travaillons seront intégrés à des systèmes d'armes.

« Aucun d'entre eux ne sera pour l'instant un système d'armes autonome. Nous sommes toujours gouvernés par 3000.09, ce principe reste toujours intact. Aucun des travaux ou quoi que ce soit que le général Shanahan a pu mentionner ne traverse cette période.

Nous avons actuellement des projets en cours dans le cadre de Joint Warfighting, qui vont être testés. Il s'agit d'IA de pointe très tactique, pour ainsi dire. Ces travaux vont être testés, ils sont très prometteurs et nous en sommes très enthousiastes. Comme je l'ai mentionné à propos du passage de la maintenance prédictive et d'autres technologies à Joint Warfighting, c'est probablement le produit phare auquel nous réfléchissons et dont nous parlons, et qui sera bientôt disponible.

"Mais, cela impliquera, vous savez, des opérateurs, des humains dans la boucle, un contrôle humain total, toutes ces choses sont toujours absolument valables."

Autres projets

Dans sa déclaration, Mulchandani a également parlé de "l'énorme potentiel d'utilisation de l'IA dans des capacités offensives" comme la cybersécurité.

"Vous pouvez lire les nouvelles en termes de ce que font nos adversaires là-bas, et vous pouvez imaginer qu'il y a beaucoup de place pour la croissance dans ce domaine", a-t-il déclaré.

Mulchandani a révélé ce que fait le JAIC en ce qui concerne les défis posés par la pandémie de COVID-19, grâce à un récent contrat de 800 millions de dollars avec Booz Allen Hamilton et Project Salus. JAIC a développé une série d'algorithmes pour les unités du NORTHCOM et de la Garde nationale afin de prédire les défis liés aux ressources de la chaîne d'approvisionnement.