Le Joint AI Center (JAIC) du Pentagone teste les premiers projets d'IA mortelle

Le nouveau directeur par intérim du Joint Artificial Intelligence Center (JAIC), Nand Mulchandani, a donné son tout premier Pentagone conférence de presse le 8 juillet, où il a exposé ce qui attend le JAIC et comment se déroulent les projets en cours.

La conférence de presse intervient deux ans après que Google se soit retiré du projet Maven, également connu sous le nom d'équipe interfonctionnelle Algorithmic Warfare. Selon le Pentagone, le projet qui a été lancé en avril 2017 visait à développer « des algorithmes de vision par ordinateur nécessaires pour aider les analystes militaires et civils encombrés par le volume considérable de données vidéo en plein écran que le DOD collecte chaque jour à l'appui de la contre-insurrection et du contre-terrorisme. opérations. »

L'un des principaux objectifs du Pentagone était d'implémenter des algorithmes dans des "systèmes de combat" d'ici la fin de 2017.

La proposition a été accueillie par forte opposition, dont 3,000 XNUMX employés de Google qui ont signé une pétition protestant contre l'implication de l'entreprise dans le projet.

Selon Mulchandani, cette dynamique a changé et le JAIC reçoit désormais le soutien d'entreprises technologiques, dont Google.

"Nous avons reçu un soutien et un intérêt écrasants de la part de l'industrie technologique pour travailler avec le JAIC et le DoD", a déclaré Mulchandani. "[we] ont des contrats commerciaux et des travaux en cours avec toutes les grandes entreprises de technologie et d'IA - y compris Google - et bien d'autres." 

Mulchandani se trouve dans une bien meilleure position que son prédécesseur, le lieutenant-général Jack Shanahan, en ce qui concerne les relations entre le JAIC et la Silicon Valley. Shanahan a fondé le JAIC en 2018 et avait une relation tendue avec l'industrie technologique, tandis que Mulchandani a passé une grande partie de sa vie à en faire partie. Il a cofondé et dirigé plusieurs startups. 

Le JAIC 2.0

Le JAIC a été créé en 2018 en mettant l'accent sur les domaines à faible risque technologique, comme les secours en cas de catastrophe et la maintenance prédictive. Maintenant que ces projets avancent, du travail est en cours pour les faire passer en production. 

Appelé JAIC 2.0, le nouveau plan comprend six initiatives de mission qui sont toutes en cours, y compris les opérations de combat conjointes, la santé des combattants, la transformation des processus commerciaux, la réduction et la protection des menaces, la logistique conjointe et la plus récente, la guerre de l'information conjointe. Le dernier ajout comprend les cyber-opérations.

Une attention particulière est désormais accordée à la mission d'opérations de combat conjointes, qui adopte les priorités de la stratégie de défense nationale en ce qui concerne les avancées technologiques de l'armée américaine.

Le JAIC n'a pas donné beaucoup de détails sur le nouveau projet, mais Mulchandani l'a qualifié d '«IA de pointe tactique» et a déclaré qu'il serait entièrement contrôlé par les humains. 

Mulchandani a répondu à une question d'un journaliste sur les déclarations du général Shanahan en tant que directeur concernant l'application mortelle de l'IA d'ici 2021, qui "pourrait être la première IA mortelle de l'industrie". 

Voici comment il a répondu : 

«Je ne veux pas commencer à m'égarer dans des problèmes d'autonomie et de létalité par rapport à la létalité – ou la létalité elle-même. Alors oui, il est vrai que bon nombre des produits sur lesquels nous travaillons iront dans des systèmes d'armes.

"Aucun d'entre eux ne sera actuellement un système d'arme autonome. Nous sommes toujours gouvernés par 3000.09, ce principe reste toujours intact. Aucun des travaux ou quoi que ce soit que le général Shanahan a pu mentionner ne traverse cette période.

«Maintenant, nous avons des projets en cours dans le cadre de Joint Warfighting, qui vont en fait être testés. Ce sont des IA de pointe très tactiques, c'est ainsi que je le décris. Et ce travail va être testé, c'est en fait un travail très prometteur, nous en sommes très excités. C'est - c'est l'un des, comme j'ai parlé du pivot de la maintenance prédictive et d'autres vers Joint Warfighting, c'est le - probablement le produit phare auquel nous pensons et dont nous parlons et qui sortira là-bas.

"Mais, cela impliquera, vous savez, des opérateurs, des humains dans la boucle, un contrôle humain total, toutes ces choses sont toujours absolument valables."

Autres projets

Dans sa déclaration, Mulchandani a également parlé de "l'énorme potentiel d'utilisation de l'IA dans des capacités offensives" comme la cybersécurité.

"Vous pouvez lire les nouvelles en termes de ce que font nos adversaires là-bas, et vous pouvez imaginer qu'il y a beaucoup de place pour la croissance dans ce domaine", a-t-il déclaré.

Mulchandani a révélé ce que fait le JAIC en ce qui concerne les défis posés par la pandémie de COVID-19, grâce à un récent contrat de 800 millions de dollars avec Booz Allen Hamilton et Project Salus. JAIC a développé une série d'algorithmes pour les unités du NORTHCOM et de la Garde nationale afin de prédire les défis liés aux ressources de la chaîne d'approvisionnement.