Pentagon’s Joint AI Center (JAIC) test eerste dodelijke AI-projecten

De nieuwe waarnemend directeur van het Joint Artificial Intelligence Center (JAIC), Nand Mulchandani, gaf op 8 juli zijn allereerste persconferentie bij het Pentagon, waarin hij uiteenzette wat de JAIC te wachten staat en hoe de huidige projecten vorderen.

De persconferentie vond plaats twee jaar nadat Google (GOOGL ) zich terugtrok uit Project Maven, ook bekend als het Algorithmic Warfare Cross-Functional Team. Volgens het Pentagon was het project, dat in april 2017 van start ging, bedoeld om “computer-vision-algoritmen te ontwikkelen die militaire en civiele analisten helpen om de enorme hoeveelheid full-motion video-data te verwerken die de DOD elke dag verzamelt ter ondersteuning van counterinsurgency- en counterterrorism-operaties.”

Een van de belangrijkste doelstellingen van het Pentagon was om algoritmen te implementeren in “warfighting-systemen” tegen het einde van 2017.

Het voorstel werd echter tegengewerkt door sterke tegenstand, waaronder 3.000 Google-medewerkers die een petitie ondertekenden om te protesteren tegen het bedrijfs betrokkenheid bij het project.

Volgens Mulchandani is die dynamiek nu veranderd en ontvangt de JAIC nu steun van technologiebedrijven, waaronder Google.

“We hebben overweldigende steun en interesse gekregen van de technologie-industrie om samen te werken met de JAIC en het DoD,” zei Mulchandani. “[We] hebben commerciële contracten en lopende projecten met alle grote technologie- en AI-bedrijven – waaronder Google – en vele anderen.”

Mulchandani zit in een veel betere positie dan zijn voorganger, luitenant-generaal Jack Shanahan, als het gaat om de relatie tussen de JAIC en Silicon Valley. Shanahan richtte de JAIC in 2018 op en had een gespannen relatie met de technologie-industrie, terwijl Mulchandani een groot deel van zijn leven deel uitmaakte van die industrie. Hij heeft meerdere startup-bedrijven opgericht en geleid.

De JAIC 2.0

De JAIC werd in 2018 opgericht met een focus op laagtechnologische risicogebieden, zoals rampenbestrijding en preventief onderhoud. Nu deze projecten vorderen, wordt er gewerkt aan de overgang naar productie.

De nieuwe plannen, die JAIC 2.0 worden genoemd, omvatten zes missie-initiatieven die allemaal gaande zijn, waaronder gezamenlijke gevechtsoperaties, gezondheid van de strijder, transformatie van bedrijfsprocessen, reductie en bescherming van bedreigingen, gezamenlijke logistiek en de nieuwste, gezamenlijke informatiestrijd. De laatste toevoeging omvat cyberoperaties.

Er is nu speciale aandacht voor de missie van gezamenlijke gevechtsoperaties, die de prioriteiten van de Nationale Defensiestrategie volgt met betrekking tot technologische vooruitgang in het Amerikaanse leger.

De JAIC heeft nog niet veel details over het nieuwe project vrijgegeven, maar Mulchandani noemde het “tactische rand-AI” en zei dat het volledig door mensen wordt gecontroleerd.

Mulchandani beantwoordde een vraag van een journalist over de verklaringen van generaal Shanahan als directeur over de toepassing van dodelijke AI tegen 2021, die “de eerste dodelijke AI in de industrie zou kunnen zijn”.

Dit is hoe hij antwoordde:

“Ik wil niet beginnen met het bespreken van kwesties rond autonomie en dodelijkheid versus dodelijkheid zelf. Ja, het is waar dat veel van de producten die we ontwikkelen, in wapensystemen terechtkomen.”

“Geen van hen zal op dit moment een autonoom wapensysteem zijn. We worden nog steeds geregeerd door 3000.09, dat principe blijft intact. Geen van het werk of iets dat generaal Shanahan mogelijk heeft genoemd, overschrijdt die grens.

“We hebben nu projecten onder gezamenlijke gevechtsoperaties die daadwerkelijk getest gaan worden. Ze zijn zeer tactische rand-AI, zoals ik het beschrijf. En dat werk is veelbelovend, we zijn erg enthousiast over het. Het is een van de, zoals ik het noemde, de omslag van preventief onderhoud en anderen naar gezamenlijke gevechtsoperaties, dat is het vlaggenschipproduct dat we denken en praten over dat zal worden uitgebracht.”

“Maar het zal operators betreffen, mens in de lus, volledige menselijke controle, al die dingen zijn nog steeds absoluut geldig.”

Andere projecten

In zijn verklaring sprak Mulchandani ook over het “enorme potentieel voor het gebruik van AI in offensieve capaciteiten” zoals cybersecurity.

“U kunt de nieuwsberichten lezen over wat onze tegenstanders daarbuiten doen, en u kunt zich voorstellen dat er veel ruimte is voor groei in dat gebied,” zei hij.

Mulchandani onthulde wat de JAIC doet met betrekking tot de uitdagingen die zijn veroorzaakt door de COVID-19-pandemie, via een recent contract van 800 miljoen dollar met Booz Allen Hamilton (BAH ) en Project Salus. De JAIC ontwikkelde een reeks algoritmen voor NORTHCOM en National Guard-eenheden om uitdagingen met betrekking tot de toeleveringsketen te voorspellen.