Pentagons Joint AI Center (JAIC) test eerste dodelijke AI-projecten

De nieuwe waarnemend directeur van het Joint Artificial Intelligence Center (JAIC), Nand Mulchandani, gaf zijn allereerste Pentagonpersconferentie op 8 juli, waar hij uiteenzette wat er aan zit te komen voor het JAIC en hoe de huidige projecten zich ontwikkelen.

De persconferentie vindt plaats twee jaar nadat Google zich terugtrok uit Project Maven, ook bekend als het Algorithmic Warfare Cross-Functional Team. Volgens het Pentagon was het project, dat in april 2017 van start ging, bedoeld om “computer-vision-algoritmen te ontwikkelen die nodig zijn om militaire en civiele analisten te helpen die worden belast door de enorme hoeveelheid volledige videogegevens die het ministerie van Defensie elke dag verzamelt ter ondersteuning van counterinsurgency- en counterterrorismoperaties.”

Een van de belangrijkste doelstellingen van het Pentagon was om algoritmen te implementeren in “warfighting-systemen” tegen het einde van 2017.

Het voorstel werd ontmoet met sterke oppositie, waaronder 3.000 Google-medewerkers die een petitie ondertekenden om te protesteren tegen de betrokkenheid van het bedrijf bij het project.

Volgens Mulchandani is die dynamiek veranderd en ontvangt het JAIC nu steun van technologiebedrijven, waaronder Google.

“We hebben overweldigende steun en interesse gekregen van de technologie-industrie om samen te werken met het JAIC en het ministerie van Defensie,” zei Mulchandani. “[we] hebben commerciële contracten en lopend werk met alle grote technologie- en AI-bedrijven – waaronder Google – en vele anderen.”

Mulchandani zit in een veel betere positie dan zijn voorganger, luitenant-generaal Jack Shanahan, als het gaat om de relatie tussen het JAIC en Silicon Valley. Shanahan richtte het JAIC in 2018 op en had een gespannen relatie met de technologie-industrie, terwijl Mulchandani een groot deel van zijn leven deel uitmaakte van die industrie. Hij heeft meerdere startupbedrijven opgericht en geleid.

JAIC 2.0

Het JAIC werd in 2018 opgericht met een focus op lage technische risicogebieden, zoals rampenbestrijding en voorspellend onderhoud. Nu deze projecten vorderen, wordt er gewerkt aan de overgang naar productie.

Het nieuwe plan, JAIC 2.0, omvat zes missie-initiatieven die allemaal gaande zijn, waaronder gezamenlijke gevechtsoperaties, gezondheid van de strijder, transformatie van bedrijfsprocessen, reductie en bescherming van bedreigingen, gezamenlijke logistiek en de nieuwste, gezamenlijke informatiestrijd. De laatste toevoeging omvat cyberoperaties.

Er wordt nu speciale aandacht besteed aan de missie van gezamenlijke gevechtsoperaties, die de prioriteiten van de Nationale Defensiestrategie overneemt met betrekking tot technologische vooruitgang in het Amerikaanse leger.

Het JAIC heeft niet veel details vrijgegeven over het nieuwe project, maar Mulchandani noemde het “tactische edge AI” en zei dat het volledig door mensen zal worden gecontroleerd.

Mulchandani beantwoordde een vraag van een journalist over de verklaringen van generaal Shanahan als directeur over dodelijke AI-toepassingen in 2021, die “de eerste dodelijke AI in de industrie zouden kunnen zijn.”

Dit is hoe hij antwoordde:

“Ik wil niet beginnen met het bespreken van kwesties rond autonomie en dodelijkheid versus dodelijkheid zelf. Dus ja, het is waar dat veel van de producten waar we aan werken, in wapensystemen zullen worden geïmplementeerd.”

“Geen van hen zal op dit moment autonome wapensystemen zijn. We worden nog steeds geregeerd door 3000.09, dat principe blijft intact. Geen van het werk of iets dat generaal Shanahan mogelijk heeft genoemd, overschrijdt die grens.

“We hebben nu projecten onder gezamenlijke gevechtsoperaties, die daadwerkelijk getest gaan worden. Het zijn zeer tactische edge AI, zoals ik het beschrijf. En dat werk wordt getest, het is echt veelbelovend werk, we zijn erg enthousiast over het werk. Het is – het is een van de, zoals ik het over de overgang van voorspellend onderhoud en anderen naar gezamenlijke gevechtsoperaties had, dat is het – waarschijnlijk het vlaggenschipproduct dat we erover nadenken en praten dat naar buiten gaat.”

“Maar het zal operators betreffen, mens in de lus, volledige menselijke controle, al die dingen zijn nog steeds absoluut geldig.”

Andere projecten

In zijn verklaring sprak Mulchandani ook over het “enorme potentieel voor het gebruik van AI in offensieve capaciteiten” zoals cybersecurity.

“U kunt de nieuwsberichten lezen over wat onze tegenstanders daarbuiten doen, en u kunt zich voorstellen dat er veel ruimte is voor groei in dat gebied,” zei hij.

Mulchandani onthulde wat het JAIC doet met betrekking tot de uitdagingen die zijn veroorzaakt door de COVID-19-pandemie, via een recent contract van 800 miljoen dollar met Booz Allen Hamilton en Project Salus. Het JAIC ontwikkelde een reeks algoritmen voor NORTHCOM- en National Guard-eenheden om uitdagingen in de toeleveringsketen te voorspellen.