Pentagons Joint AI Center (JAIC) tester første dødelige AI-prosjekter

Den nye fungerende direktøren for Joint Artificial Intelligence Center (JAIC), Nand Mulchandani, holdt sin første pentagon pressekonferanse den 8. juli, der han la frem hva som kommer for JAIC og hvordan nåværende prosjekter utvikler seg.

Pressekonferansen kommer to år etter at Google trakk seg ut av Project Maven, også kjent som Algorithmic Warfare Cross-Functional Team. Ifølge Pentagon var prosjektet, som ble lansert i april 2017, ment å utvikle “computer-vision algoritmer nødvendige for å hjelpe militære og sivile analytikere som er belastet av den enorme mengden full-bevegelsesvideo-data som DOD samler inn hver dag til støtte for mot-opprør og mot-terrorisme-operasjoner.”

En av Pentagons hovedmål var å ha algoritmer implementert i “krigs-systemer” innen utgangen av 2017.

Forslaget ble møtt med sterk motstand, inkludert 3 000 Google-ansatte som signerte en petisjon mot selskapets deltakelse i prosjektet.

Ifølge Mulchandani har denne dynamikken endret seg, og JAIC mottar nå støtte fra teknologiselskaper, inkludert Google.

“Vi har hatt overveldende støtte og interesse fra teknologibransjen i å arbeide med JAIC og DoD,” sa Mulchandani. “[vi] har kommersielle kontrakter og arbeid i gang med alle de største teknologi- og AI-selskapene – inkludert Google – og mange andre.” 

Mulchandani sitter i en mye bedre posisjon enn sin forgjenger, Lt. Gen. Jack Shanahan, når det gjelder forholdet mellom JAIC og Silicon Valley. Shanahan grunnla JAIC i 2018 og hadde et spent forhold til teknologibransjen, mens Mulchandani tilbrakte mye av sitt liv som en del av den. Han har co-grunnlagt og ledet flere startup-selskaper. 

JAIC 2.0

JAIC ble opprettet i 2018 med fokus på lav teknologirisiko-områder, som katastrofehjelp og prediktiv vedlikehold. Nå som disse prosjektene fremmer, pågår det arbeid for å overføre dem til produksjon. 

Betegnet JAIC 2.0, inkluderer den nye planen seks misjonsinitiativer som alle er i gang, inkludert felles krigføring, krigførerhelse, forretningsprosess-transformasjon, trusselreduksjon og beskyttelse, felles logistikk og den nyeste, felles informasjonskrig. Den siste tilføyelsen inkluderer cyper-operasjoner.

Det er nå spesiell fokus på felles krigføring-operasjoner-misjonen, som tar i bruk prioritetene i Nasjonal Forsvarsstrategi med hensyn til teknologiske fremgang i USAs militær.

JAIC har ikke lagt frem mange detaljer om det nye prosjektet, men Mulchandani refererte til det som “taktisk edge AI” og sa at det vil være fullstendig kontrollert av mennesker. 

Mulchandani svarte på en spørsmål fra en reporter om general Shanahans uttalelser som direktør om dødelig AI-anvendelse i 2021, som “kunne være den første dødelige AI i industrien.” 

Her er hvordan han svarte: 

“Jeg vil ikke begynne å streife inn i spørsmål om autonomi og dødelighet versus dødelighet – eller dødelighet selv. Så ja, det er sant at mange av produktene vi arbeider med vil gå inn i våpen-systemer.”

“Ingen av dem nå er gått inn i autonome våpen-systemer. Vi er fortsatt styrt av 3000.09, den prinsippet forblir intakt. Ingen av arbeidet eller noe som general Shanahan måtte ha nevnt krysser den linjen perioden.”

“Nå har vi prosjekter som pågår under Joint Warfighting, som vil gå inn i testing. De er veldig taktisk edge AI, det er måten jeg beskriver det på. Og det arbeidet vil bli testet, det er faktisk veldig lovende arbeid, vi er veldig spente på det. Det er – det er en av de, som jeg snakket om skifte fra prediktivt vedlikehold og andre til Joint Warfighting, det er – det er kanskje flaggskipet som vi tenker på og snakker om som vil gå ut der.”

“Men, det vil innebære, du vet, operatører, menneske i løkken, full menneskelig kontroll, alle disse tingene er fortsatt absolutt gyldige.”

Andre prosjekter

I sin uttalelse snakket Mulchandani også om “enorm potensial for å bruke AI i offensiv kapabilitet” som cybersikkerhet.

“Du kan lese nyhetene om hva våre motstandere gjør der ute, og du kan forestille deg at det er mye rom for vekst i det området,” sa han.

Mulchandani avslørte hva JAIC gjør med hensyn til utfordringer som følge av COVID-19-pandemien, gjennom en nylig $800 millioner kontrakt med Booz Allen Hamilton, og Project Salus. JAIC utviklet en serie algoritmer for NORTHCOM og National Guard-enheter for å forutsi forsyningskjede-ressurs-utfordringer.