Pentagons gemensamma AI-center (JAIC) testar första dödliga AI-projekt

Den nye tillförordnade direktören för Joint Artificial Intelligence Center (JAIC), Nand Mulchandani, höll sin första presskonferens i Pentagon den 8 juli, där han redogjorde för vad som komma skall för JAIC och hur nuvarande projekt utvecklas.

Presskonferensen ägde rum två år efter att Google (GOOGL ) drog sig ur Project Maven, även känd som Algorithmic Warfare Cross-Functional Team. Enligt Pentagon var projektet, som lanserades i april 2017, tänkt att utveckla “datorseendealgoritmer som behövs för att hjälpa militära och civila analytiker som tyngs av den enorma mängden videoinspelningar som DOD samlar in varje dag i stöd för motstånd och terrorismbekämpning.”

En av Pentagons huvudmål var att ha algoritmer implementerade i “stridssystem” senast 2017.

Förslaget mötte starkt motstånd, inklusive 3 000 Google-anställda som undertecknade en petition mot företagets deltagande i projektet.

Enligt Mulchandani har den dynamiken förändrats och JAIC får nu stöd från teknologiföretag, inklusive Google.

“Vi har fått överväldigande stöd och intresse från teknologibranschen för att samarbeta med JAIC och DoD”, sa Mulchandani. “[Vi] har kommersiella kontrakt och pågående arbete med alla stora teknologi- och AI-företag – inklusive Google – och många andra.”

Mulchandani befinner sig i en bättre position än sin företrädare, Lt. Gen. Jack Shanahan, när det gäller relationen mellan JAIC och Silicon Valley. Shanahan grundade JAIC 2018 och hade en spänd relation med teknologibranschen, medan Mulchandani tillbringade större delen av sitt liv som en del av den. Han har varit med och grundat och lett flera startup-företag.

JAIC 2.0

JAIC skapades 2018 med fokus på områden med låg teknisk risk, som katastrofhjälp och prediktivt underhåll. Nu när dessa projekt främjar, pågår arbete för att överföra dem till produktion.

Benämnt JAIC 2.0, omfattar den nya planen sex uppdrag som alla pågår, inklusive gemensamma stridsoperationer, stridshälsoskydd, omvandling av affärsprocesser, hotreducering och skydd, gemensam logistik och den senaste, gemensam informationskrigföring. Den senaste tillägget inkluderar cyberoperationer.

Det finns ett särskilt fokus nu som riktas mot den gemensamma stridsoperationen, som antar prioriteringarna i den nationella försvarsstrategin när det gäller teknologiska framsteg i den amerikanska militären.

JAIC har inte lagt fram många detaljer om det nya projektet, men Mulchandani hänvisade till det som “taktisk AI” och sa att det kommer att vara fullständigt kontrollerat av människor.

Mulchandani svarade på en fråga från en reporter om general Shanahans uttalanden som direktör om dödlig AI-tillämpning 2021, som “kunde vara den första dödliga AI i branschen”.

Så här svarade han:

“Jag vill inte börja gå in på frågor om autonomi och dödlighet versus dödlighet – eller dödlighet i sig. Ja, det är sant att många av de produkter vi arbetar med kommer att gå in i vapensystem.”

“Ingen av dem är just nu tänkt att bli autonoma vapensystem. Vi är fortfarande bundna av 3000.09, den principen förblir intakt. Inget av arbetet eller något som general Shanahan kan ha nämnt korsar den linjen.”

“Vi har projekt som pågår under gemensamma stridsoperationer, som kommer att gå in i testning. De är mycket taktisk AI, det är så jag beskriver det. Och det arbetet kommer att testas, det är mycket lovande arbete, vi är mycket entusiastiska över det. Det är – det är ett av de, som jag talade om, från prediktivt underhåll till gemensamma stridsoperationer, det är den – troligen flaggskeppet som vi tänker på och pratar om som kommer att gå ut där.”

“Men det kommer att involvera, du vet, operatörer, människor i loop, fullständig människokontroll, allt det där är fortfarande absolut giltigt.”

Andra projekt

I sitt uttalande talade Mulchandani också om “den enorma potentialen för att använda AI i offensiva förmågor” som cybersäkerhet.

“Du kan läsa nyheterna om vad våra motståndare gör där ute, och du kan föreställa dig att det finns mycket utrymme för tillväxt inom det området”, sa han.

Mulchandani avslöjade vad JAIC gör i fråga om utmaningar som orsakats av COVID-19-pandemin, genom ett nyligt kontrakt på 800 miljoner dollar med Booz Allen Hamilton (BAH ) och Project Salus. JAIC utvecklade en serie algoritmer för NORTHCOM och National Guard-enheter för att förutsäga utmaningar i försörjningskedjan.