Pentagonův Joint AI Center (JAIC) testuje první smrtící projekty AI

Nový zastupující ředitel Joint Artificial Intelligence Center (JAIC), Nand Mulchandani, uspořádal 8. července svou první tiskovou konferenci na Pentagonu, kde nastínil, co je před JAIC a jak se současné projekty vyvíjejí.
Tisková konference se konala dva roky poté, co Google odstoupil od projektu Maven, také známého jako Algorithmic Warfare Cross-Functional Team. Podle Pentagonu měl projekt, který byl spuštěn v dubnu 2017, za cíl vyvinout „algoritmy počítačového vidění potřebné k pomoci vojenským a civilním analytikům, kteří jsou zatížení obrovským množstvím dat plných pohybu, které DOD každý den shromažďuje na podporu protipovstaleckých a protiteroristických operací.“

Jedním z hlavních cílů Pentagonu bylo implementovat algoritmy do „systémů pro vedení boje“ do konce roku 2017.

Návrh byl setkán s silným odporem, včetně 3 000 zaměstnanců Google, kteří podepsali petici proti účasti společnosti v projektu.

Podle Mulchandaniho se tato dynamika změnila a JAIC nyní dostává podporu od technologických firem, včetně Google.

„Měli jsme obrovskou podporu a zájem ze strany technologického průmyslu o spolupráci s JAIC a DoD,“ řekl Mulchandani. „Máme komerční smlouvy a projekty se všemi hlavními technologickými a AI společnostmi – včetně Google – a mnoha dalšími.“

Mulchandani je ve výhodnější pozici než jeho předchůdce, generálporučík Jack Shanahan, pokud jde o vztah mezi JAIC a Silicon Valley. Shanahan založil JAIC v roce 2018 a měl napjatý vztah s technologickým průmyslem, zatímco Mulchandani strávil většinu svého života jako jeho součást. Založil a vedl několik startupů.

JAIC 2.0

JAIC byl vytvořen v roce 2018 se zaměřením na oblasti s nízkým technologickým rizikem, jako je záchrana při katastrofách a prediktivní údržba. Nyní, když tyto projekty pokročily, je práce zaměřena na jejich přechod do produkce.

Označeno jako JAIC 2.0, nový plán zahrnuje šest misijních iniciativ, které jsou všechny v běhu, včetně společných operací pro vedení boje, zdraví bojovníků, transformace obchodních procesů, snižování hrozeb a ochrany, společné logistiky a nejnovější, společné informační války. Poslední přidání zahrnuje kybernetické operace.

Existuje zvláštní zaměření na společné operace pro vedení boje, které přijímá priority Národní strategie obrany ve vztahu k technologickým pokrokům v ozbrojených silách Spojených států.

JAIC dosud neuvedl mnoho podrobností o novém projektu, ale Mulchandani se o něm zmínil jako o „taktickém okraji AI“ a řekl, že bude plně ovládán lidmi.

Mulchandani odpověděl na otázku reportéra o prohlášení generála Shanahana jako ředitele o smrtícím použití AI do roku 2021, které „mohlo být prvním smrtícím AI v průmyslu“.

Toto je jeho odpověď:

„Nechci začít odbočovat do otázek kolem autonomie a smrtelnosti versus smrtelnosti – nebo samotné smrtelnosti. Ano, je pravda, že mnoho produktů, na kterých pracujeme, bude integrováno do zbraňových systémů.“

„Žádný z nich nebude autonomním zbraňovým systémem. Jsme stále vázáni 3000.09, tento princip zůstává nedotčen. Žádná z prací nebo něco, co generál Shanahan mohl zmínit, nepřekročí tuto hranici.

„Nyní máme projekty pod společným vedením boje, které budou skutečně testovány. Jsou to velmi taktické okraje AI, jak je popisuji. A tato práce bude testována, je to velmi slibná práce, jsme velmi nadšeni. Je to – je to jeden z, jak jsem mluvil o otočení z prediktivní údržby a dalších na společné vedení boje, že je to – pravděpodobně vlajková loď produktu, o kterém přemýšlíme a mluvíme, který půjde ven.“

„Ale to bude zahrnovat, víte, operátory, lidi v smyčce, plnou kontrolu lidí, všechny tyto věci jsou stále absolutně platné.“

Ostatní projekty

V prohlášení Mulchandani také hovořil o „obrovském potenciálu pro použití AI v útočných schopnostech“ jako je kybernetická bezpečnost.

„Můžete si přečíst zprávy o tom, co naši nepřátelé dělají venku, a můžete si představit, že je tam spousta prostoru pro růst v této oblasti,“ řekl.

Mulchandani odhalil, co JAIC dělá ve vztahu k výzvám vyvolaným pandemií COVID-19, prostřednictvím nedávné smlouvy v hodnotě 800 milionů dolarů s Booz Allen Hamilton a Projektu Salus. JAIC vyvinul řadu algoritmů pro NORTHCOM a jednotky National Guard, aby předpověděly výzvy v dodavatelském řetězci.