Skupina Tech Advisory Pushes For Limits On Pentagon’s AI Use

Pentagon již dříve vyjádřil své záměry investovat大量ně do umělé inteligence, přičemž uvedl, že AI udělá americkou armádu silnější a odolnější vůči možným hrozbám národní bezpečnosti. Jak Engadget uvádí, minulý čtvrtek skupina Defense Innovation Board předložila několik návrhů etických směrnic pro použití AI v armádě. Seznam návrhů zahrnuje strategie pro předcházení neúmyslným předsudkům a řiditelnou AI, která by měla nouzové zastavovací procedury, aby zabránila AI způsobit zbytečné škody.

Wired uvádí, že skupina Defense Innovation Board byla vytvořena Obamovou administrativou, aby vedla Pentagon při získávání zkušeností a talentů z technologického průmyslu. Skupina je v současné době vedena bývalým generálním ředitelem Google, Ericem Schmidtem. Oddělení bylo nedávno pověřeno stanovením směrnic pro etickou implementaci AI v armádních projektech. Ve čtvrtek skupina vydala své směrnice a doporučení ke zkoumání. Zpráva uvádí, že je čas mít vážné diskuze o použití AI v armádním kontextu, než nějaká vážná událost vyžádá, aby tomu tak bylo.

Podle Artificial Intelligence News, bývalý vojenský úředník nedávno uvedl, že Pentagon zůstává pozadu, pokud jde o použití AI. Pentagon se snaží dohnat tuto ztrátu a prohlásil, že rozvoj a rozšíření AI v armádě je národní prioritou. Etici AI jsou znepokojení, že v Pentagonově spěchu stát se lídrem v AI, systémy AI mohou být použity neeticky. Zatímco různé nezávislé etické rady AI učinily své vlastní návrhy, skupina Defense Innovation Board navrhla alespoň pět principů, které by armáda měla dodržovat při všech činnostech souvisejících s vývojem a implementací systémů AI.

První princip navrhovaný skupinou je princip, že lidé by vždy měli být zodpovědní za využití, nasazení a výsledky jakéhokoli platformy umělé inteligence používané v armádním kontextu. To připomíná politiku z roku 2012, která vyžadovala, aby lidé byli vždy součástí rozhodovacího procesu, kdykoli by mohla být použita smrtelná síla. Existuje řada dalších principů na seznamu, které poskytují obecné rady, jako je zajistit, aby systémy AI byly vždy vyvíjeny inženýry, kteří rozumějí a důkladně dokumentují své programy. Další princip doporučuje, aby vojenské systémy AI byly vždy testovány na jejich spolehlivost. Tyto směrnice se zdají být zdravým rozumem, ale skupina chce zdůraznit jejich důležitost.

Ostatní principy na seznamu se týkají kontroly předsudků pro algoritmy AI a schopnosti AI detekovat, zda může být způsobena neúmyslná škoda, a automaticky se odpojit. Směrnice specifikují, že pokud dojde k zbytečné škodě, AI by se měla být schopna odpojit a mít lidského operátora, který převezme kontrolu. Návrh principů také doporučuje, aby výstup AI byl stopovatelný, aby analytici mohli vidět, co vedlo k rozhodnutí AI.

Sada doporučení předložených skupinou zdůrazňuje dvě různé myšlenky. Principy odrážejí fakt, že AI bude integrální součástí budoucích vojenských operací, ale že většina AI stále závisí na lidském řízení a rozhodování.

Zatímco Pentagon nemusí přijmout doporučení skupiny, zdá se, že Pentagon bere doporučení vážně. Jak uvádí Wired, ředitel Joint Artifical Intelligence Center, generálporučík Jack Shanahan, uvedl, že doporučení skupiny pomohou Pentagonu „udržet nejvyšší etické standardy, jak je uvedeno v DoD AI strategii, a zároveň uplatňovat silnou historii americké armády při aplikaci přísných testovacích a polních standardů pro technologické inovace.”

Technologický průmysl jako celek zůstává ostražitý, pokud jde o použití AI při vytváření vojenského hardwaru a softwaru. Zaměstnanci Microsoftu a Google protestovali proti spolupráci s vojenskými entitami a Google nedávno rozhodl o nezobnovování smlouvy, která je zapojila do projektu Maven. Několik CEO, vědců a inženýrů také podepsalo slib nesmí se „zúčastnit ani podporovat vývoj, výrobu, obchod nebo použití smrtelných autonomních zbraní”. Pokud Pentagon přijme směrnice navrhované skupinou, mohlo by to učinit technologický průmysl více ochotným spolupracovat na projektech, i když pouze čas ukáže.