Technická poradenská skupina prosazuje omezení používání umělé inteligence v Pentagonu

Pentagon již dříve vyjádřil své záměry investovat大量ně do umělé inteligence, přičemž uvedl, že umělá inteligencečiní americkou armádu silnější a odolnější vůči možným hrozbám národní bezpečnosti. Jak uvádí Engadget, minulý čtvrtek obranná inovační rada předložila několik návrhů etických směrnic pro používání umělé inteligence v armádě. Seznam návrhů zahrnuje strategie pro předcházení neúmyslným předsudkům a vládnutelnou umělou inteligencí, která by měla nouzové zastavovací postupy, aby se předešlo způsobení zbytečného poškození.

Wired uvádí, že obranná inovační rada byla založena Obamovou administrativou s cílem vést Pentagon při získávání zkušeností a talentů z technologického průmyslu. Rada je v současné době vedena bývalým generálním ředitelem Googlu, Ericem Schmidtem. Ministerstvo bylo nedávno pověřeno stanovením směrnic pro etickou implementaci umělé inteligence do vojenských projektů. Ve čtvrtek rada zveřejnila své směrnice a doporučení ke zkoumání. Zpráva uvádí, že je čas na vážné diskuse o používání umělé inteligence v vojenském kontextu, než bude nutné řešit vážnou událost.

Podle Artificial Intelligence News bývalý vojenský úředník nedávno uvedl, že Pentagon zaostává, pokud jde o používání umělé inteligence. Pentagon se snaží dohnat tento rozdíl a prohlásil, že rozvoj a rozšíření umělé inteligence v armádě je národní prioritou. Etici umělé inteligence se obávají, že v honbě Pentagonu za tím, aby se stal lídrem v oblasti umělé inteligence, mohou být systémy umělé inteligence použity neeticky. Zatímco různé nezávislé etické rady umělé inteligence předložily svá doporučení, obranná inovační rada navrhla alespoň pět principů, které by armáda měla vždy dodržovat při vývoji a implementaci systémů umělé inteligence.

Prvním navrhovaným principem je princip, že lidé by vždy měli být zodpovědní za využívání, nasazení a výsledky jakéhokoli platformy umělé inteligence používané v vojenském kontextu. To připomíná politiku z roku 2012, která vyžadovala, aby lidé byli vždy součástí rozhodovacího procesu, kdykoli by mohla být použita smrtelná síla. Existuje řada dalších principů na seznamu, které poskytují obecné rady, jako je zajistit, aby systémy umělé inteligence byly vždy postaveny inženýry, kteří rozumějí a důkladně dokumentují své programy. Další princip doporučuje, aby vojenské systémy umělé inteligence byly vždy testovány na jejich spolehlivost. Tyto směrnice se zdají být zdravým rozumem, ale rada chce zdůraznit jejich důležitost.

Ostatní principy na seznamu se týkají kontroly předsudků u algoritmů umělé inteligence a schopnosti umělé inteligence detekovat, zda by mohla být způsobena neúmyslná škoda, a automaticky se odpojit. Směrnice uvádějí, že pokud dojde k zbytečnému poškození, umělá inteligence by se měla být schopna odpojit a převzít ji lidský operátor. Návrh principů také doporučuje, aby výstup umělé inteligence byl stopovatelný, aby analytici mohli vidět, co vedlo k rozhodnutí umělé inteligence.

Sada doporučení předložených radou zdůrazňuje dvě různé myšlenky. Principy odrážejí fakt, že umělá inteligence bude integrální součástí budoucnosti vojenských operací, ale že většina umělé inteligence stále závisí na lidském řízení a rozhodování.

Zatímco Pentagon nemusí přijmout doporučení rady, zdá se, že Pentagon bere doporučení vážně. Jak uvádí Wired, ředitel Společného centra umělé inteligence, generálporučík Jack Shanahan, uvedl, že doporučení rady pomohou Pentagonu „udržet nejvyšší etické standardy, jak je uvedeno v strategii DoD pro umělou inteligenci, a zároveň uplatňovat silnou historii americké armády při aplikaci přísných testovacích a provozních standardů pro technologické inovace“.

Technologický průmysl jako celek zůstává nedůvěřivý k používání umělé inteligence při tvorbě vojenského hardwaru a softwaru. Zaměstnanci Microsoftu a Googlu protestovali proti spolupráci s vojenskými entitami a Google (GOOGL ) nedávno rozhodl o ukončení smlouvy, která ho zavázala k projektu Maven. Několik CEO, vědců a inženýrů také podepsalo slib neúčastnit se „vývoje, výroby, obchodu nebo používání smrtelných autonomních zbraní“. Pokud Pentagon přijme směrnice navržené radou, mohlo by to učinit technologický průmysl ochotnějším k spolupráci na projektech, i když pouze čas ukáže.