Pokročilé technologie umělé inteligence představují etické výzvy – Thought Leaders

Od Alfreda Crewse, Jr., viceprezidenta a hlavního právníka pro sektor Inteligence a Bezpečnosti společnosti BAE Systems Inc.

Na začátku tohoto roku, před globální pandemií, jsem se zúčastnil konference o etice ve sběru zpravodajských informací na Citadelu v Charlestonu, kde jsme diskutovali o etice ve sběru zpravodajských informací v souvislosti s ochranou národní bezpečnosti. V obranném průmyslu jsme svědky proliferace znalostí, výpočetní techniky a pokročilých technologií, zejména v oblasti umělé inteligence (AI) a strojového učení (ML). Existují však významné problémy, když se AI nasazuje v kontextu sběru zpravodajských informací nebo bojových rozhodnutí.

AI spojená s kvantovým výpočtem představuje rizika

Co musíme zpochybnit, analyzovat a určit cestu vpřed, je použití AI spojené s kvantovými výpočetními schopnostmi v procesu rozhodování během války. Například si vzpomeňte na Terminátora? Když naše technologie dělá skoky a hranice, realita toho, co Skynet představoval, je před námi. Můžeme se sami ptát, „Přijde Skynet pro nás?“ Procházím se s vámi po pamětní cestě; stroje s AI převzaly kontrolu, protože měly schopnost myslet a dělat rozhodnutí samostatně, bez lidského vedení. Když stroje zjistily, že lidé jsou chybou, vyrazili zničit lidstvo. Nemyslete si, že AI nemá potenciál, ale věřím, že musí mít kontrolní parametry kvůli riziku, které je s ním spojeno.

Etické dvojznačnosti AI a filozofická dilema

Věřím, že je to přesně důvod, proč ministerstvo obrany USA (DoD) vydalo své Etické principy pro AI, protože použití AI vyvolává nové etické dvojznačnosti a rizika. Když kombinujeme AI s kvantovými výpočetními schopnostmi, schopnost dělat rozhodnutí se mění a riziko ztráty kontroly se zvyšuje – více, než si dnes uvědomujeme. Kvantový výpočet staví naši lidskou mozkovou operační systém do pozadí, protože superpočítače mohou dělat mnohem více výpočtů rychleji a přesněji, než naše lidské mozky budou moci kdykoli.

Dále, použití AI spojené s výpočtem představuje filozofické dilema. V jakém okamžiku svět umožní strojům mít svou vlastní vůli; a pokud stroje budou moci myslet samostatně, znamená to, že stroj sám se stal sebevědomým? Znamená být sebevědomým život? Jako společnost, jsme dosud neurčili, jak definovat tuto situaci. Proto, jak tomu je dnes, stroje, které jednají samy bez lidského vedení, mohou vést k důsledkům. Může stroj přerušit lidské zásah, aby zastavil palbu? Pokud stroj funguje sám, budeme moci odpojit?

Jako já to vidím, použití AI z defenzivní pozice je jednoduché. Ale jak mnohem jednodušší by bylo přejít do ofenzívy? Na ofenzívě by stroje dělaly bojová rozhodnutí na místě. Bylo by porušením Ženevské konvence a zákonů o ozbrojeném konfliktu, kdyby stroj sám palbu na nepřítele? Když se pohybujeme do tohoto prostoru rychlou rychlostí, svět musí souhlasit, že použití AI a kvantového výpočtu v boji musí respektovat zákony, které máme dnes.

Ministerstvo obrany má stanovisko, když používá AI s autonomními systémy, a uvádí, že bude vždy osoba zapojena do procesu rozhodování; osoba bude dělat konečné rozhodnutí o stisku spouště zbraně. To je naše pravidlo, ale co se stane, když nepřítel zvolí jinou cestu a umožní AI schopnému stroji učinit všechna konečná rozhodnutí? Pak by stroj, který, jak jsme diskutovali, je již rychlejší, chytřejší a přesnější, měl výhodu.

Pojďme se podívat na drone vybavený AI a rozpoznáním obličeje: Drone střílí sám, protože má předem stanovený cíl označený jako terorista. Kdo je skutečně zodpovědný za střelbu? Je zde odpovědnost, pokud dojde k chybnému rozhodnutí?

Předpojatost v AI/ML

Výzkum ukazuje, že stroj je méně pravděpodobný, že udělá chybu než člověk. Ale výzkum také prokazuje, že existují předpojatosti ve strojovém učení založené na lidském „učiteli“, který učí stroj. Pět etických principů AI ministerstva obrany odkazuje na existující předpojatosti, když uvádí, „Departement bude dělat úmyslné kroky, aby minimalizoval neúmyslnou předpojatost v AI schopnostech.“ Už víme prostřednictvím prokázaných studií, že v použití aplikací rozpoznání obličeje existují předpojatosti vůči lidem barevné pleti s falešnými pozitivy. Když osoba vytváří kód, který učí stroj, jak dělat rozhodnutí, existují předpojatosti. To může být neúmyslné, protože osoba vytvářející AI nebyla si vědoma předpojatosti, která existovala uvnitř nich.

Jak tedy odstranit předpojatost? Výstup AI je tak dobrý, jako je vstup. Proto musí existovat kontrolní mechanismy. Musíte kontrolovat data, která proudí dovnitř, protože to je to, co by mohlo učinit AI výsledky méně platnými. Vývojáři budou muset neustále přepisovat kód, aby odstranili předpojatost.

Svět musí definovat nejlepší využití technologie

Technologie sama o sobě není dobrá ani špatná. Je to způsob, jakým ji národ využije, který by mohl vést k dobrým úmyslům a špatným výsledkům. Když se technologie vyvíjí způsobem, který ovlivňuje lidské životy, svět musí spolupracovat, aby definoval vhodné akce. Pokud vezmeme lidský faktor z rovnice AI aplikací, také vezmeme tu pauzu před stisknutím spouště – tu morální kompas, který nás vede; tu pauzu, kdy zastavíme a ptáme se, „Je tohle správné?“ Stroj naučený zapojit se nebude mít tu pauzu. Takže otázka je, v budoucnosti, bude svět tolerovat tohle? Jak daleko půjde svět, aby umožnil strojům dělat bojová rozhodnutí?