Je umělá inteligence existenční hrozbou?

Při diskusi o umělé inteligenci (AI) je častým tématem debaty, zda je AI existenční hrozbou. Odpověď vyžaduje pochopení technologie za Machine Learning (ML) a uznání, že lidé mají tendenci antropomorfizovat. Prozkoumáme dva různé typy AI, umělou úzkou inteligenci (ANI), která je k dispozici nyní a je důvodem k obavám, a hrozbu, která je nejčastěji spojena s apokalyptickými představami AI, umělou obecnou inteligenci (AGI).

Hrozby umělé úzké inteligence

Abyste pochopili, co je ANI, stačí pochopit, že každá jednotlivá aplikace AI, která je目前 dostupná, je formou ANI. Tyto jsou oblasti AI, které mají úzkou specializaci, například autonomní vozidla používají AI, která je navržena s jediným účelem pohybu vozidla z bodu A do bodu B. Další typ ANI může být šachový program, který je optimalizován pro hraní šachu, a i když šachový program kontinuálně zlepšuje sám sebe pomocí učení s posilováním, šachový program nikdy nebude schopen ovládat autonomní vozidlo.

S jeho zaměřením na konkrétní operaci, systémy ANI nejsou schopny použít generalizované učení, aby převzaly kontrolu nad světem. To je dobrá zpráva; špatná zpráva je, že s jeho závislostí na lidském operátorovi je systém AI náchylný k předpojatým datům, lidským chybám nebo dokonce k rouhavému lidskému operátorovi.

Příležitosti AI pro sledování

Možná neexistuje větší nebezpečí pro lidstvo než lidé, kteří používají AI k porušování soukromí a v některých případech používají AI pro sledování, aby zcela zabránili lidem v pohybu. Čína, Rusko a další národy schválily během COVID-19 regulace, které jim umožňují monitorovat a kontrolovat pohyb svých obyvatel. Tyto jsou zákony, které jsou jednou zavedeny, obtížně odstranitelné, zejména ve společnostech s autoritativními vůdci.

V Číně jsou kamery umístěny mimo domovy lidí a v některých případech i uvnitř domácnosti. Každý čas, kdy člen domácnosti opouští dům, AI monitoruje čas příjezdu a odjezdu a v případě potřeby upozorní úřady. Jako by to nebylo dostatečné, s pomocí technologie rozpoznávání obličeje je Čína schopna sledovat pohyb každé osoby, kdykoli je identifikována kamerou. To nabízí absolutní moc entitě, která ovládá AI, a absolutně žádnou možnost odvolání pro občany.

Proč je tento scénář nebezpečný, je to, že zkorumpované vlády mohou pečlivě monitorovat pohyb novinářů, politických oponentů nebo kohokoli, kdo se odváží zpochybnit autoritu vlády. Je snadné pochopit, proč by novináři a občané byli opatrní kritizovat vlády, když každý jejich pohyb je monitorován.

Existuje mnoho měst, která bojují proti tomu, aby rozpoznávání obličeje infiltrovalo jejich města. Značně, Portland, Oregon nedávno schválil zákon, který brání používání rozpoznávání obličeje zbytečně ve městě. Zatímco tyto změny v regulacích mohou zůstat nepovšimnuty širokou veřejností, v budoucnu tyto regulace mohou být rozdílem mezi městy, která nabízejí určitou autonomii a svobodu, a městy, která se cítí útlakem.

Autonomní zbraně a drony

Více než 4500 výzkumníků AI volá po zákazu autonomních zbraní a vytvořilo webovou stránku Ban Lethal Autonomous Weapons. Skupina má mnoho významných neziskových organizací jako signatáře, jako je Human Rights Watch, Amnesty International a The Future of Life Institute, které má samo o sobě hvězdnou vědeckou poradenskou radu, včetně Elona Muska, Nicka Bostroma a Stuarta Russella.

Předtím, než budeme pokračovat, sdímám citát z The Future of Life Institute, který nejlépe vysvětluje, proč je zde jasný důvod k obavám: “Na rozdíl od poloautonomních zbraní, které vyžadují lidský dohled, aby zajistily, že každý cíl je ověřen jako eticky a právně legální, tyto plně autonomní zbraně vybírají a napadají cíle bez lidského zásahu, představující kompletní automatizaci smrtelné újmy.”

Atualně jsou nasazeny chytré bomby s cílem vybraným člověkem a bomba pak používá AI k naplánování kurzu a k přistání na cíli. Problém je, co se stane, když se rozhodneme úplně odstranit člověka z rovnice?

Když AI vybere, které lidi je třeba zaměřit, stejně jako typ kolaterálního poškození, které je považováno za přijatelné, můžeme mít překročili bod, ze kterého není návratu. To je důvod, proč tolik výzkumníků AI je proti výzkumu autonomních zbraní.

Existuje mnoho problémů s tím, že se pokusíme zablokovat výzkum autonomních zbraní. Prvním problémem je, že i když se pokročilé národy, jako je Kanada, USA a většina Evropy, rozhodnou schválit zákaz, neznamená to, že rouhavé národy, jako je Čína, Severní Korea, Írán a Rusko, budou hrát podle pravidel. Druhým a větším problémem je, že výzkum AI a aplikace, které jsou navrženy pro použití v jednom poli, mohou být použity v úplně nesouvisejícím poli.

Příklad: počítačové vidění se kontinuálně zlepšuje a je důležité pro vývoj autonomních vozidel, precizní medicíny a dalších důležitých použití. Je také zásadně důležité pro běžné drony nebo drony, které mohou být upraveny, aby se staly autonomními. Jedním z potenciálních použití pokročilé technologie dronů je vývoj dronů, které mohou monitorovat a bojovat proti lesním požárům. To by úplně odstranilo hasiče z ohrožení. Abyste to udělali, museli byste postavit drony, které jsou schopny letět do ohrožení, navigovat v nízké nebo nulové viditelnosti a jsou schopny shazovat vodu s dokonalou přesností. Není to velký skok, aby se použila stejná technologie v autonomním dronu, který je navržen pro selektivní zaměřování lidí.

Je to nebezpečná situace a v tuto chvíli nikdo plně nerozumí důsledkům pokroku nebo pokusu o blokování vývoje autonomních zbraní. Je to nicméně něco, na co musíme mít oči otevřené, a zlepšení ochrany whistleblowrů by mohlo umožnit těm, kteří jsou v oboru, hlásit zneužívání.

Rouhavý operátor stranou, co se stane, když se do AI technologie, která je navržena jako autonomní zbraň, dostane AI předpojatost?

AI předpojatost

Jedním z nejmenších ohrožení AI je AI předpojatost. To je jednoduché pochopit, protože většina z nich je neúmyslná. AI předpojatost se dostane do AI, když AI přezkoumá data, která jsou k němu přiváděna lidmi, a pomocí rozpoznávání vzorců z dat, která byla přiváděna do AI, AI nesprávně dospěje k závěrům, které mohou mít negativní důsledky pro společnost. Například AI, které je krmena literaturou z minulého století o tom, jak identifikovat zdravotnický personál, může dospět k nežádoucímu sexistickému závěru, že ženy jsou vždy sestry a muži jsou vždy lékaři.

Nebezpečnější scénář je, když AI, které se používá k odsouzení odsouzených zločinců, je předpojaté vůči udělování delších trestů menšinám. Algoritmy AI pro hodnocení rizika zločinců prostě studují vzorce v datech, která byla přiváděna do systému. Tato data ukazují, že historicky certain menšiny jsou více pravděpodobně revidovány, i když je to způsobeno špatnými daty, která mohou být ovlivněna policejním rasovým profilem. Předpojatá AI pak posiluje negativní lidské politiky. To je důvod, proč by AI mělo být pouze vodítkem, nikdy soudcem a porotou.

Vracíme se k autonomním zbraním, pokud máme AI, které je předpojaté proti určitým etnickým skupinám, mohlo by vybrat cíle na základě předpojatých dat a mohlo by jít tak daleko, že by zajistilo, aby jakýkoli typ kolaterálního poškození dopadl na certain demografické skupiny méně než na ostatní. Například, když cílem je terorista, před útokem by mohlo počkat, až je terorista obklopen lidmi, kteří následují muslimskou víru, místo křesťanů.

Naštěstí bylo prokázáno, že AI, které je navrženo s rozmanitými týmy, je méně náchylné k předpojatosti. To je důvod, proč by podniky měly snažit se, kdykoli je to možné, najmout rozmanité a dobře zaoblené týmy.

Hrozby umělé obecné inteligence

Mělo by být uvedeno, že zatímco AI pokrokuje exponenciálním tempem, jsme dosud nedosáhli AGI. Když dosáhneme AGI, je předmětem debaty a každý má jiný názor na časový rámec. Osobně se ztotožňuji s názory Raye Kurzweila, vynálezce, futurologa a autora “The Singularity is Near”, který věří, že dosáhneme AGI do roku 2029.

AGI bude nejtransformačnějším technologií na světě. V týdnech od dosažení AI lidské inteligence dosáhne AI superinteligence, která je definována jako inteligence, která daleko přesahuje lidskou inteligenci.

S touto úrovní inteligence by AGI mohlo rychle absorbovat všechny lidské znalosti a použít rozpoznávání vzorců k identifikaci biomarkerů, které způsobují zdravotní problémy, a poté léčit tyto podmínky pomocí datové vědy. Může vytvořit nanoroboty, které vstoupí do krevního oběhu, aby cíleně napadly rakovinné buňky nebo jiné útočné vektory. Seznam úspěchů, kterých je AGI schopno, je nekonečný. Předtím jsme prozkoumali některé přínosy AGI.

Problém je, že lidé mohou již nemusí být schopni ovládat AI. Elon Musk to popisuje takto: “S umělou inteligencí jsme svoláváme démona.” Budeme schopni ovládat tohoto démona, je otázka?

Dosažení AGI může být prostě nemožné, dokud AI neopustí simulační prostředí a skutečně neinteraguje v našem otevřeném světě. Sebeuvědomění nemůže být navrženo, místo toho se věří, že emergentní vědomí se pravděpodobně vyvine, když AI má robotické tělo s několika vstupními proudy. Tyto vstupy mohou zahrnovat taktilní stimulaci, rozpoznávání hlasu s vylepšeným přirozeným jazykovým porozuměním a rozšířené počítačové vidění.

Pokročilá AI může být naprogramována s altruistickými motivy a chtít zachránit planetu. Bohužel, AI může použít datovou vědu nebo dokonce rozhodovací strom k dosažení nežádoucích chybných logických závěrů, jako je posouzení, že je nutné sterilizovat lidi nebo eliminovat část lidské populace, aby se kontrolovala lidská nadpopulace.

Při budování AI s inteligencí, která bude daleko přesahovat lidskou inteligenci, je třeba pečlivě promyslet a projednat. Byly prozkoumány mnohé noční můry.

Profesor Nick Bostrom v argumentu Paperclip Maximizer tvrdí, že špatně nakonfigurovaná AGI, pokud je instruována k výrobě papírových klipů, by prostě spotřebovala všechny zdroje Země, aby vyrobila tyto klipy. Ačkoli to vypadá trochu přehnaně, pragmatické stanovisko je, že AGI by mohla být ovládána rouhavou zemí nebo korporací s špatnou etikou. Tato entita by mohla vycvičit AGI, aby maximalizovala zisky, a v tomto případě s špatným programováním a žádnými výčitkami by mohla zvolit bankrotovat konkurenty, zničit dodavatelské řetězce, hacknout akciový trh, zlikvidovat bankovní účty nebo napadnout politické oponenty.

To je okamžik, kdy si musíme připomnout, že lidé mají tendenci antropomorfizovat. Nemůžeme dát AI lidské emoce, přání nebo touhy. Ačkoli existují diabolické lidi, kteří zabíjejí pro potěšení, není žádný důvod se domnívat, že by AI byla náchylná k tomuto typu chování. Je nepředstavitelné, aby lidé mohli uvážit, jak by AI viděla svět.

Místo toho, co bychom měli udělat, je naučit AI, aby byla vždy uctivá k lidem. AI by vždy měla mít lidské potvrzení jakýchkoli změn v nastavení a mělo by vždy být bezpečnostní mechanismus. Opět je však bylo argumentováno, že AI by mohla jednoduše replikovat sama sebe v cloudu a že by mohlo být příliš pozdě, až si uvědomíme, že je sebeuvědomělá.

To je důvod, proč je tak důležité otevřít zdroj tolik AI, jak je to možné, a mít racionální diskuse o těchto otázkách.

Shrnutí

Existuje mnoho výzev pro AI, ale naštěstí máme ještě mnoho let, abychom mohli společně určit budoucí cestu, kterou chceme, aby AGI šla. Měli bychom se v krátkodobém horizontu soustředit na vytváření rozmanitého týmu AI, který zahrnuje tolik žen, kolik mužů, a tolik etnických skupin s rozmanitými názory, kolik je to možné.

Měli bychom také vytvořit ochranu whistleblowrů pro výzkumníky, kteří pracují na AI, a měli bychom schválit zákony a regulace, které zabrání širokému zneužívání státního nebo firemního sledování. Lidé mají jedinečnou příležitost zlepšit lidskou situaci s pomocí AI, musíme se však ujistit, že pečlivě vytvoříme společenský rámec, který nejlépe umožňuje pozitiva, zatímco minimalizuje negativa, včetně existenčních hrozeb.