Vědci říkají, že lidé nebudou moci ovládat superinteligentní AI

Každý, kdo je vědom umělých inteligencí (AI), pravděpodobně slyšel nějakou verzi o tom, že se jednou osvobodí od lidské kontroly. To není jen téma z vědecko-fantastických filmů, ale spíše velmi silná možnost, která znepokojuje mnoho odborníků v oboru. Mnozí z těchto odborníků, včetně vědců, zastávají názor, že bychom měli začít připravovat se na tuto možnost a snažit se jí vyhnout všemi možnými způsoby.

Nyní mezinárodní tým výzkumníků tuto myšlenku podpořil teoretickými výpočty. Tým, který zahrnoval vědce z Centra pro lidi a stroje na Max Planck Institute for Human Development, použil tyto výpočty k prokázání toho, že nebude možné ovládat superinteligentní AI.

Výzkum byl nedávno zveřejněn v Journal of Artificial Intelligence Research.

Superinteligentní AI systém

Strach z superinteligentního AI systému souvisí s tím, že takový systém by byl daleko lepší než lidé. Byl by schopen nejen se učit nezávisle, ale také přístup k veškerým existujícím datům a zpracovávat je extrémně rychle.

Taková událost by mohla vést k tomu, že superinteligentní AI převzala kontrolu nad všemi stávajícími stroji online, a zatímco by mohla a udělala věci, jako je vyléčení nemocí a řešení dalších velkých problémů, které lidstvo řeší, je také vysoké riziko, že věci dostanou out of kontrolu.

Manuel Cebrian je spoluautor studie a vedoucí Digitální mobilizační skupiny v Centru pro lidi a stroje, Max Planck Institute for Human Development.

“Superinteligentní stroj, který ovládá svět, zní jako sci-fi. Ale již existují stroje, které provádějí určitá důležitá úkoly nezávisle bez toho, aby programátoři plně rozuměli, jak je naučili. Otázka proto vzniká, zda by se to mohlo někdy stát nekontrolovatelným a nebezpečným pro lidstvo,” říká Cebrian.

Ovládání systému

Existují dvě hlavní školy myšlení, pokud jde o ovládání takového systému. První, lidé by mohli omezit schopnosti superinteligentního AI omezením jeho přístupu k některým zdrojům dat, jako je celý internet. Systém by mohl také fungovat bez kontaktu s vnějším světem. Nicméně, problémem s tím je, že by to dramaticky omezilo potenciál AI.

Systém by byl ovládán pouze tím, že by mu bylo umožněno sledovat pouze výsledky, které by prospívaly lidstvu, a to by mohlo být provedeno programováním etických principů do něj.

Studie zahrnovala vývoj teoretického algoritmu pro omezení, který by zabránil superinteligentnímu AI způsobit lidem škodu za všech okolností. To by mohlo být dosaženo vytvořením simulace chování AI a detekcí jakéhokoli chování, které by mohlo být škodlivé. Navzdory této slibné teorii současné analýzy ukazují, že takový algoritmus nelze vyvinout.

Iyad Rahwan je ředitel Centra pro lidi a stroje.

“Pokud rozložíte problém na základní pravidla z teoretické informatiky, ukáže se, že algoritmus, který by AI nařídil, aby nezničil svět, by mohl neúmyslně zastavit své vlastní operace. Pokud by se to stalo, nebudete vědět, zda algoritmus pro omezení stále analyzuje hrozbu, nebo zda zastavil superinteligentní AI. V podstatě to činí algoritmus pro omezení nepoužitelným,” říká Rahwan.

Dalším problémem je, že odborníci možná ani neuvědomí, kdy superinteligentní stroj dosáhne tohoto stavu, většinou kvůli tomu, že by byl inteligentnější než lidé.