Jak Asimovovy tři zákony robotiky ovlivňují umělou inteligenci

Tři zákony robotiky jsou ikonické ve vědeckofantastickém světě a staly se symbolem ve vědě o umělých inteligencích a robotice, který ukazuje, jak je obtížné navrhnout systém, který je naprosto spolehlivý.

Abychom mohli plně pochopit důležitost těchto tří zákonů, musíme se nejprve seznámit s géniovým myslí, která tyto zákony vytvořila – zesnulým autorem sci-fi Isaakem Asimovem. Poté musíme pochopit, jak tyto zákony přizpůsobit a umožnit jim evoluci, aby chránily lidstvo.

Isaak Asimov – Vzestup génia

Isaak Asimov se narodil v Rusku 2. ledna 1920 a v třech letech věku emigroval do Spojených států. Vyrůstal v Brooklynu, New Yorku, a absolvoval Kolumbijskou univerzitu v roce 1939. Byl uznáván jako talentovaný a plodný spisovatel, který se zaměřoval na vědu a sci-fi. Během své kariéry napsal a/nebo editoval více než 500 knih.

Asimov byl silně inspirován některými z nejikoničtějších autorů ve vědeckofantastickém světě. Začal pracovat v loděnici v Philadelphii, kde se setkal se dvěma svými kolegy, kteří se brzy stali dvěma z nejúspěšnějších autorů sci-fi ve spekulativní fikci: L. Sprague de Camp a Robert A. Heinlein.

L. Sprague de Camp je oceněný autor, který napsal více než 100 knih a byl významnou osobností ve vědeckofantastickém světě 30. a 40. let. Některé z jeho nejznámějších děl zahrnují “Darkness Fall” (1939), “The Wheels of If” (1940), “A Gun for Dinosaur” (1956), “Aristotle and the Gun” (1958) a “The Glory That Was” (1960).

Robert A. Heinlein byl možná nejpopulárnějším autorem sci-fi na světě během vrcholu své kariéry. Společně s Isaakem Asimovem a Arthur C. Clarke byl považován za jednoho z “Velké trojky” autorů sci-fi. Některé z nejznámějších děl Roberta A. Heinleina zahrnují “Farnham’s Freehold” (1964) a “To Sail Beyond the Sunset” (1987). Současná generace ho možná zná nejlépe z filmového zpracování jeho románu “Starship Troopers” (1959).

To, že byl obklopen těmito giganty futurismu, inspirovalo Isaaka Asimova k zahájení jeho plodné spisovatelské kariéry. Asimov byl také vysoce respektován ve vědecké komunitě a často byl zván jako veřejný řečník, aby přednesl přednášky o vědě.

Tři zákony robotiky

Isaak Asimov byl první, kdo použil termín “robotika” v povídce “Liar!”, která byla publikována v roce 1941.

Brzy poté jeho povídka “Runaround” z roku 1942 představila světu jeho tři zákony robotiky. Zákony jsou:

1. Robot nesmí ublížit lidské bytosti nebo, prostřednictvím nečinnosti, umožnit lidské bytosti přijít k újmě.

2. Robot musí uposlechnout příkazy, které mu byly dány lidskými bytostmi, s výjimkou případů, kdy by tyto příkazy byly v rozporu s prvním zákonem.

3. Robot musí chránit svou vlastní existenci, pokud tato ochrana není v rozporu s prvním nebo druhým zákonem.

Tyto zákony byly navrženy tak, aby poskytovaly zajímavé zápletky, a Asimov poté vytvořil řadu 37 sci-fi povídek a šesti románů, které obsahovaly pozitronové roboty.

Jedna z těchto povídkových sbírek s názvem “I, Robot” byla později zfilmována v roce 2004. Film “I, Robot” s Williem Smithem je umístěn do dystopické budoucnosti roku 2035 a obsahuje vysoce inteligentní roboty, kteří slouží veřejnosti a fungují podle tří zákonů robotiky. Film, stejně jako povídky, se stal rychle alegorií toho, jak může programování robotů selhat, a že programování jakéhokoli pokročilého umělým inteligence zahrnuje vysoké riziko.

Svět nyní dohnal to, co bylo dříve sci-fi, a nyní navrhujeme umělou inteligenci, která je v některých ohledech mnohem pokročilejší, než cokoliv, co by si Isaak Asimov mohl představit, a zároveň mnohem omezenější.

Tři zákony robotiky se často zmiňují v diskusích o umělém obecném inteligenci (AGI). Brzy prozkoumáme, co je AGI, a jak se tři zákony robotiky musí vyvinout, aby se předešlo potenciálním problémům v budoucnu.

Umělá obecná inteligence (AGI)

V současné době většina typů umělých inteligencí, se kterými se setkáváme denně, je klasifikována jako “úzká umělá inteligence”. Jedná se o typ umělých inteligencí, který je velmi specifický a úzký ve své užitečné funkci. Například autonomní vozidlo může navigovat ulicemi, ale kvůli svým “úzkým” omezením nemůže snadno dokončit jiné úkoly. Dalším příkladem úzké umělých inteligence je systém rozpoznávání obrazů, který může snadno identifikovat a označovat obrazy v databázi, ale nemůže být snadno přizpůsoben pro jiné úkoly.

Umělá obecná inteligence, která je běžně označována jako “AGI”, je umělá inteligence, která může podobně jako lidé rychle učit, přizpůsobovat se, měnit směr a fungovat v reálném světě. Jedná se o typ inteligence, který není úzký ve svém rozsahu, může se přizpůsobit jakékoli situaci a naučit se řešit reálné problémy.

Mělo by být uvedeno, že zatímco umělá inteligence pokrokuje exponenciálním tempem, dosud jsme nedosáhli AGI. Otázka, kdy dosáhneme AGI, je předmětem debaty, a každý má jiný názor na časový rámec. Osobně se ztotožňuji s názory Raye Kurzweila, vynálezce, futurologa a autora knihy “Singularity is Near”, který věří, že dosáhneme AGI do roku 2029.

Je to tento časový rámec do roku 2029, který je tikající hodinami, a musíme se naučit zakódovat do umělých inteligencí určitou sadu pravidel, která nejsou pouze podobná třem zákonům, ale která jsou pokročilejší a schopná skutečně předejít reálným konfliktům mezi lidmi a roboty.

Moderní zákony robotiky

Zatímco tři zákony robotiky byly fantastické pro literaturu, jsou podstatně nedostatečné ve složitosti, aby se vážně programovaly do robotů. To bylo přece jenom zápletkou za povídkami a romány. Konflikty mezi třemi zákony, nebo alespoň jejich interpretace, způsobily, že roboti selhali, útočili na lidi nebo měly jiné závažné důsledky.

Hlavním problémem se stávajícími zákony je etické programování, které vždy uposlechnout lidských příkazů a vždy chránit sám sebe, může být v rozporu. Co když je robot povinen bránit se proti svému majiteli, který ho zneužívá?

Jaký druh bezpečnostního mechanismu je třeba naprogramovat? Jak instruujeme robota, aby se vypnul, bez ohledu na důsledky? Co se stane, když robot zachraňuje ženu před týráním, měl by se robot automaticky vypnout, pokud mu to přikáže týrající manžel?

Kdo by měl dávat robotům příkazy? S autonomními zbraněmi, které mohou identifikovat a cílit na nepřátele na celém světě, měl by robot být schopen odmítnout příkaz k likvidaci cíle, pokud cílem je dítě?

Jinými slovy, pokud je robot vlastněný a ovládaný psychopatem, může robot odmítnout příkazy, které jsou nemorální? Otázky jsou četné, a odpovědi jsou příliš složité pro jakoukoli jednotlivou osobu, aby je zodpověděla. Proto jsou organizace, jako je Institut budoucnosti života, tak důležité, a je čas debatovat o těchto morálních dilematech, než se objeví skutečná AGI.