Jak Asimovovy tři zákony robotiky ovlivňují umělou inteligenci

Tři zákony robotiky jsou ikonické ve světě sci-fi a v komunitě umělé inteligence a robotiky se staly symbolem toho, jak obtížné je správně navrhnout systém, který je spolehlivý.

Abychom plně pochopili důležitost těchto tří zákonů, musíme se nejprve dozvědět o brilantní mysli, která tyto zákony vymyslela, zesnulého autora sci-fi Isaaca Asimova. Potom musíme pochopit, jak tyto zákony přizpůsobit a nechat je vyvinout, aby chránily lidstvo.

Isaac Asimov – Vzestup génia

Isaac Asimov se narodil v Rusku dne 2. ledna 1920 a ve třech letech emigroval do Spojených států. Vyrůstal v Brooklynu v New Yorku a v roce 1939 promoval na Kolumbijské univerzitě.  Byl uznáván jako nadaný a plodný spisovatel, který se soustředil na vědu a sci-fi. Během své kariéry napsal a/nebo redigoval přes 500 knih.

Asimov byl velmi inspirován některými z nejznámějších spisovatelů ve světě sci-fi. Začal své zaměstnání ve Philadelphia Navy Yard, kde se setkal se dvěma svými spolupracovníky, kteří se brzy stali nejúspěšnějšími spisovateli sci-fi v historii spekulativní fantastiky: L. Sprague de Camp a Robert A. Heinlein.

L. Sprague de Camp je oceňovaný autor, který napsal více než 100 knih a byl hlavní postavou sci-fi ve 1930. a 1940. letech 1939. století. Mezi jeho nejoblíbenější díla patří „Darkness Fall“ (1940), „The Wheels of If“ (1956), „A Gun for Dinosaur“ (1958), „Aristotle and the Gun“ (1960) a „The Glory That Byl“ (XNUMX).

Robert A. Heinlein byl dost možná nejpopulárnějším spisovatelem sci-fi na světě během vrcholu své kariéry. Spolu s Isaacem Asimovem a Arthur C. Clarke byl považován za „velkou trojku“ autorů sci-fi. Mezi nejoblíbenější díla Roberta A. Heinleina patří „Farnham's Freehold“ (1964) a „Na Sail Beyond the Sunset“ (1987). Současná generace ho zná asi nejlépe z filmové adaptace jeho románu „Starship Troopers“ (1959).

Obklopení těmito giganty futurismu inspirovalo Issaca Asimova k zahájení jeho plodné spisovatelské kariéry. Asimov byl také vysoce respektován ve vědecké komunitě a byl často rezervován jako veřejný mluvčí, aby přednášel o vědě.

Tři zákony robotiky

Issac Asimov byl první člověk, který použil termín „robotika“ v povídce nazvané 'Lhář!' která vyšla v roce 1941.

Krátce poté jeho povídka „Runaround“ z roku 1942 představila světu jeho tři zákony robotiky. Zákony jsou:

1. Robot nesmí zranit lidskou bytost nebo svou nečinností dovolit, aby byla lidská bytost zraněna.

2. Robot musí uposlechnout příkazů, které mu dají lidské bytosti, kromě případů, kdy by takové příkazy byly v rozporu s Prvním zákonem.

3. Robot musí chránit svou vlastní existenci, pokud tato ochrana není v rozporu s prvním nebo druhým zákonem.

Tyto zákony byly navrženy tak, aby nabízely zajímavé zápletky, a Asimov pokračoval ve vytvoření série 37 povídek sci-fi a šesti románů, které představovaly pozitronické roboty.

Jedna z těchto sbírek povídek s názvem „Já, robot“ byla později adaptována pro film v roce 2004. Film „Já, robot“ s Willem Smithem v hlavní roli se odehrává v dystopickém roce 2035 a obsahuje vysoce inteligentní roboty státních zaměstnanců, kteří fungují podle tří zákonů. robotiky. Film podobně jako příběhy se rychle stal podobenstvím o tom, jak se programování může pokazit a že programování jakéhokoli typu pokročilé umělé inteligence zahrnuje vysokou úroveň rizika.

Svět nyní dohnal to, co bylo dříve sci-fi, nyní navrhujeme AI, která je v některých ohledech mnohem pokročilejší, než cokoli, co si Issac Asimov dokázal představit, a zároveň je mnohem omezenější.

Tři zákony robotiky jsou poměrně často zmiňovány v diskusích o umělé obecné inteligenci (AGI). Rychle prozkoumáme, co je AGI, a také to, jak se musí vyvíjet tři zákony robotiky, abychom se v budoucnu vyhnuli potenciálním problémům.

Umělá všeobecná inteligence (AGI)

V současné době je většina typů AI, se kterými se denně setkáváme, kvantifikována jako „úzká AI“. Jedná se o typ AI, který je velmi specifický a úzký ve své užitné funkci. Například autonomní vozidlo se může pohybovat po ulicích, ale kvůli jeho „úzkým“ omezením nemůže AI snadno plnit jiné úkoly. Dalším příkladem úzké umělé inteligence by byl systém rozpoznávání obrázků, který může snadno identifikovat a označit obrázky v databázi, ale nebylo by možné jej snadno přizpůsobit jinému úkolu.

Umělá všeobecná inteligence, která se běžně označuje jako „AGI“, je umělá inteligence, která se podobně jako lidé dokáže rychle učit, přizpůsobovat, točit a fungovat v reálném světě. Jde o druh inteligence, který nemá úzký rozsah, dokáže se přizpůsobit každé situaci a naučit se zvládat reálné problémy.

Je třeba říci, že zatímco AI postupuje exponenciálním tempem, stále jsme nedosáhli AGI. Kdy se dostaneme k AGI, je předmětem debaty a každý má jinou odpověď, pokud jde o časovou osu. Osobně souhlasím s názory Raye Kurzweila, vynálezce, futuristy a autora knihy „Singularita je blízko“, který věří, že budeme mít dosáhl AGI do roku 2029.

Právě tato časová osa roku 2029 je tikající, musíme se naučit napevno zakódovat typ knihy pravidel do AI, která se nejen podobá těmto třem zákonům, ale je pokročilejší a dokáže se skutečně vyhnout reálnému světu. konflikt mezi lidmi a roboty.

Moderní zákony robotiky

Zatímco tři zákony robotiky byly pro literaturu fenomenální, výrazně postrádají sofistikovanost, aby se vážně naprogramovaly do robota. To byla koneckonců dějová tečka za povídkami a romány. Konflikty mezi třemi zákony nebo přinejmenším výklad tří zákonů způsobil, že se roboti zhroutili, zaútočili na lidi nebo jiné klíčové body zápletky.

Hlavním problémem současných zákonů je etické naprogramování vždy poslouchat lidské pokyny a vždy se chránit, což může být v rozporu. Smí se robot koneckonců bránit majiteli, který ho zneužívá?

Jaký typ bezpečnostního mechanismu je třeba naprogramovat? Jak dáme robotovi pokyn, že se musí vypnout bez ohledu na to, jaké to bude mít následky? Co se stane, když robot zachraňuje ženu v domácnosti před zneužitím, měl by se robot automaticky vypnout, pokud k tomu dostane pokyn od násilnického manžela?

Kdo by měl dávat pokyny robotům? S autonomními zbraněmi schopnými identifikovat a zaměřovat nepřátele z celého světa, měl by být robot schopen odmítnout příkaz k odstranění cíle, pokud identifikuje cíl jako dítě?

Jinými slovy, pokud robota vlastní a ovládá psychopat, může robot odmítnout příkazy, které jsou nemorální? Otázek je mnoho a odpovědi jsou pro každého jednotlivce příliš obtížné. To je důvod, proč organizace jako např Budoucnost života Institut je tak důležitý, že je čas na debatu o těchto morálních dilematech, než se objeví skutečné AGI.