Kako Asimovovi trije zakoni robotike vplivajo na umetno inteligenco

Trije zakoni robotike so ikona v svetu znanstvene fantastike in so v skupnosti umetne inteligence in robotike postali simbol tega, kako težko je pravilno oblikovati sistem, ki je odporen na napake.

Da bi v celoti razumeli pomen teh treh zakonov, se moramo najprej poučiti o briljantnem umu, ki je te zakone zamislil pokojni avtor znanstvene fantastike Isaac Asimov. Nato moramo razumeti, kako prilagoditi te zakone in jih pripraviti do razvoja, da bi zaščitili človeštvo.

Isaac Asimov – Vzpon genija

Isaac Asimov se je rodil v Rusiji XNUMX 2. januarja 1920 in se pri treh letih priselil v ZDA. Odraščal je v Brooklynu v New Yorku in leta 1939 diplomiral na univerzi Columbia.  Bil je priznan kot nadarjen in ploden pisatelj, ki se je osredotočal na znanost in znanstveno fantastiko. V svoji karieri je napisal in/ali uredil več kot 500 knjig.

Asimova so močno navdihnili nekateri najbolj ikonični pisci v svetu znanstvene fantastike. Zaposliti se je začel v Philadelphia Navy Yardu, kjer je spoznal dva svoja sodelavca, ki sta kmalu postala najuspešnejša pisca znanstvene fantastike v zgodovini špekulativne fantastike: L. Sprague de Camp in Robert A. Heinlein.

L. Sprague de Camp je nagrajeni avtor, ki je napisal več kot 100 knjig in je bil pomembna osebnost znanstvene fantastike v tridesetih in štiridesetih letih prejšnjega stoletja. Nekatera njegova najbolj priljubljena dela so bila »Darkness Fall« (1930), »The Wheels of If« (1940), »A Gun for Dinosaur« (1939), »Aristotle and the Gun« (1940) in »The Glory That Bil« (1956).

Robert A. Heinlein je bil verjetno najbolj priljubljen pisatelj znanstvene fantastike na svetu na vrhuncu svoje kariere. Skupaj z Isaacom Asimovim in Arthur C. Clarke veljal je za »veliko trojico« avtorjev znanstvene fantastike. Nekatera najbolj priljubljena dela Roberta A. Heinleina so vključevala »Farnham's Freehold« (1964) in »Da Sail Beyond the Sunset« (1987). Sedanja generacija ga verjetno najbolj pozna po filmski priredbi njegovega romana "Starship Troopers" (1959).

Obkroženost s temi velikani futurizma je navdihnila Issaca Asimova, da je začel svojo plodno pisateljsko kariero. Asimov je bil zelo spoštovan tudi v znanstveni skupnosti in je bil pogosto naročen kot javni govornik, ki je govoril o znanosti.

Trije zakoni robotike

Issac Asimov je bil prvi, ki je uporabil izraz "robotika" v kratki zgodbi z naslovom 'Lažnivec!' ki je izšla leta 1941.

Kmalu zatem je njegova kratka zgodba "Runaround" iz leta 1942 svetu predstavila njegove tri zakone robotike. Zakoni so:

1. Robot ne sme poškodovati človeka ali z nedelovanjem omogočiti, da se človek poškoduje.

2. Robot mora ubogati ukaze, ki mu jih izdajo ljudje, razen če bi bili taki ukazi v nasprotju s prvim zakonom.

3. Robot mora zaščititi svoj obstoj, dokler taka zaščita ni v nasprotju s prvim ali drugim zakonom.

Ti zakoni so bili zasnovani tako, da ponujajo zanimive zaplete, Asimov pa je ustvaril serijo 37 znanstvenofantastičnih kratkih zgodb in šestih romanov, ki so vsebovali pozitronske robote.

Ena od teh zbirk kratkih zgodb z naslovom »I, Robot« je bila pozneje prirejena za film leta 2004. Film »I, Robot« z Willom Smithom v glavni vlogi je postavljen v distopično leto 2035 in prikazuje zelo inteligentne robote javnih uslužbencev, ki delujejo v skladu s tremi zakoni. robotike. Film, podobno kot zgodbe, je hitro postal prispodoba o tem, kako lahko gre programiranje narobe in da programiranje katere koli vrste napredne umetne inteligence vključuje visoko stopnjo tveganja.

Svet je zdaj dohitel tisto, kar je bila prej znanstvena fantastika, zdaj oblikujemo AI, ki je na nek način veliko naprednejša od vsega, kar si je Issac Asimov lahko predstavljal, hkrati pa je veliko bolj omejena.

Trije zakoni robotike se pogosto omenjajo v razpravah o splošni umetni inteligenci (AGI). Na hitro bomo raziskali, kaj je AGI in kako se morajo trije zakoni robotike razvijati, da bi se izognili morebitnim težavam v prihodnosti.

Umetna splošna inteligenca (AGI)

Trenutno je večina vrst umetne inteligence, s katerimi se srečujemo vsak dan, kvantificiranih kot "ozka umetna inteligenca". To je vrsta umetne inteligence, ki je zelo specifična in ozka v svoji uporabni funkciji. Na primer, avtonomno vozilo lahko krmari po ulicah, vendar zaradi svojih "ozkih" omejitev AI ne more zlahka opraviti drugih nalog. Drug primer ozke umetne inteligence bi bil sistem za prepoznavanje slik, ki lahko zlahka prepozna in označi slike v bazi podatkov, vendar ga ne bi bilo mogoče enostavno prilagoditi drugi nalogi.

Splošna umetna inteligenca, ki jo običajno imenujemo »AGI«, je AI, ki se lahko podobno kot ljudje hitro uči, prilagodi, vrti in deluje v resničnem svetu. To je vrsta inteligence, ki nima ozkega obsega, lahko se prilagodi vsaki situaciji in se nauči obvladovati težave v resničnem svetu.

Povedati je treba, da čeprav AI napreduje z eksponentno hitrostjo, še vedno nismo dosegli AGI. Kdaj bomo dosegli AGI, je predmet razprave in vsak ima drugačen odgovor glede časovnice. Osebno podpiram poglede Raya Kurzweila, izumitelja, futurista in avtorja knjige 'The Singularity is Near', ki verjame, da bomo imeli dosegel AGI do leta 2029.

Ta časovnica 2029 je tista ura, naučiti se moramo trdo kodirati vrsto pravilnika v AI, ki ni le podoben trem zakonom, ampak je naprednejši in se lahko dejansko izogne ​​resničnemu svetu. konflikt med ljudmi in roboti.

Sodobni zakoni robotike

Medtem ko so bili trije zakoni robotike fenomenalni za literaturo, jim bistveno manjka sofisticiranosti, da bi jih resno programirali v robota. To je bila navsezadnje poanta kratkih zgodb in romanov. Konflikti med tremi zakoni ali vsaj razlaga treh zakonov je povzročila zlom robotov, maščevanje ljudem ali druge ključne točke zapleta.

Glavna težava s sedanjo zakonodajo je, da je etično programiranje vedno uboganja človeških navodil in vedno zaščite samega sebe lahko v nasprotju. Konec koncev, ali je robotu dovoljeno braniti se pred lastnikom, ki ga zlorablja?

Kakšno vrsto varovalnega mehanizma je treba programirati? Kako robotu naročimo, da se mora izklopiti ne glede na posledice? Kaj se zgodi, če robot rešuje gospodinjo pred zlorabo, ali naj se robot samodejno izklopi, če mu tako naroči nasilni mož?

Kdo naj daje navodila robotom? Ali bi moral robot z avtonomnim orožjem, ki je sposoben identificirati in ciljati na sovražnike z vsega sveta, zavrniti ukaz za odstranitev tarče, če ugotovi, da je tarča otrok?

Z drugimi besedami, če je robot v lasti in pod nadzorom psihopata, ali lahko robot zavrne ukaze, ki so nemoralni? Vprašanj je veliko, odgovori pa pretežki, da bi vsak posameznik odgovoril. Zato so organizacije, kot je npr Prihodnost življenja Inštituti so tako pomembni, da je čas za razpravo o teh moralnih dilemah zdaj, preden se pojavi pravi AGI.