Kā Asimova trīs robotikas likumi ietekmē AI

Trīs robotikas likumi ir nozīmīgi zinātniskās fantastikas pasaulē, un tie AI un robotikas kopienā ir kļuvuši par simbolu tam, cik grūti ir pareizi izstrādāt sistēmu, kas ir droša.

Lai pilnībā izprastu šo trīs likumu nozīmi, mums vispirms ir jāmācās par izcilo prātu, kurš šos likumus izdomāja vēlīnā zinātniskās fantastikas autors Īzaks Asimovs. Pēc tam mums ir jāsaprot, kā pielāgot šos likumus un nodrošināt to attīstību, lai aizsargātu cilvēci.

Īzaks Asimovs – ģēnija uzplaukums

Īzaks Asimovs dzimis Krievijā 2. gada 1920. janvārī un trīs gadu vecumā imigrēja uz ASV. Viņš uzauga Bruklinā, Ņujorkā, un 1939. gadā absolvēja Kolumbijas universitāti.  Viņš tika atzīts par apdāvinātu un ražīgu rakstnieku, kas koncentrējās uz zinātni un zinātnisko fantastiku. Savas karjeras laikā viņš rakstīja un/vai rediģēja vairāk nekā 500 grāmatas.

Asimovu lielā mērā iedvesmoja daži no zinātniskās fantastikas pasaules ikoniskākajiem rakstniekiem. Viņš sāka darbu Filadelfijas Jūras spēku pagalmā, kur satika divus savus līdzstrādniekus, kuri drīz kļūs par diviem veiksmīgākajiem zinātniskās fantastikas rakstniekiem spekulatīvajā fantastikas vēsturē: L. Sprage de Camp un Robert A. Heinlein.

L. Spraigs de Kemps ir godalgots autors, kurš sarakstījis vairāk nekā 100 grāmatas un bijis nozīmīgs zinātniskās fantastikas personāls 1930. gadsimta 1940. un 1939. gados. Daži no viņa populārākajiem darbiem bija “Darkness Fall” (1940), “The Wheels of If” (1956), “A Gun for Dinosaur” (1958), “Aristotelis un lielgabals” (1960) un “The Glory That” Bija” (XNUMX).

Roberts A. Heinleins savas karjeras plaukumā, iespējams, bija vispopulārākais zinātniskās fantastikas rakstnieks pasaulē. Kopā ar Īzaku Asimovu un Arthur C. Clarke viņš tika uzskatīts par zinātniskās fantastikas autoru “Lielo trijnieku”. Daži no Roberta A. Heinleina populārākajiem darbiem bija “Farnham's Freehold” (1964) un “Uz Sail Beyond the Sunset” (1987). Pašreizējā paaudze, iespējams, viņu vislabāk pazīst pēc viņa romāna “Starship Troopers” (1959) filmas adaptācijas.

Šo futūrisma milžu ieskauts Issac Asimov iedvesmoja uzsākt savu ražīgo rakstnieka karjeru. Asimovs tika ļoti cienīts arī zinātnes aprindās, un viņš bieži tika rezervēts kā publiskais lektors, lai runātu par zinātni.

Trīs robotikas likumi

Isaks Asimovs bija pirmais, kurš lietoja terminu "robotika" īsajā stāstā ar nosaukumu 'Melis!' kas tika publicēts 1941.

Drīz pēc tam viņa 1942. gada novele “Runaround” iepazīstināja pasauli ar saviem trim robotikas likumiem. Likumi ir šādi:

1. Robots nedrīkst savainot cilvēku vai bezdarbības dēļ ļaut cilvēkam nodarīt kaitējumu.

2. Robotam ir jāpakļaujas cilvēku pavēlēm, izņemot gadījumus, kad šādas pavēles būtu pretrunā ar Pirmo likumu.

3. Robotam pašam ir jāaizsargā sava eksistence, kamēr šāda aizsardzība nav pretrunā ar Pirmo vai Otro likumu.

Šie likumi tika izstrādāti, lai piedāvātu interesantus sižeta punktus, un Asimovs turpināja izveidot 37 zinātniskās fantastikas īsu stāstu sēriju un sešus romānus, kuros bija iekļauti pozitroniskie roboti.

Viens no šiem stāstu krājumiem ar nosaukumu “Es, robots” vēlāk tika pielāgots filmēšanai 2004. gadā. Filma “Es, robots” ar Vilu Smitu galvenajā lomā risinās 2035. gada distopiskā laikā, un tajā ir ļoti inteliģenti valsts ierēdņu roboti, kas darbojas saskaņā ar trim likumiem. par robotiku. Filma, līdzīgi kā stāsti, ātri kļuva par līdzību par to, kā programmēšana var noiet greizi un ka jebkura veida progresīva AI programmēšana ir saistīta ar augstu riska līmeni.

Pasaule tagad ir panākusi to, kas iepriekš bija zinātniskā fantastika, mēs tagad izstrādājam AI, kas dažos veidos ir daudz progresīvāks, nekā Isac Asimov būtu varējis iedomāties, tajā pašā laikā ir daudz ierobežotāks.

Diskusijās par mākslīgo vispārējo intelektu (AGI) diezgan bieži tiek minēti trīs robotikas likumi. Mēs ātri izpētīsim, kas ir AGI, kā arī to, kā jāattīstās trim robotikas likumiem, lai izvairītos no iespējamām problēmām nākotnē.

Mākslīgais vispārējais intelekts (AGI)

Pašlaik lielākā daļa AI veidu, ar kuriem mēs sastopamies ikdienā, tiek kvantificēti kā “šaura AI”. Šis ir AI veids, kas ir ļoti specifisks un šaurs savā lietderības funkcijā. Piemēram, autonoms transportlīdzeklis var pārvietoties pa ielām, bet tā “šauro” ierobežojumu dēļ AI nevar viegli veikt citus uzdevumus. Vēl viens šaura AI piemērs būtu attēlu atpazīšanas sistēma, kas var viegli identificēt un marķēt attēlus datu bāzē, bet to nevar viegli pielāgot citam uzdevumam.

Mākslīgais vispārējais intelekts, ko parasti dēvē par “AGI”, ir AI, kas līdzīgi cilvēkiem var ātri mācīties, pielāgoties, pagriezties un darboties reālajā pasaulē. Tas ir intelekta veids, kas nav šaurs, tas var pielāgoties jebkurai situācijai un iemācīties risināt reālās pasaules problēmas.

Jānorāda, ka, lai gan AI virzās uz priekšu eksponenciālā tempā, mēs joprojām neesam sasnieguši AGI. Kad mēs sasniegsim AGI, tiek apspriests, un katram ir atšķirīga atbilde par laika grafiku. Es personīgi piekrītu Reja Kurcveila, izgudrotāja, futūrista un grāmatas “The Singularity is Near” autora uzskatiem, kurš uzskata, ka mums būs sasniedza AGI līdz 2029. gadam.

Tieši šī 2029. gada laika skala ir tikšķīgs pulkstenis, mums jāiemācās AI stingri iekodēt noteikumu kopumu, kas ir ne tikai līdzīgs trim likumiem, bet arī ir progresīvāks un spēj izvairīties no reālās pasaules. konflikts starp cilvēkiem un robotiem.

Mūsdienu robotikas likumi

Lai gan trīs robotikas likumi bija fenomenāli literatūrai, tiem ievērojami trūkst izsmalcinātības, lai nopietni ieprogrammētu robotā. Galu galā tas bija stāstu un romānu sižeta punkts. Trīs likumu pretrunas vai vismaz trīs likumu interpretācija izraisīja robotu sabrukumu, atriebību pret cilvēkiem vai citus galvenos sižeta punktus.

Galvenā problēma ar pašreizējiem likumiem ir ētiskā programmēšana vienmēr paklausīt cilvēka norādījumiem un vienmēr aizsargāt sevi var konfliktēt. Galu galā, vai robotam ir atļauts aizstāvēties pret īpašnieku, kurš to ļaunprātīgi izmanto?

Kāda veida pretatteices mehānisms ir jāieprogrammē? Kā dot norādījumu robotam, ka tam ir jāizslēdzas neatkarīgi no tā, kādas būs sekas? Kas notiek, ja robots gatavojas glābt mājsaimnieci no vardarbības, vai robotam vajadzētu automātiski izslēgties, ja vardarbīgais vīrs uzdod to darīt?

Kam jādod norādījumi robotiem? Ar autonomiem ieročiem, kas spēj identificēt un mērķēt uz ienaidniekiem no visas pasaules, vai robotam jāspēj atteikt komandas likvidēt mērķi, ja tas identificē mērķi kā bērnu?

Citiem vārdiem sakot, ja robots pieder un to kontrolē psihopāts, vai robots var atteikties no amorāliem rīkojumiem? Jautājumu ir daudz, un uz tiem ir pārāk grūti atbildēt. Tāpēc tādas organizācijas kā Dzīves nākotne Institūts ir tik svarīgs, ka tagad ir pienācis laiks apspriest šīs morālās dilemmas, pirms parādās īsts AGI.