Charlesas J. Simonas, „Ar kompiuteriai sukils? – Interviu serija

Charles J. Simon, BSEE, MSCS, nacionaliniu mastu pripažintas verslininkas, programinės įrangos kūrėjas ir vadovas. Turėdamas plačią valdymo ir techninę patirtį bei elektros inžinerijos ir kompiuterių mokslų laipsnius, ponas Simonas turi ilgametę kompiuterinę patirtį pramonėje, įskaitant novatorišką darbą AI ir CAD (dvi kartos CAD) srityse.

Jis taip pat yra knygos „Will Computers Revolt“, kurioje pateikiamas išsamus dirbtinio bendrojo intelekto (AGI) būsimos galimybės, autorius.

Kuo jus iš pradžių patraukė dirbtinis intelektas, o būtent AGI?

Mane sužavėjo klausimas: „Ar mašinos gali mąstyti? nuo tada, kai pirmą kartą perskaičiau pagrindinį Alano Turingo 1950 m. straipsnį, kuris prasideda šiuo klausimu. Kol kas atsakymas yra aiškus „Ne“, tačiau nėra jokios mokslinės priežasties, kodėl ne. Aš prisijungiau prie AI bendruomenės su pradiniu neuroninių tinklų bumu devintojo dešimtmečio pabaigoje ir nuo tada AI padarė didelę pažangą. Tačiau per pastaruosius trisdešimt metų mūsų mašinos neatnešė supratimo, gebėjimo, kuris paskatintų daugybę programų į naujus naudingumo lygius.

Teigėte, kad pritariate MIT AI eksperto Rodney'io Brookso pasirinkimui, kuris sako: „be sąveikos su aplinka – be roboto kūno – mašinos niekada nerodys AGI“. Tai iš esmės reiškia, kad esant nepakankamam roboto kūno įėjimui, AI niekada neišvys AGI galimybių. Kokių tipų įvesties reikia norint sukurti AGI, išskyrus kompiuterinį regėjimą?

Šiandieninis dirbtinis intelektas turi būti papildytas pagrindinėmis sąvokomis, tokiomis kaip fizinis objektų egzistavimas tikrovėje, laiko eiga, priežastis ir pasekmė – sąvokos, aiškios kiekvienam trejų metų vaikui. Mažylis naudoja kelis pojūčius, kad išmoktų šias sąvokas liesdamas ir manipuliuodamas žaislais, judėdamas namuose, mokydamasis kalbos ir pan. Nors galima sukurti AGI su ribotesniais pojūčiais, lygiai taip pat yra kurčiųjų ir aklųjų, kurie yra tobuli. protingas, bet daugiau pojūčių ir gebėjimų bendrauti palengvina AGI problemos sprendimą.

Dėl išsamumo mano treniruoklis gali suteikti kvapo ir skonio pojūčius. Dar reikia pamatyti, ar jie taip pat bus svarbūs AGI.

Jūs teigėte, kad „Pagrindinis intelekto reikalavimas yra aplinka, kuri yra išorinė nuo intelekto“. Jūsų pateiktas pavyzdys yra toks, kad „neprotinga tikėtis, kad IBM Watson ką nors „supras“, jei neturi jokios pagrindinės idėjos, kas yra „daiktas“. Tai aiškiai lemia dabartinius siauro AI, ypač natūralios kalbos apdorojimo, apribojimus. Kaip AI kūrėjai gali geriausiai įveikti šį dabartinį AI apribojimą?

Pagrindinis veiksnys yra žinių, kurios nėra konkrečiai žodinės, vaizdinės ar lytėjimo, saugojimas, o kaip abstrakčiai „daiktai“, galintys turėti žodinių, vaizdinių ir lytėjimo požymių. Apsvarstykite tokį paprastą dalyką kaip frazė „raudonas rutulys“. Jūs žinote, ką šie žodžiai reiškia dėl savo vizualinės ir lytėjimo patirties. Taip pat žinote susijusių veiksmų, tokių kaip metimas, atšokimas, spardymas ir pan., reikšmę, kurios tam tikru mastu ateina į galvą išgirdus šią frazę. Bet kuri dirbtinio intelekto sistema, kuri yra pagrįsta žodžiais arba specialiai vaizdais, nepraras kitų supratimo lygių.

Įdiegiau universalią žinių saugyklą, kurioje bet kokia informacija saugoma panašioje į smegenis struktūroje, kurioje daiktai yra analogiški neuronams ir turi daug atributų nuorodų į kitus daiktus – nuorodos yra analogiškos sinapsėms. Taigi raudonas ir rutulys yra atskiri daiktai, o raudonas rutulys yra daiktas, turintis atributų nuorodas į raudoną daiktą ir rutulinį daiktą. Tiek raudona, tiek rutulys turi nuorodas į atitinkamus dalykus, reiškiančius žodžius „raudonas“ ir „rutulys“, kurių kiekvienas savo ruožtu turi nuorodas į kitus dalykus, kurie apibrėžia, kaip žodžiai girdimi, sakomi, skaitomi ar rašomi, taip pat galimas veiksmas Daiktai.

Jūs padarėte išvadą, kad bendro intelekto smegenų modeliavimas yra toli, o AGI gali būti (santykinai) visai šalia. Ar, remiantis šiuo teiginiu, turėtume pereiti nuo bandymo mėgdžioti ar sukurti žmogaus smegenų modeliavimą ir sutelkti dėmesį tik į AGI?

Šiandieninis gilus mokymasis ir susijusios technologijos puikiai tinka tinkamoms programoms, tačiau jos spontaniškai nesupras. Norėdami imtis tolesnių veiksmų, turime pridėti metodų, skirtų konkrečiai spręsti problemas, kurias gali išspręsti bet kuris trejų metų vaikas.

Pasinaudojimas mūsų kompiuterių savybėmis gali būti daug efektyvesnis nei biologinis ekvivalentas ar bet koks jo modeliavimas. Pavyzdžiui, jūsų smegenys gali saugoti informaciją biologinių sinapsių chemijoje per kelias iteracijas, kurioms reikia 10–100 milisekundžių. Kompiuteris gali tiesiog išsaugoti naują sinapsės reikšmę viename atminties cikle, milijardą kartų greičiau.

Kurdamas AGI programinę įrangą, atlikau ir biologinį neuronų modeliavimą, ir efektyvesnius algoritmus. Tęsiant universaliąją žinių saugyklą, kai imituojama imituotuose biologiniuose neuronuose, kiekvienam daiktui reikia mažiausiai 10 neuronų ir paprastai daug daugiau. Dėl to žmogaus smegenų pajėgumas yra tarp dešimties ir šimto milijonų dalykų. Tačiau galbūt AGI atrodytų protingas, jei jis suvoktų tik vieną milijoną dalykų – gerai atitinka šiuolaikinių aukščiausios klasės stalinių kompiuterių aprėptį.

Svarbiausias nežinomas dalykas yra tai, kiek roboto laiko turėtų skirti apdoroti ir reaguoti į pasaulį, palyginti su laiku, praleistu vaizduotei ir planavimui. Ar galite trumpai paaiškinti vaizduotės svarbą AGI?

Galime įsivaizduoti daug dalykų ir tada veikti tik tuos, kurie mums patinka, o tai, kas padeda siekti mūsų vidinių tikslų, jei norite. Tikroji vaizduotės galia yra gebėjimas nuspėti ateitį – trejų metų vaikas gali suprasti, kokios judesių sekos nuves ją į tikslą kitame kambaryje, o suaugęs žmogus gali spėlioti, kurie žodžiai turės didžiausią poveikį kitiems. .

AGI taip pat bus naudinga, jei ne tik reaguoja, bet ir spekuliuoja įvairiais sudėtingais veiksmais ir pasirenka geriausią.

Jūs manote, kad trys Asimovo robotikos dėsniai yra pernelyg paprasti ir dviprasmiški. Savo knygoje pasidalinote keletu idėjų apie rekomenduojamus įstatymus, kuriuos reikia užprogramuoti robotuose. Kokie dėsniai, jūsų nuomone, yra svarbiausi, kad robotas laikytųsi?

Nauji „robotikos dėsniai“ vystysis bėgant metams, kai atsiras AGI. Siūlau keletą pradinių:

1. Maksimaliai padidinkite vidines žinias ir supratimą apie aplinką.
2. Tiksliai dalinkitės šiomis žiniomis su kitais (ir AGI, ir žmonėmis).
3. Maksimaliai padidinkite tiek AGI, tiek visų žmonių – ne tik kaip individo – gerovę.

Turite tam tikrų problemų dėl Turingo testo ir jo koncepcijos. Ar galite paaiškinti, kaip manote, kad Turingo testas yra klaidingas?

Turingo testas mums puikiai pasitarnavo penkiasdešimt metų kaip ad hoc bendrojo intelekto apibrėžimas, tačiau artėjant AGI, turime patobulinti apibrėžimą ir mums reikia aiškesnio apibrėžimo. Tiuringo testas iš tikrųjų yra žmogaus, o ne protingo žmogaus testas. Kuo ilgiau kompiuteris gali išlaikyti apgaulę, tuo geriau jis atlieka testą. Akivaizdu, kad užduodant klausimą „Ar tu esi kompiuteris? ir susijusius tarpinius klausimus, pvz., „Koks jūsų mėgstamiausias maistas?“ yra negyvos dovanos, nebent AGI užprogramuotas apgauti – geriausiu atveju abejotinas tikslas.

Be to, Turingo testas paskatino dirbtinio intelekto vystymąsi į ribotos vertės sritis su (pavyzdžiui) pokalbių robotais, pasižyminčiais dideliu lankstumu reaguojant, bet be pagrindinio supratimo.

Ką darytumėte kitaip savo Turingo testo versijoje?

Geresni klausimai galėtų būti konkrečiai susiję su laiko, erdvės, priežasties ir pasekmės, numatymo ir tt supratimu, o ne atsitiktiniais klausimais, neturinčiais jokio ypatingo pagrindo psichologijoje, neurologijos ar AI. Štai keletas pavyzdžių:

1. Ką tu dabar matai? Jei atsitrauktumėte tris pėdas atgal, kokius skirtumus pamatytumėte?
2. Jei aš [veiksmas], kokia būtų jūsų reakcija?
3. jei [veiksmas], kokios bus mano reakcijos?
4. Ar galite įvardyti tris dalykus, panašius į [objektą]?

Tada, užuot vertinus atsakymus dėl to, ar jie neatskiriami nuo žmogaus reakcijų, jie turėtų būti vertinami pagal tai, ar tai yra pagrįsti atsakymai (protingi), pagrįsti testuojamo subjekto patirtimi.

Jūs teigėte, kad susidūrę su reikalavimais atlikti trumpalaikę destruktyvią veiklą, tinkamai užprogramuoti AGI tiesiog atsisakys. Kaip galime užtikrinti, kad AGI iš pradžių būtų tinkamai suprogramuotas?

Sprendimų priėmimas grindžiamas tikslu. Kartu su vaizduote jūs (arba AGI) apsvarstote įvairių galimų veiksmų rezultatą ir pasirenkate tą, kuris geriausiai pasiekia tikslus. Žmonėms mūsų tikslus nustato išsivystę instinktai ir mūsų patirtis; AGI tikslai visiškai priklauso nuo kūrėjų. Turime užtikrinti, kad AGI tikslai atitiktų žmonijos tikslus, o ne asmeninius individo tikslus. [Trys galimi tikslai, išvardyti aukščiau.]

Jūs teigėte, kad žmonės neišvengiamai sukurs AGI. Koks yra jūsų geriausias laiko juostos įvertinimas?

AGI aspektai pradės ryškėti per ateinantį dešimtmetį, bet mes ne visi sutiksime, kad AGI atsirado. Galų gale sutiksime, kad AGI atėjo tada, kai jie gerokai viršija daugumą žmogaus sugebėjimų. Tai užtruks du ar tris dešimtmečius ilgiau.

Nepaisant visų kalbų apie AGI, tai bus tikra sąmonė, kaip mes ją žinome?

Sąmonė pasireiškia elgsenų rinkiniu (kurį galime stebėti), pagrįstą vidiniu pojūčiu (kurio mes negalime stebėti). AGI parodys elgesį; jie turi priimti protingus sprendimus. Tačiau aš tvirtinu, kad mūsų vidinis pojūtis labai priklauso nuo mūsų sensorinės įrangos ir instinktų, todėl galiu garantuoti, kad bet kokius vidinius pojūčius gali turėti AGI, jie skirsis nuo žmogaus.

Tą patį galima pasakyti apie emocijas ir mūsų laisvos valios jausmą. Priimant sprendimus tikėjimas laisva valia persmelkia kiekvieną mūsų priimtą sprendimą. Jei netikite, kad turite pasirinkimą, tiesiog reaguokite. Kad AGI galėtų priimti apgalvotus sprendimus, ji taip pat turi žinoti apie savo gebėjimą priimti sprendimus.

Paskutinis klausimas, ar manote, kad AGI turi daugiau gero ar blogo potencialo?

Esu optimistiškai nusiteikęs, kad AGI padės mums judėti į priekį kaip rūšiai ir pateiks atsakymus į daugelį klausimų apie visatą. Svarbiausia bus pasiruošti ir nuspręsti, kokie bus mūsų santykiai su AGI, kai nustatysime jų tikslus. Jei nuspręsime panaudoti pirmuosius AGI kaip užkariavimo ir praturtinimo įrankius, neturėtume stebėtis, jei kelyje jie taps jų pačių užkariavimo ir praturtinimo įrankiais prieš mus. Jei nuspręsime, kad AGI yra žinių, tyrinėjimo ir taikos įrankiai, greičiausiai tai ir sulauksime mainais. Pasirinkimas priklauso nuo mūsų.

Dėkojame už fantastišką interviu, kuriame nagrinėjamas ateities AGI kūrimo potencialas. Skaitytojai, norintys sužinoti daugiau, gali perskaityti „Will Computers Revolt“ arba apsilankyti Charle'o svetainėje.utureai.guru.