Charles J. Simon, Autor, Will Computers Revolt? – Interviu

Charles J. Simon, BSEE, MSCS, antreprenor recunoscut la nivel național, dezvoltator de software și manager. Cu o experiență vastă de management și tehnică și diplome în inginerie electrică și științe computaționale, domnul Simon are mulți ani de experiență în industria calculatoarelor, inclusiv lucrări pionieratice în inteligență artificială și proiectare asistată de calculator (două generații de proiectare asistată de calculator).

El este, de asemenea, autorul cărții “Will Computers Revolt”, care oferă o perspectivă aprofundată asupra posibilității viitoare a inteligenței artificiale generale (AGI).

Ce v-a atras inițial la inteligența artificială și, în special, la AGI?

M-am fascinat de întrebarea “Pot mașinile să gândească?” de când am citit pentru prima dată articolul seminal al lui Alan Turing din 1950, care începe cu această întrebare. Până acum, răspunsul este clar “Nu”, dar nu există niciun motiv științific pentru care nu ar putea. M-am alăturat comunității de inteligență artificială în timpul boomului inițial al rețelelor neuronale la sfârșitul anilor 1980 și de atunci inteligența artificială a făcut progrese mari. Dar cei treizeci de ani care au trecut nu au adus înțelegere mașinilor noastre, o capacitate care ar fi catapultat numeroase aplicații la noi niveluri de utilitate.

Ați declarat că împărtășiți opinia expertului MIT în inteligență artificială, Rodney Brooks, care spune că “fără interacțiune cu mediul – fără un corp robotic, așa cum veți vedea – mașinile nu vor exhibita niciodată AGI”. Acest lucru este, în esență, o afirmare că, fără intrări suficiente de la un corp robotic, inteligența artificială nu va dezvolta niciodată capacități AGI. În afara viziunii calculate, ce tipuri de intrări sunt necesare pentru a dezvolta AGI?

Inteligența artificială de astăzi are nevoie de a fi completată cu concepte de bază, cum ar fi existența fizică a obiectelor în realitate, trecerea timpului, cauză și efect – concepte clare oricărui copil de trei ani. Un copil de trei ani folosește multiple simțuri pentru a învăța aceste concepte prin atingerea și manipularea jucăriilor, mișcarea prin casă, învățarea limbajului etc. Deși este posibil să se creeze o AGI cu simțuri mai limitate, așa cum există oameni surzi și orbi care sunt perfect inteligenți, dar cu mai multe simțuri și abilități de a interacționa, rezolvarea problemei AGI este mai ușoară.

Pentru a fi complet, simulatorul meu poate furniza simțuri de miros și gust. Rămâne de văzut dacă acestea vor dovedi, de asemenea, importante pentru AGI.

Ați declarat că “O cerință cheie pentru inteligență este un mediu care este extern inteligenței”. Exemplul pe care l-ați dat este că “este nerezonabil să se aștepte ca IBM’s Watson să ‘înțeleagă’ ceva dacă nu are nicio idee subiacentă despre ce este un ‘lucru'”. Acest lucru se joacă, în mod evident, în limitările actuale ale inteligenței artificiale înguste, în special în procesarea limbajului natural. Cum pot dezvoltatorii de inteligență artificială să depășească această limitare actuală a inteligenței artificiale?

Un factor cheie este stocarea cunoștințelor care nu sunt specifice verbale, vizuale sau tactile, ci ca “lucruri” abstracte care pot avea atribute verbale, vizuale și tactile. Luați în considerare ceva atât de simplu ca fraza “o minge roșie”. Știți ce înseamnă aceste cuvinte din cauza experiențelor dvs. vizuale și tactile. Știți, de asemenea, înțelesul acțiunilor asociate, cum ar fi aruncarea, ricoșarea, împingerea etc., care vin în minte într-o anumită măsură atunci când auziți fraza. Orice sistem de inteligență artificială care este bazat în mod specific pe cuvinte sau imagini va pierde din vedere celelalte niveluri de înțelegere.

Am implementat un Magazin Universal de Cunoștințe care stochează orice fel de informație într-o structură similară creierului, unde “lucrurile” sunt analoge neuronilor și au multe referințe de atribute la alte “lucruri” – referințele sunt analoge sinapselor. Astfel, “roșu” și “minge” sunt “lucruri” individuale și o “minge roșie” este o “lucrare” care are referințe de atribute la “lucrarea” “roșu” și “minge”. Atât “roșu”, cât și “minge” au referințe la “lucrurile” corespunzătoare pentru cuvintele “roșu” și “minge”, care, la rândul lor, au referințe la alte “lucruri” care definesc cum se aud, se vorbesc, se citesc sau se scriu cuvintele, precum și acțiuni posibile.

Ați ajuns la concluzia că simularea creierului pentru inteligență generală este departe, în timp ce AGI poate fi (relativ) la colțul străzii. Pe baza acestei declarații, ar trebui să renunțăm la încercarea de a emula sau crea o simulare a creierului uman și să ne concentrăm doar pe AGI?

Tehnologiile de învățare profundă și cele asociate sunt excelente pentru aplicațiile potrivite, dar nu vor duce spontan la înțelegere. Pentru a face următorii pași, avem nevoie de tehnici specifice pentru a rezolva problemele care sunt în capacitatea oricărui copil de trei ani.

Avantajele inerente ale calculatoarelor noastre pot fi cu ordine de mărime mai eficiente decât echivalentul biologic sau orice simulare a acestuia. De exemplu, creierul dvs. poate stoca informații în chimia sinapselor biologice pe parcursul mai multor iterații, necesitând 10-100 de milisecunde. Un calculator poate stoca pur și simplu valoarea noii sinapse într-un singur ciclu de memorie, cu un miliard de ori mai rapid.

În dezvoltarea software-ului AGI, am făcut atât simularea neurală biologică, cât și algoritmii mai eficienți. Înaintând cu Magazinul Universal de Cunoștințe, atunci când este simulat în neuroni biologici simulați, fiecare “lucrare” necesită un minim de 10 neuroni și, de obicei, mult mai mult. Acest lucru pune capacitatea creierului uman undeva între zece și o sută de milioane de “lucruri”. Dar, poate, o AGI ar putea părea inteligentă dacă înțelege doar un milion de “lucruri” – bine în limitele calculatoarelor de înaltă performanță de astăzi.

O necunoscută cheie este cât timp ar trebui alocat unui robot pentru procesarea și reacția la lume versus timpul petrecut visând și planificând. Puteți explica pe scurt importanța imaginației pentru o AGI?

Putem imagina multe lucruri și apoi acționa doar asupra celor pe care le placem, a celor care ne promovează obiectivele interne, dacă vreți. Adevărata putere a imaginației constă în capacitatea de a prezice viitorul – un copil de trei ani poate figura care secvențe de mișcare îl vor duce la un obiectiv într-o altă cameră și un adult poate specula asupra cuvintelor care vor avea cel mai mare impact asupra altora.

O AGI va beneficia, de asemenea, de a merge dincolo de a fi pur reactivă la a specula asupra unor acțiuni complexe și a alege cea mai bună.

Credeți că legile lui Asimov pentru robotici sunt prea simple și ambigue. În cartea dvs. ați împărtășit câteva idei pentru legi recomandate care să fie programate în roboți. Care legi considerați că sunt cele mai importante pentru un robot să urmeze?

Noi “legi ale roboticii” vor evolua de-a lungul anilor, pe măsură ce AGI va apărea. Propun câteva începuturi:

1. Maximizați cunoașterea și înțelegerea internă a mediului.
2. Partajați această cunoaștere cu acuratețe cu alții (atât AGI, cât și oameni).
3. Maximizați bunăstarea atât a AGI-urilor, cât și a oamenilor, în ansamblu – nu doar ca individ.

Aveți unele probleme cu testul Turing și conceptul din spatele lui. Puteți explica cum considerați că testul Turing este defect?

Testul Turing a slujit bine pentru cincizeci de ani ca o definiție ad-hoc a inteligenței generale, dar pe măsură ce AGI se apropie, avem nevoie de a afina definiția și avem nevoie de o definiție mai clară. Testul Turing este, de fapt, un test al cât de uman este cineva, nu cât de inteligent este. Cu cât un computer poate menține o iluzie mai mult timp, cu atât performează mai bine la test. Este evident că întrebarea “Sunteți un computer?” și întrebările proxy asociate, cum ar fi “Care este mâncarea dvs. preferată?” sunt revelatoare, cu excepția cazului în care AGI este programat să înșele – un obiectiv dubios, cel mai bun.

Mai mult, testul Turing a motivat dezvoltarea inteligenței artificiale în domenii de valoare limitată, cum ar fi chatbot-urile cu o flexibilitate vastă în răspunsuri, dar fără nicio înțelegere subiacentă.

Ce ați face diferit în versiunea dvs. a testului Turing?

Întrebări mai bune ar putea sonda în mod specific înțelegerea timpului, spațiului, cauzei și efectului, prevederii etc., mai degrabă decât întrebări aleatoare fără nicio bază particulară în psihologie, neuroștiințe sau inteligență artificială. Iată câteva exemple:

1. Ce vedeți în acest moment? Dacă ați face un pas înapoi de trei picioare, ce diferențe ați vedea?
2. Dacă eu [acțiune], ce ar fi reacția dvs.?
3. Dacă ați [acțiune], ce ar fi reacția mea probabilă?
4. Puteți numi trei lucruri care sunt ca [obiect]?

Apoi, în loc de a evalua răspunsurile în funcție de faptul că sunt indistinguizabile de răspunsurile umane, ar trebui evaluate în funcție de faptul că sunt răspunsuri rezonabile (inteligente) pe baza experienței entității testate.

Ați declarat că, atunci când sunt confruntați cu solicitări de a efectua o anumită activitate distructivă pe termen scurt, AGI-urile programate corespunzător vor refuza pur și simplu. Cum putem asigura că AGI este programat corespunzător de la început?

Luarea deciziilor se bazează pe obiective. În combinație cu o imaginație, dumneavoastră (sau o AGI) considerați rezultatul diferitelor acțiuni posibile și alegeți cea care îndeplinește cel mai bine obiectivele. La oameni, obiectivele noastre sunt stabilite de instinctele noastre evoluate și de experiența noastră; obiectivele unei AGI sunt complet la discreția dezvoltatorilor. Trebuie să ne asigurăm că obiectivele unei AGI se aliniază cu obiectivele umanității, și nu cu obiectivele personale ale unui individ. [Trei obiective posibile, așa cum sunt enumerate mai sus.]

Ați declarat că este inevitabil ca oamenii să creeze o AGI, ce este cea mai bună estimare a dvs. pentru un calendar?

Aspecte ale AGI vor începe să apară în deceniul următor, dar nu vom fi de acord cu toții că AGI a sosit. În cele din urmă, vom fi de acord că AGI a sosit atunci când vor depăși majoritatea abilităților umane cu o marjă substanțială. Acest lucru va dura două sau trei decenii mai mult.

Pentru toate discuțiile despre AGI, va fi aceasta conștientă, așa cum o știm?

Conștientizarea se manifestă într-un set de comportamente (pe care le putem observa) care se bazează pe o senzație internă (pe care nu o putem observa). AGI-urile vor manifesta comportamentele; au nevoie de acestea pentru a lua decizii inteligente. Dar susțin că senzația noastră internă depinde în mare măsură de hardware-ul nostru senzorial și de instincte și, prin urmare, pot garanta că orice senzații interne pe care o AGI le-ar putea avea vor fi diferite de cele ale unui om.

Același lucru se poate spune și despre emoții și despre simțul nostru de voință liberă. Atunci când luăm decizii, credința noastră în voința liberă permează fiecare decizie pe care o luăm. Dacă nu credeți că aveți o alegere, pur și simplu reacționați. Pentru ca o AGI să ia decizii conștiente, va trebui, de asemenea, să fie conștientă de propria sa capacitate de a lua decizii.

Ultima întrebare, credeți că o AGI are mai mult potențial pentru bine sau pentru rău?

Sunt optimist că AGI-urile ne vor ajuta să progresăm ca specie și ne vor aduce răspunsuri la multe întrebări despre univers. Cheia va fi pentru noi să ne pregătim și să decidem ce va fi relația noastră cu AGI-urile, pe măsură ce definim obiectivele lor. Dacă decidem să folosim primele AGI-uri ca unelte de cucerire și îmbogățire, nu ar trebui să fim surprinși dacă, mai târziu, vor deveni unelte de cucerire și îmbogățire împotriva noastră. Dacă alegem ca AGI-urile să fie unelte de cunoaștere, explorare și pace, atunci asta vom obține în schimb. Alegerea este a noastră.

Mulțumim pentru un interviu fantastic care explorează potențialul viitor de a construi o AGI. Pentru cititorii care doresc să afle mai multe, pot citi “Will Computers Revolt” sau pot vizita site-ul lui Charle’s futureai.guru.