Charles J. Simon, Autore, Will Computers Revolt? – Intervista

Charles J. Simon, BSEE, MSCS, imprenditore e sviluppatore software riconosciuto a livello nazionale. Con una vasta esperienza manageriale e tecnica e lauree in Ingegneria Elettrica e Informatica, il signor Simon ha molti anni di esperienza nel settore informatico, compreso il lavoro pionieristico nell’intelligenza artificiale e nel CAD (due generazioni di CAD).

È anche l’autore di ‘Will Computers Revolt’, che offre una visione approfondita della possibilità futura di intelligenza artificiale generale (AGI).

Cosa ti ha originariamente attirato verso l’IA e, in particolare, verso l’AGI?

Sono stato affascinato dalla domanda “Possono le macchine pensare?” fin da quando ho letto per la prima volta il paper seminale di Alan Turing del 1950, che inizia con quella domanda. Finora, la risposta è chiaramente “No”, ma non c’è alcun motivo scientifico per cui non possa essere “Sì”. Mi sono unito alla comunità dell’IA con il boom iniziale delle reti neurali alla fine degli anni ’80 e da allora l’IA ha fatto grandi passi avanti. Tuttavia, i trent’anni intermedi non hanno portato comprensione alle nostre macchine, una capacità che catapulterebbe numerose applicazioni a nuovi livelli di utilità.

Hai affermato che condividi l’opinione dell’esperto di IA del MIT Rodney Brooks, che dice: “Senza interazione con un ambiente – senza un corpo robotico, per così dire – le macchine non esibiranno mai AGI”. Ciò significa fondamentalmente che senza input sufficienti da un corpo robotico, l’IA non svilupperà mai capacità AGI. Al di fuori della visione computerizzata, quali tipi di input sono necessari per sviluppare AGI?

L’IA odierna deve essere integrata con concetti basilari come l’esistenza fisica degli oggetti in una realtà, il passaggio del tempo, la causa e l’effetto – concetti chiari a qualsiasi bambino di tre anni. Un bambino di tre anni utilizza più sensi per imparare questi concetti toccando e manipolando giocattoli, muovendosi in casa, imparando il linguaggio, ecc. Sebbene sia possibile creare un’AGI con sensi più limitati, come ci sono persone sorde e cieche che sono perfettamente intelligenti, più sensi e capacità di interagire rendono più facile risolvere il problema dell’AGI.

Per completezza, il mio simulatore può fornire sensi di odore e gusto. Rimane da vedere se questi si riveleranno importanti anche per l’AGI.

Hai affermato che “Un requisito chiave per l’intelligenza è un ambiente esterno all’intelligenza”. L’esempio che hai fornito è che “è irragionevole aspettarsi che IBM’s Watson ‘capisca’ qualcosa se non ha un’idea di base di cosa sia un ‘cosa'”. Ciò gioca chiaramente nelle limitazioni attuali dell’IA ristretta, in particolare nell’elaborazione del linguaggio naturale. Come possono gli sviluppatori di IA superare meglio questa limitazione attuale dell’IA?

Un fattore chiave è memorizzare la conoscenza che non è specificamente verbale, visiva o tattile, ma come “Cose” astratte che possono avere attributi verbali, visivi e tattili. Considera qualcosa di semplice come la frase “una palla rossa”. Sai cosa significano queste parole perché delle tue esperienze visive e tattili. Sai anche il significato di azioni correlate come lanciare, rimbalzare, calciare, ecc. che vengono in mente in qualche misura quando senti la frase. Qualsiasi sistema di IA che sia specificamente basato su parole o specificamente basato su immagini perderà altri livelli di comprensione.

Ho implementato un Universal Knowledge Store che memorizza qualsiasi tipo di informazione in una struttura simile al cervello, dove le Cose sono analoghe a neuroni e hanno molte referenze di attributi ad altre Cose – le referenze sono analoghe a sinapsi. Quindi, rosso e palla sono Cose individuali e una palla rossa è una Cosa che ha referenze di attributo alla Cosa rosso e alla Cosa palla. Sia rosso che palla hanno referenze alle Cose corrispondenti per le parole “rosso” e “palla”, ciascuna delle quali, a sua volta, ha referenze ad altre Cose che definiscono come le parole vengono ascoltate, pronunciate, lette o scritte, nonché possibili azioni Cose.

Hai raggiunto la conclusione che la simulazione del cervello dell’intelligenza generale è ancora lontana, mentre l’AGI potrebbe essere (relativamente) vicina. Sulla base di questa affermazione, dovremmo smettere di cercare di emulare o creare una simulazione del cervello umano e concentrarci solo sull’AGI?

Le tecnologie di apprendimento profondo e correlate di oggi sono grandi per le applicazioni appropriate, ma non porteranno spontaneamente alla comprensione. Per fare il prossimo passo, dobbiamo aggiungere tecniche specificamente mirate a risolvere i problemi che sono alla portata di qualsiasi bambino di tre anni.

Sfruttare le capacità intrinseche dei nostri computer può essere molto più efficiente rispetto all’equivalente biologico o a qualsiasi sua simulazione. Ad esempio, il tuo cervello può memorizzare informazioni nella chimica delle sinapsi biologiche in più iterazioni, richiedendo 10-100 millisecondi. Un computer può semplicemente memorizzare il nuovo valore della sinapsi in un singolo ciclo di memoria, un miliardo di volte più veloce.

Nello sviluppo del software AGI, ho fatto sia la simulazione dei neuroni biologici che algoritmi più efficienti. Proseguendo con l’Universal Knowledge Store, quando viene simulato in neuroni biologici simulati, ogni Cosa richiede un minimo di 10 neuroni e di solito molti di più. Ciò pone la capacità del cervello umano tra dieci e cento milioni di Cose. Ma forse un’AGI apparirebbe intelligente se comprendesse solo un milione di Cose – ben entro la portata dei computer desktop di fascia alta di oggi.

Un fattore ignoto è quanto tempo del robot dovrebbe essere allocato per l’elaborazione e la reazione al mondo rispetto al tempo trascorso immaginando e pianificando. Puoi spiegare brevemente l’importanza dell’immaginazione per un’AGI?

Possiamo immaginare molte cose e poi agire solo su quelle che ci piacciono, quelle che favoriscono i nostri obiettivi interni, per così dire. Il vero potere dell’immaginazione è essere in grado di prevedere il futuro – un bambino di tre anni può capire quali sequenze di movimento lo porteranno a un obiettivo in un’altra stanza e un adulto può speculare su quali parole avranno il maggior impatto sugli altri.

Un’AGI beneficerà allo stesso modo andando oltre il essere puramente reattiva e speculando su varie azioni complesse e scegliendo la migliore.

Credi che le tre leggi della robotica di Asimov siano troppo semplici e ambigue. Nel tuo libro, hai condiviso alcune idee per leggi raccomandate da programmare nei robot. Quali leggi ritieni più importanti per un robot da seguire?

Nuove “leggi della robotica” evolveranno nel corso degli anni mentre emerge l’AGI. Propongo alcuni inizi:

1. Massimizzare la conoscenza e la comprensione interna dell’ambiente.
2. Condividere quella conoscenza in modo accurato con gli altri (sia AGI che umani).
3. Massimizzare il benessere di entrambi gli AGI e gli umani nel loro complesso – non solo come individui.

Hai alcune riserve sul Test di Turing e sul concetto che lo sostiene. Puoi spiegare come ritieni che il Test di Turing sia difettoso?

Il Test di Turing ha servito bene per cinquant’anni come definizione ad hoc di intelligenza generale, ma mentre l’AGI si avvicina, dobbiamo affinare la definizione e abbiamo bisogno di una definizione più chiara. Il Test di Turing è in realtà un test di quanto si è umani, non di quanto si è intelligenti. Più a lungo un computer può mantenere l’inganno, meglio si esegue il test. Ovviamente, porre la domanda “Sei un computer?” e domande proxy correlate come “Qual è il tuo cibo preferito?” sono rivelazioni immediate a meno che l’AGI non sia programmato per ingannare – un obiettivo dubbia al meglio.

Inoltre, il Test di Turing ha motivato lo sviluppo dell’IA in aree di valore limitato (ad esempio, chatbot con grande flessibilità nelle risposte ma senza comprensione sottostante).

Cosa faresti diversamente nella tua versione del Test di Turing?

Domande migliori potrebbero indagare specificamente nella comprensione del tempo, dello spazio, della causalità, della previdenza, ecc. piuttosto che domande casuali senza alcun fondamento specifico in psicologia, neuroscienze o IA. Ecco alcuni esempi:

1. Cosa vedi proprio adesso? Se ti fossi ritirato di tre piedi, quali differenze vedresti?
2. Se io [azione], quale sarebbe la tua reazione?
3. Se tu [azione], quale sarebbe la mia reazione probabile?
4. Puoi nominare tre cose che sono come [oggetto]?

Quindi, invece di valutare le risposte in base a quanto sono indistinguibili dalle risposte umane, dovrebbero essere valutate in termini di quanto sono risposte ragionevoli (intelligenti) sulla base dell’esperienza dell’entità testata.

Hai affermato che, quando si verificano richieste di eseguire un’attività distruttiva a breve termine, AGI ben programmata si rifiuterà semplicemente. Come possiamo assicurarci che l’AGI sia programmata correttamente fin dall’inizio?

La presa di decisioni è basata sugli obiettivi. In combinazione con l’immaginazione, tu (o un’AGI) consideri l’esito di diverse azioni possibili e scegli quella che meglio raggiunge gli obiettivi. Negli umani, i nostri obiettivi sono impostati dagli istinti evoluti e dalle nostre esperienze; gli obiettivi di un’AGI sono interamente affidati agli sviluppatori. Dobbiamo assicurarci che gli obiettivi di un’AGI siano allineati con gli obiettivi dell’umanità, piuttosto che con gli obiettivi personali di un individuo. [Tre possibili obiettivi elencati sopra.]

Hai affermato che è inevitabile che gli umani creeranno un’AGI, qual è la tua stima migliore per una tempistica?

Aspetti dell’AGI inizieranno a emergere nel prossimo decennio, ma non saremo tutti d’accordo che l’AGI sia arrivata. Alla fine, concorderemo che l’AGI è arrivata quando supereranno la maggior parte delle capacità umane di un margine sostanziale. Ciò richiederà due o tre decenni più tardi.

Per tutti i discorsi sull’AGI, sarà una coscienza reale come la conosciamo?

La coscienza si manifesta in un insieme di comportamenti (che possiamo osservare) che si basano su una sensazione interna (che non possiamo osservare). Le AGI manifesteranno i comportamenti; devono farlo per prendere decisioni intelligenti. Ma sostengo che la nostra sensazione interna dipenda in larga misura dal nostro hardware sensoriale e dagli istinti e quindi posso garantire che qualsiasi sensazione interna un’AGI potrebbe avere, sarà diversa da quella umana.

Lo stesso si può dire per le emozioni e il nostro senso di libero arbitrio. Nella presa di decisioni, la credenza nel libero arbitrio permea ogni decisione che prendiamo. Se non credi di avere una scelta, reagisci semplicemente. Per un’AGI che prenda decisioni ponderate, avrà anche bisogno di essere consapevole della propria capacità di prendere decisioni.

Ultima domanda, credi che un’AGI abbia più potenziale per il bene o per il male?

Sono ottimista che le AGI ci aiuteranno a muoverci avanti come specie e a portarci risposte a molte domande sull’universo. La chiave sarà per noi prepararci e decidere quale sarà la nostra relazione con le AGI mentre definiamo i loro obiettivi. Se decidiamo di utilizzare le prime AGI come strumenti di conquista e arricchimento, non dovremmo essere sorpresi se, lungo la strada, diventano i loro stessi strumenti di conquista e arricchimento contro di noi. Se scegliamo che le AGI siano strumenti di conoscenza, esplorazione e pace, allora è probabile che otterremo proprio questo in cambio. La scelta è nostra.

Grazie per una fantastica intervista che esplora il potenziale futuro della costruzione di un’AGI. Per i lettori che desiderano saperne di più, possono leggere ‘Will Computers Revolt’ o visitare il sito web di Charle’s futureai.guru.