Charles Simon, Autore di Brain Simulator II – Serie di Interviste

Charles Simon è l’autore di Brain Simulator II, un libro compagno al progetto software open source Brain Simulator II, finalizzato a creare un sistema di Intelligenza Artificiale Generale (AGI) end-to-end

Il software Brain Simulator originale è stato rilasciato nel 1988, un’enormità di tempo nel mondo del software. Quanto è grande il balzo in avanti del Brain Simulator II rispetto al suo predecessore?

Oggi il sistema è oltre un milione di volte più veloce. L’originale era scritto in FORTRAN, girava su un clone IBM AT, supportava una matrice fissa di 1.200 neuroni e calcolava circa due cicli al secondo. Il programma di oggi può girare su una rete e processare 2,5 miliardi di sinapsi al secondo su un potente processore desktop.

Questo libro è sul Brain Simulator II, un progetto software open-source finalizzato a creare intelligenza artificiale end-to-end, quale tipo di esperienza di codifica è necessaria per eseguire questo software?

Nessuna esperienza è necessaria. Se non sei un programmatore, puoi trascorrere del tempo con il Brain Simulator e andartene con una comprensione delle capacità e dei limiti dei neuroni, un po’ sulla rappresentazione della conoscenza e anche costruire le tue reti limitate. Se sei un programmatore, seguirai le spiegazioni tecniche più approfondite e costruirai i tuoi moduli per estendere il sistema a strategie AGI più avanzate.

Perché tornare alle radici biologicamente ispirate dell’IA è importante per raggiungere l’AGI?

Negli anni ’80 si pensava che se solo potessimo costruire una rete neurale abbastanza grande, sarebbe diventata spontaneamente intelligente. Nei quarant’anni successivi, questo scenario è diventato sempre più implausibile. Quindi, se gli approcci classici dell’IA non hanno funzionato per l’AGI, guardiamo alcune strategie diverse, e l’unico modello AGI funzionante che abbiamo è il cervello umano.

Allo stesso tempo, non c’è ragione per un’adesione servile alla plausibilità biologica. Ad esempio, sappiamo che i nostri cervelli possono stimare le distanze agli oggetti in base a leggere differenze nelle immagini ricevute dai nostri due occhi, il fondamento per i film 3D. Non sappiamo come funzioni questo nel cervello, quindi invece ho programmato questa funzionalità in un modulo che stima le distanze utilizzando alcune linee di trigonometria. Possiamo essere abbastanza sicuri che il tuo cervello non funzioni in questo modo, ma l’approccio trigonometrico è probabilmente più veloce e preciso.

Affermi nel libro che un AGI richiede la robotica, perché è così importante?

Considera di provare a spiegare il colore a una persona cieca o la musica a una persona sorda. Se un potenziale AGI è solo un programma su un computer, come può ottenere una comprensione di base delle cose che ogni bambino di tre anni sa? Il bambino ha un punto di vista e è circondato dalla realtà. Il bambino sa che gli oggetti esistono in quella realtà e che molti di essi possono essere manipolati. Giocando con i blocchi, un bambino può imparare sulla forma, la dimensione, la solidità, la gravità, l’occlusione visiva, la distanza e così via. Con il movimento autonomo, la visione e i manipolatori, un AGI può imparare sulla realtà a un livello più fondamentale di qualsiasi programma che si basi solo su montagne di dati testuali e immagini.

Dopo che un AGI robotico ha acquisito una comprensione fondamentale degli oggetti nella realtà, quella conoscenza può essere clonata in macchine di pensiero non robotiche e la comprensione persiste. Proprio come qualcuno che perde i sensi della vista o dell’udito può capire le cose in un modo diverso da una persona che non ha mai avuto questi sensi.

Un aspetto importante del Brain Simulator II è che non utilizza la backpropagation, qual è la ragione per non adottare questa metodologia?

Il tuo cervello funziona senza backpropagation, quindi l’AGI deve essere possibile senza di essa. In realtà, la backpropagation è fondamentalmente incompatibile con un modello biologico perché si basa sulla capacità di percepire e modificare i pesi sinaptici con una notevole precisione. Dopo un po’ di tempo con il Brain Simulator, concluderai che impostare i pesi sinaptici con un certo grado di precisione è molto difficile e percepire esattamente quali siano quei pesi sinaptici è impossibile. Il problema fondamentale è che i neuroni che si attivano modificano i pesi sinaptici, ma non c’è modo di rilevare un peso sinaptico senza attivare i neuroni, quindi un peso sinaptico non può essere percepito senza essere modificato.

La backpropagation non ha un analogo biologico e la considero un metodo statistico estremamente potente. Molte persone stanno lavorando con esso, alcune con risultati eccellenti. Il mio punto è provare approcci diversi. Utilizzando neuroni che si attivano combinati con moduli software plug-in, sto guardando i problemi dell’AGI da una prospettiva diversa.

Quando il cervello viene esaminato, sembra esserci disordine e casualità, è qualcosa che dobbiamo introdurre in un sistema software per far emergere un vero AGI?

Non credo. Quando guardi i singoli neuroni e sinapsi, la loro funzione è abbastanza deterministica, come il transistor. Nel cervello, le cose sembrano casuali perché i livelli di rumore sono abbastanza alti e i componenti di informazione non sono in nessun ordine apparente. Ma considera la tua visione, puoi leggere il testo con chiarezza e non c’è disordine o casualità nel processo di lettura. Quindi concludiamo che, almeno, la tua corteccia visiva è abbastanza affidabile e ripetibile. Eppure, quando viene esaminata, sembra altrettanto disordinata come il resto del cervello. Quindi il resto del cervello è probabilmente altrettanto affidabile e ripetibile quanto la corteccia visiva, non vediamo solo l’organizzazione e l’ordine ancora. È un po’ come leggere il cinese, per me sono segni disordinati e casuali, ma per qualcuno che può leggere la lingua, c’è un’organizzazione assoluta. Non possiamo ancora leggere il linguaggio interno del cervello.

Introduci un concetto chiamato Universal Knowledge Store (UKS), potresti discuterne brevemente e perché è importante?

Ripensando alla domanda sulla robotica, puoi vedere che un aspetto dell’intelligenza generale è la capacità di integrare conoscenze da vari sensi. Sai di un blocco perché lo vedi, lo tocchi e senti parole su di esso. Tutto ciò rappresenta informazioni su un blocco. Quindi, perché un AGI abbia abilità simili, deve avere un meccanismo di archiviazione generale che possa gestire una grande varietà di informazioni disparate e creare relazioni utili tra gli elementi vari. L’UKS è un grafico della conoscenza in un modo molto generale in modo che possa gestire qualsiasi tipo di informazione e qualsiasi tipo di relazioni.

L’UKS può archiviare le informazioni spaziali necessarie per l’applicazione del labirinto insieme all’albero di decisione e risultato utilizzato per attraversare il labirinto per raggiungere un obiettivo. La stessa struttura viene utilizzata per associare parole con colori. Questo tipo di generalità è fondamentale per l’AGI.

Qual è il tuo orizzonte temporale per l’emergere dell’AGI?

È difficile dirlo. Già abbiamo l’hardware necessario per l’AGI e vedo che una sola scoperta è tutto ciò che è necessario, e potrebbe arrivare in qualsiasi momento. Cercherò di descrivere quella scoperta:

Considera che se tutto ciò che sai è che il rosso è-un colore e il blu è-un colore, posso chiederti di nominare alcuni colori e puoi dire rosso e blu. La domanda è, come può un AGI imparare che la relazione “è-un” è qualcosa. Potrei programmare facilmente una tale relazione, ma allora il mio AGI non sarà in grado di imparare nuove relazioni come vengono incontrate. Un bambino può imparare sulle relazioni di più vicino/lontano, più grande/più piccolo, prima/dopo, e così via. Ma queste si basano su concetti ancora più fondamentali di dimensione, distanza, tempo e altro.

Come può un cervello pieno di neuroni imparare tutte queste cose fondamentali? Ciò si collega alla necessità di robotica. Come può un AGI imparare il concetto di distanza se non può andare da nessuna parte o raggiungere nulla? Ciò si collega anche alla necessità di archiviazione universale. Come può un AGI comprendere l’idea di andare da qualche parte, che combina i concetti di posizione e tempo? Andare da qualche parte è relativamente semplice. Capire cosa significa andare da qualche parte è molto più difficile. Credo che queste domande fondamentali siano tutte manifestazioni dello stesso problema di base e la soluzione a quel problema è la scoperta necessaria.

Non molte persone stanno lavorando su questa domanda, in gran parte perché è così difficile presentare un progetto che, se veramente di successo, avrà le capacità di un bambino di tre anni dopo tre anni, e le capacità di un bambino di dieci anni dopo un decennio. Quindi la soluzione probabilmente verrà da piccoli ricercatori indipendenti che hanno il tempo e l’energia per dedicarsi a problemi senza ritorno a breve termine.

C’è qualcos’altro che vorresti condividere sul Brain Simulator II o sull’AGI in generale?

Quando provi a utilizzare neuroni e sinapsi per progettare circuiti che affrontano questi problemi fondamentali, concludi che invece di un concetto rappresentato da alcune decine di sinapsi, ogni concetto richiede alcune decine di neuroni. Ciò significa che invece della capacità del cervello di essere molti miliardi di cose come si ritiene comunemente, è limitata a comprendere decine o centinaia di milioni di cose. Con questo in mente, un AGI nascente che potrebbe comprendere solo dieci milioni di cose dovrebbe almeno essere in grado di afferrare alcuni di questi concetti fondamentali. E un sistema informatico che rappresenta dieci milioni di cose è ben dentro l’ambito dell’attuale hardware, forse anche del computer desktop di oggi.

La versione 1.0 del Brain Simulator è veramente la sua “maggiore età”. Ora ha la capacità e l’interfaccia utente rifinita che lo rendono molto più utile per un pubblico di ricerca più ampio. È un progetto comunitario con un team di sviluppo in crescita e un corpo più ampio di utenti finali. Insieme, proveremo molte nuove idee e faremo progressi su alcune delle domande fondamentali dell’intelligenza e dell’AGI.

Grazie per la grande intervista, è sempre istruttivo discutere di AGI con te. I lettori che desiderano saperne di più dovrebbero leggere il libro Brain Simulator II.