Matthew Ikle, Chief Science Officer di SingularityNET – Serie di interviste

Matthew Ikle è il Chief Science Officer di SingularityNET, un’azienda fondata con la missione di creare un’intelligenza artificiale generale decentralizzata, democratica, inclusiva e benefica. Un’intelligenza artificiale generale che non dipenda da un’entità centrale, che sia aperta a tutti e non limitata agli obiettivi ristretti di una singola azienda o anche di un singolo paese.

Il team di SingularityNET include ingegneri, scienziati, ricercatori, imprenditori e marketer esperti. La piattaforma principale e i team di intelligenza artificiale sono ulteriormente integrati da team specializzati in aree di applicazione come finanza, robotica, intelligenza artificiale biomedica, media, arte e intrattenimento.

Considerata la tua vasta esperienza e il tuo ruolo in SingularityNET, quanto sei fiducioso che raggiungeremo l’intelligenza artificiale generale entro il 2029 o prima, come previsto dal dottor Ben Goertzel?

Risponderò a questa domanda in modo un po’ indiretto. Il 2029 è circa cinque anni da adesso. Molti anni fa (primi-medi anni 2010), ero estremamente ottimista sui progressi dell’intelligenza artificiale generale. Il mio ottimismo all’epoca si basava sul livello di pensiero dettagliato e sulla convergenza di idee che avevo visto nella ricerca sull’intelligenza artificiale generale in quel periodo. Mentre la maggior parte delle grandi idee di quell’era, credo, mantengono ancora la loro promessa, la difficoltà, come spesso accade, deriva dal definire i dettagli di tali visioni a larga scala.

Con questa premessa in mente, c’è ora una grande quantità di nuove informazioni, provenienti da numerose discipline – neuroscienze, matematica, informatica, psicologia, sociologia, e così via – che forniscono non solo i meccanismi per completare quei dettagli, ma anche concettualmente supportano le fondamenta di quel lavoro precedente. Sto vedendo pattern, e in campi molto diversi, che sembrano convergere a un ritmo accelerato verso comportamenti analoghi. In molti modi, questa convergenza mi ricorda il periodo di tempo precedente al rilascio del primo iPhone. Parafrasando Greg Meredith, che sta lavorando sulla nostra infrastruttura RhoLang per l’elaborazione concorrente sicura, i pattern che vedo questi giorni sono legati a storie di origine – come è iniziata la prima vita/cellula sulla Terra? Come e quando si è formata la mente? E domande correlate riguardanti transizioni di fase, ad esempio.

Ad esempio, c’è una quantità considerevole di nuove ricerche sperimentali che tendono a supportare le idee alla base di una prospettiva di sistemi dinamici complessi. I pattern EEG dei soggetti umani, ad esempio, mostrano un comportamento notevole allineato con tali dinamiche di sistema. Questi risultati richiamano alcune ricerche precedenti sulle teorie della coscienza. Ora sembra esserci l’inizio di un supporto sperimentale per quelle idee teoriche.

Presso SingularityNET, sto pensando molto alle strutture auto-similiari che generano tali dinamiche. Questo è abbastanza diverso, credo, da ciò che sta accadendo nella comunità DNN/GPT, sebbene ci sia certamente il riconoscimento tra alcuni ricercatori più fondamentali di quelle idee. Farei riferimento al documento “Coscienza nell’intelligenza artificiale: intuizioni dalla scienza della coscienza” rilasciato da 19 ricercatori nell’agosto del 2023, ad esempio. I ricercatori coprono una varietà di discipline, tra cui studi sulla coscienza, ricerca sulla sicurezza dell’IA, scienze del cervello, matematica, informatica, psicologia, neuroscienze e ricerca sulla mente e la cognizione. Ciò che questi ricercatori hanno in comune è più grande di una semplice ricerca per il prossimo miglioramento incrementale nell’architettura dei DNN, ma invece sono focalizzati sul comprendere scientificamente le grandi idee filosofiche alla base della cognizione umana e su come portarle a realizzare sistemi di intelligenza artificiale generale reali.

Quali sono, secondo te, gli ostacoli tecnologici o filosofici più grandi per raggiungere l’intelligenza artificiale generale all’interno di questo decennio?

Comprendere e rispondere a grandi domande filosofiche e scientifiche, tra cui:

• Cosa è la vita? Potremmo pensare che la risposta sia chiara, ma le definizioni biologiche si sono rivelate problematiche. I virus, ad esempio, sono “vivi”?
• Cosa è la mente?
• Cosa è l’intelligenza?
• Come è emersa la vita da pochi composti chimici in condizioni ambientali specifiche? Come potremmo replicare questo?
• Come è emersa la prima “mente”? Quali ingredienti e condizioni hanno reso possibile questo?
• Come implementiamo ciò che apprendiamo quando indaghiamo sulle cinque domande sopra?
• La nostra tecnologia attuale è all’altezza del compito di implementare le nostre soluzioni? Se no, cosa dobbiamo inventare e sviluppare?
• Quanto tempo e personale abbiamo bisogno per implementare le nostre soluzioni?

SingularityNET considera l’approccio neuro-simbolico come una soluzione promettente per superare le limitazioni attuali dell’intelligenza artificiale generativa. Potresti spiegare cosa sia l’intelligenza artificiale neuro-simbolica e come SingularityNET intende utilizzare questo approccio per accelerare lo sviluppo dell’intelligenza artificiale generale?

Storicamente, ci sono stati due principali gruppi di ricercatori di intelligenza artificiale generale, insieme a un terzo gruppo che combina le idee degli altri due. Ci sono stati ricercatori che credono solo in un approccio sub-simbolico. Questi giorni, ciò significa principalmente utilizzare reti neurali profonde (DNN) come i modelli Transformer, inclusi i modelli linguistici larghi attuali (LLM). A causa dell’uso di reti neurali artificiali, gli approcci sub-simbolici sono anche chiamati metodi neurali. I sostenitori dei metodi simbolici utilizzano logica di ordine superiore e ragionamento simbolico, in cui i nodi e i collegamenti sono etichettati con significato concettuale e semantico. SingularityNET segue un terzo approccio che potrebbe essere descritto più accuratamente come un ibrido neuro-simbolico, sfruttando le forze dei metodi simbolici e sub-simbolici.

Yet è un tipo specifico di ibrido basato in larga misura sulla filosofia patternista della mente di Ben Goertzel e dettagliato, tra molti altri documenti, nel suo scritto “La teoria generale dell’intelligenza generale: una prospettiva patternista pragmatica”.

Mentre molta della ricerca attuale su DNN e LLM si basa su modelli neurali semplici e algoritmi, l’uso di enormi set di dati (ad esempio, l’intero internet) e impostazioni corrette di miliardi di parametri nella speranza di raggiungere l’intelligenza artificiale generale, la strategia PRIMUS di SingularityNET si basa su comprensioni fondamentali dei processi dinamici a multiple scale spazio-temporali e su come allineare tali processi per far emergere proprietà desiderate a diverse scale. Tali comprensioni ci consentono di procedere a guidare la ricerca e lo sviluppo dell’intelligenza artificiale generale in modo comprensibile agli esseri umani.

Quali strutture ritieni fondamentali per garantire che lo sviluppo dell’intelligenza artificiale generale benefici tutta l’umanità? Come possono le piattaforme di intelligenza artificiale decentralizzate come SingularityNET promuovere un processo più equo e trasparente rispetto ai modelli di intelligenza artificiale centralizzati?

Tante idee qui:

Trasparenza — Mentre nulla è perfetto, assicurare la completa trasparenza del processo decisionale può aiutare tutti i coinvolti (ricercatori, sviluppatori, utenti e non utenti) ad allinearsi, guidare, comprendere e gestire meglio lo sviluppo dell’intelligenza artificiale generale per il beneficio dell’umanità. Ciò è simile al problema del bias, che toccherò più avanti.

Decentralizzazione – La decentralizzazione può essere caotica, ma può aiutare a garantire che il potere sia condiviso più ampiamente. Non è, di per sé, una panacea, ma uno strumento che, se utilizzato correttamente, può aiutare a creare processi e risultati più equi.

Processo decisionale basato sul consenso – La decentralizzazione e il processo decisionale basato sul consenso possono lavorare insieme per perseguire processi e risultati più equi. Ancora, non garantiscono sempre l’equità. Ci sono anche complessità che devono essere affrontate qui in termini di reputazione e aree di esperti. Ad esempio, come possiamo bilanciare al meglio caratteristiche desiderate in conflitto? Considero la trasparenza, la decentralizzazione e il processo decisionale basato sul consenso come tre strumenti fondamentali che possono essere utilizzati per guidare lo sviluppo dell’intelligenza artificiale generale per il beneficio dell’umanità.

Allineamento spazio-temporale di fenomeni emergenti su multiple scale, dalle più piccole alle più grandi. Nello sviluppare l’intelligenza artificiale generale, credo che sia importante non affidarsi solo a un approccio “black-box” in cui si spera di ottenere tutto corretto fin dall’inizio. Invece, credo che progettare l’intelligenza artificiale generale con comprensioni fondamentali in varie fasi di sviluppo e su multiple scale possa non solo rendere più probabile raggiungere l’intelligenza artificiale generale, ma più importante guidare tale sviluppo allineandolo con i valori umani.

SingularityNET è una piattaforma di intelligenza artificiale decentralizzata. Come immagini l’intersezione della tecnologia blockchain e dell’intelligenza artificiale generale evolversi, in particolare riguardo alla sicurezza, alla governance e al controllo decentralizzato?

La blockchain ha certamente un ruolo da svolgere nel controllo, nella sicurezza e nella governance dell’intelligenza artificiale. Una delle maggiori forze della blockchain è la sua capacità di favorire la trasparenza. La questione del bias è un ottimo esempio di ciò. Sosterrò che ogni persona e ogni set di dati è prevenuto. Ho i miei pregiudizi personali, ad esempio, riguardo a ciò che credo sia necessario per raggiungere un’intelligenza artificiale generale veramente sicura, benefica e benevola. Questi pregiudizi sono stati forgiati dai miei studi e dalla mia formazione e guidano il mio lavoro.

Nel frattempo, cerco di essere completamente aperto a idee che confliggono con i miei pregiudizi e sono disposto ad aggiustare i miei pregiudizi in base a nuove prove. Indipendentemente, cerco di essere aperto e trasparente riguardo ai miei pregiudizi e di condizionare le mie idee e decisioni sulla base di una comprensione auto-riflessiva di quei pregiudizi. È complicato, è difficile, ma credo che sia meglio non riconoscere i propri pregiudizi. Per sua natura, la blockchain consente un miglior tracciamento, tracciabilità e verifica dei processi e degli eventi. In modo simile a quanto descritto in precedenza, la trasparenza è un componente necessario, sebbene non sempre sufficiente, per la sicurezza, la governance e il controllo decentralizzato.

Come la blockchain e l’intelligenza artificiale generale co-evolvono è una domanda interessante. Affinché le due tecnologie interagiscano verso una singolarità positiva, sembra chiaro che le caratteristiche fondamentali a cui continuo a fare riferimento (trasparenza, decentralizzazione, consenso e allineamento dei valori) siano centrali e critiche e devono essere mantenute presenti in tutte le fasi della loro co-evoluzione.

Come leader che è stato a lungo coinvolto sia nell’intelligenza artificiale che nella blockchain, cosa ritieni siano i fattori più importanti per favorire la collaborazione tra questi due campi, e come ciò può guidare l’innovazione nell’intelligenza artificiale generale?

Vengo dal lato dell’intelligenza artificiale/intelligenza artificiale generale di questa coppia. Come spesso accade quando si integrano idee interdisciplinari, molto dipende da questioni di linguaggio e comunicazione. Tutti i gruppi devono ascoltarsi a vicenda per comprendere meglio come le tecnologie possano aiutarsi a vicenda. Nel mio lavoro in SingularityNET, questo è stato una costante lotta. I ricercatori di alto livello, che sarebbe un eufemismo dire che SingularityNET li ha in abbondanza, spesso hanno chiare concezioni mentali di grandi idee. Quando si lavora attraverso i confini disciplinari, la parte difficile è rendersi conto che non tutti sono “nella tua testa”. Ciò che uno dà per scontato, non sarà così chiaramente osservato da coloro che sono in altri campi di studio. Anche le parole utilizzate in comune possono essere utilizzate in modo diverso attraverso diversi campi di studio. C’è stato un caso recente nel nostro lavoro BioAI, in cui i biologi utilizzavano un termine matematico, ma non del tutto correttamente in termini di definizione matematica. Una volta che queste situazioni sono chiaramente comprese, il team può procedere con uno scopo comune in modo che l’integrazione dimostri veramente che il tutto è più grande della somma delle sue parti.

Come vedi l’industria dell’intelligenza artificiale e della blockchain lavorare verso una maggiore diversità e inclusione, e quale ruolo gioca SingularityNET nella promozione di questi valori?

L’intelligenza artificiale e la blockchain possono entrambe svolgere ruoli importanti nel migliorare gli sforzi di diversificazione e inclusione. Sebbene creda che sia impossibile rimuovere tutti i pregiudizi – molti pregiudizi si formano semplicemente attraverso le esperienze di vita – si può essere aperti e trasparenti riguardo ai propri pregiudizi. Questo è qualcosa che attivo nel mio lavoro, che è prevenuto dalla mia formazione accademica, in modo che io veda i problemi attraverso una lente di dinamiche di sistemi complessi. Tuttavia, cerco ancora di essere aperto e di comprendere idee e analogie da altre prospettive. L’intelligenza artificiale può essere utilizzata per aiutare in questo processo di auto-riflessione, e la blockchain può certamente aiutare con la trasparenza. SingularityNET può svolgere un ruolo enorme ospitando strumenti per rilevare, misurare e rimuovere, per quanto possibile, i pregiudizi nei set di dati.

Come il lavoro di SingularityNET negli ecosistemi di intelligenza artificiale decentralizzati contribuisce a risolvere sfide globali come la sostenibilità, l’istruzione e la creazione di posti di lavoro, specialmente in regioni come l’Africa, dove hai un interesse particolare?

 Sostenibilità:

• Applicare l’intelligenza artificiale e i modelli di sistema per risolvere problemi complessi di ecosistema su larga scala.
• Monitorare tali soluzioni su larga scala.
• Utilizzare la blockchain per tracciare, tracciare e verificare tali soluzioni.
• Utilizzare una combinazione di intelligenza artificiale, modelli di ecosistema, dati iper-locali e blockchain, abbiamo ideato soluzioni complete per l’estrazione mineraria artigianale in Africa e la sequestazione del carbonio agricolo su larga scala.

Istruzione:

Come ex professore di matematica e informatica, l’istruzione è estremamente importante per me, soprattutto in quanto fornisce opportunità a studenti svantaggiati. È importante:

• Migliorare l’accessibilità sviluppando corsi ibridi per raggiungere studenti che potrebbero affrontare limitazioni geografiche, finanziarie o di tempo.
• Promuovere la diversità e l’inclusione aumentando la partecipazione di popolazioni svantaggiate nell’intelligenza artificiale, nella blockchain e in altre tecnologie avanzate.
• Favorire la conoscenza interdisciplinare creando corsi che collegano campi accademici e professionali.
• Sostenere l’avanzamento di carriera fornendo competenze e certificazioni che sono direttamente applicabili al mercato del lavoro.

Considero sia l’intelligenza artificiale generale che la blockchain, e le loro sinergie, come svolgono ruoli critici nell’affrontare gli obiettivi sopra menzionati all’interno di programmi di apprendimento basati su progetti “dall’apprendistato alla maestria”.

Creazione di posti di lavoro:

Favorire gli obiettivi educativi sopra menzionati, sembra che l’intelligenza artificiale generale, la blockchain e altre tecnologie avanzate, insieme a collaborazioni positive tra insegnanti e apprendisti, potrebbero incoraggiare e generare intere nuove tecnologie e aziende.

Come persona impegnata nel raggiungimento di una singolarità positiva, quali specifici traguardi o innovazioni nella tecnologia dell’intelligenza artificiale ritieni saranno necessari per garantire che l’intelligenza artificiale generale si sviluppi in modo benefico per la società?

• Capacità di allineare fenomeni emergenti in modi interpretabili dagli esseri umani su multiple scale spazio-temporali.
• Capacità di comprendere a un livello più profondo i concetti alla base delle “transizioni di fase spontanee”.
• Capacità di superare più problemi difficili a un livello di dettaglio per consentire un vero multiprocessing attraverso sovrapposizioni di stato.
• Trasparenza in tutte le fasi.
• Processo decisionale decentralizzato basato sulla costruzione del consenso.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare SingularityNET.