Gli esperti superano un grande ostacolo nella tecnologia dell’intelligenza artificiale utilizzando un meccanismo del cervello

Un gruppo di esperti di intelligenza artificiale (AI) di varie istituzioni ha superato un “ostacolo importante e di lunga data per aumentare le capacità dell’AI”. Il team si è rivolto al cervello umano, come nel caso di molti sviluppi dell’AI. In particolare, il team si è concentrato sul meccanismo di memoria del cervello umano noto come “riproduzione”.

Gido van de Ven è l’autore principale e un ricercatore post-dottorato. È stato raggiunto dal principale investigatore Andreas Tolias a Baylor, nonché da Hava Siegelmann all’UMass Amherst.

La ricerca è stata pubblicata su Nature Communications.

Il nuovo metodo

Secondo i ricercatori, hanno elaborato un nuovo metodo che protegge efficientemente le reti neurali profonde dal “dimenticare catastrofico”. Quando una rete neurale apprende qualcosa di nuovo, può dimenticare ciò che era stato appreso in precedenza.

Questo ostacolo è ciò che blocca molti progressi dell’AI.

“Una soluzione potrebbe essere quella di memorizzare esempi precedentemente incontrati e riprenderli quando si apprende qualcosa di nuovo. Sebbene tale ‘riproduzione’ o ‘ripetizione’ risolva il dimenticare catastrofico, ritraining costantemente su tutte le attività precedentemente apprese è altamente inefficiente e la quantità di dati che dovrebbe essere memorizzata diventa ingestibile in fretta”, hanno scritto i ricercatori.

Il cervello umano

I ricercatori hanno tratto ispirazione dal cervello umano, poiché è in grado di costruire informazioni senza dimenticare, il che non è il caso delle reti neurali dell’AI. Lo sviluppo attuale si basa su lavori precedenti effettuati dai ricercatori, tra cui scoperte relative a un meccanismo nel cervello che si ritiene responsabile di prevenire che i ricordi vengano dimenticati. Questo meccanismo è la riproduzione di modelli di attività neurale.

Secondo Siegelmann, il grande sviluppo deriva dal “riconoscere che la riproduzione nel cervello non memorizza dati”, ma “il cervello genera rappresentazioni di ricordi a un livello alto, più astratto, senza la necessità di generare ricordi dettagliati”.

Siegelmann ha preso queste informazioni e si è unito ai suoi colleghi per sviluppare una riproduzione simile al cervello con l’intelligenza artificiale, senza dati memorizzati. Come nel caso del cervello umano, la rete artificiale utilizza ciò che ha visto in precedenza per generare rappresentazioni a livello alto.

Il metodo è stato altamente efficiente, con anche solo poche rappresentazioni generate dalla riproduzione che hanno portato a ricordi più antichi che vengono ricordati mentre se ne imparano di nuovi. La riproduzione generativa è efficace nel prevenire il dimenticare catastrofico, e uno dei principali vantaggi è che consente al sistema di generalizzare da una situazione all’altra.

Secondo van de Ven, “Se la nostra rete con riproduzione generativa impara prima a separare i gatti dai cani e poi a separare gli orsi dalle volpi, sarà anche in grado di distinguere i gatti dalle volpi senza essere stato specificamente addestrato a farlo. E degno di nota, più il sistema impara, meglio diventa nell’apprendere nuovi compiti”.

“Proponiamo una nuova variante di riproduzione ispirata al cervello, in cui vengono riprodotte rappresentazioni interne o nascoste generate dalle connessioni di feedback modulate dal contesto della rete”, scrive il team. “Il nostro metodo ha raggiunto prestazioni di stato dell’arte su benchmark di apprendimento continuo impegnativo senza memorizzare dati, e fornisce un modello nuovo per la riproduzione astratta nel cervello”.

“Il nostro metodo fa alcune previsioni interessanti su come la riproduzione potrebbe contribuire alla consolidazione della memoria nel cervello”, continua Van de Ven. “Stiamo già eseguendo un esperimento per testare alcune di queste previsioni”.