I Modelli di Intelligenza Artificiale Forniscono Approfondimenti su Come il Cervello Elabora il Linguaggio

Nuove ricerche condotte al Massachusetts Institute of Technology suggeriscono che la funzione sottostante dei modelli computazionali di “previsione della parola successiva” assomiglia alla funzione dei centri di elaborazione del linguaggio nel cervello umano.

Significato del Linguaggio

I più recenti modelli di linguaggio predittivi potrebbero essere in grado di apprendere qualcosa sul significato sottostante del linguaggio, il che rappresenterebbe un enorme passo avanti nel campo. I modelli predicono la parola che segue, ma eseguono anche compiti che richiedono un certo grado di comprensione autentica. Questi compiti includono la risposta alle domande, la sintesi dei documenti e il completamento delle storie.

I modelli sono stati progettati per ottimizzare le prestazioni nella previsione del testo senza tentare di emulare nulla di ciò che riguarda la comprensione del linguaggio da parte del cervello umano. Tuttavia, il team di neuroscienziati del MIT suggerisce che qualcosa sta accadendo a questo riguardo.

Una delle intuizioni più interessanti di questa ricerca è che i modelli informatici che si eseguono bene in altri tipi di compiti linguistici non mostrano questa somiglianza con il cervello umano. Ciò è visto come prova che il cervello umano potrebbe utilizzare la previsione della parola successiva per eseguire l’elaborazione del linguaggio.

Nancy Kanwisher è professore di neuroscienze cognitive Walter A. Rosenblith e membro dell’Istituto di ricerca sul cervello McGovern e del Center for Brains, Minds, and Machines (CBMM) del MIT, nonché autore dello studio.

“Più il modello è bravo a prevedere la parola successiva, più si avvicina al cervello umano”, afferma Kanwisher. “È sorprendente che i modelli si adattino così bene e suggerisca indirettamente che forse ciò che il sistema linguistico umano sta facendo è prevedere cosa accadrà dopo”.

Lo studio è stato pubblicato sulle Proceedings of the National Academy of Sciences.

Include anche gli autori senior Joshue Tenenbaum, professore di scienze cognitive al MIT e membro del CBMM e del CSAIL del MIT; e Eveline Fedorenko, professore associato di neuroscienze Frederick A. e Carole J. Middleton e membro dell’Istituto di ricerca sul cervello McGovern. Il primo autore del documento è stato Martin Schrimpf, uno studente di dottorato del MIT.

Lo Studio

Il team del MIT ha confrontato i centri di elaborazione del linguaggio nel cervello umano con i modelli di elaborazione del linguaggio. Hanno analizzato 43 diversi modelli di linguaggio, tra cui quelli ottimizzati per la previsione della parola successiva, come GPT-3. Altri modelli sono stati progettati per eseguire compiti linguistici diversi, come il completamento di uno spazio vuoto.

Ogni modello è stato presentato con una stringa di parole e i ricercatori hanno misurato l’attività dei nodi che compongono la rete. I modelli sono stati quindi confrontati con l’attività nel cervello, che sono stati misurati in soggetti che eseguivano tre compiti linguistici: ascoltare storie, leggere frasi una alla volta e leggere frasi in cui una parola alla volta è stata rivelata.

I set di dati umani includevano dati di risonanza magnetica funzionale (fMRI) e misurazioni elettrocorticografiche intracraniche prese da persone sottoposte a intervento chirurgico per l’epilessia.

I ricercatori hanno scoperto che i modelli di previsione della parola successiva migliori avevano modelli di attività che assomigliavano molto a quelli osservati nel cervello umano. Gli stessi modelli hanno anche dimostrato un’attività altamente correlata con misure di risposte comportamentali umane, come la velocità di lettura del testo.

“Abbiamo scoperto che i modelli che predicono bene le risposte neurali tendono anche a predire meglio le risposte comportamentali umane, sotto forma di tempi di lettura. E poi entrambi sono spiegati dalle prestazioni del modello nella previsione della parola successiva. Questo triangolo collega realmente tutto”, afferma Schrimpf.

I ricercatori cercheranno ora di costruire varianti dei modelli di elaborazione del linguaggio, che potrebbero consentire loro di vedere come piccoli cambiamenti nella loro architettura influenzano le prestazioni e la loro capacità di adattarsi ai dati neurali umani.