AI-modeller gir innsikt i hvordan hjernen prosesserer språk

Ny forskning fra Massachusetts Institute of Technology viser at de underliggende funksjonene til «next-word prediction»-modeller ligner funksjonene til språkbehandlingssentre i hjernen.

Meningen med språk

De nyeste prediktive språkmodellene kan lære noe om den underliggende meningen med språk, noe som ville være et stort skritt fremover i feltet. Modellene forutsier ordet som kommer neste, men de utfører også oppgaver som krever en viss grad av ekte forståelse. Disse oppgavene inkluderer spørsmålssvar, dokumentoppsummering og fortellingsfullføring.

Modellene ble designet for å optimalisere ytelse for å forutsi tekst uten å prøve å etterligne noe om hvordan hjernen forstår språk. Men MIT-teamet av nevrovitenskapsmenn mener at noe skjer i denne sammenhengen.

En av de mer interessante innsiktene fra denne forskningen er at datamodeller som utfører godt på andre typer språkoppgaver, ikke viser denne likheten med hjernen. Dette sees på som bevis for at hjernen kan bruke next-word prediction til å utføre språkbehandling.

Nancy Kanwisher er Walter A. Rosenblith Professor of Cognitive Neuroscience. Hun er også medlem av MITs McGovern Institute for Brain Research og Center for Brains, Minds, and Machines (CBMM), og en av forfatterne av studien.

“Jo bedre modellen er til å forutsi neste ord, jo nærmere passer den hjernen,” sier Kanwisher. “Det er fantastisk at modellene passer så godt, og det antyder indirekte at kanskje det menneskelige språksystemet gjør, er å forutsi hva som kommer neste.”

Studien ble publisert i Proceedings of the National Academy of Sciences.

Den inkluderte også seniorforfattere Joshue Tenenbaum, professor i kognitiv vitenskap ved MIT og medlem av CBMM og MITs Artificial Intelligence (CSAIL); og Eveline Fedorenko, Frederick A. og Carole J. Middleton Career Development Associate Professor of Neuroscience og medlem av McGovern Institute. Første forfatter av artikkelen var Martin Schrimpf, en MIT-student.

Studien

MIT-teamet sammenlignet språkbehandlingssentre i hjernen med språkbehandlingsmodeller. De analyserte 43 forskjellige språkmodeller, inkludert de som er optimalisert for next-word prediction, som GPT-3. Andre modeller var designet for å utføre andre språkoppgaver, som å fylle inn et blankt felt.

Hver modell ble presentert med en rekke ord, og forskerne målte aktivitetene til nodene som utgjør nettverket. Mønsterene ble så sammenlignet med aktivitet i hjernen, som ble målt hos personer som utførte tre språkoppgaver: å lytte til historier, å lese setninger en om gangen og å lese setninger hvor ett ord ble avdekket om gangen.

De menneskelige datasett inkluderte funksjonell magnetresonans (fMRI)-data og intrakranielle elektrokortikografiske målinger som ble tatt fra personer som gjennomgikk hjernekirurgi for epilepsi.

Forskerne fant at de best-performende next-word prediction-modellene hadde aktivitetsmønster som lignet de som ble sett i hjernen. Disse modellene viste også aktivitet som var høyt korrelert med målinger av menneskelig atferd, som hvor raskt personer kunne lese teksten.

“Vi fant at modellene som forutsier nevrologiske responser godt, også tenderer til å forutsi menneskelig atferd best, i form av lesetid. Og både disse er forklart av modellens ytelse på next-word prediction. Denne trekanten kobler alt sammen,” sier Schrimpf.

Forskerne vil nå prøve å bygge varianter av språkbehandlingsmodellene, noe som kan gjøre det mulig for dem å se hvordan små endringer i arkitekturen påvirker ytelse og evnen til å passe menneskelig nevrologisk data.