AI-modellen bieden inzicht in hoe het brein taal verwerkt

Nieuw onderzoek van het Massachusetts Institute of Technology suggereert dat de onderliggende functie van ‘next-word prediction’ computationele modellen lijkt op de functie van taalverwerkingscentra in de menselijke hersenen.

Betekenis van taal

De nieuwste voorspellende taalmodellen kunnen iets leren over de onderliggende betekenis van taal, wat een enorme stap vooruit zou zijn in het veld. De modellen voorspellen het woord dat komt, maar ze voeren ook taken uit die een zekere mate van echte begrip vereisen. Deze taken omvatten vraagbeantwoording, documentsamenvatting en verhaalvoltooiing.

De modellen waren ontworpen om de prestaties voor tekstvoorspelling te optimaliseren zonder te proberen iets na te bootsen over hoe de menselijke hersenen taal begrijpen. Maar het team van neurologen van MIT suggereert dat er iets gebeurt in dit opzicht.

Een van de interessantste inzichten van dit onderzoek is dat computermodellen die goed presteren op andere soorten taaltaken, niet deze overeenkomst met de menselijke hersenen vertonen. Dit wordt gezien als bewijs dat de menselijke hersenen mogelijk next-word prediction gebruiken om taalverwerking uit te voeren.

Nancy Kanwisher is Walter A. Rosenblith Professor of Cognitive Neuroscience. Ze is ook lid van MIT’s McGovern Institute for Brain Research en Center for Brains, Minds, and Machines (CBMM), en auteur van de studie.

“Hoe beter het model is in het voorspellen van het volgende woord, hoe nauwer het overeenkomt met de menselijke hersenen”, zegt Kanwisher. “Het is verbazingwekkend dat de modellen zo goed passen, en het suggereert indirect dat het menselijke taalsysteem misschien voorspelt wat er gaat gebeuren.”

De studie verscheen in de Proceedings of the National Academy of Sciences.

Het onderzoek omvatte ook senior auteurs Joshue Tenenbaum, professor of cognitive science aan MIT en lid van CBMM en MIT’s Artificial Intelligence (CSAIL); en Eveline Fedorenko, Frederick A. en Carole J. Middleton Career Development Associate Professor of Neuroscience en lid van het McGovern Institute. De eerste auteur van het artikel was Martin Schrimpf, een MIT-student.

Het onderzoek

Het team van MIT vergeleek taalverwerkingscentra in de menselijke hersenen met taalverwerkingsmodellen. Ze analyseerden 43 verschillende taalmodellen, waaronder modellen die geoptimaliseerd zijn voor next-word prediction, zoals GPT-3. Andere modellen waren ontworpen om andere taaltaken uit te voeren, zoals het invullen van een lege plek.

Elk model werd gepresenteerd met een reeks woorden, en de onderzoekers maten de activiteit van de knooppunten die het netwerk vormen. De patronen werden vervolgens vergeleken met activiteit in de hersenen, die werden gemeten bij onderwerpen die drie taaltaken uitvoerden: luisteren naar verhalen, lezen van zinnen een voor een en lezen van zinnen waarin één woord tegelijk wordt onthuld.

De menselijke datasets omvatten functionele magnetische resonantie (fMRI) gegevens en intracraniale electrocorticografische metingen die werden genomen bij mensen die hersenoperaties ondergingen voor epilepsie.

De onderzoekers vonden dat de best presterende next-word prediction-modellen activiteitspatronen hadden die sterk leken op die in de menselijke hersenen. Dezelfde modellen toonden ook activiteit die sterk correleerde met metingen van menselijk gedrag, zoals de snelheid waarmee mensen tekst kunnen lezen.

“We vonden dat de modellen die de neurale responsen goed voorspellen, ook het beste menselijk gedrag voorspellen, in de vorm van leestijden. En beide worden verklaard door de modelprestaties op next-word prediction. Deze driehoek verbindt alles”, zegt Schrimpf.

De onderzoekers zullen nu varianten van de taalverwerkingsmodellen ontwikkelen, wat hen in staat kan stellen om te zien hoe kleine veranderingen in hun architectuur de prestaties en hun vermogen om menselijke neurale gegevens te passen, beïnvloeden.