Модели ИИ дают представление о том, как мозг обрабатывает язык

Новые исследования, проводимые в Массачусетском технологическом институте, предполагают, что основная функция вычислительных моделей «предсказания следующего слова» напоминает функцию центров обработки языка в человеческом мозге.

Значение языка

Самые новые предсказательные языковые модели могут учиться чему-то о базовом значении языка, что будет огромным шагом вперед в этой области. Модели предсказывают слово, которое следует далее, но они также выполняют задачи, требующие определенной степени настоящего понимания. Эти задачи включают ответы на вопросы, суммирование документов и завершение историй.

Модели были разработаны для оптимизации производительности при предсказании текста без попытки имитировать что-либо, связанное с тем, как человеческий мозг понимает язык. Однако команда нейробиологов из MIT предполагает, что происходит что-то в этом отношении.

Одним из наиболее интересных выводов этого исследования является то, что компьютерные модели, которые хорошо справляются с другими типами языковых задач, не показывают这种 подобие человеческому мозгу. Это рассматривается как доказательство того, что человеческий мозг может использовать предсказание следующего слова для выполнения обработки языка.

Нэнси Канвisher является профессором когнитивной нейробиологии Уолтера А. Розенблитха. Она также является членом Института мозга и когнитивных исследований Макговерна и Центра мозга, разума и машин (CBMM), и соавтором исследования.

“Чем лучше модель предсказывает следующее слово, тем ближе она соответствует человеческому мозгу”, – говорит Канвisher. “Это удивительно, что модели соответствуют так хорошо, и это очень косвенно предполагает, что, может быть, человеческая языковая система делает то, что предсказывает, что произойдет дальше”.

Исследование было опубликовано в Proceedings of the National Academy of Sciences.

В нем также приняли участие старшие авторы Джошуа Тененбаум, профессор когнитивной науки в MIT и член CBMM и CSAIL; и Эвелин Федоренко, ассоциированный профессор нейробиологии и член Института Макговерна. Первым автором статьи был Мартин Шримпф, аспирант MIT.

Исследование

Команда MIT сравнила центры обработки языка в человеческом мозге с языковыми моделями. Они проанализировали 43 различные языковые модели, включая те, которые оптимизированы для предсказания следующего слова, такие как GPT-3. Другие модели были разработаны для выполнения различных языковых задач, таких как заполнение пробела.

Каждая модель была представлена строкой слов, и исследователи измерили активность узлов, составляющих сеть. Затем закономерности были сравнены с активностью в мозге, которая была измерена у субъектов, выполняющих три языковые задачи: слушание историй, чтение предложений по одному и чтение предложений, в которых одно слово открывается за раз.

Человеческие наборы данных включали функциональные магнитно-резонансные (фМРТ) данные и внутричерепные электрокортикографические измерения, которые были взяты у людей, проходящих операцию на мозге из-за эпилепсии.

Исследователи обнаружили, что лучшие модели предсказания следующего слова имели закономерности активности, которые очень походили на те, которые наблюдались в человеческом мозге. Те же модели также продемонстрировали активность, которая была высоко коррелирована с мерами человеческого поведенческого ответа, таких как скорость чтения текста.

“Мы обнаружили, что модели, которые хорошо предсказывают нейронные ответы, также лучше предсказывают человеческое поведенческое ответы, в виде времени чтения. И оба этих фактора объясняются производительностью модели при предсказании следующего слова. Этот треугольник действительно соединяет все вместе”, – говорит Шримпф.

Исследователи теперь будут стремиться создать варианты языковых моделей обработки, которые позволят им увидеть, как небольшие изменения в их архитектуре влияют на производительность и их способность соответствовать человеческим нейронным данным.