Большие языковые модели не являются рассуждениями – они просто очень хорошо планируют

Большие языковые модели (БЯМ) như OpenAI’s o3, Google’s Gemini 2.0 (GOOGL ), и DeepSeek’s R1 показали замечательный прогресс в решении сложных задач, генерации текста, похожего на человеческий, и даже написании кода с точностью. Эти передовые БЯМ часто называются «моделями рассуждений» за их замечательные способности анализировать и решать сложные проблемы. Но действительно ли эти модели рассуждают, или они просто исключительно хорошо планируют? Это различие тонкое, но глубокое, и оно имеет серьезные последствия для того, как мы понимаем возможности и ограничения БЯМ.

Чтобы понять это различие, давайте сравним два сценария:

• Рассуждение: Детектив, расследующий преступление, должен собрать воедино противоречивые доказательства, определить, какие из них ложные, и прийти к выводу на основе ограниченных доказательств. Этот процесс включает в себя вывод, решение противоречий и абстрактное мышление.
• Планирование: Шахматист, рассчитывающий лучшую последовательность ходов, чтобы поставить мат сопернику.

Хотя оба процесса включают несколько шагов, детектив занимается глубоким рассуждением, чтобы сделать выводы, оценить противоречия и применить общие принципы к конкретному делу. Шахматист, с другой стороны, в основном занимается планированием, выбирая оптимальную последовательность ходов, чтобы выиграть игру. БЯМ, как мы увидим, функционируют гораздо больше как шахматист, чем как детектив.

Понимание разницы: Рассуждение vs. Планирование

Чтобы понять, почему БЯМ хорошо подходят для планирования, а не для рассуждений, важно сначала понять разницу между этими двумя понятиями. Рассуждение – это процесс вывода новых выводов из заданных предпосылок с помощью логики и вывода. Оно включает в себя выявление и исправление несоответствий, генерацию новых прозрений, а не просто предоставление информации, принятие решений в неоднозначных ситуациях и участие в причинно-следственном мышлении и контрфактическом мышлении, таком как «Что, если» сценарии.

Планирование, с другой стороны, фокусируется на структурировании последовательности действий для достижения конкретной цели. Оно опирается на разбиение сложных задач на более мелкие шаги, следование известным стратегиям решения проблем, адаптацию ранее выученных закономерностей к подобным проблемам и выполнение структурированных последовательностей, а не получение новых прозрений. Хотя и рассуждение, и планирование включают пошаговую обработку, рассуждение требует более глубокой абстракции и вывода, тогда как планирование следует установленным процедурам без получения фундаментально новых знаний.

Как БЯМ подходят к «Рассуждению»

Современные БЯМ, такие как OpenAI’s o3 и DeepSeek-R1, оснащены техникой, известной как Цепочка мыслей (CoT) рассуждений, для улучшения их способностей решения проблем. Этот метод побуждает модели разбивать проблемы на промежуточные шаги, имитируя то, как люди логически думают о проблеме. Чтобы увидеть, как это работает, рассмотрим простую математическую задачу:

Если магазин продает яблоки по 2 доллара за каждое, но предлагает скидку 1 доллара за яблоко, если вы покупаете более 5 яблок, сколько будет стоить 7 яблок?

Типичная БЯМ, использующая CoT-подсказку, может решить ее следующим образом:

1. Определите обычную цену: 7 * 2 доллара = 14 долларов.
2. Определите, что скидка применяется (поскольку 7 > 5).
3. Рассчитайте скидку: 7 * 1 доллар = 7 долларов.
4. Вычтите скидку из общей суммы: 14 долларов – 7 долларов = 7 долларов.

Располагая пошаговое решение, модель минимизирует шанс ошибок, которые возникают при попытке предсказать ответ за один раз. Хотя этот пошаговый подход делает БЯМ похожими на рассуждение, это по сути является формой структурированного решения проблем, подобной следованию пошаговому рецепту. С другой стороны, истинный процесс рассуждения может признать общее правило: Если скидка применяется за пределами 5 яблок, то каждое яблоко стоит 1 доллар. Человек может сделать такой вывод сразу, но БЯМ не может, поскольку она просто следует структурированной последовательности расчетов.

Почему Цепочка мыслей является планированием, а не рассуждением

Хотя Цепочка мыслей (CoT) улучшила производительность БЯМ на логически-ориентированных задачах, таких как математические задачи и задачи программирования, она не включает в себя настоящее логическое рассуждение. Это связано с тем, что CoT следует процедурным знаниям, полагаясь на структурированные шаги, а не на получение новых прозрений. Она лишена истинного понимания причинности и абстрактных отношений, что означает, что модель не участвует в контрфактическом мышлении или рассмотрении гипотетических ситуаций, требующих интуиции за пределами обучающих данных. Кроме того, CoT не может фундаментально изменить свой подход за пределами закономерностей, на которых она была обучена, ограничивая ее способность рассуждать творчески или адаптироваться в незнакомых ситуациях.

Что нужно БЯМ, чтобы стать истинными рассуждениями?

Итак, что нужно БЯМ, чтобы действительно рассуждать, как люди? Вот некоторые ключевые области, где им требуется улучшение и потенциальные подходы к его достижению:

1. Символическое понимание: Люди рассуждают, манипулируя абстрактными символами и отношениями. БЯМ, однако, лишены настоящего механизма символического рассуждения. Интеграция символического ИИ или гибридных моделей, которые сочетают нейронные сети с формальными логическими системами, могла бы улучшить их способность заниматься истинным рассуждением.
2. Причинно-следственная выводка: Истинное рассуждение требует понимания причины и следствия, а не просто статистических корреляций. Модель, которая рассуждает, должна выводить основные принципы из данных, а не просто предсказывать следующий токен. Исследования в области причинного ИИ, который явно моделирует причинно-следственные отношения, могли бы помочь БЯМ перейти от планирования к рассуждению.
3. Саморефлексия и Метакогнитивные: Люди постоянно оценивают свои собственные мыслительные процессы, задавая вопрос “Имеет ли этот вывод смысл?” БЯМ, с другой стороны, не имеют механизма для саморефлексии. Создание моделей, которые могут критически оценить свои собственные выводы, было бы шагом к истинному рассуждению.
4. Обычное чувство и интуиция: Хотя БЯМ имеют доступ к огромным объемам знаний, они часто борются с базовым рассуждением, основанным на здравом смысле. Это происходит потому, что у них нет реального опыта, который мог бы сформировать их интуицию, и они не могут легко распознавать абсурдности, которые люди бы сразу же заметили. Они также лишены способа вносить реальные динамики в свое принятие решений. Одним из способов улучшить это могло бы быть создание модели с двигателем общего смысла, который мог бы включать интеграцию реального сенсорного ввода или использование графов знаний, чтобы помочь модели лучше понять мир, как люди.
5. Контрфактическое мышление: Человеческое рассуждение часто включает в себя вопрос “Что, если все было бы по-другому?” БЯМ борются с такими «что, если» сценариями, потому что они ограничены данными, на которых они были обучены. Чтобы модели думали более как люди в этих ситуациях, им нужно было бы模拟ировать гипотетические сценарии и понимать, как изменения переменных могут повлиять на результаты. Им также нужно было бы иметь способ тестировать разные возможности и получать новые прозрения, а не просто предсказывать на основе того, что они уже видели. Без этих способностей БЯМ не могут действительно представить себе альтернативные будущие – они могут работать только с тем, что они узнали.

Заключение

Хотя БЯМ могут казаться рассуждающими, они на самом деле полагаются на техники планирования для решения сложных проблем. Будь то решение математической задачи или логических выводов, они в основном организуют известные закономерности в структурированном порядке, а не глубоко понимают принципы, лежащие в их основе. Это различие важно в исследованиях ИИ, потому что если мы принимаем сложное планирование за настоящее рассуждение, мы рискуем переоценивать истинные возможности ИИ.

Путь к истинному рассуждению ИИ потребует фундаментальных достижений за пределами прогнозирования токенов и вероятностного планирования. Это потребует прорывов в символической логике, причинно-следственном понимании и метакогнитивных процессах. До тех пор БЯМ останутся мощными инструментами для структурированного решения проблем, но они не будут действительно мыслить так, как люди.