Моделі великих мов не є моделями висновків — вони просто дуже хороші у плануванні

Моделі великих мов (МВМ), такі як OpenAI’s o3, Google’s Gemini 2.0 (GOOGL ), і DeepSeek’s R1, показали видатний прогрес у вирішенні складних проблем, генерації тексту, подібного до людського, і навіть написанні коду з точністю. Ці розширені МВМ часто називаються «моделями висновків» через їхні видатні можливості аналізу та вирішення складних проблем. Але ці моделі насправді висновують, чи просто дуже добре планують? Ця відмінність є тонкою, проте глибокою, і має великі наслідки для нашого розуміння можливостей та обмежень МВМ.

Щоб зрозуміти цю відмінність, порівняймо два сценарії:

• Висновок: Детектив, який розслідує злочин, повинен зібрати разом суперечливі докази, визначити, які з них є хибними, і прийти до висновку на основі обмежених доказів. Цей процес включає в себе висновок, розв’язання суперечностей та абстрактне мислення.
• Планування: Гравець у шахи, який обчислює найкращу послідовність ходів, щоб поставити мат супернику.

Хоча обидва процеси включають кілька кроків, детектив займається глибоким висновком, щоб зробити висновки, оцінити суперечності та застосувати загальні принципи до конкретної справи. Гравець у шахи, з іншого боку, в основному займається плануванням, обираючи оптимальну послідовність ходів, щоб виграти гру. МВМ, як ми побачимо, функціонують набагато більше, як гравець у шахи, ніж детектив.

Розуміння різниці: висновок проти планування

Щоб зрозуміти, чому МВМ добре планують, а не висновують, важливо спочатку зрозуміти різницю між цими двома термінами. Висновок — це процес виведення нових висновків з даних попередніх умов за допомогою логіки та висновку. Він включає в себе виявлення та виправлення несумісностей, генерацію нових ідей, а не просто надання інформації, прийняття рішень у неоднозначних ситуаціях та зайняття каузальним розумінням та контрфактичним мисленням, як-от «Як би все було, якщо б…» сценарії.

Планування, з іншого боку, зосереджується на структуруванні послідовності дій для досягнення конкретної мети. Воно полягає у розбитті складних завдань на менші кроки, слідуванні відомим стратегіям розв’язання проблем, адаптації попередньо вивчених моделей до подібних проблем та виконанні структурованих послідовностей, а не виведенні нових ідей. Хоча висновок і планування включають крок за кроком обробку, висновок вимагає глибшої абстракції та висновку, тоді як планування слідує встановленим процедурам без генерації фундаментально нових знань.

Як МВМ підходять до «висновку»

Сучасні МВМ, такі як OpenAI’s o3 і DeepSeek-R1, оснащені технікою, відомою як Ланцюг мислення (ЛМ), для поліпшення їхніх можливостей вирішення проблем. Цей метод заохочує моделі розбивати проблеми на проміжні кроки, імітуючи той спосіб, яким люди логічно думають про проблему. Щоб побачити, як це працює, розгляньте просту математичну проблему:

Якщо магазин продає яблука за 2 долари кожне, але пропонує знижку 1 долар за яблуко, якщо ви купуєте більше 5 яблук, скільки буде коштувати 7 яблук?

Типовий МВМ, який використовує ЛМ-підказки, може розв’язати цю проблему наступним чином:

1. Визначте звичайну ціну: 7 * 2 долари = 14 доларів.
2. Визначте, що знижка застосовується (оскільки 7 > 5).
3. Обчисліть знижку: 7 * 1 долар = 7 доларів.
4. Відніміть знижку від загальної суми: 14 доларів – 7 доларів = 7 доларів.

Розкладаючи послідовність кроків явно, модель мінімізує можливість помилок, які виникають при спробі передбачити відповідь за один раз. Хоча такий крок за кроком розклад робить МВМ схожими на висновок, це насправді форма структурованого розв’язання проблем, подібного до слідування рецепту крок за кроком. З іншого боку, справжній висновковий процес міг би визнати загальне правило: Якщо знижка застосовується за межами 5 яблук, то кожне яблуко коштує 1 долар. Людина може зробити такий висновок одразу, але МВМ не може, оскільки вона просто слідує структурованій послідовності обчислень.

Чому ланцюг мислення є плануванням, а не висновком

Хоча Ланцюг мислення (ЛМ) покращив результати МВМ у логічних завданнях, таких як математичні проблеми зі словами та завдання з кодуванням, це не включає справжній логічний висновок. Це відбувається через те, що ЛМ слідує процедурним знанням, покладаючись на структуровані кроки, а не на генерацію нових ідей. Він не має справжнього розуміння каузальності та абстрактних відносин, що означає, що модель не займається контрфактичним мисленням або розглядає гіпотетичні ситуації, які вимагають інтуїції за межами відомих даних. Крім того, ЛМ не може фундаментально змінити свій підхід за межі моделей, на яких він був навчений, обмежуючи його можливість висновувати творчо або адаптуватися в незнайомих ситуаціях.

Що потрібно МВМ, щоб стати справжніми висновковими машинами?

Що потрібно МВМ, щоб真正 висновувати, як люди? Ось деякі ключові області, де їм потрібно покращення, та потенційні підходи до досягнення цього:

1. Символічне розуміння: Люди висновують, маніпулюючи абстрактними символами та відносинами. МВМ, однак, не мають справжнього механізму символічного висновку. Інтеграція символічного ІІ або гібридних моделей, які поєднують нейронні мережі з формальними логічними системами, могла б покращити їхню здатність займатися справжнім висновком.
2. Каузальна інференція: Справжній висновок вимагає розуміння причини та наслідку, а не просто статистичних кореляцій. Модель, яка висновує, повинна виводити основні принципи з даних, а не просто передбачати наступний токен. Дослідження каузальної ІІ, яка явно моделює каузальні відносини, могла б допомогти МВМ перейти від планування до висновку.
3. Самооцінка і метакогніція: Люди постійно оцінюють свої власні процеси мислення, запитуючи «Чи має сенс цей висновок?» МВМ, з іншого боку, не мають механізму для самооцінки. Будування моделей, які можуть критично оцінювати свої власні висновки, було б кроком до справжнього висновку.
4. Загальний сенс і інтуїція: Навіть якщо МВМ мають доступ до величезної кількості знань, вони часто борються з базовим висновком, заснованим на загальному сенсі. Це відбувається через те, що вони не мають реального досвіду, який міг би сформувати їхню інтуїцію, і вони не можуть легко розпізнавати абсурдності, які люди могли б визначити одразу. Вони також не мають способу включити реальні динамічні процеси у своє прийняття рішень. Одним із способів покращення цього могла б бути побудова моделі з двигуном загального сенсу, який міг би включати інтеграцію реального сенсорного вводу або використання графів знань, щоб допомогти моделі краще зрозуміти світ, як люди.
5. Контрфактичне мислення: Людський висновок часто включає питання, «Як би все було, якщо б все було інакше?» МВМ борються з такими «як би» сценаріями, оскільки вони обмежені даними, на яких вони були навчені. Щоб моделі думали більш, як люди в цих ситуаціях, їм потрібно було б симулювати гіпотетичні сценарії та розуміти, як зміни в змінних можуть впливати на результати. їм також потрібно було б мати спосіб тестувати різні можливості та генерувати нові ідеї, а не просто передбачати на основі того, що вони вже бачили. Без цих можливостей МВМ не можуть真正 уявляти альтернативні майбутні часи — вони можуть тільки працювати з тим, що вони вже вивчили.

Висновок

Хоча МВМ можуть здаватися висновковими, вони насправді покладаються на плани для вирішення складних проблем. Чи то розв’язання математичної проблеми, чи зайняття логічним висновком, вони в основному організовують відомі моделі у структурованому порядку, а не глибоко розуміють принципи, які стоять за ними. Ця відмінність є важливою в дослідженнях ІІ, оскільки якщо ми сприймаємо складне планування за справжній висновок, ми ризикуємо переоцінити справжні можливості ІІ.

Шлях до справжнього висновкового ІІ буде вимагати фундаментальних досягнень за межами прогнозування токенів та ймовірнісного планування. Це буде вимагати проривів у символічній логіці, каузальному розумінні та метакогніції. До тих пір МВМ залишаться потужними інструментами для структурованого розв’язання проблем, але вони не будуть真正 думати так, як люди.