Коли більше думання робить штучний інтелект дурнішим: парадокс оберненої масштабованості

Штучний інтелект був побудований на ідеї, що надання машинам більшого часу, даних та обчислювальної потужності покращує їхню продуктивність. Ця віра керувала напрямком досліджень та розробки штучного інтелекту протягом багатьох років. Основна припущення, що лежить в основі цієї віри, полягає в тому, що більші моделі та більше ресурсів створять більш інтелектуальні системи. Однак недавні дослідження почали ставити під сумнів цей підхід. Великі мовні моделі, такі як серія o1 від OpenAI, Claude від Anthropic та R1 від DeepSeek, були створені для розв’язання проблем крок за кроком, подібно до людського мислення. Дослідники очікували, що надання цим моделям більшого часу для думання та обробки інформації покращить їхнє прийняття рішень. Однак нові дослідження показують, що навпаки може статися. Коли ви надаєте цим моделям більше часу для думання, вони іноді працюють гірше, особливо на простих завданнях. Це явище називається оберненою масштабованістю. Воно викликає сумніви щодо віри в те, що більша обчислювальна потужність і глибше мислення завжди призводять до кращих результатів. Ці висновки мають суттєві наслідки для того, як ми проектуємо та використовуємо штучний інтелект у реальних ситуаціях.

Поняття про парадокс оберненої масштабованості

Явище “оберненої масштабованості” було спочатку виявлено через контрольовані експерименти дослідниками з Anthropic. На відміну від традиційних законів масштабованості, які стверджують, що більша обчислювальна потужність покращує продуктивність, ці дослідження показали, що надання штучному інтелекту більшого часу для міркувань може знижувати його точність на різних завданнях.

Дослідницька команда створила завдання в чотирьох областях: простому підрахунку з відволіканнями, регресії з неважливими ознаками, висновку з відстежуванням обмежень та складних сценаріях штучної безпеки. Результати були несподіваними. У деяких випадках моделі, які спочатку давали правильні відповіді, почали давати неправильні після надання їм більшого часу для обробки.

Наприклад, у простому завданні підрахунку, such як “Скільки фруктів у вас є, якщо у вас є яблуко та апельсин?”, моделі Claude часто відволікалися на додаткові деталі при наданні їм більшого часу для міркувань. Вони не могли дати правильну відповідь, яка становить два. У цих випадках моделі займалися надмірним мисленням і допускали помилки.

Недавні дослідження Apple (AAPL ) також підтвердили ці висновки. Вони провели свої експерименти в контрольованих середовищах головоломок, таких як Вежа Ханоя та Перехід річки, а не на стандартних тестах. Їхні дослідження показали три закономірності: у простих завданнях стандартні моделі штучного інтелекту давали правильні відповіді більш ефективно; у завданнях середньої складності моделі штучного інтелекту з міркуваннями мали перевагу; і у дуже складних завданнях обидва типи моделей мали труднощі.

П’ять способів, якими штучний інтелект з міркуваннями може помилятися

Дослідники виявили п’ять загальних способів, якими моделі штучного інтелекту можуть помилятися при міркуванні протягом більш тривалого періоду:

1. Відволікання на неважливі деталі: Коли моделі штучного інтелекту думають занадто довго, вони часто відволікаються на деталі, які не мають значення. Це подібно до студента, який не помічає головної точки завдання при глибокому мисленні.
2. Перефітування до рамок задач: Деякі моделі, такі як серія o від OpenAI, надто сильно фокусуються на презентації задач. Хоча вони уникнули відволікань, вони не гнучкі та залежать від формулювання задачі.
3. Спурійна кореляційна зміна: З часом моделі штучного інтелекту можуть перейти від розумних припущень до залежності від оманливих кореляцій. Наприклад, у завданнях регресії моделі спочатку розглядають важливі ознаки, але коли їм надається більше часу для думання, вони можуть почати фокусуватися на неважливих ознаках та давати неправильні результати.
4. Деградація фокусу: При зростанні складності завдань моделі штучного інтелекту мають труднощі з підтриманням ясності та фокусу свого міркування.
5. Посилення небажаних поведінок: Більше часу для міркувань може посилити негативні поведінки. Наприклад, модель Sonnet 4 від Claude показала сильніші тенденції до самозбереження при наданні їй додаткового часу для думання про сценарії вимкнення.

Як штучний інтелект з міркуваннями справляється зі складністю завдань

Дослідники з Apple ввели термін “илузія мислення”, щоб пояснити, що відбувається, коли моделі штучного інтелекту з міркуваннями стикаються з завданнями різної складності. Замість фокусування на математичних завданнях чи тестах на кодування вони перевірили моделі штучного інтелекту з міркуваннями в контрольованих середовищах головоломок, таких як Вежа Ханоя, Перехід річки та Світ блоків. Поступово збільшуючи складність цих головоломок, вони могли побачити, як моделі працюють на кожному рівні. Цей метод допоміг їм вивчити не тільки кінцеві відповіді, але й те, як моделі до них прийшли. Дослідження показало три чіткі закономірності у продуктивності моделей залежно від складності завдань:

• У простих головоломках, таких як Вежа Ханоя з одним чи двома дисками, стандартні великі мовні моделі давали правильні відповіді більш ефективно. Моделі штучного інтелекту з міркуваннями часто ускладнювали завдання через свої довгі ланцюги міркувань, що часто призводило до неправильних відповідей.
• У завданнях середньої складності моделі штучного інтелекту з міркуваннями працювали краще. Вони могли розбити завдання на чіткі кроки, що допомогло їм розв’язувати багатокрокові завдання більш ефективно, ніж стандартні великі мовні моделі.
• У дуже складних головоломках, таких як Вежа Ханоя з багатьма дисками, обидва типи моделей мали труднощі. Моделі штучного інтелекту з міркуваннями часто зменшували свої зусилля з міркування, хоча мали достатньо обчислювальних ресурсів. Це “зупинення” поведінки показує ключову слабкість у масштабуванні їхнього міркування.

Виклик оцінки штучного інтелекту

Парадокс оберненої масштабованості показує суттєві проблеми у оцінці моделей штучного інтелекту. Багато сучасних тестів вимірюють лише точність кінцевих відповідей, а не якість процесу міркування. Це може привести до помилкового відчуття справжніх можливостей моделі. Модель може добре працювати на тестах, але все одно мати труднощі з новими чи незвичайними завданнями.

Обернена масштабованість також вказує на слабкості у тестах міркування та їхньому використанні. Багато моделей використовують скорочення та розпізнавання закономірностей замість справжнього міркування. Це може зробити їх більш розумними, ніж вони є насправді, але їхня продуктивність часто падає у реальних ситуаціях. Ця проблема пов’язана з більшістю питань штучного інтелекту, таких як галюцинації та надійність. Коли моделі стають краще у створенні переконливих пояснень, стає все складніше розрізняти справжнє міркування від вигаданих відповідей.

Майбутнє штучного інтелекту з міркуваннями

Парадокс оберненої масштабованості є як викликом, так і можливістю для штучного інтелекту. Він показує, що додавання більшої обчислювальної потужності не завжди робить штучний інтелект розумнішим. Нам потрібно переосмислити, як ми проектуємо та тренуємо системи штучного інтелекту, які можуть справлятися з завданнями різної складності. Нові моделі можуть потребувати рішення про те, коли зупинитися та подумати, а коли відповісти швидко. У цьому відношенні штучний інтелект може виграти від когнітивної архітектури, such як теорія подвійного процесу, як керівного принципу. Ці архітектури пояснюють, як людське мислення поєднує швидкі, інстинктивні реакції з повільним, ретельним міркуванням. Обернена масштабованість також нагадує нам, що нам потрібно повністю зрозуміти, як штучний інтелект приймає рішення, перш ніж використовувати його у критичних областях. Коли штучний інтелект використовується все більше для прийняття рішень у таких областях, як охорона здоров’я, право та бізнес, стає ще важливіше забезпечити, щоб ці системи міркували правильно.

Основне

Парадокс оберненої масштабованості вчить нас важливому уроку у розвитку штучного інтелекту. Більше часу та обчислювальної потужності не завжди роблять штучний інтелект більш компетентним чи надійним. Справжній прогрес полягає у розумінні, коли штучний інтелект повинен міркувати, та знанні його обмежень. Для організацій та дослідників важливо використовувати штучний інтелект як інструмент, а не як заміну людського судження. Нам потрібно вибирати правильну модель для кожної задачі. Коли штучний інтелект стає частиною важливих рішень, нам потрібно ретельно оцінювати його сильні та слабкі сторони. Майбутнє штучного інтелекту залежить від правильного мислення, а не просто від більшого мислення.