Моделі розмовного штучного інтелекту можуть збільшувати витрати через безкорисну балаканину

Популярні моделі розмовного штучного інтелекту таємно витрачають велику кількість платних токенів на безкорисну балаканину. Зазначені моделі фактично знають, що роблять це, але не можуть зупинитися.

Більші моделі розуміння (такі як ChatGPT-5 і Google Gemini) коштують більше за розуміння – крок за кроком проходження проблеми, що використовує значно більше обчислювальних ресурсів, ніж просто швидке передбачення наступного слова. Симульований процес розуміння триваліший і коштує більше; в результаті користувачі платять за цю “додаткову час подумків”.

Однак, якщо ви недавно використовували модель штучного інтелекту останнього покоління, ви могли помітити, що ваша частина токенів часто витрачається на балаканину та зайві слова, а не на вирішення проблем, які ви ставите перед моделлю. Це може проявлятися у вигляді надмірної лестощів, розтягнутих та/або зайвих відповідей – або навіть у вигляді “балаканини”, як ніби штучний інтелект був спійманий на місці і намагається говорити, щоб вибратися з незручної ситуації.

Природно, ми хотіли б, щоб наші моделі штучного інтелекту визнали поразку, пішли б іншим шляхом або попросили про уточнення. Але навіть змусити штучний інтелект такого типу визнати, що він не знає відповіді, – це значна проблема сама по собі.

Тим часом користувачі на нижчих або безплатних тарифах можуть виявити, що вони швидко витратили свої токени, незалежно від того, наскільки цільовими чи економними були їх запити та взаємодії, оскільки штучний інтелект сам любить говорити; і в цьому випадку говорити не дешево.

Балаканина

Відносно зазначеної “балаканини” нове академічне дослідження пропонує раціоналізацію та рішення, пропонуючи, що моделі штучного інтелекту з можливістю розуміння схильні витрачати токени, коли вони потрапляють у “балаканину” – стан плутанини, де процес розуміння втрачається у повторюваних сліпих аллеях – за рахунок користувача*.

Дослідники за новою статтею виявили, що значна частина токенів, оброблених у типовій моделі штучного інтелекту, складається з повторень і зайвих слів – і що сама модель здає собі звіт про те, що вона у біді, хоча не може зупинити коштовну петлю.

Стаття зазначає:

‘Ми показуємо, що значна частина цих токенів складається з безкорисних повторень – того, що ми називаємо “балаканиною” – що витрачає декодувальний бюджет без додання цінності. Цікаво, що ми спостерігаємо, що моделі штучного інтелекту з можливістю розуміння самосвідомі, коли потрапляють у ці петлі: приховані стани токенів, що слідують за кожним фрагментом розуміння, демонструють закономірності, які дозволяють нам виявляти поведінку “балаканини” в режимі реального часу за допомогою одного шару лінійного класифікатора.

‘Як тільки це виявлено, просте обрізання, доповнене простим регенераційним запитом, дає суттєву економію довжини з мінімальною втратою якості.’

Рішення, запропоноване у новій роботі, полягає у втручанні, яке може зупинити спіральну петлю моделі штучного інтелекту з можливістю розуміння в режимі реального часу, без включення до навчальних даних або будь-якої шкоди, яка може виникнути внаслідок доопрацювання. Фреймворк, названий WordSaladChopper, був опублікований у GitHub.

Хоча перша робота зосереджена на варіантах DeepSeek, таких як записи у серії Qwen і Llama, стаття стверджує, що небажана поведінка, ймовірно, застосовується до значно більшої частини подібних моделей штучного інтелекту (включно з популярними пропозиціями тільки для API, такими як ChatGPT і Google Gemini).

Як зазначено у статті, попередні пропозиції, такі як Demystifying Long Chain-of-Thought Reasoning in LLMs і Small Models Struggle to Learn from Strong Reasoners також використовують невелику кількість публічно доступних моделей розуміння (CoT) для встановлення ширшої проблеми серед цього класу моделей^†:

‘[Моделі штучного інтелекту з можливістю розуміння] схильні витрачати величезну кількість декодувального бюджету, просто повторюючи себе дослівно, з незначними змінами, або займаючись нескінченним перерахуванням випадків, поки не буде витрачений весь бюджет – ми називаємо таку поведінку Балаканиною, термін, часто використовуваний для висміювання публічних представників за довгі, наповнені жаргоном відповіді, які врешті-решт не мають сенсу чи чіткого змісту.

‘Стовпець “Оригінал” [у таблиці нижче] показує, що при відповіді на GPQA-Diamond ми спостерігаємо 55%+ токенів, згенерованих моделями DeepSeek-R1-Distill, позначені як “токени балаканини”, де вони не додають цінності з семантичної точки зору.’

Частка токенів виводу, визначених як семантично зайві при відповіді на GPQA-Diamond. WordSaladChopper зменшує цю витрату з більш ніж 55% до менше 6% серед усіх протестованих моделей DeepSeek-R1-Distill, стверджують автори. Джерело

Автори зазначають, що спроби скоротити процеси розуміння, зберігаючи якість відповідей, стали сильним напрямком досліджень, зокрема довго-короткий (L2S); і далі спостерігають, що хоча їхні цілі схожі з цілями кількох попередніх ініціатив, їхнє дослідження є першим, яке пропонує ад hoc рішення, яке не потребує втручання у процес навчання, редагування моделі або інших можливих впливів на базову архітектуру моделі штучного інтелекту; і в цій мірі вони вважають, що їхній підхід повинен стати поширеним серед відповідних систем^†:

‘Ми вважаємо, що не надто сміливо стверджувати, що [WordSaladChopper] – або подібний компонент – є обов’язковим для всіх застосунків моделей штучного інтелекту з можливістю розуміння з урахуванням досвіду користувача ‘

Стаття називається WordSaladChopper: Моделі штучного інтелекту з можливістю розуміння витрачають величезну кількість декодувального бюджету на безкорисні повторення, знаючи про це, і надходить від шести дослідників з Університету Міннесоти, Райсського університету, Інституту технологій Стівенса та Lambda, Inc.

Попередні розгляди

Для відстеження схильності моделей штучного інтелекту з можливістю розуміння повторюватися, автори розбили вивід моделі на фрагменти, де були подвійні розриви рядків, а потім перевірили, наскільки схожий кожен фрагмент був до попередніх:

Оцінена частка фрагментів розуміння, позначених як “балаканина” під двома температурами декодування (τ = 0,0, 0,6). Класифікатор позначає фрагмент як “балаканину”, коли він дуже схожий на попередню частину виводу моделі, що свідчить про повторення, а не про прогрес. Результати показують, що така поведінка поширена серед наборів даних і розмірів моделей.

Якщо фрагмент був надто схожий, його позначали як “балаканину” (фактично безкорисне повторення).

Дослідники зазначають, що як тільки модель потрапляє у “балаканину”, вона дуже малоймовірно вийде з неї без зовнішньої допомоги, а залишається у коштовній петлі, доки декодувальний бюджет користувача не буде витрачений^††:

‘Само собою зрозуміло, що це представляє катастрофічну проблему для користувачів, оскільки ідеально короткий розділ мислення тепер максимізується зайвими повтореннями. Тому користувач платить максимальну ціну за (ймовірно) неправильну відповідь, одночасно витрачаючи найдовшу кінцеву затримку.’

Частка фрагментів балаканини, що з’являються до та після точки обрізання (тобто моменту, коли повторюваний вивід починає домінувати). Більшість повторень відбуваються після цієї точки, показуючи, що як тільки модель потрапляє у петлю балаканини, вона рідко відновлюється без втручання.

Автори згадують свою здивованість, коли вони виявили, що моделі штучного інтелекту з можливістю розуміння демонструють ознаки того, що вони знають про свій стан “балаканини”. Однак саме ця свідомість, і те, як вона вступає у ймовірний стан розуміння моделі, дозволяє створити систему втручання:

‘Легкість цього лінійного класифікатора відкриває двері для виявлення в режимі реального часу, де ми можемо ефективно втрутитися різними операціями для звернення до моделей, захоплених у петлях балаканини.’

Метод

Для виявлення присутності балаканини під час висновку автори тренували простий лінійний класифікатор, який працює на прихованих станах кожного токена подвійного розриву рядків.

Будь-який фрагмент, який відбувався після того, як модель потрапила у повторювану петлю, оброблявся як балаканина, з цим розрізанням (названим точкою обрізання) використовуваним для маркування навчальних даних. Було згенеровано 1000 слідів розуміння за допомогою бенчмарка S1, а потім кожен слід розділявся на фрагменти, розділені рядками.

Концептуальна схема WordSaladChopper. Під час генерації прихований стан кожного токена подвійного розриву рядків аналізується для виявлення повторюваних сегментів. Як тільки два фрагменти балаканини позначені поспіль, генерація зупиняється. Доданий фіксований регенераційний запит дозволяє моделі продовжити і закінчити відповідь без перевитрат бюджету.

Якщо фрагмент був дуже схожий на попередній, його позначали як балаканину. Як тільки був визначений перший тривалий повтор, всі наступні фрагменти також позначалися як балаканина, щоб відобразити тривалість цих петель.

Класифікатор реалізувався як один повністю зв’язаний шар і тренувався на прихованих станах токенів, що слідують за останнім блоком трансформера. Для кожної моделі тренувався окремий класифікатор, використовуючи ці дані, і не проводилось доопрацювання під час оцінки.

Дані та тести

Для навчання та висновку використовували чотири графічні процесори NVIDIA A100 (80G VRAM) під оптимізатором Adam, з швидкістю навчання 1х10^-2, протягом 50 епох.

Набори даних для оцінки були ‘Математика для початкової школи’ 8000, також відомий як GSM8K; MATH-500; GPQA-DIAMOND; і AIME25 (2025).

Тестовані моделі були DeepSeek-R1-Distill-Qwen-1.5B; DeepSeek-R1-Distill-Qwen-7B; і DeepSeek-R1-Distill-Llama-8B, всі під ліцензією MIT.

Використані метрики були Точність і AUROC.

Точність і AUROC класифікатора балаканини на Qwen-7B по чотирьох бенчмарках і двох температурах декодування. Високі оцінки підтверджують, що початок повторення можна надійно виявити з прихованих станів токена подвійного розриву рядків.

З результатів, представлених тут, автори коментують:

‘[Таблиця результатів вище] показує, що лінійний класифікатор надзвичайно точний у виявленні фрагментів балаканини; однак [таблиця результатів нижче] демонструє, що регенераційний запит допомагає відновити точність завдання, втраченої через грубе обрізання.’

Точність Qwen-7B на кожному бенчмарку при τ = 0,6, порівнюючи продуктивність до балаканини (Оригінал), після обрізання (Обрізаний) і після застосування регенерації (Регенерований). Вигоди від регенерації скромні, але послідовні, відновлюючи продуктивність до петлі в більшості випадків.

У таблиці результатів нижче ми бачимо, що WordSaladChopper покращує або зберігає точність, одночасно різко зменшуючи довжину виводу моделі, аж до 57%:

Коли WordSaladChopper використовується при жадібному декодуванні (τ = 0), він зменшує довжину виводу моделі, іноді більш ніж вдвічі, зберігаючи точність такою ж або трохи кращою, що є послідовним результатом серед різних моделей і завдань (AIME25 виключено через передбачувано нестабільні результати в цьому режимі).

Найбільші вигоди були помічені у довгих відповідях, особливо на GPQA-Diamond, де майже половина тексту була видалена без шкоди для продуктивності. Нижче ми бачимо схожі результати, коли випадковість була додана під час генерації:

При вищій температурі (τ = 0,6) WordSaladChopper продовжує скорочувати вивід на 10-30 відсотків, зберігаючи точність стабільною або трохи покращеною серед усіх моделей і бенчмарків (результати AIME25 усереднено для зменшення дисперсії).

Тут точність залишилась стабільною, а вивід став коротшим. Загалом система продовжувала працювати, навіть коли відповіді моделі ставали більш повторюваними; і автори зазначають, що оскільки класифікатор перевіряє лише один токен за речення, він працює дуже швидко, навіть під час генерації в режимі реального часу.

Стаття зауважує, що додаткові стратегії в майбутніх дослідженнях можуть виграти від надання моделі малого регенераційного бюджету після втручання; безперервного застосування системи типу WordSaladChopper під час регенерацій; і примусового введення токена “кінець мислення” у модель, щоб вимагати її найкращої поточної відповіді.

Нарешті, дослідники коментують якість поточного стану оцінки моделей штучного інтелекту з можливістю розуміння критичним тоном^†:

‘Ми щиро віримо, що багато ефективних методів розуміння здаються ефективними частково тому, що поточні бенчмарки оцінки розуміння мають багато місця для покращення.

‘Якщо ми розробимо більш повні набори оцінки інструментів – які ми обов’язково зробимо в майбутньому – ми очікуємо побачити, що багато ефективних методів розуміння зазнають невдачі або поведуться зовсім інакше, ніж їхні звичайні аналоги моделей штучного інтелекту з можливістю розуміння.’

Висновок

На рівні, досягнутому провідними системами, такими як ChatGPT, навіть малі зрушення у споживанні ресурсів користувачами можуть мати великі інфраструктурні, логістичні та фінансові наслідки. Це робить ефективність спільною пріоритетністю як для постачальників, так і для наукової спільноти.

Якщо реалізовано, нова і легка система, запропонована у статті (яка повинна бути спеціально натренована для кожної нової архітектури моделі), могла б запобігти марному витраті токенів – що може створити враження, що постачальник “витрачає” розподіл користувача в марному або обманному порядку. Насправді постачальник виграє більше, надавши корисний, а не зайвий вивід, який коштує те ж саме в обчислювальних термінах, що й балаканина.

* Хоча ми не будемо роз’яснювати це тут, це також поширюється на локально розміщені моделі, які можуть бути як корпоративними, так і хобійними, і де електричні та продуктивні втрати через балаканину можуть бути фактором, гідним уваги.

^† Як зазвичай, весь акцент належить авторам, а не мені. Там, де це доречно, їхні внутрішні посилання були перетворені на гіперпосилання мною.

^†† Тут ми повинні визнати, що фреймворки та API можуть виділяти “підбюджет” для запитів, так що один запит не обов’язково здатний витратити весь добовий розподіл токенів – але це не поширена практика, ні широко обговорювана серед постачальників тільки для API.

^††† Я не схильний приймати використання авторами абревіатури ‘LRM’, оскільки це зараз не є загальновживаною абревіатурою, тому я буду використовувати іншу термінологію в цій статті, якщо це необхідно.

Перша публікація – четвер, 6 листопада 2025