Штучна інтелект не обов’язково дає кращі відповіді, якщо ви ввічливі

Громадська думка про те, чи вигідно бути ввічливим до штучного інтелекту, змінюється майже так часто, як останні висновки щодо кави або червоного вина – відзначається один місяць, заперечується інший. Тим не менш, все більше користувачів зараз додають слова “будь ласка” або “дякую” до своїх запитів, не тільки через звичку чи побоювання, що грубі взаємодії можуть перенестися у реальне життя, але й через переконання, що ввічливість призвела до кращих і більш продуктивних результатів від штучного інтелекту.

Ця припущення поширилася серед користувачів і дослідників, з вивченням фразування запитів у дослідницьких колах як інструменту для вирівнювання, безпеки та контролю тону, навіть якщо звички користувачів посилюють і змінюють ці очікування.

Наприклад, дослідження 2024 року з Японії виявило, що ввічливість у запиті може змінити поведінку великих мовних моделей, тестуючи GPT-3.5, GPT-4, PaLM-2 і Claude-2 на завданнях англійською, китайською та японською мовами, і переписуючи кожен запит на трьох рівнях ввічливості. Автори цієї роботи спостерігали, що “грубе” або “неввічливе” формулювання призвело до нижчої фактичної точності та коротших відповідей, тоді як помірно ввічливі прохання дали чіткіші пояснення та менше відмов.

Крім того, Microsoft рекомендує ввічливий тон з Co-Pilot, з позиції продуктивності, а не культури.

Однак нова дослідницька робота з Університету Джорджа Вашингтона заперечує цю все популярнішу ідею, представляючи математичну основу, яка передбачає, коли вивід великої мовної моделі “зруйнується”, переходячи від кохерентного до оманливого або навіть небезпечного вмісту. У цьому контексті автори стверджують, що бути ввічливим не значно відкладає або не запобігає цьому “зруйнуванню”.

Початок сповіщення

Дослідники стверджують, що ввічливе використання мови загалом не пов’язане з основною темою запиту, і тому не суттєво впливає на фокус моделі. Для підтвердження цього вони представляють детальне формулювання того, як один аттенційний блок оновлює свій внутрішній напрямок під час обробки кожного нового токену, демонструючи, як поведінка моделі формується кумулятивним впливом змістовних токенів.

Як результат, ввічлива мова вважається мало впливовою на те, коли вивід моделі починає погіршуватися. Що визначає критичний момент, стверджує робота, це загальне вирівнювання змістовних токенів з хорошими або поганими шляхами виводу – не присутність соціально ввічливої мови.

Ілюстрація спрощеного аттенційного блоку, який генерує послідовність з користувацького запиту. Модель починається з хорошими токенами (G), потім досягає критичної точки (n*), де вивід змінюється на погані токени (B). Ввічливі терміни в запиті (P₁, P₂ тощо) не грають ролі в цьому зрушенні, підтверджуючи твердження роботи про те, що ввічливість мало впливає на поведінку моделі. Джерело: https://arxiv.org/pdf/2504.20980

Якщо це правда, цей результат суперечить як популярним переконанням, так і, можливо, навіть неявній логіці налаштування інструкцій, яке припускає, що формулювання запиту впливає на інтерпретацію моделлю намірів користувача.

Розгортання

Робота досліджує, як внутрішній вектор контексту моделі (її еволюціонуючий компас для вибору токенів) зміняється під час генерації. З кожним токеном цей вектор оновлює напрямок, і наступний токен вибирається на основі того, який кандидат найбільш тісно збігається з ним.

Коли запит спрямовується на добре сформований вміст, відповіді моделі залишаються стабільними та точними; але з часом цей напрямок може змінитися, спрямуючи модель на вивід, який ставає все більш відірваним від теми, неправильним або внутрішньо несумісним.

Критична точка для цього переходу (яку автори визначають математично як ітерацію n*), відбувається, коли вектор контексту моделі стає більш вирівняним з “поганим” вектором виводу, ніж з “хорошим”. На цьому етапі кожний новий токен штовхає модель далі по неправильному шляху, посилюючи закономерність все більш недолугих або оманливих виводів.

Критична точка n* обчислюється шляхом знаходження моменту, коли внутрішній напрямок моделі вирівнюється рівно з хорошими та поганими типами виводу. Геометрія простору вкладення, сформованого як тренувальним корпусом, так і користувацьким запитом, визначає, як швидко відбувається цей перехід:

Ілюстрація того, як критична точка n* виникає в спрощеній моделі авторів. Геометрична установка (а) визначає ключові вектори, залучені до передбачення, коли вивід змінюється з хорошого на поганий. У (б) автори малюють ці вектори за допомогою тестових параметрів, тоді як (в) порівнює передбачену критичну точку з симульованим результатом. Матч є точним, підтверджуючи твердження дослідників про те, що колапс є математично неминучим, коли внутрішня динаміка перетинає поріг.

Ввічливі терміни не впливають на вибір моделі між хорошими та поганими виводами, оскільки, згідно з авторами, вони не суттєво пов’язані з основною темою запиту. Замість цього вони потрапляють у частини внутрішнього простору моделі, які мало пов’язані з тим, що модель фактично вирішує.

Коли такі терміни додаються до запиту, вони збільшують кількість векторів, які модель розглядає, але не таким чином, щоб змісти напрямок уваги. Як результат, ввічливі терміни діють як статистичний шум: присутній, але інертний, і залишаючи критичну точку n* незмінною.

Автори заявляють:

‘[Чи] наша відповідь штучного інтелекту піде не так залежить від нашого тренування великої мовної моделі, яке забезпечує вкладення токенів, і від змістовних токенів у нашому запиті – не від того, чи були ми ввічливі до нього чи ні.’

Модель, використана в цій новій роботі, є навмисно вузькою, зосереджуючись на одному аттенційному блоці з лінійною динамікою токенів – спрощеній установці, де кожний новий токен оновлює внутрішній стан через прямий векторний додавання, без нелінійних перетворень або гейтингу.

Ця спрощена установка дозволяє авторам отримати точні результати та дає їм чітку геометричну картину того, як і коли вивід моделі може раптово змінитися з хорошого на поганий. У їхніх тестах формула, яку вони виводять для передбачення цього зрушення, збігається з тим, що модель фактично робить.

Розмова?

Однак такий рівень точності працює лише тому, що модель тримається навмисно простою. Хоча автори погоджуються, що їхні висновки повинні пізніше бути перевірені на більш складних багатоголових моделях, таких як серії Claude і ChatGPT, вони також вважають, що теорія залишається реплікованою при збільшенні кількості аттенційних голів, заявляючи*:

‘Питання про те, які додаткові явища виникають при збільшенні кількості пов’язаних аттенційних голів і шарів, є цікавим питанням одним. Але будь-які переходи в межах одного аттенційного блоку все одно відбуватимуться, і могли б бути посилені і/або синхронізовані зв’язками – як ланцюг пов’язаних людей, яких тягнуть за собою, коли один падає.’

Ілюстрація того, як передбачена критична точка n* змінюється залежно від того, наскільки сильно запит нахилений до хорошого або поганого вмісту. Поверхня отримана з приблизичної формули авторів і показує, що ввічливі терміни, які не чітко підтримують жодну зі сторін, мало впливають на те, коли відбувається колапс. Позначена значення (n* = 10) збігається з попередніми симуляціями, підтверджуючи внутрішню логіку моделі. Джерело: https://arxiv.org/pdf/2504.20980

Що залишається невизначеним, то це чи переживе той самий механізм стрибок до сучасних архітектур трансформерів. Багатоголова увага вводить взаємодії між спеціалізованими головами, які можуть бути буфером проти або маскувати тип поведінки, описаної.

Автори визнають цю складність, але стверджують, що аттенційні голови часто слабо пов’язані, і що такий внутрішній колапс, який вони моделюють, міг би бути посилений у повноцінних системах.

Без розширення моделі або без емпіричного тесту на виробничих великих мовних моделях твердження залишається неверифікованим. Однак механізм здається досить точним, щоб підтримувати подальші дослідницькі ініціативи, і автори надають чітку можливість викликати або підтверджувати теорію у масштабі.

Закінчення

На даний момент тема ввічливості до споживчих великих мовних моделей підходить або з практичної точки зору, що треновані системи можуть відповідати більш корисно на ввічливі запити; або що неввічливий і прямий стиль спілкування з такими системами ризикує поширення у реальні соціальні відносини користувача через силу звички.

Можливо, великі мовні моделі ще не були широко використані в реальних соціальних контекстах, щоб дослідницька література підтвердила останній випадок; але нова робота кидає деякі цікаві сумніви щодо вигод від антропоморфізму штучних інтелектних систем цього типу.

Дослідження жовтень минулого року з Стенфорду пропонувало (на відміну від дослідження 2020 року) що behandeln великих мовних моделей як людей додатково ризикує знизити значення мови, висновуючи, що “звична” ввічливість врешті-решт втрачає своє первинне соціальне значення:

[Вираз, який здається дружнім або справжнім, якщо його вимовляє людина, може бути нежаданим, якщо його генерує система штучного інтелекту, оскільки остання не має суттєвого зобов’язання чи наміру за цим висловом, тим самим роблячи вислов порожнім і оманливим.’

Однак приблизно 67 відсотків американців кажуть, що вони ввічливі до своїх чат-ботів штучного інтелекту, згідно з опитуванням 2025 року від Future Publishing. Більшість сказало, що це просто “правильно”, тоді як 12 відсотків зізналися, що вони обережні – просто на випадок, якщо машини колись піднімуться.

* Моя конвертація внутрішніх посилань авторів у гіперпосилання. До певної міри гіперпосилання є довільними/прикладними, оскільки автори в деяких місцях посилаються на широкий спектр цитат, а не на окрему публікацію.

Перша публікація – середа, 30 квітня 2025 року. Виправлено середу, 30 квітня 2025 року, 15:29:00, для форматування.