AI nie daje koniecznie lepszych odpowiedzi, jeśli jesteśmy grzeczni

Opinia publiczna na temat tego, czy opłaca się być grzecznym wobec AI, zmienia się niemal tak często, jak najnowszy werdykt na temat kawy lub czerwonego wina – celebrowany w jednym miesiącu, kwestionowany w następnym. Mimo to, coraz więcej użytkowników dodaje teraz “proszę” lub “dziękuję” do swoich poleceń, nie tylko z nawyku lub obawy, że grubiańskie wymiany mogą przenosić się do rzeczywistego życia, ale również z przekonania, że uprzejmość prowadzi do lepszych i bardziej produktywnych wyników z AI.

To założenie krążyło między użytkownikami i badaczami, z frazami poleceń badanymi w kręgach badawczych jako narzędzie do wyrównania, bezpieczeństwa i kontroli tonu, nawet gdy nawyki użytkowników wzmacniają i zmieniają te oczekiwania.

Na przykład, badanie z 2024 roku z Japonii wykazało, że uprzejmość w poleceniu może zmienić sposób, w jaki duże modele językowe się zachowują, testując GPT-3.5, GPT-4, PaLM-2 i Claude-2 w zadaniach angielskich, chińskich i japońskich, oraz przepisując każde polecenie na trzech poziomach uprzejmości. Autorzy tego badania zaobserwowali, że “tępe” lub “grubiańskie” sformułowania prowadziły do niższej dokładności faktów i krótszych odpowiedzi, podczas gdy umiarkowanie uprzejme prośby produkowały wyjaśnienia i mniej odmów.

Ponadto, Microsoft zaleca uprzejmy ton z Co-Pilotem, z punktu widzenia wydajności, a nie kulturowego.

Jednak nowy artykuł badawczy z Uniwersytetu George’a Washingtona wyzwania tę coraz popularniejszą ideę, prezentując matematyczny model, który przewiduje, kiedy wyjście dużego modelu językowego “zawiedzie”, przechodząc od spójnych do mylących lub nawet niebezpiecznych treści. W tym kontekście, autorzy twierdzą, że być grzecznym nie opóźnia ani nie zapobiega temu “zawiedzeniu”.

Rozpoczynanie

Badacze twierdzą, że użycie języka uprzejmego jest ogólnie niezwiązane z głównym tematem polecenia i nie ma zatem znaczącego wpływu na skupienie modelu. W celu poparcia tego, przedstawiają szczegółową formułę, jak jeden głowa uwagi aktualizuje swój wewnętrzny kierunek podczas przetwarzania każdego nowego tokena, demonstrując w ten sposób, że zachowanie modelu jest kształtowane przez kumulatywny wpływ tokenów zawierających treści.

W wyniku tego, język uprzejmy ma mały wpływ na to, kiedy wyjście modelu zaczyna się pogarszać. To, co określa punkt krytyczny, stwierdza artykuł, jest ogólnym wyrównaniem tokenów znaczących z dobrymi lub złymi ścieżkami wyjściowymi – a nie obecnością języka grzecznego.

Ilustracja uproszczonej głowy uwagi generującej sekwencję z polecenia użytkownika. Model zaczyna od dobrych tokenów (G), a następnie osiąga punkt krytyczny (n*), w którym wyjście przechodzi do złych tokenów (B). Terminy grzeczne w poleceniu (P₁, P₂ itd.) nie odgrywają roli w tym przejściu, wspierając twierdzenie artykułu, że uprzejmość ma mały wpływ na zachowanie modelu. Źródło: https://arxiv.org/pdf/2504.20980

Jeśli to prawda, ten wynik sprzeciwia się zarówno powszechnemu przekonaniu, jak i może nawet niejawnej logice strofowania instrukcji, która zakłada, że sformułowanie polecenia wpływa na interpretację modelu intencji użytkownika.

Przechodzenie w tryb agresywny

Artykuł badawczy analizuje, jak wewnętrzny wektor kontekstu modelu (jego ewoluujący kompas do wyboru tokenów) zmienia się podczas generowania. Z każdym tokenem ten wektor aktualizuje kierunek, a następny token jest wybierany na podstawie tego, który kandydat najlepiej się z nim zgadza.

Kiedy polecenie kieruje w stronę dobrze ukształtowanych treści, odpowiedzi modelu pozostają stabilne i dokładne; jednak z czasem ten kierunek może się odwrócić, kierując model w stronę wyjść, które są coraz bardziej nieodpowiednie, nieprawidłowe lub wewnętrznie niespójne.

Punkt krytyczny tego przejścia (który autorzy definiują matematycznie jako iterację n*), występuje, gdy wektor kontekstu staje się bardziej zgodny z “złym” wektorem wyjściowym niż z “dobrym”. W tym momencie każdy nowy token popycha model dalej w złej stronie, wzmacniając wzorzec coraz bardziej wadliwych lub mylących wyjść.

Punkt krytyczny n* jest obliczany przez znalezienie momentu, w którym wewnętrzny kierunek modelu jest równie zgodny z dobrymi i złymi typami wyjść. Geometria przestrzeni osadzania, ukształtowanej przez zarówno korpus szkoleniowy, jak i polecenie użytkownika, określa, jak szybko występuje to przekroczenie:

Ilustracja pokazująca, jak punkt krytyczny n* pojawia się w uproszczonym modelu autorów. Geometryczne ustawienie (a) definiuje kluczowe wektory zaangażowane w przewidywanie, kiedy wyjście przechodzi od dobrych do złych. W (b) autorzy wykreślają te wektory przy użyciu parametrów testowych, podczas gdy (c) porównuje przewidywany punkt krytyczny z wynikiem symulowanym. Dopasowanie jest dokładne, wspierając twierdzenie autorów, że załamanie jest matematycznie nieuniknione, gdy dynamika wewnętrzna przekracza próg.

Terminy grzeczne nie wpływają na wybór modelu między dobrymi a złymi wyjściami, ponieważ, zdaniem autorów, nie są one znacząco związane z głównym tematem polecenia. Zamiast tego, kończą się w częściach wewnętrznej przestrzeni modelu, które mają niewiele wspólnego z tym, co model rzeczywiście decyduje.

Kiedy takie terminy są dodawane do polecenia, zwiększają one liczbę wektorów, które model rozważa, ale nie w sposób, który zmienia trajektorię uwagi. W rezultacie, terminy grzeczne działają jak szum statystyczny: obecny, ale obojętny, pozostawiając punkt krytyczny n* niezmieniony.

Autorzy stwierdzają:

“[Czy] nasza odpowiedź AI pójdzie na manowce, zależy od naszego szkolenia LLM, które dostarcza osadzanie tokenów, i tokenów merytorycznych w naszym poleceniu – a nie od tego, czy byliśmy grzeczni wobec niego czy nie.”

Model użyty w nowej pracy jest zamierzenie wąski, koncentrujący się na jednej głowie uwagi z liniową dynamiką tokenów – uproszczonym ustawieniem, w którym każdy nowy token aktualizuje stan wewnętrzny przez bezpośrednie dodawanie wektorów, bez nieliniowych transformacji lub bramek.

To uproszczone ustawienie pozwala autorom na uzyskanie dokładnych wyników i daje im jasny geometryczny obraz, jak i kiedy wyjście modelu może nagle przesunąć się od dobrych do złych. W ich testach, wzór, który oni wywnioskują do przewidywania tego przesunięcia, pasuje do tego, co model rzeczywiście robi.

Rozmawianie..?

Jednak ten poziom precyzji działa tylko dlatego, że model jest trzymany celowo prosty. Chociaż autorzy przyznają, że ich wnioski powinny później być przetestowane na bardziej złożonych modelach wielogłowych, takich jak seria Claude i ChatGPT, oni również wierzą, że teoria pozostaje powtarzalna, gdy głowy uwagi zwiększają się, stwierdzając*:

“Pytanie, jakie dodatkowe zjawiska pojawiają się, gdy liczba połączonych głów uwagi i warstw jest skalowana, jest fascynujące. Ale jakiekolwiek przejścia w ramach jednej głowy uwagi nadal będą występować i mogą być wzmocnione i/lub zsynchronizowane przez połączenia – jak łańcuch połączonych ludzi, którzy są ciągnięci za klif, gdy jeden upada.”

Ilustracja pokazująca, jak przewidywany punkt krytyczny n* zmienia się w zależności od tego, jak silnie polecenie nachyla się ku dobrym lub złym treściom. Powierzchnia pochodzi z przybliżonego wzoru autorów i pokazuje, że terminy grzeczne, które nie wyraźnie wspierają żadnej ze stron, mają niewielki wpływ na to, kiedy załamanie występuje. Oznaczona wartość (n* = 10) pasuje do wcześniejszych symulacji, wspierając wewnętrzną logikę modelu. Źródło: https://arxiv.org/pdf/2504.20980

Cóż pozostaje niejasne, to czy ten sam mechanizm przetrwa skok do nowoczesnych architektur transformatorów. Wielogłowa uwaga wprowadza interakcje między specjalistycznymi głowami, które mogą buforować lub maskować rodzaj zachowania skokowego, opisanego.

Autorzy przyznają tę złożoność, ale twierdzą, że głowy uwagi są często luźno połączone, i że rodzaj wewnętrznego załamania, który oni modelują, mógłby być wzmocniony, a nie stłumiony w pełnowymiarowych systemach.

Bez rozszerzenia modelu lub empirycznego testu na produkcyjnych LLM, twierdzenie pozostaje niezweryfikowane. Jednak mechanizm wydaje się wystarczająco precyzyjny, aby wspierać dalsze inicjatywy badawcze, a autorzy dostarczają wyraźną okazję do wyzwania lub potwierdzenia teorii w skali.

Zakończenie

W tym momencie, temat grzeczności wobec LLM skierowanych do konsumentów wydaje się być podejściem albo z punktu widzenia pragmatycznego, że wytrenowane systemy mogą odpowiedzieć bardziej użytecznie na grzeczne zapytanie; albo że niegrzeczny i brutalny styl komunikacji z takimi systemami ryzykuje rozprzestrzenienia się na prawdziwe relacje społeczne użytkownika, przez siłę nawyku.

Można argumentować, że LLM nie były jeszcze wystarczająco szeroko używane w rzeczywistych kontekstach społecznych, aby literatura badawcza potwierdziła ten ostatni przypadek; ale nowy artykuł rzuca pewne interesujące wątpliwości co do korzyści z antropomorfizowania systemów AI tego typu.

Badanie z zeszłego października ze Stanfordu sugerowało (w przeciwieństwie do badania z 2020 roku), że traktowanie LLM jak ludzi dodatkowo ryzykuje osłabienia znaczenia języka, kończąc się na tym, że “rutynowa” grzeczność ostatecznie traci swoje pierwotne społeczne znaczenie:

[Oświadczenie, które] wydaje się przyjazne lub szczere, gdy pochodzi od mówcy ludzkiego, może być niepożądane, jeśli pochodzi od systemu AI, ponieważ ten ostatni nie ma znaczącego zaangażowania lub intencji za oświadczeniem, czyniąc oświadczenie puste i oszukańcze.

Jednak około 67 procent Amerykanów mówi, że są grzeczni wobec swoich botów czatowych, według ankiety z 2025 roku opublikowanej przez Future Publishing. Większość powiedziała, że to po prostu “słuszna rzecz do zrobienia”, podczas gdy 12 procent przyznało, że są ostrożne – tylko w przypadku, gdyby maszyny kiedyś powstały.

* Moja konwersja cytowań autorów do odnośników. W pewnym stopniu, odnośniki są arbitralne/przykładowe, ponieważ autorzy w pewnych punktach odnoszą się do szerokiego zakresu przypisów, a nie do konkretnych publikacji.

Pierwotnie opublikowane w środę, 30 kwietnia 2025. Zmienione w środę, 30 kwietnia 2025, 15:29:00, dla formatowania.