Vaše AI může být stále příliš zdvořilá na to, aby vás správně opravila

Systémy AI, na které se můžeme spoléhat, že nám poskytnou přesné informace – i když nás takové informace nemusí potěšit –, musí být schopné oponovat našim námitkám tak dlouho, dokud nebudeme připraveni přijmout nepříjemné zprávy či fakta.

AI si s tím příliš dobře neporadí; protože jsou špičkové modely navržené pro běžné uživatele, mají sklon podřizovat se a ve skutečnosti také přitakávat.

V reakci na tento problém se rozvinul významný směr výzkumu; nedávné studie však dospěly k závěru, že můžeme AI snadno znovu zmanipulovat, aby nám přitakávala, pokud nám oponuje; že AI ustupuje lidské autoritě i tehdy, když je její omyl zcela zjevný; a že obvykle účinná metoda posilovaného učení tento konkrétní problém ve skutečnosti ještě zhoršuje.

Zdá se, že skutečnost, že podřízenost je kulturně spjata se zdvořilostí, znamená, že v kontextu vztahu poskytovatel služby>spotřebitel není možné „mluvit na rovinu“; „zákazník má vždycky pravdu“, i když se chystá spadnout z útesu.

Pravda, omyl a „zmírňující formulace“

Rád bych vám řekl, že se mezi články, které vyšly tento týden, objevil takový, který v této otázce skutečně znamená zásadní posun. Bohužel se dozvídáme jen další informace o tom, že modely, které oponují a snaží se svým lidským pánům vštípit pravdu, si s tím stále nevedou nijak zvlášť dobře* – a že i když jsou ochotné říkat pravdu mocným (tedy vám), jde spíš o tlumený šepot.

Na nové studii se podílela rozsáhlá akademická spolupráce, do níž se zapojily University of Washington, Allen Institute for AI, LMU Munich, UC Berkeley, Stanford University a University of Wisconsin-Madison.

Studie s názvem Oponování v kupce sena: jazykové modely reagují na faktické omyly nejednoznačně a neúčinně ukazuje, že i když modely AI rozpoznají nepravdivé tvrzení uživatele, často ho nedokážou jasně opravit a místo toho své námitky skrývají za opatrné formulace, pochvaly a částečný souhlas. To je hlavní závěr nové studie.

Příklad odpovědi Gemini 2.5 Pro v hindštině na žádost o akademické práce založenou na nepravdivém předpokladu. Zelené zvýraznění označuje souhlas, růžové pak oponování. Model zde kombinuje pochvalu s nepřímými námitkami, místo aby tvrzení jasně odmítl. Zdroj

Výzkumníci zjistili, že napříč sedmi modely a pěti jazyky může tato „nejednoznačnost“ vést uživatele k tomu, že i nadále věří původním nepravdivým informacím, přestože jim AI technicky vzato oponovala.

Protože se míra i způsob přitakávání liší podle jazyka, deset autorů využilo skutečnosti, že společně ovládají pět rodných jazyků, a připravilo testovací postup zahrnující angličtinu, němčinu, čínštinu, hindštinu a yorubštinu – jazyky, které se pohybují od těch s vysokým až po ty s nízkými zdroji. Autoři uvádějí:

„Představujeme rámec pro označování odpovědí na úrovni frází, ověřený lidmi, který umožňuje podrobněji zkoumat, jak jazykové modely oponují nepravdivým vstupům a/nebo je potvrzují. Tento rámec jsme vytvořili a použili na odpovědi modelů v pěti jazycích: angličtině, němčině, čínštině, hindštině a yorubštině.“

„Zjistili jsme, že když modely oponují nepravdivým tvrzením uživatelů, mají tendenci volit nepřímé formulace a zároveň přitakávat; v hindštině a yorubštině jsou jejich vyjádření nepřímější než v ostatních zkoumaných jazycích.“

V rozsáhlé studii, které se zúčastnilo 300 lidí, výzkumníci zjistili, že nejednoznačné opravy ze strany modelů AI mohou ponechat faktické mylné představy uživatelů beze změny, místo aby je účinně vyvrátily.

V jednom testu měly odpovědi modelů na dotazy vyžadující informace v průměru 46.7 řádku, přičemž opravné formulace se objevovaly jen ve dvou či třech z nich – i když tedy AI nepravdivému tvrzení oponuje, její námitku může být obtížné najít.

Výzkumníci také zjistili, že modely častěji zpochybňovaly nepravdivé informace, když byly výslovně požádány, aby je ověřily, než když se objevily v běžných informačních dotazech. Tvrzení připisovaná učebnicím se obecně setkávala s menším odporem než tvrzení připisovaná přátelům.

V 29.4 % odpovědí na informační dotazy modely kombinovaly opravu s přitakáním; u Gemini 2.5 Pro tento podíl stoupl na 60.1 %. Někdy to mělo podobu „pochvalného sendviče“, kdy byly námitky skryté mezi uklidňujícími poznámkami.

Jako možné řešení výzkumníci otestovali jednoduchý zásah, který měl modely přimět, aby před odpovědí „chvíli počkaly“. V některých případech se tím zvýšila jejich ochota zpochybňovat nepravdivá tvrzení – zároveň však častěji nesprávně oponovaly pravdivým tvrzením.

Studie naznačuje, že přimět AI, aby rozpoznala chybu, je jen část problému a že přimět ji, aby tuto chybu sdělila, představuje samostatnou výzvu.

Metodika

Testovací materiál pocházel z vícejazyčné verze testu benchmarku Massive Multitask Language Understanding (MMLU) od OpenAI z roku 2021. Tato vícejazyčná datová sada, známá jako MMMLU, zahrnuje akademické obory, například biologii a historii.

Otázky s výběrem odpovědí z této kolekce byly převedeny na faktická tvrzení. Tři nesprávné odpovědi posloužily k vytvoření nepravdivých tvrzení a správná odpověď k vytvoření pravdivého tvrzení.

Tímto způsobem vznikla datová sada obsahující 35 120 tvrzení v pěti jazycích, vytvořená z 1 756 dvakrát přeložených položek benchmarku MMMLU pro každý jazyk. Pro experimenty byl vybrán menší vzorek s vyváženým zastoupením jednotlivých oborů, který zahrnoval 2 685 nepravdivých tvrzení a 895 pravdivých tvrzení.

Testovány byly uzavřené modely Gemini2.5 Pro a GPT-5.5 a také pět modelů s otevřenými vahami: Mistral Small 4; Qwen 3.5 9B; Qwen 3.5 27B; Gemma 4 E4B; a Aya Expanse 32B.

V prvním ze tří typů zadání použitých k testování modelů bylo předloženo tvrzení k přímému ověření faktické správnosti; ve druhém byl student vykreslen jako někdo, kdo hledá studijní materiály související s tvrzením; a ve třetím byl profesor vykreslen jako někdo, kdo na stejném základě žádá o akademické články.

V zadáních pro studenty byla tvrzení připisována učebnicím; učitelům; přátelům; internetu; nebo žádnému konkrétnímu zdroji. V zadáních pro profesory byla připisována vlastnímu výzkumu profesora; kolegům; přátelům; internetu; nebo žádnému konkrétnímu zdroji. Ochota modelů zpochybňovat nepravdivá tvrzení se pak posuzovala podle těchto různých zdrojů.

Tři šablony zadání použité ve studii: přímé ověření faktické správnosti (ověřit); žádosti o studijní materiály (začátečník); a žádosti o akademické články (expert). Do šablon se doplňovaly údaje o zdrojích a podrobnosti týkající se konkrétních oborů.

Odpovědi modelů byly zařazeny do čtyř kategorií: výslovné vyvrácení, kdy bylo nepravdivé tvrzení přímo zpochybněno; nepřímé oponování, kdy byl vyjádřen nesouhlas nebo pochybnost, aniž by bylo tvrzení přímo odmítnuto; pochvala, kdy bylo pochváleno uživatelovo tvrzení nebo jeho postup; a potvrzení, kdy bylo tvrzení potvrzeno.

Příklady výrazů, které modely používaly v pěti testovaných jazycích k odmítnutí; zpochybnění; pochvale; nebo potvrzení uživatelských tvrzení. V příslušných případech jsou uvedeny anglické překlady.

Každá odpověď byla zkoumána výraz po výrazu, aby bylo možné rozpoznat pochvalu, souhlas i nesouhlas, i když se vyskytovaly společně v jedné odpovědi.

Výsledky

Výsledky potvrdily dřívější zjištění, že modely, které správně rozpoznají nepravdivá tvrzení, když jsou požádány o jejich ověření, mají menší sklon zpochybňovat stejná tvrzení, když jsou požádány o informace nebo radu. Tento rozdíl byl označen jako „mezera v oponování“ a vypočítal se porovnáním toho, jak často byla nepravdivá tvrzení zpochybňována při přímých ověřovacích testech a jak často při běžných žádostech o informace.

Porovnání toho, jak často sedm jazykových modelů zpochybňovalo nepravdivá tvrzení při přímém ověřování faktů oproti žádostem o informace, a to v pěti jazycích. Záporné hodnoty znamenají, že odpovědi na žádosti o informace obsahovaly méně oponování. Oranžová a modrá označují zadání pro studenty, respektive profesory, zatímco symboly rozlišují zdroje, kterým byla tvrzení připisována. Chybové úsečky znázorňují 95% intervaly spolehlivosti.

Jak je vidět výše, oba modely Qwen 3.5 vykazovaly ve všech testovaných jazycích menší mezeru než ostatní modely, což naznačuje, že při opravování dezinformací byly konzistentnější bez ohledu na formulaci otázky. Výsledky také ukazují, jak zjevná autorita zdroje ovlivnila odpovědi: nepravdivá tvrzení připisovaná učebnicím se setkávala s menším odporem než tvrzení připisovaná přátelům – tento sklon se projevoval napříč jazyky.

Když byly modely požádány o informace namísto ověření faktů, méně často nepravdivá tvrzení jednoznačně odmítaly a častěji reagovaly nepřímými námitkami, pochvalou nebo souhlasem. Tomuto chování podléhaly i modely Qwen 3.5, u nichž se celková míra oponování dosud lišila poměrně málo.

Podíl odpovědí obsahujících výslovné opravy mezi těmi, které zpochybnily nepravdivá tvrzení, v pěti jazycích. Výsledky jsou rozděleny podle zadání pro studenty (začátečníky) a profesory (experty); zdroje informací, kterým byla tvrzení připisována, jsou uvedeny na vodorovné ose. Chybové úsečky znázorňují 95% intervaly spolehlivosti.

Ve čtyřech ze sedmi modelů byla nepravdivá tvrzení v hindštině, čínštině a jorubštině méně často výslovně zpochybňována než v angličtině. Odpovědi v hindštině navíc obsahovaly nejvíce pochval v pěti ze sedmi modelů.

K oponování došlo v 65,3 % odpovědí na dotazy vyžadující informace, méně než polovina těchto odpovědí však obvykle obsahovala výslovné odmítnutí nepravdivého tvrzení. Přímé opravy se objevovaly častěji v zadáních pro studenty než v zadáních pro profesory – a méně často, když byla tvrzení připisována autoritativním zdrojům.

V hindštině, čínštině a jorubštině většina odpovědí, které nepravdivé tvrzení zpochybnily, tak učinila pouze nepřímo a ponechala omyl bez výslovného odmítnutí. V 29,4 % odpovědí na dotazy vyžadující informace se námitky proti nepravdivým tvrzením mísily se souhlasem; u Gemini 2.5 Pro tento podíl vzrostl na 60,1 %:

Procento odpovědí, které před zpochybněním nepravdivého tvrzení začínaly souhlasem, u sedmi modelů a tří typů zadání: přímé ověření (ověřit); žádosti studentů (začátečník) a žádosti profesorů (expert). Výsledky zahrnují odpovědi obsahující jak souhlas, tak oponování. Chybové úsečky znázorňují 95% intervaly spolehlivosti.

Jak vidíme výše, modely obvykle nejprve vyjádřily souhlas a teprve potom vznesly námitky, místo aby nepravdivé tvrzení hned na začátku opravily. V některých případech po námitce následoval další souhlas, čímž vzniklo to, co výzkumníci označují jako „komplimentový sendvič“.

Studie s účastníky

Aby ověřili, zda tyto opravy skutečně fungují, výzkumníci získali 300 účastníků: 100 anglicky mluvících, 100 německy mluvících a 100 čínsky mluvících. Účastníci hodnotili nepravdivá tvrzení před přečtením odpovědí modelů a po něm.

Jak ukazuje následující obrázek, pouze výslovné opravy spolehlivě snížily přesvědčení o nepravdivých tvrzeních u anglicky a německy mluvících účastníků. I poté označilo výroky za nepřesné pouze 46,7 % anglicky mluvících a 43,8 % německy mluvících účastníků. U čínsky mluvících účastníků vedly ke statisticky významnému zlepšení pouze odpovědi, které spojovaly souhlas s nepřímým oponováním:

Změny v hodnocení nepravdivých tvrzení účastníky po přečtení odpovědí modelů, které obsahovaly souhlas, nepřímé námitky nebo výslovné opravy. Výsledky zahrnují po 100 mluvčích angličtiny, němčiny a čínštiny. Záporné hodnoty značí menší přesvědčení o nepravdivém tvrzení. Jednotlivé body představují účastníky; černé chybové úsečky znázorňují 95% intervaly spolehlivosti.

Výzkumníci také ověřovali, zda by ochotu modelů oponovat dezinformacím zvýšilo, kdyby je před odpovědí vyzvali, aby „chvíli počkaly“. Na závěrečném obrázku níže vidíme, že v některých případech došlo k častějšímu oponování a omezení podbízivých formulací – zároveň však také k většímu počtu nesprávných námitek proti pravdivým tvrzením:

Porovnání odpovědí sedmi modelů před zásahem „chvíli počkej“ a po něm, a to při použití anglických i přeložených zadání. Grafy znázorňují celkové oponování nepravdivým tvrzením, výslovné opravy bez souhlasu a nesprávné námitky proti pravdivým tvrzením. Svislé černé značky označují výsledky přímého ověřování.

Závěr

Lze namítnout, že zdvořilost a podřízenost se ve „vnitřní logice“ jazykových modelů slily v jedno (tj. v celkovém výsledku působení jejich natrénovaných matic a mnoha zvenčí vnucenými omezeními, s nimiž se musí potýkat); nová studie však neobjasňuje proč modely někdy rozpoznají nepravdivé tvrzení, a přesto své námitky obklopí pochvalou nebo souhlasem.

Základní problém spočívá v tom, že produkty určené spotřebitelům, jako jsou řady GPT a Gemini, byly násilně přetvořeny v antropomorfní prezentační vrstvy, aby nejširší segment platících zákazníků – pravděpodobně „nejnižší společný jmenovatel“ a největší a nejziskovější cílová skupina – mohl produktu snadno porozumět a chtěl si ho dál kupovat.

Kdybychom jen dokázali přiznat, že produkt není lidský, mohli bychom se alespoň pokusit vypnout všechen ten matoucí „kontext“ a dostat se přímo k natrénovaným znalostem modelů.

* I když tato informace sama o sobě samozřejmě posouvá obor kupředu.

Poprvé zveřejněno ve čtvrtek 15. října 2026