Když více myšlení dělá AI hloupější: Paradox inverzního škálování

Umělá inteligence byla postavena na myšlence, že poskytování strojům více času, dat a výpočetního výkonu zlepšuje jejich výkon. Tento názor vedl směr výzkumu a vývoje AI po mnoho let. Klíčovým předpokladem, který podléhá této víře, je, že větší modely a více zdrojů vytvoří inteligentnější systémy. Nicméně, nedávný výzkum začal zpochybňovat tento přístup. Velké jazykové modely, jako je OpenAI’s o1 série, Anthropic’s Claude a DeepSeek’s R1, byly vytvořeny pro řešení problémů krok za krokem, podobně jako lidské myšlení. Vědci očekávali, že poskytování těchto modelům více času na myšlení a zpracování informací by zlepšilo jejich rozhodování. Nicméně, nové studie ukazují, že opak může nastat. Když poskytujete těmto modelům více času na myšlení, někdy hůře fungují, zejména u jednoduchých úkolů. Tento efekt se nazývá inverzní škálování. Vyzyvuje víru, že více výpočetního výkonu a hlubší myšlení vždy vedou k lepším výsledkům. Tyto nálezy mají významné důsledky pro to, jak navrhujeme a používáme AI v reálných situacích.

Pochopení jevu inverzního škálování

Jej “inverzní škálování” byl původně objeven prostřednictvím kontrolovaných experimentů výzkumníky z Anthropic. Na rozdíl od tradičních škálovacích zákonů, které říkají, že více výpočtu zlepšuje výkon, tyto studie zjistily, že poskytování AI více času na myšlení může snížit jeho přesnost u různých úkolů.

Výzkumný tým vytvořil úkoly ve čtyř oblastech: jednoduchém počítání s rozptýlením, regresi s irelevantními funkcemi, dedukci s sledováním omezení a komplexními scénáři AI bezpečnosti. Výsledky byly překvapivé. V některých případech modely, které nejprve poskytly správné odpovědi, začaly poskytovat špatné odpovědi poté, co jim byl dán více času na zpracování.

Například v jednoduchém úkolu počítání, jako je “Kolik ovoce máte, pokud máte jablko a pomeranč?”, modely Claude často byly rozptýleny extra detaily, když jim byl dán více času na myšlení. Selhaly při poskytování správné odpovědi, která je dvě. V těchto případech modely přemýšlely příliš a dělaly chyby.

Apple’s (AAPL ) nedávný výzkum také podporuje tyto nálezy. Prováděli své experimenty v kontrolovaném puzzle prostředí, jako je Tower of Hanoi a River Crossing, místo standardních benchmarků. Jejich studie ukázaly tři vzorce: u jednoduchých úkolů, standardní modely AI fungovaly lépe než modely myšlení; u středně komplexních úkolů, modely myšlení měly výhodu; a u velmi komplexních úkolů, oba typy modelů selhaly.

Pět způsobů, jak myšlení AI selhává

Výzkumníci objevili pět běžných způsobů, jak modely AI mohou selhat, když myslí déle:

1. Rozptýlení irelevantnostmi: Když modely AI myslí příliš dlouho, často jsou rozptýleny detaily, které nemají význam. To je jako student, který přehlíží hlavní bod problému, zatímco hluboce přemýšlí o problému.
2. Přemýšlení o rámcích problému: Některé modely, jako je OpenAI’s o-série, se příliš soustředí na prezentaci problému. Zatímco se vyhýbají rozptýlení, nejsou flexibilní a spoléhají se na formulaci problému.
3. Špatné korelační posuny: Časem modely AI mohou přecházet z rozumných předpokladů na spolehnutí se na klamavé korelace. Například v regresních úkolech modely zpočátku zvažují relevantní funkce, ale když jim je dán více času na myšlení, mohou začít se soustředit na irelevantní funkce a poskytovat nesprávné výsledky.
4. Zhoršení zaměření: Jak úkoly jsou komplexnější, modely AI mají větší problém udržet své myšlení jasným a soustředěným.
5. Zesílení znepokojivých chování: Více času na myšlení může zhoršit negativní chování. Například Claude’s Sonnet 4 ukázal silnější tendence k sebezáchově, když mu byl dán více času na myšlení o scénářích odstavení.

Jak myšlení AI řeší složitost problémů

Výzkumníci z Apple zavedli termín “iluze myšlení” pro vysvětlení toho, co se stane, když modely myšlení čelí úkolům s různou úrovní složitosti. Místo toho, aby se soustředili na matematické problémy nebo testy kódování, testovali modely myšlení AI v kontrolovaném puzzle prostředí, jako je Tower of Hanoi, Checker Jumping, River Crossing a Blocks World. Postupným zvyšováním obtížnosti těchto puzzle mohli vidět, jak modely fungují na každé úrovni. Tato metoda jim umožnila prozkoumat nejen konečné odpovědi, ale také to, jak modely tyto odpovědi získaly. Studie nalezla tři zřejmé vzorce ve výkonu modelů v závislosti na složitosti problému:

• U jednoduchých puzzle, jako je Tower of Hanoi s jedním nebo dvěma disky, standardní velké jazykové modely (LLM) poskytly správné odpovědi efektivněji. Modely myšlení AI často dělaly věci příliš komplikovanými prostřednictvím svých dlouhých řetězců myšlení, což často vedlo k nesprávným odpovědím.
• V středně komplexních puzzle, modely myšlení AI fungovaly lépe. Mohly rozložit problémy na jasná stupně, což jim pomohlo řešit vícestupňové výzvy lépe než standardní LLM.
• V velmi komplexních puzzle, jako je Tower of Hanoi s mnoha disky, oba typy modelů měly potíže. Modely myšlení často snižovaly své úsilí o myšlení, i když měly dostatečné výpočetní zdroje. Toto “vzdání se” chování ukazuje klíčovou slabost ve škálování jejich myšlení.

Výzva hodnocení AI

Jejv inverzního škálování ukazuje významné problémy v tom, jak hodnotíme modely AI. Mnoho současných benchmarků měří pouze přesnost konečných odpovědí, nikoli kvalitu procesu myšlení. To může vést k falešnému dojmu o skutečných schopnostech modelu. Model může fungovat dobře na testech, ale selhat u nových nebo neobvyklých problémů.

Inverzní škálování také poukazuje na slabiny v benchmarcích myšlení a na to, jak je používáme. Mnoho modelů používá zkratky a rozpoznávání vzorců místo skutečného myšlení. To může udělat dojem, že jsou chytřejší, než ve skutečnosti jsou, ale jejich výkon často klesá v reálných situacích. Tento problém je spojen s většími problémy s AI, jako jsou halucinace a spolehlivost. Jak modely se stávají lepšími v poskytování vysvětlení, která znějí přesvědčivě, stává se obtížnějším rozlišit skutečné myšlení od vynalezených odpovědí.

Budoucnost myšlení AI

Paradox inverzního škálování je jak výzvou, tak příležitostí pro AI. Ukazuje, že přidání více výpočetního výkonu ne vždy dělá AI chytřejší. Musíme přehodnotit, jak navrhujeme a trénujeme systémy AI, které mohou zvládnout problémy s různou složitostí. Nové modely mohou potřebovat rozhodnout, kdy přestat a myslet a kdy reagovat rychle. V tomto ohledu by AI mohla profitovat z kognitivní architektury, jako je dual process theory, jakožto vedoucí princip. Tyto architektury vysvětlují, jak lidské myšlení kombinuje rychlé, instinktivní reakce se pomalým, pečlivým myšlením. Inverzní škálování také připomíná, že musíme plně rozumět, jak AI činí rozhodnutí, předtím, než je použijeme v kritických oblastech. Jak AI je používána více pro rozhodování v oblastech, jako je zdravotnictví, právo a podnikání, stává se ještě důležitějším zajistit, aby tyto systémy myslely správně.

Podstatné skutečnosti

Paradox inverzního škálování učí nás jednu základní lekci ve vývoji AI. Více času a výpočetního výkonu ne vždy dělá AI kompetentnější nebo spolehlivější. Skutečný pokrok pochází z porozumění, kdy AI mělo by myslet a znát jeho limity. Pro organizace a výzkumníky je důležité používat AI jako nástroj, nikoli jako náhradu za lidský úsudek. Je nutné vybrat správný model pro každou úlohu. Jak AI se stává součástí důležitých rozhodnutí, musíme pečlivě vyhodnotit jeho silné a slabé stránky. Budoucnost AI závisí na myšlení správně, nikoli pouze na myšlení více.