LLM nejsou schopny rozumět — jsou pouze velmi dobré v plánování

Velké jazykové modely (LLM) jako OpenAI’s o3, Google’s Gemini 2.0 (GOOGL ) a DeepSeek’s R1 ukázaly pozoruhodný pokrok v řešení složitých problémů, generování textů podobných těm, které píšou lidé, a dokonce i v psaní kódu s přesností. Tyto pokročilé LLM jsou často označovány jako “modely schopné rozumět” pro jejich pozoruhodné schopnosti analyzovat a řešit složitými problémy. Ale skutečně tyto modely rozumět, nebo jsou pouze výjimečně dobré v plánování? Tento rozdíl je jemný, ale hluboký, a má významné důsledky pro to, jak rozumíme schopnostem a omezením LLM.

Chcete-li pochopit tento rozdíl, srovnejme dva scénáře:

• Rozumění: Detektiv, který vyšetřuje zločin, musí složit dohromady protichůdné důkazy, odhadnout, které z nich jsou falešné, a dospět k závěru na základě omezených důkazů. Tento proces zahrnuje odvozování, řešení protichůdností a abstraktní myšlení.
• Plánování: Šachista, který vypočítává nejlepší posloupnost tahů, aby porazil svého soupeře.

Zatímco oba procesy zahrnují několik kroků, detektiv se zabývá hlubokým rozuměním, aby odvodil závěry, vyřešil protichůdnosti a aplikoval obecné zásady na konkrétní případ. Šachista se naopak zabývá především plánováním, výběrem optimální posloupnosti tahů, aby vyhrál hru. LLM, jak uvidíme, fungují mnohem více jako šachista než jako detektiv.

Pochopení rozdílu: Rozumění vs. Plánování

Abychom pochopili, proč LLM jsou dobré v plánování spíše než v rozumění, je důležité nejdříve pochopit rozdíl mezi oběma termíny. Rozumění je proces odvozování nových závěrů z daných premis pomocí logiky a odvozování. Zahrnuje identifikaci a opravu nesrovnalostí, generování nových poznatků spíše než pouze poskytování informací, rozhodování v nejednoznačných situacích a zapojení do kauzálního chápání a kontrafaktického myšlení, jako je například “Co kdyby” scénáře.

Plánování se naopak zaměřuje na strukturování posloupnosti akcí k dosažení konkrétního cíle. Spočívá v rozdělení složitých úkolů na menší kroky, následování známých strategií řešení problémů, přizpůsobení dříve naučených vzorců podobným problémům a provádění strukturovaných sekvencí spíše než odvozování nových poznatků. Zatímco obě rozumění a plánování zahrnují postupné zpracování, rozumění vyžaduje hlubší abstrakci a odvozování, zatímco plánování následuje zavedené postupy bez generování fundamentálně nových znalostí.

Jak LLM přistupují k “Rozumění”

Moderní LLM, jako je OpenAI’s o3 a DeepSeek-R1, jsou vybaveny technikou nazývanou Chain-of-Thought (CoT) rozumění, aby vylepšily své schopnosti řešení problémů. Tato metoda podporuje modely, aby rozložily problémy na mezilehlé kroky, napodobují, jak lidé myslí logicky. Chcete-li vidět, jak to funguje, zvažte jednoduchý matematický problém:

Jestliže obchod prodává jablka za 2 dolary každé, ale nabízí slevu 1 dolar za jablko, pokud koupíte více než 5 jablek, kolik by stálo 7 jablek?

Typický LLM pomocí CoT prompting by mohl tento problém vyřešit takto:

1. Určete běžnou cenu: 7 * 2 = 14.
2. Určete, zda se uplatňuje sleva (protože 7 > 5).
3. Vypočítejte slevu: 7 * 1 = 7.
4. Odstraňte slevu z celkové ceny: 14 – 7 = 7.

Tím, že explicitně rozloží posloupnost kroků, model minimalizuje šanci na chyby, které vznikají z pokusu o předpověď odpovědi najednou. Zatímco tento krok za krokem rozklad dělá LLM vypadat, jako by rozuměly, je to ve skutečnosti forma strukturovaného řešení problémů, podobně jako následování receptu. Na druhé straně skutečný rozumění proces by mohl rozpoznat obecné pravidlo: Jestliže se sleva uplatňuje nad 5 jablek, pak každé jablko stojí 1 dolar. Člověk může toto pravidlo okamžitě odvodit, ale LLM nemůže, protože prostě následuje strukturovanou posloupnost výpočtů.

Proč Chain-of-thought je Plánování, ne Rozumění

Zatímco Chain-of-Thought (CoT) vylepšil výkon LLM na logicky orientovaných úkolech, jako jsou matematické problémy a výzvy v oblasti kódování, nezahrnuje skutečné logické rozumění. To je způsobeno tím, že CoT následuje procedurální znalosti, spoléhající se na strukturované kroky spíše než generování nových poznatků. Chybí mu skutečné pochopení kauzality a abstraktních vztahů, což znamená, že model se nezabývá kontrafaktickým myšlením nebo zvažováním hypotetických situací, které vyžadují intuici za hranicemi viděných dat. Kromě toho CoT nemůže fundamentálně změnit svůj přístup za hranicemi vzorců, na kterých byl vyškoleno, omezující jeho schopnost rozumět tvořivě nebo přizpůsobit se v neznámých scénářích.

Co by bylo potřeba, aby LLM se staly Skutečnými Rozumějícími Strojů

Tak co LLM potřebují, aby skutečně rozuměly jako lidé? Zde jsou některé klíčové oblasti, ve kterých vyžadují zlepšení a potenciální přístupy k dosažení toho:

1. Symbolické Chápání: Lidé rozumějí manipulací abstraktních symbolů a vztahů. LLM, nicméně, postrádají skutečný mechanismus symbolického rozumění. Integrace symbolického AI nebo hybridních modelů, které kombinují neuronové sítě s formálními logickými systémy, by mohla zlepšit jejich schopnost zapojit se do skutečného rozumění.
2. Kauzální Odvozování: Skutečné rozumění vyžaduje pochopení příčiny a účinku, ne pouze statistických korelací. Model, který rozumí, musí odvodit základní principy z dat spíše než pouze předpovídat další token. Výzkum do kauzálního AI, který explicitně modeluje příčinné vztahy, by mohl pomoci LLM přecházet z plánování na rozumění.
3. Sebe-Reflexe a Metakognice: Lidé neustále hodnotí své vlastní myšlenkové procesy tím, že se ptají “Zdá se, že tento závěr má smysl?” LLM, na druhé straně, nemají mechanismus pro sebe-reflexi. Budování modelů, které mohou kriticky hodnotit své vlastní výstupy, by bylo krokem směrem ke skutečnému rozumění.
4. Obecný Smysl a Intuice: I když LLM mají přístup k velkému množství znalostí, často bojují se základním rozuměním zdravého rozumu. To se děje, protože nemají reálné zkušenosti, které by formovaly jejich intuici, a nemohou snadno rozpoznat absurdity, které by lidé okamžitě rozpoznali. Také postrádají způsob, jak přivést reálné dynamiky do svého rozhodování. Jedním ze způsobů, jak zlepšit to, by mohlo být budování modelu s motorem zdravého rozumu, který by mohl zahrnovat integraci reálných senzorických vstupů nebo použití znalostních grafů, aby model lépe pochopil svět, stejně jako lidé.
5. Kontrafaktické Myšlení: Lidské rozumění často zahrnuje otázky, “Co kdyby věci byly jiné?” LLM bojují s těmito typy “co kdyby” scénáři, protože jsou omezeny daty, na kterých byly vyškoleno. Aby modely myslely více jako lidé v těchto situacích, musely by simulovaly hypotetické scénáře a pochopit, jak změny proměnných mohou ovlivnit výsledky. Musely by mít také způsob, jak testovat různé možnosti a získat nové poznatky, spíše než pouze předpovídat na základě toho, co již viděly. Bez těchto schopností LLM nemohou skutečně představovat si alternativní budoucnost — mohou pouze pracovat s tím, co se naučily.

Závěr

Zatímco LLM mohou vypadat, jako by rozuměly, ve skutečnosti spoléhají na plánovací techniky pro řešení složitých problémů. Bez ohledu na to, zda řeší matematický problém nebo se zabývají logickým odvozováním, jsou primárně organizovány známé vzorce v strukturovaném způsobem spíše než hluboce chápají principy, které za nimi stojí. Tento rozdíl je zásadní v oblasti výzkumu AI, protože pokud mylně považujeme sofistikované plánování za skutečné rozumění, riskujeme, že přeháníme skutečné schopnosti AI.

Cesta ke skutečnému rozumění AI bude vyžadovat fundamentální pokroky za hranicemi předpovědi tokenů a probabilistického plánování. Bude vyžadovat průlomy v symbolické logice, kauzálním chápání a metakognici. Dokud nebude dosaženo těchto pokroků, LLM zůstanou mocnými nástroji pro strukturované řešení problémů, ale nebudou skutečně myslet způsobem, jakým to dělají lidé.