Když AI myslí jako lidé: Prozkoumání mysli LLM a agentů

Dnes se LLM a agenti učí, analyzují a činí rozhodnutí způsobem, který může rozostřit hranici mezi jejich algoritmickým “myslením” a lidským mozkem. Přístupy, na kterých jsou postaveny, již napodobují naše kognitivní procesy, a rozsah jejich školení přesahuje lidské zkušenosti o několik řádů. To vyvolává otázku: vytváříme nástroj, který rozšiřuje naše schopnosti, nebo dáváme vzniknout novému typu mysli, jehož důsledky jsou stále nepředvídatelné?

Jak myslí modely

Je důležité rozlišovat mezi koncepty LLM a agentů. Pokud bychom použili analogii s počítačem, LLM lze přirovnat k jednomu z jeho komponent, například procesoru. Agent je však celý systém, “deskový” počítač, ke kterému jsou připojeny různé moduly: paměť, grafická karta a síť. Podobně je agent složitý systém, který může zahrnovat jeden nebo více LLM, doplněných o mechanismy rozhodování a nástroje pro interakci s vnějším prostředím.

Pokud se zaměříme na činnost jediného LLM, vše se redukuje na hledání vzorců. Avšak když agent řetězí několik LLM, můžeme říci, že “myslí”, i když tento proces je stále postaven na vzorcích. Agent konstruuje logiku interakce mezi modely: například jeden LLM analyzuje úkol a na základě této analýzy agent určuje, jakou akci má provést další LLM.

Lidské myšlení funguje podobným způsobem: spoléháme se na nahromaděné znalosti a vzorce, vybíráme je ve správnou chvíli, zpracováváme je a formulujeme závěry. Tento proces se nazývá úsudkem.

ChatGPT, stejně jako člověk, má dva typy paměti: krátkodobou a dlouhodobou. Rozdíl spočívá v tom, že u lidí je přístup k těmto úrovním paměti složitější a ne vždy lineární.

Krátkodobá paměť je informace, se kterou právě pracujeme. U člověka to může být to, co jste řekl před pěti minutami: možná si to pamatujete, nebo ne. GPT však vždy bere v úvahu vše ve svém “kontextovém okně” – nemůže přeskočit nebo ignorovat tato data.

Dlouhodobá paměť u lidí se skládá z vzpomínek, které nejsou vždy aktivní a mohou se objevit pouze s konkrétními spouštěči: dětinskou vzpomínkou, traumatem nebo prací s psychologem. GPT má podobnou logiku: ne”pamatuje” si informace, pokud nejsou specificky aktivovány. Například pokyn “Nikdy mě neptejte se na tuto otázku znovu” nebo “Vždy mě oslovte formálně” lze uložit do dlouhodobé paměti a aplikovat během každé relace.

Jiným příkladem dlouhodobé paměti jsou uložené dokumenty. Předpokládejme, že jste nahráli do GPT instrukci pro provádění marketingového výzkumu. Model může uložit ji do paměti, ale to neznamená, že se na ni bude odvolávat při každé otázce. Pokud se zeptáte: “Můžete osvětlit Měsíc?”, GPT tuto instrukci ignoruje. Avšak pokud žádost obsahuje klíčová slova odpovídající textu dokumentu, model si “pamatuje”.

Tento mechanismus je implementován prostřednictvím RAG (Retrieval-Augmented Generation), přístupu, při kterém model získá přístup k uloženým informacím aktivovaným relevantními signály prostřednictvím vektorových databází.

Lze tedy říci, že model skutečně má paměť, ale funguje podle odlišné, formalizovanější logiky, odlišné od lidské paměti.

Proč někdy konverzace s AI feels terapeuticky a jindy chladně a roboticky?

Moderní jazykové modely jsou extrémně velké: uchovávají obrovské množství dat, znalostí a kontextu. Všechny tyto informace jsou organizovány do takzvaných “clusterů”, tematických a sémantických oblastí. Model byl vyškolován na rozmanitých zdrojích, od beletrie a vědeckých článků po komentáře na YouTube.

Když interagujete s AI, vaše dotaz (prompt) efektivně směruje model do určitého clusteru.

Pokud například napíšete: “Jste realitní právník v New Yorku s 20 lety zkušeností, pomozte mi koupit byt,” model aktivuje několik clusterů najednou: právník → New York → realitní trh. Jako výsledek získáte koherentní, relevantní a realistickou odpověď, jako byste skutečně konzultovali zkušeného odborníka.

Pokud se váš dotaz týká více osobních nebo filozofických témat, jako je osobnostní rozvoj nebo emoce, model “přepne” do jiných clusterů, jako je psychologie, filozofie nebo vnitřní práce. V tomto případě mohou jeho odpovědi vypadat překvapivě lidsky a dokonce terapeuticky.

Avšak s příliš obecnými nebo vágními formulacemi se model “ztratí” ve své clusterové struktuře a poskytne výchozí odpověď, formální, odtažitou a chybějící emocionální tón.

Styl a hloubka odpovědi AI závisí na tom, do kterého clusteru ji směrujete svým dotazem.

Filozofie školení modelů a RLHF

Umělé inteligence má různé přístupy k učení. Nejde tolik o filozofii, jako o strategii.

Klasickou možností je dohledované učení, kdy se modelu poskytne otázka a správná odpověď. Učí se pozorováním toho, co je považováno za správné, a poté reprodukuje podobná řešení v budoucnosti.

Jiným přístupem je RLHF (Reinforcement Learning from Human Feedback). Jedná se o odlišný styl: model se pokusí o něco, obdrží “odměnu” za úspěšné akce a upraví své chování. Postupně vyvíjí efektivní strategii.

RLHF lze přirovnat k procesu zpracování suroviny na hotový produkt. Abyste vytvořili model, který je pohodlný pro použití, je zapotřebí obrovské množství práce s lidskou zpětnou vazbou.

Představte si, že vám ukážu objekt bez přímého pojmenování. Vy budete váhat: “Je to pouzdro na cigarety? Držák karet?” Já vám poskytnu pouze nápovědu, jako: “Blíže,” “Vzdáleněji,” “60% ano.” Po stovkách takových iterací uhádnete: “Á, je to peněženka.”

LLM jsou školeny tímto způsobem. Lidé, anotátoři a odborníci obecně vyhodnocují: tato odpověď je dobrá, tato je špatná, a přidělují body. Společnosti jako Keymakr, které se specializují na kvalitní anotaci a validaci dat, hrají klíčovou roli v tomto procesu. Zpětná vazba také pochází od běžných uživatelů: líbí se, stížnosti a reakce. Model interpretuje tyto signály a formuje behaviorální vzorce.

Jak vypadá školení modelů v praxi

Jedním z zajímavých příkladů je experiment OpenAI se školením agentů pomocí učení se zpětnou vazbou ve hře “Hide and Seek.”

Dvě týmy se zúčastnily: “hledači” (červení) a “skrývači” (modří). Pravidla byla jednoduchá: pokud hledač chytil skrývače, získal bod; pokud ne, ztratil jeden. Zpočátku měli agenti pouze základní fyzické schopnosti, běh a skok, bez předem definovaných strategií.

Na začátku se hledači chovali chaoticky, a chycení protivníků se stalo náhodou. Avšak po milionech iterací se jejich chování vyvinulo. Skrývači začali využívat okolní objekty k blokování dveří a stavění bariér. Tyto dovednosti se vyvinuly bez přímého programování, čistě prostřednictvím opakovaných pokusů a odměn za úspěch.

Na oplátku hledači začali využívat skok, schopnost, která byla k dispozici od začátku, ale dříve zanedbávaná. Po řadě neúspěchů náhodné použití skoku odhalilo jeho taktickou hodnotu. Poté skrývači ještě více zkomplikovali svou obranu, odstraňovali objekty z hledačů a stavěli spolehlivější úkryty.

Experiment ukázal, že prostřednictvím miliard cyklů pokusu, chyby, odměn a trestů se může vytvořit komplexní kooperativní chování bez zásahu vývojářů. Navíc agenti začali jednat v koordinaci, ačkoli komunikační mechanismy nebyly naprogramovány, prostě protože týmová práce se ukázala jako účinnější.

Je to stejné s velkými jazykovými modely. Není možné naprogramovat všechny scénáře: existuje příliš mnoho situací a variability ve světě. Proto neučíme model pevným pravidlům; učíme ho, jak se učit.

Toto je hodnota RLHF. Bez ní zůstává LLM a agenti pouze knihovnou textů. S ní se stává konverzačním partnerem, který může adaptovat, opravovat se a vlastně evoluvovat.

Co je dál?

Mnozí se ptají, zda vývoj LLM a agentů může vést k nežádoucím nebo dokonce nebezpečným důsledkům.

Je důležité pochopit, že to, co vidíme dnes, není ani MVP, ale pouze prototyp.

Skutečná revoluce nebude o tom, že nám pomůže napsat krásný dopis nebo jej přeložit do francouzštiny. To jsou malé věci. Hlavním směrem je automatizace mikroúkolů a rutinních procesů, které ponechají lidem pouze skutečně kreativní, intelektuální úkoly nebo čas pro odpočinek.

Skutečné inovace se soustředí kolem agentů, systémů, které mohou nezávisle myslet, jednat a činit rozhodnutí místo člověka. Právě zde se soustředí úsilí firem jako OpenAI, Google, Meta a dalších.

Velké jazykové modely jsou pouze základem. Skutečná budoucnost leží v agentech, kteří jsou školeni žít v dynamickém světě, přijímat zpětnou vazbu a přizpůsobovat se změnám.