Jak AI agenti fungují: model, nástroje, paměť a řídicí smyčka

AI agent funguje kombinací modelu s instrukcemi, nástroji, pamětí a řídicí smyčkou, která opakovaně rozhoduje, co dál udělat. Model poskytuje úsudek a jazykové schopnosti, zatímco okolní software tyto schopnosti převádí na stavový proces, který může jednat, kontrolovat výsledky, zotavit se z chyb a zastavit se.

Pochopení této architektury je užitečnější než vnímat agenta jako jediný inteligentní objekt. Většina úspěchů i neúspěchů vyplývá z toho, jak komponenty spolupracují: vynikající model může být podkopán nejasnými nástroji, zastaralou pamětí, nadměrnými oprávněními nebo řídicí smyčkou bez spolehlivé definice dokončení.

Pět základních částí AI agenta

1. model

Model interpretuje cíl, uvažuje nad dostupným kontextem a vybírá akci. V mnoha současných agentech jde o velký jazykový model, který dokáže následovat instrukce a generovat strukturované volání nástrojů i přirozený jazyk.

Nejmocnější model není automaticky nejlepší volbou pro každý krok. Systém může složité plánování směrovat k výkonnějšímu modelu, použít rychlejší model pro klasifikaci a spoléhat na deterministický kód pro validaci. Tato kombinace může zlepšit rychlost, náklady i spolehlivost.

2. Instrukce

Instrukce definují roli agenta, jeho hranice, priority a požadavky na výstup. Může se jednat o systémový prompt, kontext specifický pro úkol, zásady, příklady, popisy nástrojů a kritéria ukončení.

Dobré instrukce jsou operativní. Říkají agentovi, jaké důkazy jsou potřeba, kdy požádat o schválení, které zdroje jsou přijatelné a jak rozpoznat dokončení. Pravidla, která jsou nejasná nebo protichůdná, nutí model hádat, což vede k nekonzistenci u jinak podobných úkolů.

3. Nástroje

Nástroje propojují model s funkcemi mimo jeho aktuální kontext. Nástroj může prohledávat web, načíst záznam zákazníka, spustit kód, dotazovat databázi, ovládat prohlížeč nebo vytvořit událost v kalendáři.

Model obvykle sám funkci neprovádí. Vybere pojmenovaný nástroj a navrhne strukturované argumenty. Běhové prostředí agenta ověří požadavek, zkontroluje oprávnění, provede operaci a vrátí výsledek. Toto oddělení je zásadní: dává softwaru možnost odmítnout špatně vytvořené nebo nebezpečné akce, než ovlivní vnější svět.

4. Stav a paměť

Stav je informace, kterou agent potřebuje během aktuálního běhu: cíl, konverzaci, plán, pozorování, výstupy nástrojů a dokončené kroky. Paměť tento pojem rozšiřuje tím, že uchovává užitečné informace mimo okamžitý kontext, například předchozí preference, opakující se fakta nebo poučení z předchozích úkolů.

Více paměti není vždy lepší. Ir relevantní záznamy spotřebovávají kontext a mohou model nasměrovat k zastaralým předpokladům. Efektivní paměťové systémy rozhodují, co ukládat, jak to organizovat, kdy to načíst a jak zacházet s konfliktními či prošlými informacemi.

5. řídicí smyčka

Řídicí smyčka je vrstva orchestraci, která udržuje proces v chodu. Posílá aktuální stav modelu, přijímá navrženou akci, spouští schválené nástroje, zaznamenává pozorování a znovu volá model.

Anthropic popisuje agenta jako rozšířený jazykový model fungující v smyčce s možnostmi jako vyhledávání, nástroje a paměť ve svém průvodci budováním efektivních agentů. OpenAI podobně rámcuje vykonávání agenta jako průběžnou interakci mezi modelem, jeho nástroji a prostředím v Od modelu k agentovi.

Rozhraní jsou stejně důležitá jako komponenty

Diagram architektury může ukazovat každou komponentu jako čistě oddělenou, ale skutečná spolehlivost závisí na smlouvách mezi nimi. Model potřebuje popisy nástrojů, které rozlišují podobné schopnosti. Běhové prostředí potřebuje typované argumenty a explicitní stavy chyb. Vyhledávání v paměti potřebuje informace o původu a čerstvosti. Kontrola dokončení potřebuje testovatelné kritéria, nikoli vágní pocit, že odpověď je dostatečná.

Uvažujme nástroj pro vyhledávání, který vrací prázdný seznam. Tento výsledek může znamenat, že neexistují relevantní záznamy, dotaz byl špatně formulován, uživateli chybí oprávnění nebo služba vypršela čas. Pokud nástroj sloučí všechny čtyři podmínky do stejného výstupu, model nemůže spolehlivě usuzovat, co se stalo. Dobře navržené rozhraní vrací strukturované důkazy: stav, zdroj, časové razítko, dotaz, počet výsledků a strojově čitelnou chybu, pokud je to vhodné.

Stejný princip platí pro kontext. Instrukce, autoritativní záznamy, získané úryvky, poznámky vytvořené modelem a nedůvěryhodný externí obsah by neměly být považovány za ekvivalentní text. Označování jejich zdroje a autority pomáhá běhovému prostředí vynucovat politiku a modelu správně vážit důkazy. Jedná se o praktickou formu inženýrství kontextu: rozhodování nejen o tom, jaké informace model vidí, ale jak jsou tyto informace organizovány a co systém umožňuje ovládat.

Příklad krok za krokem

Představte si agenta, který má porovnat tři potenciální dodavatele a připravit doporučení.

1. Přijmout cíl: agent přečte kritéria rozhodování, termín, rozpočet a požadovaný výstup.
2. Zkontrolovat dostupný kontext: ověří, zda jsou přítomna jména dodavatelů, interní požadavky a zdrojové dokumenty.
3. Vytvořit plán: rozhodne shromáždit ceny, informace o bezpečnosti, podmínky služby a zákaznické důkazy pro každého dodavatele.
4. Vybrat nástroj: prohledá schválené úložiště dokumentů nebo zavolá externí výzkumný nástroj.
5. Pozorovat: běhové prostředí vrací výsledky, včetně možných chyb nebo chybějících polí.
6. Aktualizovat stav: agent zaznamená, co se naučil, a označí nevyřešené otázky.
7. Přizpůsobit: změní dotazy, konzultuje jiný zdroj nebo požádá osobu o nedostupný dokument.
8. Ověřit: ověří, že každé doporučení je podloženo a že srovnání používají stejná kritéria.
9. Zastavit nebo požádat o schválení: vytvoří návrh doporučení, ale rozhodnutí o nákupu ponechá na oprávněné osobě.

Důležitým bodem je, že sekvence nebyla zcela pevně zakódována. Systém vybíral kroky v reakci na to, co nalezl, ale stále fungoval v rámci navržených omezení.

Plánování není vždy samostatná fáze

Někteří agenti vytvoří úplný plán před zahájením činnosti. Jiní rozhodují krok po kroku. Mnozí používají hybrid: vytvoří hrubý plán, vykonají další akci a upraví zbývající plán, jakmile přijdou pozorování.

Dlouhé, rigidní plány mohou po prvním nečekaném výsledku zastarat. Čistě reaktivní agenti mohou bloudit nebo opakovat práci. Praktický návrh zachovává dostatečné plánování pro udržení směru a zároveň umožňuje přeplánování při změně prostředí.

Rámec ReAct je základním příkladem prokládání uvažování akcemi a pozorováními. Jeho hlavní postřeh spočívá v tom, že externí výsledek může opravit, upřesnit nebo přesměrovat další krok uvažování.

Jak agenti vědí, kdy zastavit

Ukončování je problém návrhu systému. Model může prohlásit úspěch příliš brzy, pokračovat v dolaďování po splnění cíle nebo se opakovaně smyčkovat, když nástroj opakovaně selhává.

Spolehliví agenti kombinují několik mechanismů ukončení:

• Kritéria dokončení: explicitní podmínky, jako jsou požadovaná pole, úspěšně absolvované testy nebo ověřené citace.
• Rozpočty: omezení počtu kroků, času, tokenů modelu, volání nástrojů nebo nákladů.
• Prahy chyb: eskalace po opakovaných selháních nebo pozorováních s nízkou důvěrou.
• Schvalovací brány: pauza před vysoce dopadovými nebo nevratnými akcemi.
• Externí hodnotitelé: deterministické kontroly nebo samostatné modely, které posuzují, zda výstup splňuje úkol.

Běžné architektury agentů

Jednosmyčkový agent je nejjednodušší design: jeden model opakovaně používá nástroje, dokud nedokončí. Je snazší ladit a často postačuje.

Router klasifikuje požadavek a odesílá jej na specializovaný prompt, sadu nástrojů nebo model. Směrování snižuje irelevantní volby a může použít různé zásady pro různé úkoly.

Architektura orchestrátor‑pracovník umožňuje hlavnímu agentovi vytvářet podúkoly a delegovat je pracovníkům, poté sloučit jejich výsledky. To je užitečné, když lze práci provádět paralelně nebo vyžaduje různé specializace, ale zvyšuje spotřebu tokenů a riziko selhání koordinace.

Smyčka hodnotitel‑optimalizátor odděluje generování od kritiky. Jeden komponent vytvoří odpověď; druhý ji ověří podle definovaných kritérií; první ji upraví. To funguje dobře, když je kvalita měřitelná a zlepšení iterací stojí za dodatečné náklady.

Co se obvykle pokazí

• Špatné popisy nástrojů: model vybírá nesprávnou schopnost nebo poskytuje neplatné argumenty.
• Neomezený kontext: dlouhé přepisy zaplňují irelevantními detaily a zakopávají rozhodující informace.
• Tiché chyby nástrojů: prázdný nebo částečný výsledek je mylně považován za platné pozorování.
• Slabé zakotvení: agent jedná na základě předpokladu místo kontroly oficiálního záznamu.
• Nadměrná autonomie: agent může provádět důsledné akce bez vhodné revizní hranice.
• Žádné hodnocení trajektorie: týmy posuzují konečnou odpověď, ale nezkoumají, jak k ní agent dospěl.

Designové principy pro spolehlivé agenty

Začněte s nejmenší architekturou, která dokáže úkol vyřešit. Deterministický pracovní postup by měl zvládat známé kroky; rozhodovací pravomoc modelu si nechte pro rozhodnutí, která skutečně vyžadují interpretaci. Každému nástroji dejte úzký účel, typované vstupy, explicitní stavy chyb a přístup s nejnižšími oprávněními.

Zviditelněte stav. Zaznamenávejte každé volání nástroje, výsledek, opakování, schválení a rozhodnutí modelu potřebné pro diagnostiku. Komprimujte starý kontext místo jeho nekonečného přidávání a uchovávejte autoritativní data odděleně od souhrnů generovaných modelem.

Navrhněte běhové prostředí tak, aby selhání byla explicitní. Nástroj by měl rozlišovat „žádné záznamy nenalezeny“ od „požadavek selhal“ a úložiště stavu by mělo rozlišovat ověřená fakta od souhrnů generovaných modelem. Jinak může model považovat neexistenci způsobenou časovým limitem za důkaz, že něco neexistuje.

Nakonec vyhodnoťte celý systém. Spusťte stejný úkol několikrát, změřte úspěšnost a využití zdrojů a prozkoumejte trajektorie kvůli porušení zásad nebo křehkým zkratkám. Průvodce Anthropic k hodnocení agentů zdůrazňuje, že agenti potřebují úkoly, opakovatelné testy, přepisy a hodnotitele – ne jen několik působivých ukázek.

Co si zapamatovat o tom, jak AI agenti fungují

AI agent je navržená smyčka, nikoli jen chytrý model. Model rozhoduje; nástroje jednají; paměť nese stav; prostředí vrací důkazy; a řídicí smyčka určuje, co se stane dál.

Když mají tyto části jasná rozhraní a hranice, může agent zvládat otevřené úkoly, které konvenční automatizace nedokáže předvídat. Když ne, autonomie zesiluje nejasnosti. Kvalita agenta tedy závisí stejně na návrhu systému, oprávněních a hodnocení jako na základním modelu.