AI agenti vs. kopiloti vs. pracovní postupy: jaký je mezi nimi rozdíl?

Kopiloti s umělou inteligencí člověku pomáhají, pracovní postupy s umělou inteligencí se řídí předem stanoveným procesem a agenti s umělou inteligencí rozhodují o tom, jak dosáhnout cíle. Všechny tři typy mohou využívat stejné základní modely a nástroje, ale každý jim přisuzuje jinou míru rozhodovací pravomoci.

Tyto pojmy se často používají volně, což vede k nerealistickým očekáváním a nedostatečnému řízení. Produkt označovaný jako „agent“ může být pracovní postup s chatovacím rozhraním, kopilot může provádět úkony a pracovní postup může obsahovat agentní krok. Užitečná otázka nespočívá v tom, jak se systém nazývá, ale v tom, kdo volí další postup, kdo schvaluje provedení úkonu a jak předvídatelné musí být jeho chování.

Stručně řečeno

Co je kopilot s umělou inteligencí?

Kopilot pomáhá člověku s úkolem, přičemž člověk zůstává hlavním rozhodujícím činitelem. Může shrnout dokument, napsat návrh kódu, navrhnout odpověď, vysvětlit chybu nebo doporučit další krok. Uživatel výsledek zkontroluje a rozhodne, zda jej použije.

Rozhodující vlastností je interakce, nikoli konkrétní rozhraní. Kopilot může využívat nástroje pouze ke čtení nebo připravit návrh úkonu, ale člověka zpravidla udržuje blízko rozhodování i samotného provedení.

Kopiloti se hodí tam, kde je zásadní lidský kontext, chyby jsou nákladné nebo je požadovaný výsledek subjektivní. Snižují množství potřebné práce, aniž by systém musel celý úkol vyřešit samostatně.

Co je pracovní postup s umělou inteligencí?

Pracovní postup s umělou inteligencí je posloupnost kroků, jejichž směrování je z velké části určeno předem. Některé kroky mohou využívat model, například ke klasifikaci příchozího požadavku, extrakci údajů nebo vytvoření shrnutí, ale o přechodu procesu z jedné fáze do druhé rozhoduje kód.

Pracovní postup zákaznické podpory může klasifikovat požadavek, načíst údaje o účtu, vytvořit návrh odpovědi, ověřit soulad s pravidly a zařadit výsledek do fronty ke kontrole. Model může vytvářet různorodý obsah, zatímco celkový průběh zůstává předvídatelný.

Průvodce společnosti Anthropic pro tvorbu účinných agentů vychází z tohoto rozlišení: pracovní postupy koordinují jazykové modely a nástroje prostřednictvím předem stanovených cest definovaných kódem, zatímco agenti dynamicky řídí vlastní postup i využívání nástrojů.

Co je agent s umělou inteligencí?

Agent dostane cíl a může samostatně rozhodovat o krocích potřebných k jeho dosažení. Může vybírat nástroje, sestavovat nebo upravovat plán, reagovat na pozorované skutečnosti, napravovat některá selhání a pokračovat, dokud nesplní podmínku ukončení.

Výzkumný agent může například rozhodnout, které zdroje prohledá, odhalit mezery, změnit vyhledávací dotazy, porovnat důkazy a vytvořit zprávu s citacemi. Vývojář předem neurčuje každý jednotlivý dotaz ani přesný počet kroků.

Agenti jsou užiteční v proměnlivém prostředí, kde nelze předem plně určit postup. Právě tato flexibilita však způsobuje, že jsou méně determinističtí než pracovní postupy.

Hranice tvoří škálu

Pracovní postup může obsahovat agentní krok a agent může jako nástroj využívat deterministický pracovní postup. Agent může například rozhodnout, že zákazník splňuje podmínky pro posouzení vrácení peněz, zatímco pevně daný pracovní postup ověří objednávku, vypočítá povolenou částku a předá konečné rozhodnutí oprávněnému zaměstnanci. Kombinací těchto přístupů často vznikají lepší systémy, než když se celý produkt zařadí do jediné kategorie.

Skutečné produkty tyto přístupy kombinují. Kopilot může obsahovat agenta, který dokončí dílčí úkol s jasně vymezeným rozsahem. Pracovní postup může neobvyklý případ předat agentovi. Agent se může při citlivých operacích opírat o deterministické pracovní postupy.

Přesnější je popsat míru a rozsah autonomie:

• Návrh: systém navrhne obsah nebo rozhodnutí; jedná člověk.
• Návrh akce: systém připraví změnu; člověk ji schválí.
• Omezené provádění: systém jedná automaticky v úzce vymezeném rozsahu, v němž lze jeho kroky vrátit.
• Adaptivní provádění: systém v rámci stanovených zásad vybírá kroky a nástroje.
• Delegovaný provoz: systém zvládá rozsáhlejší úkoly a výjimky předává dál.

Jednotlivé kroky téhož produktu mohou spadat do různých úrovní.

V čem se tyto systémy liší od tradiční automatizace

Tradiční automatizace se řídí výslovně stanovenými pravidly a deterministickou logikou. Robotická automatizace procesů může napodobovat klikání a zadávání dat ve známých rozhraních. Pracovní postup může tuto automatizaci kombinovat s kroky založenými na modelech. Agent navíc může volit samotný postup.

Použití modelu z něčeho automaticky nedělá agentní systém. Plánovaný proces, který každý dokument zpracuje pomocí pevně daného zadání pro shrnutí, je stále pracovním postupem.

Jaký přístup zvolit?

Poté zvažte míru rizika. Výzkumný agent s nízkým dopadem může před kontrolou provést mnoho kroků, zatímco finanční nebo administrativní agent by se měl zastavit v předem stanovených rozhodovacích bodech. O bezpečnosti nerozhoduje architektonické označení, ale oprávnění, vratnost a dohled spojené s každou akcí.

Zvolte kopilota, když:

• uživatel má důležité souvislosti, které systém nedokáže plně zohlednit;
• kvalita je subjektivní nebo vyžaduje odborný úsudek;
• úkol se vyskytuje zřídka, má závažné důsledky nebo se obtížně automaticky vyhodnocuje;
• přijetí systému závisí na tom, zda lidem pomáhá porozumět výstupům a mít je pod kontrolou.

Zvolte pracovní postup, když:

• jsou známy jednotlivé kroky i rozhodovací body;
• důležitější než flexibilita jsou konzistentnost, auditovatelnost a rychlost;
• obchodní pravidla lze přímo vyjádřit a otestovat;
• proces zpracovává velké objemy úloh a výjimky jsou omezené.

Zvolte agenta, když:

• cíl je jasný, ale cesta k němu se mění;
• systém musí shromažďovat informace a reagovat na to, co zjistí;
• výběr nástrojů a nové plánování přinášejí skutečnou hodnotu;
• úspěch lze měřit a dopady selhání lze omezit;
• dodatečné náklady a latence jsou vzhledem k hodnotě úkolu opodstatněné.

Praktický příklad: řešení IT incidentu

Kopilot shrne záznamy, navrhne pravděpodobné příčiny a předloží technikovi diagnostické příkazy.

Pracovní postup se řídí provozním návodem: shromáždí známé metriky, za stanovených podmínek restartuje službu, ověří její stav a v případě neúspěšné kontroly založí požadavek.

Agent prošetří neznámý incident, rozhodne, jakou telemetrii prověřit, vytvoří hypotézy, spustí schválenou diagnostiku, aktualizuje svůj plán a připraví nebo provede nápravu v mezích svých oprávnění.

Vyspělý systém může využívat všechny tři přístupy: pracovní postup zpracovává běžná upozornění, agent zkoumá výjimky v izolovaném prostředí a kopilot pomáhá technikovi schválit konečnou změnu v produkčním prostředí.

Kompromisy mezi náklady a spolehlivostí

Náklady rostou s počtem tahů modelu, volání nástrojů, opakovaných pokusů a hodnotitelů. Spolehlivost se může změnit oběma směry: dodatečné kontroly mohou odhalit chyby, ale další kroky zároveň vytvářejí více příležitostí k selhání. Místo předpokladu, že vyšší míra autonomie nebo větší počet agentů automaticky zlepší výkon, měřte výsledky celého úkolu při opakovaných bězích.

Kopiloti často vyžadují méně autonomních kroků, ale spotřebovávají pozornost lidí. Pracovní postupy vyžadují více návrhu na začátku, ale při velkém rozsahu jsou efektivní. Agenti mohou omezit ruční koordinaci složitých úkolů, každý krok plánování, volání nástroje, opakovaný pokus i ověření však zvyšují latenci a náklady.

Mění se také spolehlivost. Pracovní postup lze testovat po jednotlivých jednotkách v předem známých větvích. Agent se při opakovaných bězích může ubírat různými cestami. Vyhodnocování agentů proto vyžaduje reprezentativní úkoly, více pokusů, kontrolu průběhu a jednoznačně definované hodnotitele, jak popisuje příručka společnosti Anthropic, která se věnuje objasnění vyhodnocování agentů.

Řízení se má odvíjet od schopností, nikoli od značky

Organizace by měly zmapovat, co systém skutečně dokáže: k jakým datům má přístup, které nástroje může volat, jaká rozhodnutí může činit, zda komunikuje s externími subjekty a které činnosti lze vzít zpět.

„Kopilot“, který smí odesílat zprávy nebo měnit záznamy, potřebuje pro tyto činnosti příslušné kontroly. „Agent“ omezený na výzkum v izolovaném prostředí může představovat menší provozní riziko. Názvy jsou marketing; podstatná jsou oprávnění.

Jak číst schémata agentů AI

Schémata agentů AI čtěte od očíslovaného vstupu směrem k pozorovatelnému výsledku. Srovnání vymezuje hranici, která odlišuje agenty AI od jejich nejbližší zkratkové alternativy, zatímco kontrolní cesta ukazuje, kde je třeba před vznikem skutečného dopadu ověřit oprávnění nebo míru nejistoty. Popisky zůstávají běžným responzivním textem stránky, takže je lze přeložit, zalamovat a přizpůsobit zobrazení na telefonu.

U článku „Agenti AI vs. kopiloti vs. pracovní postupy: V čem je rozdíl?“ je schéma mapou, nikoli zárukou. Skutečná implementace může kombinovat jednotlivé fáze, opakovat některý krok nebo přidat hranici vyžadující lidské schválení. Podstatné je, zda tým dokáže v nasazeném systému určit stejné funkce, přiřadit ke každé hranici odpovědnou osobu a ověřit přechody mezi nimi. Pokud některou fázi nelze pozorovat ani měřit, bude obtížné diagnostikovat případná selhání.

Co si zapamatovat o agentech AI, kopilotech a pracovních postupech

Kopiloti, pracovní postupy a agenti jsou tři způsoby, jak rozdělit práci mezi lidi, kód a modely. U kopilota zůstává člověk za volantem. U pracovního postupu určuje trasu kód. Agent má při volbě trasy omezenou volnost.

Nejlepší návrh obvykle představuje co nejméně autonomní systém, který spolehlivě přináší požadovanou hodnotu. Pro známé kroky použijte pevně daný kód, úsudek modelu pro skutečně nejednoznačné situace a lidské schválení tam, kde to vyžadují možné důsledky.