Myslitelé

Vzestup inženýrství orchestrace AI

Andrew Filev
Přidejte Unite.AI mezi své preferované zdroje na Google
A cinematic, wide-angle shot of a technical professional sitting at a futuristic curved workstation in a dark data center, orchestrating a complex digital workflow displayed on glowing holographic glass panels.
Klíčové bodyTříčlenný tým OpenAI nasadil milion řádků kódu prostřednictvím Codexu, aniž by ručně…
Zobrazit více
  • Tříčlenný tým OpenAI nasadil milion řádků kódu prostřednictvím Codexu, aniž by ručně napsal jediný řádek.
  • Inženýrství orchestrace AI spojuje architekturu DevOps a odbornost v oblasti AI do jediné centralizované role.
  • Organizace, které centralizují pracovní postupy agentů, dosáhnou dvojnásobné propustnosti, zatímco ostatní ustrnou na úrovni automatického doplňování.

Inženýr 10x je už desítky let mýtem Silicon Valley. Osamělý génius se sluchátky na uších, který chrlí elegantní kód nadlidskou rychlostí. Debatovali jsme, zda takoví lidé existují, přeli se o to, jak je najmout, a potichu jsme měli za zlé každému, kdo tvrdil, že je jedním z nich.

Cestou k budoucnosti, která staví AI na první místo, se však stalo něco zajímavého: inženýr 10x se stal skutečností. Jen vypadá úplně jinak, než jsme si představovali.

OpenAI nedávno popsalo, jak tříčlenný tým pomocí Codexu dodal 1 500 pull requestů a zhruba milion řádků kódu, aniž ručně napsal jediný řádek. Tři inženýři a nula ručně napsaného kódu. Produkt v produkčním provozu, který používají stovky interních uživatelů.

To není 10x, ale spíše 100x. Dovedností, která to umožnila, nebylo rychlejší psaní ani znalost více algoritmů. Bylo jí vybudování systému, díky němuž jsou AI agenti produktivní: pracovních postupů, ochranných pravidel, ověřovacích smyček a rozhraní, ke kterým se agenti připojují a jejichž prostřednictvím lidé kontrolují práci.

Domnívám se, že tím v technických organizacích vzniká nová klíčová funkce. Nazval bych ji inženýrstvím orchestrace AI.

Tři disciplíny přicházejí na stand-up

Když se podíváte na to, co inženýr orchestrace AI vlastně dělá, poznáte tři známé disciplíny spojené v jednu.

Nejzjevnější složkou je DevOps. DevOps centralizoval proces nasazování. Jeden tým nakonfiguroval pracovní postupy CI/CD, které každý inženýr používal při dodávání kódu. Inženýrství orchestrace AI dělá totéž, ale pro pracovní postupy agentů. Určuje, jak se agentům přidělují úkoly, jak se ověřují výstupy a jak fungují opakované pokusy a záložní postupy. Je to sdílená infrastruktura, na níž agenti běží.

Pak je tu architektura, která se s DevOps překrývá více, než byste čekali. Architekti rozhodují, která rozhraní jsou pevně daná, které vzory se musí dodržovat a které hranice nelze překročit. Ve světě, který staví agenty na první místo, je to ještě důležitější. Agenti potřebují čisté, dobře zdokumentované báze kódu s jasnými kontrakty. Inženýr orchestrace AI vymezuje tato omezení nejen kvůli čitelnosti pro lidi, ale i kvůli porozumění agentů. Nepřehledný repozitář už není jen technickým dluhem. Je stropem produktivity každého agenta, který s ním pracuje.

Nejméně pochopenou částí je vrstva specifická pro AI: tvorba promptů, správa kontextu, výběr modelu a konfigurace agenta. Většina inženýrů to dnes řeší roztříštěně, úkol po úkolu. Každý si hledá vlastní styl promptování, vlastní nastavení agenta a vlastní náhradní řešení. Inženýr orchestrace AI tuto práci centralizuje. Vytváří společné pracovní příručky, opakovaně použitelné konfigurace a organizační znalosti o tom, co funguje a co ne napříč modely a případy použití.

Každá z těchto tří funkcí dnes ve většině technických organizací existuje samostatně. Podstatou argumentu je, že jejich spojením do jedné centralizované role vzniká něco kvalitativně odlišného.

Metafora showrunnera

Filmový režisér neobsluhuje kameru, nehraje ve scénách ani nestříhá záběry. Každé políčko však odráží jeho rozhodnutí.

Volí kompozici záběru, tempo a tón. Rozhoduje, kdy přejít do detailu a kdy záběr rozšířit. Připravuje prostředí, tedy osvětlení, scénografii a rozmístění i pohyb herců, aby každý na place mohl odvést nejlepší práci v rámci jednotné vize. Jednotliví členové štábu jsou talentovaní, ale bez této koordinace vznikne zmatek, který se nikdy nepodaří dokončit a odevzdat.

Inženýrství orchestrace AI funguje stejně. Agenti jsou schopní a modely výkonné. Pokud ale někdo nenavrhuje systém, který je koordinuje, nevymezuje omezení, nebuduje zpětnovazební smyčky a nestrukturuje pracovní postupy, dostanete to, co už všichni známe: nekonzistentní výstupy, promarněné výpočetní prostředky, agenty pracující proti sobě a inženýry, kteří opravami kódu vytvořeného AI tráví více času, než by potřebovali k jeho vlastnímu napsání.

Režisér vytváří film, který je víc než součtem svých částí. Inženýr orchestrace AI dělá totéž pro celé flotily agentů.

Proč většina organizací investuje příliš málo

Napříč odvětvím vidím toto: firmy hodně investují do AI nástrojů, ale do systémů kolem nich investují zdaleka nedostatečně.

Inženýři získají přístup ke Copilotu, Claude a Codexu. Experimentují samostatně. Někteří se stanou pokročilými uživateli. Většina ustrne ve fázi „vylepšeného automatického doplňování“. A těch 20 % zvýšení produktivity, které studie stále uvádějí? To je příznak zavádění nástrojů bez systémového myšlení.

Organizace, které tuto bariéru překonávají a hlásí dvojnásobný či vyšší objem dokončené práce, mají něco společného. Centralizovaly orchestrační práci. Někdo, případně některý tým, odpovídá za pracovní postupy agentů, přípravu repozitáře, ověřovací infrastrukturu a sdílený kontext, k němuž má každý agent přístup.

Jak tato role vypadá v praxi

Každodenní práce inženýra orchestrace AI může zahrnovat:

  • Návrh pracovních postupů agentů: vymezení toho, jak se požadavek na funkci mění ve specifikaci, pak v plán, souběžné úkoly agentů a nakonec ve zkontrolovaný a sloučený kód.
  • Budování ověřovací infrastruktury: automatizované testy, lintovací pravidla, bezpečnostní kontroly a hodnoticí rámce, kterými musí agenti projít, než bude jejich práce sloučena.
  • Udržování repozitáře v dobrém stavu pro práci agentů: dokumentace, jasná rozhraní, správa závislostí a zjednodušování báze kódu, vše optimalizované pro porozumění agentů, nikoli pouze pro čitelnost pro lidi.
  • Centralizaci strategií promptování a kontextu: sdílené systémové prompty, procesy vyhledávání informací, rozhodování o směrování na modely a konfigurační šablony, které používá celý tým.
  • Sledování a zlepšování výkonu agentů: měření úspěšnosti, způsobů selhání, nákladů na úkol a času do sloučení kódu v celé flotile agentů a následné ladění systému podle dat.

Tento člověk stojí na průsečíku platformního inženýrství, softwarové architektury a odborných znalostí AI. Nepíše funkce. Buduje systém, díky němuž je dodávání funkcí rychlé, spolehlivé a škálovatelné.

Historický vzorec

V počátcích cloud computingu bylo nasazování vedlejším úkolem každého inženýra. Každý tým měl vlastní skripty, vlastní konfigurace serverů a vlastní způsob, jak dostat kód do produkce. DevOps vznikl, aby tuto práci centralizoval, a platformní inženýrství se vyvinulo tak, aby z ní vytvořilo sdílenou samoobslužnou infrastrukturu.

AI sleduje stejnou dráhu. Práce s agenty je nyní vedlejším úkolem každého inženýra. Každý má vlastní styl promptování, oblíbené nástroje a vlastní mentální model toho, kdy AI pomáhá a kdy ne. Organizace, které tuto práci centralizují a chápou ji jako infrastrukturu místo individuálního experimentování, se dostanou dopředu stejně, jako organizace s vyspělými postupy DevOps předstihly ty ostatní.

Rozdíl je v rychlosti. Přechod k DevOps trval deset let. Tento přechod by mohl trvat jen několik čtvrtletí, i když připouštím, že tato předpověď předpokládá, že organizace rozpoznají daný vzorec rychleji než obvykle.

Cesta vpřed

Pokud vedete technický tým, navrhl bych následující, i když vaše výsledky se budou lišit podle toho, jak daleko už váš tým je.

  1. Zjistěte, kdo tuto práci již dělá neformálně. V každé organizaci je někdo, kdo už rozpracoval postupy práce agentů a za kým ostatní inženýři chodí pro rady ohledně promptů či nastavení nástrojů. Tento člověk je vaším zárodkem inženýra orchestrace AI.
  2. Vymezte funkci jasně. Dejte jí název, mandát a zdroje. Nenechte ji zůstat vedlejším projektem připojeným k něčí „skutečné“ práci.
  3. Začněte připraveností repozitáře. Než investujete do sofistikovaných postupů práce agentů, ujistěte se, že se agenti ve vaší bázi kódu skutečně vyznají. Čistá rozhraní, dobrá dokumentace, komplexní testy a zjednodušená architektura.
  4. Centralizujte to, co funguje. Když někdo objeví strategii promptování nebo pracovní postup, který výrazně zlepšuje výstup agentů, zaznamenejte jej. Udělejte z něj výchozí postup pro celý tým, nikoli nepsanou znalost uzamčenou v hlavě jediného člověka.
  5. Měřte na úrovni systému. Nesledujte jen používání nástrojů jednotlivci. Sledujte, kolik úkolů agenti dokončí od začátku do konce, jaké jsou míry kontroly a přepracování a kde jsou úzká místa.

Nový 10x

Mýtus o inženýrovi 10x vždy stál na individuálním hrdinství. Na jediném člověku, který všechny předčí pouhým talentem a kofeinem.

Realita inženýra 10x v éře AI spočívá v systémovém myšlení. V člověku, který zvyšuje produktivitu každého dalšího inženýra i každého agenta tím, že buduje správnou infrastrukturu, správné postupy a správná omezení.

Nepíše desetkrát více kódu. Buduje systém, který jej píše.

Nejsem si jistý, zda se tato role vykrystalizuje přesně tak, jak jsem ji zde popsal. Jsem si však poměrně jistý, že organizace, které zvládnou orchestrační vrstvu, ať ji nakonec nazvou jakkoli, skutečně dosáhnou zvýšení produktivity, o němž ostatní jen mluví.

Andrew Filev je zakladatel a CEO společnosti Zencoder. Přetvořil spolupráci při správě práce založením Wrike (20 000+ zákazníků, prodáno za 2,25 miliardy dolarů), byl uveden v Forbes a The New York Times a jeho vášeň pro umělou inteligenci a inovace stále formuje budoucnost práce.