Sobhan Daliry, CPO & AI Strategy Leader ve společnosti Pipefy – série rozhovorů

Sobhan Daliry, CPO & AI Strategy Leader ve společnosti Pipefy, je zkušený výkonný ředitel pro produkty a technologie, který vede AI strategii společnosti od roku 2023 a pomáhá transformovat tradiční obchodní workflow na stále inteligentnější a autonomnější procesy. Během své kariéry Daliry kombinoval produktovou strategii, organizační transformaci a technologické vedení jak ve startupových, tak zavedených firmách. Před nástupem do Pipefy založil a působil jako CEO společnosti Polen.me a strávil více než pět let jako CEO/CPO v NZN, kde vedl obrat společnosti a produktovou strategii. Jeho dřívější role zahrnují pozici ředitele produktového managementu ve společnosti PSafe, produktového manažera v Peixe Urbano a pozice v oblasti digitálních služeb, telekomunikací, poradenství a rozvoje podnikání ve firmách Oi/Telemar, Claro, AIRCOM International a Planeta Tecnologia.

Pipefy je globální platforma pro správu procesů a AI navržená tak, aby pomáhala organizacím automatizovat a orchestraci obchodních workflow. Společnost byla založena v roce 2015 a vyvinula se z platformy pro automatizaci procesů bez kódu na prostředí zaměřené na AI, které spojuje AI agenty, workflow, formuláře, portály, aplikace, data, analytiku, zprávy a integrace. Její platforma umožňuje týmům vytvářet a spravovat AI agenty pomocí přirozeného jazyka a nástrojů bez kódu při zachování podnikového řízení, bezpečnosti a přehlednosti. AI schopnosti Pipefy zahrnují agenty, kteří dokážou interpretovat dokumenty, vykonávat úkoly ve workflow, podporovat rozhodování, komunikovat s externími systémy a orchestraci procesů v oblastech jako finance, lidské zdroje, nákup, zákaznické operace a soulad s předpisy.

Vaše kariéra vás zavedla z telekomunikačního inženýrství ve firmách jako Claro a Oi k produktovému vedení v Peixe Urbano a PSafe, kde jste působil jako CEO/CPO v NZN, založil Polen.me a nyní vede produktovou a AI strategii v Pipefy. Jaký vliv měla tato cesta na to, jak přemýšlíte o tvorbě AI produktů, které řeší skutečné provozní problémy, místo aby jen předváděly novou technologii?

Telekomunikace mě naučila, že infrastruktura musí fungovat pokaždé, ve velkém měřítku, bez jakéhokoli prostoru pro „většinou funguje“. Přerušený hovor není selhání demonstrace, je to zákazník, který odchází. Tato mentalita — spolehlivost před novinkou — mě nikdy neopustila. V Peixe Urbano a PSafe jsem se naučil opačnou lekci: jak rychle spotřebitelské produkty žijí nebo umírají na základě toho, zda dnes řeší skutečný, cítitelný problém, nikoli teoretický. Vedení NZN jako CEO/CPO mě přimělo držet oba pravdy najednou — nemůžete překonat špatnou hypotézu rychlostí, a nemůžete překonat špatnou exekuci hypotézou. Založení Polen.me mě naučilo nejdražší lekci ze všech: kapitál a čas jsou omezené, takže každá funkce, kterou vybudujete, je funkce, kterou jste nevybudovali, a cena za honění působivé demonstrace místo skutečného workflow se projeví měsíce později, ne na jevišti. Když jsem dorazil do Pipefy, otázka, kterou si kladu u každé AI funkce, je stejná jako ta, kterou bych položil u mobilní věže: vydrží to v produkci, pod reálným zatížením, když nikdo nesleduje? Pokud AI agent funguje jen v kurátorském demo prostředí, není to produkt — je to jen upoutávka.

Vedl jste formulaci a implementaci AI strategie Pipefy od roku 2023. Jaké předpoklady o podnikovém AI jste na začátku měli, které se nejvíce změnily s tím, jak se generativní AI a AI agenti vyvíjeli?

Největší předpoklad, který jsem musel zrušit, byl, že model bude úzkým místem. V roce 2023 optimalizovali všichni — včetně mě — na otázku „který LLM je nejchytřejší“. Ve skutečnosti se úzkým místem ukázal kontext: zná agent, jaký je proces, jaké jsou omezení, jak vypadá „dokončeno“ pro konkrétní verzi účtování faktur u tohoto zákazníka. Kvalita modelu se nadále zlepšovala podle očekávané křivky; kontext procesu se sám nezlepšoval, protože ho nikdo neorganizoval. Druhý předpoklad, který se obrátil, se týkal autonomie. Předpokládal jsem, že trh chce agenty, kteří jednají zcela nezávisle a co nejrychleji. Co podniky ve skutečnosti chtějí — a stále chtějí — je ohraničená autonomie: agenti, kteří činí skutečná rozhodnutí v rámci pravidel, která nesmí porušit, s stopou, která to po dokončení dokazuje. Plná autonomie bez správy není ambice, je to jen riziko s lepší uživatelskou rozhraním. Trh se vyvíjel rychleji v požadavcích na důvěru než v požadavcích na čistou výkonnost a toto přeřazení je největší chyba, kterou jsem na začátku udělal.

Pipefy rozlišuje mezi relativně jednoduchou AI automatizací a AI agenty, kteří dokážou uvažovat v nejednoznačných situacích, plánovat více kroků a provádět akce napříč workflow. Jak by měly podniky určit, kdy úloha skutečně vyžaduje AI agenta, a kdy je deterministická automatizace stále lepším řešením?

Test, který používám, je jednoduchý: pokud dokážete napsat pravidlo, napište pravidlo. Deterministická automatizace je stále správná odpověď pro vše, co má předem známý a neměnný rozhodovací strom – např. směrovat tuto fakturu k tomuto schvalujícímu, pokud je pod určitou částkou. To není úkol pro agenta a předstírat opak jen přidává latenci a nepředvídatelnost k něčemu, co už bylo vyřešeno. Agent si zaslouží místo v okamžiku, kdy situace obsahuje nejasnost, kterou pevné pravidlo nedokáže vyřešit – faktura neodpovídá PO přesně, chybí pole, požadavek zákazníka nepasuje do žádné z vašich existujících kategorií. Právě zde má uvažování skutečnou hodnotu: rozhodnout, co dělat dál, když „další“ ještě není napsáno. Chyba, kterou podle mě firmy neustále dělají, je stavět agenta pro 80 % případů, které už byly deterministické, protože to vypadá efektněji, a nechat nejasných 20 % – skutečně těžkou část – na člověku, aby to ručně rozmotal. Otočte ten poměr a vytvoříte něco skutečného.

Dochází k rostoucímu posunu od samostatných copilotů k „agentické orchestraci“, kde AI může koordinovat procesy napříč více systémy. Co odlišuje pravou agentickou orchestraci od pouhého přidání velkého jazykového modelu do existující platformy automatizace?

Vložení uzlu LLM do existujícího automatizačního toku vám poskytne chytřejší jednotlivý krok. Pravá orchestrace znamená, že AI má trvalý, strukturovaný pohled na celý proces – nejen na tento úkol, ale i na to, kde v sekvenci stojí, co se již stalo výše, co musí být pravda níže, aby se to považovalo za dokončené. Rozdíl spočívá v tom, zda inteligence má paměť procesu, nebo jen paměť promptu. Kopilot odpovídá na otázku, kterou mu položíte. Orchestrace koordinuje akce napříč systémy, které mezi sebou nativně nekomunikují – vaším ERP, vaším CRM, API partnera – a přebírá stejné pravidla, oprávnění a auditní stopu, na které běží zbytek procesu. Pokud musíte postavit samostatnou vrstvu správy kolem vaší AI funkce, protože podkladová automatizační platforma ji nemá, nemáte agentickou orchestraci – máte chatbot s přístupem k API a to má naprosto jiný profil rizika.

Agentury AI bez kódu potenciálně umožňují obchodním týmům automatizovat stále složitější procesy bez čekání na zdroje vývoje. Jak demokratizovat tuto schopnost, aniž by vznikla nová generace stínové AI, špatně navržených agentů nebo bezpečnostních rizik?

Bezpečnou demokratizaci nezískáte tím, že požádáte obchodní uživatele, aby byli opatrnější – získáte ji tím, že

Zahrnutí ochranných zábran do samotného podkladu, nikoli jako samostatné pruhy, po nichž si lidé musí volit, že pojedou. Každý agent, který obchodní uživatel vytvoří, dědí stejné řízení přístupu založené na rolích, stejnou auditní stopu a stejné obchodní pravidla, která již řídí proces, ve kterém je vytvořen – nejsou to volitelné nastavení, jsou to struktury. To je skutečná odpověď na stínovou AI: nejde o problém politiky, ale o problém architektury. Stínová AI vzniká, když je schválený nástroj obtížnější použít než neautorizovaný, takže lidé staví svého agenta v osobním účtu ChatGPT nebo v náhodném automatizačním nástroji bez jakékoli viditelnosti pro IT. Pokud je zkušenost bez kódu skutečně rychlá a správa je neviditelná, protože je automatická, neexistuje důvod, aby obchodní tým obcházel tuto vrstvu. V okamžiku, kdy učiníte správu manuálním krokem, na který si někdo musí vzpomenout, už jste prohráli.

Jak by měly organizace rozhodovat, kde je vhodná plná autonomie a kde by měli lidé zůstat v cyklu, když AI agenti získávají schopnost rozhodovat a provádět akce místo pouhých doporučení?

Osa, kterou používám, není „jak chytrý je agent“, ale reverzibilita a dosah dopadu. Pokud je špatné rozhodnutí levné na odhalení i na zvrácení – směrování, kategorizace, tvorba návrhů – nechte agenta jednat a přezkoumávejte v souhrnu. Pokud je špatné rozhodnutí drahé, těžko reverzibilní nebo přímo zasahuje do peněz, souladu nebo vztahu se zákazníkem, nechte člověka v cyklu pro tento konkrétní krok, i když agent udělal posledních tisíc rozhodnutí správně. Chyba spočívá v tom, že autonomii vnímáte jako jediný regulátor, který zvýšíte pro celý pracovní tok. Skutečné procesy jsou sekvencí kroků s naprosto odlišnými rizikovými profily a správný návrh umístí člověka přesně na krok, kde je chyba nákladná – ne všude a ne nikde. To je také důvod, proč lidský zásah v cyklu, pokud je proveden správně, není daň na rychlost – je to způsob, jak vybudovat důvěru k postupnému odstranění lidského zásahu z nízkorizikových kroků, protože máte důkazy, které prokazují, které rozhodnutí agent konzistentně dělá správně.

Pipefy zdůrazňuje správu prostřednictvím mechanismů, jako jsou auditní stopy, řízení přístupu založené na rolích, obchodní pravidla a sledovatelnost přímo v rámci pracovního postupu. Stává se vkládání správy přímo do vrstvy orchestraci nezbytností, když firmy přesouvají AI agenty z experimentů do produkce?

Není to jen to, že se stává nezbytným — je to už tak, a společnosti, které to zjistí těžkou cestou, jsou ty, které jako první nasadily agenty do produkce a nyní po faktu budují auditní stopu. To je obrácené a opravit to zpětně je drahé. Pokud auditní stopy, řízení přístupu na základě rolí a sledovatelnost nejsou nativní součástí vrstvy orchestraci, každého nového agenta, kterého nasadíte, představuje nové místo, kde může správa tiše selhat — a neuvědomíte si to, dokud auditor, regulátor nebo incident nenastaví otázku. Vložení správy do vrstvy orchestraci znamená, že každá akce agenta automaticky dědí stejná pravidla a zanechává stejné důkazy, jaké by zanechala lidská akce, aniž by si někdo musel pamatovat, že je třeba to konfigurovat zvlášť. Podniky, které přecházejí z AI experimentů do AI v produkci, zjišťují, že kritéria úspěchu pilotního projektu a kritéria úspěchu produkce jsou odlišná: pilot musí fungovat, produkce musí být obhajitelná. Správa je rozdíl mezi těmito dvěma úrovněmi.

Mnoho společností dokáže předvést působivý AI pilot, ale má potíže jej převést na měřitelnou obchodní hodnotu. Na jaké metriky by se měli vedoucí zaměřit při určování, zda iniciativa AI automatizace skutečně přináší ROI, a jaké jsou nejčastější důvody, proč slibné piloty selhávají při škálování?

Nedůvěřuji žádné diskusi o ROI AI, která začíná „ušetřenými hodinami“, protože ušetřené hodiny – koho, jak ověřeno? Metriky, které skutečně obstojí pod dohledem finančního ředitele, jsou věci, které auditoři mohou nezávisle potvrdit: doba cyklu konkrétního procesu před a po; míra chyb nebo přepracování; procento pracovního postupu, který nyní končí bez lidského zásahu; a pokrytí auditního řetězce – můžete ukázat, proč bylo učiněno každé agentní rozhodnutí. Pokud tuto stopu nemůžete poskytnout, nemáte číslo ROI, máte jen anekdotu. Piloty selhávají při škálování téměř vždy ze stejného důvodu: byly vytvořeny k prokázání, že model funguje, nikoli k prokázání, že proces funguje end‑to‑end, v produkci, integrovaný se systémy, na které zbytek společnosti spoléhá. Pilot, který existuje v sandboxu, oddělený od skutečného systému záznamu, bude vždy vypadat lépe, než jaký bude jeho výkon, jakmile bude propojen se všemi ostatními běžícími systémy. Škála je problém integrace systémů převlečený za AI.

Také jste vedl iniciativy organizačních změn ve společnosti Pipefy při zavádění nových AI funkcí. Z vaší zkušenosti, kolik z úspěšné adopce AI v podniku je ve skutečnosti technologická výzva oproti výzvě procesní, kulturní a řízení změn?

Upřímně řečeno, úspěšná adopce AI v podniku je z 20 % technologie a z 80 % všeho ostatního. Technologie nyní většinou funguje — to není to, co mi nedává spát. To, co skutečně určuje, zda AI iniciativa vydrží, je, zda lidé, jejichž práce se mění, důvěřují systému natolik, že se vzdají manuální kontroly, kterou prováděli deset let, a zda vedení je ochotno proces přepracovat místo toho, aby jen přilepilo AI na starý. Prošli jsme tím interně při budování vlastních inženýrských nástrojů — technologie k automatizaci částí toho, jak stavíme software, existovala dávno předtím, než tým skutečně důvěřoval natolik, aby přestal vše ručně dvojitě kontrolovat. Odemknutí nebyl lepší model, ale viditelný důkaz, opakovaný dostatečně mnohokrát, že úsudek systému odpovídá jejich. Řízení změn pro AI není komunikační cvičení, je to cvičení shromažďování důkazů — získáváte důvěru v malých, ověřitelných dávkách, nevyhlašujete ji na celopodnikovém setkání.

Do budoucna očekáváte, že tradiční software pro workflow a obchodní procesy se vyvine do vrstev orchestraci, kde lidé, AI agenti a podnikovými systémy budou neustále spolupracovat? Pokud ano, co se zásadně změní na tom, jak společnosti navrhují a řídí své operace?

Ano, a myslím, že tento posun je větší, než si většina lidí uvědomuje. Software pro workflow byl dříve místem, kde jste dokumentovali, jak má práce probíhat. Stává se místem, kde práce skutečně probíhá — živým runtime, kde lidé, agenti a podnikoví systémy všichni jednají uvnitř stejného řízeného procesu současně, místo toho, aby člověk používal software jako pasivního správce záznamů po události. To, co se zásadně mění, je to, kde „systém záznamu“ skutečně sídlí. Záznam byl dříve databáze, která se aktualizovala poté, co se něco již mimo ni stalo. Ve vrstvě orchestraci jsou záznam a provedení totéž — proces samotný se stává rozhraním, přístupným nejen přes obrazovku, ale i přes API, MCP server, CLI, takže jakýkoli agent, interní nebo partnerův, může v něm jednat podle stejných pravidel jako člověk. Společnosti, které tento posun vnímají jako „přidat AI k mým stávajícím nástrojům“, budou stále narážet na strop, který jsem dříve popsal. Ti, kteří svůj procesní vrstvu považují za skutečný produkt — za to, do čeho stojí investovat a správně strukturovat — budou těžit z výhody, kterou nikdo nemůže zkopírovat pouhým nákupem stejného AI modelu.

Děkujeme za skvělý rozhovor, čtenáři, kteří se chtějí dozvědět více, by měli navštívit Pipefy.