Andreea Pleşea, PhD, COO a spoluzakladatelka Druid AI – série rozhovorů

Andreea Pleşea, PhD, COO a spoluzakladatelka Druid AI, je technologická výkonná ředitelka a podnikatelka s téměř dvacetiletou zkušeností v oblasti softwarového inženýrství, podnikového technologií, umělé inteligence, provozu a úspěchu zákazníků. Od založení Druid AI zastávala několik vedoucích pozic v celé organizaci, včetně funkce Chief Operating Officer, Chief Revenue Officer a Chief Customer Success Officer, což jí poskytlo zkušenosti jak na technické, tak komerční straně škálování podnikového softwaru. Před Druid AI strávila Pleşea téměř deset let ve společnosti TotalSoft, kde postupovala od .NET programátorky po manažerku vývoje softwaru a nakonec ředitelku aplikací Charisma Business Applications, kde dohlížela na vývoj produktů, implementaci, technickou podporu, architekturu řešení a odpovědnost za P&L. Její akademické zázemí zahrnuje také výzkum AI na Univerzitě v Římě Tor Vergata, kde spolupracovala s Výzkumnou skupinou umělé inteligence na technologiích pro extrakci a strukturování informací z nestrukturovaných dat. Také působí v radě poradců pro Women in Tech Romania.

Druid AI je podnikovou AI společností zaměřenou na vytváření a orchestraci AI agentů, kteří mohou automatizovat složité obchodní procesy napříč organizacemi. Její platforma kombinuje porozumění přirozenému jazyku, generativní AI, retrieval‑augmented generation (RAG), podnikové integrace, automatizaci pracovních toků, analytiku a správu, přičemž Druid Conductor koordinuje více specializovaných agentů a systémů směrem k obchodním výsledkům. Organizace mohou připojit agenty Druid k systémům jako ERP (enterprise resource planning), CRM (customer relationship management), ITSM (IT service management) a platformám pro lidské zdroje, přičemž technologii lze nasadit v cloudu, hybridně, on‑premise nebo v oddělených (air‑gapped) prostředích. Společnost uvádí, že její technologie používá více než 300 podnikových zákazníků a podporuje ji přes 200 globálních partnerů, s aplikacemi v oblastech jako podpora zaměstnanců, zákaznický servis, zdravotnictví, vysoké školství a sdílené služby.

Spoluzakladala jste Druid AI v Bukurešti v roce 2018 po téměř deseti letech ve společnosti TotalSoft, kde jste postoupila z .NET vývoje do seniorní technologické a obchodní vedení. Co vás tehdy přesvědčilo, že konverzační AI může stát se základní vrstvou podnikového technologií, a jak se tato původní vize vyvíjela, když Druid přešel na agentní AI? 

Setkání dvou odlišných cest – akademické přísnosti a frontové podnikové bolesti – formovalo mé myšlenky během doktorského studia. Ovšem až když přišel Liviu Dragan, výjimečně vizionářský vůdce, s nápadem založit Druid AI, uvědomila jsem si, že výzkum, který jsem dělala, může konečně najít uplatnění v reálném světě.

V letech 2008‑2011 se můj doktorský výzkum soustředil na autonomní AI agenty komunikující pomocí technologií sémantického webu a ontologií, zkoumající, jak by inteligentní systémy mohly nahradit nebo doplnit tradiční podnikovou software. Krátce poté mě vedení v podnikovém technologickém sektoru konfrontovalo s tvrdou realitou: požadovali jsme od zaměstnanců, aby zvládali neúnosnou složitost.

Dokončení jedné rutinní úlohy znamenalo vědět, kterou aplikaci otevřít, kde data leží, která politika se uplatní a kdo vlastní další krok. Mezitím mimo kancelář se messaging stal dominantním rozhraním pro lidskou interakci.

Když v roce 2018 založili Druid AI, naše vize byla jednoduchá, ale ambiciózní: poskytnout každému zaměstnanci i zákazníkovi virtuálního asistenta schopného orchestraci práce napříč celým podniku.

Skoro deset let poté se tato základní vize nezměnila – technologie jen dohnala čas. Konverzační AI se z velké části točila kolem rozpoznávání záměru, vyhledávání a spouštění statických skriptů. Agentní AI posouvá hranici delegace. Moderní agenti hodnotí cíle, spolupracují s specializovanými podagenty, navigují mezi nesourodými systémy a autonomně vykonávají složité vícekrokové pracovní toky.

Pro nás není současná agentní revoluce strategickým odklonem od konverzační AI. Je to přirozená realizace našeho zakládajícího tvrzení: podniková technologie musí být jednodušší pro lidi, aby jim pomohla práci dokončit, i když orchestraci „za oponou“ roste do nekonečné složitosti.

Velká část AI průmyslu se soustředila na budování stále výkonnějších základních modelů, zatímco Druid AI se zaměřila na propojení různých modelů s podnikovými daty, systémy a pracovními toky. Jak se modely stávají stále zaměnitelnějšími, věříte, že orchestraci se stane důležitější konkurenční výhodou než samotný model?

V Druid AI je naše hlavní mise jednoduchá: vytěžit z každé lidské interakce to výjimečné tím, že efektivně dokončíme úkol. Jak trh dozrává, klíč k dodání této hodnoty se posouvá od samotné technologické vrstvy.

Jsme svědky klasického vzoru v podnikovém tech sektoru: schopnosti, které dříve sloužily jako první diferencátory, rychle komoditizují. Dnes jsou základní modely přístupné každému hráči. Podniky nevyhnutelně nasadí hybridní matici modelů vybraných pro konkrétní výkonnost, náklady, bezpečnost nebo regulatorní požadavky. Jak se inteligence stává komoditou, strategické bojiště se posouvá výš v zásobníku.

Dnes jsou nejnáročnější problémy v podnikovém AI o kontextu vykonávání: správa a přístup (která data může AI použít a podle jakých politik), agentní směrování (který specializovaný agent by měl řešit daný úkol), integrace systémů (jak bezpečně koordinovat více transakčních systémů), autonomie vs. kontrola (kdy může agent jednat samostatně a kdy je vyžadováno lidské schválení), auditovatelnost (pokud workflow selže, lze krok po kroku rekonstruovat rozhodovací řetězec).

Právě proto se orchestrací stává ultimátní strategický pákový nástroj. Modely generují inteligenci, ale podniky potřebují spolehlivé vykonání.

Druid AI je postavena tak, aby sloužila jako definitní řídící a orchestrální vrstva. Bezpečně propojuje různé modely napříč podnikovými daty, pracovními toky a lidmi. Klíčové je, že poskytuje referenční rámec pro měření efektivity vykonávání a hodnocení skutečných obchodních výsledků.

Z dlouhodobého hlediska nebude otázka „Jaký model používáte?“ vítězná. Bude to otázka „Jak efektivně dokážete přeměnit surovou inteligenci na dokončenou práci pro své zaměstnance a zákazníky?“

Druid Conductor může koordinovat více specializovaných agentů napříč vyhledáváním znalostí, rozhodovací logikou a systémovými akcemi. Co se technicky stává obtížným, když podnik přechází od jednoho AI asistenta, který odpovídá na otázky, k více agentům, kteří mohou samostatně vykonávat vícekrokové obchodní procesy?

Posun od jednoduchých konverzačních rozhraní k multi‑agentním architekturám zásadně mění inženýrskou výzvu. Přestanete spravovat lineární konverzaci a začnete řídit distribuovaný systém rozhodování a vykonávání.

S jedním Q&A asistentem jsou hlavní překážky rozpoznání záměru, vyhledávání a generování odpovědí s vysokou přesností. Ekosystémy s více agenty zavádějí zcela jinou třídu distribuovaných systémů a otázek:

1. Který agent má pravomoc jednat a jak zabránit úniku domény?
2. Jak je udržován stav při předávání odpovědnosti mezi agenty?
3. Jak jsou řešeny protichůdná rozhodnutí mezi specializovanými agenty?
4. Jak podagenti dynamicky a bezpečně dědí přístupová oprávnění?

Tyto výzvy se násobí při aplikaci na reálnou podnikovou infrastrukturu. Jeden pracovní tok může zasahovat do CRM, ERP, platformy pro správu identit, ticketovacího systému a starých databází. Každý funguje podle odlišné obchodní logiky a selhávacích režimů, ale nakonec agent Conductor musí úkol splnit správně.

Pokud čtvrtý krok ze šesti‑krokového procesu selže po tom, co tři systémy již provedly transakční změny, základní agentní pipeline se rozpadne. Orchestrální vrstva nemůže jen vyhodit obecnou chybu. Musí spravovat stav, provést rollbacky, pokud je to nutné, zjistit, zda existuje alternativní směrování, nebo elegantně eskalovat k lidskému zásahu v loopu.

Skutečná podniková orchestrácia je správa stavu, transakční konzistence, observabilita, vynucování politik a bezpečná autonomie. Cílem této podkladové složitosti je jednoduchost: dodat jediné, bezproblémové rozhraní, kde složité vícesystémové úkoly jednoduše proběhnou.

Druid AI nyní zpracoval více než miliardu konverzací napříč tisíci nasazenými agenty. Co jste se na takovém měřítku naučila o podnikovém AI, co by bylo nemožné zjistit z pilotních projektů nebo kontrolovaných demonstrací?

Produkce vás rychle učí pokornosti.

Pilot je obvykle relativně kontrolované prostředí. Use‑case je definovaný, data jsou poměrně čistá, uživatelé jsou známí a obvykle je k projektu přidělen tým, který ho bedlivě sleduje.

Produkce se vůbec takto nechová. Lidé kladou stejnou otázku dvaceti různými způsoby. Polovičním během konverzace si změnily názor. Poskytují neúplné informace. Přepínají jazyky nebo témata. Interagují v neočekávaných časech. Politiky se mění. API selhávají. Backendové systémy zpomalují. Objevují se nové okrajové případy, které nikdo v originálním návrhu nepředpokládal. Jedna věc je jistá: očekávání uživatelů je, že úkol bude dokončen efektivně, plynule a přirozeně. Ať už jde o text, ale zejména o hlas, konverzace by měla plynout přirozeně, bez latence; měla by zčásti působit empaticky a vykonávat úkol s nabídkou nejlepších možností a dalších kroků, nebo v případě výjimek a smyček přepnout na člověka, když je to potřeba.

Jedna z nejvyšších hodnot automatizace pochází z relativně obyčejných činností prováděných výjimečně dobře a stovky tisíc krát: odpověď na otázku zaměstnance, kontrola účtu, přeplánování schůzky, řešení IT požadavku nebo získání správné informace z podnikového systému. To změnilo naše vnímání hodnoty AI.

Druhá lekce je, že spuštění do provozu je jen začátek učícího cyklu. Musíte sledovat, co uživatelé žádají, které záměry rostou, kde konverzace selhávají, kde lidé eskalují a někdy i kde samotný obchodní proces potřebuje změnu.

A možná nejdůležitější lekce je, že důvěra je operativní, protože podniky důvěřují AI, protože se v čase chová předvídatelně, výjimky jsou řešeny správně, rozhodnutí jsou viditelná a organizace zůstává pod kontrolou.

Druidova produkční data naznačují, že relativně malý počet pracovních toků může představovat velkou část skutečného využití podnikového AI. Naznačuje to, že by se firmy měly zpočátku soustředit na investice do AI na několik vysoce objemových pracovních toků místo snahy o širokou transformaci napříč celým podnikovým prostředím?

Jedním z nejjasnějších vzorců v našich produkčních datech je, že poptávka se koncentruje. Ve finančních službách například tři kategorie pracovních toků představují kolem 90 % produkčního využití. Ve vyšším vzdělávání je koncentrace ještě vyšší. To nám říká něco důležitého o tom, jak by firmy měly přemýšlet o AI transformaci. Analyzovali jsme tyto poznatky a vytvořili benchmarkové zprávy pro vyšší vzdělávání, zdravotnictví a bankovnictví, které umožňují našim partnerům a zákazníkům identifikovat procesy, které by přinesly efektivitu a pomohly předpovědět, jak lidé budou s agenty interagovat.

Existuje pokušení, zejména na úrovni představenstva, začít s velmi širokým požadavkem: „Musíte použít AI, jinak zůstaneme pozadu.“ Provozní tým pak bojuje s identifikací správných úkolů, které by agenti mohli vykonávat, a zároveň se obává, že neztratí své pracovní místo. Jaký tedy má smysl najít správnou rovnováhu a jak mohou najmout správného AI agenta, který bude pracovat SPOLEČNĚ s nimi a zároveň maximalizovat KPI, které představenstvo očekává?

Začněte tam, kde je potenciál růstu výnosů a/nebo snížení nákladů, věci, které lidé opakovaně provádějí. Pokud tisíce zákazníků, zaměstnanců, studentů nebo pacientů opakovaně usilují o stejný výsledek, máte měřitelný základ a silnou příležitost prokázat hodnotu.

Ale je důležité rozlišovat: začněte úzce, navrhujte široce.

První use‑case mohou být koncentrované. Platforma pod nimi by měla být schopna rozšíření napříč celým podnikovým prostředím. Dokážete prokázat ekonomiku, model správy, integrace a mechanismy lidské eskalace na několika smysluplných pracovních tocích. Pak rozšíříte do sousedních procesů s využitím získaných poznatků.

Objem by neměl být jediným kritériem. Nízkofrekvenční workflow může být stále mimořádně hodnotný, pokud každé úspěšné řešení přináší značný finanční nebo operativní dopad.

Jak se podniky stále více zaměřují na úspěšné řešení místo pouhého maximalizování procenta interakcí bez lidského zásahu, jak by měly organizace určit, které rozhodnutí může AI agent učinit autonomně a kde by měla zůstat povinná lidská eskalace?

Druid AI vytvořila evaluační rámec, který zahrnuje 26 kritérií a zajišťuje objektivní hodnocení agentní orchestrácie od návrhu až po dokončení úkolu.

Pokud je akce reverzibilní, relativně nízkorizikována, řízena jasnými pravidly a podpořena spolehlivými informacemi, existuje silný argument pro autonomii. Přesunutí schůzky s předdefinovanými parametry je naprosto odlišné od klinického rozhodnutí a může se zdát jednoduché. Ale mělo by mít mnoho aspektů, které je třeba zvážit, aby bylo provedeno efektivně: např. pokud má doktor B volný slot, ale chtěl by ho zablokovat, AI agent by neměl přeložit pacientovu schůzku do toho slotu jen proto, že úkolem je maximalizovat pokrytí kalendáře doktora.

Podívám se na několik dimenzí: finanční nebo lidské následky chyby, zda je akce reverzibilní, úplnost a kvalita dostupných informací, regulatorní požadavky a zda je nutný skutečný lidský úsudek nebo empatie. Na základě toho úmyslně navrhnu eskalaci.

To je místo, kde si myslím, že rané myšlení kolem AI automatizace bylo příliš zjednodušené. Cílem se stalo „zachytit co nejvíce interakcí bez zapojení člověka.“ V mnoha procesech je však eskalace právě správným výsledkem.

Proto raději uvažuji o „řízeném řešení“ než o čistém zachycení.

Cílem je, aby AI autonomně řešila práci, kterou má řešit, rozpoznala situace, kdy by neměla jednat, a zapojila člověka do procesu s relevantním kontextem již připraveným.

Když AI agenti mohou získávat citlivé informace, aktualizovat podnikovou infrastrukturu a iniciovat reálné akce, stává se observabilita a správa mnohem důležitější. Co by měly společnosti být schopny auditovat ohledně uvažování, přístupu k datům a akcí agenta, než mu důvěřují v kritických pracovních tocích?

Podle směrnic Gartner má DRUID vestavěný evaluační rámec, který analyzuje agenty z 5 úhlů: tolerance chyb, riziko, soulad, observabilita a odchylka. V těchto kategoriích máme celkem 26 komponent. Každá má definici, artefakt, který lze otevřít, a měření.

Při hodnocení agenta by platforma měla být schopna rekonstruovat kompletní řetězec od původního uživatelského požadavku až po finální systémovou akci. To znamená vědět, který agent požadavek zpracoval, který model byl použit, jaký kontext model obdržel, jaké podnikové informace byly získány, které obchodní pravidla nebo politiky byly aplikovány, proč byl vybrán konkrétní směr nebo akce a přesně co se změnilo v podkladových systémech. Desítky auditovatelných interakcí jsou sledovány, analyzovány a měřeny.

Identita je stejně důležitá. AI agent by se nikdy neměl stát zkratkou kolem podnikového řízení přístupu. Musíte vědět, kdo požadavek inicioval, co má daná osoba oprávnění vidět nebo dělat, a zda agent zůstal přesně v těchto mezích.

S multi‑agentní architekturou se sledovatelnost stává ještě důležitější. Který agent delegoval jinému agentovi? Jaké informace překročily hranici? Odkud rozhodnutí vzniklo? Která komponenta skutečně vykonala akci? A pak je zde operační důkaz: časové značky, signály důvěry, výsledky vykonání, výjimky, události eskalace a možnost pochopit nebo přehrát, co se stalo.

To je jedna z největších změn při přechodu od konverzační k agentní AI.

Když AI pouze odpovídá na otázku, observabilita je užitečná. Když AI může měnit zákaznický záznam, spouštět platbu, aktualizovat více záznamových systémů nebo iniciovat obchodní proces, observabilita se stává součástí řídící architektury.

Zastávala jste neobvykle širokou škálu rolí v Druid AI, od vývoje přes provoz, výnosy až po úspěch zákazníků. Jak vás přímá práce se zákazníky formovala v názoru, proč některá nasazení podnikového AI generují měřitelné hodnoty, zatímco jiná zůstávají uvíznutá v pilotní fázi?

Začala jsem kariéru jako vývojářka a jako mnoho inženýrů jsem původně měla silný instinkt, že pokud je technologie dostatečně dobrá, její hodnota by měla být zřejmá. Zákazníci vás rychle naučí, že takto podniková technologie nefunguje.

Technicky sofistikované nasazení může stále vytvářet jen málo hodnoty, pokud není důležitý obchodní problém, pokud chybí vlastník procesu, pokud je integrace považována za doplněk nebo pokud nikdo nesouhlasil, co úspěch znamená. Zákazníci jsou výjimečně dobrí v odhalování technologického narativu. Nezajímá je, jak elegantní je architektura, pokud proces, za který jsou zodpovědní, se nezlepšil.

Když mluvíme o implementacích v takovém měřítku, existuje vlastník podnikání s reálným problémem k vyřešení. Existuje měřitelný objem, náklady/příjmy nebo tření. AI je napojena na systémy, kde se práce skutečně odehrává. A existuje plán adopce a kontinuálního zlepšování po spuštění. Piloty často zůstávají piloty, protože prokazují, že technologie funguje, aniž by prokázaly, že funguje i provozní model. Proto při řešení AI projektu školíme naše zaměstnance a partnery, aby nejprve pochopili „práci“, ne kliky, které uživatelé provádějí v systémech. „Práce“ znamená celý proces, jak zacházejí s výjimkami, jaký je výsledek, jak často se výjimky objevují, co jim brání zvýšit produktivitu, jak dlouho to trvá a jaký úsilí je potřeba k zvýšení produktivity, pokud by práce nebyla automatizována.

Moje vlastní kariéra prošla technologií, provozem, prodejem, úspěchem zákazníků a budováním společnosti a nyní vidím tuto šíři jako jednu ze svých největších výhod. Technologie vás učí, jak něco funguje. Prodej vás učí, proč za to někdo zaplatí. Úspěch zákazníků vás učí, zda to funguje v reálném světě. Provoz vás učí, zda organizace může dodávat opakovaně a ve velkém měřítku.

V mnoha ohledech vývoj Druid AI následoval stejnou cestu: od prokázání, že konverzační AI může fungovat, po prokázání, že může vytvářet hodnotu, až po vybudování infrastruktury potřebné k tomu, aby inteligentní agenti byli spolehliví v podnikovém měřítku.

Také jste se podílela na Women in Tech Romania při budování Druid jako mezinárodní AI společnosti. Kde stále vidíte největší překážky pro ženy zakládající a vedoucí AI společnosti a co by skutečně zvýšilo jejich zastoupení na úrovni výkonných ředitelů a zakladatelů? 

Nová data poukazují na výrazný rozdíl v evropském tech sektoru: pouze 5 % AI startupů je založeno nebo spoluzaloženo ženami a jen polovina těchto zakladatelek má PhD. Zatímco statistiky jsou drsné, řešení této disparity vyžaduje pohled za tradiční narativy o genderové diskriminaci.

V jádru je podnikání individuální cesta formovaná osobností, tolerancí rizika, osobními prioritami a kariérními rozhodnutími. Místo aby se to vnímalo jen jako sociální bariéra, musíme zkoumat praktické potrubí, skrze které jsou zakladatelé formováni.

Zatímco dívky jsou statisticky méně přitahovány k technickým disciplínám v raném věku, mnohem významnější a méně diskutovaná překážka se objevuje později v korporátních kariérách: expozice plnému vlastnictví podniku.

Ženy často excelují jako špičkové technické specialistky a funkční lídry. Méně jich však přechází do rolí s přímou odpovědností za výnosy, řízení P&L, komerční rozhodování a celkovou firemní strategii. To jsou přesně ty operační svaly potřebné k založení a škálování podnikového technologického podniku.

Moje vlastní cesta od vývoje softwaru po CEO nebyla lineární, ale řadou přechodů napříč vedením, provozem, komerčním provedením a nakonec budováním společnosti. V prostředích jako rumunský vzdělávací systém, kde chybělo praktické finanční vzdělání a podnikatelský trénink pro všechny bez ohledu na pohlaví, byl proces učení se řídit podnikatelským rizikem krok za krokem expozicí.

Překonání této mezery také vyžaduje rozbití běžného mýtu: představa, že technologické vedení vyžaduje absolutní mistrovství před vstupem. V éře rychle se vyvíjející AI nikdo nezná všechny odpovědi. Definující vůdčí vlastnosti dnes jsou zvědavost, kontinuální učení a sebedůvěra řešit složité problémy předtím, než je výsledek zaručen.

Abyste viděli více žen řídících technologické společnosti, musíme rozšířit přístup k komerčním sítím, podporovat viditelné vzory a aktivně povzbuzovat zkušené talenty, aby vystoupily z funkčních silo, převzaly odpovědnost za P&L a přijaly rizika podnikatelského vlastnictví.

Jaký výhled máte, co oddělí podnikovou AI platformu, která se hluboce zakotví v obchodních operacích, od mnoha AI produktů, které nakonec selžou v přesunu z experimentování?

Rozdělovací čára bude, zda dokážou přejít od inteligence k spolehlivému vykonání.

Generovat působivou odpověď se už stává relativně snadné. Spolehlivě fungovat v rozsáhlém podniku je jiný příběh.

Platformy, které se zakotví v obchodních operacích, budou muset bezpečně připojit existující systémy místo toho, aby požadovaly, aby firmy nahrazovaly vše, co už používají. Budou muset fungovat napříč různými modely a technologiemi.

Budou potřebovat orchestraci schopnou koordinovat agenty, pracovní toky a lidská rozhodnutí. A budou potřebovat identitu, správu, observabilitu a kontrolu navrženou přímo v architektuře, nikoli přidávanou později.

Ale existuje další požadavek, který podle mě bude čím dál více oddělovat experimenty od infrastruktury: spolehlivost za nedokonalých podmínek. Demonstrace ukazuje, co AI systém dokáže, když vše funguje, ale podnik chce vědět, co se stane, když něco nefunguje.

Co se stane, když jsou data neúplná? Když selže API? Když se dva politiky dostanou do konfliktu? Když je nízká důvěra? Když uživatel požaduje něco, k čemu není oprávněn?

Pokud agent brilantně funguje 90 % času, ale v zbylých 10 % se chová nepředvídatelně, nemůžete mu svěřit odpovědnost za kritický proces.

Posledních několik let dominovala otázka: „Co tento model dokáže?“

Podniková otázka se mění na: „Jak mohu tuto práci efektivně dokončit?“

AI platformy, které se hluboce zakotví v organizacích, budou ty, které dokážou přesvědčivě odpovědět na druhou otázku: technicky, operativně i ekonomicky. To je nakonec příležitost, kterou jsme viděli, když jsme zakládali Druid AI: učinit inteligenci součástí toho, jak je samotná práce vykonávána.

Děkujeme za skvělý rozhovor, čtenáři, kteří se chtějí dozvědět více, by měli navštívit Druid AI.