Andreea Pleşea, PhD, COO i współzałożycielka Druid AI – seria wywiadów

Andreea Pleşea, PhD, COO i współzałożycielka Druid AI, jest kierowniczką technologiczną i przedsiębiorczynią z prawie dwudziestoletnim doświadczeniem obejmującym inżynierię oprogramowania, technologię korporacyjną, sztuczną inteligencję, operacje oraz sukces klienta. Od momentu współzałożenia Druid AI pełniła kilka wysokich stanowisk kierowniczych w organizacji, w tym dyrektora operacyjnego (Chief Operating Officer), dyrektora ds. przychodów (Chief Revenue Officer) oraz dyrektora ds. sukcesu klienta (Chief Customer Success Officer), co dało jej doświadczenie zarówno po stronie technicznej, jak i handlowej skalowania firmy z oprogramowaniem korporacyjnym. Przed Druid AI Pleşea spędziła prawie dziesięć lat w TotalSoft, awansując od programisty .NET do menedżera rozwoju oprogramowania, a ostatecznie do dyrektora aplikacji biznesowych Charisma, gdzie nadzorowała rozwój produktu, wdrożenia, wsparcie techniczne, architekturę rozwiązań oraz odpowiedzialność za wyniki finansowe (P&L). Jej wykształcenie akademickie obejmuje także badania AI na Uniwersytecie Rzymskim Tor Vergata, gdzie współpracowała z grupą Badania Sztucznej Inteligencji nad technologią wydobywania i strukturyzacji informacji z danych nieustrukturyzowanych. Pełni również funkcję członka Rady Doradczej Women in Tech Romania.

Druid AI to firma oferująca sztuczną inteligencję dla przedsiębiorstw, koncentrująca się na budowaniu i koordynowaniu agentów AI, które mogą automatyzować złożone procesy biznesowe w organizacjach. Jej platforma łączy rozumienie języka naturalnego, generatywną AI, generowanie wspomagane wyszukiwaniem (RAG), integracje korporacyjne, automatyzację przepływów pracy, analitykę i zarządzanie, przy czym Druid Conductor koordynuje wiele wyspecjalizowanych agentów i systemów w celu osiągnięcia rezultatów biznesowych. Organizacje mogą podłączać agenty Druid do systemów takich jak planowanie zasobów przedsiębiorstwa (ERP), zarządzanie relacjami z klientami (CRM), zarządzanie usługami IT (ITSM) oraz platformy zasobów ludzkich, wdrażając technologię w chmurze, w środowiskach hybrydowych, lokalnych lub odizolowanych od sieci. Firma podaje, że jej technologia jest wykorzystywana przez ponad 300 klientów korporacyjnych i wspierana przez ponad 200 globalnych partnerów, a zastosowania obejmują wsparcie pracowników, obsługę klienta, opiekę zdrowotną, szkolnictwo wyższe i usługi współdzielone.

Współzałożyłaś Druid AI w Bukareszcie w 2018 roku po prawie dekadzie pracy w TotalSoft, gdzie awansowałaś od programowania .NET do wysokich stanowisk technologicznych i biznesowych. Co przekonało Cię wtedy, że konwersacyjna sztuczna inteligencja może stać się podstawową warstwą technologii korporacyjnej, i jak ta pierwotna wizja ewoluowała, gdy Druid przeszedł do AI agentowej? 

Zbieżność dwóch odrębnych ścieżek – rygoru akademickiego i problemów przedsiębiorstw z pierwszej linii – ukształtowała mój tok myślenia w trakcie doktoratu. Jednak dopiero gdy Liviu Dragan, niezwykle wizjonerski lider, wpadł na pomysł założenia Druid AI, zdałam sobie sprawę, że prowadzone przeze mnie badania mogą w końcu znaleźć zastosowanie w praktyce.

W latach 2008–2011 moja praca doktorska koncentrowała się na autonomicznych agentach AI komunikujących się za pomocą technologii semantycznego webu i ontologii, badając, w jaki sposób inteligentne systemy mogą zastąpić lub współistnieć z tradycyjnym oprogramowaniem korporacyjnym. Niedługo potem, pracując na stanowiskach przywódczych w technologii korporacyjnej, zetknąłem się z brutalną rzeczywistością: prosiliśmy pracowników o radzenie sobie z nie do zniesienia złożonością.

Wykonanie jednej rutynowej czynności wymagało wiedzy, którą aplikację otworzyć, gdzie znajdują się dane, jaka polityka ma zastosowanie i kto jest odpowiedzialny za kolejny krok. Jednocześnie poza biurem komunikatory stawały się dominującym interfejsem ludzkiej interakcji.

Kiedy w 2018 roku założyliśmy Druid AI, nasza wizja była prosta, ale ambitna: zapewnić każdemu pracownikowi i klientowi wirtualnego asystenta zdolnego do koordynowania pracy w całej organizacji.

Prawie dekadę później ta podstawowa wizja nie uległa zmianie – technologia po prostu nadążyła. Konwersacyjna AI polegała głównie na rozpoznawaniu intencji, wyszukiwaniu i uruchamianiu statycznych skryptów. AI agentowa zmienia granicę delegowania. Współczesni agenci oceniają cele, współpracują ze wyspecjalizowanymi podagentami, poruszają się po rozproszonych systemach i autonomicznie realizują złożone, wieloetapowe przepływy pracy.

Dla nas obecna rewolucja agentowa nie jest strategicznym odwróceniem od konwersacyjnej AI. To naturalna realizacja naszej początkowej tezy: technologia korporacyjna musi stać się prostsza dla ludzi, aby pomóc im wykonać zadanie, nawet gdy orkiestracja za kulisami staje się nieskończenie bardziej zaawansowana.

Większość branży AI skoncentrowała się na budowaniu coraz potężniejszych modeli bazowych, podczas gdy Druid AI skupiło się na łączeniu różnych modeli z danymi, systemami i przepływami pracy w przedsiębiorstwie. W miarę jak modele stają się coraz bardziej wymienne, czy uważasz, że orkiestracja stanie się ważniejszą przewagą konkurencyjną niż sam podstawowy model?

W Druid AI nasza podstawowa misja jest prosta: wydobywać niezwykłe z każdej interakcji ludzkiej, efektywnie realizując zadanie. Jednak wraz z dojrzewaniem rynku kluczem do dostarczania tej wartości jest odejście od podstawowego stosu technologicznego.

Obserwujemy klasyczny wzorzec w technologii korporacyjnej: możliwości, które kiedyś były wczesnymi wyróżnikami, szybko stają się towarem. Dziś modele bazowe są dostępne dla każdego podmiotu. Przedsiębiorstwa nieuchronnie wdrożą hybrydową matrycę modeli wybranych pod kątem konkretnych wymagań wydajności, kosztów, bezpieczeństwa lub regulacji. Gdy inteligencja staje się towarem, strategiczne pole walki przenosi się wyżej w stosie.

Obecnie najtrudniejsze problemy w AI korporacyjnym dotyczą kontekstu wykonania: zarządzania i dostępu (do jakich danych AI może mieć dostęp i na jakich zasadach), routingu agentowego (który wyspecjalizowany agent powinien obsłużyć dane zadanie), integracji systemów (jak wiele systemów transakcyjnych może bezpiecznie współpracować), autonomii vs. kontroli (kiedy agent może działać samodzielnie, a kiedy wymagana jest zgoda człowieka), audytowalności (jeśli przepływ pracy zawiedzie, czy można odtworzyć ścieżkę decyzji krok po kroku).

Dlatego orkiestracja stała się ostatecznym dźwignią strategiczną. Modele generują inteligencję, ale przedsiębiorstwa potrzebują niezawodnego wykonania.

Druid AI zostało zbudowane jako definitywna warstwa kontroli i orkiestracji. Łączy różne modele w sposób bezpieczny z danymi korporacyjnymi, przepływami pracy i ludźmi. Co najważniejsze, zapewnia ramy odniesienia do pomiaru skuteczności wykonania, oceniając rzeczywiste wyniki biznesowe.

W dłuższej perspektywie kluczowe pytanie nie będzie brzmiało „Jakiego modelu używasz?” lecz „Jak skutecznie potrafisz przekształcić surową inteligencję w ukończoną pracę dla swoich pracowników i klientów?”

Druid Conductor może koordynować wiele wyspecjalizowanych agentów w zakresie wyszukiwania wiedzy, logiki decyzyjnej i działań systemowych. Co staje się technicznie trudne, gdy przedsiębiorstwo przechodzi od jednego asystenta AI odpowiadającego na pytania do wielu agentów, które mogą samodzielnie realizować wieloetapowe procesy biznesowe?

Przejście od prostych interfejsów konwersacyjnych do architektur wieloagentowych zasadniczo zmienia wyzwanie inżynieryjne. Przestajesz zarządzać liniową rozmową i zaczynasz zarządzać rozproszonym systemem decyzyjno-wykonawczym.

W przypadku jednego asystenta Q&A główne przeszkody to rozpoznawanie intencji, wyszukiwanie i generowanie odpowiedzi z wysoką dokładnością. Ekosystemy wieloagentowe wprowadzają zupełnie inną klasę rozproszonych systemów i pytań:

1. Który agent ma uprawnienia do działania i jak zapobiec odchodzeniu od zakresu?
2. Jak utrzymany jest stan przy przekazywaniu odpowiedzialności pomiędzy agentami?
3. Jak rozwiązywane są sprzeczne decyzje pomiędzy wyspecjalizowanymi agentami?
4. Jak podagenci dynamicznie i bezpiecznie dziedziczą uprawnienia dostępu?

Wyzwania te się nasilają, gdy zastosowane są w rzeczywistej infrastrukturze przedsiębiorstwa. Jeden przepływ pracy może obejmować CRM, ERP, platformę zarządzania tożsamością, system zgłoszeń oraz starsze bazy danych. Każdy z nich działa według odrębnej logiki biznesowej i ma własne tryby awarii, ale ostatecznie agent konduktora musi wykonać zadanie prawidłowo.

Jeśli czwarty krok sześciostopniowego procesu zawiedzie po tym, jak trzy systemy już wykonały zmiany transakcyjne, podstawowy potok agentowy zostaje przerwany. Warstwa orkiestracji nie może po prostu zwrócić ogólnego błędu. Musi zarządzać stanem, wykonywać wycofania w razie potrzeby, określać, czy istnieje alternatywna trasa, lub elegancko eskalować do interwencji człowieka w pętli.

Prawdziwa orkiestracja w przedsiębiorstwie to zarządzanie stanem, spójność transakcji, obserwowalność, egzekwowanie polityk oraz autonomia z zabezpieczeniami. Celem tej złożoności jest prostota: zapewnienie jednej, bezproblemowej interakcji, w której złożone zadania obejmujące wiele systemów po prostu zostają wykonane.

Druid AI obsłużyło już ponad miliard rozmów w tysiącach wdrożonych agentów. Przy takiej skali, czego nauczyłaś się o AI w przedsiębiorstwie, czego nie dałoby się dowiedzieć z pilotaży lub kontrolowanych demonstracji?

Produkcja szybko uczy pokory.

Pilot zazwyczaj odbywa się w stosunkowo kontrolowanym środowisku. Przypadek użycia jest określony, dane są w miarę czyste, użytkownicy znani, a zazwyczaj istnieje zespół projektowy, który uważnie obserwuje.

Produkcja nie zachowuje się w żaden sposób tak, jak w pilocie. Ludzie zadają to samo pytanie na dwadzieścia różnych sposobów. Zmienią zdanie w połowie rozmowy. Dostarczają niekompletne informacje. Przechodzą na inny język lub temat. Interakcje odbywają się w nieoczekiwanych momentach. Polityki się zmieniają. API zawodzą. Systemy zaplecza zwalniają. Pojawiają się nowe przypadki brzegowe, których nikt nie przewidział w pierwotnym projekcie. Jedno jest pewne: oczekiwanie użytkowników to skuteczne, płynne i naturalne wykonanie zadania. Niezależnie od tego, czy to tekst, a zwłaszcza głos, rozmowa powinna płynąć naturalnie, bez opóźnień; powinna brzmieć w pewnym stopniu empatycznie i realizować zadanie, jednocześnie sugerując najlepsze opcje i kolejne kroki, lub w razie potrzeby traktować wyjątki i pętle jako interwencję człowieka.

Największą wartość automatyzacji przynosi wykonywanie stosunkowo zwykłych czynności wyjątkowo dobrze i setki tysięcy razy: odpowiadanie na pytania pracowników, sprawdzanie konta, przeplanowywanie spotkania, rozwiązywanie zgłoszenia IT lub pobieranie właściwych informacji z systemu korporacyjnego. To zmieniło nasze postrzeganie wartości AI.

Druga lekcja polega na tym, że uruchomienie to dopiero początek cyklu uczenia się. Trzeba obserwować, o co pytają użytkownicy, które intencje rosną, gdzie rozmowy się nie powiodą, gdzie ludzie eskalują, a czasem, gdzie sam proces biznesowy wymaga zmiany.

A być może najważniejszą lekcją jest to, że zaufanie ma charakter operacyjny, ponieważ przedsiębiorstwa ufają AI, gdy z czasem zachowuje się przewidywalnie, wyjątki są obsługiwane prawidłowo, decyzje są widoczne, a organizacja pozostaje pod kontrolą.

Druid’s production data suggests that a relatively small number of workflows can account for much of actual enterprise AI usage. Does this indicate that companies should initially focus AI investment on a handful of high-volume workflows rather than attempt broad enterprise-wide transformation?

Jednym z najjaśniejszych wzorców w naszych danych produkcyjnych jest koncentracja popytu. W usługach finansowych, na przykład, trzy kategorie przepływów pracy stanowią około 90 % wykorzystania w produkcji. W szkolnictwie wyższym koncentracja jest jeszcze większa. To przekazuje ważną informację o tym, jak firmy powinny podchodzić do transformacji AI. Przeanalizowaliśmy te spostrzeżenia i opracowaliśmy raporty benchmarkowe dla szkolnictwa wyższego, opieki zdrowotnej i bankowości, które umożliwiają naszym partnerom i klientom zidentyfikowanie procesów przynoszących efektywność oraz prognozowanie, jak ludzie będą współdziałać z agentami.

Istnieje pokusa, szczególnie na szczeblu zarządu, aby rozpocząć od bardzo szerokiego żądania: „MUSISZ używać AI, inaczej zostaniemy w tyle”. Zespół operacyjny musi wtedy zmagać się z identyfikacją właściwych zadań, które agenci mogliby wykonywać, jednocześnie obawiając się utraty własnych miejsc pracy. Jak więc znaleźć właściwą równowagę i jak mogą zatrudnić odpowiedniego agenta AI, aby realizował zadanie WSPÓLNIE z nimi, maksymalizując jednocześnie KPI, którego oczekuje zarząd?

Rozpocznij tam, gdzie istnieje potencjał zwiększenia przychodów i/lub obniżenia kosztów, czyli w obszarach, które ludzie wykonują powtarzalnie. Jeśli tysiące klientów, pracowników, studentów lub pacjentów wielokrotnie dążą do tego samego rezultatu, masz mierzalną bazę i silną szansę na udowodnienie wartości.

Jednak istnieje ważna rozróżnienie: zacznij wąsko, projektuj szeroko.

Pierwsze przypadki użycia mogą być skoncentrowane. Platforma pod nimi powinna umożliwiać rozszerzenie w całym przedsiębiorstwie. Udowadniasz ekonomiczność, model zarządzania, integracje i mechanizmy eskalacji do człowieka na kilku istotnych przepływach pracy. Następnie rozwijasz się na procesy sąsiadujące, wykorzystując zdobytą wiedzę.

Objętość nie powinna być jedynym kryterium. Przepływ o niskiej częstotliwości może być nadal niezwykle wartościowy, jeśli każde udane rozwiązanie przynosi istotny wpływ finansowy lub operacyjny.

As enterprises increasingly focus on successful resolution rather than simply maximizing the percentage of interactions handled without humans, how should organizations determine which decisions an AI agent can make autonomously and where human escalation should remain mandatory?

Druid AI opracowało ramy oceny obejmujące 26 kryteriów, które zapewniają obiektywną ocenę orkiestracji agentowej – od sposobu jej budowy po realizację zadania.

Jeśli działanie jest odwracalne, stosunkowo niskiego ryzyka, regulowane jasnymi zasadami i poparte wiarygodnymi informacjami, istnieje silny argument za autonomią. Przeplanowanie wizyty przy określonych parametrach różni się znacznie od podjęcia decyzji klinicznej i może wydawać się proste. Jednak musi uwzględniać wiele elementów, aby było skuteczne: np. jeśli lekarz B ma wolny termin, ale chciał go zablokować, agent AI nie powinien przeplanować wizyty pacjenta w tym terminie tylko dlatego, że zadaniem jest maksymalizacja wykorzystania kalendarza lekarza.

Rozważałbym kilka wymiarów: konsekwencje finansowe lub ludzkie błędu, odwracalność działania, kompletność i jakość dostępnych informacji, wymogi regulacyjne oraz to, czy wymagana jest autentyczna ocena lub empatia człowieka. Następnie projektujesz eskalację w sposób zamierzony.

Tutaj uważam, że wczesne podejście do automatyzacji AI było zbyt uproszczone. Celem stało się „zawierać jak najwięcej interakcji bez udziału człowieka”. Jednak w wielu procesach eskalacja jest właśnie właściwym wynikiem.

Dlatego wolę myśleć o rozwiązaniu zarządzanym, a nie o czystym ograniczaniu.

Celem jest, aby AI autonomicznie rozwiązywało zadania, które powinna rozwiązać, rozpoznawało sytuacje, w których nie powinna działać, i włączało osobę do procesu z już zgromadzonym odpowiednim kontekstem.

Once AI agents can retrieve sensitive information, update enterprise systems and initiate real-world actions, observability and governance become much more consequential. What should companies be able to audit about an agent’s reasoning, data access and actions before they trust it with mission-critical workflows?

Zgodnie z wytycznymi Gartnera, DRUID posiada wbudowane ramy oceny, które analizują agentów z 5 perspektyw: tolerancja błędów, ryzyko, zgodność, obserwowalność i odchylenie. W ramach tych kategorii mamy łącznie 26 komponentów. Każdy z nich ma definicję, artefakt, który można otworzyć, oraz miarę.

Podczas oceny agenta platforma powinna móc odtworzyć pełny łańcuch od pierwotnego żądania użytkownika do ostatecznego systemu działania. Oznacza to znajomość, który agent obsłużył żądanie, którego modelu użyto, jaki kontekst otrzymał model, jakie informacje korporacyjne zostały pobrane, które reguły biznesowe lub polityki zastosowano, dlaczego wybrano konkretną trasę lub działanie oraz co dokładnie zmieniło się w podstawowych systemach. Dziesiątki interakcji podlegających audytowi są rejestrowane, analizowane i mierzone.

Tożsamość jest równie ważna. Agent AI nie powinien nigdy stać się obejściem kontroli dostępu w przedsiębiorstwie. Należy wiedzieć, kto zainicjował żądanie, do czego dana osoba była uprawniona oraz czy agent pozostał dokładnie w tych granicach.

W architekturach wieloagentowych traceability (śledzenie) staje się jeszcze ważniejsze. Który agent delegował do innego agenta? Jakie informacje przekroczyły tę granicę? Skąd pochodziła decyzja? Który komponent faktycznie wykonał działanie? A następnie istnieją dowody operacyjne: znaczniki czasu, sygnały pewności, wyniki wykonania, wyjątki, zdarzenia eskalacji oraz możliwość zrozumienia lub odtworzenia tego, co się wydarzyło.

To jedna z największych zmian w przejściu od konwersacyjnej do agentowej AI.

Gdy AI jedynie odpowiada na pytanie, obserwowalność jest przydatna. Gdy AI może zmienić rekord klienta, uruchomić płatność, zaktualizować wiele systemów rekordowych lub zainicjować proces biznesowy, obserwowalność staje się częścią architektury kontrolnej.

You have held an unusually broad range of roles at Druid AI, spanning development, operations, revenue and customer success. How has working directly with customers shaped your view of why some enterprise AI deployments generate measurable value while others remain stuck in pilot mode?

Rozpoczęłam karierę jako programistka i, podobnie jak wielu inżynierów, początkowo miałam silne przekonanie, że jeśli technologia jest wystarczająco dobra, jej wartość będzie oczywista. Klienci bardzo szybko uczą, że tak nie działa technologia korporacyjna.

Technicznie zaawansowane wdrożenie może nadal przynosić niewielką wartość, jeśli problem biznesowy nie jest wystarczająco istotny, jeśli właściciel procesu jest nieobecny, jeśli integracja jest traktowana jako dodatek lub jeśli nikt nie uzgodnił, co oznacza sukces. Klienci doskonale potrafią odcinać narrację technologiczną. Nie obchodzi ich, jak elegancka jest architektura, jeśli proces, za który są odpowiedzialni, nie uległ poprawie.

Kiedy mówimy o wdrożeniach na taką skalę, istnieje właściciel biznesowy z rzeczywistym problemem do rozwiązania. Istnieje mierzalna objętość, koszt/przychód lub tarcie. AI jest podłączone do systemów, w których faktycznie odbywa się praca. I istnieje plan przyjęcia oraz ciągłego doskonalenia po uruchomieniu. Piloty często pozostają pilotami, ponieważ dowodzą, że technologia działa, nie dowodząc, że model operacyjny działa. Dlatego, przy opracowywaniu projektu AI, szkolimy nasz personel i partnerów, aby najpierw zrozumieli zadanie, a nie kliknięcia użytkowników w systemach. „Zadanie” oznacza cały proces, sposób traktowania wyjątków, jaki jest rezultat, jak często pojawiają się wyjątki, co uniemożliwia zwiększenie wydajności, ile to trwa i jaki wysiłek jest potrzebny, aby uzyskać wzrost produktywności, jeśli zadanie nie byłoby zautomatyzowane.

Moja własna kariera przeszła przez technologię, operacje, sprzedaż, sukces klienta i budowanie firmy, i teraz postrzegam tę wszechstronność jako jedną z moich największych zalet. Technologia uczy, jak coś działa. Sprzedaż tłumaczy, dlaczego ktoś za to zapłaci. Sukces klienta pokazuje, czy działa w rzeczywistości. Operacje uczą, czy organizacja może dostarczać to wielokrotnie i w dużej skali.

W wielu aspektach ewolucja Druid AI podążała podobną ścieżką: od udowodnienia, że konwersacyjna AI może działać, po udowodnienie, że może tworzyć wartość, po zbudowanie infrastruktury niezbędnej do uczynienia inteligentnych agentów niezawodnymi na skalę przedsiębiorstwa.

You’ve also been involved with Women in Tech Romania while building Druid into an international AI company. Where do you still see the biggest barriers to women founding and leading AI companies, and what would meaningfully increase their representation at the executive and founder level? 

Najnowsze dane podkreślają wyraźną lukę w europejskiej technologii: jedynie 5 % startupów AI jest założonych lub współzałożonych przez kobiety, a zaledwie połowa tych założycielek posiada tytuł PhD. Choć statystyki są drastyczne, rozwiązanie tej dysproporcji wymaga spojrzenia poza tradycyjne narracje o dyskryminacji ze względu na płeć.

W swojej istocie przedsiębiorczość to indywidualna droga kształtowana przez osobowość, tolerancję ryzyka, priorytety osobiste i wybory zawodowe. Zamiast postrzegać to wyłącznie jako barierę społeczną, musimy przyjrzeć się praktycznemu łańcuchowi, w którym powstają założyciele.

Choć statystycznie dziewczęta rzadziej wybierają dyscypliny