Андреа Плешеа, PhD, COO та співзасновниця Druid AI – серія інтерв’ю

Andreea Pleşea, PhD, COO та співзасновниця Druid AI, є технологічним керівником і підприємцем з майже двома десятиліттями досвіду в галузі розробки програмного забезпечення, корпоративних технологій, штучного інтелекту, операцій та успішності клієнтів. Після спільного заснування Druid AI вона обіймала кілька старших керівних посад у компанії, зокрема головного операційного директора, головного директора з доходів та головного директора з успішності клієнтів, що надало їй досвід як у технічній, так і в комерційній стороні масштабування корпоративного програмного забезпечення. До Druid AI Плешеа працювала майже десять років у TotalSoft, просуваючись від .NET‑програміста до менеджера з розробки програмного забезпечення і, зрештою, до директора з бізнес‑застосунків Charisma, де вона контролювала розробку продукту, впровадження, технічну підтримку, архітектуру рішень та відповідальність за прибутки та збитки. Її академічна підготовка також включає дослідження ШІ у Університеті Риму Тор-Верґата, де вона працювала з Групою досліджень штучного інтелекту університету над технологією вилучення та структурування інформації з неструктурованих даних. Вона також входить до ради радників Women in Tech Romania.

Druid AI — це компанія в сфері корпоративного ШІ, що зосереджена на створенні та оркеструванні агентів ШІ, які можуть автоматизувати складні бізнес‑процеси в організаціях. Її платформа поєднує розуміння природної мови, генеративний ШІ, генерацію з підсиленням пошуку (RAG), корпоративні інтеграції, автоматизацію робочих процесів, аналітику та управління, а Druid Conductor координує кілька спеціалізованих агентів і систем для досягнення бізнес‑результатів. Організації можуть підключати агенти Druid до таких систем, як планування ресурсів підприємства (ERP), управління взаємовідносинами з клієнтами (CRM), управління ІТ‑службами (ITSM) та платформи управління персоналом, розгортаючи технологію у хмарі, гібридному, локальному або ізольованому середовищах. Компанія заявляє, що її технологія використовується більш ніж 300 корпоративними клієнтами та підтримується понад 200 глобальними партнерами, а застосування охоплює підтримку співробітників, обслуговування клієнтів, охорону здоров’я, вищу освіту та спільні сервіси.

Ви спільно заснували Druid AI у Бухаресті у 2018 році після майже десятирічної роботи в TotalSoft, де ви перейшли від .NET‑розробки до старшого технічного та бізнес‑лідерства. Що переконало вас тоді, що розмовний ШІ може стати фундаментальним шаром корпоративних технологій, і як ця початкова візія еволюціонувала, коли Druid перейшов до агентного ШІ? 

Поєднання двох різних шляхів — академічної суворості та практичних проблем підприємств — сформувало мої думки під час роботи над PhD. Однак лише коли Лювіу Драган, надзвичайно бачливий лідер, запропонував ідею створення Druid AI, я усвідомив, як проведені дослідження можуть нарешті бути застосовані в реальному житті.

У період з 2008 по 2011 роки моє дослідження PhD було зосереджене на автономних агентах ШІ, що спілкуються за допомогою технологій семантичного вебу та онтологій, досліджуючи, як інтелектуальні системи можуть замінити або працювати над традиційним корпоративним ПЗ. Незабаром після цього робота в керівництві корпоративних технологій відкрила переді мною сувору реальність: ми просили співробітників керувати нездоланною складністю.

Виконання навіть однієї рутинної задачі вимагало знати, яку програму відкрити, де зберігаються дані, яка політика застосовується і хто відповідає за наступний крок. У той же час за межами офісу обмін повідомленнями ставав домінуючим інтерфейсом для людської взаємодії.

Коли ми заснували Druid AI у 2018 році, наша візія була проста, але амбіційна: надати кожному співробітнику та клієнту віртуального асистента, здатного оркеструвати роботу по всій компанії.

Майже через десять років ця фундаментальна візія не змінилася — технології просто наздогнали її. Розмовний ШІ в основному полягав у розпізнаванні намірів, пошуку та запуску статичних сценаріїв. Агентний ШІ змінює межу делегування. Сучасні агенти оцінюють цілі, співпрацюють зі спеціалізованими підагентами, орієнтуються у різнорідних системах і автономно виконують складні багатокрокові робочі процеси.

Для нас поточна агентна революція не є стратегічним відхиленням від розмовного ШІ. Це природне втілення нашої засновницької тези: корпоративна технологія має стати простішою для людей, щоб допомогти їм виконати роботу, навіть коли оркестрування за лаштунками стає безмежно складнішим.

Більша частина індустрії ШІ зосереджена на створенні все потужніших базових моделей, тоді як Druid AI зосереджується на підключенні різних моделей до корпоративних даних, систем і робочих процесів. Оскільки моделі стають все більш взаємозамінними, чи вважаєте ви, що оркестрування стане важливішою конкурентною перевагою, ніж сама базова модель?

У Druid AI наша головна місія проста: витягнути надзвичайне з кожної людської взаємодії, ефективно виконуючи завдання. Однак у міру зрілості ринку ключ до надання цієї цінності полягає у відході від базового технологічного стеку.

Ми спостерігаємо класичну схему в корпоративних технологіях: можливості, які колись були ранніми диференціаторами, швидко стають товаром. Сьогодні базові моделі доступні кожному гравцю. Підприємства неминуче впроваджуватимуть гібридну матрицю моделей, обраних за конкретними показниками продуктивності, вартості, безпеки чи регуляторних вимог. Коли інтелект стає товаром, стратегічне поле битви піднімається вище у стеку.

Сьогодні найскладніші проблеми в корпоративному ШІ стосуються контексту виконання: управління та доступ (які дані може обробляти ШІ і за якими політиками), агентне маршрутизація (який спеціалізований агент має обробляти конкретне завдання), інтеграція систем (як кілька транзакційних систем безпечно координуються), автономія проти контролю (коли агент може діяти самостійно, а коли потрібне схвалення людини), аудитність (якщо робочий процес зазнає збою, чи можна відтворити ланцюжок рішень крок за кроком).

Ось чому оркестрування стало головним стратегічним важелем. Моделі генерують інтелект, але підприємствам потрібне надійне виконання.

Druid AI створений, щоб слугувати саме такою визначальною шаром контролю та оркестрування. Він безпечно поєднує різні моделі з корпоративними даними, робочими процесами та людьми. Важливо, що він надає референтну структуру для вимірювання ефективності виконання, оцінюючи реальні бізнес‑результати.

У довгостроковій перспективі вирішальним питанням не буде “Яку модель ви використовуєте?” А “Наскільки ефективно ви можете перетворити необроблений інтелект у завершену роботу для ваших співробітників та клієнтів?”

Druid Conductor може координувати кілька спеціалізованих агентів у сфері пошуку знань, логіки рішень та системних дій. Що стає технічно складним, коли підприємство переходить від одного AI‑асистента, що відповідає на питання, до кількох агентів, які можуть самостійно виконувати багатокрокові бізнес‑процеси?

Перехід від простих розмовних інтерфейсів до багатагентних архітектур фундаментально змінює інженерне завдання. Ви перестаєте керувати лінійною розмовою і починаєте керувати розподіленою системою прийняття рішень та виконання.

З одним помічником Q&A основними перешкодами є розпізнавання намірів, пошук та генерація відповідей з високою точністю. Багатагентні екосистеми вводять цілком інший клас розподілених систем і питань:

1. Який агент має повноваження діяти, і як запобігти відхиленню домену?
2. Як підтримується стан під час передачі відповідальності між агентами?
3. Як узгоджуються суперечливі рішення між спеціалізованими агентами?
4. Як підагенти динамічно та безпечно успадковують дозволи доступу?

Ці виклики ускладнюються при застосуванні до реальної корпоративної інфраструктури. Один робочий процес може охоплювати CRM, ERP, платформу управління ідентифікацією, систему тикетів та застарілі бази даних. Кожна працює за власною бізнес‑логікою та режимами відмов, але в кінцевому підсумку агент‑кондуктор має виконати завдання правильно.

Якщо четвертий крок шестиступеневого процесу зазнає збою після того, як три системи вже виконали транзакційні зміни, базовий агентний конвеєр руйнується. Шар оркестрування не може просто викинути загальну помилку. Він повинен керувати станом, виконувати відкат, якщо це необхідно, визначати, чи існує альтернативне маршрутування, або плавно ескалувати до втручання людини в циклі.

Справжнє корпоративне оркестрування — це управління станом, транзакційна консистентність, спостережуваність, забезпечення політик і безпечна автономія. Мета цієї підлеглої складності — простота: надати єдину безперешкодну взаємодію, де складні багатосистемні завдання просто виконуються.

Druid AI вже обробив понад один мільярд розмов через тисячі розгорнутих агентів. За такої масштабності, чого ви навчилися про корпоративний ШІ, що було б неможливо дізнатися з пілотних проектів або контрольованих демонстрацій?

Виробництво швидко навчає скромності.

Пілот зазвичай є відносно контрольованим середовищем. Випадок використання визначений, дані досить чисті, користувачі відомі, і зазвичай є команда проекту, яка ретельно спостерігає.

У виробництві все це зовсім інше. Люди ставлять одне й те саме питання двадцятьма різними способами. Вони змінюють свою думку в середині розмови. Надають неповну інформацію. Перемикаються між мовами чи темами. Взаємодіють у несподіваний час. Політики змінюються. API відмовляються. Серверні системи сповільнюються. З’являються нові крайові випадки, які ніхто не передбачив у початковому дизайні. Одне точно: користувачі очікують, що завдання буде виконано ефективно, безперешкодно та природно. Будь то текст, а особливо голос, розмова має текти природно, без затримок; вона повинна звучати певною мірою емпатично і виконувати задачу, пропонуючи найкращі варіанти та наступні кроки, або обробляти виключення та цикли людським чином, коли це потрібно.

Деяка з найвищої цінності автоматизації походить від виконання відносно звичайних завдань надзвичайно добре і сотні тисяч разів: відповідь на питання співробітника, перевірка рахунку, перенесення зустрічі, вирішення ІТ‑запиту або отримання правильної інформації з корпоративної системи. Це змінило наше розуміння цінності ШІ.

Другий урок полягає в тому, що запуск у продакшн — лише початок циклу навчання. Потрібно бачити, що користувачі просять, які наміри зростають, де розмови зазнають збою, куди люди ескалюються, і іноді, коли сам базовий бізнес‑процес потребує змін.

І, можливо, найважливіший урок — це те, що довіра є операційною, оскільки підприємства довіряють ШІ, бо з часом він поводиться передбачувано, виключення обробляються правильно, рішення видимі, і організація залишається під контролем.

Дані виробництва Druid свідчать, що відносно невелика кількість робочих процесів може пояснити більшість реального використання корпоративного ШІ. Чи означає це, що компанії мають спочатку зосередити інвестиції в ШІ на кількох високовольюмових процесах, а не намагатися здійснити широке трансформування всього підприємства?

Один з найясніших патернів у наших виробничих даних — це концентрація попиту. У фінансових послугах, наприклад, три категорії робочих процесів складають близько 90 % використання у продакшн. У вищій освіті концентрація ще вища. Це дає важливе розуміння того, як компанії мають мислити про трансформацію ШІ. Ми проаналізували ці інсайти і створили звіти‑бенчмарки для вищої освіти, охорони здоров’я та банківської сфери, які дозволяють нашим партнерам і клієнтам визначати процеси, що підвищать ефективність, і прогнозувати, як люди будуть взаємодіяти з агентами.

Існує спокуса, особливо на рівні правління, розпочати з дуже широкого запиту: “Ви ПОВИННІ використовувати ШІ, інакше залишимося позаду.” Операційна команда тоді бореться за визначення правильних завдань, які можуть виконувати агенти, одночасно боячись втратити свої робочі місця. Тож, який має бути правильний баланс і як вони зможуть найняти потрібного AI‑агента, щоб виконувати роботу СПІЛЬНО з ними, максимально задовольняючи KPI, які очікує правління?

Починайте там, де є потенціал збільшити дохід і/або знизити витрати, речі, які зазвичай виконуються повторно. Якщо тисячі клієнтів, співробітників, студентів чи пацієнтів постійно намагаються досягти одного і того ж результату, у вас є вимірювана база і сильна можливість продемонструвати цінність.

Але є важливе розрізнення: починайте вузько, архітектуруйте широко.

Перші випадки використання можуть бути сконцентровані. Платформа під ними повинна мати можливість розширення по всьому підприємству. Ви доводите економічну доцільність, модель управління, інтеграції та механізми ескалації до людей на кількох значущих робочих процесах. Потім розширюєтеся на суміжні процеси, використовуючи отримані знання.

Обсяг не має бути єдиним критерієм. Робочий процес з низькою частотою може залишатися надзвичайно цінним, якщо кожне успішне вирішення має суттєвий фінансовий або операційний вплив.

Оскільки підприємства все більше орієнтуються на успішне вирішення, а не лише на максимізацію відсотка взаємодій без участі людей, як організації мають визначати, які рішення AI‑агент може приймати автономно, а де ескалація до людини має залишатися обов’язковою?

Druid AI створив оцінювальну рамку, що охоплює 26 критеріїв і забезпечує об’єктивну оцінку агентного оркестрування від процесу створення до виконання завдання.

Якщо дія оборотна, відносно низького ризику, регулюється чіткими правилами і підкріплена надійною інформацією, то існує вагомий аргумент на користь автономії. Перенесення зустрічі за заздалегідь визначеними параметрами суттєво відрізняється від прийняття клінічного рішення і може здаватися простим. Однак воно має враховувати багато аспектів, щоб бути ефективним: наприклад, якщо у доктора B є вільний слот, але він хоче його заблокувати, AI‑агент не повинен перенести пацієнту запис у цей слот лише тому, що завдання — максимізувати заповненість календаря доктора.

Я б розглядав кілька вимірів: фінансові або людські наслідки помилки, чи є дія оборотною, повноту та якість доступної інформації, регуляторні вимоги та чи потрібне справжнє людське судження або емпатія. Потім ви навмисно проектуєте ескалацію.

Саме тут, на мою думку, раннє мислення щодо автоматизації ШІ було надто спрощеним. Метою стало “утримати якомога більше взаємодій без залучення людини”. Але в багатьох процесах ескалація саме є правильним результатом.

Тому я волію думати про це в термінах керованого вирішення, а не чистого утримання.

Мета полягає в тому, щоб ШІ автономно вирішував ті завдання, які має вирішувати, розпізнавав ситуації, у яких не слід діяти, і залучав людину до процесу з уже зібраним релевантним контекстом.

Коли AI‑агенти можуть отримувати конфіденційну інформацію, оновлювати корпоративні системи та ініціювати реальні дії, спостережуваність і управління стають набагато важливішими. Що компанії мають мати можливість аудиту щодо міркувань агента, доступу до даних та дій, перш ніж довіряти йому критичні робочі процеси?

Відповідно до рекомендацій Gartner, DRUID має вбудовану оцінювальну рамку, що аналізує агентів з 5 точок зору: толерантність до помилок, ризик, відповідність, спостережуваність та відхилення. За цими категоріями у нас є загалом 26 компонентів. Кожен має визначення, артефакт, який можна відкрити, і вимірювання.

При оцінці агента платформа повинна мати можливість відтворити повний ланцюжок від початкового запиту користувача до кінцевої системи дії. Це означає знати, який агент обробив запит, яку модель використано, який контекст отримала модель, яку корпоративну інформацію було отримано, які бізнес‑правила чи політики застосовано, чому обрано певний маршрут або дію і що саме змінилося у базових системах. Десятки аудиторських взаємодій відстежуються, аналізуються та вимірюються.

Ідентичність також важлива. AI‑агент ніколи не повинен стати обходом системи контролю доступу в компанії. Потрібно знати, хто ініціював запит, що ця особа мала право бачити або робити, і чи залишався агент точно в межах цих прав.

У багатагентних архітектурах простежуваність стає ще важливішою. Який агент делегував іншому агенту? Яка інформація перейшла цей кордон? Звідки походить рішення? Який компонент фактично виконав дію? І є операційні докази: часові мітки, сигнали впевненості, результати виконання, виключення, події ескалації та можливість зрозуміти або відтворити те, що сталося.

Це один із найбільших змін, коли ми переходимо від розмовного до агентного ШІ.

Коли ШІ лише відповідає на питання, спостережуваність корисна. Коли ШІ може змінювати запис клієнта, ініціювати платіж, оновлювати кілька систем запису або запускати бізнес‑процес, спостережуваність стає частиною архітектури контролю.

Ви обіймали надзвичайно широкий спектр ролей у Druid AI, охоплюючи розробку, операції, доходи та успіх клієнтів. Як безпосередня робота з клієнтами сформувала ваше бачення того, чому деякі корпоративні розгортання штучного інтелекту дають вимірну цінність, а інші залишаються в пілотному режимі?

Я починав свою кар’єру як розробник, і, як і багато інших інженерів, у мене спочатку було сильне відчуття, що якщо технологія достатньо хороша, її цінність має бути очевидною. Клієнти дуже швидко навчать вас, що корпоративні технології працюють не так.

Технічно складне розгортання все ще може створити дуже незначну цінність, якщо бізнес-проблема недостатньо важлива, якщо власник процесу відсутній, якщо інтеграція розглядається як запальна думка або якщо ніхто не погодився, що означає успіх. Клієнти надзвичайно добре вміють позбавлятися від технологічного наративу. Їм байдуже, наскільки щось елегантне з точки зору архітектури, якщо процес, за який вони відповідають, не покращився.

Коли ми говоримо про впровадження такого масштабу, є власник бізнесу, який має вирішити реальну проблему. Існує вимірний обсяг, вартість/дохід або тертя. ШІ підключається до систем, де фактично відбувається робота. І є план впровадження та постійного вдосконалення після запуску. Пілоти часто залишаються пілотами, тому що вони доводять, що технологія працює, не доводячи, що робоча модель працює. Ось чому щоразу, розв’язуючи проект штучного інтелекту, ми навчаємо наших співробітників і партнерів, щоб спочатку зрозуміти роботу, а не клацання, які користувачі роблять у системах.«Робота» означає весь процес, як вони обробляють винятки, який результат, як часто з’являються винятки, що заважає їм підвищити продуктивність, скільки часу це займає та які зусилля потрібні для підвищення продуктивності, якщо робота не буде автоматизована.

Моя власна кар’єра проходила через технології, операції, продажі, успіх клієнтів і розбудову компанії, і тепер я вважаю цю широту однією зі своїх найбільших переваг. Технологія вчить вас, як щось працює. Продажі вчать вас, чому хтось за це заплатить. Успіх клієнта вчить вас, чи працює це в реальному світі. Operations вчить вас, чи може організація надавати це багаторазово та в масштабі.

Багато в чому еволюція Druid AI йшла тим самим шляхом: від доказу того, що розмовний AI може працювати, до доказу того, що він може створювати цінність, до створення інфраструктури, необхідної для того, щоб інтелектуальні агенти були надійними в масштабі підприємства.

Ви також брали участь у організації Women in Tech Romania під час створення міжнародної компанії штучного інтелекту Druid. Де ви все ще бачите найбільші перешкоди для жінок, які засновують і очолюють компанії зі штучним інтелектом, і що значно збільшить їх представництво на рівні керівників і засновників? 

Останні дані вказують на разючу прогалину в європейських технологіях: лише 5% стартапів зі штучним інтелектом засновують або є співзасновниками жінки, і лише половина із цих засновників мають докторський ступінь. Незважаючи на те, що статистика є різкою, для усунення цієї невідповідності потрібно вийти за межі традиційних наративів про гендерну дискримінацію.

За своєю суттю, підприємництво – це індивідуальне прагнення, сформоване особистістю, толерантністю до ризику, особистими пріоритетами та вибором кар’єри. Замість того, щоб розглядати це виключно як соціальний бар’єр, ми повинні вивчити практичний конвеєр, через який формуються засновники.

У той час як за статистикою дівчат менше приваблюють технічні дисципліни на ранніх стадіях, набагато більш суттєва і менш обговорювана перешкода виникає пізніше в корпоративній кар’єрі: доступ до повного володіння бізнесом.

Жінки часто вирізняються як технічні спеціалісти та функціональні лідери світового рівня. Однак менше людей переходять на посади з прямою відповідальністю за доходи, управління прибутками та збитками, прийняття комерційних рішень і загальну корпоративну стратегію. Це саме ті робочі м’язи, які необхідні для заснування та масштабування корпоративної технологічної компанії.

Моя власна траєкторія від розробки програмного забезпечення до генерального директора була не лінійною лінією, а серією переходів між керівництвом, операціями, комерційним виконанням і, зрештою, розбудовою компанії. У таких середовищах, як система освіти в Румунії, де практична фінансова освіта та підприємницька підготовка були відсутні для всіх незалежно від статі, навчитися орієнтуватися в бізнес-ризику було поетапним процесом викриття.

Щоб подолати цю прогалину, також потрібно розвіяти поширений міф: ідея про те, що технологічне лідерство вимагає абсолютної майстерності перед тим, як зробити крок вперед. В епоху швидкоплинного штучного інтелекту ніхто не може відповісти на всі запитання. Визначальними лідерськими рисами сьогодні є допитливість, постійне навчання та впевненість у вирішенні складних проблем до того, як результат буде гарантовано.

Щоб побачити більше жінок, які керують технологічними компаніями, ми повинні розширити доступ до комерційних мереж, відстоювати видимі приклади для наслідування та активно заохочувати досвідчених талантів виходити з функціональних силосів, брати на себе відповідальність за прибутки та збитки та приймати ризики володіння бізнесом.

Забігаючи наперед, як ви думаєте, що відрізнятиме корпоративні платформи штучного інтелекту, які глибоко впроваджуються в бізнес-операції, від багатьох продуктів штучного інтелекту, які зрештою намагаються вийти за рамки експериментів?

Розмежувальною лінією буде те, чи зможуть вони перейти від інтелекту до надійного виконання.

Створити вражаючу відповідь уже стало відносно легко. Надійна робота на великому підприємстві – це зовсім інша історія.

Платформи, які стають вбудованими в бізнес-операції, повинні будуть безпечно підключатися до існуючих систем, а не просити компанії замінити все, що вони вже використовують. Їм потрібно буде працювати з різними моделями та технологіями.

Їм знадобиться оркестровка, здатна координувати агентів, робочі процеси та людські рішення. І їм знадобляться ідентичність, управління, спостережливість і контроль, розроблені в архітектурі, а не додані пізніше.

Але є ще одна вимога, яка, на мою думку, дедалі більше відокремлюватиме експерименти від інфраструктури: надійність за недосконалих умов. Демонстрація показує, що може зробити система ШІ, коли все працює, але підприємство хоче знати, що відбувається, коли щось не працює.

Що відбувається, якщо дані неповні? Коли API виходить з ладу? Коли дві політики конфліктують? Коли впевненість низька? Коли користувач запитує щось, на що він не має права?

Якщо агент працює чудово 90% часу, але поводиться непередбачувано в решту 10%, ви не можете доручити йому відповідальність за критично важливий процес.

Останні кілька років головним питанням було: «Що може ця модель?»

Питання підприємства стає таким: «Як я можу ефективно виконувати цю роботу?»

Платформи штучного інтелекту, які глибоко впроваджуються в організації, будуть тими, хто зможе переконливо відповісти на другий: технічно, операційно та економічно. Зрештою, це та можливість, яку ми побачили, коли запускали Druid AI: зробити інтелект частиною того, як виконується сама робота.

Дякую за чудове інтерв’ю, читачі, які хочуть дізнатися більше, повинні відвідати Druid AI.