Андреа Плешеа, PhD, COO та співзасновниця Druid AI – серія інтерв’ю

Andreea Pleşea, PhD, COO та співзасновниця Druid AI, є технологічним керівником і підприємцем з майже двома десятиліттями досвіду в галузі розробки програмного забезпечення, корпоративних технологій, штучного інтелекту, операцій та успішності клієнтів. Після спільного заснування Druid AI вона обіймала кілька старших керівних посад у компанії, зокрема головного операційного директора, головного директора з доходів та головного директора з успішності клієнтів, що надало їй досвід як у технічній, так і в комерційній стороні масштабування корпоративного програмного забезпечення. До Druid AI Плешеа працювала майже десять років у TotalSoft, просуваючись від .NET‑програміста до менеджера з розробки програмного забезпечення і, зрештою, до директора з бізнес‑застосунків Charisma, де вона контролювала розробку продукту, впровадження, технічну підтримку, архітектуру рішень та відповідальність за прибутки та збитки. Її академічна підготовка також включає дослідження ШІ у Університеті Риму Тор-Верґата, де вона працювала з Групою досліджень штучного інтелекту університету над технологією вилучення та структурування інформації з неструктурованих даних. Вона також входить до ради радників Women in Tech Romania.

Druid AI — це компанія в сфері корпоративного ШІ, що зосереджена на створенні та оркеструванні агентів ШІ, які можуть автоматизувати складні бізнес‑процеси в організаціях. Її платформа поєднує розуміння природної мови, генеративний ШІ, генерацію з підсиленням пошуку (RAG), корпоративні інтеграції, автоматизацію робочих процесів, аналітику та управління, а Druid Conductor координує кілька спеціалізованих агентів і систем для досягнення бізнес‑результатів. Організації можуть підключати агенти Druid до таких систем, як планування ресурсів підприємства (ERP), управління взаємовідносинами з клієнтами (CRM), управління ІТ‑службами (ITSM) та платформи управління персоналом, розгортаючи технологію у хмарі, гібридному, локальному або ізольованому середовищах. Компанія заявляє, що її технологія використовується більш ніж 300 корпоративними клієнтами та підтримується понад 200 глобальними партнерами, а застосування охоплює підтримку співробітників, обслуговування клієнтів, охорону здоров’я, вищу освіту та спільні сервіси.

Ви спільно заснували Druid AI у Бухаресті у 2018 році після майже десятирічної роботи в TotalSoft, де ви перейшли від .NET‑розробки до старшого технічного та бізнес‑лідерства. Що переконало вас тоді, що розмовний ШІ може стати фундаментальним шаром корпоративних технологій, і як ця початкова візія еволюціонувала, коли Druid перейшов до агентного ШІ? 

Поєднання двох різних шляхів — академічної суворості та практичних проблем підприємств — сформувало мої думки під час роботи над PhD. Однак лише коли Лювіу Драган, надзвичайно бачливий лідер, запропонував ідею створення Druid AI, я усвідомив, як проведені дослідження можуть нарешті бути застосовані в реальному житті.

У період з 2008 по 2011 роки моє дослідження PhD було зосереджене на автономних агентах ШІ, що спілкуються за допомогою технологій семантичного вебу та онтологій, досліджуючи, як інтелектуальні системи можуть замінити або працювати над традиційним корпоративним ПЗ. Незабаром після цього робота в керівництві корпоративних технологій відкрила переді мною сувору реальність: ми просили співробітників керувати нездоланною складністю.

Виконання навіть однієї рутинної задачі вимагало знати, яку програму відкрити, де зберігаються дані, яка політика застосовується і хто відповідає за наступний крок. У той же час за межами офісу обмін повідомленнями ставав домінуючим інтерфейсом для людської взаємодії.

Коли ми заснували Druid AI у 2018 році, наша візія була проста, але амбіційна: надати кожному співробітнику та клієнту віртуального асистента, здатного оркеструвати роботу по всій компанії.

Майже через десять років ця фундаментальна візія не змінилася — технології просто наздогнали її. Розмовний ШІ в основному полягав у розпізнаванні намірів, пошуку та запуску статичних сценаріїв. Агентний ШІ змінює межу делегування. Сучасні агенти оцінюють цілі, співпрацюють зі спеціалізованими підагентами, орієнтуються у різнорідних системах і автономно виконують складні багатокрокові робочі процеси.

Для нас поточна агентна революція не є стратегічним відхиленням від розмовного ШІ. Це природне втілення нашої засновницької тези: корпоративна технологія має стати простішою для людей, щоб допомогти їм виконати роботу, навіть коли оркестрування за лаштунками стає безмежно складнішим.

Більша частина індустрії ШІ зосереджена на створенні все потужніших базових моделей, тоді як Druid AI зосереджується на підключенні різних моделей до корпоративних даних, систем і робочих процесів. Оскільки моделі стають все більш взаємозамінними, чи вважаєте ви, що оркестрування стане важливішою конкурентною перевагою, ніж сама базова модель?

У Druid AI наша головна місія проста: витягнути надзвичайне з кожної людської взаємодії, ефективно виконуючи завдання. Однак у міру зрілості ринку ключ до надання цієї цінності полягає у відході від базового технологічного стеку.

Ми спостерігаємо класичну схему в корпоративних технологіях: можливості, які колись були ранніми диференціаторами, швидко стають товаром. Сьогодні базові моделі доступні кожному гравцю. Підприємства неминуче впроваджуватимуть гібридну матрицю моделей, обраних за конкретними показниками продуктивності, вартості, безпеки чи регуляторних вимог. Коли інтелект стає товаром, стратегічне поле битви піднімається вище у стеку.

Сьогодні найскладніші проблеми в корпоративному ШІ стосуються контексту виконання: управління та доступ (які дані може обробляти ШІ і за якими політиками), агентне маршрутизація (який спеціалізований агент має обробляти конкретне завдання), інтеграція систем (як кілька транзакційних систем безпечно координуються), автономія проти контролю (коли агент може діяти самостійно, а коли потрібне схвалення людини), аудитність (якщо робочий процес зазнає збою, чи можна відтворити ланцюжок рішень крок за кроком).

Ось чому оркестрування стало головним стратегічним важелем. Моделі генерують інтелект, але підприємствам потрібне надійне виконання.

Druid AI створений, щоб слугувати саме такою визначальною шаром контролю та оркестрування. Він безпечно поєднує різні моделі з корпоративними даними, робочими процесами та людьми. Важливо, що він надає референтну структуру для вимірювання ефективності виконання, оцінюючи реальні бізнес‑результати.

У довгостроковій перспективі вирішальним питанням не буде “Яку модель ви використовуєте?” А “Наскільки ефективно ви можете перетворити необроблений інтелект у завершену роботу для ваших співробітників та клієнтів?”

Druid Conductor може координувати кілька спеціалізованих агентів у сфері пошуку знань, логіки рішень та системних дій. Що стає технічно складним, коли підприємство переходить від одного AI‑асистента, що відповідає на питання, до кількох агентів, які можуть самостійно виконувати багатокрокові бізнес‑процеси?

Перехід від простих розмовних інтерфейсів до багатагентних архітектур фундаментально змінює інженерне завдання. Ви перестаєте керувати лінійною розмовою і починаєте керувати розподіленою системою прийняття рішень та виконання.

З одним помічником Q&A основними перешкодами є розпізнавання намірів, пошук та генерація відповідей з високою точністю. Багатагентні екосистеми вводять цілком інший клас розподілених систем і питань:

1. Який агент має повноваження діяти, і як запобігти відхиленню домену?
2. Як підтримується стан під час передачі відповідальності між агентами?
3. Як узгоджуються суперечливі рішення між спеціалізованими агентами?
4. Як підагенти динамічно та безпечно успадковують дозволи доступу?

Ці виклики ускладнюються при застосуванні до реальної корпоративної інфраструктури. Один робочий процес може охоплювати CRM, ERP, платформу управління ідентифікацією, систему тикетів та застарілі бази даних. Кожна працює за власною бізнес‑логікою та режимами відмов, але в кінцевому підсумку агент‑кондуктор має виконати завдання правильно.

Якщо четвертий крок шестиступеневого процесу зазнає збою після того, як три системи вже виконали транзакційні зміни, базовий агентний конвеєр руйнується. Шар оркестрування не може просто викинути загальну помилку. Він повинен керувати станом, виконувати відкат, якщо це необхідно, визначати, чи існує альтернативне маршрутування, або плавно ескалувати до втручання людини в циклі.

Справжнє корпоративне оркестрування — це управління станом, транзакційна консистентність, спостережуваність, забезпечення політик і безпечна автономія. Мета цієї підлеглої складності — простота: надати єдину безперешкодну взаємодію, де складні багатосистемні завдання просто виконуються.

Druid AI вже обробив понад один мільярд розмов через тисячі розгорнутих агентів. За такої масштабності, чого ви навчилися про корпоративний ШІ, що було б неможливо дізнатися з пілотних проектів або контрольованих демонстрацій?

Виробництво швидко навчає скромності.

Пілот зазвичай є відносно контрольованим середовищем. Випадок використання визначений, дані досить чисті, користувачі відомі, і зазвичай є команда проекту, яка ретельно спостерігає.

У виробництві все це зовсім інше. Люди ставлять одне й те саме питання двадцятьма різними способами. Вони змінюють свою думку в середині розмови. Надають неповну інформацію. Перемикаються між мовами чи темами. Взаємодіють у несподіваний час. Політики змінюються. API відмовляються. Серверні системи сповільнюються. З’являються нові крайові випадки, які ніхто не передбачив у початковому дизайні. Одне точно: користувачі очікують, що завдання буде виконано ефективно, безперешкодно та природно. Будь то текст, а особливо голос, розмова має текти природно, без затримок; вона повинна звучати певною мірою емпатично і виконувати задачу, пропонуючи найкращі варіанти та наступні кроки, або обробляти виключення та цикли людським чином, коли це потрібно.

Деяка з найвищої цінності автоматизації походить від виконання відносно звичайних завдань надзвичайно добре і сотні тисяч разів: відповідь на питання співробітника, перевірка рахунку, перенесення зустрічі, вирішення ІТ‑запиту або отримання правильної інформації з корпоративної системи. Це змінило наше розуміння цінності ШІ.

Другий урок полягає в тому, що запуск у продакшн — лише початок циклу навчання. Потрібно бачити, що користувачі просять, які наміри зростають, де розмови зазнають збою, куди люди ескалюються, і іноді, коли сам базовий бізнес‑процес потребує змін.

І, можливо, найважливіший урок — це те, що довіра є операційною, оскільки підприємства довіряють ШІ, бо з часом він поводиться передбачувано, виключення обробляються правильно, рішення видимі, і організація залишається під контролем.

Дані виробництва Druid свідчать, що відносно невелика кількість робочих процесів може пояснити більшість реального використання корпоративного ШІ. Чи означає це, що компанії мають спочатку зосередити інвестиції в ШІ на кількох високовольюмових процесах, а не намагатися здійснити широке трансформування всього підприємства?

Один з найясніших патернів у наших виробничих даних — це концентрація попиту. У фінансових послугах, наприклад, три категорії робочих процесів складають близько 90 % використання у продакшн. У вищій освіті концентрація ще вища. Це дає важливе розуміння того, як компанії мають мислити про трансформацію ШІ. Ми проаналізували ці інсайти і створили звіти‑бенчмарки для вищої освіти, охорони здоров’я та банківської сфери, які дозволяють нашим партнерам і клієнтам визначати процеси, що підвищать ефективність, і прогнозувати, як люди будуть взаємодіяти з агентами.

Існує спокуса, особливо на рівні правління, розпочати з дуже широкого запиту: “Ви ПОВИННІ використовувати ШІ, інакше залишимося позаду.” Операційна команда тоді бореться за визначення правильних завдань, які можуть виконувати агенти, одночасно боячись втратити свої робочі місця. Тож, який має бути правильний баланс і як вони зможуть найняти потрібного AI‑агента, щоб виконувати роботу СПІЛЬНО з ними, максимально задовольняючи KPI, які очікує правління?

Починайте там, де є потенціал збільшити дохід і/або знизити витрати, речі, які зазвичай виконуються повторно. Якщо тисячі клієнтів, співробітників, студентів чи пацієнтів постійно намагаються досягти одного і того ж результату, у вас є вимірювана база і сильна можливість продемонструвати цінність.

Але є важливе розрізнення: починайте вузько, архітектуруйте широко.

Перші випадки використання можуть бути сконцентровані. Платформа під ними повинна мати можливість розширення по всьому підприємству. Ви доводите економічну доцільність, модель управління, інтеграції та механізми ескалації до людей на кількох значущих робочих процесах. Потім розширюєтеся на суміжні процеси, використовуючи отримані знання.

Обсяг не має бути єдиним критерієм. Робочий процес з низькою частотою може залишатися надзвичайно цінним, якщо кожне успішне вирішення має суттєвий фінансовий або операційний вплив.

Оскільки підприємства все більше орієнтуються на успішне вирішення, а не лише на максимізацію відсотка взаємодій без участі людей, як організації мають визначати, які рішення AI‑агент може приймати автономно, а де ескалація до людини має залишатися обов’язковою?

Druid AI створив оцінювальну рамку, що охоплює 26 критеріїв і забезпечує об’єктивну оцінку агентного оркестрування від процесу створення до виконання завдання.

Якщо дія оборотна, відносно низького ризику, регулюється чіткими правилами і підкріплена надійною інформацією, то існує вагомий аргумент на користь автономії. Перенесення зустрічі за заздалегідь визначеними параметрами суттєво відрізняється від прийняття клінічного рішення і може здаватися простим. Однак воно має враховувати багато аспектів, щоб бути ефективним: наприклад, якщо у доктора B є вільний слот, але він хоче його заблокувати, AI‑агент не повинен перенести пацієнту запис у цей слот лише тому, що завдання — максимізувати заповненість календаря доктора.

Я б розглядав кілька вимірів: фінансові або людські наслідки помилки, чи є дія оборотною, повноту та якість доступної інформації, регуляторні вимоги та чи потрібне справжнє людське судження або емпатія. Потім ви навмисно проектуєте ескалацію.

Саме тут, на мою думку, раннє мислення щодо автоматизації ШІ було надто спрощеним. Метою стало “утримати якомога більше взаємодій без залучення людини”. Але в багатьох процесах ескалація саме є правильним результатом.

Тому я волію думати про це в термінах керованого вирішення, а не чистого утримання.

Мета полягає в тому, щоб ШІ автономно вирішував ті завдання, які має вирішувати, розпізнавав ситуації, у яких не слід діяти, і залучав людину до процесу з уже зібраним релевантним контекстом.

Коли AI‑агенти можуть отримувати конфіденційну інформацію, оновлювати корпоративні системи та ініціювати реальні дії, спостережуваність і управління стають набагато важливішими. Що компанії мають мати можливість аудиту щодо міркувань агента, доступу до даних та дій, перш ніж довіряти йому критичні робочі процеси?

Відповідно до рекомендацій Gartner, DRUID має вбудовану оцінювальну рамку, що аналізує агентів з 5 точок зору: толерантність до помилок, ризик, відповідність, спостережуваність та відхилення. За цими категоріями у нас є загалом 26 компонентів. Кожен має визначення, артефакт, який можна відкрити, і вимірювання.

При оцінці агента платформа повинна мати можливість відтворити повний ланцюжок від початкового запиту користувача до кінцевої системи дії. Це означає знати, який агент обробив запит, яку модель використано, який контекст отримала модель, яку корпоративну інформацію було отримано, які бізнес‑правила чи політики застосовано, чому обрано певний маршрут або дію і що саме змінилося у базових системах. Десятки аудиторських взаємодій відстежуються, аналізуються та вимірюються.

Ідентичність також важлива. AI‑агент ніколи не повинен стати обходом системи контролю доступу в компанії. Потрібно знати, хто ініціював запит, що ця особа мала право бачити або робити, і чи залишався агент точно в межах цих прав.

У багатагентних архітектурах простежуваність стає ще важливішою. Який агент делегував іншому агенту? Яка інформація перейшла цей кордон? Звідки походить рішення? Який компонент фактично виконав дію? І є операційні докази: часові мітки, сигнали впевненості, результати виконання, виключення, події ескалації та можливість зрозуміти або відтворити те, що сталося.

Це один із найбільших змін, коли ми переходимо від розмовного до агентного ШІ.

Коли ШІ лише відповідає на питання, спостережуваність корисна. Коли ШІ може змінювати запис клієнта, ініціювати платіж, оновлювати кілька систем запису або запускати бізнес‑процес, спостережуваність стає частиною архітектури контролю.

Ви займали надзвичайно широкий спектр ролей у Druid AI, охоплюючи розробку, операції, доходи та успішність клієнтів. Як пряма робота з клієнтами сформувала ваш погляд на те, чому деякі впровадження корпоративного ШІ приносять вимірювану цінність, а інші залишаються в режимі пілотного проекту?</p