Sobhan Daliry, CPO & AI Strategy Leader в Pipefy — серия интервью

Sobhan Daliry, CPO & AI Strategy Leader в Pipefy, является опытным руководителем продукта и технологий, который возглавляет стратегию ИИ компании с 2023 года, помогая преобразовывать традиционные бизнес‑процессы в всё более интеллектуальные и автономные. На протяжении своей карьеры Далири сочетал стратегию продукта, организационные трансформации и технологическое лидерство в стартапах и крупных компаниях. До прихода в Pipefy он основал и был генеральным директором Polen.me и более пяти лет занимал позиции CEO/CPO в NZN, где руководил восстановлением компании и её продуктовой стратегией. Ранее он занимал должности директора по управлению продуктом в PSafe, менеджера продукта в Peixe Urbano, а также работал в сфере цифровых сервисов, телекоммуникаций, консалтинга и бизнес‑развития в Oi/Telemar, Claro, AIRCOM International и Planeta Tecnologia.

Pipefy — глобальная платформа управления процессами и ИИ, предназначенная для помощи организациям в автоматизации и оркестрации бизнес‑процессов. Основанная в 2015 году, компания эволюционировала от платформы автоматизации процессов без кода до среды оркестрации, ориентированной на ИИ, объединяющей AI‑Agents, рабочие процессы, формы, порталы, приложения, данные, аналитику, сообщения и интеграции. Платформа позволяет командам создавать и управлять AI‑Agents с помощью естественного языка и инструментов без кода, обеспечивая при этом корпоративное управление, безопасность и видимость. Возможности ИИ Pipefy включают агентов, способных интерпретировать документы, выполнять задачи рабочих процессов, поддерживать принятие решений, взаимодействовать с внешними системами и оркестрировать процессы в таких областях, как финансы, человеческие ресурсы, закупки, клиентские операции и соблюдение нормативов.

Ваша карьера привела вас от телекоммуникационной инженерии в таких компаниях, как Claro и Oi, к руководству продуктом в Peixe Urbano и PSafe, к роли CEO/CPO в NZN, основанию Polen.me и теперь к руководству продуктом и стратегией ИИ в Pipefy. Как это развитие сформировало ваш взгляд на создание AI‑продуктов, решающих реальные операционные задачи, а не просто демонстрирующих новые технологии?

Телекоммуникации научили меня, что инфраструктура должна работать каждый раз, в огромных масштабах, без места для «в основном работает». Сброшенный звонок — это не провал демонстрации, а клиент, который уходит. Такой менталитет — надёжность превыше новизны — никогда меня не покидал. В Peixe Urbano и PSafe я усвоил противоположный урок: насколько быстро потребительские продукты живут или умирают в зависимости от того, решают ли они реальную, ощутимую проблему сегодня, а не теоретическую. Руководство NZN в роли CEO/CPO заставило меня одновременно держать обе истины — нельзя превзойти плохую гипотезу в исполнении, и нельзя превзойти плохое исполнение гипотезой. Создание Polen.me преподало мне самый дорогой урок: капитал и время ограничены, поэтому каждая реализованная функция — это функция, которую вы не реализовали, а стоимость погонь за впечатляющей демонстрацией вместо реального рабочего процесса проявляется через месяцы, а не на сцене. К моменту прихода в Pipefy вопрос, который я задаю к каждой функции ИИ, тот же, что я бы задал к сотовой вышке: выдержит ли это в продакшене, под реальной нагрузкой, когда никто не наблюдает? Если AI‑агент работает только в отобранной демонстрационной среде, это не продукт — это лишь трейлер к нему.

Вы возглавляете формулирование и внедрение стратегии ИИ Pipefy с 2023 года. Какие предположения о корпоративном ИИ у вас были в начале, которые изменились больше всего по мере того, как генеративный ИИ и AI‑агенты развивались?

Самым большим предположением, которое мне пришлось отбросить, было то, что узким местом будет модель. В 2023 году все — включая меня — оптимизировались по критерию «какой LLM самый умный». На деле узким местом оказался контекст: знает ли агент, каков процесс, какие ограничения существуют, как выглядит «завершено» для конкретной версии системы расчётов поставщикам у данного клиента. Качество модели продолжало улучшаться по предсказуемой кривой, но контекст процесса не улучшался сам по себе, потому что никто его не структурировал. Вторым изменившимся предположением была автономность. Я полагал, что рынок хочет агентов, действующих полностью независимо и как можно быстрее. На самом деле (и до сих пор) предприятия нуждаются в ограниченной автономии: агенты, принимающие реальные решения в рамках правил, которые они не могут нарушить, с последующим журналом, подтверждающим их действия. Полная автономия без управления — это не амбиция, а просто риск с более красивым интерфейсом. Рынок быстрее развивался в требованиях к доверию, чем к чистой функциональности, и это переупорядочивание стало самым крупным моим промахом в начале.

Pipefy различает относительно простую AI‑автоматизацию и AI‑агентов, способных рассуждать в неоднозначных ситуациях, планировать несколько шагов и выполнять действия в рамках рабочего процесса. Как предприятия должны определять, когда задача действительно требует AI‑агента, а когда детерминированная автоматизация остаётся лучшим решением?

Тест, который я использую, прост: если вы можете написать правило, напишите правило. Детерминированная автоматизация по‑прежнему является правильным решением для любых задач, где дерево решений известно заранее и не меняется — направьте эту счёт‑фактуру этому утверждающему, если сумма ниже указанного порога. Это не задача для агента, а попытка представить иначе лишь добавляет задержки и непредсказуемость к тому, что уже решено. Агент заслуживает своего места в тот момент, когда ситуация содержит неоднозначность, которую фиксированное правило не может разрешить — счёт‑фактура не совпадает точно с заказом, отсутствует поле, запрос клиента не вписывается ни в одну из ваших существующих категорий. Здесь рассуждение имеет реальную ценность: решение, что делать дальше, когда “next” ещё не записано. Ошибка, которую я постоянно наблюдаю у предприятий, — это создание агента для 80 % случаев, которые уже детерминированы, потому что это выглядит более эффектно, и оставление неоднозначных 20 % — настоящей сложной части — человеку, который вручную распутывает их. Поменяйте это соотношение, и вы построите нечто реальное.

Наблюдается растущий переход от отдельных копилотов к «агентной оркестрации», когда ИИ может координировать процессы, охватывающие несколько систем. Что отличает подлинную агентную оркестрацию от простого добавления крупной языковой модели к существующей платформе автоматизации?

Добавление узла LLM в существующий поток автоматизации даёт более умный отдельный шаг. Подлинная оркестрация означает, что ИИ имеет постоянный, структурированный взгляд на весь процесс — не только на эту задачу, но и на её место в последовательности, что уже произошло выше по потоку, что должно быть истинно ниже по потоку, чтобы это считалось завершённым. Разница в том, имеет ли интеллект память о процессе или лишь память о запросе. Копилот отвечает на заданный им вопрос. Оркестрация координирует действия между системами, которые изначально не взаимодействуют друг с другом — вашим ERP, CRM, API партнёра — при этом наследуя те же правила, разрешения и журнал аудита, на которых работает остальная часть процесса. Если вам приходится создавать отдельный слой управления вокруг вашей функции ИИ, потому что платформа автоматизации под ней его не имеет, у вас нет агентной оркестрации — у вас чат‑бот с доступом к API, и их профиль риска совершенно иной.

AI‑агенты без кода потенциально позволяют бизнес‑командам автоматизировать всё более сложные процессы без ожидания ресурсов инженеров. Как демократизировать эту возможность, не создавая новое поколение теневого ИИ, плохо спроектированных агентов или угроз безопасности?

Безопасную демократизацию вы не получите, прося бизнес‑пользователей быть более осторожными — вы получите её,

делая ограничения частью дорожного покрытия, а не отдельной полосой, в которой людям придётся выбирать, где ехать. Каждый агент, который создаёт бизнес‑пользователь, наследует одинаковый контроль доступа по ролям, одинаковый журнал аудита и одинаковые бизнес‑правила, уже регулирующие процесс, в котором он построен — это не опциональная настройка, а структура. Это реальный ответ на теневой ИИ: это не проблема политики, а проблема архитектуры. Теневой ИИ возникает, когда одобренный инструмент сложнее в использовании, чем не одобренный, поэтому люди создают своего агента в личном аккаунте ChatGPT или в случайном инструменте автоматизации без какой‑либо видимости для ИТ. Если опыт без кода действительно быстрый, а управление невидимо, потому что автоматическое, у бизнес‑команды нет причины обходить его. В тот момент, когда вы делаете управление ручным шагом, который кто‑то должен помнить, вы уже проиграли.

По мере того как AI‑агенты получают возможность принимать решения и выполнять действия, а не только рекомендовать их, как организациям решать, где уместна полная автономия, а где человек должен оставаться в цепочке?

Ось, которую я использую, — это не «насколько умён агент», а обратимость и радиус поражения. Если ошибочное решение дешево обнаружить и дешево отменить — маршрутизация, категоризация, черновик — позвольте агенту действовать и проверять в совокупности. Если ошибочное решение дорого, трудно обратимо или напрямую затрагивает деньги, соответствие требованиям или отношения с клиентом, оставьте человека в цепочке для этого конкретного шага, даже если агент правильно принял последние тысячу решений. Ошибка состоит в том, что автономность рассматривается как один общий регулятор, который повышают для всего рабочего процесса. Реальные процессы — это последовательность шагов с сильно различающимися профилями риска, и правильный дизайн помещает человека именно на тот шаг, где ошибка дорого обходится — не везде и не нигде. Поэтому правильно реализованный human‑in‑the‑loop не является налогом на скорость — это способ построить уверенность, чтобы в конечном итоге убрать его из низко‑рисковых шагов, потому что у вас есть доказательства, подтверждающие, какие решения агент стабильно принимает правильно.

Pipefy подчёркивает управление с помощью таких механизмов, как журналы аудита, контроль доступа на основе ролей, бизнес‑правила и прослеживаемость внутри самого рабочего процесса. Становится ли внедрение управления непосредственно в слой оркестрации обязательным, когда компании переводят AI‑агентов из экспериментов в продукцию?

Это уже не становится обязательным — это уже так, и компании, которые понимают это тяжело, оказались теми, кто первым вывел агентов в продакшн и теперь строит журнал аудита задним числом. Это обратный подход, и исправлять его ретроспективно дорого. Если журналы аудита, ролевой контроль доступа и прослеживаемость не являются нативными для самого уровня оркестрации, каждый новый агент, который вы развёртываете, становится новой точкой, где управление может тихо провалиться — и вы узнаете об этом только тогда, когда аудитор, регулятор или инцидент задаст вопрос. Внедрение управления в уровень оркестрации означает, что каждое действие агента автоматически наследует те же правила и оставляет те же доказательства, что и действие человека, без необходимости кому‑то отдельно помнить о его настройке. Предприятия, переходящие от AI‑экспериментов к AI в продакшн, обнаруживают, что критерии успеха пилота и критерии успеха продакшна различаются: пилот должен работать, продакшн должен быть защищённым. Управление — это разница между этими двумя планками.

Многие компании могут продемонстрировать впечатляющий AI‑пилот, но сталкиваются с трудностями при переводе его в измеримую бизнес‑ценность. На какие метрики следует ориентироваться лидерам, определяя, действительно ли инициатива AI‑автоматизации приносит ROI, и какие самые распространённые причины, по которым обещающие пилоты не масштабируются?

Я не доверяю любой дискуссии об ROI AI, начинающейся с «сэкономленных часов», потому что часы, сэкономленные кем, и как это проверяется? Метрики, которые действительно выдерживают проверку со стороны CFO, — это то, что аудиторы могут подтвердить независимо: время цикла конкретного процесса до и после; уровень ошибок или переделок; процент рабочего процесса, который теперь завершается без человеческого вмешательства; и покрытие аудиторской линии — можете ли вы показать для каждого агентного решения, почему оно было принято. Если вы не можете предоставить этот журнал, у вас нет числа ROI, у вас лишь анекдот. Пилоты почти всегда не масштабируются по одной и той же причине: их создавали, чтобы доказать работоспособность модели, а не чтобы доказать, что процесс работает от начала до конца в продакшне, интегрированным с системами, от которых зависит остальная часть компании. Пилот, живущий в песочнице, отключённый от реальной системы учёта, всегда будет выглядеть лучше, чем он будет работать, когда его подключат ко всему остальному уже работающему. Масштабирование — это проблема системной интеграции, замаскированная под AI.

Вы также возглавляли инициативы по организационным изменениям в Pipefy, вводя новые возможности AI. Исходя из вашего опыта, насколько успешное внедрение AI в предприятии является технологическим вызовом по сравнению с вызовами процессов, культуры и управления изменениями?

Если честно, успешное внедрение AI в предприятии — это 20 % технологий и 80 % всего остального. Технологии в основном уже работают — это не то, о чём я теряю сон. На самом деле определяющим фактором того, закрепится ли AI‑инициатива, является то, доверяют ли люди, чья работа меняется, системе настолько, что готовы отказаться от ручной проверки, которую они делали в течение десяти лет, и готово ли руководство перестраивать процесс, а не просто накладывать AI поверх старого. Мы прошли через это внутри, создавая собственные инженерные инструменты — технология автоматизации части того, как мы создаём программное обеспечение, существовала задолго до того, как команда действительно доверила ей, перестав проверять всё вручную. Прорывом не была лучшая модель, а видимое доказательство, повторённое достаточно раз, что суждение системы совпадает с их собственным. Управление изменениями для AI — это не коммуникационная задача, а задача накопления доказательств: вы завоёвываете доверие небольшими, проверяемыми партиями, а не объявляете об этом на общем собрании.

Смотря в будущее, ожидаете ли вы, что традиционное программное обеспечение для управления рабочими процессами и бизнес‑процессами эволюционирует в уровни оркестрации, где люди, AI‑агенты и корпоративные системы постоянно сотрудничают? Если да, что фундаментально изменится в том, как компании проектируют и управляют своими операциями?

Да, и я считаю, что сдвиг больше, чем большинство людей учитывают в оценках. Программное обеспечение для управления процессами раньше служило документированию того, как должна происходить работа. Сейчас оно становится местом, где работа действительно происходит — живым рантаймом, где люди, агенты и корпоративные системы действуют внутри одного управляемого процесса одновременно, а не человеком, использующим программное обеспечение как пассивный регистратор после факта. Фундаментально меняется место «системы учёта». Раньше запись представляла собой базу данных, обновлявшуюся после того, как событие уже произошло вне её. В слое оркестрации запись и исполнение — одно и то же; процесс сам становится интерфейсом, доступным не только через экран, но и через API, MCP‑сервер, CLI, так что любой агент, внутренний или партнёрский, может действовать внутри него по тем же правилам, что и человек. Компании, рассматривающие этот сдвиг как «добавить AI к существующим инструментам», будут сталкиваться с потолком, который я описал ранее. Те, кто рассматривает слой процесса как настоящий продукт — то, во что стоит инвестировать, правильно структурируя, — получат преимущество, которое нельзя скопировать, просто купив ту же модель AI.

Спасибо за отличное интервью, читатели, желающие узнать больше, должны посетить Pipefy.