ИИ-агенты, ИИ-помощники и рабочие процессы: в чём разница?

ИИ-помощники помогают человеку, рабочие процессы с ИИ следуют заранее заданному порядку действий, а ИИ-агенты сами решают, как достичь цели. Все три типа систем могут использовать одни и те же базовые модели и инструменты, но по-разному распределяют полномочия при принятии решений.

Эти термины часто используют без строгого определения, что создаёт нереалистичные ожидания и ослабляет контроль. Продукт, который называют «агентом», может оказаться рабочим процессом с интерфейсом чата; ИИ-помощник может выполнять действия, а рабочий процесс — включать этап с агентными функциями. Важно не то, как называется система, а кто выбирает дальнейший путь, кто утверждает действие и насколько предсказуемой должна быть система.

Кратко

Что такое ИИ-помощник?

ИИ-помощник помогает человеку выполнить задачу, но тот остаётся главным лицом, принимающим решения. Помощник может кратко изложить документ, написать черновик кода, предложить ответ, объяснить ошибку или порекомендовать следующий шаг. Пользователь проверяет результат и решает, использовать ли его.

Главная отличительная черта — взаимодействие, а не конкретный интерфейс. ИИ-помощник может обращаться к инструментам только для чтения или подготовить предлагаемое действие, но обычно оставляет человека непосредственно вовлечённым в принятие решения и выполнение действия.

ИИ-помощники особенно полезны, когда важен человеческий контекст, ошибки обходятся дорого или желаемый результат субъективен. Они снижают нагрузку, не требуя от системы полностью выполнять задачу самостоятельно.

Что такое рабочий процесс с ИИ?

Рабочий процесс с ИИ — это последовательность шагов, порядок выполнения которых в основном задаётся заранее. На некоторых этапах может использоваться модель — например, чтобы классифицировать входящий запрос, извлечь данные или написать краткое изложение, — но переход от одного этапа к другому определяется кодом.

Рабочий процесс службы поддержки может классифицировать обращение, получать данные учётной записи, создавать черновик ответа, проверять его на соответствие правилам и помещать результат в очередь на проверку. Модель может создавать разные варианты текста, при этом общий порядок действий остаётся предсказуемым.

В руководстве Anthropic по созданию эффективных ИИ-агентов проводится такое различие: рабочие процессы координируют взаимодействие языковых моделей и инструментов по заранее заданным в коде сценариям, тогда как агенты самостоятельно и динамически управляют ходом работы и использованием инструментов.

Что такое ИИ-агент?

Агент получает цель и самостоятельно выбирает шаги, необходимые для её достижения. Он может выбирать инструменты, составлять или пересматривать план, реагировать на наблюдения, справляться с некоторыми сбоями и продолжать работу, пока не выполнит условие остановки.

Например, исследовательский агент может сам решить, какие источники искать, выявить пробелы, изменить поисковые запросы, сопоставить свидетельства и подготовить отчёт со ссылками на источники. Разработчик не задаёт заранее каждый поиск и точное число шагов.

Агенты полезны в изменчивой среде, где невозможно заранее полностью предвидеть путь к результату. Та же гибкость делает их менее детерминированными, чем рабочие процессы.

Граница — это спектр

Рабочий процесс может включать этап с агентным поведением, а агент — вызывать детерминированный рабочий процесс как инструмент. Например, агент может определить, что клиент имеет право подать запрос на возврат средств, а фиксированный рабочий процесс проверит заказ, рассчитает допустимую сумму и передаст окончательное решение уполномоченному сотруднику. Сочетание этих подходов часто позволяет создавать более эффективные системы, чем попытка отнести весь продукт к одной категории.

Реальные продукты сочетают в себе эти подходы. Копилот может включать агента, который выполняет ограниченную подзадачу. Рабочий процесс может передавать нестандартный случай агенту. Агент может использовать детерминированные рабочие процессы для выполнения чувствительных операций.

Точнее описывать уровень и масштабы автономности:

• Предложение: система предлагает содержание или решение, а действует человек.
• Подготовка действия: система готовит изменение, а человек утверждает его.
• Ограниченное выполнение: система действует автоматически в узких рамках, причём её действия обратимы.
• Адаптивное выполнение: система выбирает этапы и инструменты в рамках установленных правил.
• Делегированная работа: система выполняет продолжительную задачу и передаёт исключительные случаи на рассмотрение.

Разные этапы одного и того же продукта могут соответствовать разным уровням автономности.

Чем эти системы отличаются от традиционной автоматизации

Традиционная автоматизация действует по явным правилам и детерминированной логике. Роботизированная автоматизация процессов может воспроизводить нажатия и ввод данных в известных интерфейсах. Рабочий процесс может сочетать такую автоматизацию с этапами на основе моделей. Агенту предоставляется свобода выбора самого маршрута.

Использование модели само по себе не превращает систему в агента. Процесс по расписанию, который отправляет каждый документ на обработку с помощью фиксированного запроса для составления краткого содержания, по-прежнему остаётся рабочим процессом.

Какой подход выбрать?

Затем оцените возможные последствия. Исследовательский агент, действия которого сопряжены с низким риском, может выполнить много шагов до проверки, тогда как финансовый или административный агент должен останавливаться в определённых точках принятия решений. Архитектурная категория сама по себе не определяет безопасность: её определяют разрешения, возможность отменить каждое действие и надзор за ним.

Выбирайте копилот, если:

• у пользователя есть важный контекст, который система не может учесть в полной мере;
• оценка качества субъективна или требует профессионального суждения;
• задача возникает редко, сопряжена с высокими рисками или её сложно оценить автоматически;
• внедрение зависит от того, помогает ли система людям понимать и контролировать результат.

Выбирайте рабочий процесс, если:

• этапы и точки принятия решений известны;
• последовательность, возможность аудита и скорость важнее гибкости;
• бизнес-правила можно сформулировать и протестировать напрямую;
• процесс обрабатывает большой объём задач с ограниченным числом исключений.

Выбирайте агента, если:

• цель ясна, но путь к ней меняется;
• система должна собирать информацию и реагировать на полученные данные;
• выбор инструментов и перепланирование существенно повышают ценность решения.
• успех можно измерить, а сбои — локализовать;
• дополнительные затраты и задержки оправданы ценностью задачи.

Практический пример: обработка ИТ-инцидента

ИИ-помощник обобщает журналы событий, предлагает вероятные причины и предоставляет инженеру диагностические команды.

Рабочий процесс следует инструкции: собирает заданные метрики, перезапускает службу при определённых условиях, проверяет её работоспособность и открывает заявку, если проверка не пройдена.

Агент расследует незнакомый инцидент, решает, какие данные телеметрии изучить, выдвигает гипотезы, запускает одобренные диагностические процедуры, обновляет свой план и готовит или выполняет меры по устранению проблемы в пределах предоставленных ему полномочий.

Зрелая система может использовать все три подхода: рабочий процесс обрабатывает типовые оповещения, агент расследует нестандартные случаи в изолированной среде, а ИИ-помощник помогает инженеру одобрить итоговое изменение в рабочей среде.

Компромисс между затратами и надёжностью

Затраты растут с увеличением числа обращений к модели, вызовов инструментов, повторных попыток и оценщиков. Надёжность может как повышаться, так и снижаться: дополнительные проверки помогают выявлять ошибки, но каждый новый шаг также создаёт дополнительные возможности для сбоя. Оценивайте итог выполнения задачи в целом по результатам нескольких запусков, а не исходите из предположения, что большая автономность или большее число агентов автоматически повышают эффективность.

ИИ-помощникам часто требуется меньше автономных действий, но они расходуют внимание человека. Рабочие процессы требуют больше предварительной проработки, зато эффективны при масштабировании. Агенты могут сократить объём ручной координации при выполнении сложных задач, однако каждый этап планирования, вызов инструмента, повторная попытка и проверка увеличивают задержки и затраты.

Надёжность тоже меняется. Рабочий процесс можно модульно тестировать на известных ветвлениях. При повторных запусках агент может выбирать разные траектории. Поэтому для оценки агента нужны репрезентативные задачи, несколько испытаний, анализ траекторий и чётко заданные критерии оценки, как описано в руководстве Anthropic по прояснению методов оценки агентов.

Управление должно учитывать возможности, а не бренд

Организациям следует составить перечень того, что система действительно может делать: к каким данным она может обращаться, какие инструменты вызывать, какие решения принимать, может ли она взаимодействовать с внешними сторонами и какие действия можно отменить.

«ИИ-помощнику», которому разрешено отправлять сообщения или изменять записи, необходимы средства контроля таких действий. «Агент», ограниченный исследованиями в изолированной среде, может представлять меньший операционный риск. Названия — это маркетинг; важны полномочия.

Как читать схемы ИИ-агентов

Читайте схемы ИИ-агентов от входных данных с нумерацией к наблюдаемому результату. Сопоставление выделяет границу, которая отличает ИИ-агентов от ближайшей упрощённой альтернативы, а путь управления показывает, где перед наступлением последствий в реальном мире необходимо проверить полномочия или устранить неопределённость. Подписи остаются обычным адаптивным текстом страницы, поэтому их можно переводить, переносить на новую строку и перестраивать для отображения на телефоне.

В статье «ИИ-агенты, ИИ-помощники и рабочие процессы: в чём разница?» схема служит картой, а не гарантией. Реализация может объединять этапы, повторять шаги или предусматривать согласование человеком. Важно, может ли команда выявить те же функции в развёрнутой системе, назначить ответственного за каждую границу и проверить переходы между ними. Если этап нельзя наблюдать или измерить, сбои на нём будет трудно диагностировать.

Что важно помнить об ИИ-агентах, ИИ-помощниках и рабочих процессах

ИИ-помощники, рабочие процессы и агенты — это три способа распределить работу между людьми, кодом и моделями. При работе с ИИ-помощником человек остаётся у руля. В рабочем процессе маршрут задаётся кодом. Агенту предоставляется ограниченная свобода выбора маршрута.

Как правило, лучше всего выбрать наименее автономную систему, которая надёжно обеспечивает требуемую ценность. Для известных шагов используйте фиксированный код, для подлинной неоднозначности — способность модели к суждению, а там, где последствия этого требуют, — одобрение человека.