Почему для ИИ-агентов недостаточно просто улучшить данные

На протяжении многих лет один из самых распространенных советов по внедрению ИИ в организациях сводился к тому, что сначала нужно привести данные в порядок. Логика проста: чтобы система могла принимать полезные решения, ей необходима точная и доступная информация.

Сегодня это по-прежнему верно, но такого подхода уже недостаточно: ИИ-агенты переходят от ответов на вопросы и создания контента к действиям от имени сотрудников и организаций. Данные могут сообщить агенту, что известно о клиенте, транзакции, претензии или запросе, но не обязательно подскажут, что делать дальше и к каким последствиям приведет то или иное действие. Это различие важно, когда агент уже не просто дает ответ, а одобряет запрос, обновляет запись, связывается с клиентом или продвигает дело дальше.

Сотрудники организаций должны научиться работать в рамках системы, включающей цепочки согласования, бизнес-правила, зависимости, исключения и сценарии эскалации, — агентам тоже необходим способ действовать в соответствии с такими правилами. Учитывая, что Gartner прогнозирует: к концу 2026 года целевые ИИ-агенты будут использоваться в 40% корпоративных приложений против менее чем 5% в 2025 году, пробелы в знаниях агентов будет все труднее игнорировать. 

Gartner также прогнозирует, что к 2028 году на специализированных агентах, ориентированных на конкретные области, будет приходиться 80% ощутимой отдачи от инвестиций в агентный ИИ. Специализация важна, но она решает лишь часть проблемы. Знание определенной области само по себе не помогает агенту понять, где начинаются и заканчиваются его обязанности, как его задача вписывается в более масштабный процесс и кто должен взять ее на себя, если она выходит за рамки его полномочий. Чтобы стать надежными участниками корпоративной работы, агентам нужны и контекст бизнес-процессов, и бизнес-данные.

Хорошие данные не подсказывают агенту, что делать дальше

Рассмотрим заявку на кредит: агент может получить доступ к финансовой истории заявителя, сведениям о его трудоустройстве и другим соответствующим документам. Эта информация поможет ему разобраться в заявке, но не объяснит, как организация работает с такими заявками.

Какие проверки нужно провести в первую очередь? Что меняется, если заявитель соответствует одному условию, но не другому? Какие сведения обязательно нужны, прежде чем дело можно будет продвинуть дальше? Какие решения можно принимать автоматически, а какие должен рассматривать андеррайтер?

В большинстве корпоративных процессов есть множество таких разветвлений, зависящих от условий. Процесс может автоматически продвигаться дальше при соблюдении определенных критериев, приостанавливаться для сбора дополнительных сведений или идти совершенно другим путем при возникновении исключительной ситуации. Следующее подходящее действие зависит не только от имеющейся информации, но и от текущего этапа работы и уже произошедших событий.

Это меняет представление о надежности корпоративного агента. Точного ответа недостаточно, если следующее действие оказывается неверным. Агент может правильно интерпретировать имеющуюся информацию и при этом перевести дело не на тот этап, пропустить обязательное согласование или действовать до выполнения необходимого условия.

McKinsey недавно рассказала о своей работе с компанией в сфере медицинских технологий, которая обнаружила, что используемая ею платформа ИИ не поддерживает несколько ключевых правил рабочих процессов. Вместо того чтобы отложить запуск и устранить эти пробелы, компания продолжила действовать по плану и в итоге не реализовала, по оценке, 30% ожидаемой ценности ИИ. Этот пример показывает, насколько важно учитывать процесс, в рамках которого выполняется задача, а не только информацию, необходимую для ее решения. 

Соотносите ограничения с решениями, которые может принимать агент

По мере того как агенты приобретают способность действовать, управление ими должно становиться более точечным. Агент, который извлекает документ с правилами, несет не такой риск, как агент, меняющий учетную запись клиента, одобряющий платеж или инициирующий транзакцию. Однако организации легко впадают в одну из двух крайностей: либо позволяют агентам действовать слишком свободно, либо требуют одобрения человека практически для всего.

Ограничения для агента должны соответствовать решениям, которые он может принимать, и возможным последствиям. Агенту можно поручить самостоятельно выполнить повторяющееся действие с низким уровнем риска. Для другого действия может потребоваться одобрение, если его сумма превышает определенный порог. Необычную ситуацию, возможно, нужно будет немедленно передать сотруднику.

Человеческий надзор наиболее полезен, когда он применяется целенаправленно. Если человек должен одобрять каждый рутинный шаг, значительная часть преимуществ внедрения агента исчезает. Но отказ от контрольных точек при принятии решений, которые действительно требуют суждения или ответственности, создает другую проблему.

IBM Research выступает за установление четких правил, определяющих, какие действия разрешено предпринимать агентам и на каких этапах необходим контроль со стороны человека. Эти меры контроля также должны учитывать процесс, в котором участвует агент. Полномочия агента не обязательно остаются неизменными от начала до конца конкретного случая. То, что агент может безопасно делать, зависит от этапа процесса, уже проверенной информации, ранее принятых решений и последствий следующего действия.

Это означает, что организациям необходимо встроить механизмы управления в сам рабочий процесс. Вместо того чтобы предоставлять агенту широкий набор разрешений и полагаться на него во всех ситуациях, можно определить, где ему разрешено действовать самостоятельно, где требуется выполнить дополнительные условия, а где ответственность должна перейти к человеку. Таким образом, вопрос будет заключаться не столько в том, автономен ли агент, сколько в том, на каких этапах процесса автономность уместна.

Агентам предстоит работать в рамках уже существующей бизнес-среды

Контекст процесса становится ещё важнее, когда агенту необходимо взаимодействовать с другими системами и подразделениями организации. Компании начинают не с чистого листа. Запрос одного клиента может проходить через CRM-систему, хранилище документов, платформу управления обращениями и ERP-систему, затрагивая при этом сотрудников нескольких отделов.

Внедрение агента в отдельную часть этой среды само по себе не сделает весь процесс эффективнее. Агент может безупречно выполнить свою конкретную задачу, но если сотруднику затем приходится переносить полученные данные в другое приложение, выяснять, кому передать их дальше, или вручную запускать процесс заново в другой системе, узкое место просто перемещается.

Поэтому компаниям необходимо рассматривать агентов как участников более масштабного процесса, а не как изолированные инструменты. Что запускает агента? Какую информацию он получает? За что он отвечает? Куда передаётся работа после того, как агент её завершил? И что происходит, если он не может выполнить задачу?

Эти вопросы приобретают ещё большее значение, когда организации внедряют несколько специализированных агентов. Deloitteназвала оркестрацию одним из ключевых условий перехода компаний к мультиагентным системам, в которых разные агенты могут выполнять отдельные функции и координировать работу. Корпоративная оркестрация должна охватывать взаимодействие и координацию агентов между собой, а не только их работу по отдельности. Без такого надзора агенты могут действовать на основе неполного контекста, запускать противоречащие друг другу действия или обходить установленные бизнес-правила и процедуры согласования. Агенты по-прежнему работают внутри организаций, где уже есть приложения, сотрудники, бизнес-правила и процессы, которые могут длиться дни, недели или месяцы.

Начните с процесса, который необходимо выполнить, и определите, какую роль в нём играют агенты, люди и существующие системы. Агент может самостоятельно выполнить один этап, другой агент — провести специализированную проверку, сотрудник — принять решение, требующее суждения, а существующая система — выполнить итоговую транзакцию. Важно, чтобы работа передавалась между участниками без потери контекста.

Автономность требует структуры

Более чёткая организация работы агентов не означает, что каждое их действие нужно дополнительно ограничивать. На самом деле всё может быть наоборот. Понятные процессы позволяют организациям увереннее определять, где агенты могут действовать самостоятельно, поскольку границы их полномочий, исключения и условия передачи задачи уже установлены. Чтобы приносить ощутимую пользу, агенту не нужна неограниченная свобода. Ему достаточно полномочий, позволяющих продвигать работу вперёд, контекста, необходимого для понимания дальнейших действий, и ясного представления о том, когда ответственность должна перейти к кому-то другому.

Более качественные данные и дальше будут расширять возможности агентов. Но одних возможностей недостаточно, чтобы агент был полезен в организации. Главная проверка — способен ли он предпринять правильное действие в нужный момент процесса и в установленных компанией границах.