От автоматизации к когнитивности: Эволюция агентного ИИ

В течение десятилетий корпоративная автоматизация следовала знакомой логике: определить процесс, закодировать шаги и позволить программному обеспечению выполнять их последовательно. Скрипты автоматизировали команды, runbooks фиксировали процедуры, оркестрация соединяла задачи между системами, а AIOps привносил машинное обучение в растущий объём операционных данных. Каждый прогресс делал автоматизацию более мощной, но люди всё ещё принимали большинство решений. Они определяли процесс; программное обеспечение исполняло его.

Agentic AI меняет эти отношения. Вместо того чтобы начинать с фиксированного набора инструкций, агент может начать с цели и определить, как её достичь в рамках определённых границ. Это требует большего, чем просто генерировать ответ. Система должна интерпретировать цель, собрать релевантный контекст, оценить доказательства, использовать память, выбирать среди инструментов или автоматизаций и корректировать действия по мере изменения условий. Anthropic проводит аналогичное различие между рабочими процессами, где модели и инструменты следуют предопределённым путям кода, и агентами, где модель может динамически управлять собственным процессом и использованием инструментов.

От детерминированного выполнения к адаптивным решениям

Ничто из этого не делает традиционную автоматизацию устаревшей. На самом деле детерминированная автоматизация остаётся правильным решением, когда путь от известного состояния к действию хорошо понятен. Если сервис не проходит проверку работоспособности, перезапустите его. Если запрос соответствует определённым критериям, направьте его в соответствующую очередь. Если интерфейс превышает пороговое значение, откройте тикет и запустите диагностику. Это именно те повторяемые действия, которые автоматизация умеет выполнять эффективно.

AIOps расширил эту модель, помогая организациям интерпретировать происходящее до срабатывания автоматизации: коррелировать события, выявлять аномалии, уменьшать шум и добавлять контекст. Агентный ИИ делает следующий шаг, вводя оценку между сигналом и действием. Вопрос больше не только «Какой рабочий процесс запускает это условие?». Он становится «Исходя из цели и имеющихся сейчас доказательств, какой следующий шаг будет наилучшим?»

Возьмём, к примеру, деградирующий сервис. Агент может потребовать изучить телеметрию, топологию, недавние изменения, тикеты, конфигурационные данные, исторические инциденты и бизнес‑влияние, прежде чем решить, что делать. В одной ситуации доказательства могут указывать на знакомое исправление, а в другой агент может потребовать собрать дополнительную информацию или выполнить только‑чтение диагностики. И когда потенциальное воздействие велико или доказательства неоднозначны, правильным решением может стать привлечение человека. Эта способность адаптировать путь в зависимости от того, что система обнаруживает, является существенным сдвигом.

Контекст и память меняют качество решения

Действие без контекста мало полезно. Один и тот же симптом может означать совершенно разное в зависимости от топологии, текущих работ по обслуживанию, недавних изменений, зависимостей или влияния на клиента. Опытные операторы понимают это интуитивно; они редко принимают важные решения, опираясь лишь на один изолированный сигнал. Они формируют общую картину, отделяют наблюдение от вывода и решают, насколько уверенно можно полагаться на доказательства.

Память добавляет ещё одно измерение. Google Cloud определяет память как ключевой компонент агентных архитектур, поскольку она помогает агентам сохранять контекст и использовать информацию из предыдущих взаимодействий. В операциях возможности шире, чем просто извлечение старого тикета. Полезная операционная память может сохранять то, что происходило при появлении схожих условий, какая гипотеза оказалась верной, какое исправление было предпринято, сработало ли оно или было откатано, и чему научились операторы впоследствии. Когда такой опыт подтверждён, он может стать доказательством для следующего решения, а не знанием, исчезающим в постмортеме или остающимся в голове эксперта.

Существует интересный параллель в когнитивной науке. Исследования по когнитивному разгрузке изучают, как люди используют внешние инструменты и действия, чтобы снизить умственную нагрузку задачи, тогда как исследования использования инструментов показали, что повторяющиеся взаимодействия с инструментами могут изменить представление людей о своей практической досягаемости и способности действовать. Аналогию с корпоративным ИИ не следует воспринимать буквально, но базовая идея полезна: инструменты делают больше, чем экономят время. Со временем они могут изменить наш подход к проблеме. Хорошо известные исследования лондонских таксистов и навыков навигации напоминают, что длительный опыт может формировать саму когнитивность. Для предприятий вопрос дизайна, следовательно, не просто в том, сколько работы может взять на себя агент, а в том, становится ли система человек‑агент лучше в понимании и работе со сложностью.

Агенты должны оркестровать автоматизацию, а не заменять её

Именно поэтому я не рассматриваю агентный ИИ как отказ от автоматизации. В начале своей карьеры я много лет занимался построением автоматизации операций, и один урок остался со мной: лишь исполнение недостаточно. Автоматизация должна завоевать доверие. Операторы нуждаются в уверенности, что правильное действие применяется к правильной ситуации, с надлежащими полномочиями и достаточными доказательствами, объясняющими причину.

Практичная агентная архитектура опирается на эти вложения. Существующие скрипты, рабочие процессы, API, платформы оркестрации и специализированные инструменты становятся возможностями, к которым агент может обращаться при необходимости. Если доказательства подтверждают известное исправление, агент может использовать проверенную автоматизацию, а не импровизировать новое действие. Если доказательства неполные, он может продолжить расследование. Ценность заключается в сочетании надёжного исполнения с более адаптивным принятием решений о том, когда и как должно происходить это исполнение.

Больше автономии повышает важность управления

В тот момент, когда программное обеспечение может выбирать между действиями, управление уже не может оставаться лишь постфактум‑добавлением. Корпоративный агент должен понимать не только, что он технически способен делать, но и что ему разрешено делать в конкретной среде, на определённом уровне риска и под определённой идентичностью или ролью. AI Risk Management Framework от NIST отражает более широкое представление об управлении, организуя управление рисками ИИ вокруг функций govern, map, measure и manage, при этом управление охватывает остальные функции.

На практике это означает, что агент должен уметь показывать доказательства, лежащие в основе рекомендации, ясно указывать, какие системы и данные он использовал, раскрывать степень неопределённости, соблюдать требования одобрения и оставлять аудиторский след того, что произошло. Обратимость также важна. Диагностика в режиме только‑чтения и изменение конфигурации в продакшене не должны иметь одинаковый порог автономии.

Таким образом, человеческий контроль становится более точным, а не просто исчезает. Один и тот же агент может автономно собрать доказательства, порекомендовать исправление, потребовать одобрения перед действием более высокого риска и затем проверить, действительно ли одобренное действие сработало. Цель не в том, чтобы объявить людей полностью «внутри» или «вне» цикла. Речь о том, чтобы разместить человеческое суждение в тех точках, где оно приносит наибольшую ценность.

Настоящее преимущество проявляется после действия

Возможно, самое значимое различие проявляется после выполнения действия. Традиционная автоматизация обычно проверяет, успешно ли выполнен рабочий процесс. Когнитивная система должна задавать более сложный вопрос: привело ли действие к ожидаемому результату и чему мы можем научиться из произошедшего?

Это меняет ценность обратной связи. Успешное исправление может укрепить доказательства для аналогичной ситуации в будущем. Неудачная гипотеза должна снизить вероятность повторения того же рассуждения системой. Коррекция оператора может улучшить следующую рекомендацию, тогда как откат может показать, что уверенность превысила то, что оправдывали доступные доказательства. Со временем важным активом становится не просто более обширная библиотека автоматизаций, а накопленные взаимосвязи между ситуациями, доказательствами, решениями, действиями и результатами.

С такой точки зрения эволюция корпоративной автоматизации меньше связана с заменой одного поколения технологий другим, чем с добавлением новых возможностей к уже работающим процессам. Скрипты кодировали действия, runbooks фиксировали процедуры, оркестрация соединяла их, а AIOps помогал интерпретировать всё более сложные операционные сигналы. Агентный ИИ добавляет возможность преследовать цели, рассуждать в контексте доказательств, опираться на память, выбирать среди доступных возможностей, действовать в рамках управляемых границ и учиться на результате.

Конечная цель не должна быть безграничной автономией. Она должна представлять собой подотчётную автономию: системы, способные распознавать, когда действовать, когда расследовать, когда запрашивать разрешение и когда остановиться. Это переход от автоматизации к когнитивности — не замена машин человеческим операциями, а развитие у предприятий более эффективного способа воспринимать, принимать решения, действовать и учиться.