Від автоматизації до когніції: еволюція агентного ШІ

Протягом десятиліть автоматизація підприємств слідувала знайомій логіці: визначити процес, закодувати кроки та дозволити програмному забезпеченню виконувати їх послідовно. Скрипти автоматизували команди, runbooks фіксували процедури, оркестрація з’єднувала завдання між системами, а AIOps додав машинне навчання до зростаючого обсягу операційних даних. Кожен прогрес робив автоматизацію потужнішою, проте люди залишалися головними ухвалювачами рішень. Вони визначали процес; програмне забезпечення його виконувало.

Agentic AI змінює ці відносини. Замість того, щоб починати з фіксованого набору інструкцій, агент може розпочати з мети і визначити, як її досягти в межах визначених обмежень. Це вимагає більше, ніж просто генерувати відповідь. Система повинна інтерпретувати ціль, зібрати релевантний контекст, оцінити докази, використати пам’ять, обрати інструменти чи автоматизації та адаптуватися до зміни умов. Anthropic робить подібний розподіл між робочими процесами, де моделі та інструменти слідують заздалегідь визначеним шляхом коду, і агентами, де модель може динамічно керувати власним процесом і використанням інструментів.

Від детерміністичного виконання до адаптивних рішень

Ніщо з цього не робить традиційну автоматизацію застарілою. Насправді детерміністична автоматизація залишається правильним рішенням, коли шлях від відомого стану до дії добре зрозумілий. Якщо сервіс не проходить перевірку здоров’я, його треба перезапустити. Якщо запит відповідає певним критеріям, його слід направити до відповідної черги. Якщо інтерфейс перевищує поріг, відкрийте заявку і запустіть діагностику. Це саме ті типи повторюваних дій, які автоматизація виконує добре.

AIOps розширив цю модель, допомагаючи організаціям інтерпретувати, що відбувається перед запуском автоматизації: корелюючи події, виявляючи аномалії, зменшуючи шум і додаючи контекст. Agentic AI робить наступний крок, вводячи оцінку між сигналом і дією. Питання більше не лише «Який робочий процес запускає ця умова?». Воно стає: «Враховуючи мету та наявні докази, який наступний крок є найкращим?»

Уявімо деградує сервіс. Агент може потребувати проаналізувати телеметрію, топологію, недавні зміни, заявки, дані конфігурації, історичні інциденти та бізнес-наслідки, перш ніж вирішити, що робити. У одній ситуації докази можуть вказувати на знайоме виправлення, а в іншій агент може потребувати зібрати більше інформації або запустити діагностику лише для читання. Коли потенційний вплив великий або докази неоднозначні, правильним рішенням може бути залучення людини. Ця здатність адаптувати шлях на основі того, що система виявляє, є суттєвим зрушенням.

Контекст і пам’ять змінюють якість рішення

Агентність без контексту не дуже корисна. Один і той самий симптом може означати зовсім інше залежно від топології, технічних робіт, недавніх змін, залежностей чи впливу на клієнта. Досвідчені оператори розуміють це інтуїтивно; вони рідко приймають важливі рішення лише на підставі одного ізольованого сигналу. Вони формують картину, розрізняють спостереження та висновки та вирішують, яку довіру надати доказам.

Пам’ять додає ще один вимір. Google Cloud визначає пам’ять як ключовий компонент агентних архітектур, оскільки вона допомагає агентам зберігати контекст і використовувати інформацію з попередніх взаємодій. У операціях можливості ширші, ніж просто отримання старої заявки. Корисна операційна пам’ять може зберігати, що сталося, коли з’явилися схожі умови, яка гіпотеза виявилась правильною, яке виправлення було спробовано, чи воно спрацювало або було скасовано, і що оператори дізналися після цього. Коли цей досвід підтверджено, він може стати доказом для наступного рішення, а не знанням, що зникає у постмортемі або залишається в голові експерта.

Існує цікава паралель у когнітивній науці. Дослідження когнітивного розвантаження вивчає, як люди використовують зовнішні інструменти та дії, щоб знизити ментальне навантаження завдання, тоді як дослідження використання інструментів показало, що повторна взаємодія з інструментами може змінити те, як люди уявляють свою практичну досяжність і здатність діяти. Аналогія з корпоративним ШІ не повинна сприйматися буквально, проте основна ідея корисна: інструменти роблять більше, ніж економлять час. З часом вони можуть змінити наш підхід до проблеми. Відоме дослідження лондонських таксистів та навігаційної експертизи нагадує, що тривалий досвід може формувати саму когніцію. Для підприємств питання дизайну, отже, не лише в тому, скільки роботи може взяти на себе агент, а чи система «людина‑агент» стає кращою у розумінні та реагуванні на складність.

Агенти мають оркеструвати автоматизацію, а не заміняти її

Саме тому я не розглядаю агентний ШІ як відмову від автоматизації. На початку кар’єри я багато років будував автоматизацію операцій, і один урок залишився зі мною: лише виконання недостатньо. Автоматизація повинна заслужити довіру. Оператори потребують впевненості, що правильна дія використовується у правильній ситуації, з правильними повноваженнями та достатньою кількістю доказів, щоб зрозуміти причину.

Практична агентна архітектура базується на цьому інвестиційному підході. Існуючі скрипти, робочі процеси, API, платформи оркестрації та спеціалізовані інструменти стають можливостями, які агент може викликати за потреби. Якщо докази підтверджують відому виправлення, агент може використати перевірену автоматизацію замість імпровізації нової дії. Якщо доказів недостатньо, він може продовжити розслідування. Цінність полягає у поєднанні надійного виконання з більш адаптивним прийняттям рішень щодо того, коли і як це виконання має відбуватись.

Більша автономність підвищує важливість управління

У той момент, коли програмне забезпечення може обирати між діями, управління вже не може залишатися лише післяфактним додатком. Корпоративному агенту потрібно розуміти не лише те, що він технічно може робити, а й те, що йому дозволено робити в конкретному середовищі, на певному рівні ризику та під певною ідентичністю чи роллю. AI Risk Management Framework від NIST відображає цей ширший погляд на управління, організовуючи управління ризиками ШІ навколо принципів govern, map, measure і manage, причому управління діє у всіх інших функціях.

На практиці це означає, що агент повинен мати можливість продемонструвати докази, що стоять за рекомендацією, чітко вказати, які системи та дані були використані, розкрити невизначеність, дотримуватись вимог щодо затвердження та залишати аудиторський слід того, що сталося. Важлива також зворотність. Діагностика лише для читання та зміна конфігурації у продакшн не повинні мати однаковий поріг автономії.

Тому людський контроль стає більш точним, а не просто зникає. Один і той же агент може автономно збирати докази, рекомендувати виправлення, вимагати затвердження перед дією підвищеного ризику, а потім перевіряти, чи справді затверджена дія спрацювала. Мета не в тому, щоб оголосити людей універсально «в» або «поза» циклом. Мета — розмістити людське судження в тих точках, де воно приносить найбільшу цінність.

Справжня перевага — це те, що відбувається після дії

Можливо, найважливіша різниця проявляється після виконання дії. Традиційна автоматизація зазвичай запитує, чи успішно виконано робочий процес. Когнітивна система повинна ставити складніше питання: чи призвела дія до очікуваного результату і чого ми повинні навчитися з того, що сталося?

Це змінює цінність зворотного зв’язку. Успішне виправлення може зміцнити докази для подібної ситуації в майбутньому. Невдала гіпотеза повинна зменшити ймовірність повторення того ж мислення системою. Корекція оператора може покращити наступну рекомендацію, тоді як відкат може виявити, що впевненість перевищила те, що виправдовували доступні докази. З часом важливим активом є не просто більша бібліотека автоматизацій, а накопичені взаємозв’язки між ситуаціями, доказами, рішеннями, діями та результатами.

У такому світлі еволюція корпоративної автоматизації менш про заміну одного покоління технологій іншим, а про додавання нових можливостей до того, що вже працює. Скрипти кодували дії, runbooks фіксували процедури, оркестрація їх з’єднувала, а AIOps допомагав інтерпретувати все складніші операційні сигнали. Agentic AI додає здатність переслідувати цілі, мислити в контексті та на підставі доказів, використовувати пам’ять, обирати серед доступних можливостей, діяти в межах керованих обмежень і вчитися на результаті.

Кінцева мета не повинна бути необмеженою автономністю. Це має бути відповідальна автономність: системи, які можуть розпізнавати, коли діяти, коли досліджувати, коли запитувати дозвіл і коли зупинятись. Це перехід від автоматизації до когніції — не машини, які замінюють людські операції, а підприємства, які розробляють кращий спосіб сприймати, вирішувати, діяти та вчитися.