ШІ-агенти, копілоти й робочі процеси: у чому різниця?

ШІ-копілоти допомагають людині, ШІ-робочі процеси виконуються за заздалегідь визначеною схемою, а ШІ-агенти самі вирішують, як досягти мети. Усі три типи систем можуть використовувати ті самі базові моделі й інструменти, але по-різному розподіляють повноваження щодо ухвалення рішень.

Ці терміни часто вживають нечітко, що створює нереалістичні очікування та послаблює управління. Продукт, названий «агентом», може бути робочим процесом із чат-інтерфейсом; копілот може виконувати дії; а робочий процес може містити агентний етап. Важливо не те, як називається система, а хто обирає шлях, хто схвалює дію та наскільки передбачуваною має бути система.

Коротко

Що таке ШІ-копілот?

Копілот допомагає людині виконати завдання, але людина залишається головною особою, яка ухвалює рішення. Він може підсумувати документ, написати чернетку коду, запропонувати відповідь, пояснити помилку або порадити наступний крок. Користувач перевіряє результат і вирішує, чи скористатися ним.

Визначальна риса копілота — взаємодія, а не конкретний інтерфейс. Він може звертатися до інструментів лише для читання або підготувати пропозицію щодо дії, але зазвичай залишає людину безпосередньо залученою до ухвалення рішення та виконання дії.

Копілоти добре працюють там, де важливий людський контекст, помилки дорого коштують або бажаний результат залежить від суб’єктивної оцінки. Вони зменшують обсяг зусиль, не вимагаючи від системи самостійно виконати все завдання.

Що таке робочий процес зі штучним інтелектом?

Робочий процес зі штучним інтелектом — це послідовність кроків, маршрутизацію яких здебільшого визначено заздалегідь. На деяких етапах може використовуватися модель — наприклад, щоб класифікувати вхідний запит, витягти поля або написати підсумок, — але перехід процесу від одного етапу до іншого визначає код.

У робочому процесі служби підтримки клієнтів може бути передбачено класифікацію звернення, отримання даних облікового запису, створення чернетки, перевірку відповідності політикам і передавання результату до черги на перевірку. Модель може створювати різний за змістом текст, тоді як загальний порядок дій залишається передбачуваним.

У посібнику Anthropic із розроблення ефективних агентів використано таке розрізнення: робочі процеси координують роботу мовних моделей та інструментів за допомогою заздалегідь визначених шляхів виконання коду, тоді як агенти динамічно керують власним процесом і використанням інструментів.

Що таке ШІ-агент?

Агент отримує мету й має свободу вибору кроків, необхідних для її досягнення. Він може обирати інструменти, складати або переглядати план, реагувати на спостереження, виправляти деякі помилки й продовжувати роботу, доки не буде виконано умову зупинки.

Наприклад, дослідницький агент може вирішувати, у яких джерелах шукати інформацію, виявляти прогалини, змінювати пошукові запити, зіставляти докази й готувати звіт із посиланнями на джерела. Розробник не визначає заздалегідь кожен пошук і точну кількість кроків.

Агенти корисні в мінливому середовищі, де неможливо повністю передбачити маршрут. Та сама гнучкість робить їх менш детермінованими, ніж робочі процеси.

Межа — це спектр

Робочий процес може містити агентний етап, а агент — викликати детермінований робочий процес як інструмент. Наприклад, агент може визначити, що клієнт має право на розгляд повернення коштів, тоді як фіксований робочий процес перевіряє замовлення, розраховує дозволену суму та передає остаточне рішення уповноваженому працівникові. Поєднання цих підходів часто дає змогу створювати кращі системи, ніж вибір одного визначення для всього продукту.

У реальних продуктах ці підходи поєднуються. Копілот може містити агента, який виконує обмежене підзавдання. Робочий процес може передавати нестандартний випадок агентові. Агент може покладатися на детерміновані робочі процеси під час виконання чутливих операцій.

Точніше описувати рівень і межі автономності:

• Рекомендація: система пропонує вміст або рішення, а дію виконує людина.
• Чернетка дії: система готує зміни, а людина їх затверджує.
• Обмежене виконання: система діє автоматично в межах вузької сфери, де дії можна скасувати.
• Адаптивне виконання: система обирає кроки й інструменти відповідно до політик.
• Делеговане виконання: система виконує тривалу роботу й передає виняткові випадки на розгляд.

Різні етапи одного продукту можуть відповідати різним рівням.

Чим ці системи відрізняються від традиційної автоматизації

Традиційна автоматизація працює за чітко визначеними правилами й детермінованою логікою. Роботизована автоматизація процесів може відтворювати натискання й введення даних у відомих інтерфейсах. Робочий процес може поєднувати таку автоматизацію з етапами, що спираються на моделі. Агент самостійно обирає маршрут.

Використання моделей саме собою не робить систему агентною. Запланований процес, який надсилає кожен документ на узагальнення за фіксованим запитом, усе одно залишається робочим процесом.

Який підхід обрати?

Далі оцініть ризики. Дослідницький агент із незначним потенційним впливом може виконувати багато кроків до перевірки, тоді як фінансовий або адміністративний агент має зупинятися на визначених етапах ухвалення рішень. Безпека залежить не від архітектурного визначення, а від дозволів, можливості скасувати кожну дію та нагляду за нею.

Оберіть копілот, якщо:

• користувач володіє важливим контекстом, який система не може повністю врахувати;
• якість суб’єктивна або потребує професійного судження;
• завдання виконується нечасто, має високі ставки або його складно оцінити автоматично;
• для впровадження потрібно допомогти людям зрозуміти результат і контролювати його.

Оберіть робочий процес, якщо:

• кроки й етапи ухвалення рішень відомі;
• послідовність, можливість аудиту та швидкість важливіші за гнучкість;
• бізнес-правила можна безпосередньо сформулювати й перевірити;
• процес обробляє великі обсяги даних, а винятків небагато.

Оберіть агента, якщо:

• мета чітка, але шлях до неї змінюється;
• система має збирати інформацію та реагувати на знайдене;
• вибір інструментів і перепланування роботи створюють відчутну цінність.
• успіх можна виміряти, а збої — локалізувати;
• додаткові витрати та затримки виправдані цінністю завдання.

Практичний приклад: реагування на ІТ-інцидент

Копілот підсумовує журнали подій, пропонує ймовірні причини та надає інженерові діагностичні команди.

Робочий процес діє за інструкцією: збирає відомі метрики, перезапускає службу за визначених умов, перевіряє її працездатність і створює заявку, якщо перевірка завершується невдало.

Агент досліджує незнайомий інцидент, вирішує, які дані телеметрії перевірити, формулює гіпотези, запускає дозволені діагностичні процедури, оновлює свій план і готує або виконує усунення проблеми в межах своїх повноважень.

Налагоджена система може використовувати всі три підходи: робочий процес обробляє типові сповіщення, агент досліджує виняткові випадки в ізольованому середовищі, а копілот допомагає інженерові схвалити остаточну зміну у виробничому середовищі.

Компроміси між вартістю та надійністю

Вартість зростає зі збільшенням кількості циклів взаємодії з моделлю, викликів інструментів, повторних спроб та оцінювачів. Надійність може як зростати, так і знижуватися: додаткові перевірки можуть виявити помилки, але кожен додатковий крок також збільшує ймовірність збою. Оцінюйте повний результат завдання за кількома запусками, а не виходьте з припущення, що більша автономність або більша кількість агентів автоматично підвищують ефективність.

Копілотам часто потрібно менше автономних кроків, але вони потребують уваги людини. Робочі процеси вимагають більше попереднього проєктування, зате ефективні у великому масштабі. Агенти можуть зменшити потребу в ручній координації складної роботи, проте кожен крок планування, виклик інструмента, повторна спроба та перевірка збільшують затримку й вартість.

Змінюється й надійність. Робочий процес можна перевірити модульними тестами на відомих гілках виконання. Під час повторних запусків агент може проходити різні траєкторії. Тому для оцінювання агентів потрібні репрезентативні завдання, кілька випробувань, аналіз траєкторій і чітко визначені оцінювачі, як описано в посібнику Anthropic із пояснення підходів до оцінювання агентів.

Управління має відповідати можливостям, а не брендингу

Організаціям слід скласти перелік того, що система фактично може робити: які дані вона може читати, які інструменти викликати, які рішення ухвалювати, чи спілкується вона із зовнішніми сторонами та які дії можна скасувати.

«Копілот», якому дозволено надсилати повідомлення або змінювати записи, потребує засобів контролю таких дій. «Агент», обмежений дослідницькою роботою в ізольованому середовищі, може становити менший операційний ризик. Назви — це маркетинг; визначальне значення мають повноваження.

Як читати схеми ШІ-агентів

Читайте схеми ШІ-агентів від пронумерованого входу до спостережуваного результату. Порівняння виокремлює межу, що відрізняє ШІ-агентів від найближчого спрощеного підходу, а схема керування показує, де слід перевірити повноваження або невизначеність, перш ніж настануть наслідки в реальному світі. Підписи залишаються звичайним текстом адаптивної вебсторінки, тому їх можна перекладати, переносити на новий рядок і компонувати інакше на екрані телефона.

У статті «ШІ-агенти, копілоти й робочі процеси: у чому різниця?» схема — це карта, а не гарантія. Реальна реалізація може поєднувати етапи, повторювати крок або передбачати межу, що вимагає схвалення людини. Важливо, чи може команда визначити ті самі функції в розгорнутій системі, призначити відповідального за кожну межу та перевірити переходи між ними. Якщо етап неможливо спостерігати або виміряти, збої на ньому буде важко діагностувати.

Що варто пам’ятати про ШІ-агентів, копілотів і робочі процеси

Копілоти, робочі процеси й агенти — це три способи розподілу роботи між людьми, кодом і моделями. З копілотом людина залишається за кермом. У робочому процесі маршрут визначає код. Агент має обмежену свободу вибору маршруту.

Зазвичай найкращий варіант — найменш автономна система, яка надійно забезпечує потрібну цінність. Використовуйте фіксований код для відомих кроків, судження моделі — за справжньої неоднозначності, а схвалення людини — коли цього вимагають можливі наслідки.