Чому керований AI є наступним рубіжем на робочому місці

Ми провели десятиліття, борючись із тіньовими ІТ. Неавторизовані додатки SaaS. Розбіжні таблиці. Неавторизовані облікові записи Dropbox. Лідери ІТ створили цілі програми з дотримання вимог, і більшість з них усе одно програли. Звіт Reco AI про стан тіньового AI за 2025 рік показав, що лише 47% додатків SaaS у середньому підприємстві офіційно авторизовані — а середнє підприємство зараз керує 490 з них.

Це була стара проблема. Нова проблема гірша.

Проблема тіньового AI відрізняється цього разу

Коли працівник реєструється на неавторизованому інструменті управління проєктами, шкода обмежена. Задачі команди знаходяться не в тому місці. Можливо, деякі дані витекають. Тип витоку даних досить передбачуваний.

AI відрізняється. Працівники зараз використовують інструменти AI для написання повідомлень клієнтам, генерації фінансових звітів, підсумовування конфіденційних зустрічей та створення автоматизованих робочих процесів, часто без повідомлення когось іншого. Індекс тенденцій роботи Microsoft за 2024 рік показав, що 78% користувачів AI привносять свої власні інструменти AI на роботу. Не тому, що вони намагаються бути складними чи зловмисними, а тому, що інструменти справді корисні, і вони відчувають тиск виконання роботи краще. Однак їхні організації надто повільні у створенні процесів, процедур та інструментів.

Вихідні дані тут є проблемою. Коли інструмент AI створює чернетку контракту клієнта, підсумовує юридичний дзвінок або генерує квартальний звіт ради директорів, ризик не лише в тому, що “ми не знаємо, який інструмент вони використали”. Це те, що дані практики, точність та процес прийняття рішень, закладені в цих вихідних даних, повністю невидимі для організації. Ніхто не переглянув запит. Ніхто не підтвердив результат. Ніхто навіть не знає, що це відбулося. І оскільки AI здається такою впевненою, більшість користувачів не буде перевіряти джерела та сліпо прийматиме результати.

Аналіз KPMG тіньового AI за 2025 рік показав, що 44% працівників, які використовують AI на роботі, робили це способами, які суперечать політиці та керівним принципам їхньої компанії. Це не периферійна поведінка. Це майже половина робочої сили.

Чому автономні агенти роблять це складніше (і краще)

Ось де розмова стає цікавішою. Ми не просто говоримо про працівників, які вставляють текст у ChatGPT. Ми вступаємо в епоху агентів AI — автономних систем, які можуть працювати безперервно, виконувати багатоступінчаті завдання, підключатися до корпоративних інструментів та приймати рішення без людини в циклі для кожного рішення.

Звіт Deloitte про тенденції технологій за 2025 рік описує це як перехід до “кремнієвої робочої сили” та зазначає, що багато ранніх реалізацій агентських AI терплять невдачу саме тому, що організації намагаються автоматизувати існуючі процеси, призначені для людей, а не переосмислювати, як робота повинна протікати.

Це роздоріжжя. Автономний AI може піти двома шляхами:

Шлях перший: ще більше тіньових ІТ, але гірше. Працівники запускають агентів за допомогою особистих облікових записів, які працюють на корпоративних ІТ, підключаються до корпоративних інструментів через особисті ключі API, генерують вихідні дані, які ніхто інший в команді не може бачити, перевірити чи відтворити. Агент виконує щоденний звіт. Звіт неправильний. Ніхто не помічає цього протягом тижнів, оскільки ніхто інший навіть не знав про його існування. Це не гіпотетично. Це відбувається зараз в організаціях, які розглядають прийняття AI як індивідуальну продуктивну гру.

Шлях другий: керований автономний режим. Той самий агент виконує той самий щоденний звіт — але всередині середовища, де команда може бачити, що він робить, які дані він торкається, хто його налаштував, та що він виробив. Агент спільний, а не ізольований. Його вихідні дані видимі. Його дозволи обмежені. І коли щось пішло не так, є слід.

Різниця між цими шляхами не полягає в технології. Це середовище.

Як виглядає керований AI на практиці

Керування — це одне з тих слів, яке викликає у будівельників озноб. Воно зазвичай означає “повільно”. Більше затверджень. Більше процесів. Більше тертя між людьми, які виконують роботу, та людьми, які керують ризиком.

Але керований AI не має працювати саме так. Найкращі реалізації, які я бачив, мають кілька характеристик:

Відкритість за замовчуванням. Кожен вихідний результат AI — кожен звіт, кожен сигнал, кожен чернетка — видимий для команди, а не похований в особистій історії чату. Це не про спостереження. Це про спільний контекст. Коли агент створює щотижневий конкурентний аналіз, вся команда повинна бути в змозі бачити його, ставити питання та будувати на ньому.

Ограничені дозволи, а не загальний доступ. Агент, який контролює ваші журнали помилок, не потребує доступу до вашої CRM. Агент, який створює соціальний контент, не потребує доступу до ваших фінансових даних. Принцип мінімальних привілеїв не новий. Це просто рідко застосовується до систем AI — і повинно бути.

Сліди аудиту, які насправді існують. Плейбук McKinsey про безпеку агентського AI підкреслює, що автономні агенти представляють “масив нових та складних ризиків і уразливостей, які вимагають уваги та дії зараз”. Одним з найбільш базових є: якщо ви не можете відстежувати, що зробив агент, які дані він отримав доступу та які рішення він прийняв, ви не можете керувати ним. Крапка.

Контроль на рівні команди, а не лише на рівні ІТ. Це частина, яку більшість кадрових структур керування неправильно розуміють. Вони централізують весь контроль AI в ІТ або безпеці, що створює саме瓶нець, який сприяє тіньовому AI. Організації, які роблять це правильно, передають контроль на рівень команди — дозволяють менеджерам та керівникам команди конфігурувати, обмежувати та контролювати агентів, які їхні команди використовують, в рамках обмежень, встановлених ІТ, але не мають їх мікрокерувати.

Де організації роблять все правильно

Компанії, які розгортають агентів AI добре, не ті, у яких є найбільш складні моделі. Це ті, у яких є найчіткіші робочі межі.

Я бачу найкращі результати в трьох областях:

Звітність та моніторинг. Агенти, які виконують заплановані звіти — щоденні зустрічі, тижневі підсумки метрик, підсумки журналів помилок — і доставляють їх безпосередньо в канали команди. Цінність тут не лише в автоматизації. Це стабільність. Звіт виконується кожної ранку, незалежно від того, чи хтось пам’ятає отримувати дані чи ні. І оскільки це видно команді, помилки виявляються швидше.

Потоки контенту та комунікацій. Створення чернеток, а не публікації. Агенти, які створюють перші чернетки внутрішніх оновлень, підсумовування зустрічей або зовнішнього контенту — а потім видають їх для перегляду людиною. Керування тут має значення, оскільки планка якості відрізняється, коли вихідні дані йдуть клієнту, а не внутрішньому каналу Slack.

Аналіз та сигналізація. Агенти, які контролюють панелі, сигналізують про аномалії та видають сигнали, коли метрики виходять за очікувані межі. Це замінює проблему “хтось повинен дивитися на це”, яка турбує кожну команду, яка колись втрачала вихідні через непомічену проблему виробництва.

Що більшість організацій все ще робить неправильно

Найбільша помилка полягає в тому, що керування AI розглядається як проблема політики, а не інфраструктури.

Ви можете написати всі політики прийнятного використання, які хочете. Якщо ваші працівники не мають санкціонованого, легкого в користуванні середовища для розгортання AI, яке справді працює для їхніх щоденних потреб, вони обійдуть вашу політику. Це не проблема людей. Це проблема дизайну.

Аналіз IDC тіньового AI робить цю точку явно: продуктивність тіньового AI “душить прийняття AI в підприємстві” тому, що організації застряли між бажанням вигод і страхом ризиків. Результатом є бездіяльність — яке є найгіршим можливим результатом, оскільки воно гарантує неконтрольоване прийняття.

Друга помилка полягає в тому, що керування та швидкість розглядаються як протилежності. Вони не є. Найкраще керовані середовища AI також є найбільш швидкими — оскільки команди не витрачають час на повторення роботи, яка вже існує, налагодження агентів, яких вони не бачать, або перебудову робочих процесів, які зламалися, оскільки хтось покинув компанію, а його особистий обліковий запис AI пішов з ним.

Фронтір — це середовище, а не модель

Увага галузі зосереджена на можливостях моделі. Більші вікна контексту. Краще розуміння. Багатомодальні входи. Це має значення. Але для більшості команд, які намагаються виконувати роботу,瓶нець не в моделі. Це середовище, в якому модель працює.

Чи може команда бачити, що відбувається? Чи можуть вони контролювати, до чого він має доступ? Чи можуть вони спільно використовувати те, що він виробляє? Чи можуть вони довіряти, що він працює з правильними даними та правильними обмеженнями?

Це питання інфраструктури, а не питання моделі. І саме вони відокремлять організації, які отримують справжню, тривалу цінність від AI, від тих, які просто додають ще один шар тіньових ІТ.

Фронтір не полягає в створенні розумніших моделей. Це створення середовищ, в яких розумні моделі можуть насправді працювати довірливо.