Лідери думок

Перш ніж масштабувати ШІ-агентів, з’ясуйте, чого вони не знають

Dror Nadler
Додайте Unite.AI до бажаних джерел у Google
Ключові моментиУпевнені відповіді не спрацьовують, коли агенти опускають контекст, як-от застарілі…
Показати більше
  • Упевнені відповіді не спрацьовують, коли агенти опускають контекст, як-от застарілі дати подання чи відмінності фіскального календаря.
  • Майже 6 із 10 підприємств простежили впевнену, але хибну відповідь ШІ до відсутнього або неповного бізнес-контексту.
  • Людський контроль має масштабуватися відповідно до ставок, адже правильні дані, поширені неправильно, все одно можуть порушувати регуляції.

Уявіть таку ситуацію: фінансовий директор готується до зустрічі з великим інституційним інвестором. Щоб допомогти з підготовкою, команда зі зв’язків з інвесторами запитує в інструмента ШІ довідкову інформацію: дату останньої зустрічі з цією компанією, озвучені пріоритети, кількість акцій у її власності тощо.

Інструмент упевнено стверджує, що інвестор володіє 2,5 мільйона акцій. Ніхто не сумнівається в цій цифрі, і фінансовий директор продовжує повним ходом готуватися до цієї важливої розмови.

Але є один нюанс: ШІ взяв цю цифру зі звітності за формою 13F, у якій зазначаються активи станом на кінець попереднього кварталу. На момент подання ця інформація була точною… але відтоді минуло вже кілька місяців. А тим часом інвестор непомітно продав 2 мільйони акцій, суттєво скоротивши свою частку. Порядок денний зустрічі (а можливо, і сама зустріч!) уже не здається актуальним.

Що пішло не так? У цьому випадку ШІ не галюцинував і не вигадав цифру. Він знайшов достовірну інформацію, але не уточнив її і не пояснив її обмежень.

У цьому випадку наслідком може стати незручна розмова або втрачена можливість, але в інших ситуаціях така ж категорична відповідь, позбавлена важливого контексту, може призвести до значно серйозніших ризиків.

Кращі моделі — не обов’язково вирішення проблеми

Базові моделі стають дедалі кращими. То чому ж здається, що впевнені, але неправильні відповіді трапляються все частіше — і це непокоїть компанії в різних галузях?

Насамперед генеративний ШІ (GenAI) став повсюдним. Згідно зі звітом McKinsey «Стан ШІ у 2026 році», майже 9 із 10 бізнес-фахівців кажуть, що їхні організації регулярно використовують ШІ принаймні в одній бізнес-функції.

Організації виходять за межі експериментів і дедалі частіше покладаються на ШІ у повсякденних робочих завданнях і рішеннях — та водночас стикаються з обмеженнями знань і розуміння таких інструментів.

Нещодавнє галузеве опитування виявляє поширену першопричину проблеми: лише за останні шість місяців майже 6 із 10 компаній (57%) пов’язали впевнену, але неправильну відповідь ШІ-агента з відсутнім або неповним контекстом бізнесу.

З огляду на всі дані, доступні ШІ, це може здатися несподіваним. Але важливо розрізняти: контекст — це не те саме, що дані.

Що таке контекст — і чим він не є

Контекст може охоплювати інституційну пам’ять, винятки з правил, взаємини, процеси й очікування щодо того, як виконується робота, — нюанси, які часто унікальні для кожної компанії.

Працюючи з командами зі зв’язків з інвесторами, я бачу, наскільки важливими можуть бути ці відмінності. Ось кілька прикладів, які на перший погляд здаються простими:

  • Фінансові календарі: Перший квартал фінансового року однієї компанії може збігатися з календарним роком, а в іншої — починатися у вересні. Без цього контексту ШІ-агент може порівняти результати за неправильні звітні періоди.
  • Фінансові показники: Організація може звітувати як про прибуток на акцію за GAAP, так і про прибуток на акцію за не-GAAP. Агент, який не розуміє, який показник доречно наводити (і коли), може неправильно представити результати діяльності компанії.
  • Наратив компанії: Повідомлення компанії змінюються з часом, відображаючи свідомі рішення щодо того, на чому наголошувати, а що опускати. Не розуміючи історії та причин цих рішень, ШІ-агент може створити матеріал, який фактично підважить ретельно вибудуваний наратив.

Тож не дивно, що та сама базова модель може давати дуже різні результати в різних компаніях — залежно від доступного їй контексту та спеціалізованих знань.

Спеціально створений для конкретної галузі (або «вертикальний») ШІ може допомогти подолати частину цих прогалин, враховуючи спеціалізовані знання, робочі процеси та нюанси певного сектору. Однак навіть найсучасніша технологія не здатна охопити все, що знає організація, тож важливу роль відіграють і люди.

Чого ШІ не знає про ваш бізнес

Але люди не залишаються на своїх посадах назавжди. Подумайте, що відбувається, коли досвідчений фахівець зі зв’язків з інвесторами залишає компанію, пропрацювавши там, скажімо, п’ять років. Імовірно, весь цей час він визначав потенційних інвесторів і працював над залученням їхньої уваги, аналізував активність акціонерів, розвивав взаємини, готувався до звітних періодів і допомагав готувати керівників до них… та робив ще багато іншого.

У компанії залишаються сценарії виступів про фінансові результати, презентації та інші файли. Але як щодо інституційної пам’яті, що стоїть за ними? Значна її частина теж іде разом із працівником, особливо якщо врахувати, що майже 8 із 10 фахівців зі зв’язків з інвесторами (78%) не мають визначеного наступника на своїй посаді.

Саме тому організаціям потрібно докласти зусиль, щоб зберегти знання й розуміння у формі, придатній для використання системами ШІ. Часто недостатньо просто під’єднати ШІ-агента до спільного диска.

Для компаній у всіх галузях важливо мати змогу систематично фіксувати ключові знання та робочі процеси — наприклад, обґрунтування важливих рішень, історію взаємин та іншу критично важливу для діяльності інформацію, яка так і не потрапила до офіційних документів.

А для створення такої бази знань потрібні люди: і щоб записувати інформацію, і щоб застосовувати власне судження під час роботи з нею. ШІ може допомогти впорядкувати знання, але саме працівники надають важливий контекст, який технології часто не враховують.

У ситуаціях із високими ставками брак контексту може дорого коштувати

Ми вже обговорювали, що відбувається, коли ШІ дає неправильну відповідь. Але іноді ШІ-агент знаходить правильну інформацію — точну, актуальну й доречну — і все ж створює проблеми, поширюючи її за неналежних обставин.

У галузях із жорстким регулюванням такі помилки особливо дорого коштують.

Наприклад, у сфері взаємодії з інвесторами розголошення аналітику чи інвестору істотної непублічної інформації (MNPI), як-от неопублікованих фінансових результатів, може порушувати правило Комісії з цінних паперів і бірж США (SEC) про справедливе розкриття інформації (Reg FD), що потенційно загрожує фінансовими санкціями та шкодою для репутації.

Інші галузі, зокрема охорона здоров’я, фінансові та юридичні послуги, стикаються з подібними регуляторними ризиками. Це підкреслює потребу в запобіжних механізмах, коли ШІ-агенти мають доступ до конфіденційної інформації.

Це також пояснює, чому люди залишаються незамінними: вони відіграють ключову роль у перевірці та затвердженні повідомлень. Компанії можуть розглянути можливість визначати рівень людської перевірки відповідно до ставок, передбачивши різний ступінь автономності для різних типів робочих процесів із використанням ШІ.

Три запитання, які варто поставити перед масштабуванням використання ШІ-агентів

Напевно, кожен із нас у роботі чи повсякденному житті опинявся в ситуаціях, коли не знав, чого саме не знає. Іноді наслідки не мають великого значення, а іноді вони серйозніші.

Сьогодні ШІ має доступ до величезних масивів даних і знає набагато більше… але йому все одно потрібно «сигналізувати», коли є прогалини. Тож у міру того, як компанії залучають ШІ до виконання важливіших стратегічних завдань і робочих процесів, перед масштабуванням варто поставити такі запитання:

  • Чи може наш агент пояснити, звідки взялися його відповіді — і коли цю інформацію востаннє оновлювали? Чи може він надати ці відомості без відповідного запиту?
  • Чи має агент необхідний контекст про бізнес, щоб правильно тлумачити запити й відповідати на них? Чи окреслить він свої обмеження?
  • Чи знаємо ми, коли до роботи має долучитися людина для перевірки та затвердження? За яких обставин це відбуватиметься і як запускатиметься перевірка?

Відмовлятися від ШІ — не вихід

Хочу сказати чітко: я оптимістично налаштований щодо ШІ. Я використовую його щодня у своїй роботі, бачу його теперішні й майбутні переваги та вважаю, що в багатьох аспектах ми лише починаємо відкривати потенціал ШІ. Не сумніваюся, що компанії, які уникають ШІ, а також ті, що не можуть впровадити його системно й ефективно, справді ризикують відстати.

Але впровадження ШІ не означає, що слід надати універсальній моделі доступ до корпоративних даних і дозволити їй діяти як заманеться.

Наразі, наскільки я можу судити, повністю автономний ШІ не підходить для виконання кожного бізнес-завдання чи ухвалення кожного рішення. Організаціям потрібно розуміти, де ШІ може діяти самостійно, де йому потрібен додатковий контекст, а де людське судження є обов’язковим.

Тож перш ніж запитувати, що знає ШІ-агент, запитайте, чого він не знає. Відповіді допоможуть визначити, як його розгортати, які завдання йому можна довірити та як створити умови для його успішної роботи.

Dror Nadler — директор із продуктів у Q4 Inc., де він керує продуктовою стратегією та інноваціями, допомагаючи командам зі зв’язків з інвесторами ефективніше використовувати ШІ, дані й технології. Він має понад 25 років досвіду в галузях корпоративних технологій, SaaS і фінансових послуг, а раніше обіймав керівні посади в Intralinks, Cellrox, Rapid7 і EMC. Упродовж своєї кар’єри Dror зосереджувався на розробленні й масштабуванні технологічних продуктів, упровадженні інновацій і прискоренні зростання бізнесу. Він має ступінь Executive MBA від Boston University, ступінь магістра інформаційних технологій від Harvard University і диплом юриста від Reichman University.