Ваш агент штучної інтелекту знає все — і нічого не розуміє

«Ми повинні приєднатися до батьків моєї дружини в їхній поїздці до Ірландії» — це одна, на перший погляд, безобідна заява, надіслала мені мороз по спині.

Моя дружина і я багато подорожуємо. Ми знаємо, що нам подобається. Батьки моєї дружини, з іншого боку, рідко подорожують далі ніж кілька сотень миль від свого дому і виїхали з країни разом всього лише один раз — на нашу весілля.

Ще більше, ця поїздка була різдвяним подарунком від мого тестя моєї тещі, щоб вона могла відвідати свою сім’ю, можливо, востаннє.

Я міг бачити, як ця поїздка розгортається в одному слові: катастрофа. Як у світі ми змогли б синтезувати дико різні досвіди та очікування, щоб ми могли мати чудову поїздку — або хоча б не ненавидіти один одного в кінці її?

Як будь-який самоповажний технарій, я вирішив скористатися технологіями —具体но штучною інтелекту.

Але того, чого я не очікував, було те, що моя маленька експериментальна спроба створити застосунок для планування сімейної поїздки з використанням штучного інтелекту навчила мене майже всього, що мені потрібно знати про застосування штучного інтелекту в корпоративній інформатиці.

Чим більше ви годуєте штучний інтелект, тим дурнішим він стає

Більшість корпоративних розгортань штучного інтелекту слідують передбачуваному шаблону. Організації починають з надання агенту набору інструкцій і підключення його до джерела інформації, незалежно від того, чи це RAG (Retrieval-Augmented Generation).framework, існуюча база знань або навіть MCP сервер. Далі накладіть LLM і дайте йому зробити свою справу.

Проблема полягає в тому, що LLM в своїй основі є дурними. Вони не знають, як пріоритезувати всю інформацію, яку вони мають у своєму розпорядженні, тому вони схильні ставитися до кожного фрагмента контексту однаково. Людина повинна додати шар кураторства, вчучи модель того, що важливо, а що ні. Без кураторства ви отримуєте штучний інтелект, який знає все і нічого не розуміє.

Три типи пам’яті, які мають значення

Ефективне корпоративне кураторство штучного інтелекту означає отримання максимальної вигоди від трьох конкретних типів пам’яті.

Перший — інституційна пам’ять, яка на перший погляд може здатися досить базовою. Коли хтось говорить «фінансові послуги», агент знає, що вони мають на увазі фінансовий відділ компанії, а не всю галузь. Це стає постійним організаційним знанням, наповненим визначеннями, перевагами та конвенціями, які рідко змінюються. Коли це розширюється в інституційне знання навколо стратегічних пріоритетів, ключових ініціатив та організаційних динамік, воно стає багатим джерелом інституційного контексту.

Далі йде історія дій, яка фокусується на значимих рішеннях, завданнях та подіях. Коли подається тикет на обслуговування або розгортається система, агент розпізнає цю конкретну дію та реєструє її в історії дій. Це стає історичним записом, який поєднує організаційний контекст.

Нарешті, є короткостроковий контекст розмови. Подумайте про це як момент-до-моменту взаємодію з агентом. Це корисно в моменті, але швидко втрачає актуальність.

Взяті разом, ці три типи пам’яті створюють систему ваг, якої бракує загальним моделям штучного інтелекту. Тепер, коли хтось говорить агенту про бізнес, вони класифікують і пріоритезують всю цю пам’ять та курирують інформацію, яка важлива. Це утворює ядро того, що штучний інтелект повинен доставляти: не тільки дані області, а й судження області.

Як виглядає кураторська пам’ять у масштабі

Але досить про теорію, як це виглядає на практиці? Ось що ми виявили під час будівництва цих агентів.

Одна зі звичайних ІТ-сценаріїв — надсилання тикету на обслуговування до агента технічної підтримки. Скажімо, ваш Outlook не працює, тому ви вводите опис проблеми та чекаєте, поки агент розгляне та запропонує рішення.

Але з кураторською пам’яттю на вашій стороні, кращий процес міг би полягати у тому, щоб зробити знімок екрана, який показує помилку Outlook, та завантажити його до агента. Тепер агент (1) використовує інституційну пам’ять, щоб зрозуміти вашу робочу середу; (2) перевіряє історію дій на пов’язані інциденти; і (3) застосовує контекстне судження для конкретного рішення, а не тільки загального答案у.

Результатом є інтелектуальний агент, який не мусить здогадуватися відповідь, спираючись на знімок екрана. Тепер він фактично допитує, розглядає всю інформацію, яка зараз виконується, та надає більш корисну відповідь. Агент навіть міг би розширитися у мережевий або рійовий ефект, розглядаючи інших користувачів у системі, щоб побачити, чи проблема з Outlook тільки у вас чи це проблема всього підприємства.

Контекстуалізація історії або пам’яті є тим, що робить різницю. Якщо ви не курируєте свою пам’ять ефективно, ви відстанете від тих, хто це робить. Для цього необхідно мати архітектуру, яка знає, як керувати цими даними з часом та розуміє, що зберігати, що показувати, а що відпускати.

Повернення до поїздки

Тож, як змінився мій погляд на штучний інтелект у корпоративній інформатиці після створення застосунку для планування поїздки з використанням штучного інтелекту?

Що я створив, було застосунком, який виступав у ролі нашого особистого консьєржа під час поїздки та починав з «інтерв’ю» кожного учасника. Ми всі пояснювали, що було важливо для нас під час поїздки: що було обов’язково зробити, а що ми могли пропустити. Що ще важливіше, він запитував нас про наш «чому» — чому щось було важливо для нас, що це означало для нас.

Використовуючи цю інформацію, він зробив дві речі. По-перше, він створив план поїздки, який був збалансований, щоб задовольнити всіх — ми могли бачити свої бажання та переваги, представлені в плані, який він створив.

Але, звичайно, перший варіант маршруту був тільки чернеткою. Були ще багато питань, на які потрібно було відповісти.

І саме тоді відбулося справжнє чудо. Ми запитали агента про готель чи пам’ятку чи проїзд, і відповіді, які він дав нам, були збагачені контекстом нашої унікальної ситуації: «Це буде довга поїздка для дітей, але мій тесть полюбить замок (і унікальну кав’ярню поруч) — і це могла б бути саме та точка, де моя дружина отримає масаж».

Наповнений цим багатим розумінням того, що було важливо для нас, він зміг допомогти нам спланувати та вдосконалити нашу поїздку таким чином, який, на мою думку, не був би можливим жодним іншим способом.

І саме в одному з тих перших моментів я зрозумів, що нам потрібно було створити для наших клієнтів підприємства: інтелектуальні системи, які були настільки наповнені організаційним, транзакційним та особистим контекстом, що кожна відповідь та кожна взаємодія були б наче відбиток пальця: абсолютно унікальні для того моменту та взаємодії, щоб доставляти певний тип цінності, який не міг би статися жодним іншим способом.