Ваш агент штучної інтелекту знає все — і нічого не розуміє

“Ми повинні приєднатися до моїх батьків у їхній поїздці до Ірландії” — ця, здавалося б, невинна заява надіслала мені мурашки по спині.

Моя дружина і я багато подорожуємо. Ми знаємо, що нам подобається. Батьки моєї дружини, з іншого боку, рідко подорожують далі кількох сотень миль від свого будинку і виїхали з країни разом всього раз — на нашу весілля.

Ще до того ж, ця поїздка була різдвяним подарунком від мого тестя моєї тещі, щоб вона могла відвідати свою сім’ю, можливо, востаннє.

Я міг бачити, як ця поїздка розгортається в одному слові: катастрофа. Як у світі ми зможемо синтезувати дико різні досвіди та очікування, щоб ми могли мати чудову поїздку — або хоча б не ненавидіти один одного в кінці її?

Як будь-який самоповажний технарій, я звернувся до технологій — конкретно до штучної інтелекту.

Але того, чого я не очікував, це що моя маленька експериментальна робота з кодуванням настрою штучної інтелектуальної програми планування сімейної поїздки навчила мене майже всього, що мені потрібно знати про застосування штучної інтелекту в корпоративному ІТ.

Чим більше ви годуєте штучну інтелекту, тим дурнішою вона стає

Більшість корпоративних розгортань штучної інтелекту слідують передбачуваному шаблону. Організації починають з надання агенту набору інструкцій і підключення його до джерела інформації, чи то це RAG (Retrieval-Augmented Generation).framework, існуюча база знань або навіть MCP сервер. Далі, накладіть шар LLM і дайте йому зробити свою справу.

Проблема полягає в тому, що LLM в своїй основі є дурними. Вони не знають, як пріоритезувати всю інформацію, яка в них є, тому вони схильні ставитися до кожного шматка контексту однаково. Людині потрібно додати шар кураторства, навчаючи модель того, що важливо, а що ні. Без кураторства ви отримуєте штучну інтелекту, яка знає все і нічого не розуміє.

Три типи пам’яті, які мають значення

Ефективне корпоративне кураторство штучної інтелекту означає отримання найбільшої вигоди від трьох конкретних типів пам’яті.

Перший — інституційна пам’ять, яка може здаватися досить базовою на початку. Коли хтось говорить “фінансові послуги”, агент знає, що вони мають на увазі відділ фінансових послуг компанії, а не всю галузь. Це стає постійним організаційним знанням, наповненим визначеннями, перевагами і конвенціями, які рідко змінюються. Коли це розширюється в інституційне знання навколо стратегічних пріоритетів, ключових ініціатив і організаційних динамік, воно стає багатим джерелом інституційного контексту.

Далі йде історія дій, яка зосереджується на значимих рішеннях, завданнях і подіях. Коли подається тикет служби підтримки або розгортається система, агент розпізнає цю конкретну дію і записує її в історію дій. Це стає історичним записом, який шве організаційний контекст.

Нарешті, є короткочасний контекст розмови. Подумайте про це як момент-до-моменту взаємодію з агентом. Це корисно в моменті, але схильне втрачати свою актуальність швидко.

Взяті разом, ці три типи пам’яті створюють систему ваг, якої бракує загальним моделям штучної інтелекту. Тепер, коли хтось говорить агенту про бізнес, вони класифікують і пріоритезують всю цю пам’ять і кураторують інформацію, яка важлива. Це утворює ядро того, що штучна інтелекту повинна доставляти: не тільки дані домену, а й судження домену.

Як виглядає кураторська пам’ять у масштабі

Але досить про框架, як це виглядає на практиці? Ось що ми виявили, будуючи цих агентів самих себе.

Одна з поширених ІТ-сценаріїв — надсилання тикета служби підтримки агенту служби підтримки. Скажімо, ваш Outlook не працює, тому ви вводите опис проблеми і чекаєте, поки агент перегляне і запропонує рішення.

Але з кураторською пам’яттю на вашій стороні, кращий процес міг би полягати в тому, щоб зробити знімок екрана, який показує помилку Outlook, і завантажити його до агента. Тепер агент (1) використовує інституційну пам’ять, щоб зрозуміти вашу робочу середовище; (2) перевіряє історію дій на пов’язані інциденти; і (3) застосовує контекстуальне судження для конкретного рішення, а не просто загальної відповіді.

Результатом є інтелектуальний агент, який не повинен гадати відповідь, спираючись на знімок екрана. Тепер він фактично допитує, дивиться на всю інформацію, яка зараз виконується, і доставляє більш корисну відповідь. Агент навіть міг би розширитися в мережу або рійний ефект, дивлячись на інших користувачів системи, щоб побачити, чи проблема з Outlook тільки в вас або це проблема всього підприємства.

Контекстуалізація історії або пам’яті — це те, що робить різницю. Якщо ви не кураторствуете свою пам’ять ефективно, ви відстанете від тих, хто це робить. Це важливо мати архітектуру, яка знає, як керувати цими даними з часом, і розуміє, що зберігати, що демонструвати, а що відпускати.

Повернення до поїздки

Так, як змінився мій погляд на штучну інтелекту в корпоративному ІТ після створення програми планування поїздки, заснованої на штучній інтелекту?

Що я побудував, було додатком, яке діяло як наш особистий консьєрж поїздки і почало з “інтерв’ю” з кожним учасником. Ми всі пояснили, що було важливо для нас на поїздці: що було обов’язковим і що ми могли пропустити. Що більш важно, воно запитало нас про наш “чому” — чому щось було важливо для нас, що це означало для нас.

Використовуючи цю інформацію, воно зробило дві речі. По-перше, воно кураторило план поїздки, який був збалансований, щоб доставити щось для кожного — ми могли бачити свої бажання і переваги, представлені в плані, який воно виробило.

Але, звичайно, цей перший маршрут був тільки чернеткою. Все ще були багато питань, на які потрібно було відповісти.

І саме тоді відбулося справжнє диво. Ми запитали агента про готель або атракціон або проїзд, і відповіді, які воно дав нам, були збагачені контекстом нашої унікальної ситуації: “Це буде довгий проїзд для дітей, але мій тесть буде любити замок (і унікальну кав’ярню поруч) — і це могла б бути просто те місце, де моя дружина могла б отримати масаж”.

Наповнена цим багатим розумінням того, що було важливо для нас, воно було здатне допомогти нам спланувати і вдосконалити нашу поїздку таким чином, який, я думаю, не був би можливим жодним іншим способом.

І саме в одному з тих перших моментів я зрозумів, що нам потрібно побудувати для наших корпоративних клієнтів: інтелектуальні системи, які були настільки наповнені організаційним, транзакційним і особистим контекстом, що кожна відповідь і кожна взаємодія були б як відбиток пальця: повністю унікальними для цього моменту і взаємодії, щоб доставляти тип цінності, який просто не міг відбутися жодним іншим способом.