Ваш агент ИИ знает всё — и ничего не понимает

“Нам следует присоединиться к моим родителям в их поездке в Ирландию” — это, казалось бы, безобидное заявление, послало дрожь по моей спине.

Моя жена и я много путешествуем. Мы знаем, что нам нравится. Родители моей жены, с другой стороны, редко путешествуют дальше нескольких сотен миль от своего дома и выезжали из страны вместе всего один раз — на нашу свадьбу.

Чтобы все это увенчать, эта поездка была рождественским подарком от моего тестя моей теще, чтобы она могла посетить свою семью, может быть, в последний раз.

Я мог видеть, как эта поездка разворачивается в одном слове: катастрофа. Как мы можем синтезировать совершенно разные переживания и ожидания, чтобы иметь удивительную поездку — или, по крайней мере, не ненавидеть друг друга в конце ее?

Как любой уважающий себя технарь, я обратился к технологиям — конкретно к ИИ.

Но то, чего я не ожидал, — это то, что мой маленький эксперимент с кодированием настроений в приложении для планирования семейных поездок на основе ИИ научит меня几乎 всему, что мне нужно знать об применении ИИ в корпоративной ИТ.

Чем больше вы кормите ИИ, тем глупее он становится

Большинство корпоративных развертываний ИИ следуют предсказуемому шаблону. Организации начинают с того, что дают агенту набор инструкций и подключают его к источнику информации, будь то RAG (Retrieval-Augmented Generation).framework, существующая база знаний или даже MCP сервер. Далее, добавьте слой LLM и пусть он делает свое дело.

Проблема в том, что LLM в своей основе глупы. Они не знают, как расставлять приоритеты всей информации, которая у них есть в своем распоряжении, поэтому они склонны относиться ко всем контекстам одинаково. Человеку необходимо добавить слой кураторства, обучая модель тому, что важно, а что нет. Без кураторства вы получаете ИИ, который знает все и ничего не понимает.

Три типа памяти, которые имеют значение

Эффективное корпоративное кураторство ИИ означает максимальное использование трех конкретных типов памяти.

Первый — это институциональная память, которая может показаться довольно базовой на начальном этапе. Когда кто-то говорит «финансовые услуги», агент знает, что они имеют в виду отдел финансовых услуг компании, а не всю отрасль. Это становится постоянным организационным знанием, наполненным определениями, предпочтениями и конвенциями, которые не часто меняются. По мере того, как это распространяется на институциональные знания о стратегических приоритетах, ключевых инициативах и организационной динамике, оно становится богатым источником институционального контекста.

Далее идет история действий, которая фокусируется на значимых решениях, задачах и событиях. Когда подается тикет обслуживания или развертывается система, агент распознает это конкретное действие и записывает его в историю действий. Это становится историческим отчетом, который соединяет организационный контекст.

Наконец, есть краткосрочный контекст разговора. Подумайте об этом как о моментальной интеракции с агентом. Это полезно в данный момент, но склонно быстро терять актуальность.

Вместе эти три типа памяти создают систему взвешивания, которой не хватает в общих моделях ИИ. Теперь, когда кто-то говорит агенту о бизнесе, они классифицируют и расставляют приоритеты всей этой памяти и курируют информацию, которая важна. Это образует ядро того, что ИИ должен доставить: не только данные домена, но и суждение домена.

Что такое курируемая память в масштабе

Но достаточно о рамках, что это выглядит на практике? Вот что мы обнаружили, построив эти агенты сами.

Одним из распространенных сценариев ИТ является отправка тикета обслуживания в агента службы поддержки. Скажем, ваш Outlook не работает, поэтому вы вводите описание проблемы и ждете, пока агент рассмотрит и предложит решение.

Но с курируемой памятью на нашей стороне, лучший процесс мог бы включать в себя создание скриншота, показывающего ошибку Outlook, и загрузку его в агент. Теперь агент (1) опирается на институциональную память, чтобы понять нашу рабочую среду; (2) проверяет историю действий на связанные инциденты; и (3) применяет контекстуальное суждение для конкретного решения, а не просто для генерического ответа.

Результатом является интеллектуальный агент, который не должен угадывать ответ на основе скриншота. Теперь он фактически опрашивает, смотрит на всю информацию, которая в данный момент запущена, и доставляет более полезный ответ. Агент даже мог бы расшириться до сети или эффекта роя, глядя на других пользователей в системе, чтобы увидеть, является ли проблема с Outlook только вашей или это проблема во всей компании.

Контекстуализация истории или памяти — это то, что меняет все. Если вы не курируете свою память эффективно, вы отстанете от тех, кто это делает. Необходимо иметь архитектуру, которая знает, как управлять этими данными во времени и понимать, что сохранить, что показать, а что отпустить.

Вернемся к поездке

Итак, как мой агент планирования поездки на основе ИИ изменил мое представление об ИИ в корпоративной ИТ?

Что я построил, было приложением, которое действовало как наш личный консьерж по поездке и начало с «интервью» каждого участника. Мы все объяснили, что для нас важно в поездке: что было обязательным и что мы могли пропустить. Более важно, оно спросило нас о нашей «почему» — почему что-то было важно для нас, что это значило для нас.

Используя эту информацию, оно сделало две вещи. Во-первых, оно курировало план поездки, который был сбалансирован, чтобы доставить что-то для всех — мы могли видеть наши желания и предпочтения, представленные в плане, который оно произвело.

Но, конечно, этот первый маршрут был только черновиком. Были еще многие вопросы, которые нужно было ответить.

И вот где произошло настоящее волшебство. Мы спросили агента о отеле или достопримечательности или поездке, и ответы, которые он дал нам, были обогащены контекстом нашей уникальной ситуации: «Это будет долгая поездка для детей, но мой тесть полюбит замок (и уникальную кофейню рядом) — и это может быть именно то место, где моя жена сможет получить массаж».

Полный этого богатого понимания того, что было важно для нас, он смог помочь нам спланировать и доработать нашу поездку так, как я не думаю, что было бы возможно никаким другим способом.

И именно в один из этих первых моментов я понял, что нам нужно построить для наших корпоративных клиентов: интеллектуальные системы, которые были бы настолько наполнены организационным, транзакционным и личным контекстом, что каждый ответ и каждая интеракция будут как отпечаток пальца: совершенно уникальны для этого момента и интеракции, доставляя тип ценности, который просто не может произойти никаким другим способом.