Ваш агент ИИ знает всё — и ничего не понимает

«Мы должны присоединиться к родителям моей жены в их поездке в Ирландию» — это, казалось бы, безобидное заявление, послало озноб по моей спине.

Моя жена и я много путешествуем. Мы знаем, что нам нравится. Родители моей жены, с другой стороны, редко путешествуют дальше нескольких сотен миль от своего дома и выезжали из страны вместе всего один раз — на нашу свадьбу.

Чтобы все это увенчать, эта поездка была рождественским подарком от моего тестя моей теще, чтобы она могла посетить свою семью, может быть, в последний раз.

Я мог представить, как эта поездка развернется в одном слове: катастрофа. Каким образом мы сможем синтезировать совершенно разные переживания и ожидания, чтобы иметь удивительную поездку — или, по крайней мере, не возненавидеть друг друга в конце ее?

Как любой уважающий себя технарь, я обратился к технологиям — в частности, к ИИ.

Но то, чего я не ожидал, — так это то, что мой маленький эксперимент с созданием приложения для планирования семейных поездок с помощью ИИ научит меня几乎 всему, что мне нужно знать об применении ИИ в корпоративных ИТ-системах.

Чем больше вы кормите ИИ, тем глупее он становится

Большинство корпоративных развертываний ИИ следуют предсказуемому шаблону. Организации начинают с предоставления агенту набора инструкций и подключения его к информационному источнику, будь то RAG (Retrieval-Augmented Generation)-фреймворк, существующая база знаний или даже MCP-сервер. Далее добавляется слой LLM и позволяет ему работать.

Проблема в том, что LLM в своей основе глупы. Они не знают, как расставлять приоритеты среди всей информации, которую они имеют в своем распоряжении, поэтому они склонны относиться ко всем фрагментам контекста одинаково. Человеку необходимо добавить слой кураторства, обучая модель тому, что важно, а что нет. Без кураторства вы получаете ИИ, который знает всё и ничего не понимает.

Три типа памяти, которые имеют значение

Эффективное кураторство корпоративного ИИ означает максимальное использование трех конкретных типов памяти.

Первый — это институциональная память, которая может показаться довольно базовой на начальном этапе. Когда кто-то говорит «финансовые услуги», агент знает, что он имеет в виду отдел финансовых услуг компании, а не всю отрасль. Это становится постоянным организационным знанием, наполненным определениями, предпочтениями и конвенциями, которые не часто меняются. Когда это распространяется на институциональные знания о стратегических приоритетах, ключевых инициативах и организационной динамике, оно становится богатым источником институционального контекста.

Далее идет история действий, которая фокусируется на значимых решениях, задачах и событиях. Когда подается тикет обслуживания или развертывается система, агент распознает это конкретное действие и записывает его в историю действий. Это становится историческим отчетом, который соединяет организационный контекст.

Наконец, есть краткосрочный контекст разговора. Подумайте об этом как о моменте к моменту взаимодействия с агентом. Это полезно в данный момент, но быстро теряет актуальность.

В совокупности эти три типа памяти создают систему взвешивания, которой не хватает в обычных моделях ИИ. Теперь, когда кто-то рассказывает агенту о бизнесе, он классифицирует и расставляет приоритеты среди всей этой памяти и курирует информацию, которая важна. Это образует ядро того, что ИИ должен доставить: не только данные о домене, но и суждение о домене.

Что выглядит как курированная память в масштабе

Но достаточно об этом фреймворке, что это выглядит на практике? Вот что мы обнаружили, создавая этих агентов сами.

Одним из распространенных сценариев ИТ является отправка тикета обслуживания агенту службы поддержки. Скажем, ваш Outlook не работает, поэтому вы вводите описание проблемы и ждете, пока агент рассмотрит и предложит решение.

Но с курированной памятью на вашей стороне, лучший процесс может включать в себя создание скриншота, показывающего ошибку Outlook, и загрузку его в агент. Теперь агент (1) использует институциональную память, чтобы понять вашу рабочую среду; (2) проверяет историю действий на связанные инциденты; и (3) применяет контекстуальное суждение для получения конкретного решения, а не просто общего ответа.

Результатом является интеллектуальный агент, который не должен угадывать ответ, основываясь на скриншоте. Он фактически допрашивает, рассматривая всю текущую информацию и доставляя более полезный ответ. Агент даже может расшириться до сети или эффекта роя, рассматривая других пользователей в системе, чтобы увидеть, является ли проблема с Outlook только вашей или проблемой всего предприятия.

Контекстуализация истории или памяти является различием. Если вы не курируете свою память эффективно, вы отстанете от тех, кто это делает. Необходимо иметь архитектуру, которая знает, как управлять этими данными с течением времени и понимает, что сохранять, что показывать и что отпускать.

Вернемся к поездке

Итак, как мой планировщик поездок на основе ИИ изменил мое представление об ИИ в корпоративных ИТ-системах?

Что я создал, было приложением, которое выступало в качестве нашего личного консьержа по поездке и начало с «интервью» каждого участника. Мы все объяснили, что было важно для нас на поездке: что было обязательным и что мы могли пропустить. Более важно, оно спросило нас о нашем «почему» — почему что-то было важно для нас, что это значило для нас.

Используя эту информацию, оно сделало две вещи. Во-первых, оно курировало план поездки, который был сбалансирован, чтобы доставить что-то для каждого — мы могли все увидеть свои желания и предпочтения, представленные в плане, который оно произвело.

Но, конечно, этот первый маршрут был только черновиком. Было еще много вопросов, которые нужно было ответить.

И вот где произошла настоящая магия. Мы спросили агента о отеле или достопримечательности или поездке, и ответы, которые он дал нам, были обогащены контекстом нашей уникальной ситуации: «Это будет долгая поездка для детей, но мой тесть полюбит замок (и уникальную кофейню рядом) — и это может быть именно то место, где моя жена сможет получить массаж».

Полный этого богатого понимания того, что было важно для нас, он смог помочь нам спланировать и доработать нашу поездку так, как я не думаю, что было бы возможно никаким другим способом.

И это было в один из тех первых моментов, когда я понял, что нам нужно построить для наших корпоративных клиентов: интеллектуальные системы, которые были так наполнены организационным, транзакционным и личным контекстом, что каждый ответ и каждое взаимодействие будут как отпечаток пальца: совершенно уникальны для этого момента и взаимодействия, что они доставят тип ценности, который просто не может произойти никаким другим способом.