Почему все компании нуждаются в графе знаний в эпоху ИИ

ИИ фундаментально ускорил разработку программного обеспечения, но он几乎 не изменил то, как работают организации программного обеспечения. Это несоответствие тихо становится самым большим ограничением для корпоративного ИИ.

На протяжении многих лет командам инженеров требовались больше ресурсов, чтобы поспевать за спросом. Сегодня небольшие команды используют ИИ для генерации кода, тестирования и ускорения пути от идеи к реализации. Разработчики явно быстрее доставляют код, но остается неясным, переводится ли это последовательно в лучшие результаты.

Эта скорость создает новую瓶頸: налог на координацию. ИИ ускорил выполнение намного быстрее, чем улучшил то, как организации координируют свою работу. Обмен контекстом, определение приоритетов, принятие оперативных решений, отчетность о статусе и межфункциональная согласованность остаются в основном ручными, даже когда разработка ускоряется.

Atlassian оценивает, что в результате возникающий разрыв стоит компаниям из списка Fortune 500 примерно 161 миллиард долларов в год. То же исследование показало, что хотя 89% руководителей говорят, что ИИ ускорил работу, только 6% могут указать на измеримые результаты во всей организации.

Быстрые результаты не автоматически создают более умную организацию. Только 17% пользователей согласны с тем, что агенты улучшили сотрудничество внутри их команды, что делает его самым низкооцененным влиянием, оставляя петлю координации отключенной.

Пересоздание контекста на каждый запрос – это огромный налог

Хотя демонстрация процветает на использовании чистых, отобранных источников данных, производственные среды представляют собой проблему: неоднозначную, устаревшую и противоречивую информацию, разбросанную по несвязанным системам. Когда сталкиваются с этими пробелами, большая языковая модель делает то, для чего она была разработана: она предсказывает наиболее вероятный ответ. То, что выглядело как рассуждение в контролируемой демонстрации, быстро становится уверенным угадыванием с реальными данными производства.

Отрасль начала давать этой проблеме название. “Инженерия контекста” появилась как дисциплина, ориентированная на проектирование информации, отношений, управления и качества, которые определяют, будет ли корпоративный ИИ успешным. Ограничивающим фактором часто уже не является сама модель, а качество контекста, окружающего ее.

Каждый раз, когда система ИИ пересоздает контекст с нуля, она платит налог. Ответы медленные, затраты на токены увеличиваются, и доверие подрывается, поскольку ответы варьируются в зависимости от того, какие части организационных знаний извлекаются. Два агента ИИ могут ответить на один и тот же вопрос по-разному, потому что каждый собирает контекст из разных срезов организационных знаний.

Большинство организаций уже обладают знаниями, которые необходимы их системам ИИ. Проблема заключается в том, что эти знания фрагментированы по билетам, репозиториям, документации, разговорам и инструментам планирования. В результате каждое взаимодействие начинается с пересоздания организационного контекста, прежде чем модель сможет начать рассуждение, повторяя один и тот же дорогой процесс с каждым новым вопросом.

Доступ не является тем же, что и знания

Распространенный вопрос заключается в том, решит ли эта проблема более крупные окна контекста, лучший поиск или улучшенный поиск. Протоколы контекста модели решают реальную проблему интеграции, предоставляя агентам стандартизированный способ доступа к системам, где живет корпоративная информация. Но доступ не является тем же, что и понимание. Предоставление агенту доступа к десятку систем не объясняет, какое решение превосходило другое, почему требование изменилось, является ли документ все еще авторитетным или как разговор с клиентом в конечном итоге повлиял на то, что было доставлено.

Большинство корпоративных систем ИИ все еще предполагают, что контекст должен быть собран с нуля каждый раз, когда кто-то задает вопрос. Этот подход может ответить на изолированные вопросы, но он борется с поддержкой непрерывного рассуждения, необходимого для управления бизнесом. Руководители все еще тратят часы каждый неделю, собирая ответы на вопросы, которые должны уже существовать внутри организации:

• Что изменилось?
• Почему приоритет сместился?
• Является ли дорожная карта все еще точной?
• Решаем ли мы все еще правильную проблему?

Именно здесь граф знаний зарабатывает свое место. Граф хранит сущности и их отношения, предоставляя основу для сохранения организационной памяти. В организации программного обеспечения эти сущности могут включать клиентов, функции, требования, решения, билеты, репозитории, запросы на вытягивание, выпуски и людей.

Вместо того, чтобы извлекать коллекцию отрывков, которые случайно содержат похожие слова, агент может следовать связям от решения к требованию, которое его вызвало, билету, который реализовал его, запросу на вытягивание, который изменил его, и обратной связи клиента, которая позже оспорила его.

Графы знаний выходят за рамки того, чтобы быть просто еще одним способом организации данных. Вместо того, чтобы повторно строить контекст из несвязанных систем, ИИ может рассуждать из непрерывно эволюционирующего понимания того, как организация на самом деле работает.

Результатом является ИИ, который может рассуждать из решений, разговоров и доказательств, а не пересоздавать это понимание с нуля с каждым запросом.

Структура одна не достаточно

Построение графа один раз – это сложно, и его поддержание в актуальном состоянии еще сложнее. В быстро меняющейся организации билеты меняются, планы смещаются, код доставляется, ответственность перемещается, и обратная связь клиентов меняет приоритеты. Это означает, что организационная память должна обновляться, когда реальность меняется, и повторно связывать каждое изменение с его источником.

Хотя 82% разработчиков сообщают, что ИИ помогает им кодировать быстрее, и 71% говорят, что он улучшает их способность решать сложные проблемы, эта скорость имеет подвох: 96% разработчиков не имеют полной уверенности, что полученный код функционально правильный.

Каждый факт, который агент дает вам, должен отслеживаться до его источника: коммита, билета, нити. Если система ИИ говорит руководителю, что выпуск на правильном пути, но не может показать сигналы, стоящие за этим выводом, опытный руководитель должен колебаться, прежде чем действовать на его основе.

Я видел команды, которые отказались от инструментов, которые производили разумные ответы, потому что пользователи не могли проверить, как эти ответы были достигнуты. Я также видел команды, которые продолжали использовать менее сложные системы, потому что эти системы показывали свою работу. Уверенный обзор без квитанций – это просто быстрый способ быть неправильным, и как только инструмент обжигает руководителя неисправным ответом, доверие не возвращается. Связывание каждого утверждения с его источником превращает “доверяйте мне” в “вот почему”.

Точность имеет значение по той же причине. Когда система непрерывно отслеживает отношение между планом и фактическим результатом, разрыв между тем, что команда решила, и тем, что фактически было доставлено, становится видимым дрейфом, а не тихо поглощается в уверенном, но устаревшем ответе. Это не является периферийной проблемой. Thoughtworks подчеркнул дрейф кода как конкретную опасность для агентов ИИ. Это подчеркивает необходимость петель проверки и механизмов обратной связи, которые помогают системам обнаруживать и исправлять отклонения, когда работа эволюционирует. Дрейф, который организация может увидеть, является полезной информацией. Дрейф, который остается скрытым, – это то, как система ИИ начинает обманывать людей, которым она доверяла.

Что спросить перед вашим следующим проектом агента

Когда вы оцениваете корпоративную инициативу агента, я бы начал с четырех вопросов:

• Сохраняет ли система свою оптимизированную репрезентацию контекста с течением времени или просто предоставляет ИИ доступ к существующим источникам данных?
• Отслеживается ли каждый ответ до конкретного источника, такого как билет или документ?
• Обновляется ли система автоматически, когда информация организации меняется?
• Понимает ли агент отношения между точками данных, а не просто имеет доступ к ним?

Модели основы будут продолжать улучшаться. Возможности рассуждения станут сильнее, окна контекста вырастут, и эти достижения будут становиться все более доступными для всех. То, что не будет коммодитизировано, – это организационное понимание. Более половины руководителей сообщают, что они видят мало или совсем нет дохода или выгоды от ИИ за последний год. Я бы поставил, что большинство из них пропускают слой контекста, который позволяет этим моделям рассуждать о том, что организация уже знает.

Когда программное обеспечение становится драматически проще в создании, понимание становится дефицитным ресурсом. Те, кто создает наибольшую ценность из ИИ, лучше сохраняют, связываются и непрерывно учатся на организационных знаниях. Это разница между ИИ, который угадывает, и ИИ, который знает.