Карта и рельсы: построение безопасной архитектуры для корпоративного ИИ

Первая часть закончилась утверждением: корпоративный ИИ будет успешным, когда учреждения научатся строить сам цикл. Эта статья посвящена тому, на чем стоит этот цикл. Агент, работающий внутри реальной компании, нуждается в двух вещах, которых у компании, скорее всего, нет сегодня: карте работы и рельсах для последствий.

Карта

Вот неприятный факт, лежащий в основе большинства замороженных программ ИИ: компания не может передать агенту описание своей собственной работы, потому что такого описания не существует. Большинство компаний отобразили свои существительные — базы данных, полные клиентов, счетов, претензий, контрактов. Почти ни одна из них не отобразила работу: что можно сделать с этими вещами, кем, при каких условиях и что происходит после. Эта информация живет в головах опытных людей и в процессе, который описывает, как работа была спроектирована пять лет назад, а не как она работает сегодня.

Новый сотрудник человека закрывает этот пробел, наблюдая, пробуя, спрашивая. Агент не учится таким образом. Ему нужна работа, написанная: вещи, которые обрабатывает бизнес, и где каждая из них стоит, работа, выполняемая над ними, решения, которые выбирают путь, кто имеет право двигать вещи вперед, и что происходит, когда они это делают — запись, которая меняется, одобрение, которое ей нужно, способ, которым она отменяется. Эта написанная описание — это карта.

Три правила сохраняют карту живой. Она должна быть написана людьми, которые владеют работой, и обеспечена инженерами — карта, которую только инженеры могут обновить, становится устаревшей, а карта, которую только операторы могут редактировать, становится небезопасной. Она должна быть версионирована, потому что агент никогда не должен действовать против значения, которое изменилось молча. И она должна быть опубликована — читаемой агентом, рецензентом и аудитором. Если агенту нужно открыть ваш бизнес, сшивая вместе вызовы API, вы раскрыли системы, а не описали работу. API — это то, как вещи выполняются. Карта — это то, как работа понимается.

Карта имеет значение по причине, которая переживает любой цикл продукта: агент не является прочным активом. Карта — это прочный актив. Модели будут улучшаться и заменяться, фреймворки агентов будут приходить и уходить — и описание вашей собственной работы, с его правилами, исключениями и накопленными исправлениями, — это то, что каждый будущий агент наследует в первый день.

Рельсы

Карта говорит о том, что может произойти. Рельсы — это то, что делает это происходить точно.

Часть работы, которой касается агент, — это суждение: прочитать запутанное письмо, взвесить исключение, порекомендовать путь. Но большая часть ее — повторение — то же самое проверка, то же самое обновление, то же самое размещение, тысячи раз. Повторение не требует интеллекта. Ему нужно быть точным. Модель вероятностна по конструкции, и для выполнения вероятно правильно — это неправильно: размещение платежа не имеет допустимой вариации, независимо от того, насколько хороша модель. Стабильная работа принадлежит на рельсы — определенная автоматизация, которая работает одинаково каждый раз, ничего не стоит на запуск и оставляет чистый след аудита.

Здесь две кривые расходятся. Построение рельсов становится легче, потому что описание работы, генерация кода, написание тестов и ремонт сломанных путей — это именно тот вид работы, который ускоряет ИИ. Развертывание свободных агентов внутри последовательных процессов не становится легче с той же скоростью, потому что чем ближе агент подходит к действию, тем больше он нуждается в границах, доказательствах, одобрениях, аудите и владельцах. Последствие трудно, и оно остается трудным. Итак, пусть агенты исследуют, и пусть они помогают вашим командам учиться работе — затем переместите каждый путь на рельсы, как только он перестает меняться. Не оставляйте высокообъемную, стабильную работу внутри вероятностного цикла, потому что агенты модны.

Управлять по последствию

С картой и рельсами на месте, остается один вопрос, прежде чем агент коснется реальной работы: что ему должно быть разрешено делать? Привычка отрасли — отвечать в терминах сантехники — агент “использует инструменты” — как если бы поиск политики, расчет вариации, составление письма, одобрение счета и его оплата были одним и тем же. Они не являются. Модель, которая ищет политику, не является той же, что и модель, которая отрицает претензию. Модель, которая рассчитывает сумму, не является той же, что и модель, которая платит ее. Чтение информации, принятие позиции, подготовка действия, изменение записи и перемещение денег — это разные виды работы, и разница заключается в последствии: что это стоит компании, когда шаг неправильный.

Управление должно следовать этому градиенту, а не сантехнике. Работа, которая только читает, требует контроля доступа. Работа, которая рекомендует, требует человека, который действительно решает. Работа, которая меняет запись, требует разрешения, следа аудита, способа отменить ее и названного владельца. Работа, которая перемещает деньги, требует все это, плюс гарантию, что незавершенная смена не может оставить компанию в состоянии, которое просто неправильно. Управлять по последствию и безопасные использования ИИ открываются быстро; управлять всем одинаково, и вы получите либо паралич, либо инцидент.

Доверие зарабатывается путем рабочего процесса

Этот градиент также является тем, как растет доверие. С картой и рельсами доверие перестает быть чувством о модели и становится свойством работы. Рабочий процесс — одно описанное дело, с его воротами из первой части — зарабатывает разрешение шаг за шагом, поднимаясь по тому же градиенту: сначала он только проект, затем он может порекомендовать, затем он может подготовить действие, которое человек одобряет, затем он может выполнить рутинные случаи и эскалировать исключения, и, наконец, он работает под аудитом, с людьми, которые смотрят на результаты вместо кликов на каждый случай.

Каждый шаг вверх зарабатывается с доказательствами из ворот — проверенными решениями, исправлениями, причинами — и каждый шаг вниз автоматически, когда производительность падает. Лучшая модель не зарабатывает права на действие.

Не продвигайте модель. Продвигайте рабочий процесс.

Начните с одного рабочего процесса

Ничего из этого не требует корпоративной программы, и оно не должно начинаться как одна. Выберите один значимый рабочий процесс с реальным объемом, реальной стоимостью ошибки и владельцем, который хочет его исправить. Отобразите эту часть работы. Поместите его стабильные шаги на рельсы. Установите его ворота. Затем проверьте описание против девяти простых вопросов:

• Какие бизнес-объекты перемещаются?
• Где каждая из них стоит сейчас?
• Какая работа выполняется?
• Какое решение выбирает следующий путь?
• Что происходит, если это одобрено?
• Что может использовать агент?
• Что работает автоматически?
• Кто предлагает, кто одобряет, кто выполняет, кто отвечает?
• Если что-то идет не так, что меняется до следующего запуска?

Если люди, которые владеют работой, могут ответить на эти девять вопросов для одного рабочего процесса, агент может работать внутри него безопасно — предложить, быть проверенным и позволить рельсам выполнить. Если они не могут, никакое качество модели не спасет развертывание.

Неудачи так же узнаваемы, как и закономерность. Чат-бот с доступом к чувствительным системам, но без карты работы. Слой извлечения, который отвечает на вопросы политики, но не может показать источник политики. Агент, который может одобрить работу, но не может сказать, кто владеет одобрением. Рецензент, который видит рекомендацию, но не последствие одобрения. Рабочий процесс, продвигаемый к автономии, потому что модель улучшилась, а не потому, что рабочий процесс заслужил доверие.

Карта, рельсы и ворота: это архитектура. Остается вопрос, как построить ее в одном рабочем процессе — и это часть три.