Я строю системы ИИ для жизни. Вот что большинство людей понимают неправильно

Я строю системы ИИ для корпоративных контакт-центров.

Не демонстрационные версии, не бенчмарки, не исследовательские проекты. Производственные системы, которые взаимодействуют с клиентами, ориентируются в политике, извлекают информацию из несвязанных корпоративных платформ и работают внутри среды, сформированной загрязнёнными данными, противоречивыми записями, фоновым шумом и непредсказуемым поведением человека.

Этот опыт дал мне возможность наблюдать за одним из самых больших разрывов в индустрии ИИ. Общественный разговор об ИИ часто доминируется тем, чем может стать эта технология когда-нибудь, в то время как организации пытаются понять, как успешно развернуть ее сегодня. Это очень разные разговоры.

Вопросы, на которые я тратю свое время, редко связаны с искусственным общим интеллектом или тем, заменят ли машины людей в конечном итоге. Они обычно более практичны. Может ли система последовательно интерпретировать запросы клиентов? Может ли она извлечь точную информацию из нескольких корпоративных платформ? Может ли она восстановиться, когда данные неполны? Может ли она правильно эскалировать, когда уверенность низка? Может ли команда доверять ей достаточно, чтобы развернуть ее в крупном масштабе?

Эти вопросы могут быть менее интересными, чем заголовки, но они являются теми, которые определяют, будет ли корпоративный ИИ успешным. Со временем я пришел к выводу, что большинство организаций переоценивают важность самой модели и недооценивают все, что необходимо для того, чтобы сделать эту модель полезной внутри реального бизнеса.

Демонстрация не является развертыванием

Каждый, кто работает в тесном контакте с корпоративным ИИ, понимает разрыв между контролируемой демонстрацией и производственным развертыванием.

Мы встречаем примеры этого постоянно. Одна система ИИ, с которой мы работаем, с трудом интерпретирует правильно произнесенный 16-значный номер заказа, преобразованный в слова, примерно половину времени. Эти виды неудач похожи на теперь уже знаменитую проблему “сколько букв «r» в слове strawberry?“, где передовые языковые модели испытывали трудности с задачей, которая казалась тривиальной для людей. Те же модели могут набрать исключительно высокие баллы на экзаменах, таких как MCAT. Этот контраст раскрывает что-то важное: производительность бенчмарка и операционная надежность не являются одним и тем же.

Как только ИИ входит в производство, он наследует всю сложность окружающей среды. Корпоративные системы содержат неполные записи, противоречивую информацию, устаревшие процессы, несвязанные приложения и пограничные случаи, которые накапливались десятилетиями. Клиенты задают расплывчатые вопросы. Политики меняются. Качество данных варьируется. Поведение человека остается чудесно непредсказуемым.

Эти реалии формируют результаты гораздо больше, чем баллы бенчмарка, потому что ИИ не работает в бенчмарке. Он работает внутри бизнес-процессов, систем и рабочих процессов, которые вводят сложность, которую модель не может решить самостоятельно.

Корпоративный ИИ имеет операционный слой

Один урок, который постоянно удивляет людей, заключается в том, насколько быстро производительность модели перестает быть ограничивающим фактором. Как только система достигает производства, операционные проблемы часто становятся более важными, чем сама модель. Успешные инициативы ИИ зависят от проектирования процессов, организационной согласованности, качества данных, интеграции систем, наблюдаемости, путей эскалации, управления и доверия.

Командам нужны четкие процедуры для обработки неудач. Им нужна видимость того, как системы принимают решения. Им нужно уверенность в том, что проблемы могут быть выявлены и решены до того, как они повлияют на клиентов. Организации часто обнаруживают, что работа, окружающая систему ИИ, требует столько же внимания, сколько и сама система ИИ.

Этот операционный слой является тем, где многие развертывания в конечном итоге преуспевают или борются.

Служба поддержки клиентов остается одной из самых сложных проблем

Опыт клиента предлагает один из самых ярких примеров этой сложности.

Простые взаимодействия стали все более управляемыми для систем ИИ. Проверка баланса счета. Сброс пароля. Проверка статуса рейса. Это высоко структурированные задачи с предсказуемыми результатами.

Настоящие разговоры с клиентами редко остаются так простыми.

Клиент, пытающийся решить проблему с авиакомпанией, связанную с баллами лояльности, партнерскими перевозчиками, спорами о возмещении, исключениями из политики и несколькими предыдущими взаимодействиями, представляет собой совершенно другую задачу. Контекст фрагментирован. Цели могут быть неясными. Политики могут конфликтовать. Эмоции часто входят в разговор.

Эти взаимодействия продолжают представлять собой значительную часть работы службы поддержки клиентов и требуют рассуждений по системам, процессам и бизнес-правилам таким образом, который остается трудным для ИИ. Прогресс был замечательным. Сложность остается реальной.

Корпоративные данные наконец становятся пригодными для использования

Одна область, где я вижу значимую трансформацию, происходящую сегодня, связана с корпоративными данными.

Большинство организаций потратили годы на накопление информации по десяткам или сотням несвязанных систем. Ценная информация существует, но ее поиск и эффективное использование часто были затруднены. ИИ делает эту информацию более доступной.

Организации начинают синтезировать данные по системам, более эффективно выявлять актуальный контекст и помогать сотрудникам ориентироваться в информации, которая ранее была разбросана по нескольким приложениям и репозиториям. Эта способность операционализировать корпоративные знания может оказаться более трансформирующей, чем многие демонстрации ИИ, которые доминируют в общественном обсуждении.

Следующая задача: ИИ, работающий с ИИ

Следющая волна инноваций, вероятно, будет включать несколько систем ИИ, работающих вместе.

Организации уже экспериментируют с рабочими процессами, в которых агенты обмениваются информацией, координируют задачи и вносят вклад в более крупные бизнес-процессы. Это создает новые задачи вокруг подотчетности, доверия, эскалации, коммуникации и управления.

Люди развили неявные навыки сотрудничества за века. Мы понимаем, как просить о помощи, общаться неопределенность, эскалировать риски и восстанавливаться после ошибок. Построение этих поведений в системы ИИ – это гораздо более новая дисциплина.

Много из следующей главы корпоративного ИИ будет включать обучение систем, как эффективно работать вместе, оставаясь при этом согласованными с организационными целями.

Что корпоративный ИИ на самом деле требует

После лет построения и развертывания систем ИИ я стал убежден, что организации тратят слишком много времени на оценку интеллекта модели и недостаточно времени на подготовку окружающей среды вокруг нее.

Интеллект, который демонстрируют эти модели, может быть замечательным. Каждый год они становятся более способными, более полезными и более сложными. Однако успешные развертывания все еще зависят от фундаментальных вещей: достоверных данных, хорошо спроектированных процессов, вдумчивого управления, ясной подотчетности и людей, которые понимают, как интегрировать новую технологию в существующие операции.

Организации, которые видят наибольшую ценность от ИИ, обращают внимание на эти фундаментальные вещи. Потому что интеллект сам по себе не создает трансформацию.

Трансформация происходит, когда технология, данные, процессы и люди работают вместе, чтобы произвести лучшие результаты.