ИИ в корпоративном секторе: подсчет полной стоимости

ИИ вышел за рамки теории и новизны. Для многих организаций он теперь находится рядом с основными системами в качестве части инфраструктуры. Многие люди все еще думают о нем в основном в терминах публичных моделей обработки языка и чат-ботов – что-то, что можно использовать и затем выбросить, когда вы закончили. Смотрение на ИИ через эту призму может упустить из виду более широкий спектр моделей и методов, которые могут улучшить результаты более эффективно и с меньшим риском.

Правда в том, что ИИ должен оцениваться как любое другое крупное вложение в инфраструктуру – с четким представлением о стоимости, выгоде и операционном риске с самого начала. Приведение его в пригодное для использования состояние означает инвестирование в качественные потоки данных, наблюдаемость, управление и людей, которые поддерживают его согласованность с желаемыми бизнес-результатами. Сокращение затрат здесь означает простое перенос стоимости в будущее с добавленными процентами.

Как реально масштабируются затраты на ИИ

Понятно, что команды могут предположить, что затраты на ИИ растут по прямой линии: выполнение работы в два раза больше, оплата в два раза больше денег. В реальности усилия, затраты и результаты могут двигаться независимо друг от друга удивительными способами. Если попросить ИИ прочитать длинный документ сразу, он должен учитывать каждое слово в отношении каждого другого слова. В большинстве популярных моделей обработки языка это означает, что работа, а значит и стоимость, не растут так, как люди естественно ожидают – удвоение входных данных, удвоение стоимости – а вместо этого растут примерно с квадратом длины входных данных. Понимание таких основополагающих принципов может иметь реальное влияние на дно линии любого развертывания ИИ. Если организация, которая обрабатывает большие объемы текста каждый день, например, регулирующий орган, проектирует с самого начала вокруг поиска по графу или потоков извлечения вместо отправки всего документа в модель, опыт конечного пользователя остается “задайте вопрос, получите ответ за секунды”, как и в случае с публичным чат-ботом. Это сохраняет удовлетворенность руководителей, увлеченных ИИ, мгновенными взаимодействиями, а под поверхностью система выполняет гораздо меньше ненужной работы, и счет за вычисления значительно ниже в результате.

Как затраты на ИИ распределяются по организации

Выбор технологий – это только часть истории, остальное – то, как организации подходят к ИИ. Во многих организациях подготовка данных находится в ведении инженерных служб. Проверки соответствия требованиям находятся в ведении юридического отдела. Расходы на облачные вычисления находятся в ведении платформенных или инфраструктурных команд. Выбор модели, конфигурация и любая тонкая настройка обычно находятся в ведении нескольких специалистов-операторов. Каждая группа видит свою часть работы и свою строку бюджета. Расходы появляются как вычисления здесь, время подрядчиков там, и время людей, поглощенное в “бизнес как обычно” по нескольким командам. С цифрами, разбросанными по центрам затрат, полная стоимость одного инициатива ИИ может не быть видна в одном месте и легко недооценивается. В такой среде затраты на ИИ могут тихо расти, просто потому, что никто не отслеживает всю цифру в одном месте.

Практический подход к управлению затратами на ИИ

Избегание ИИ не является правильным шагом для организаций, но и не следует относиться к ИИ как к технологии, которая подходит всем. Хорошая стратегия всегда начинается с желаемого результата и работает в обратном направлении. Не каждый случай требует передовой, дорогостоящей модели. Многие задачи могут быть решены с помощью хорошо известных методов машинного обучения, которые входят в сферу ИИ и могут работать на существующей инфраструктуре.

Начните с небольших пилотных проектов, которые измеряют полную стоимость владения, а не только использование модели, что означает рассмотрение не только вычислений, но и работы по интеграции, времени инженеров, управления изменениями и усилий по соблюдению требований. Цель – выбрать самую маленькую и простую модель, которая дает приемлемый результат, а не предполагать, что “больше модели” означает “больше выгоды”.

ИИ – это не одна вещь. Это сочетание методов и инструментов, которые можно использовать разными способами. Смотрение на него таким образом разрушает мистику вокруг впечатляющих результатов и позволяет бизнесу использовать его силу с большей ответственностью и большим эффектом.

Люди, время и ИИ

Каждое развертывание ИИ на практике является сотрудничеством между людьми и программным обеспечением. Независимо от того, признается ли это формально или нет, это то, как выполняется работа. Текущий сдвиг в сторону более агентных ИИ – инструментов, которые могут объединять шаги, вызывать другие системы и действовать с меньшим вмешательством – не меняет этого, на самом деле это повышает ставки для правильного выполнения человеческой части рабочего процесса.

Эти инструменты могут быть легко переоценены. Когда система представляет ответы гладко и с уверенностью, естественно для людей предположить, что она обычно права. Если такой инструмент используется в рабочем процессе без надлежащей подготовки, четких границ и разумных проверок, он может тихо генерировать поток небольших ошибок. Каждая из них должна быть обнаружена, понята и исправлена человеком. На бумаге ИИ выглядит эффективным, на практике есть скрытая стоимость в дополнительном времени, потраченном на очистку после него. В клиентских или регулируемых условиях эти небольшие ошибки также могут нести репутационную стоимость. Однако, каким бы ни был способ доставки или использования этих инструментов, ответственность за их выводы все еще лежит на организации и, в повседневных терминах, на человеческих операторах, которые их используют. Это должно быть явно понято для того, чтобы эти инструменты были действительно полезными.

Управление в составе бюджета ИИ

Даже когда технические выборы правильны, а использование эффективно, растущая доля расходов на ИИ будет связана с управлением rather, чем с сырыми вычислениями. Для организаций, работающих в ЕС, закон об ИИ делает это очень ясным. Он принимает подход, основанный на риске, к ИИ, и важно, что это не применяется только к публичным продуктам. Внутренние системы, используемые в таких областях, как прием на работу и продвижение, управление и мониторинг работников, и определенные решения, связанные с безопасностью, могут попасть в сферу действия и принести с собой ожидания в отношении управления рисками, документации, ведения журналов и человеческого надзора. Другие регионы движутся в аналогичном направлении, даже если правила выглядят немного иначе, общая тенденция та же: более крупные организации должны знать, где используется ИИ, что он делает и как он контролируется.

Практический эффект этого заключается в том, что внутренние проекты ИИ теперь могут сопровождаться своей собственной рабочей нагрузкой по управлению, которая не является необязательной. Каждое новое использование может означать новую оценку риска или воздействия, больше мониторинга и больше вопросов от команд по соблюдению требований, аудиту или управлению рисками. Ни одна из этих затрат не появится в метриках использования модели, но это реальные усилия, которые должны быть оплачены.

Где развертывания ИИ идут не так

Знакомый шаблон в проектах ИИ – это разрыв между тем, как система выглядит в демонстрации, и тем, как она ведет себя в масштабе в реальной среде. В контролируемой среде, с узким набором вопросов и дружественными данными, результаты могут выглядеть безупречными. Легко в этот момент предположить, что система готова взять на себя всю категорию работы.

Проблемы, как правило, появляются позже, когда система подвергается воздействию полного разнообразия и объема реального использования: необычных запросов, напряженных пользователей, неполных записей, грязных пограничных случаев. Трещины, которые были невидимы в демонстрации, начинают проявляться как неправильные ответы, пропущенная нюанс, циклы поддержки, более длительные сроки обработки и тихое повреждение доверия. Внутренние метрики, такие как “обработанные запросы” и “сэкономленное время”, могут выглядеть хорошо на бумаге, но опыт, который проходит конечный пользователь, может рассказать другую историю.

Заключительные мысли

Ни одна из этих мыслей не является аргументом против ИИ. Это аргумент за то, чтобы относиться к нему с той же серьезностью, что и к любой другой системе, которая может существенно изменить то, как работает бизнес.

Использование ИИ правильно помогает небольшим командам действовать в большем масштабе, обнаруживать закономерности, которые были бы трудно заметить вручную, и делать экспертное суждение более дальновидным. Но для этого требуется четкое представление о том, где используется ИИ, какой его полной стоимости и как он управляется. Это означает принятие намеренных решений о моделях и архитектурах, инвестирование в данные и наблюдаемость, а также проектирование процессов, в которых люди остаются в цикле.

“Двигаться быстро и ломать вещи” был лозунгом, написанным для человеческих команд, работающих над системами человеческого масштаба: если что-то ломалось, вы откатывали его, исправляли и двигались дальше. Как только ИИ вплетается в решения о клиентах, сотрудниках или гражданах, то же отношение может произвести проблемы, которые распространяются быстрее, бьют сильнее и намного труднее разматывать. Скорость все еще имеет значение, и ИИ может определенно помочь здесь, но он должен быть сбалансирован с четким представлением о риске, стоимости и подотчетности.

Нет способа полностью исключить стоимость или риск. Но есть четкая разница между организациями, которые полагаются на эксперименты ad-hoc, и теми, которые строят ИИ в свои операции в измеренном порядке, с видимостью от расходов к успеху. По разнообразию проблем и результатов, с которыми сталкиваются организации, нет единого решения ИИ, которое может решить все их. Эффективное использование ИИ в корпоративном секторе всегда должно быть специализированным, контролируемым и тщательно ограниченным.