Лидеры мнений

Скрытые издержки масштабного внедрения ИИ

Zuzana Drotárová
Добавьте Unite.AI в избранные источники в Google
Ключевые моментыАгентные задачи потребляют до тысячи раз больше токенов, чем простой чат по коду.
Показать больше
  • Агентные задачи потребляют до тысячи раз больше токенов, чем простой чат по коду.
  • Десятишаговый агент с надёжностью 95 процентов на каждом шаге сжигает примерно на 40 процентов больше токенов на повторных попытках.
  • Почти семь из десяти американских компаний сообщили как минимум о частичном превышении бюджета на ИИ за последний год.

1 июня 2026 года GitHub окончательно отказался от «премиальных запросов» с фиксированной оплатой для Copilot и заменил их AI-кредитами с оплатой по фактическому использованию. Когда месяц спустя пришли первые счета по новой модели, некоторые пользователи агентных функций столкнулись с расходами, к которым не были готовы: один разработчик сообщил, что самые интенсивные агентные рабочие процессы увеличили его ежемесячные затраты с 29 до 750 долларов.

Это стало одним из заметных примеров более широкого сдвига на рынке инструментов ИИ в течение 2026 года — сдвига, который может ожидать и организации, пока еще платящие фиксированную сумму.

Организации подсчитывают сэкономленные часы. Но многие не учитывают то, что скрывает фиксированный тариф: расход контекста и повторные попытки после сбоев. Другие затраты вообще не появляются в счете поставщика, включая время на проверку результатов и сопровождение промптов. Когда оплата начинает зависеть от фактического потребления, организации без контроля затрат рискуют получить счет, который удивит их так же, как новая модель Copilot удивила некоторых пользователей.

Контекст, стоимость которого никто не заложил

ИИ, разумеется, нужен контекст; это не вызывает сомнений. Вопрос в том, относится ли передаваемый контекст к задаче или он просто оказался под рукой. Отправить модели целый документ — самый быстрый способ предоставить информацию. Но это не означает автоматически, что такой способ самый дешевый или лучший.

В мае 2026 года Digital Economy Lab Стэнфордского университета опубликовала анализ агентных задач программирования на восьми передовых моделях и обнаружила, что такие задачи расходуют до тысячи раз больше токенов, чем простой чат о коде. Главная причина заключается не в выводе модели, а во входном контексте, который она пересылает снова и снова. На каждом последующем шаге агент перечитывает всю свою историю. При многократном выполнении одной и той же задачи расход токенов различался до тридцати раз.

Точность также не растет линейно вместе с объемом контекста: часто она достигает максимума при умеренном объеме, после чего растут лишь затраты, а не ценность.

Таким образом, токенная слепота означает не то, что ИИ не нужен контекст. Она означает, что без измерений никто не спрашивает, действительно ли весь этот контекст необходим. При фиксированном тарифе такой вопрос легко игнорировать. При оплате по потреблению он становится частью затрат.

Когда за сбой приходится платить дважды

У агентных рабочих процессов есть еще одна статья расходов, которая почти никогда не попадает в расчеты окупаемости. Представьте упрощенную цепочку из десяти шагов, каждый из которых по отдельности с вероятностью 95% выполняется правильно. Это кажется достаточно надежным, но вся цепочка в совокупности имеет лишь около 60% вероятности завершиться без единой ошибки.

В рабочем процессе, который при каждом вызове заново отправляет накопленный контекст, каждый сбой и последующая повторная попытка означают оплату не только повторяемого шага: вы снова платите и за все, что было отправлено до него.

Это распространенная проблема, с которой сталкиваются почти все при создании первого агентного конвейера. Я тоже через нее прошел. Вначале, когда агентов было всего несколько, это не имело большого значения. Но по мере роста конвейера каждый неудачный запуск становился дороже. Именно тогда я начал спрашивать, какой контекст нужен каждому агенту и как его кэшировать, а не только выяснять, завершился ли запуск.

В том же анализе подсчитано, что агент из десяти шагов с надежностью 95% на каждом шаге тратит на повторные попытки примерно на 40% больше токенов, чем идеально надежная система. Эти расходы появятся в счете, но, скорее всего, не найдутся ни в одной таблице расчета окупаемости.

Контроль — не ошибка. Его место в бюджете

Этот момент нужно сформулировать точно, поскольку его легко понять неверно. Проверка результатов ИИ — не сбой системы, а нормальная и ожидаемая часть работы с ИИ, подобно тому как проверка кода является нормальной частью работы с разработчиками. Проблема не в самой проверке результатов. Проблема в том, что эту работу почти никогда не включают в расчет того, сколько времени ИИ действительно сэкономил.

Work AI Institute компании Glean опросил 6 000 работников и обнаружил, что автоматизация экономит им около 11 часов в неделю, однако почти шесть с половиной из этих часов уходят на сопровождение: предоставление контекста системам ИИ, проверку их работы и исправление ошибок. Чистая экономия, таким образом, ближе к четырем с половиной часам — менее половины заявленного показателя. ИИ по-прежнему экономит время, но не столько, сколько следует из первой цифры.

Промптам нужно сопровождение, а не только автор

Сегодня промпты ведут себя скорее как код в рабочей среде: обновление модели, изменение контекста или на первый взгляд незначительная правка могут изменить их работу. Без управления версиями и тестирования такие изменения способны незаметно вызвать проблемы. Регрессионные тесты, которые являются стандартной практикой для кода, все еще часто пропускают при проверке промптов. Изменение, выглядящее как небольшая правка одного предложения, может попасть в рабочую среду и снизить точность, а проблему не заметят, пока последствия не накопятся до видимого уровня.

Создание полноценной системы оценки, включая тестовый набор и автоматические регрессионные тесты при каждом изменении, требует дополнительной работы, которая почти никогда не попадает в расчет «ИИ экономит время».

Токены дешевеют, счета растут

GitHub Copilot не был исключением. Согласно опросу, на который ссылается CFO Dive, почти семь из десяти компаний США сообщили хотя бы о частичном превышении бюджета на ИИ за последний год, причем в основном до полного перехода на оплату по потреблению, а не после него.

Bain & Company в июньском анализе экономики токенов отмечает парадокс, лучше всего описывающий всю ситуацию: цена токена за год снизилась вдвое, а потребление за тот же период выросло в 4,5 раза.

Модель стала дешевле, но счет упорно остается высоким. Компании переходили на более новые модели, поручали агентам более сложные задачи и находили для них больше рабочих процессов. Дешевый токен не означал меньших расходов; он означал появление большего числа причин этот токен потратить.

Как подготовиться до прихода счета

Следующая из этого система действий направлена не на сокращение использования ИИ. Ее цель — понять стоимость ИИ до принятия решения о дальнейшем масштабировании.

  1. Сначала обеспечьте прозрачность

Пока потребление не разбито по командам, рабочим процессам, приложениям и завершенным задачам, каждое расширение остается слепой ставкой. Такая прозрачность тоже не бесплатна: особенно в агентных рабочих процессах отслеживание каждого шага, регистрация того, что и почему произошло, и наблюдение за зацикливаниями требуют собственного инженерного времени и инструментов. Закладывайте это как часть стоимости эксплуатации ИИ, а не как запоздалое дополнение.

  1. Пересчитайте окупаемость по чистому результату

Вычтите время на проверку, исправления и сопровождение промптов из заявленного количества сэкономленных часов. Если цель сценария — экономия времени, а чистый результат отрицателен или его нельзя проверить, такой сценарий не готов к масштабированию. Если ожидаемая выгода заключается в качестве, производительности, снижении риска или выручке, измеряйте этот результат напрямую.

  1. Соблюдайте дисциплину затрат, но не применяйте ее одинаково везде

Жесткий лимит расходов оправдан там, где сбой обходится дешево: во внутренних инструментах, экспериментальных агентах и средах разработки. Для критически важных функций, с которыми работают клиенты, например для помощника службы поддержки, жесткий лимит неприемлем, поскольку создает риск отказа. Здесь нужны многоуровневые переходы на более дешевую модель и ранние предупреждения, а не отключение при достижении нуля.

  1. Относитесь к промптам и оценкам как к инженерным активам

Управляйте их версиями, тестируйте их и проверяйте изменения перед развертыванием так же, как код в рабочей среде.

Приходите на продление договора со своими данными

Цены поставщика трудно оценить без собственных данных об использовании. Перед продлением договора или сменой модели рассчитайте, сколько существующие рабочие процессы стоили бы по предлагаемым условиям. Цель заключается не только в том, чтобы договориться о более низкой цене. Важно знать, как эта цена поведет себя при вашем фактическом уровне потребления, вместо того чтобы узнавать об этом из счета.

Три действия, которые можно выполнить на этой неделе: проверьте, можете ли вы разбить потребление ИИ по командам и рабочим процессам; выберите один сценарий и сопоставьте время на проверку с заявленным количеством сэкономленных часов; выясните, где жесткий лимит расходов способен вызвать отказ вместо контроля затрат.

Расходами на ИИ можно управлять. Но не тогда, когда вы впервые узнаете их размер из счета.

Зузана Дрота́рова́ возглавляет бизнес-анализ в Avenga, курируя около 100 аналитиков по программам для корпоративных клиентов в Чехии и Словакии. Она фокусируется на операционных структурах и структурах принятия решений, которые определяют, могут ли инициативы корпоративного уровня, включая ИИ, работать в промышленной эксплуатации.