Частному ИИ нужна инфраструктура, способная адаптироваться к изменению нагрузки

Два года назад почти каждое предприятие, с которым я общался, полагало, что ИИ — это обращение к передовой модели через API. Теперь это представление меняется. Модели с открытыми весами стали достаточно хороши для многих повседневных задач, а ценность корпоративного приложения на базе ИИ обычно определяется собственными данными компании, а не лежащей в его основе моделью. Когда компании это понимают, становится очевидно: модель нужно держать рядом со своими данными и под собственным контролем.

В этом и заключается суть частного ИИ. Вы запускаете модель в собственной среде, настраиваете её на своих данных и сами решаете, где она работает и к чему ей разрешён доступ. Банк или фармацевтическая компания в любом случае не стали бы хранить результаты закрытых исследований или данные клиентов в чужой облачной среде. Для остальных стимулом служат растущие расходы на инференс при масштабировании и нежелание зависеть от единственного поставщика в вопросе, который становится ключевым для работы бизнеса. Согласно исследованию Linux Foundation, 63% опрошенных компаний использовали модель ИИ с открытыми весами, что показывает, насколько широко уже распространились такие альтернативы.

Люди недооценивают, что вместе с переносом модели в собственную среду появляется и необходимость самостоятельно обеспечивать её инфраструктурой. Электропитание, охлаждение, вычислительные мощности, размещение и подключение ко всему остальному — раньше это было заботой облачного провайдера. Теперь это ваша забота. Большинству компаний прежде не приходилось принимать такие решения, а технологии меняются быстрее, чем успевают заливать бетон. Если неправильно рассчитать потребности, вы получите мощности, не соответствующие фактической нагрузке. Гибкость нужно предусмотреть с самого начала. Модернизация существующей инфраструктуры, если она вообще возможна, может обойтись дорого, а некоторые провайдеры просто не могут её выполнить, поскольку их объекты изначально не рассчитаны на такую плотность размещения оборудования.

Создайте базовую мощность, а пиковую арендуйте

Для начала стоит понять, что не для каждой задачи нужна самая мощная модель. Суммирование документов, классификация обращений и ответы на вопросы на основе собственной базы знаний — всё это задачи, которые модель с открытыми весами может выполнять в частной среде с предсказуемыми затратами. Передовые модели оставьте для задач, которым они действительно необходимы.

Это подсказывает, какой должна быть инфраструктура. Создайте собственные мощности для стабильной нагрузки, которую можно прогнозировать на каждую неделю. Для пиковых периодов и ресурсоёмких задач, выходящих за пределы имеющихся возможностей, арендуйте мощности извне. Компании давно используют такой подход к вычислениям; ИИ не меняет его логику, а лишь повышает плотность базовой инфраструктуры и увеличивает размах колебаний пиковых нагрузок.

Задача — точно рассчитать базовую мощность и при этом обеспечить совместную работу частной и арендуемой инфраструктуры как единой системы. Обе среды должны иметь доступ к одним и тем же данным и работать в рамках одних и тех же правил управления, чтобы компаниям не приходилось каждый раз заново выстраивать конвейер обработки данных при переносе нагрузки из одной среды в другую.

Где разместить инфраструктуру?

Как выясняется, купить GPU — самое простое. Затем нужно где-то их разместить, обеспечить электропитанием и охлаждением и подключить к остальной ИТ-инфраструктуре. Высокоплотное оборудование для ИИ нельзя установить в стандартном корпоративном центре обработки данных без существенной модернизации систем электропитания и охлаждения, да и подходит оно не для каждой площадки. Согласно опросу Uptime Institute об инфраструктуре для ИИ за 2025 год, 37% респондентов назвали доступность электроэнергии одним из основных факторов, влияющих на выбор места для запуска рабочих нагрузок инференса.

Большинство компаний выбирают сочетание колокации и облачных сервисов. Обычно решающую роль играют данные: они уже распределены по нескольким площадкам, их перенос обходится дорого, а в регулируемых отраслях часть данных нельзя вывозить из страны или перемещать за пределы определённой среды. Идея собрать всё в одном здании рядом с GPU выглядит привлекательно, но почти никогда не воплощается в жизнь.

Поэтому важно не только то, где находятся вычислительные мощности, но и то, как они безопасно получают доступ к нужным данным — без лишних расходов и сложностей, о которых придётся пожалеть через три года. Это третий переломный этап. Первый — интернет, и его задачи решила связь. Вторым стало облако, а их решила сетевая фабрика, обеспечив программно-конфигурируемое соединение, которое позволило компаниям подключаться к разным провайдерам из одной точки. Третий этап — ИИ, и одной сетевой фабрики для него недостаточно. Ему нужна электроэнергия — и немалая — там же, где находится сетевая фабрика. Компании, которые успешно внедрят частный ИИ, разместят вычислительные мощности там, где сходятся энергоснабжение и связь, вместо того чтобы закупать эти ресурсы отдельно.

Подключение частного ИИ при изменении рабочих нагрузок

Агентный ИИ делает вопрос связности ещё актуальнее. Обычное приложение получает запрос, обращается к модели и возвращает ответ. ИИ-агент же непрерывно выполняет действия: обращается к нескольким моделям, запрашивает данные в разных системах, получает их оттуда, где они находятся, и передаёт задачи другим агентам. Каждый такой переход пересекает границу, создаёт задержку и ставит вопрос о том, кому разрешён доступ и к чему именно.

Теперь представьте, что модель находится в одном месте, данные — в другом, а некоторые из этих данных по правилам должны оставаться в определённой стране или закрытой среде. Компаниям нужен реальный контроль над этими маршрутами: какие системы имеют доступ к каким данным, что происходит при перемещении рабочей нагрузки и как подключить новую модель, не нарушив работу уже запущенных систем.

Поэтому инфраструктура должна быть программируемой. Подключения между моделями, данными и средами должны настраиваться и изменяться, а не требовать каждый раз отдельного инженерного проекта. Всё чаще настраивать их будет не человек. Такие стандарты, как протокол контекста модели (Model Context Protocol, или MCP), дают агенту универсальный способ взаимодействовать с окружающими его инструментами и системами. Агенту, которому нужно подключиться к новому источнику данных или новой модели, можно будет запросить такое подключение — так же, как он обращается к любому другому сервису, — при этом необходимые политики и средства контроля останутся в силе. Вот что на практике означает программируемая инфраструктура. Новые модели появляются каждые несколько месяцев. Для новых приложений потребуются маршруты, которых сегодня ещё нет. Если каждое изменение требует перестройки инфраструктуры, вы теряете ту гибкость, ради которой и перешли на закрытую среду.

Как обеспечить экономическую целесообразность

Правильно рассчитать необходимую мощность — важнейшее условие успеха, и дело не только в общем объёме ресурсов. Компании, которым это удаётся, чётко понимают взаимосвязь между затрачиваемой энергией и количеством получаемых токенов. Соотношение энергозатрат и количества токенов — основа экономики частного ИИ. Понимая его применительно к собственным рабочим нагрузкам, можно с высокой уверенностью рассчитать необходимую мощность среды. Важно также предусмотреть запас. Каждый квартал на рынок выходят новые возможности, и компании, которые хорошо планируют, всегда оставляют место для будущих потребностей, а не ограничиваются точным объёмом ресурсов, необходимым сегодня. Лучший план объединяет оба подхода. Точно рассчитайте энергозатраты на токены, а затем заложите разумный запас сверх этого уровня.

И графические процессоры — лишь часть расходов. Размещение, охлаждение, электроснабжение и подключение к остальной инфраструктуре компании могут обойтись не дешевле самого оборудования. Ещё есть расходы на персонал. Большинство крупных компаний никогда не обслуживали вычислительную среду высокой плотности, а специалистов с такими навыками нельзя подготовить за один квартал.

Вот почему важно сочетать базовую и пиковую мощность. Создайте достаточную закрытую инфраструктуру для обычной нагрузки, а при её превышении арендуйте дополнительные ресурсы — так вы не будете платить за оборудование, которое простаивает большую часть года. При этом вы сохраните возможность менять курс вслед за изменениями моделей и приложений — а они неизбежно будут меняться.

Планирование на будущее

В основе всего этого лежит проблема сроков. Строительство центра обработки данных занимает около двух лет. За это время модели, оборудование и приложения, которые захотят запускать крупные компании, существенно изменятся. Всё, что вы решите построить сейчас, будет обрабатывать рабочие нагрузки, которые пока никто не может полностью описать.

Компании всё ещё определяют, какие рабочие нагрузки следует размещать в закрытой среде и когда им нужны внешние вычислительные ресурсы, — это вполне нормальный этап. Важно не брать на себя инфраструктурные обязательства, которые лишат вас возможности принять решение, прежде чем вы будете к нему готовы. Оставьте возможность использовать разные модели, наращивать мощности при необходимости и перемещать рабочие нагрузки.

Долгосрочная окупаемость частного ИИ будет в меньшей степени зависеть от выбранной модели и в большей — от того, сможет ли инфраструктура развиваться вместе с уточнением ваших потребностей. Создавайте её с расчётом на сегодняшние рабочие нагрузки, сохраняйте программируемость подключений и размещайте вычислительные ресурсы там, где сеть соединяется с электроснабжением.