За пределами GPU: оптимизация фабрики ИИ как системы

Фабрика ИИ — это не просто более крупный центр обработки данных. Она специально предназначена для производства интеллектуальных токенов, а не для обслуживания веб-страниц и электронной почты. Когда гиперскейлер или неооблачный провайдер вкладывает миллиарды долларов и годы работы в строительство фабрики ИИ, графические процессоры, выполняющие основную вычислительную работу, естественным образом становятся приоритетом. Но оптимизация одних только GPU не означает оптимизации всей фабрики. Системы электропитания и терморегулирования должны обеспечивать работу вычислительных мощностей, а решения, принятые в одной системе, могут существенно повлиять на другие. Искусственный интеллект предназначен для оптимизации сложных систем, однако фабрики, на которых его создают, часто оптимизировали по одному компоненту за раз. Технология виртуальных двойников позволяет инженерам создавать и оптимизировать всю систему ещё до начала строительства.

Почему консервативное проектирование стало самым безопасным решением

Поскольку последствия отказа системы или узкого места, снижающего производительность, могли быть крайне серьёзными, первые объекты строили с чрезмерным запасом прочности и избыточным оборудованием. Без плана развития центров обработки данных нового поколения осторожный подход к строительству мог казаться самым безопасным решением. Такие запасы помогали защититься от проблем, например резких скачков температуры рядом с микросхемами: в этом случае у операторов может остаться всего минута на реакцию, прежде чем оборудование выйдет из строя. На некоторых ранних объектах до 10 процентов доступной мощности оставалось неиспользованным резервом.

Фабрики ИИ подвержены влиянию температуры и погодных условий, отказов оборудования, недостаточной мощности, недостатков проектирования и проблем с техническим обслуживанием. При столь высоких ставках и гигаваттных масштабах каждый день задержки с вводом мощностей может означать потерю дохода от генерации токенов в размере примерно 100 миллионов долларов. Когда предсказать последствия таких проблем было невозможно, осторожность казалась необходимой.

Задача становится ещё сложнее, когда эти риски затрагивают несколько независимых систем. Работа фабрики ИИ зависит от трёх тесно взаимосвязанных систем: вычислительных мощностей, электропитания и терморегулирования. Для работы GPU требуется сложная цепочка электропитания, а для отвода выделяемого им тепла — столь же сложная система терморегулирования. Если рассматривать вычислительные мощности, электропитание и терморегулирование как отдельные этапы и оптимизировать каждую область по отдельности, команды могут не заметить, как решение в одной системе влияет на остальные. Это создаёт слепые зоны и дисбаланс, особенно когда электропитание и охлаждение считают инфраструктурными требованиями, которые можно учесть уже после принятия решений о вычислительных мощностях.

Электропитание и охлаждение нельзя отделять от вычислительных мощностей. Они входят в систему, от которой зависит эффективность вычислений. Поэтому необходимо перейти от оптимизации отдельных систем к оптимизации фабрики целиком.

Почему необходима совместная оптимизация

Для этого нужно перейти от независимой оптимизации каждой системы к совместной оптимизации фабрики в целом. Физическое строительство заставляет принимать решения последовательно: сначала проектируют одну систему, затем вокруг неё строят другую, а после добавляют ещё одну, чтобы поддержать их работу. Поэтому оптимизировать фабрику целиком сложно: каждое решение сужает выбор для систем, которые проектируют позже. Для совместной оптимизации процесс необходимо перенести в виртуальную среду, где всю систему можно смоделировать, изменить и оценить до того, как что-либо будет окончательно закреплено физически. Так создаётся динамический план проекта.

Моделирование фабрики до её появления

Именно здесь критически важную роль играет технология виртуальных двойников на уровне системы.

Виртуальный двойник использует формальное моделирование систем, чтобы совместно представить вычислительные мощности, электропитание и тепловую инфраструктуру, и позволяет смоделировать фабрику ИИ ещё до её физического создания. В отличие от традиционного цифрового двойника, который представляет собой существующий физический объект, виртуальный двойник позволяет моделировать систему до её физического создания. Он даёт инженерам возможность тестировать различные конфигурации и выяснять, как изменения в одной части системы повлияют на остальные, прежде чем эти решения воплотятся в реальность.

Например, увеличение плотности размещения GPU — это не просто добавление вычислительных мощностей. Оно может увеличить электрическую нагрузку, изменить требования к отводу тепла, повлиять на размещение оборудования и повлечь за собой новые задачи при вводе объекта в эксплуатацию. Совместное моделирование этих взаимосвязей позволяет инженерам оценить компромиссы до начала строительства, а не выявлять их по мере реализации проекта.

Технология виртуальных двойников позволяет инженерам совершить дорогостоящую ошибку в виртуальной среде, прежде чем она станет дорогостоящей ошибкой в реальном мире. Она помогает выявлять потенциальные проблемы и возможности в виртуальной среде, чтобы команды могли устранить проблемы до их появления в реальности. Проверка конфигураций до физического ввода в эксплуатацию также позволяет выявлять и устранять ещё на этапе проектирования избыточные запасы, неиспользуемую мощность и потери из-за резервов безопасности. В крупном масштабе даже небольшое сокращение таких потерь может обеспечить экономию капитальных затрат в миллионы и ускорить получение дохода.

 Как сделать модель предиктивной

Модель также может использовать физическое моделирование для прогнозирования поведения системы. Если лежащие в основе процессы физики или химии хорошо изучены, инструменты моделирования могут предсказывать поведение системы. Когда более эффективный подход обеспечивают обширные эксплуатационные данные, эти модели можно дополнить моделями искусственного интеллекта и машинного обучения.

В результате создаётся среда, позволяющая изучать поведение взаимосвязанной системы и координировать решения в разных инженерных областях. По мере поступления эксплуатационных данных модель также может развиваться, а выводы, полученные на одном объекте или в ходе одного рабочего цикла, — учитываться при разработке будущих проектов и принятии решений.

Концепция фабрики ИИ

Отрасль уже закладывает основу для такого подхода. В концепции DSX NVIDIA закрепляет эталонную архитектуру фабрик ИИ гигаваттного масштаба. NVIDIA начала с описания вычислительной части этой концепции, применив системное моделирование и имитационное моделирование с использованием виртуального двойника, и приглашает к участию партнёров из разных сфер экосистемы — энергетики, охлаждения и строительства, в том числе такие компании, как Eaton, Vertiv и Jacobs, — чтобы они внесли свой вклад в разработку соответствующих частей проекта. Совместимость эталонных проектов обеспечивается с помощью языка SysML , который поддерживает описание системы на системном уровне, тогда как OpenUSD служит основой для работы с данными, ориентированными на 3D.

Задача не в том, чтобы каждая компания оптимизировала свой компонент, а затем рассчитывала, что все компоненты будут работать вместе. Необходимо объединить компетенции в области вычислений, энергетики, охлаждения и инфраструктуры объектов, чтобы каждая передовая технология повышала эффективность всей системы.

Каждая отрасль может оптимизировать процессы в своей сфере, но для создания мощного конечного продукта необходимо оптимизировать эти системы совместно. По мере развития такой подход позволит инфраструктуре ИИ перейти от изолированных разовых пилотных проектов к системам корпоративного масштаба, способным управлять чрезвычайно сложными операционными средами.

Оптимизация фабрики, а не только графического процессора

Графический процессор останется ключевым элементом производительности фабрики ИИ. Но сама по себе покупка лучших графических процессоров не оптимизирует фабрику, в которой они используются. Инфраструктура ИИ следующего поколения будет зависеть от того, насколько эффективно вычислительные системы, энергоснабжение и системы отвода тепла спроектированы как единое целое, насколько тщательно взаимосвязи между ними смоделированы до принятия серьёзных решений о физических объектах и насколько последовательно полученные системой знания используются для дальнейшего совершенствования. Мы не можем предсказать будущее или предотвратить каждую ошибку, но технология виртуальных двойников поможет командам планировать с учётом неопределённости и оптимизировать фабрики ИИ как единую систему.