За межами GPU: оптимізація фабрики ШІ як системи

Фабрика ШІ — це не просто більший центр обробки даних. Її спеціально створено для виробництва інтелектуальних токенів, а не для обслуговування вебсторінок і електронної пошти. Коли гіпермасштабний хмарний провайдер або неоклауд вкладає мільярди доларів і роки в будівництво фабрики ШІ, графічні процесори, на які припадає основна обчислювальна робота, закономірно стають пріоритетом. Однак оптимізація самого GPU не означає оптимізації всієї фабрики навколо нього. Енергетичні системи й системи охолодження мають забезпечувати роботу обчислювальних потужностей, а рішення, ухвалені в одній системі, можуть суттєво впливати на інші. ШІ покликаний оптимізувати складні системи, однак фабрики, на яких його створюють, часто оптимізували по одному компоненту за раз. Технологія віртуальних двійників дає інженерам змогу побудувати й оптимізувати всю систему ще до початку будівництва.

Чому консервативне проєктування стало найбезпечнішим варіантом

З огляду на серйозні наслідки можливої відмови системи чи вузького місця, що обмежує її продуктивність, перші об’єкти будували із надмірними запасами міцності та надлишком обладнання. За відсутності чіткого плану для нового покоління центрів обробки даних обережний підхід до будівництва міг здаватися найбезпечнішим. Такі запаси допомагали захиститися від проблем на кшталт різких стрибків температури біля мікросхем, через які оператори можуть мати лише хвилину, щоб відреагувати, перш ніж обладнання вийде з ладу. На деяких ранніх об’єктах аж 10 відсотків доступної електроенергії залишалося невикористаним резервом.

На фабрики ШІ впливають температура, погодні умови, відмови обладнання, брак потужностей, недоліки проєктування та проблеми з технічним обслуговуванням. За таких високих ставок, на масштабі гігават, кожен день затримки з введенням потужностей може означати втрату доходу від генерації токенів у розмірі приблизно 100 мільйонів доларів. Обережність здавалася необхідною, коли передбачити наслідки цих проблем було неможливо.

Завдання ускладнюється ще більше, коли ці ризики охоплюють кілька незалежних систем. Робота фабрики ШІ залежить від трьох тісно пов’язаних систем: обчислювальної, енергетичної та системи терморегулювання. GPU потребує складного ланцюга електроживлення, а також не менш потужної системи охолодження, яка відводить тепло, що утворюється під час його роботи. Якщо обчислення, електропостачання й терморегулювання розглядати як окремі етапи й оптимізувати кожен у межах власної галузі, команди можуть не помітити, як рішення в одній системі впливає на інші. Це створює сліпі зони й дисбаланс, особливо коли електропостачання та охолодження вважають інфраструктурними вимогами, які можна вирішити вже після ухвалення рішень щодо обчислювальних потужностей.

Електропостачання й охолодження не можна відокремлювати від обчислень. Вони є частинами системи, від якої залежить ефективність роботи обчислювальних потужностей. Отже, потрібно перейти від оптимізації окремих систем до оптимізації всієї фабрики.

Чому потрібна спільна оптимізація

Щоб розв’язати цю проблему, потрібно перейти від незалежної оптимізації кожної системи до спільної оптимізації фабрики загалом. Фізичне будівництво змушує ухвалювати рішення послідовно: спершу проєктують одну систему, потім навколо неї будують іншу, а далі додають ще одну для підтримки попередніх. Через це складно оптимізувати фабрику як єдине ціле: кожне рішення звужує можливості для систем, які створюватимуться згодом. Для спільної оптимізації цей процес потрібно перенести у віртуальне середовище, де всю систему можна змоделювати, змінити й оцінити, перш ніж будь-що буде остаточно закріплено у фізичному світі. Так формується динамічний план.

Моделювання фабрики до її створення

Саме тут критично важливою стає технологія віртуальних двійників на рівні системи.

Віртуальний двійник використовує формальне системне моделювання, щоб відобразити обчислювальну, енергетичну та теплову інфраструктуру як єдине ціле й змоделювати фабрику ШІ ще до її фізичного створення. На відміну від традиційного цифрового двійника, зосередженого на наявному фізичному об’єкті, віртуальний двійник дає змогу моделювати систему ще до її фізичного створення. Інженери можуть випробовувати різні конфігурації й розуміти, як зміни в одній частині системи впливають на інші, перш ніж ці рішення буде втілено у фізичному світі.

Наприклад, збільшення щільності GPU — це не просто додавання обчислювальних потужностей. Воно може збільшити навантаження на електромережу, змінити вимоги до відведення тепла, вплинути на розміщення обладнання та спричинити появу нових питань, які потрібно врахувати під час введення системи в експлуатацію. Спільне моделювання цих взаємозв’язків дає інженерам змогу оцінити компроміси до початку будівництва, а не виявляти їх у міру просування проєкту.

Технологія віртуальних двійників дає інженерам змогу припуститися дорогої помилки у віртуальному середовищі, перш ніж вона стане дорогою помилкою у фізичному світі. Вона допомагає виявляти потенційні проблеми й можливості у віртуальному середовищі, щоб команди могли розв’язати проблеми ще до їхньої появи у фізичному світі. Тестування конфігурацій до фізичного введення в експлуатацію також дає змогу ще на етапі проєктування виявити й усунути непотрібні запаси міцності, невикористані потужності та марнотратне використання резервів безпеки. У великих масштабах навіть невелике скорочення таких витрат може заощадити мільйони капітальних інвестицій і прискорити початок отримання доходу.

 Перехід до прогнозного моделювання

Модель також може використовувати фізичне моделювання для прогнозування поведінки системи. Якщо фізичні чи хімічні процеси, що лежать в її основі, добре вивчені, інструменти моделювання дають змогу прогнозувати поведінку системи. Якщо ж більший потенціал дають значні обсяги експлуатаційних даних, ці моделі можна доповнити моделями ШІ та машинного навчання.

У результаті формується середовище, у якому можна досліджувати поведінку взаємопов’язаної системи й узгоджувати рішення в різних інженерних галузях. Модель також може розвиватися в міру надходження експлуатаційних даних, завдяки чому досвід, отриманий на одному об’єкті чи протягом одного експлуатаційного циклу, можна враховувати в майбутніх проєктах і рішеннях.

План створення фабрики ШІ

Галузь уже закладає основу для такого підходу. План DSX від NVIDIA закріплює еталонний проєкт фабрик ШІ гігаватного масштабу. NVIDIA почала з визначення обчислювальної частини цього плану, застосувавши системне моделювання та підхід до симуляції з використанням віртуального двійника, і запрошує партнерів екосистеми з галузей енергопостачання, охолодження та будівництва, зокрема такі компанії, як Eaton, Vertiv і Jacobs, долучитися до розробки відповідних частин проєкту. Сумісність еталонних проєктів забезпечує SysML, що підтримує визначення систем на системному рівні, а OpenUSD слугує основою для даних, орієнтованих на 3D.

Мета полягає не в тому, щоб кожна компанія оптимізувала власний компонент, а потім сподівалася, що всі компоненти працюватимуть разом. Фахівців з обчислень, енергопостачання, охолодження та інфраструктури потрібно об’єднати, щоб кожна найкраща у своєму класі технологія сприяла ефективності всієї системи.

Кожна галузь може оптимізувати роботу у своїй сфері, але для створення потужного кінцевого продукту ці системи потрібно оптимізувати спільно. У міру розвитку цього підходу він також дасть змогу перейти від поодиноких разових пілотних проєктів до систем корпоративного масштабу, здатних керувати надзвичайно складними операційними середовищами.

Оптимізація фабрики, а не лише GPU

GPU і надалі відіграватиме центральну роль у продуктивності фабрик ШІ. Але сама лише купівля найкращих GPU не оптимізує фабрику, побудовану навколо них. Наступне покоління інфраструктури ШІ залежатиме від того, чи вдасться проєктувати обчислювальні, енергетичні й теплові системи як єдине ціле, моделювати їхню взаємодію до ухвалення важливих рішень щодо фізичної інфраструктури та постійно використовувати отримані системою знання для подальших удосконалень. Ми не можемо передбачити майбутнє чи запобігти кожній помилці, але технологія віртуальних двійників може допомогти командам планувати з урахуванням невизначеності й оптимізувати фабрики ШІ як цілісну систему.