Ганс Гассельбі-Андерсен, генеральний директор Lotus Microsystems — серія інтерв’ю

Ганс Гассельбі-Андерсен — генеральний директор Lotus Microsystems, має понад 20 років досвіду в напівпровідниковій галузі як засновник, керівник, член ради директорів та інвестор. Він заснував Merus Audio і керував компанією до її придбання Infineon у 2018 році, а також обіймав керівні посади в Texas Instruments, Infineon, Toccata Technology та Nokia. У своїй роботі він зосереджувався на виведенні на ринок енергоефективних напівпровідникових технологій.

Lotus Microsystems — безфабрична напівпровідникова компанія з Копенгагена, яка розробляє інтегровані перетворювачі живлення та рішення для його подавання в передовій електроніці. Її кремнієва технологія Power Interposer Technology поєднує перетворення живлення з керуванням тепловими режимами, зокрема за допомогою платформи вертикального подавання живлення vStrata для ШІ та високопродуктивних обчислень. У цьому інтерв’ю Гассельбі-Андерсен розповідає про втрати енергії на рівні серверів, обмеження традиційних архітектур живлення та про те, чому подавання живлення, охолодження й корпусування напівпровідників дедалі частіше потрібно проєктувати комплексно.

Ваша кар’єра охоплює роботу з бездротовими системами в Nokia, розроблення напівпровідників у Texas Instruments, заснування Merus Audio та керівництво компанією до її придбання Infineon, а тепер — очолення Lotus Microsystems. Як цей досвід вплинув на ваше бачення проблем із живленням і тепловими режимами, що виникають у сучасній інфраструктурі ШІ?

Я потрапив у напівпровідникову галузь майже випадково. Стартап, у якому я працював, придбала Texas Instruments, і завдяки цьому я вперше дізнався, як проєктують, виготовляють і виводять на ринок мікросхеми. Сам я не був розробником мікросхем, але дізнався про цю галузь надзвичайно багато.

Пізніше, коли я заснував Merus Audio, поштовхом до цього стало те, що я помітив очевидну прогалину на ринку: потребу зменшити втрати енергії та подовжити час роботи від акумулятора в бездротових динаміках. Відтоді я зосередився на залученні потрібних фахівців і технологій для розв’язання цієї проблеми.

Після придбання Merus компанією Infineon я деякий час працював поза напівпровідниковою галуззю, але зрештою зрозумів, що хочу повернутися до неї. У Lotus Microsystems мене привабила зосередженість команди засновників на трьох фундаментальних аспектах передової технології подавання живлення: енергоефективності, фізичних розмірах і теплових характеристиках. Ці проблеми в поданні живлення нікуди не зникають, незалежно від сфери застосування, але через ШІ вони стали особливо нагальними.

Ми спостерігаємо надзвичайний поступ у технологіях процесорів, але вся ця обчислювальна потужність пов’язана з цілком реальними фізичними обмеженнями. Мій досвід навчив мене, що розв’язання менш помітних проблем може бути не менш цінним, ніж розроблення технологій, які привертають загальну увагу.

У дискусіях про інфраструктуру ШІ зазвичай багато уваги приділяють продуктивності графічних процесорів, мережам і охолодженню. Чому, на вашу думку, подавання живлення саме по собі стає одним із найважливіших обмежень для подальшого масштабування систем ШІ?

Ми багато говоримо про те, яку обчислювальну потужність може забезпечити графічний процесор, але значно менше — про те, як ефективно подати до нього достатньо електроенергії. Сучасним прискорювачам ШІ потрібен струм силою в тисячі ампер за дуже низької напруги, а їхнє енергоспоживання може змінюватися майже миттєво залежно від навантаження. Традиційні системи подавання живлення не були розраховані на таку інтенсивність. Можна мати найпередовіший у світі процесор, але якщо не вдається забезпечити стабільне живлення саме тоді, коли воно потрібне, повністю використати його потенціал не вийде. Тому подавання живлення стає таким важливим аспектом проблеми масштабування ШІ.

Коли оператори центрів обробки даних говорять про енергоефективність, основну увагу приділяють системам охолодження та показникам на рівні об’єкта. Яка частка електроенергії насправді втрачається всередині сервера, перш ніж досягти процесора, і чому цій проблемі приділяють порівняно мало уваги?

Єдиного показника для всіх серверів немає, але втрати можуть бути значними. За нашими оцінками, у певних архітектурах із високим струмом приблизно 7–10% електроенергії може втрачатися на завершальних етапах її подавання до процесора. Ця енергія не використовується для обчислень, а перетворюється на тепло, яке потім потрібно відводити. Коли тисячі процесорів працюють цілодобово, навіть порівняно невеликі втрати стають дуже дорогими.

Одна з причин, чому цій проблемі не приділяли належної уваги, полягає в традиційному підході до вимірювання енергоефективності центрів обробки даних. Коефіцієнт ефективності використання електроенергії (Power Usage Effectiveness, PUE) став галузевим стандартом і є корисним для оцінювання накладних витрат об’єкта, зокрема на охолодження та розподіл електроенергії. Однак він не показує, наскільки ефективно електроенергію перетворюють і подають усередині самого сервера.

Я не стверджую, що ефективність охолодження неважлива; вона безумовно має значення. Але є щось трохи нелогічне в тому, щоб витрачати величезні кошти на відведення тепла й водночас недостатньо зважати на те, звідки береться частина цього зайвого тепла. Нам слід насамперед намагатися запобігти таким втратам.

Які обмеження виникають у традиційних архітектурах подавання живлення на рівні друкованої плати через дедалі більше енергоспоживання графічних процесорів та інших прискорювачів ШІ?

Проблема стає зрозумілішою, якщо подивитися, як саме живлення надходить до GPU. У традиційній конструкції перетворювачі живлення розташовані поруч із процесором, а електроенергія проходить до нього горизонтально через друковану плату. Ця відстань може здаватися незначною, але коли йдеться про тисячі амперів, важливим стає навіть невеликий опір. Втрати на опорі зростають пропорційно квадрату сили струму, тобто подвоєння струму за незмінного опору може збільшити ці втрати вчетверо.

Крім того, потрібно швидко реагувати на зміни потреби в електроенергії, підтримуючи стабільну напругу. Інженери можуть компенсувати це, додаючи конденсатори та інші компоненти, але такі рішення займають цінний простір. Зрештою, доцільніше переосмислити архітектуру, ніж і далі доповнювати наявну конструкцію.

Що потрібно змінити в способі подавання живлення від серверної стійки до процесора, щоб галузь могла й надалі підвищувати щільність обчислень, не створюючи неприйнятних проблем із тепловиділенням чи ефективністю?

На рівні стійок уже відбувається чимало інновацій, зокрема перехід до розподілу живлення за вищої напруги. Це важливо, оскільки за вищої напруги електроенергію можна передавати з меншою силою струму, зменшуючи втрати на більших відстанях. Однак зрештою напругу все одно потрібно знизити до дуже низьких значень, необхідних процесорам, і саме тут залишаються одні з найскладніших проблем.

Одна з найперспективніших розробок — вертикальне подавання живлення, за якого перетворення напруги відбувається безпосередньо під процесором, а не поруч із ним. Скорочення цього електричного шляху допомагає зменшити втрати й пришвидшити реакцію системи. Водночас виникає окрема проблема: компоненти, що виділяють тепло, розташовуються набагато ближче один до одного. Щоб такі архітектури можна було масштабно впроваджувати, потрібно перестати розглядати подавання живлення, керування тепловим режимом і компонування як окремі інженерні завдання. Їх необхідно проєктувати разом від самого початку.

Нещодавно Lotus Microsystems представила платформу вертикального подавання живлення vStrata. Яку проблему має розв’язати вертикальне подавання живлення і чим цей підхід відрізняється від традиційних архітектур живлення, які сьогодні використовують у серверах для ШІ?

Основна ідея вертикального подавання живлення доволі проста. Замість того щоб пропускати величезні струми горизонтально через друковану плату, джерело живлення розміщують безпосередньо під процесором. Це значно скорочує електричний шлях, зменшує втрати й допомагає системі швидше реагувати на зміни потреби в електроенергії.

Але важливо розрізняти наближення джерела живлення до процесора і повне розв’язання проблеми. Тепло також концентрується в меншому просторі, безпосередньо поруч із компонентами, які й без того зазнають значного теплового навантаження. Якщо не розв’язати цю проблему, можна створити нове вузьке місце, усуваючи попереднє.

Саме цю проблему ми й прагнули розв’язати за допомогою vStrata. Наша запатентована технологія кремнієвого Power Interposer дає змогу подавати живлення вертикально й водночас інтегрувати керування тепловим режимом у ту саму архітектуру. Наш перший модуль, LSC0580, розроблено для забезпечення ефективності в точці навантаження до 96% і зниження температури до 25°C в оптимізованих конфігураціях. Мета полягає не просто в тому, щоб пропускати більший струм, а в тому, щоб допомогти центрам обробки даних отримувати більше корисних обчислювальних ресурсів із тієї самої фізичної площі, зменшуючи витрати електроенергії та охолодження, необхідні для їх забезпечення.

У галузі ШІ часто вважають, що майбутнє зростання продуктивності забезпечать кращі чипи або досконаліші напівпровідникові технологічні процеси. Чи можуть удосконалення архітектури живлення зрештою бути такими ж важливими для продуктивності ШІ, як і розвиток самих процесорів?

Безумовно. Теоретична продуктивність процесора має сенс лише тоді, коли навколишня система дає змогу йому працювати на цьому рівні. Якщо подавання живлення не встигає за потребою або надмірне тепловиділення змушує систему знижувати продуктивність, ви не отримуєте всього, за що заплатили. Цікаво, що досконаліша архітектура живлення може допомогти досягти вищої стабільної продуктивності на наявному обладнанні, навіть не змінюючи сам процесор. Я б не ставив це як вибір між кращими чипами та кращою інфраструктурою. Потрібні і те, й інше, і, на мою думку, їхній взаємозв’язок ставатиме дедалі важливішим.

Центри обробки даних для ШІ вже створюють значне навантаження на електромережі в усьому світі. Наскільки вдосконалення перетворення й подавання живлення на рівні серверів може зменшити загальний енергетичний слід великомасштабної інфраструктури ШІ?

Потенціал значний, хоча його важко виразити одним числом, адже вплив залежить від архітектури й масштабу об’єкта. Підвищення ефективності на один відсотковий пункт на одному етапі перетворення не означає автоматичного скорочення загального споживання електроенергії центром обробки даних на таку саму величину.

Але уявіть, що відбувається, коли навіть помірне підвищення ефективності множиться на тисячі процесорів, які працюють безперервно. Це може означати значне скорочення марних витрат енергії, операційних витрат, капітальних витрат і обсягу тепла, яке мають відводити системи охолодження. Це особливо важливо, коли пропускна здатність електромережі вже обмежує місця та темпи будівництва нових дата-центрів.

Інакше кажучи, найекологічніша енергія — та, якої ви не спожили. Зараз багато уваги приділяють забезпеченню додаткових потужностей для підтримки розвитку ШІ, і це зрозуміло, але нас має не менше цікавити ефективніше використання вже доступної електроенергії.

З огляду на те, що апаратне забезпечення для ШІ переходить до потужніших графічних процесорів, спеціалізованих прискорювачів і дедалі щільніших обчислювальних систем, із якими технічними вузькими місцями, на вашу думку, зіткнуться фахівці з енергозабезпечення протягом наступних кількох років?

Потреба в струмі й надалі зростатиме, і ми вже бачимо пов’язані з цим труднощі. Деяким процесорам для ШІ потрібні кілька тисяч амперів, а в майбутніх конструкціях цей показник потенційно може сягнути 6 000 або навіть 8 000 амперів. Ефективно подавати такий струм і без того складно, а стабілізація напруги за швидкої зміни навантаження додає ще один рівень складності.

Галузь також схильна вважати щільність струму головним показником прогресу. Вражає можливість передавати більший струм за допомогою меншого перетворювача живлення, але якщо в меншому просторі виділяється стільки ж тепла, це не обов’язково означає, що система загалом стала кращою. Насправді проблема тепловідведення могла навіть загостритися. На мою думку, найбільших успіхів досягнуть інженери, які зможуть збалансувати ефективність, теплові характеристики, динамічну реакцію та надійність.

Які зміни в подачі живлення, охолодженні, пакуванні напівпровідників і архітектурі систем будуть необхідні для підтримки наступного значного збільшення обчислювальної потужності ШІ-інфраструктури?

Очікую, що подавання живлення буде набагато тісніше інтегроване безпосередньо з процесором. Вертикальне подавання живлення — важливий крок, але, гадаю, розвиток на цьому не зупиниться. Ми вже працюємо над тоншими модулями живлення, які можна буде вбудовувати в друковані плати, а згодом — над архітектурами, у яких більше функцій подавання живлення буде безпосередньо інтегровано в корпуси xPU. Кожен такий крок наближає живлення до місця його фактичного споживання.

Охолодження також має розвиватися відповідно до цих змін. Рідинне охолодження стає дедалі важливішим для обчислень із високою щільністю, але вдосконалення способів відведення тепла — лише частина завдання. Нам також потрібно зменшити обсяг зайвого тепла, яке ми генеруємо, і знайти кращі способи відводити його безпосередньо біля джерела.

Мабуть, найбільші зміни стосуватимуться способу розроблення цих систем. Традиційно різні компоненти апаратного комплексу часто оптимізували більш-менш незалежно один від одного. За тих рівнів потужності, до яких ми рухаємося, це стає дедалі складніше. Виробникам чипів, фахівцям із силової електроніки, інженерам із пакування та розробникам систем потрібно буде набагато тісніше співпрацювати. Роками ми розширювали можливості окремих процесорів, але наступний етап розвитку ШІ-інфраструктури вимагатиме переконатися, що вся система здатна підтримувати можливості цих процесорів.

Дякую за чудове інтерв’ю. Читачам, які хочуть дізнатися більше про вертикальне подавання живлення та терморегулювання в ШІ-інфраструктурі, варто відвідати сайт Lotus Microsystems.