Ханс Хассельби-Андерсен, генеральный директор Lotus Microsystems — серия интервью

Ханс Хассельби-Андерсен — генеральный директор Lotus Microsystems. За более чем 20 лет работы в полупроводниковой отрасли он был основателем компаний, руководителем, членом совета директоров и инвестором. Он основал Merus Audio и руководил компанией до её приобретения Infineon в 2018 году, а также занимал руководящие должности в Texas Instruments, Infineon, Toccata Technology и Nokia. В своей работе он сосредоточился на выводе на рынок энергоэффективных полупроводниковых технологий.

Lotus Microsystems — полупроводниковая компания из Копенгагена, не имеющая собственного производства. Она разрабатывает интегрированные преобразователи напряжения и решения для подачи питания в передовой электронной аппаратуре. Её кремниевая технология Power Interposer Technology объединяет преобразование напряжения с отводом тепла, в том числе в вертикальной платформе подачи питания vStrata для искусственного интеллекта и высокопроизводительных вычислений. В этом интервью Хассельби-Андерсен рассказывает об энергетических потерях на уровне серверов, ограничениях традиционных архитектур электропитания и о том, почему подачу питания, охлаждение и корпусирование полупроводников всё чаще необходимо проектировать совместно.

Ваша карьера охватывает работу над беспроводными системами в Nokia и разработку полупроводников в Texas Instruments, создание Merus Audio и руководство компанией вплоть до её приобретения Infineon, а теперь — руководство Lotus Microsystems. Как этот опыт повлиял на ваш подход к проблемам электропитания и теплоотвода, возникающим в современной инфраструктуре искусственного интеллекта?

В полупроводниковую отрасль я попал почти случайно. Стартап, в котором я работал, приобрела Texas Instruments, и благодаря этому я впервые узнал, как проектируют, производят и выводят на рынок микросхемы. Сам я разработчиком микросхем не был, но многому научился о полупроводниковой отрасли.

Позже, когда я основал Merus Audio, отправной точкой стало очевидное упущение на рынке: нужно было сократить потери энергии и увеличить время работы беспроводных колонок от аккумулятора. Затем я сосредоточился на том, чтобы найти подходящих специалистов и технологии для решения этой задачи.

После приобретения Merus компанией Infineon я некоторое время работал за пределами полупроводниковой отрасли, но в итоге понял, что именно в ней хочу продолжать карьеру. Меня привлекло в Lotus Microsystems то, что команда основателей сосредоточилась на трёх ключевых характеристиках своей передовой технологии подачи питания: энергоэффективности, компактности и тепловых характеристиках. Эти задачи сохраняют актуальность при подаче питания независимо от сферы применения, но развитие искусственного интеллекта сделало их особенно острыми.

Мы наблюдаем впечатляющий прогресс в технологиях процессоров, но такая вычислительная мощность сопряжена с вполне реальными физическими ограничениями. Мой опыт показал, что решение менее заметных проблем может быть не менее ценным, чем разработка технологий, привлекающих всеобщее внимание.

В обсуждениях инфраструктуры искусственного интеллекта основное внимание обычно уделяют производительности графических процессоров, сетям и охлаждению. Почему, на ваш взгляд, подача питания сама становится одним из важнейших ограничений для дальнейшего масштабирования систем искусственного интеллекта?

Мы много говорим о вычислительной мощности графического процессора, но гораздо меньше — о том, как эффективно обеспечить его достаточным количеством электроэнергии. Современным ускорителям искусственного интеллекта требуется ток в тысячи ампер при очень низком напряжении, а их энергопотребление может меняться почти мгновенно в зависимости от рабочей нагрузки. Традиционные системы электропитания не рассчитаны на такую интенсивность. Можно иметь самый передовой процессор в мире, но, если не удаётся обеспечить стабильное питание именно тогда, когда оно нужно, полностью реализовать его потенциал не получится. Поэтому подача питания становится одним из важнейших аспектов задачи масштабирования систем искусственного интеллекта.

Когда операторы центров обработки данных говорят об энергоэффективности, основное внимание обычно уделяется системам охлаждения и показателям на уровне всего объекта. Какая доля электроэнергии теряется внутри сервера, прежде чем достичь процессора, и почему этой проблеме уделяют сравнительно мало внимания?

Единого показателя для всех серверов нет, но потери могут быть значительными. По нашим оценкам, в некоторых архитектурах с высоким током на заключительных этапах подачи питания к процессору может теряться примерно 7–10% электроэнергии. Эта энергия не используется для вычислений, а превращается в тепло, которое затем необходимо отводить. Когда тысячи процессоров работают круглосуточно, даже сравнительно небольшая неэффективность обходится очень дорого.

Одна из причин, по которой этой проблеме пренебрегали, заключается в традиционных методах оценки эффективности центров обработки данных. Показатель эффективности использования энергии (Power Usage Effectiveness, PUE) стал отраслевым стандартом и полезен для оценки накладных расходов объекта, включая охлаждение и распределение электроэнергии. Однако он не показывает, насколько эффективно электричество преобразуется и подаётся непосредственно внутри сервера.

Я не утверждаю, что эффективность охлаждения не важна; она безусловно важна. Но есть что-то нелогичное в том, чтобы тратить огромные средства на отвод тепла и при этом недостаточно внимания уделять причинам появления части этого избыточного тепла. Нужно в первую очередь стремиться предотвращать такие потери.

По мере того как графические процессоры и другие ускорители искусственного интеллекта потребляют всё больше энергии, какие ограничения проявляются у традиционных архитектур подачи питания на уровне платы?

Проблема становится понятнее, если посмотреть, как именно питание поступает к графическому процессору. В традиционной конструкции преобразователи питания располагаются рядом с процессором, а электричество проходит к нему по горизонтали через печатную плату. Это расстояние может показаться незначительным, но при передаче тысяч ампер важна даже небольшая величина сопротивления. Потери на сопротивлении растут пропорционально квадрату силы тока: если при том же сопротивлении удвоить ток, такие потери увеличатся в четыре раза.

Есть и другая сложность: нужно реагировать на резкие изменения потребности в питании, сохраняя стабильное напряжение. Инженеры могут компенсировать их, добавляя конденсаторы и другие компоненты, но для этого требуется ценное пространство. В конечном счёте переосмыслить архитектуру разумнее, чем продолжать дополнять существующую конструкцию.

Что необходимо изменить в способе подачи питания от серверной стойки к процессору, чтобы отрасль могла и дальше повышать плотность вычислений, не создавая неприемлемых проблем с тепловыделением и энергоэффективностью?

На уровне стоек уже активно внедряются инновации, в том числе переход к распределению питания с более высоким напряжением. Это важно, поскольку при более высоком напряжении электричество можно передавать с меньшей силой тока, снижая потери на больших расстояниях. Однако в конечном итоге напряжение всё равно необходимо понизить до очень низкого уровня, требуемого процессорами, — и здесь остаются одни из самых сложных задач.

Одно из наиболее перспективных решений — вертикальная подача питания, при которой преобразование питания происходит непосредственно под процессором, а не рядом с ним. Благодаря сокращению пути прохождения электрического тока уменьшаются потери и ускоряется реакция системы. Но это создаёт и новую проблему: компоненты, выделяющие тепло, оказываются гораздо ближе друг к другу. Чтобы такие архитектуры можно было применять в больших масштабах, необходимо перестать рассматривать подачу питания, отвод тепла и корпусирование как отдельные инженерные задачи. Их нужно проектировать совместно с самого начала.

Недавно компания Lotus Microsystems представила платформу вертикальной подачи питания vStrata. Какую проблему призвана решить вертикальная подача питания и чем этот подход отличается от традиционных архитектур питания, используемых сегодня в серверах для ИИ?

Основная идея вертикальной подачи питания довольно проста. Вместо того чтобы перемещать огромные токи по горизонтали через печатную плату, источник питания размещают непосредственно под процессором. Это значительно сокращает путь прохождения электрического тока, снижает потери и помогает системе быстрее реагировать на изменения потребности в питании.

Однако важно различать приближение источника питания к процессору и решение всей проблемы целиком. При этом тепло концентрируется в меньшем объёме, непосредственно рядом с компонентами, которые и без того испытывают значительную тепловую нагрузку. Если не решить эту проблему, можно создать новое узкое место, устраняя прежнее.

Именно эту задачу мы и стремились решить с помощью vStrata. Наша собственная кремниевая технология Power Interposer Technology позволяет подавать питание вертикально и одновременно интегрировать управление тепловым режимом в ту же архитектуру. Наш первый модуль LSC0580 рассчитан на эффективность до 96% в точке нагрузки; в оптимизированных конфигурациях температура снижается на величину до 25 °C. Цель состоит не просто в том, чтобы передавать больший ток, а в том, чтобы помочь центрам обработки данных получать больше полезных вычислительных ресурсов при той же физической площади, сокращая при этом затраты на питание и охлаждение, необходимые для их работы.

В индустрии ИИ часто предполагают, что будущий рост производительности будет обеспечен более совершенными чипами или передовыми технологическими процессами производства полупроводников. Могут ли усовершенствования архитектуры питания в конечном счёте оказаться столь же важными для производительности ИИ, как и развитие самих процессоров?

Безусловно. Теоретическая производительность процессора имеет значение, только если окружающая его система позволяет ему работать на таком уровне. Если подача питания не справляется с потребностями или избыточное тепловыделение заставляет систему снижать производительность, вы не получаете всего, за что заплатили. Примечательно, что более совершенная архитектура питания может помочь добиться более высокой стабильной производительности уже имеющегося оборудования, даже если сам процессор не менять. Я бы не стал представлять это как выбор между более совершенными чипами и более совершенной инфраструктурой. Нам нужны и те и другая, и, как я ожидаю, их взаимосвязь будет приобретать всё большее значение.

Центры обработки данных для ИИ уже создают значительную нагрузку на электросети по всему миру. Насколько усовершенствование преобразования и подачи питания на уровне серверов может сократить общий энергетический след крупномасштабной инфраструктуры ИИ?

Потенциал значителен, хотя выразить его одной цифрой сложно: результат зависит от архитектуры и масштаба объекта. Повышение эффективности на один процентный пункт на одном из этапов преобразования не означает автоматически такого же сокращения общего потребления электроэнергии центром обработки данных.

Но представьте, к чему приведет даже умеренное повышение эффективности, если применить его к тысячам процессоров, работающих непрерывно. Это может значительно сократить потери энергии, эксплуатационные расходы, капитальные затраты и количество тепла, с которым приходится справляться системам охлаждения. Это особенно важно, когда пропускная способность электросетей уже ограничивает возможности и темпы строительства новых центров обработки данных.

Иными словами, самая экологичная энергия — та, которую не приходится использовать. Сейчас огромное внимание уделяется получению дополнительных энергоресурсов для поддержки развития ИИ, и это понятно, но нас должно в равной степени интересовать и более эффективное использование уже доступной электроэнергии.

По мере того как в аппаратуре для ИИ все шире применяются более мощные графические процессоры, специализированные ускорители и все более плотные вычислительные системы, с какими техническими узкими местами, по вашему мнению, столкнутся инженеры по электропитанию в ближайшие несколько лет?

Потребность в токе будет и дальше расти, и мы уже видим связанные с этим трудности. Некоторым процессорам для ИИ требуется несколько тысяч ампер, а в будущих разработках этот показатель может достичь 6 000 и даже 8 000 ампер. Эффективно подавать такой ток и без того непросто, а необходимость поддерживать стабильное напряжение при быстром изменении рабочих нагрузок добавляет еще один уровень сложности.

Кроме того, отрасль склонна считать плотность тока главным показателем прогресса. Подавать больший ток с помощью более компактного преобразователя питания — впечатляющее достижение, но если при этом то же количество тепла выделяется в меньшем объеме, это не обязательно означает, что система в целом стала лучше. На самом деле тепловая проблема могла даже усугубиться. Думаю, наибольших успехов добьются инженеры, способные найти баланс между эффективностью, тепловыми характеристиками, динамическим откликом и надежностью.

Если заглянуть в будущее инфраструктуры для ИИ, какие изменения в системах подачи питания и охлаждения, корпусировании полупроводников и архитектуре систем потребуются, чтобы обеспечить следующий значительный рост вычислительных мощностей ИИ?

Думаю, мы увидим гораздо более тесную интеграцию систем подачи питания непосредственно с процессором. Вертикальная подача питания — важный шаг, но, на мой взгляд, развитие на этом не остановится. Мы уже работаем над более тонкими модулями питания, которые можно будет встраивать в печатные платы, а в перспективе — над архитектурами, в которых большая часть функций подачи питания будет интегрирована непосредственно в корпуса xPU. Каждый такой шаг приближает источник питания к месту фактического потребления энергии.

Системы охлаждения должны будут развиваться параллельно с этими изменениями. Жидкостное охлаждение становится все важнее для высокоплотных вычислительных систем, однако совершенствование отвода тепла — лишь часть решения. Нам также необходимо сократить объем избыточного тепла и найти более эффективные способы отводить его непосредственно у источника.

Пожалуй, самые значительные изменения коснутся процесса разработки таких систем. Традиционно разные компоненты аппаратного стека часто оптимизировали в некоторой степени независимо друг от друга. При тех уровнях мощности, к которым мы движемся, это становится все сложнее. Производителям микросхем, специалистам по силовой электронике, инженерам по корпусированию и разработчикам систем придется гораздо теснее сотрудничать. Годами мы расширяли возможности отдельных процессоров, но следующий этап развития инфраструктуры для ИИ будет связан с тем, чтобы вся система могла поддерживать возможности этих процессоров.

Спасибо за интересное интервью. Читателям, которые хотят подробнее узнать о вертикальной подаче питания и управлении тепловым режимом инфраструктуры для ИИ, стоит посетить Lotus Microsystems.