Освояючи звіря: як інтегровані регулятори напруги розв’язують кризу енергоспоживання штучного інтелекту

Штучний інтелект голодний. Від навчання величезних мовних моделей до забезпечення реального часу висновків у хмарі, обчислювальні вимоги штучного інтелекту стрімко зростають. Ця ненаситна апетит створила другу кризу, яка загрожує зупинити прогрес: нерозумну жагу до електричної енергії. Дані центри, сучасні собори обчислень, знаходяться на шляху до споживання значної частини електричної енергії світу, а навантаження штучного інтелекту є основним драйвером. За даними Міжнародного енергетичного агентства (МЕА), дані центри спожили приблизно 2% глобальної електричної енергії у 2022 році, і ця цифра dự kiến зросте суттєво.

Ця проблема з енергією не тільки стосується величезних рахунків за електричну енергію та екологічного впливу; це фундаментальна інженерна проблема. Самі процесори, які живлять штучний інтелект – ГПУ, ТПУ та спеціалізовані АСІК – натрапили на термічну стіну. Ви не можете просто продовжувати напихувати більше транзисторів на кристал, якщо не можете доставити енергію до них чисто та ефективно, не перегрівши кристал. Виклик полягає не тільки у генерації енергії, а й у її ефективній доставці в останні міліметри перед тим, як вона досягає кремнію. Але тепер маленький шматок технології, відомий як Інтегрований регулятор напруги (ІРН), фундаментально змінює майбутнє високопродуктивного обчислення.

Проблема “останнього дюйма” у доставці енергії

Щоб зрозуміти інновацію ІРН, потрібно спочатку зрозуміти традиційний метод живлення високопродуктивного чипа. Сучасний процесор має мільярди транзисторів, які включаються та вимикаються мільярди разів на секунду. Ці операції вимагають точного, стабільного та низьковольтного джерела постійного струму. Однак енергія, що надходить від стіни, є високовольтною змінною. Подорож від стіни до кремнію включає в себе складний ланцюг перетворення та регулювання, відомий як мережа доставки енергії (МДЕ).

Зазвичай, цей процес включає кілька стадій. Енергія перетворюється та знижується на материнській платі сервера, а остаточне, критичне перетворення здійснюється компонентом, називається регулятором напруги (РН). Ці РН зазвичай є громіздкими дискретними компонентами – колекцією контролерів, стадій живлення та великих, дротяних індукторів, які розташовані на материнській платі навколо сокету процесора.

Цей традиційний підхід має кілька критичних недоліків у добу штучного інтелекту:

1. Втрата енергії: Енергія повинна рухатися від цих зовнішніх РН через материнську плату та через упаковку чипа. Кожен міліметр цього шляху вводить опір, що призводить до значної втрати енергії (втрата I2R). Ця втрачена енергія розсіюється у вигляді тепла, яке потім повинно бути видалене ще більш енергозатратними системами охолодження.
2. Повільний час реакції: Коли процесор раптово перемикається з ідельного стану на повний робочий стан (типовий сценарій у навантаженнях штучного інтелекту, званий транзиторним навантаженням), він вимагає величезного, миттєвого потоку струму. Зовнішні РН можуть бути слишком повільними для реакції, що призводить до тимчасового падіння напруги, або “просідання”. Щоб компенсувати це, інженери повинні проектувати всю систему так, щоб вона працювала на вищій базовій напрузі, марно витрачаючи ще більше енергії.
3. Обмеження простору: Ці громіздкі зовнішні компоненти споживають цінну територію на материнській платі, простір, який можна було б використати для додаткових каналів пам’яті, швидших інтерфейсів або інших функцій, що підвищують продуктивність. Ця “пляжна територія” навколо процесора є однією з найцінніших у електроніці.

Внутрішня енергія та тонкоплівкові магнетики

Останні досягнення у технології тонкоплівкових магнетиків тепер дозволяють виготовляти високоефективні індуктори прямо на чипі або його підкладці за допомогою техніки напівпровідникового виробництва. Ці мікроскопічні, високоефективні індуктори дозволяють розмістити весь регулятор напруги всього в декількох мікрометрах від схем, які він живить.

Ця зміна місця доставляє кілька переваг:

• Зниження втрати енергії: Зменшення шляху доставки енергії з дюймів до мікрометрів суттєво знижує втрату енергії під час передачі, покращуючи загальну ефективність системи.
• Деталізоване управління енергією: Багатьох незалежних, ультранизьковольтних доменів живлення можуть постачати точно те, що потрібно кожному ядру або функціональному блоку, коли це потрібно, і вимикаються миттєво, коли це не потрібно.
• Практично миттєва реакція: Регулятори напруги на пакеті реагують на транзиторні навантаження за наносекунди, практично ліквідуючи просідання напруги та дозволяючи нижчі, більш ефективні робочі напруги без втрати продуктивності.
• Упрощений дизайн та менший розмір: Видалення регуляторів напруги з материнської плати звільняє місце на платі, спрощує дизайн та підтримує густіші, більш продуктивні архітектури.

Перепроектування майбутнього апаратного забезпечення штучного інтелекту

Переваги ІРН безпосередньо адресують найбільші виклики, з якими стикаються розробники апаратного забезпечення штучного інтелекту. Для компаній, які розробляють наступне покоління ГПУ та прискорювачів штучного інтелекту, інтегроване управління енергією не є просто “бажаним”; це технологія, що дозволяє все це зробити.

Передові техніки пакування напівпровідників, такі як чиплети та 3D-стекування, розглядаються як шлях вперед тепер, коли традиційне масштабування закону Мура сповільнюється. Ці техніки включають збір декількох менших, спеціалізованих кристалів у один потужний пакет. Як пояснюють галузеві лідери, такі як TSMC з його технологією CoWoS, цей підхід вимагає складної стратегії доставки енергії. ІРН, включаючи ті, які виготовляє Ferric, ідеально підходять для цього парадигми, забезпечуючи гранульоване, ефективне живлення, необхідне для управління цими складними, гетерогенними системами.

Виклики та висновок

Шлях до широкого впровадження не без перешкод. Інтеграція нових матеріалів та процесів у високо консервативну та складну екосистему виробництва напівпровідників – це монументальна задача.

Однак, необхідність у розв’язанні цієї проблеми є очевидною. Поточний траєкторія споживання енергії штучного інтелекту є нерозумною. Просто зменшення транзисторів вже не достатньо; необхідна цілісна перепроектування всієї системи, від програмного забезпечення до доставки енергії, потрібна. Робота компаній, таких як Ferric, становить критичну частину цієї головоломки. Виключно шляхом приборкання енергетичного звіря з самого джерела вони не тільки створюють більш ефективний компонент, а й прокладають шлях для наступного покоління штучного інтелекту та високопродуктивного обчислення.

Подорож інновацій апаратного забезпечення – це подолання перешкод. На протяженні десятиліть основний фокус був на швидкості обчислень та густині транзисторів. Сьогодні найбільш пресингуючою перешкодою є енергія. Компанії, які розв’яжуть цю проблему, визначать ландшафт обчислень на роки вперед.

Що ви думаєте, яка буде наступною великою перешкодою у проектуванні апаратного забезпечення штучного інтелекту після оптимізації доставки енергії? Як вдосконалення енергоефективності змінить економіку великомасштабного розгортання штучного інтелекту?