Прискорювачі штучного інтелекту Habana Labs будуть використовуватися в суперкомп’ютері Voyager

Сан-Дієзький суперкомп’ютерний центр (SDSC) у UC San Diego вибрав прискорювачі штучного інтелекту (AI) компанії Habana Labs для навчання та висновку, щоб забезпечити високопродуктивне та високоефективне обчислення AI в своєму суперкомп’ютері Voyager. Habana Labs є провідним розробником прискорювачів глибокого навчання.

Суперкомп’ютер Voyager

Суперкомп’ютер Voyager буде масштабувати можливості навчання AI за допомогою унікальної технології міжключових зв’язків Habana, зокрема 336 процесорів Gaudi. Ці процесори особливо добре підходять для масштабування великих застосунків навчання суперкомп’ютерів, а Gaudi є єдиним процесором AI в галузі, який може безпосередньо інтегрувати десять 100-Гігабітних портів Ethernet RoCE v2 на кристалі. Це забезпечує гнучкість масштабування та допомагає уникнути обмежень пропускної здатності, які можуть обмежувати можливості масштабування. Крім того, система Voyager також містить 16 процесорів Habana Goya, які використовуються для підтримки моделей висновку AI.

Амітава Маджумдар є керівником відділу обчислювальної науки, що підтримується даними, в SDSC та головним дослідником проекту Voyager.

«З інноваційними рішеннями, оптимізованими для операцій глибокого навчання та навантажень AI, прискорювачі Habana є ідеальними варіантами для забезпечення майбутніх досліджень AI в рамках проекту Voyager», — сказав Маджумдар. «Ми очікуємо на партнерство з Habana, Intel та Supermicro, щоб привнести цю унікально ефективну класу обчислювальних можливостей до програми Voyager, надаючи академічним дослідникам доступ до одного з найбільш потужних систем, орієнтованих на AI, які доступні сьогодні».

Продуктивність та ефективність операцій AI підвищуються завдяки процесорам навчання AI Gaudi та висновку Goya. Для вчених-дослідників, які мають доступ до Voyager, вони зможуть налаштовувати моделі за допомогою програмованих ядер процесора тензорів та бібліотек ядер. Вони також зможуть полегшити реалізацію, покладаючись на платформу програмного забезпечення SynapseAI компанії Habana. Платформа підтримує популярні кадри машинного навчання та моделі AI для застосунків, таких як зору, обробки природної мови та систем рекомендацій.

Системи AI, надані Supermicro

Системи AI на основі Habana будуть надані для Voyager компанією Supermicro, світовим лідером у сфері корпоративних обчислень, зберігання даних, мережевих технологій та зелених технологій обчислень, а також технологічним партнером проекту Voyager.

Системи включають:

• Система навчання AI Supermicro X12 Gaudi – вісім карт Gaudi HL-205, поєднаних з двома сокетами процесорів 3-го покоління Intel Xeon Scalable.
• Суперсервер Supermicro SuperServer 4029GP-T з вісьмома картами Goya HL-100 PCLe для висновку AI, поєднаними з двома сокетами процесорів 2-го покоління Intel Xeon Scalable.

Рей Панг є віцепрезидентом з питань технологій та бізнес-забезпечення в компанії Supermicro.

«Пов’язування передових аплікаційно-оптимізованих серверів та систем зберігання Supermicro з продуктами навчання та висновку AI компанії Habana є найкращим рішенням для багаторічного проекту AI Voyager в SDSC», — сказав Панг. «Ми продовжимо тісно співпрацювати з провідними інноваторами, щоб доставляти рішення для обчислень, інтенсивних проектів у всьому світі в провідних наукових та медичних середовищах відкриття, обчислень та передових рішень AI».

Ейтан Медіна є головним бізнес-офіцером компанії Habana.

«Ми почтовані тим, що процесори AI компанії Habana були вибрані для забезпечення навантажень AI, які будуть виконуватися на суперкомп’ютері Voyager в Сан-Дієзькому суперкомп’ютерному центрі», — сказав Медіна. «Ця реалізація наших продуктів Gaudi та Goya демонструє, як провідні академічні установи, такі як SDSC, можуть використовувати ефективність та продуктивність для ефективного вирішення зростаючих вимог навантажень дослідження AI».

Система буде перебувати у тестовій фазі під час перших трьох років роботи, і SDSC буде співпрацювати з дослідницькими командами з астрономії, кліматичних наук, хімії, фізики частинок та інших галузей. Під час цієї тестової фази SDSC буде співпрацювати з спільнотою досліджень AI та документувати процеси, які можуть бути використані як ресурс у майбутньому.

Тріш Дамкроґер є віцепрезидентом та керівником групи високопродуктивних обчислень компанії Intel.

«Рівень продуктивності та ефективності, який буде необхідний для Voyager, є саме тим, для чого призначені архітектури Intel», — сказала Дамкроґер. «Наші процесори Xeon Scalable, поєднані з прискорювачами AI компанії Habana, забезпечать те, що користувачі Voyager матимуть необхідні їм можливості високопродуктивних обчислень та AI для своїх революційних досліджень».