Akcelerátory umělé inteligence Habana Labs budou použity v superpočítači Voyager

San Diego Supercomputer Center (SDSC) na univerzitě UC San Diego vybral akcelerátory umělé inteligence (AI) pro školení a inferenci od Habana Labs pro poskytování vysoce výkonného a efektivního AI výpočtu ve svém superpočítači Voyager. Habana Labs je vedoucím vývojářem akcelerátorů hlubokého učení.

Superpočítač Voyager

Superpočítač Voyager bude škálovat kapacitu školení AI s unikátní technologií propojení od Habana, zejména 336 procesorů Gaudi. Tyto procesory jsou zvláště vhodné pro škálování velkých aplikací školení superpočítačů a Gaudi je jediný AI procesor v oboru, který může nativně integrovat deset 100-Gigabit Ethernet portů RoCE v2 na čipu. To umožňuje flexibilitu škálování a pomáhá tránhovat úzká místa propustnosti, která mohou omezit škálovatelnost. Kromě toho systém Voyager také obsahuje 16 procesorů Habana Goya, které se používají pro napájení modelů AI inference.

Amitava Majumdar je hlavou divize Data Enables Scientific Computing v SDSC a hlavní investigátor projektu Voyager.

„S inovativními řešeními optimalizovanými pro operace hlubokého učení a AI pracovní zátěže jsou akcelerátory Habana ideální volbou pro napájení budoucích AI výzkumů Voyageru,“ řekl Majumdar. „Těšíme se na spolupráci s Habana, Intel a Supermicro, abychom přinesli tuto unikátně efektivní třídu výpočetních schopností do programu Voyager, a poskytli akademickým výzkumníkům přístup k jednomu z nejvýkonnějších AI zaměřených systémů dostupných dnes.“

Výkon a efektivita AI operací se zvyšují s procesory AI školení Gaudi a inferenci Goya od Habana. Pro datové vědce a výzkumníky, kteří mají přístup k Voyageru, budou moci přizpůsobit modely s programovatelnými Tensor Processor Cores a kernel knihovnami. Budou také moci usnadnit implementaci spoléháním se na softwarovou platformu SynapseAI od Habana. Platforma podporuje populární rámce strojového učení a AI modely pro aplikace, jako je zpracování vidění, zpracování přirozeného jazyka a systémy doporučení.

AI systémy poskytované Supermicro

Systémy AI založené na Habana budou pro Voyager poskytovány Supermicro, globálním lídrem v oblasti podnikového výpočtu, úložiště, sítí a zelené výpočetní technologie, jakož i technologickým partnerem Voyageru.

Systémy zahrnují:

• Systém Supermicro X12 Gaudi AI Training – osm karet Gaudi HL-205 spárovaných s procesory dual-socket 3rd Gen Intel Xeon Scalable.
• SuperServer 4029GP-T Supermicro s osmi kartami Goya HL-100 PCLe pro AI inference, spárovanými s procesory dual-socket 2nd Gen Intel Xeon scalable.

Ray Pang je viceprezidentem pro technologii a obchodní umožnění ve společnosti Supermicro.

“Kombinace pokročilého aplikačně optimalizovaného serveru a úložiště Supermicro s produkty AI školení a inference od Habana je nejlepší řešení pro víceletý projekt AI Voyager SDSC,” řekl Pang. “Pokračujeme v úzké spolupráci s předními inovátory, abychom poskytli řešení pro výpočetně náročné projekty po celém světě v předních výzkumných a HPC prostředích pro vědecké a lékařské objevy, výpočet a přední AI řešení.”

Eitan Medina je Chief Business Officer v Habana.

“Jsme poctěni, že akcelerátory AI Habana byly vybrány pro napájení AI pracovních zátěží, které budou spuštěny na superpočítači San Diego Supercomputer Center Voyager,” řekl Medina. “Tato implementace našich produktů Gaudi a Goya ukazuje, jak mohou přední akademické instituce, jako je SDSC, využít efektivitu a výkon k efektivnímu řešení rostoucích požadavků AI výzkumných pracovních zátěží.”

Systém bude ve fázi testováníprvních tří let provozu a SDSC bude spolupracovat s výzkumnými týmy z astronomie, klimatických věd, chemie, částicové fyziky a dalších oborů. Během této testovací fáze bude SDSC spolupracovat s AI výzkumnou komunitou a dokumentovat procesy, které by mohly být použity jako zdroj v budoucnu.

Trish Damkroger je viceprezidentem a generálním manažerem skupiny High Performance Computing ve společnosti Intel.

“Úroveň výkonu a efektivnosti, kterou Voyager bude vyžadovat, je přesně to, pro co jsou architektury Intel navrženy,” řekl Damkroger. “Naše procesory Xeon Scalable spárované s akcelerátory AI Habana zajistí, že uživatelé Voyageru budou mít HPC a AI schopnosti, které potřebují pro své průlomové výzkumy.”