Nedbrytning av Nvidias tillkännagivanden på Computex Taipei

I en keynote fylld med elektrifierande avslöjanden på den nyligen avslutade Computex Taipei-konferensen, avslöjade Nvidias VD, Jensen Huang, officiellt den banbrytande Grace Hopper-plattformen. Denna innovativa kombination av den energisnåla Nvidia (NVDA ) Grace CPU och den höghastighets Nvidia H100 Tensor Core GPU markerar en ny horisont inom företagsnivå AI-funktionalitet.

Presentation av Grace Hopper och DGX GH200

Denna omfattande AI-modul var inte den enda anmärkningsvärda tillkännagivandet som Huang gjorde. DGX GH200, en kraftfull AI-superdator, tog också strålkastarljuset. Med sina extraordinära minnesförmågor kan denna superdator rymma upp till 256 Nvidia Grace Hopper Superchips inom en GPU av samma storlek som en vanlig datacenter.

DGX GH200 är verkligen en kraftmaskin som levererar en exaflop prestanda och har en imponerande 144 terabyte delad minne. Detta överträffar dess föregångare med en faktor på 500, vilket öppnar dörren för utvecklare att konstruera komplexa språkmodeller för nästa generations AI-chattbotar, skapa avancerade algoritmer för rekommendationssystem och bygga sofistikerade grafiska neurala nätverk, avgörande för bedrägeridetektering och dataanalysuppgifter. Som Huang påpekade har techledare som Google Cloud, Meta och Microsoft (MSFT ) redan börjat utnyttja DGX GH200:s förmågor för att hantera sina generativa AI-arbetsbelastningar.

“DGX GH200 AI-superdatorer integrerar Nvidias mest avancerade accelererade datorteknik och nätverksteknik, vilket driver gränserna för AI”, betonade Huang.

Nvidia Avatar Cloud Engine (ACE) för spel

I en stor tillkännagivande som satte spelutvecklare i rampljuset, avslöjade Huang Nvidia Avatar Cloud Engine (ACE) för spel. Denna foundry-tjänst möjliggör för utvecklare att skapa och distribuera anpassade AI-modeller för tal, konversation och animation. ACE-verktyget ger icke-spelbara karaktärer förmågan att engagera sig i konversation, vilket svarar på frågor med kontinuerligt utvecklade livliknande personligheter.
Detta kraftfulla verktyg består av nyckel-AI-grundmodeller, såsom Nvidia Riva för talsökning och transkription, Nvidia NeMo för att skapa anpassade svar och Nvidia Omniverse Audio2Face för att animera dessa svar.

Nvidia och Microsofts samarbetsinsatser

Keynoten belyste också Nvidias nya partnerskap med Microsoft för att katalysera framväxten av generativ AI på Windows-datorer. Detta samarbete kommer att utveckla förbättrade verktyg, ramverk och drivrutiner för att förenkla AI-utvecklings- och distributionsprocessen på datorer.
Samarbetet kommer att öka och expandera den installerade basen av över 100 miljoner datorer utrustade med RTX-GPU:er med Tensor-kärnor. Denna förbättring lovar att öka prestandan för över 400 AI-accelererade Windows-applikationer och spel.

Generativ AI och digital annonsering:

Enligt Huang sträcker sig den generativa AI:ns potential även till området digital annonsering. Nvidia har gått samman med WPP, en marknadsföringstjänst, för att utveckla en innovativ innehållsmotor på Omniverse Cloud-plattformen.
Denna motor kopplar ihop kreativa team med 3D-designverktyg som Adobe Substance 3D för att skapa digitala tvillingar av kundprodukter inom Nvidia Omniverse. Genom att använda GenAI-verktyg, som drivs av Nvidia Picasso och tränade på ansvarsfullt källmaterial, kan dessa team nu snabbt generera virtuella miljöer. Denna revolutionerande förmåga möjliggör för WPP:s kunder att producera en mängd olika annonser, videor och 3D-upplevelser, anpassade för globala marknader och tillgängliga på alla webbenheter.

Digital revolution inom tillverkning

En av Nvidias primära fokusområden har varit tillverkning, en enorm 46 biljoner dollar industri som består av cirka 10 miljoner fabriker. Huang visade hur elektroniktillverkare som Foxconn Industrial Internet, Innodisk, Pegatron, Quanta och Wistron använder Nvidias tekniker. Genom att anta digitala arbetsflöden närmar sig dessa företag alltmer den fullständigt digitala smarta fabriken.

“Världens största industrier skapar fysiska saker. Genom att bygga dem digitalt först kan vi spara miljarder”, sa Huang.

Integreringen av Omniverse och generativa AI-API:er har möjliggjort för dessa företag att skapa broar mellan design- och tillverkningsverktyg, konstruerande digitala tvillingar av sina fabriker. Dessutom använder de Nvidia Isaac Sim för att simulera och testa robotar och Nvidia Metropolis – en vision AI-ramverk – för automatiserad optisk inspektion. Nvidias senaste erbjudande, Nvidia Metropolis för fabriker, banar väg för skapandet av anpassade kvalitetskontrollsystem, vilket ger tillverkare en konkurrensfördel och möjliggör utveckling av avancerade AI-applikationer.

Konstruktion av Nvidia Helios och introduktion av Nvidia MG

Dessutom avslöjade Nvidia den pågående konstruktionen av den imponerande AI-superdatorn, Nvidia Helios. Förväntad att bli operativ senare i år kommer Helios att utnyttja fyra sammanlänkade DGX GH200-system med Nvidia Quantum-2 InfiniBand-nätverk, som erbjuder en bandbredd på upp till 400 Gb/s. Detta kommer att dramatiskt öka dataöverföringshastigheten för utbildning av storskaliga AI-modeller.

I kombination med dessa banbrytande utvecklingar introducerade Nvidia Nvidia MGX, en modulär referensarkitektur som tillåter systemtillverkare att skapa en mängd olika serverkonfigurationer anpassade för AI, HPC och Nvidia Omniverse-applikationer på ett kostnadseffektivt och effektivt sätt.

Med MGX-arkitekturen kan tillverkare utveckla standardiserade CPU:er och accelererade servrar med hjälp av modulära komponenter. Dessa konfigurationer stöder en mängd olika GPU:er, CPU:er, dataprocessorenhet (DPU:er) och nätverkskort, inklusive x86- och Arm-processorer. MGX-konfigurationer kan placeras i både luft- och vätskekylda skal.

Revolutionera 5G-infrastruktur och molnnätverk

Med blickarna riktade mot framtiden tillkännagav Huang en serie partnerskap som syftar till att revolutionera 5G-infrastruktur och molnnätverk. Ett notabelt partnerskap med en japansk telekomjätte kommer att utnyttja Nvidias Grace Hopper och BlueField-3 DPU:er inom modulära MGX-system för att utveckla ett distribuerat nätverk av datacenter.

Genom att integrera Nvidias spektrum ethernet-switchar kommer datacentren att möjliggöra den precisa tidssynkronisering som krävs av 5G-protokollet, vilket leder till förbättrad spektraleffektivitet och lägre energiförbrukning. Plattformen har potential för en mängd olika tillämpningar, inklusive autonom körning, AI-fabriker, förstärkt och virtuell verklighet, datorseende och digitala tvillingar.

Dessutom avslöjade Huang Nvidia Spectrum-X, en nätverksplattform utvecklad för att förbättra prestandan och effektiviteten hos ethernet-baserade AI-moln. Genom att kombinera Spectrum-4 Ethernet-switchar med BlueField-3 DPU:er och programvara erbjuder Spectrum-X en 1,7 gånger förbättring av AI-prestanda och effektivitet. Stora systemtillverkare som Dell Technologies (DELL ), Lenovo och Supermicro tillhandahåller redan Nvidia Spectrum-X, Spectrum-4-switchar och BlueField-3 DPU:er.

Etablering av generativ AI-superdatorcenter

Nvidia gör också stora framsteg i etableringen av generativa AI-superdatorcenter över hela världen. Framför allt konstruerar företaget Israel-1, en toppmodernt superdator, inom sitt lokala datacenter i Israel. Denna superdator syftar till att driva lokala forsknings- och utvecklingsinsatser.

Och i Taiwan utvecklas för närvarande två nya superdatorer: Taiwania 4 och Taipei-1. Dessa tillägg lovar att betydligt förbättra lokala forsknings- och utvecklingsinitiativ, vilket förstärker Nvidias åtagande att främja gränserna för AI och superdatorer över hela världen.