Nedbryting av Nvidias annonseringer på Computex Taipei

I en keynote som var full av elektriserende avsløringer på den nylige Computex Taipei-konferansen, tok Nvidias CEO, Jensen Huang, offentlig av sløret for Grace Hopper-plattformen. Denne innovative kombinasjonen av den energieffektive Nvidia (NVDA ) Grace CPU-en og den høytytende Nvidia H100 Tensor Core GPU markerer en ny horisont i bedriftsnivåets AI-funksjonalitet.

Avduking av Grace Hopper og DGX GH200

Dette omfattende AI-modulen var ikke den eneste bemerkelsesverdige annonseringen som ble gjort av Huang. DGX GH200, en kraftig AI-superdatamaskin, tok også rampelyset. Med ekstraordinære minneevner kan denne superdatamaskinen huske opptil 256 Nvidia Grace Hopper Superchips innenfor en GPU på størrelse med en vanlig dataklynge.

DGX GH200 er virkelig en kraftpakke, og leverer en exaflop ytelse og har en imponerende 144 terabyte delt minne. Dette overgår forgjengermodellene med en faktor på 500, og åpner døren for utviklere til å konstruere komplekse språkmodeller for neste generasjons AI-chatbots, lage avanserte algoritmer for anbefalingsystemer og bygge sofistikerte grafneurale nettverk, essensielle for svindelbekjempelse og dataanalyseoppgaver. Som Huang understreket, har teknologiledere som Google Cloud, Meta og Microsoft (MSFT ) allerede begynt å benytte seg av DGX GH200s muligheter til å håndtere sine generative AI-arbeidsbyrder.

“DGX GH200 AI-superdatamaskiner inkorporerer Nvidias mest avanserte akselererte datamaskin- og nettverksteknologier, og skyver grensene for AI,” understreket Huang.

Nvidia Avatar Cloud Engine (ACE) for spill

I en stor annonsering som satte spillutviklere i rampelyset, avslørte Huang Nvidia Avatar Cloud Engine (ACE) for spill. Denne foundry-tjenesten muliggjør at utviklere kan lage og distribuere tilpassede AI-modeller for tale, samtale og animasjon. ACE-verktøyet gir ikke-spillbare karakterer evnen til å engasjere i samtale, og responderer på spørsmål med kontinuerlig utviklende, livlige personligheter.

Dette kraftfulle verktøyet består av nøkkel AI-grunnmodeller, som Nvidia Riva for talegjenkjenning og transkripsjon, Nvidia NeMo for å lage tilpassede svar, og Nvidia Omniverse Audio2Face for å animere disse svarene.

Nvidia og Microsofts samarbeidsprosjekter

Keynoten belyste også Nvidias nye partnerskap med Microsoft for å katalysere generativ AI på Windows-PC-er. Dette samarbeidet vil utvikle bedre verktøy, rammeverk og drivere for å forenkle AI-utvikling og -distribusjon på PC-er.

Samarbeidet vil øke og utvide den installerte basisen på over 100 millioner PC-er utstyrt med RTX-GPU-er med Tensor-kjerner. Denne forbedringen lover å øke ytelsen til over 400 AI-akselererte Windows-applikasjoner og spill.

Generativ AI og digital reklame:

Ifølge Huang, har generativ AI også potensiale i digital reklame. Nvidia har gått sammen med WPP, en markedsføringsorganisasjon, for å utvikle en innovativ innholdsmotor på Omniverse Cloud-plattformen.

Denne motoren kobler kreative team med 3D-designverktøy som Adobe Substance 3D for å lage digitale tvillinger av kundevarer innenfor Nvidia Omniverse. Ved hjelp av GenAI-verktøy, drevet av Nvidia Picasso og trent på ansvarlig kildevare data, kan disse teamene nå raskt generere virtuelle sett. Denne revolusjonerende evnen muliggjør at WPPs kunder kan produsere en stor mengde reklame, videoer og 3D-erfaringer, tilpasset globale markeder og tilgjengelige på enhver webbenhet.

Digital revolusjon i produksjon

En av Nvidias hovedfokuseringer har vært produksjon, en kolossal 46 billioner dollar industri bestående av rundt 10 millioner fabrikker. Huang viste hvordan elektronikktillverkere som Foxconn Industrial Internet, Innodisk, Pegatron, Quanta og Wistron benytter Nvidias teknologier. Ved å adoptere digitale arbeidsflyter, flytter disse selskapene nærmere drømmen om fullstendig digitale smartfabrikker.

“Verdens største industrier skaper fysiske ting. Ved å bygge dem digitalt først, kan vi spare milliarder,” sa Huang.

Integrasjonen av Omniverse og generative AI-API-er har muliggjort at disse selskapene kan bygge broer mellom design- og produksjonsverktøy, og konstruere digitale tvillinger av sine fabrikker – digitale tvillinger. Videre benytter de seg av Nvidia Isaac Sim for å simulere og teste roboter og Nvidia Metropolis – et visjon AI-rammeverk – for automatisk optisk inspeksjon. Nvidias nyeste tilbud, Nvidia Metropolis for fabrikker, åpner veien for å skape tilpassede kvalitetskontrollsystemer, og gir produsentene en konkurransefordel og muliggjør at de kan utvikle avanserte AI-applikasjoner.

Konstruksjon av Nvidia Helios og introduksjon av Nvidia MG

I tillegg avslørte Nvidia den pågående konstruksjonen av den imponerende AI-superdatamaskinen, Nvidia Helios. Forventet å bli operativ senere i år, vil Helios utnytte fire sammenkoblede DGX GH200-systemer med Nvidia Quantum-2 InfiniBand-nettverk, og tilby en båndbredde på opptil 400Gb/s. Dette vil dramatisk øke dataoverføringen for å trene store AI-modeller.

I tillegg til disse banebrytende utviklingene, introduserte Nvidia Nvidia MGX, en modulær referansearkitektur som tillater systemprodusenter å lage en rekke serverkonfigurasjoner tilpasset AI-, HPC- og Nvidia Omniverse-applikasjoner på en kostnadseffektiv og effektiv måte.

Med MGX-arkitekturen kan produsentene utvikle standardiserte CPU-er og akselererte servere med modulære komponenter. Disse konfigurasjonene støtter en rekke GPU-er, CPU-er, dataprosesseringsenheter (DPUs) og nettverksadaptere, inkludert x86- og Arm-prosessorer. MGX-konfigurasjoner kan plasseres i både luft- og væskeavkjølte kabinett. Ledende selskaper som QCT og Supermicro er i ferd med å adoptere MGX-design, og andre betydelige selskaper som ASRock Rack, ASUS, GIGABYTE og Pegatron forventes å følge.

Revolusjonere 5G-infrastruktur og sky-nettverk

Ser fremover, annonserte Huang en rekke partnerskap som skal revolusjonere 5G-infrastruktur og sky-nettverk. Et bemerkelsesverdig partnerskap med en japansk telekommunikasjonsgigant vil utnytte Nvidias Grace Hopper og BlueField-3 DPUs innenfor modulære MGX-systemer for å utvikle et distribuert nettverk av dataklynger.

Ved å integrere Nvidias spectrum-etternetkoblinger, vil dataklyngene muliggjøre den nøyaktige tidsstyringen som kreves av 5G-protokollen, og føre til forbedret spektraleffektivitet og lavere energiforbruk. Plattformen har potensiale for en rekke applikasjoner, inkludert selvstyrte kjøretøy, AI-fabrikker, forsterket og virtuell virkelighet, datavisjon og digitale tvillinger.

I tillegg avslørte Huang Nvidia Spectrum-X, en nettverksplattform designet for å øke ytelsen og effektiviteten til etternet-baserte AI-skyer. Ved å kombinere Spectrum-4-etternetkoblinger med BlueField-3 DPUs og programvare, tilbyr Spectrum-X en 1,7 ganger økning i AI-ytelse og strømeffektivitet. Store systemprodusenter som Dell Technologies (DELL ), Lenovo og Supermicro tilbyr allerede Nvidia Spectrum-X, Spectrum-4-koblinger og BlueField-3 DPUs.

Etablering av generativ AI-superdatamaskinsenter

Nvidia gjør også store skritt i etableringen av generative AI-superdatamaskinsenter verden over. Bemerkelsesverdig er at selskapet konstruerer Israel-1, en statlig superdatamaskin, innenfor sitt lokale dataklynge i Israel. Denne superdatamaskinen har som mål å fremme lokale forsknings- og utviklingsinnsats.

Og i Taiwan, er to nye superdatamaskiner under utvikling: Taiwania 4 og Taipei-1. Disse tilleggene lover å signifikant øke lokale forsknings- og utviklingsinnsatser, og understreker Nvidias forpliktelse til å fremme grensene for AI og superdatamaskiner over hele verden.