AI-modellen en platforms

Nvidia’s Aankondigingen op Computex Taipei Uiteengezet

mm
Voeg Unite.AI toe aan je voorkeursbronnen op Google

In een keynote vol elektriserende onthullingen op de recente Computex Taipei-conferentie, heeft NVIDIA’s (NVDA ) CEO, Jensen Huang, officieel de doeken van de Grace Hopper-platform gelicht. Deze innovatieve combinatie van de energie-efficiënte Nvidia Grace CPU en de high-performance Nvidia H100 Tensor Core GPU markeert een nieuwe horizon in enterprise-level AI-functionaliteit.

Onthulling van Grace Hopper en DGX GH200

Dit uitgebreide AI-module was niet de enige opmerkelijke aankondiging die Huang deed. De DGX GH200, een krachtige AI-supercomputer, nam ook de limelight. Met buitengewone geheugencapaciteiten kan deze reus van een supercomputer tot 256 Nvidia Grace Hopper Superchips huisvesten binnen een GPU van de grootte van een typisch datacenter.

De DGX GH200 is werkelijk een krachtpatser, met een prestatie van een exaflop en een indrukwekkende 144 terabyte aan gedeelde geheugen. Dit overtreft zijn voorgangers met een factor van 500, waardoor ontwikkelaars complexe taalmodellen voor volgende generatie AI-chatbots kunnen bouwen, geavanceerde algoritmen voor recommender systems kunnen creëren en geavanceerde grafische neurale netwerken kunnen ontwikkelen, essentieel voor fraude detectie en data-analyse taken. Zoals Huang uiteenzette, zijn tech-leiders zoals Google Cloud, Meta en Microsoft (MSFT ) al begonnen met het benutten van de mogelijkheden van DGX GH200 om hun generatieve AI-werklasten aan te pakken.

“DGX GH200 AI-supercomputers integreren Nvidia’s meest geavanceerde versnelde computing- en netwerktechnologieën, waardoor de grenzen van AI worden verlegd,” benadrukte Huang.

Nvidia Avatar Cloud Engine (ACE) voor Games

In een belangrijke aankondiging die game-ontwikkelaars in de schijnwerpers zette, onthulde Huang de Nvidia Avatar Cloud Engine (ACE) voor Games. Deze foundry-service stelt ontwikkelaars in staat om maatwerk AI-modellen voor spraak, conversatie en animatie te creëren en te implementeren. Het ACE-hulpmiddel geeft niet-speelbare personages de mogelijkheid om in conversatie te gaan, waardoor ze vragen kunnen beantwoorden met voortdurend evoluerende, levensechte persoonlijkheden.

Dit robuuste hulpmiddel bestaat uit sleutel AI-basismodellen, zoals Nvidia Riva voor spraakdetectie en transcriptie, Nvidia NeMo voor het creëren van aangepaste antwoorden en Nvidia Omniverse Audio2Face om deze antwoorden te animeren.

Nvidia en Microsoft’s Samenwerkingsinspanningen

De keynote belichtte ook Nvidia’s nieuwe partnerschap met Microsoft om de generatieve AI op Windows-pc’s te versnellen. Dit partnerschap zal leiden tot verbeterde tools, frameworks en drivers om het AI-ontwikkelings- en implementatieproces op pc’s te vereenvoudigen.

De samenwerkingsinspanning zal de bestaande installatiebasis van meer dan 100 miljoen pc’s met RTX-GPU’s met Tensor Cores uitbreiden. Deze verbetering belooft de prestaties van meer dan 400 AI-geaccelereerde Windows-toepassingen en games te verhogen.

Generatieve AI en Digitale Reclame:

Volgens Huang heeft de generatieve AI ook potentieel in de wereld van digitale reclame. Nvidia heeft zich aangesloten bij WPP, een marketingdienstverlener, om een innovatieve content-engine te ontwikkelen op het Omniverse Cloud-platform.

Deze engine verbindt creatieve teams met 3D-ontwerptools zoals Adobe Substance 3D om digitale tweelingen van klantproducten binnen de Nvidia Omniverse te creëren. Met behulp van GenAI-hulpmiddelen, aangedreven door Nvidia Picasso en getraind op verantwoordelijk geleverde gegevens, kunnen deze teams nu snel virtuele sets genereren. Deze revolutionaire capaciteit stelt WPP’s klanten in staat om een enorme hoeveelheid reclame, video’s en 3D-ervaringen te produceren, aangepast aan mondiale markten en toegankelijk op elk webapparaat.

Digitale Revolutie in de Productie

Een van Nvidia’s primaire focusgebieden is de productie, een kolossale $46 biljoen industrie bestaande uit ongeveer 10 miljoen fabrieken. Huang toonde aan hoe elektronica-fabrikanten zoals Foxconn Industrial Internet, Innodisk, Pegatron, Quanta en Wistron Nvidia-technologieën gebruiken. Door digitale workflows te adopteren, bewegen deze bedrijven zich steeds dichter naar de droom van volledig digitale slimme fabrieken.

“De werelds grootste industrieën creëren fysieke dingen. Door ze eerst digitaal te bouwen, kunnen we miljarden besparen,” zei Huang.

De integratie van Omniverse en generatieve AI-API’s heeft het voor deze bedrijven mogelijk gemaakt om bruggen te slaan tussen ontwerp- en productietools, waardoor digitale tweelingen van hun fabrieken kunnen worden gebouwd – digitale tweelingen. Bovendien gebruiken ze Nvidia Isaac Sim om robots te simuleren en te testen en Nvidia Metropolis – een visie AI-framework – voor geautomatiseerde optische inspectie. Nvidia’s nieuwste aanbod, Nvidia Metropolis voor Fabrieken, maakt het mogelijk om aangepaste kwaliteitscontrolesystemen te creëren, waardoor fabrikanten een concurrentievoordeel krijgen en in staat worden gesteld om geavanceerde AI-toepassingen te ontwikkelen.

Bouw van Nvidia Helios en Introductie van Nvidia MG

Bovendien onthulde Nvidia de voortdurende bouw van de verbluffende AI-supercomputer, Nvidia Helios. Verwacht wordt dat Helios later dit jaar operationeel zal worden, met vier verbonden DGX GH200-systemen met Nvidia Quantum-2 InfiniBand-netwerken, waardoor een bandbreedte van maximaal 400Gb/s wordt geboden. Dit zal de datadoorvoer voor het trainen van grote AI-modellen aanzienlijk verhogen.

Ter aanvulling van deze baanbrekende ontwikkelingen introduceerde Nvidia de Nvidia MGX, een modulaire referentiearchitectuur die systeemfabrikanten in staat stelt om een verscheidenheid aan serverconfiguraties te creëren die zijn aangepast voor AI, HPC en Nvidia Omniverse-toepassingen, op een kostenefficiënte en efficiënte manier.

Met de MGX-architectuur kunnen fabrikanten gestandaardiseerde CPUs en versnelde servers ontwikkelen met modulaire componenten. Deze configuraties ondersteunen een reeks GPUs, CPUs, dataprocessoreenheden (DPUs) en netwerkadapters, waaronder x86- en Arm-processors. MGX-configuraties kunnen worden ondergebracht in zowel lucht- als vloeistofgekoelde behuizingen. QCT en Supermicro nemen de leiding in het adopteren van de MGX-ontwerpen, terwijl andere belangrijke bedrijven zoals ASRock Rack, ASUS, GIGABYTE en Pegatron worden verwacht om te volgen.

Revolutioneren van 5G-Infrastructuur en Cloud-Netwerken

Kijkend naar de toekomst, kondigde Huang een reeks samenwerkingen aan om 5G-infrastructuur en cloud-netwerken te revolutioneren. Een opvallende samenwerking met een Japanse telecomgigant zal Nvidia’s Grace Hopper en BlueField-3 DPUs binnen modulaire MGX-systemen gebruiken om een gedistribueerd netwerk van datacenters te ontwikkelen.

Door Nvidia-spectrum-ethernet-switches te integreren, zullen de datacenters de precisie-timing mogelijk maken die nodig is voor het 5G-protocol, waardoor de spectrale efficiëntie en energieverbruik worden verbeterd. Het platform heeft potentieel voor een breed scala aan toepassingen, waaronder autonome rijden, AI-fabrieken, augmented en virtual reality, computerzicht en digitale tweelingen.

Bovendien onthulde Huang de Nvidia Spectrum-X, een netwerkplatform ontworpen om de prestaties en efficiëntie van ethernet-gebaseerde AI-wolken te verbeteren. Door Spectrum-4 Ethernet-switches te combineren met BlueField-3 DPUs en software, biedt Spectrum-X een verbetering van 1,7X in AI-prestaties en energieverbruik. Grote systeemfabrikanten, zoals Dell Technologies (DELL ), Lenovo en Supermicro, bieden al Nvidia Spectrum-X, Spectrum-4-switches en BlueField-3 DPUs aan.

Opzetten van Generatieve AI-Supercomputercentrum

Nvidia maakt ook enorme stappen in het opzetten van generatieve AI-supercomputercentra over de hele wereld. Opvallend is dat het bedrijf de Israel-1 bouwt, een state-of-the-art supercomputer, binnen zijn lokale datacenter in Israël. Deze supercomputer heeft als doel om lokale onderzoeks- en ontwikkelingsinspanningen te stimuleren.

En in Taiwan zijn twee nieuwe supercomputers momenteel in ontwikkeling: Taiwania 4 en Taipei-1. Deze toevoegingen beloven de lokale onderzoeks- en ontwikkelingsinitiatieven aanzienlijk te verhogen, waardoor Nvidia’s toewijding aan het verleggen van de grenzen van AI en supercomputing over de hele wereld wordt versterkt.

Alex leidt de door AI‑aangedreven nieuwsoperaties van Unite.AI, waarbij journalistiek, onderzoek en automatisering worden gecombineerd om tijdige en schaalbare berichtgeving over kunstmatige intelligentie te ondersteunen. Zijn werk helpt ervoor te zorgen dat opkomende AI‑ontwikkelingen efficiënt onder de aandacht worden gebracht, terwijl de redactionele normen van de publicatie worden gehandhaafd.