Nvidia's H200 GPU waa Milestone ee Tignoolajiyada AI

Horumar la taaban karo oo xagga sirdoonka macmalka ah iyo xisaabinta, Nvidia waxay daaha ka qaaday H200 GPU, taasoo calaamad u ah waa cusub oo berrinka AI-abuurka ah. Qaybtan qaabaynta garaafyada gees-goynta ah waxay u soo baxaysaa sidii ay u cusboonaysiin lahayd kuwii ka horreeyay, H100, kaas oo si gaar ah door muhiim ah uga qaatay tababaridda qaabka luqadda weyn ee OpenAI ee horumarsan, GPT-4. Soo bandhigida H200 GPU maaha oo kaliya horumarinta tignoolajiyada; waa kicinta warshadaha AI ee kor u kacaya, wax ka qabashada baahida sii kordheysa ee shirkadaha waaweyn, kuwa bilawga ah, iyo wakaaladaha dawladda si isku mid ah.

Markii ugu horeysay ee H200 ayaa ku soo beegantay xilli dunidu ay markhaati ka tahay kobaca aan hore loo arag ee awoodaha AI, isaga oo fidinaya xuduudaha waxa mashiinadu baran karaan oo ay fulin karaan. Iyada oo la xoojiyey sifooyinkeeda iyo awoodaheeda, H200 waxay u taagan tahay marag-furka sida ay Nvidia uga go'an tahay inay riixdo xudduudaha tignoolajiyada AI. Saameynteedu waxay dhaafsiisan tahay mashiinnada barashada mashiinka iyo AI, waxay diyaar u tahay inay dib u qeexdo muuqaalka awoodda xisaabinta iyo hufnaanta adduunka dhijitaalka ah ee degdegga ah u kobcaya.

Marka aan si qoto dheer u sii wadno waxyaabaha gaarka ah ee H200, awooddeeda farsamo, iyo saamaynta qaybta AI iyo bulshada tignoolajiyada ballaaran, way caddahay in Nvidia aysan ka jawaabin oo kaliya dalabaadka hadda jira laakiin sidoo kale qaabaynta mustaqbalka horumarka AI.

Horumarka Nvidia's GPUs

Socdaalkii Nvidia's H100 ilaa H200 GPU ee dhowaan lagu dhawaaqay wuxuu koobayaa sheeko cusub oo aan joogsi lahayn iyo horumarka tignoolajiyada. H100, GPU adag oo awood leh oo iskeed u taagan, ayaa qalab ku lahaa qaar ka mid ah horumarradii AI ee ugu muhiimsanaa muddooyinkii u dambeeyay, oo ay ku jiraan tababarka OpenAI's GPT-4, oo ah nooc luqadeed oo weyn oo caan ku ah awoodihiisa casriga ah. Chip-kan, oo lagu qiyaasay inuu ku kacayo inta u dhaxaysa $25,000 iyo $40,000, ayaa udub dhexaad u ahaa horumarinta AI ee qaybaha kala duwan, isaga oo awood u leh abuurista moodallo u baahan kumanaan GPU-da oo si wadajir ah u shaqeynaya inta lagu jiro habka tababarka.

Si kastaba ha ahaatee, u boodboodka H200 waxay muujinaysaa cusboonaysiin la taaban karo marka la eego awoodda, hufnaanta, iyo kartida. H200 ma aha oo kaliya horumar korodhay; waa isbeddel isbeddel ah oo kor u qaadaya awoodda moodooyinka AI. Mid ka mid ah horumarinta muuqda ee H200 waa 141GB ee xusuusta jiilka soo socda ee "HBM3", oo loogu talagalay in si weyn loogu kordhiyo waxqabadka chip ee hawlaha "tilmaanta". Inference, wejiga halka qaabka loo tababaray uu soo saaro qoraal, sawiro, ama saadaal, ayaa muhiim u ah ku-dhaqanka la taaban karo ee AI, iyo horumarka H200 ayaa si toos ah u daboolaya baahidan.

Muhiimadda horumarka noocaas ah lama dhayalsan karo. Marka moodooyinka AI ay noqdaan kuwo sii adag oo xog-xoog leh, baahida loo qabo GPU-yada waxtarka badan ayaa cirka isku shareeray. H200, oo leh xusuusta la xoojiyey iyo awoodda ay u leedahay inay soo saarto wax soo saar ku dhawaad ​​​​laba jeer sida ugu dhakhsaha badan H100, sida lagu muujiyey tijaabooyinka iyadoo la adeegsanayo Meta's Llama 2 LLM, waxay ka dhigan tahay tallaabo muhiim ah oo lagu daboolayo baahiyahan sii kordhaya.

Waxaa intaa dheer, imaatinka H200 waxa lala kulmay rajo iyo raynrayn aad u wayn, kuma koobna oo keliya teknoolojiyadda iyo bulshooyinka AI laakiin sidoo kale suuqa ballaadhan.

Saamaynta Dhaqaale iyo Soo dhawaynta Suuqa

Daah-furka Nvidia's H200 GPU ayaa saamayn wayn ku yeeshay heerka dhaqaale ee shirkadda iyo aragtida suuqa. Horumarkan cusub ayaa kor u qaaday saamiga Nvidia, taasoo ka tarjumaysa kor u kaca in ka badan 230% 2023. Waxqabadka adag ee noocan oo kale ah ayaa muujinaya kalsoonida suuqa ee tignoolajiyada AI ee Nvidia iyo awooddeeda. Saadaasha maaliyadeed ee shirkadda ee rubucisa saddexaad, iyada oo la saadaalinayo ku dhawaad ​​$16 bilyan oo dakhli ah - oo ah koror 170% ah oo la yaab leh sannadkii hore - ayaa hoosta ka xariiqay saameynta maaliyadeed ee horumarkooda AI GPU-yada.

Kor u kaca maaliyadeed waa natiijada tooska ah ee xiisaha iyo baahida loo qabo qaybta AI, gaar ahaan GPU-yada awooda leh ee awood u leh inay qabtaan hawlaha horumarsan ee AI. Qiimaha H100 ee kala duwan ayaa horeyba u dhigay hanti qiimo sare leh ee suuqa AI. H200, oo leh awooddeeda la xoojiyey, ayaa lagu wadaa in ay sii kordhiso isbeddelkan, rafcaanka macaamiisha kala duwan ee shirkadaha waaweyn ee tiknoolajiyada ilaa hay'adaha dawladda, kuwaas oo dhammaantood doonaya inay ka faa'iidaystaan ​​awoodda AI.

Waxaa intaa dheer, soo bandhigida H200 GPU waxay keenaysaa Nvidia mawqif tartan ah oo ay la leeyihiin ciyaartoyda kale ee warshadaha, gaar ahaan AMD oo leh MI300X GPU. Tartanku kaliya maaha awooda cayriin ama awooda xusuusta laakiin sidoo kale waxa ay koobaysaa dhinacyo ay ka mid yihiin hufnaanta tamarta, wax ku oolnimada kharashka, iyo la qabsiga hawlaha kala duwan ee AI. Nvidia's H200, oo leh astaamo la cusboonaysiiyay iyo la jaanqaadka moodooyinkii hore, waxay shirkaddu si xooggan uga dhigaysaa muuqaalkan tartanka ah.

Xamaasadda suuqa ee Nvidia's AI GPUs ma aha oo kaliya fal-celin waqti-gaaban; waa ka tarjumid isbeddel ballaadhan oo dhanka farsamada ah oo ku wajahan AI iyo barashada mashiinka. Maaddaama shirkadaha iyo dawladaha ay si isa soo taraysa u maalgashadaan tignoolajiyada AI, baahida loo qabo GPU-yada waxtarka leh sida H200 ayaa la filayaa inay koraan, taasoo ka dhigaysa booska Nvidia ee suuqa xitaa mid aad muhiim u ah.