ກ້ານໃບ ສິ່ງທີ່ຄວນຮູ້ກ່ຽວກັບ Blackwell AI Superchip ແລະສະຖາປັດຕະຍະກໍາໃຫມ່ຂອງ NVIDIA - Unite.AI
ເຊື່ອມຕໍ່ກັບພວກເຮົາ

ປັນຍາປະດິດ

ສິ່ງທີ່ຄວນຮູ້ກ່ຽວກັບ Blackwell AI Superchip ແລະສະຖາປັດຕະຍະກໍາໃຫມ່ຂອງ NVIDIA

ຈັດພີມມາ

 on

GB200 Grace Blackwell Superchip (NVIDIA)

NVIDIA, vanguard ໃນຕະຫຼາດ AI ແລະ GPU, ບໍ່ດົນມານີ້ໄດ້ປະກາດການເປີດຕົວຂອງນະວັດຕະກໍາຫລ້າສຸດຂອງຕົນ, Blackwell B200 GPU, ຄຽງຄູ່ກັບຄູ່ຮ່ວມງານທີ່ມີປະສິດທິພາບຫຼາຍ, ຊິບຊຸບເປີ GB200, ເຊັ່ນດຽວກັນກັບເຄື່ອງມືທີ່ຫນ້າປະທັບໃຈອື່ນໆທີ່ປະກອບເປັນ. ສະຖາປັດຕະຍະກຳ Blackwell. ການປະກາດນີ້ເປັນການກ້າວໄປຂ້າງຫນ້າທີ່ສໍາຄັນໃນຄວາມສາມາດໃນການປຸງແຕ່ງ AI, ເສີມສ້າງຕໍາແຫນ່ງທີ່ມີອິດທິພົນຂອງ NVIDIA ໃນອຸດສາຫະກໍາທີ່ມີການແຂ່ງຂັນສູງ. ການນໍາສະເຫນີຂອງ Blackwell B200 ແລະ GB200 ແມ່ນມາໃນເວລາທີ່ຄວາມຕ້ອງການສໍາລັບການແກ້ໄຂ AI ກ້າວຫນ້າທາງດ້ານຫຼາຍ, NVIDIA ກຽມພ້ອມທີ່ຈະຕອບສະຫນອງຄວາມຕ້ອງການນີ້.

Blackwell B200: ຍຸກໃໝ່ໃນການປະມວນຜົນ AI

ຫຼັກຂອງນະວັດຕະກໍາຫລ້າສຸດຂອງ NVIDIA ແມ່ນ Blackwell B200 GPU, ມະຫັດສະຈັນຂອງວິສະວະກໍາທີ່ມີ 20 petaflops ຂອງພະລັງງານການປຸງແຕ່ງ FP4 ທີ່ບໍ່ເຄີຍມີມາກ່ອນ, ສະຫນັບສະຫນູນໂດຍ transistors staggering 208 ຕື້. ຊຸບເປີຊິບນີ້ຢືນເປັນພະຍານເຖິງການສະແຫວງຫາຄວາມດີເລີດທາງເທັກໂນໂລຍີທີ່ບໍ່ຢຸດຢັ້ງຂອງ NVIDIA, ກໍານົດມາດຕະຖານໃຫມ່ໃນຂອບເຂດຂອງການປຸງແຕ່ງ AI.

ເມື່ອປຽບທຽບກັບລຸ້ນກ່ອນ, B200 GPU ສະແດງໃຫ້ເຫັນເຖິງການກ້າວກະໂດດຢ່າງໃຫຍ່ຫຼວງໃນທັງປະສິດທິພາບແລະການປະຕິບັດ. ຄວາມມຸ່ງຫມັ້ນຢ່າງຕໍ່ເນື່ອງຂອງ NVIDIA ຕໍ່ກັບນະວັດຕະກໍາແມ່ນເຫັນໄດ້ຊັດເຈນໃນຄວາມສາມາດຂອງຊິບໃຫມ່ນີ້ເພື່ອຈັດການກັບຕົວແບບ AI ຂະຫນາດໃຫຍ່ທີ່ມີປະສິດທິພາບກວ່າທີ່ເຄີຍມີມາກ່ອນ. ປະສິດທິພາບນີ້ບໍ່ພຽງແຕ່ໃນແງ່ຂອງຄວາມໄວໃນການປຸງແຕ່ງເທົ່ານັ້ນ, ແຕ່ຍັງຢູ່ໃນເງື່ອນໄຂຂອງການບໍລິໂພກພະລັງງານ, ເປັນປັດໃຈສໍາຄັນໃນຕະຫຼາດສິ່ງແວດລ້ອມໃນມື້ນີ້.

ຄວາມກ້າວໜ້າຂອງ NVIDIA ໃນເທັກໂນໂລຍີຊິບ AI ຍັງສະທ້ອນເຖິງລາຄາຂອງ Blackwell B200, ເຊິ່ງຖືກຕັ້ງໄວ້ລະຫວ່າງ $30,000 ຫາ $40,000. ໃນຂະນະທີ່ຈຸດລາຄານີ້ເນັ້ນໃສ່ຄວາມສາມາດຂັ້ນສູງຂອງຊິບ, ມັນຍັງເປັນສັນຍານຄວາມເຊື່ອໝັ້ນຂອງ NVIDIA ໃນມູນຄ່າຂອງຊຸບເປີຊິບເຫຼົ່ານີ້ນຳມາສູ່ຂະແຫນງ AI ທີ່ພັດທະນາຕະຫຼອດການ.

GB200 Superchip: The Power Duo

NVIDIA ຍັງໄດ້ນໍາສະເຫນີ GB200 superchip, ການລວມຕົວຂອງສອງ Blackwell B200 GPUs ທີ່ປະສົມປະສານກັບ CPU Grace. ສາມອັນທີ່ມີອໍານາດນີ້ສະແດງເຖິງຄວາມກ້າວຫນ້າທີ່ໂດດເດັ່ນໃນ AI supercomputing. GB200 ແມ່ນຫຼາຍກ່ວາພຽງແຕ່ສ່ວນລວມຂອງສ່ວນຂອງມັນ; ມັນເປັນຫນ່ວຍງານທີ່ສອດຄ່ອງກັນທີ່ຖືກອອກແບບເພື່ອຮັບມືກັບວຽກງານ AI ທີ່ສັບສົນທີ່ສຸດແລະຕ້ອງການ.

GB200 ໂດດເດັ່ນສໍາລັບຄວາມສາມາດໃນການປະຕິບັດທີ່ຫນ້າປະຫລາດໃຈ, ໂດຍສະເພາະໃນ ຮູບແບບພາສາຂະຫນາດໃຫຍ່ (LLM) inference workloads. NVIDIA ລາຍງານວ່າ GB200 ສະຫນອງເຖິງ 30 ເທົ່າຂອງປະສິດທິພາບຂອງລຸ້ນກ່ອນ, ຮູບແບບ H100. ການກ້າວກະໂດດຂອງ quantum ນີ້ແມ່ນຕົວຊີ້ວັດທີ່ຊັດເຈນຂອງທ່າແຮງຂອງ GB200 ໃນການປະຕິວັດພູມສັນຖານການປຸງແຕ່ງ AI.

ນອກເຫນືອຈາກການປະຕິບັດວັດຖຸດິບຂອງມັນ, GB200 superchip ຍັງກໍານົດມາດຕະຖານໃຫມ່ໃນພະລັງງານແລະປະສິດທິພາບຄ່າໃຊ້ຈ່າຍ. ເມື່ອປຽບທຽບກັບຮູບແບບ H100, ມັນສັນຍາວ່າຈະຫຼຸດຜ່ອນຄ່າໃຊ້ຈ່າຍໃນການດໍາເນີນງານແລະການບໍລິໂພກພະລັງງານຢ່າງຫຼວງຫຼາຍ. ປະສິດທິພາບນີ້ບໍ່ພຽງແຕ່ເປັນຜົນສໍາເລັດທາງດ້ານວິຊາການເທົ່ານັ້ນ, ແຕ່ຍັງສອດຄ່ອງກັບຄວາມຕ້ອງການທີ່ເພີ່ມຂຶ້ນສໍາລັບການແກ້ໄຂບັນຫາຄອມພິວເຕີ້ແບບຍືນຍົງແລະປະຫຍັດຄ່າໃຊ້ຈ່າຍໃນ AI.

ຄວາມກ້າວຫນ້າໃນການເຊື່ອມຕໍ່ແລະເຄືອຂ່າຍ

ເຄື່ອງຈັກຫັນປ່ຽນຮຸ່ນທີສອງຂອງ GB200 ມີບົດບາດສໍາຄັນໃນການເພີ່ມປະສິດທິພາບການຄິດໄລ່, ແບນວິດ, ແລະຂະຫນາດຂອງຕົວແບບ. ໂດຍການເພີ່ມປະສິດທິພາບການເປັນຕົວແທນຂອງ neuron ຈາກແປດບິດເຖິງສີ່, ເຄື່ອງຈັກເຮັດໃຫ້ຄວາມສາມາດຂອງຄອມພິວເຕີ້, ແບນວິດ, ແລະຂະຫນາດຕົວແບບເປັນສອງເທົ່າ. ນະວັດຕະກໍານີ້ແມ່ນກຸນແຈສໍາຄັນໃນການຄຸ້ມຄອງຄວາມສັບສົນແລະຂະຫນາດຂອງຕົວແບບ AI ທີ່ເພີ່ມຂຶ້ນເລື້ອຍໆ, ຮັບປະກັນວ່າ NVIDIA ສືບຕໍ່ເດີນຫນ້າໃນການແຂ່ງຂັນ AI.

ຄວາມກ້າວຫນ້າທີ່ໂດດເດັ່ນໃນ GB200 ແມ່ນການປ່ຽນ NVLink ທີ່ປັບປຸງ, ຖືກອອກແບບມາເພື່ອປັບປຸງການສື່ສານລະຫວ່າງ GPU ຢ່າງຫຼວງຫຼາຍ. ນະວັດຕະກໍານີ້ອະນຸຍາດໃຫ້ມີລະດັບປະສິດທິພາບແລະຂະຫນາດທີ່ສູງຂຶ້ນໃນການຕັ້ງຄ່າຫຼາຍ GPU, ແກ້ໄຂບັນຫາຫນຶ່ງໃນສິ່ງທ້າທາຍທີ່ສໍາຄັນໃນຄອມພິວເຕີ້ທີ່ມີປະສິດທິພາບສູງ.

ຫນຶ່ງໃນການປັບປຸງທີ່ສໍາຄັນໃນສະຖາປັດຕະ GB200 ແມ່ນການຫຼຸດຜ່ອນການຕິດຕໍ່ສື່ສານຢ່າງຫຼວງຫຼາຍ, ໂດຍສະເພາະໃນການຕິດຕັ້ງຫຼາຍ GPU. ປະສິດທິພາບນີ້ແມ່ນສໍາຄັນໃນການເພີ່ມປະສິດທິພາບຂອງຕົວແບບ AI ຂະຫນາດໃຫຍ່, ບ່ອນທີ່ການສື່ສານລະຫວ່າງຊິບມັກຈະເປັນຄໍຂອດ. ໂດຍການຫຼຸດຜ່ອນຄ່າໃຊ້ຈ່າຍເກີນນີ້, NVIDIA ຮັບປະກັນວ່າພະລັງງານຄອມພິວເຕີ້ຫຼາຍແມ່ນມຸ້ງໄປສູ່ວຽກງານການປຸງແຕ່ງຕົວຈິງ, ເຮັດໃຫ້ການດໍາເນີນງານ AI ມີຄວາມຄ່ອງຕົວແລະມີປະສິດທິພາບຫຼາຍຂຶ້ນ.

GB200 NVL72 (NVIDIA)

ພະລັງງານການຫຸ້ມຫໍ່: Rack NVL72

ສໍາລັບບໍລິສັດທີ່ກໍາລັງຊອກຫາຊື້ GPU ຈໍານວນຫຼວງຫຼາຍ, rack NVL72 ອອກມາເປັນການເພີ່ມເຕີມທີ່ສໍາຄັນກັບສານຫນູຂອງ NVIDIA, ເປັນຕົວຢ່າງການອອກແບບທີ່ທັນສະໄຫມໃນຄອມພິວເຕີ້ທີ່ມີຄວາມຫນາແຫນ້ນສູງ. rack ລະບາຍຄວາມຮ້ອນຂອງແຫຼວນີ້ຖືກອອກແບບເພື່ອໃຊ້ CPU ແລະ GPU ຫຼາຍອັນ, ເຊິ່ງເປັນຕົວແທນຂອງການແກ້ໄຂທີ່ເຂັ້ມແຂງສໍາລັບວຽກງານການປຸງແຕ່ງ AI ທີ່ເຂັ້ມຂຸ້ນ. ການປະສົມປະສານຂອງຄວາມເຢັນຂອງແຫຼວແມ່ນເປັນພະຍານເຖິງວິທີການປະດິດສ້າງຂອງ NVIDIA ໃນການຈັດການສິ່ງທ້າທາຍດ້ານຄວາມຮ້ອນທີ່ເກີດຈາກສະພາບແວດລ້ອມຄອມພິວເຕີ້ທີ່ມີປະສິດທິພາບສູງ.

ຄຸນລັກສະນະທີ່ສໍາຄັນຂອງ rack NVL72 ແມ່ນຄວາມສາມາດຂອງມັນທີ່ຈະສະຫນັບສະຫນູນແບບຈໍາລອງ AI ຂະຫນາດໃຫຍ່ທີ່ສຸດ, ສໍາຄັນສໍາລັບຄໍາຮ້ອງສະຫມັກທີ່ກ້າວຫນ້າທາງດ້ານເຊັ່ນການປຸງແຕ່ງພາສາທໍາມະຊາດແລະການເບິ່ງເຫັນຄອມພິວເຕີ. ຄວາມສາມາດນີ້ເພື່ອຮອງຮັບ ແລະ ແລ່ນແບບຈໍາລອງ AI ທີ່ມີປະສິດຕິພາບໄດ້ວາງ NVL72 ເປັນອົງປະກອບພື້ນຖານໂຄງລ່າງທີ່ສໍາຄັນໃນຂອບເຂດຂອງການຄົ້ນຄວ້າ ແລະການພັດທະນາ AI ທີ່ທັນສະໄໝ.

NVIDIA's NVL72 rack ຖືກກໍານົດໃຫ້ປະສົມປະສານເຂົ້າໃນການບໍລິການຟັງຂອງບໍລິສັດເຕັກໂນໂລຢີໃຫຍ່, ລວມທັງ Amazon, Google, Microsoft, ແລະ Oracle. ການເຊື່ອມໂຍງນີ້ຫມາຍເຖິງຂັ້ນຕອນທີ່ສໍາຄັນໃນການເຮັດໃຫ້ພະລັງງານການປຸງແຕ່ງ AI ລະດັບສູງສາມາດເຂົ້າເຖິງຜູ້ໃຊ້ແລະແອັບພລິເຄຊັນທີ່ກວ້າງຂວາງ, ດັ່ງນັ້ນຈຶ່ງເຮັດໃຫ້ປະຊາທິປະໄຕເຂົ້າເຖິງຄວາມສາມາດຂອງ AI ຂັ້ນສູງ.

ນອກເຫນືອຈາກການປຸງແຕ່ງ AI ເຂົ້າໄປໃນຍານພາຫະນະ AI ແລະຫຸ່ນຍົນ

NVIDIA ກໍາລັງຂະຫຍາຍຄວາມກ້າວໜ້າທາງດ້ານເທັກໂນໂລຍີຂອງຕົນເກີນກວ່າພື້ນທີ່ຄອມພິວເຕີແບບດັ້ງເດີມໄປສູ່ພາກສ່ວນຂອງຍານພາຫະນະທີ່ໃຊ້ AI ແລະຫຸ່ນຍົນມະນຸດ.

ໂຄງການ GR00T ແລະ Jetson Thor ຢືນຢູ່ໃນແຖວຫນ້າຂອງການຮ່ວມທຸລະກິດຂອງ NVIDIA ໃນຫຸ່ນຍົນ. ໂຄງການ GR00T ມີຈຸດປະສົງເພື່ອສະຫນອງຮູບແບບພື້ນຖານສໍາລັບຫຸ່ນຍົນຂອງມະນຸດ, ໃຫ້ພວກເຂົາເຂົ້າໃຈພາສາທໍາມະຊາດແລະເຮັດຕາມການເຄື່ອນໄຫວຂອງມະນຸດ. ຈັບຄູ່ກັບ Jetson Thor, ເປັນລະບົບ-on-a-chip ທີ່ຖືກອອກແບບໂດຍສະເພາະສໍາລັບຫຸ່ນຍົນ, ການລິເລີ່ມເຫຼົ່ານີ້ຫມາຍເຖິງຄວາມທະເຍີທະຍານຂອງ NVIDIA ທີ່ຈະສ້າງເຄື່ອງຈັກອັດຕະໂນມັດທີ່ສາມາດປະຕິບັດວຽກງານທີ່ກວ້າງຂວາງດ້ວຍການແຊກແຊງຂອງມະນຸດຫນ້ອຍທີ່ສຸດ.

ການພັດທະນາທີ່ຫນ້າສົນໃຈອີກອັນຫນຶ່ງແມ່ນວ່າ NVIDIA ໄດ້ນໍາສະເຫນີການຈໍາລອງຂອງການບໍລິການຄອມພິວເຕີ້ quantum. ໃນຂະນະທີ່ບໍ່ໄດ້ເຊື່ອມຕໍ່ໂດຍກົງກັບຄອມພິວເຕີ quantum ຕົວຈິງ, ບໍລິການນີ້ໃຊ້ຊິບ AI ຂອງ NVIDIA ເພື່ອຈໍາລອງສະພາບແວດລ້ອມຄອມພິວເຕີ quantum. ການລິເລີ່ມນີ້ສະເຫນີໃຫ້ນັກຄົ້ນຄວ້າເປັນເວທີເພື່ອທົດສອບແລະພັດທະນາການແກ້ໄຂຄອມພິວເຕີ້ quantum ໂດຍບໍ່ຕ້ອງໃຊ້ຊັບພະຍາກອນຄອມພິວເຕີ້ quantum ທີ່ມີຄ່າໃຊ້ຈ່າຍແລະຂາດແຄນ. ເບິ່ງໄປຂ້າງຫນ້າ, NVIDIA ວາງແຜນທີ່ຈະສະຫນອງການເຂົ້າເຖິງຄອມພິວເຕີ quantum ພາກສ່ວນທີສາມ, marking foray ຂອງຕົນເຂົ້າໄປໃນຫນຶ່ງໃນຂົງເຂດທີ່ກ້າວຫນ້າທາງດ້ານຄອມພິວເຕີ.

NVIDIA ສືບຕໍ່ຫັນປ່ຽນພູມສັນຖານ AI

ການແນະນໍາຂອງ NVIDIA ຂອງ Blackwell B200 GPU ແລະ GB200 superchip ເປັນຈຸດທີ່ມີການປ່ຽນແປງອີກໃນພາກສະຫນາມຂອງປັນຍາປະດິດ. ຄວາມກ້າວຫນ້າເຫຼົ່ານີ້ແມ່ນບໍ່ແມ່ນພຽງແຕ່ການປັບປຸງທີ່ເພີ່ມຂຶ້ນ; ພວກມັນເປັນຕົວແທນຂອງການກ້າວກະໂດດຢ່າງໃຫຍ່ຫຼວງໃນຄວາມສາມາດໃນການປຸງແຕ່ງ AI. Blackwell B200, ດ້ວຍພະລັງງານ ແລະປະສິດທິພາບການປຸງແຕ່ງທີ່ບໍ່ມີໃຜທຽບເທົ່າ, ກໍານົດມາດຕະຖານໃຫມ່ໃນອຸດສາຫະກໍາ. ຊຸບເປີຊິບ GB200 ຍົກລະດັບມາດຕະຖານນີ້ຕື່ມອີກໂດຍການສະເໜີປະສິດທິພາບທີ່ບໍ່ເຄີຍມີມາກ່ອນ, ໂດຍສະເພາະໃນຕົວແບບ AI ຂະໜາດໃຫຍ່ ແລະ ປະລິມານວຽກທີ່ສົມມຸດຕິຖານ.

ຜົນກະທົບທີ່ກວ້າງຂວາງຂອງການພັດທະນາເຫຼົ່ານີ້ຂະຫຍາຍອອກໄປໄກກວ່າຫຼັກຊັບຂອງ NVIDIA. ເຂົາເຈົ້າສົ່ງສັນຍານເຖິງການປ່ຽນແປງຄວາມສາມາດທາງດ້ານເທັກໂນໂລຍີທີ່ມີໃຫ້ສຳລັບການພັດທະນາ AI, ເປີດເສັ້ນທາງໃໝ່ສຳລັບການປະດິດສ້າງໃນທົ່ວຂະແໜງການຕ່າງໆ. ໂດຍການເພີ່ມພະລັງງານການປະມວນຜົນຢ່າງຫຼວງຫຼາຍໃນຂະນະທີ່ຍັງເນັ້ນໃສ່ປະສິດທິພາບພະລັງງານ ແລະຄວາມສາມາດໃນການຂະຫຍາຍ, ຊຸດ Blackwell ຂອງ NVIDIA ວາງພື້ນຖານສໍາລັບຄໍາຮ້ອງສະຫມັກ AI ທີ່ມີຄວາມຊັບຊ້ອນ, ຍືນຍົງ ແລະສາມາດເຂົ້າເຖິງໄດ້ຫຼາຍຂຶ້ນ.

ການກ້າວໄປຂ້າງຫນ້າໂດຍ NVIDIA ມີແນວໂນ້ມທີ່ຈະເລັ່ງຄວາມກ້າວຫນ້າໃນ AI, ຂັບລົດອຸດສາຫະກໍາໄປສູ່ການນໍາໃຊ້ທີ່ສະລັບສັບຊ້ອນ, ໃນໂລກທີ່ແທ້ຈິງ, ລວມທັງຍານພາຫະນະທີ່ໃຊ້ AI, ຫຸ່ນຍົນທີ່ກ້າວຫນ້າ, ແລະແມ້ກະທັ້ງການຂຸດຄົ້ນເຂົ້າໄປໃນການຈໍາລອງຄອມພິວເຕີ້ quantum. ຜົນກະທົບຂອງການປະດິດສ້າງເຫຼົ່ານີ້ຈະມີຄວາມຮູ້ສຶກໃນທົ່ວພູມສັນຖານເຕັກໂນໂລຊີ, ສິ່ງທ້າທາຍ paradigms ທີ່ມີຢູ່ແລ້ວແລະ paving ທາງສໍາລັບອະນາຄົດທີ່ທ່າແຮງຂອງ AI ຈໍາກັດພຽງແຕ່ການຈິນຕະນາການ.

Alex McFarland ເປັນນັກຂ່າວ AI ແລະນັກຂຽນທີ່ຄົ້ນຫາການພັດທະນາຫລ້າສຸດໃນປັນຍາປະດິດ. ລາວໄດ້ຮ່ວມມືກັບ AI startups ແລະສິ່ງພິມຕ່າງໆໃນທົ່ວໂລກ.