Раскрытие Grace Hopper и DGX GH200 от Nvidia

На недавней конференции Computex Taipei, ключевом выступлении Nvidia (NVDA ), генеральный директор Jensen Huang официально представил платформу Grace Hopper. Этот инновационный сочетание энергоэффективного процессора Nvidia Grace и высокопроизводительного графического процессора Nvidia H100 Tensor Core означает новый горизонт в функциональности искусственного интеллекта на уровне предприятия.

Представление Grace Hopper и DGX GH200

Этот комплексный модуль ИИ не был единственным замечательным объявлением, сделанным Хуаном. DGX GH200, мощный суперкомпьютер ИИ, также привлёк внимание. Обладая необыкновенными возможностями памяти, этот суперкомпьютер может разместить до 256 чипов Nvidia Grace Hopper внутри графического процессора размером с типичный центр обработки данных.

DGX GH200 действительно является мощной системой, обеспечивающей производительность на уровне экзафлопса и имеющей 144 терабайта общей памяти. Это намного превосходит его предыдущие модели, открывая двери для разработчиков, чтобы создать сложные языковые модели для следующего поколения чат-ботов ИИ, создать продвинутые алгоритмы для систем рекомендаций и построить сложные нейронные сети, необходимые для обнаружения мошенничества и задач анализа данных. Как подчеркнул Хуан, лидеры технологий, такие как Google Cloud, Meta и Microsoft (MSFT ), уже начали использовать возможности DGX GH200 для обработки своих рабочих нагрузок генеративного ИИ.

“Суперкомпьютеры DGX GH200 ИИ включают в себя наиболее современные ускоренные вычисления и сетевые технологии Nvidia, продвигая границы ИИ”, – подчеркнул Хуан.

Nvidia Avatar Cloud Engine (ACE) для игр

В крупном объявлении, которое привлекло внимание разработчиков игр, Хуан раскрыл Nvidia Avatar Cloud Engine (ACE) для игр. Этот сервис позволяет разработчикам создавать и развертывать индивидуальные модели ИИ для речи, разговора и анимации. Инструмент ACE наделяет неигровых персонажей способностью участвовать в разговоре, реагируя на запросы с постоянно эволюционирующими реалистичными личностями.

Этот мощный инструмент включает в себя ключевые модели ИИ, такие как Nvidia Riva для обнаружения и транскрипции речи, Nvidia NeMo для создания индивидуальных ответов и Nvidia Omniverse Audio2Face для анимации этих ответов.

Nvidia и Microsoft: совместные усилия

В ключевом выступлении также было подчеркнуто новое партнерство Nvidia с Microsoft, направленное на развитие генеративного ИИ на компьютерах с Windows. Это сотрудничество будет развивать улучшенные инструменты,框架 и драйверы для упрощения процесса разработки и развертывания ИИ на компьютерах.

Совместные усилия будут расширять и улучшать установленную базу более 100 миллионов компьютеров, оснащенных графическими процессорами RTX с ядрами Tensor. Это улучшение обещает повысить производительность более 400 приложений и игр с ускорением ИИ на компьютерах с Windows.

Генеративный ИИ и цифровая реклама:

По словам Хуана, потенциал генеративного ИИ также распространяется на область цифровой рекламы. Nvidia объединилась с WPP, организацией маркетинговых услуг, для разработки инновационного движка контента на платформе Nvidia Omniverse Cloud.

Этот движок соединяет творческие команды с инструментами 3D-дизайна, такими как Adobe Substance 3D, для создания цифровых двойников продуктов клиентов внутри Nvidia Omniverse. С помощью инструментов GenAI, работающих на Nvidia Picasso и обученных на ответственно полученных данных, эти команды теперь могут быстро генерировать виртуальные сеты. Эта революционная возможность позволяет клиентам WPP производить широкий спектр рекламы, видео и 3D-опыта, адаптированных для глобальных рынков и доступных на любом веб-устройстве.

Цифровая революция в производстве

Одним из основных направлений Nvidia является производство, огромная отрасль стоимостью 46 триллионов долларов, состоящая из примерно 10 миллионов заводов. Хуан продемонстрировал, как производители электроники, такие как Foxconn Industrial Internet, Innodisk, Pegatron, Quanta и Wistron, используют технологии Nvidia. Принимая цифровые рабочие процессы, эти компании приближаются к мечте о полностью цифровых умных фабриках.

“Самые крупные отрасли создают физические вещи. Создавая их цифровыми сначала, мы можем сэкономить миллиарды”, – заявил Хуан.

Интеграция Omniverse и API генеративного ИИ облегчила этим компаниям создание мостов между инструментами проектирования и производства, строя цифровые копии своих фабрик – цифровые двойники. Кроме того, они используют Nvidia Isaac Sim для симуляции и тестирования роботов и Nvidia Metropolis – каркас ИИ для автоматической оптической инспекции. Новейшее предложение Nvidia, Nvidia Metropolis для фабрик, открывает путь для создания индивидуальных систем контроля качества, давая производителям конкурентное преимущество и позволяя им разрабатывать передовые приложения ИИ.

Строительство Nvidia Helios и представление Nvidia MG

Кроме того, Nvidia раскрыла строительство потрясающего суперкомпьютера ИИ, Nvidia Helios. Ожидается, что он будет введен в эксплуатацию позже в этом году, Helios будет использовать четыре взаимосвязанных системы DGX GH200 с сетью Nvidia Quantum-2 InfiniBand, предлагающей пропускную способность до 400 Гб/с. Это существенно увеличит пропускную способность данных для обучения крупномасштабных моделей ИИ.

В дополнение к этим новаторским разработкам, Nvidia представила Nvidia MGX, модульную эталонную архитектуру, которая позволяет производителям систем создавать различные конфигурации серверов, предназначенные для ИИ, высокопроизводительных вычислений и приложений Nvidia Omniverse, эффективно и экономично.

С архитектурой MGX производители могут разрабатывать стандартизированные процессоры и ускоренные серверы, используя модульные компоненты. Эти конфигурации поддерживают ряд графических процессоров, процессоров, устройств обработки данных (DPUs) и сетевых адаптеров, включая процессоры x86 и Arm. Конфигурации MGX могут быть размещены в корпусах как с воздушным, так и с жидкостным охлаждением. Лидерами в принятии дизайна MGX являются QCT и Supermicro, и другие значительные компании, такие как ASRock Rack, ASUS, GIGABYTE и Pegatron, как ожидается, последуют их примеру.

Революционизация инфраструктуры 5G и облачных сетей

Глядя вперед, Хуан объявил о серии партнерств, направленных на революционизацию инфраструктуры 5G и облачных сетей. Одно из заметных партнерств с японским телекоммуникационным гигантом будет использовать Nvidia Grace Hopper и BlueField-3 DPU внутри модульных систем MGX для разработки распределенной сети центров обработки данных.

Интегрируя коммутаторы Nvidia Spectrum Ethernet, центры обработки данных будут обеспечивать точное время, необходимое для протокола 5G, что приведет к улучшению спектральной эффективности и снижению энергопотребления. Эта платформа имеет потенциал для широкого спектра приложений, включая автономное вождение, фабрики ИИ, дополненную и виртуальную реальность, компьютерное зрение и цифровые двойники.

Кроме того, Хуан представил Nvidia Spectrum-X, сетевую платформу, разработанную для повышения производительности и эффективности облачных сетей на основе Ethernet. Объединив коммутаторы Ethernet Spectrum-4 с DPU BlueField-3 и программным обеспечением, Spectrum-X предлагает увеличение производительности ИИ на 1,7 раза и энергоэффективности. Крупные производители систем, такие как Dell Technologies (DELL ), Lenovo и Supermicro, уже поставляют Nvidia Spectrum-X, коммутаторы Spectrum-4 и DPU BlueField-3.

Установление центра суперкомпьютеров генеративного ИИ

Nvidia также делает значительные шаги в установлении центров суперкомпьютеров генеративного ИИ по всему миру. Заметно, что компания строит Israel-1, суперкомпьютер последнего поколения, в своем местном центре обработки данных в Израиле. Этот суперкомпьютер направлен на продвижение местных исследований и разработок.

И в Тайване в настоящее время разрабатываются два новых суперкомпьютера: Taiwania 4 и Taipei-1. Эти дополнения обещают существенно повысить местные инициативы по исследованию и разработкам, укрепляя приверженность Nvidia продвижению границ ИИ и суперкомпьютеров по всему миру.