Lumai представляет оптический сервер ИИ для следующей эры вывода

Lumai объявила о значительном шаге вперед в инфраструктуре ИИ: оптической вычислительной системе, способной запускать модели крупномасштабного языкового понимания в реальном времени. Новая система, называемая Iris Nova, сигнализирует о сдвиге от традиционной обработки на основе кремния к фундаментально другому подходу, основанному на свете.

Объявление было сделано в момент, когда индустрия ИИ быстро переходит от обучения моделей к их развертыванию в крупном масштабе, что создает беспрецедентную нагрузку на существующую вычислительную инфраструктуру.

Выход за пределы ограничений кремния

На протяжении многих лет прогресс в области ИИ сильно зависел от достижений в области кремниевых чипов, особенно GPU. Но эта модель начинает показывать признаки напряжения. Потребление энергии резко увеличивается, и достижение повышения производительности становится все более трудным без значительного увеличения стоимости и энергопотребления.

Подход Lumai заменяет электроны фотонами. Вместо выполнения вычислений через электрические сигналы, ее система использует свет для обработки данных. Это позволяет добиться массовой параллельности, когда миллионы операций могут происходить одновременно в трехмерном пространстве, а не на плоских поверхностях кремния.

По заявлению компании, эта архитектура может обеспечить значительно более высокую пропускную способность, а также снизить потребление энергии на 90% по сравнению с традиционными системами.

Растущее давление на центры обработки данных

Тиминг этого запуска отражает более широкие проблемы индустрии. Нагрузки ИИ быстро расширяются, особенно в выводе, который включает запуск обученных моделей в реальных приложениях.

Центры обработки данных все чаще сталкиваются с ограничениями по энергопотреблению. Глобальный спрос на энергию для центров обработки данных ожидается удвоиться к концу десятилетия, что заставляет операторов искать нестандартные решения, такие как специализированное энергоснабжение и альтернативные источники энергии.

В то же время, масштабирование традиционного оборудования становится менее эффективным. Каждое новое поколение кремния предлагает инкрементальные улучшения, но часто требует несоразмерно большей энергии и охлаждения.

Lumai позиционирует оптическую вычислительную технику как способ обойти эти ограничения полностью, а не улучшать их инкрементально.

Как работает Iris Nova

Система Iris Nova использует гибридную архитектуру, сочетающую оптические и цифровые компоненты. Оптический двигатель обрабатывает основные математические операции, которые обеспечивают модели ИИ, в то время как традиционные цифровые системы управляют программным и контрольным обеспечением.

Этот дизайн позволяет системе интегрироваться в существующие среды центров обработки данных без необходимости полной перестройки инфраструктуры.

Одна из областей, где система особенно оптимизирована, – это стадия “предварительного заполнения” вывода, где модели обрабатывают большие объемы входных данных перед генерацией ответов. Ускоряя эту стадию, система стремится улучшить общую пропускную способность и эффективность.

Lumai сообщает, что Iris Nova может запускать модели, такие как Llama 8B и 70B, в реальном времени, что предполагает, что она способна обрабатывать рабочие нагрузки производственного масштаба, а не только экспериментальные случаи.

Сдвиг в сторону эры вывода

Запуск отражает более широкий сдвиг в приоритетах ИИ. Хотя обучение все более крупных моделей доминировало в заголовках, реальное влияние ИИ теперь определяется выводом – насколько эффективно эти модели могут быть развернуты и масштабированы.

Этот сдвиг выявляет узкие места, которые были менее заметны во время фазы обучения. Нагрузки вывода непрерывны, чувствительны к задержке и энергозатратны, что делает эффективность критическим фактором.

Система Lumai предназначена специально для этой фазы, фокусируясь на пропускной способности на ватт, а не только на сырой вычислительной мощности.

Ранний доступ и отраслевые последствия

Сервер Iris Nova теперь доступен для оценки гипермасштабируемыми компаниями, предприятиями и исследовательскими учреждениями. Дополнительные системы в семействе Iris, включая Aura и Tetra, ожидаются в будущем, что расширит возможности и варианты развертывания.

Если оптическая вычислительная техника сможет выполнить свои обещания в крупном масштабе, она может изменить экономику инфраструктуры ИИ. Снижение потребления энергии и повышение эффективности не только снизят операционные затраты, но и решат растущие проблемы, связанные с экологическим воздействием ИИ.

Хотя еще неясно, как быстро будет принята эта технология, объявление Lumai подчеркивает четкое направление: будущее вычислений ИИ может не быть построено только на кремнии.