Доктор Сяньсинь Гуо, генеральный директор и сооснователь Lumai – Серия интервью

Доктор Сяньсинь Гуо, генеральный директор и сооснователь Lumai, является физиком и предпринимателем в области глубоких технологий, специализирующимся на оптических вычислениях и аппаратном обеспечении ИИ, с докторской степенью в области квантовой физики и нелинейной оптики Гонконгского университета науки и технологий. Ранее он занимал исследовательские должности, включая постдокторскую позицию в Университете Калгари и стипендию 1851 года в Университете Оксфорда, где он внес вклад в развитие фотоники и ускорения ИИ. Растя из Lumai от руководителя исследований до генерального директора, он является основным изобретателем за основной технологией компании и имеет более десяти лет опыта на пересечении физики, машинного обучения и передовых вычислительных систем.

Lumai – это спин-офф Оксфордского университета, разрабатывающий процессоры следующего поколения ИИ на основе 3D-оптических вычислений, использующий свет вместо электричества для выполнения ключевых операций ИИ. Его технология предназначена для ускорения матричных операций, которые лежат в основе современных моделей ИИ, обеспечивая значительно более быстрые скорости обработки и снижение энергопотребления по сравнению с традиционными процессорами на основе кремния. Интегрируя оптические вычисления в существующие среды центров обработки данных, Lumai стремится обеспечить более масштабируемое и экономически эффективное развертывание ИИ, решая растущие ограничения вокруг вычислительной мощности и энергопотребления в крупномасштабных системах ИИ.

Вы начали свою карьеру в квантовой физике и нелинейной оптике, а затем стали стипендиатом 1851 года в Университете Оксфорда, прежде чем соосновать Lumai на основе своей исследовательской работы. Какой был тот поворотный момент, когда вы поняли, что оптические вычисления могут перейти от академической теории к коммерчески жизнеспособной компании?

Во время моего пребывания в Университете Оксфорда мы исследовали, как свойства света в свободном пространстве можно использовать для решения матричных операций, лежащих в основе машинного обучения. В то же время ограничения традиционного оборудования для ИИ стали более важными. Сходимость этих проблем, которые мы решили в нашей исследовательской работе, и необходимости более эффективных вычислений дали нам уверенность, что мы можем взять наши идеи и решить реальные проблемы.

Мы прошли долгий путь с тех пор, как начали эту исследовательскую работу – в Lumai мы теперь построили первую в мире оптическую вычислительную систему, способную запускать модели ИИ с миллиардами параметров в реальном времени.

Lumai решает одну из самых больших проблем в ИИ сегодня, ограничения энергопотребления и масштабируемости вычислений на основе кремния. Какие конкретные ограничения традиционных архитектур заставили вас обратиться к фундаментально другому подходу, использующему свет?

То, что заставило нас, было ограниченное развитие решений на основе кремния. С кремнием вы видите постепенные улучшения, но они сопровождаются несоразмерным увеличением мощности и сложности. Ограничение масштабирования кремния в основном связано с физикой – частоты не увеличиваются, а количество транзисторов, которые можно переключить, ограничено тепловыми факторами. Теки утечки продолжают быть проблемой. Оценивается, что кремний вносит только 25% годового увеличения производительности.

В этот момент имеет смысл задаться вопросом, не может ли другой физический носитель более естественно обрабатывать эти операции, вместо того, чтобы продолжать толкать электроны сильнее.

Ваша работа фокусируется на оптических вычислениях и машинном обучении. Как использование фотонов вместо электронов фундаментально меняет способ вычислений на аппаратном уровне?

С электронами вычисления являются внутренне последовательными и потерянными – вы переключаете транзисторы, перемещаете заряд, генерируете тепло. Каждая операция имеет тепловую стоимость, и эта стоимость накапливается.

Фотоны ведут себя очень по-другому. Свет распространяется без тех же резистивных потерь, и критически, используя свойства света, можно выполнить огромное количество матричных операций параллельно, просто структурируя, как взаимодействуют лучи света через физический носитель. Вычисления происходят в самом распространении света, а не в переключении миллиардов вентилей.

Технология Lumai использует 3D-оптическую обработку и массивную пространственную параллельность. Можете ли вы объяснить, как эта архитектура обеспечивает такие драматические улучшения пропускной способности и эффективности по сравнению с GPU?

Цель состоит в том, чтобы выполнить плотное матричное умножение как можно более эффективно и быстро в одном цикле. Подход Lumai делает именно это, используя свет в трехмерном объеме, выполняя миллионы операций одновременно.

Вы просто не можете достичь такого уровня параллельности в 2D-структурах, где операции обрабатываются через сотни ядер, требуя постоянного перемещения данных. Это врожденная параллельность – в сочетании с тем фактом, что, как только вы находитесь в области света, операции можно выполнять без сжигания мощности – что стимулирует как улучшение пропускной способности, так и драматическое снижение энергопотребления на токен.

Многие компании инфраструктуры ИИ все еще фокусируются на обучении, в то время как Lumai нацеливается на вывод. Почему вы считаете, что вывод является определяющей проблемой этой следующей фазы ИИ?

Вывод – это то место, где ИИ действительно делает что-то полезное – каждый ответ, каждая задача агента, каждый сгенерированный документ. Мы теперь вошли в эпоху вывода, и спрос растет с такой скоростью, которую оборудование, ориентированное на обучение, никогда не было предназначено для поглощения.

Экономика также другая: вывод работает непрерывно, на миллионах пользователей. Стоимость на токен становится определяющей метрикой, и именно там энергетический барьер бьет сильнее всего.

То, что делает вывод особенно подходящим для оптических вычислений, заключается в том, что стадия предварительного заполнения сильно зависит от вычислений. На этой стадии вывода, разобщенного вывода, вся контекстная информация обрабатывается перед генерацией ответа. Это почти идеально соответствует нашей оптической двигательной системе, и именно на этом мы сосредоточились сначала.

Одной из давних проблем в оптических вычислениях была стабильность и масштабируемость. Какие были ключевые технические прорывы, которые позволили Lumai преодолеть эти барьеры?

Проблема никогда не заключалась в том, чтобы продемонстрировать, что оптика может выполнять вычисления – исследователи показали это в принципе в течение многих лет. Проблема заключалась в том, чтобы сделать это работать в масштабе, вне лаборатории.

Два фактора имели наибольшее значение. Во-первых, мы используем те же компоненты, которые уже развернуты в центрах обработки данных сегодня для связи и сетей. Никаких экзотических материалов, никакой спекулятивной цепочки поставок. Во-вторых, мы сделали намеренный архитектурный выбор, чтобы использовать гибридный дизайн, сочетая оптический тензорный двигатель с цифровой обработкой для системного управления и программного обеспечения.

Ваша система использует гибридный подход, сочетающий оптические и цифровые компоненты. Насколько важно это баланс для того, чтобы сделать оптические вычисления практичными для реального развертывания в центрах обработки данных?

Это фундаментально. Оптические вычисления не означают замену всего на свет. Цифровые системы чрезвычайно хороши в управлении, последовательности и взаимодействии с программным обеспечением, которое отрасль построила за десятилетия. Наша оптическая двигательная система превосходно справляется с основными математическими операциями, которые доминируют в выводе. Гибридная архитектура позволяет каждому компоненту делать то, что он делает лучше всего.

С точки зрения развертывания это имеет огромное значение. Lumai Iris интегрируется в существующую инфраструктуру центров обработки данных, использует стандартные интерфейсы и запускает реальные модели, включая Llama 8B и 70B, сегодня.

С объявлением Lumai Iris, особенно сервера Iris Nova, что означает достижение вывода в реальном времени на моделях с миллиардами параметров для будущего инфраструктуры ИИ?

Это означает, что оптические вычисления перешли из области исследований в реальность. Запуск моделей с миллиардами параметров в реальном времени – это тот проверочный пункт, который отрасль нуждалась. Семейство серверов Lumai Iris состоит из трех серверов: Nova, Aura и Tetra. Lumai Iris Nova, первый сервер в семействе, доступен для оценки сейчас, и мы уже взаимодействуем с партнерами, которые хотят использовать его для реальных рабочих нагрузок вывода.

В более широком смысле это означает, что траектория инфраструктуры ИИ вот-вот изменится. Предположение было, что масштабирование вывода означает покупку большего количества GPU, потребление большей мощности, строительство более крупных центров обработки данных. Lumai Iris Nova показывает, что есть другой путь – тот, который обеспечивает значительно более высокую производительность на киловатт и фундаментально другую структуру затрат на токен. По мере развития семейства серверов Lumai Iris последствия для того, как гиперскелеры и предприятия думают о закупке вычислительной мощности, будут значительными.

Пресс-релиз подчеркивает снижение энергопотребления до 90% по сравнению с традиционными системами. Насколько значимым является этот прорыв в контексте растущих ограничений энергопотребления, с которыми сталкиваются глобальные центры обработки данных?

Ограничение энергопотребления – это определяющая инфраструктурная проблема эпохи ИИ – мощность уже является ограничивающим фактором для планов развертывания, и мы столкнулись с так называемой стеной мощности.

На этом фоне снижение энергопотребления на 90% меняет фундаментальную экономику и осуществимость ИИ в масштабе. Одна система Lumai может заменить десятки энергозатратных GPU, что переводится в значительный сдвиг в том, что можно достичь в рамках заданного энергетического лимита.

Там также есть стоимость измерение: затраты на строительство центров обработки данных отражают мощность, поэтому центр обработки данных с более низким энергопотреблением стоит меньше. Снижение энергопотребления напрямую снижает стоимость на токен – что в конечном итоге делает ИИ экономически жизнеспособным в масштабе, к которому отрасль движется.

Оглядываясь вперед, когда отрасль начинает говорить о постсилikonовой эпохе, как вы видите развитие оптических вычислений в течение следующего десятилетия, и какую роль Lumai сыграет в формировании этого перехода?

Постсилikonовая эпоха уже начинается, и это происходит одновременно с переходом к эпохе вывода и продолжающимся спросом на более высокую производительность при более низкой стоимости на токен. Кремний, конечно, продолжит играть роль, но предположение, что каждый поколение вычислительного улучшения исходит от продвижения узлов кремния, больше не является правдоподобным с той скоростью, с которой ИИ требует. Мы видим, что оптические вычисления используются в ключевых частях стека, где необходимы высокопараллельные, высокопроизводительные вычисления.

Для Lumai дорожная карта состоит в том, чтобы продолжать толкать плотность, эффективность и способности оптических вычислений и развертывать их в центрах обработки данных. Видение – это мир, где энергетическая стоимость интеллекта падает, и где центр обработки данных масштаба мегаватта может сгенерировать тот же объем токенов, который центр обработки данных гигаваттного масштаба может сегодня.

Это будущее не является далекой спекуляцией. Мы построили первую систему, которая доказывает, что оптические вычисления работают в масштабе. Все, что дальше, – это инженерия.

Спасибо за отличный интервью, читателям, которые хотят узнать больше, следует посетить Lumai.