Филипп Бурр, руководитель продукта в Lumai – Интервью

Филипп Бурр является руководителем продукта в Lumai, имея более 25 лет опыта в глобальном управлении продуктами, выходе на рынок и лидерских ролях в ведущих полупроводниковых и технологических компаниях, а также доказанной историей создания и масштабирования продуктов и услуг.

Lumai – это британская глубокая технологическая компания, разрабатывающая 3D-оптические вычислительные процессоры для ускорения задач искусственного интеллекта. Выполняя матричные векторные умножения с помощью лучей света в трех измерениях, их технология предлагает до 50-кратную производительность и на 90% меньше потребления энергии по сравнению с традиционными ускорителями на основе кремния. Это делает ее особенно подходящей для задач вывода искусственного интеллекта, включая крупные языковые модели, при этом значительно снижая энергетические затраты и воздействие на окружающую среду.

Что вдохновило основание Lumai, и как идея эволюционировала от исследований в Университете Оксфорда в коммерческий проект?

Первой искрой было зажжено, когда один из основателей Lumai, доктор Сяньсинь Гуо, получил стипендию 1851 Research Fellowship в Университете Оксфорда. Интервьюеры поняли потенциал оптических вычислений и спросили, будет ли Сяньсинь рассматривать патенты и создание компании, если его исследования будут успешными. Это зажгло творческий ум Сяньсиня, и когда он, вместе с одним из других сооснователей Lumai, доктором Джеймсом Спаллом, доказал, что использование света для выполнения вычислений в сердце искусственного интеллекта может как значительно повысить производительность искусственного интеллекта, так и снизить энергопотребление, сцена была готова. Они знали, что существующая кремниевая аппаратура для искусственного интеллекта (и все еще есть) борется за увеличение производительности без значительного увеличения энергопотребления и стоимости, и, следовательно, если они смогут решить эту проблему с помощью оптических вычислений, они смогут создать продукт, который клиенты хотят. Они представили эту идею некоторым венчурным капиталистам, которые поддержали их в создании Lumai. Lumai недавно завершила свой второй раунд финансирования, привлекая более 10 миллионов долларов и привлекая дополнительных инвесторов, которые также считают, что оптические вычисления могут продолжать масштабироваться и удовлетворять растущему спросу на производительность искусственного интеллекта без увеличения энергопотребления.

У вас была впечатляющая карьера в Arm, indie Semiconductor (INDI ) и других компаниях – что привлекло вас к присоединению к Lumai на этом этапе?

Краткий ответ – команда и технология. Lumai имеет впечатляющую команду оптических, машинных обучений и экспертов по центрам обработки данных, привлекая опыт из таких компаний, как Meta, Intel (INTC ), Altera, Maxeler, Seagate и IBM (вместе с моим опытом в Arm, indie, Mentor Graphics и Motorola). Я знал, что команда замечательных людей, так сосредоточенных на решении проблемы снижения стоимости вывода искусственного интеллекта, может сделать удивительные вещи.

Я твердо верю, что будущее искусственного интеллекта требует новых, инновационных прорывов в вычислениях. Обещание предложить 50-кратную производительность искусственного интеллекта, а также снизить стоимость вывода искусственного интеллекта до 1/10 по сравнению с сегодняшними решениями, было просто слишком хорошей возможностью, чтобы ее упустить.

Какие были некоторые из ранних технических или деловых проблем, с которыми столкнулась ваша основная команда при масштабировании от прорыва в исследованиях до готовой компании?

Прорыв в исследованиях доказал, что оптика может быть использована для быстрого и очень эффективного матричных векторных умножений. Несмотря на технические прорывы, самой большой проблемой было убедить людей, что Lumai может преуспеть там, где другие стартапы по оптическим вычислениям потерпели неудачу. Нам пришлось потратить время на объяснение того, что подход Lumai был очень другим и что вместо того, чтобы полагаться на одну 2D-плату, мы использовали 3D-оптику, чтобы достичь уровней масштабируемости и эффективности. Есть, конечно, многие шаги, чтобы перейти от лабораторных исследований к технологии, которая может быть развернута в крупном масштабе в центре обработки данных. Мы признали очень рано, что ключом к успеху было привлечение инженеров, имеющих опыт в разработке продуктов в больших объемах и в центрах обработки данных. Другой областью является программное обеспечение – оно должно быть таким, чтобы стандартные框ки и модели искусственного интеллекта могли извлечь выгоду из процессора Lumai, и чтобы мы предоставили инструменты и рамки, чтобы сделать это как можно более бесшовным для инженеров-программистов искусственного интеллекта.

Технология Lumai, как говорят, использует 3D-оптическое матричное векторное умножение. Можете ли вы объяснить это в простых терминах для широкой аудитории?

Системы искусственного интеллекта должны выполнять множество математических расчетов, называемых матричными векторными умножениями. Эти расчеты являются двигателем, который запускает ответы искусственного интеллекта. В Lumai мы делаем это, используя свет вместо электричества. Вот как это работает:

1. Мы кодируем информацию в лучи света
2. Эти лучи света путешествуют через 3D-пространство
3. Свет взаимодействует с линзами и специальными материалами
4. Эти взаимодействия завершают математическую операцию

Используя все три измерения пространства, мы можем обрабатывать больше информации с каждым лучом света. Это делает наш подход очень эффективным – снижая энергию, время и стоимость, необходимые для запуска систем искусственного интеллекта.

Каковы основные преимущества оптических вычислений над традиционными кремниевыми GPU и даже интегрированными фотонными?

Поскольку скорость прогресса в технологии кремния значительно замедлилась, каждый шаг вперед в производительности кремниевого процессора искусственного интеллекта (например, GPU) приводит к значительному увеличению энергопотребления. Кремниевые решения потребляют огромное количество энергии и преследуют все более низкие доходы, что делает их невероятно сложными и дорогими. Преимущество использования оптики заключается в том, что как только мы находимся в оптическом домене, практически не потребляется энергия. Энергия используется для входа в оптический домен, но, например, в процессоре Lumai мы можем достичь более 1000 вычислительных операций за каждый луч света, каждый цикл, что делает его очень эффективным. Такая масштабируемость не может быть достигнута с помощью интегрированной фотоники из-за физических ограничений размера и шумовых сигналов, при этом количество вычислительных операций решения на основе кремния-фотоники составляет только 1/8 от того, что может достичь Lumai сегодня.

Как процессор Lumai достигает почти нулевой задержки вывода, и почему это такой критический фактор для современных задач искусственного интеллекта?

Хотя мы не можем утверждать, что процессор Lumai предлагает нулевую задержку, он выполняет очень большую (1024 x 1024) матричную векторную операцию за один цикл. Кремниевые решения обычно делят матрицу на более мелкие матрицы, которые обрабатываются шаг за шагом, а затем результаты объединяются. Это занимает время и приводит к увеличению использования памяти и энергии. Снижение времени, энергии и стоимости обработки искусственного интеллекта имеет решающее значение как для того, чтобы позволить большему количеству бизнесов извлечь выгоду из искусственного интеллекта, так и для обеспечения продвинутого искусственного интеллекта в наиболее устойчивом виде.

Можете ли вы пройти нас через то, как ваш форм-фактор, совместимый с PCIe, интегрируется с существующей инфраструктурой центров обработки данных?

Процессор Lumai использует карты форм-фактора PCIe вместе со стандартным CPU, все внутри стандартной полки 4U. Мы работаем с рядом поставщиков оборудования для центров обработки данных, чтобы процессор Lumai интегрировался с их собственным оборудованием. Мы используем стандартные сетевые интерфейсы, стандартное программное обеспечение и т. д., чтобы внешне процессор Lumai выглядел как любой другой процессор центра обработки данных.
Потребление энергии центрами обработки данных является все более растущей глобальной проблемой. Как Lumai позиционирует себя как устойчивое решение для вычислений искусственного интеллекта?

Потребление энергии центрами обработки данных увеличивается с тревожной скоростью. Согласно отчету Лаборатории Лоуренса Беркли, потребление энергии центрами обработки данных в США ожидается утроиться к 2028 году, потребляя до 12% энергии страны. Некоторые операторы центров обработки данных рассматривают возможность установки ядерной энергетики, чтобы обеспечить необходимую энергию. Индустрия должна рассмотреть различные подходы к искусственному интеллекту, и мы считаем, что оптика является ответом на этот энергетический кризис.

Можете ли вы объяснить, как архитектура Lumai избегает узких мест масштабируемости текущих кремниевых и фотонных подходов?

Производительность первого процессора Lumai – это только начало того, что можно достичь. Мы ожидаем, что наше решение продолжит обеспечивать огромные скачки производительности: увеличивая оптические тактовые частоты и ширину векторов, все без соответствующего увеличения потребления энергии. Никакое другое решение не может достичь этого. Стандартные кремниевые подходы будут продолжать потреблять все больше энергии и стоимости с каждым увеличением производительности. Кремниевая фотоника не может достичь необходимой ширины вектора, и поэтому компании, которые рассматривали интегрированную фотонику для вычислений в центрах обработки данных, перешли к решению других частей центра обработки данных – например, оптических интерконнектов или оптических коммутаторов.

Какую роль, по вашему мнению, будут играть оптические вычисления в будущем искусственного интеллекта – и более широко, во всей вычислительной технике?

Оптика в целом будет играть огромную роль в центрах обработки данных в будущем – от оптических интерконнектов, оптических сетей, оптических коммутаторов и, конечно, оптических вычислений. Требования, которые искусственный интеллект предъявляет к центру обработки данных, являются ключевым фактором этого перехода к оптике. Оптические интерконнекты будут обеспечивать более быстрые соединения между процессорами искусственного интеллекта, что необходимо для крупных моделей искусственного интеллекта. Оптические коммутаторы будут обеспечивать более эффективную сеть, а оптические вычисления – более быструю, более энергосберегающую и низкозатратную обработку искусственного интеллекта. Коллективно они помогут обеспечить еще более продвинутый искусственный интеллект, преодолевая проблемы замедления масштабирования кремния на стороне вычислений и ограничения скорости меди на стороне интерконнекта.

Благодарим за отличное интервью, читатели, которые хотят узнать больше, должны посетить Lumai.