Доктор Сяньсінь Гуо, генеральний директор і співзасновник Lumai – Серія інтерв’ю

Доктор Сяньсінь Гуо, генеральний директор і співзасновник Lumai, є фізиком і підприємцем у сфері глибоких технологій, спеціалізується на оптичному обчисленні та апаратному забезпеченні штучного інтелекту, має ступінь доктора філософії з квантової фізики та нелінійної оптики Гонконзького університету науки і технологій. Раніше він займав дослідницькі посади, включаючи посаду постдоктора в Університеті Калгарі та стипендію 1851 Research Fellowship в Оксфордському університеті, де він внес свій внесок у розвиток фотоніки та прискорення штучного інтелекту. Розробляючи свою кар’єру в Lumai від голови досліджень до генерального директора, він є основним винахідником核心ної технології компанії та має понад десятирічний досвід на перетині фізики, машинного навчання та передових обчислювальних систем.

Lumai є спін-офом Оксфордського університету, який розробляє процесори штучного інтелекту нового покоління на основі 3D-оптичного обчислення, використовуючи світло замість електрики для виконання ключових розрахунків штучного інтелекту. Його технологія призначена для прискорення операцій з матрицями, які лежать в основі сучасних моделей штучного інтелекту, забезпечуючи значно вищу швидкість обробки даних при зниженні енергоспоживання порівняно з традиційними процесорами на основі кремнію. Інтегруючи оптичне обчислення в існуючі середовища центрів обробки даних, Lumai спрямована на забезпечення більш масштабованого та економічно ефективного розгортання штучного інтелекту, вирішуючи зростаючі обмеження навколо потужності обчислень та енергоспоживання в великомасштабних системах штучного інтелекту.

Ви розпочали свою кар’єру в галузі квантової фізики та нелінійної оптики, пізніше ставши стипендіатом 1851 Research Fellowship в Оксфордському університеті, перш ніж співзасновати Lumai на основі своїх досліджень. Який був переломний момент, коли ви зрозуміли, що оптичне обчислення може перейти від академічної теорії до комерційно життєздатної компанії?

Під час моєї роботи в Оксфордському університеті ми вивчали, як властивості світла в вільному просторі можуть бути використані для розв’язання тих самих матричних операцій, які лежать в основі машинного навчання. Приблизно в той самий час обмеження традиційного апаратного забезпечення для штучного інтелекту стали більш важливими. Збіжність цих проблем, які ми вирішили в наших дослідженнях, та потреба в більш ефективному обчисленні дали нам впевненість, що ми можемо взяти свої ідеї та вирішити реальні проблеми.

Ми пройшли довгий шлях від тих перших досліджень – в Lumai ми зараз побудували першу в світі систему оптичного обчислення, здатну виконувати розрахунки з мільярдами параметрів в режимі реального часу.

Lumai вирішує одну з найбільших проблем штучного інтелекту сьогодні, енергетичні та масштабовані обмеження обчислень на основі кремнію. Які конкретні обмеження традиційних архітектур спонукали вас до фундаментально іншої підходу, заснованої на світлі?

То, що спонукало нас, було обмежене майбутнє рішень на основі кремнію. З кремнієм ви бачите інкрементні поліпшення, але вони супроводжуються непропорційним зростанням потужності та складності. Обмеження масштабування кремнію в першу чергу пов’язане з фізикою – частоти не збільшуються, а кількість транзисторів, які можна перемикати, обмежена тепловими факторами. Потоки витоку продовжують бути проблемою. Оцінюється, що кремній забезпечує лише 25% щорічного збільшення продуктивності.

На цьому етапі має сенс запитати, чи може інший фізичний засіб краще обробляти ці операції, ніж продовжувати тиснути на електрони.

Ваша робота зосереджена на оптичному обчисленні та машинному навчанні. Як використання фотонів замість електронів фундаментально змінює спосіб обчислень на апаратному рівні?

З електронами обчислення є внутрішньо послідовним і втратним – ви перемикаєте транзистори, переміщуєте заряд, генеруєте тепло. Кожна операція має тепловий кошт, і цей кошт накопичується.

Фотони поводяться зовсім інакше. Світло рухається без тих самих опорів, а критично, використовуючи властивості світла, величезну кількість матричних операцій можна виконувати паралельно просто структуруючи, як промені світла взаємодіють через фізичну середовищу. Обчислення відбувається в самому поширенні світла, а не в перемиканні мільярдів воріт.

Технологія Lumai використовує 3D-оптичну обробку та масивну просторову паралельність. Як ця архітектура дозволяє досягти таких драматичних поліпшень продуктивності та ефективності порівняно з GPU?

Мета полягає в тому, щоб виконувати густе матричне множення якомога ефективніше та швидше в одному циклі. Підхід Lumai робить саме це, використовуючи світло в тривимірному об’ємі, виконуючи мільйони операцій одночасно.

Ви просто не можете досягти такого рівня паралельності в 2D-структурах, де операції обробляються через сотні ядер, що вимагають постійного переміщення даних. Це вбудована паралельність – разом із тим фактом, що як тільки ви перейшли в область світла, операції можна виконувати без витрат енергії – це те, що забезпечує як поліпшення продуктивності, так і драматичне зниження енергоспоживання на токен.

Багато компаній інфраструктури штучного інтелекту все ще зосереджені на навчанні, тоді як Lumai націлена на висновок. Чому ви вважаєте, що висновок є визначальною проблемою цього наступного етапу штучного інтелекту?

Висновок – це місце, де штучний інтелект насправді робить щось корисне – кожен запит, відповідається, кожна задача агента завершується, кожен документ генерується. Ми зараз вступили в епоху висновку, і попит зростає зі швидкістю, яку апаратне забезпечення, орієнтоване на навчання, ніколи не було спроєктовано поглинати.

Економіка також інша: висновок працює безперервно, по мільйонам користувачів. Вартість на токен стає визначальною метрикою, і саме там енергетична стіна впливає найсильніше.

Що робить висновок особливо придатним для оптичного обчислення, так це те, що стадія попереднього заповнення сильно залежить від обчислень. На цій стадії висновку з розподілом контекст обробляється перед генерацією відповіді. Це майже ідеально відображається на нашому оптичному двигуні, і саме там ми зосередилися спочатку.

Одна з довгостійних проблем оптичного обчислення полягала в стабільності та масштабованості. Які були ключові технічні прориви, які дозволили Lumai подолати ці бар’єри?

Проблема ніколи не полягала в тому, щоб продемонструвати, що оптика може виконувати обчислення – дослідники довели це в принципі роками. Проблема полягала в тому, щоб зробити це працювати в масштабі, поза лабораторією.

Дві речі мали найбільше значення. По-перше, ми використовуємо ті самі компоненти, які вже розгорнуті в центрах обробки даних сьогодні для зв’язку та мережевого забезпечення. Ні екзотичних матеріалів, ні спекулятивної ланцюжка поставок. По-друге, ми зробили свідомий архітектурний вибір використовувати гібридний дизайн, поєднуючи оптичний тензорний двигун з цифровим обробленням для системного контролю та програмного забезпечення.

Ваша система використовує гібридний підхід, поєднуючи оптичні та цифрові компоненти. Наскільки важливим є цей баланс для того, щоб зробити оптичне обчислення практичним для розгортання в реальних центрах обробки даних?

Це фундаментально. Оптичне обчислення не означає заміну всього на світло. Цифрові системи надзвичайно хороші в контролі, послідовності та взаємодії з програмним забезпеченням, яке індустрія побудувала за десятиліття. Наш оптичний двигун excels у核心них математичних операціях, які домінують у висновку обчислень. Гібридна архітектура дозволяє кожному компоненту робити те, що він робить найкраще.

З точки зору розгортання це має величезне значення. Lumai Iris інтегрується в існуючу інфраструктуру центрів обробки даних, використовує стандартні інтерфейси та запускає реальні моделі, включаючи Llama 8B і 70B сьогодні.

З оголошенням про сім’ю серверів Lumai Iris, зокрема сервера Iris Nova, що означає досягнення висновку в реальному часі для моделей з мільярдами параметрів для майбутнього інфраструктури штучного інтелекту?

Це означає, що оптичне обчислення перейшло з дослідження в реальність. Виконання моделей з мільярдами параметрів в реальному часі – це доведення, яке індустрія потребувала. Сім’я серверів Lumai Iris складається з трьох серверів: Nova, Aura та Tetra. Lumai Iris Nova, перший сервер в сім’ї, доступний для оцінки зараз, і ми вже взаємодіємо з партнерами, які хочуть застосувати його проти реальних висновкових робочих навантажень.

Ширше, це означає, що траєкторія інфраструктури штучного інтелекту готується до зміни. Припущення полягало в тому, що масштабування висновку означає покупку більше GPU, споживання більше енергії, будівництво більших центрів обробки даних. Lumai Iris Nova демонструє, що існує інший шлях – той, який забезпечує значно вищу продуктивність на кіловат та фундаментально іншу структуру витрат на токен. Коли сім’я серверів Lumai Iris розвиватиметься, наслідки для того, як гіперскейлери та підприємства думають про придбання обчислень, будуть суттєвими.

Прес-реліз підкреслює зниження енергоспоживання до 90% порівняно з традиційними системами. Наскільки значущим є цей прорив у контексті зростаючих енергетичних обмежень, з якими стикаються глобальні центри обробки даних?

Енергетичне обмеження – це визначальна інфраструктурна проблема епохи штучного інтелекту – потужність вже є обмежувальним фактором для планів розгортання, і ми вже влучили в так звану енергетичну стіну.

На цьому тлі зниження енергоспоживання на 90% змінює фундаментальну економіку та життєздатність штучного інтелекту в масштабі. Одна система Lumai може замінити десятки енергозатратних GPU, що переводиться в суттєву зміну того, що можна досягти в межах заданого енергетичного кордону.

Є також вартісний вимір: витрати на будівництво центрів обробки даних відображають потужність, тому нижньопотужний центр обробки даних коштує менше для будівництва. Зниження енергоспоживання безпосередньо знижує вартість на токен – це те, що робить штучний інтелект економічно життєздатним у масштабі, до якого індустрія рухається.

Оглядаючи майбутнє, коли індустрія починає говорити про постсиліконову епоху, як ви бачите розвиток оптичного обчислення за наступне десятиліття, і яку роль буде грати Lumai у формуванні цього переходу?

Постсиліконова епоха вже починається, і це відбувається в той самий час, коли відбувається перехід до епохи висновку та продовжується попит на більшу продуктивність при нижчій вартості на токен. Кремній, звичайно, продовжить грати свою роль, але припущення, що кожне покоління покращення обчислень надходить від вдосконалення вузлів кремнію, більше не є правдоподібним на рівні, який вимагає штучний інтелект. Ми бачимо оптичне обчислення, яке використовується в ключових частинах стека, де потрібне високо паралельне, високопродуктивне оброблення.

Для Lumai дорожня карта полягає в тому, щоб продовжувати підвищувати густину, ефективність та здатність оптичного обчислення та розгортання цього в центрах обробки даних. Видіння – це світ, де енергетична вартість інтелекту знижується, і де мегаватт-центр обробки даних може генерувати той самий об’єм токенів, який сьогодні генерує гігаватт-центр обробки даних.

Це майбутнє не є віддаленою спекуляцією. Ми побудували першу систему, яка доводить, що оптичне обчислення працює в масштабі. Все, що відбувається далі, – це інженерія.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Lumai.