Lumai представляє оптичний сервер штучного інтелекту для наступної ери інференсу

Lumai оголосила про те, що це значний крок вперед у сфері інфраструктури штучного інтелекту: оптична система обчислення, яка здатна виконувати завдання з великими мовними моделями в реальному часі. Нова система, яка називається Iris Nova, свідчить про зміну традиційного підходу до обробки інформації на основі кремнію до фундаментально нового підходу, заснованого на світлі.

Ця заява була зроблена в той час, коли галузь штучного інтелекту швидко переходить від навчання моделей до їх розгортання у великому масштабі, що створює безпрецедентну нагрузку на існуючу інфраструктуру обчислень.

Перехід за межі обмежень кремнію

Багато років прогрес у сфері штучного інтелекту залежав від вдосконалення кремнієвих чіпів, особливо GPU. Але ця модель починає показувати ознаки напруження. Споживання енергії зростає різко, а підвищення продуктивності стає все складніше без значного збільшення витрат і енергетичних вимог.

Підхід Lumai полягає у заміні електронів фотонами. Замість виконання обчислень через електричні сигнали, їхня система використовує світло для обробки даних. Це дозволяє досягти масової паралельності, коли мільйони операцій можуть відбуватися одночасно у тривимірному просторі, а не на плоских поверхнях кремнію.

За словами компанії, ця архітектура може забезпечити значно вищу пропускну здатність, а також зменшити споживання енергії на 90% порівняно з традиційними системами.

Зростаючий тиск на центри даних

Час виходу цієї системи відображає ширші промислові виклики. Завдання штучного інтелекту розширюються швидко, особливо в галузі інференсу, яке полягає у використанні навчених моделей у реальних додатках.

Центри даних все частіше обмежені наявністю енергії. Глобальний попит на енергію центрів даних очікується подвоєння до кінця десятиліття, що змушує операторів шукати незвичайні рішення, такі як спеціалізоване виробництво енергії та альтернативні джерела енергії.

Одночасно зі зростанням традиційного обладнання стає все менш ефективним. Кожне нове покоління кремнію пропонує інкрементні покращення, але часто вимагає непропорційно більше енергії та охолодження.

Lumai позиціонує оптичне обчислення як спосіб обійти ці обмеження зовсім, а не покращувати їх інкрементально.

Як працює Iris Nova

Система Iris Nova використовує гібридну архітектуру, яка поєднує оптичні та цифрові компоненти. Оптичний двигун обробляє основні математичні операції, які живлять моделі штучного інтелекту, тоді як традиційні цифрові системи керують програмним забезпеченням та функціями контролю.

Цей дизайн дозволяє системі інтегруватися в існуючі середовища центрів даних без потреби у повній заміні інфраструктури.

Одна з областей, де система особливо оптимізована, – це стадія “попереднього заповнення” інференсу, де моделі обробляють великі обсяги вхідних даних перед генерацією відповідей. Пришвидшуючи цю стадію, система намагається покращити загальну пропускну здатність та ефективність.

Lumai повідомляє, що Iris Nova може виконувати моделі, такі як Llama 8B і 70B, в реальному часі, що свідчить про те, що вона здатна обробляти завдання промислового масштабу, а не тільки експериментальні випадки.

Перехід до ери інференсу

Вихід системи відбиває ширший зсув у пріоритетах штучного інтелекту. Хоча навчання все більших моделей домінувало в заголовках, реальний вплив штучного інтелекту тепер визначається інференсом – як ефективно ці моделі можуть бути розгорнуті та масштабовані.

Цей зсув викривляє вузькі місця, які були менш помітні під час фази навчання. Завдання інференсу є безперервними, чутливими до затримки та енергозатратними, що робить ефективність критичним фактором.

Система Lumai розроблена спеціально для цієї фази, зосереджуючись на пропускній здатності на ватт, а не тільки на сировій обчислювальній потужності.

Ранній доступ та промислові наслідки

Сервер Iris Nova тепер доступний для оцінки гіперсเกลерами, підприємствами та науково-дослідними інститутами. Додаткові системи сімейства Iris, включаючи Aura та Tetra, очікуються згодом, розширюючи можливості та варіанти розгортання.

Якщо оптичне обчислення зможе виконати свої обіцянки у великому масштабі, воно може змінити економіку інфраструктури штучного інтелекту. Нижче споживання енергії та вища ефективність не тільки зменшать операційні витрати, але й звернуть увагу на зростаючі побоювання щодо екологічного впливу штучного інтелекту.

Хоча ще невідомо, як швидко буде прийнята ця технологія, оголошення Lumai підкреслює чіткий напрям: майбутнє обчислень штучного інтелекту може не бути побудовано тільки на кремнії.