Lumai Prezentuje Optyczny Serwer AI, aby Napędzić Następną Erę Inferencji

Lumai ogłosił, co określa jako znaczący krok naprzód w infrastrukturze AI: system komputerowy optycznego przetwarzania danych, który może uruchamiać modele językowe o miliardzie parametrów w czasie rzeczywistym. Nowy system, nazwany Iris Nova, sygnalizuje odejście od tradycyjnego przetwarzania opartego na krzemie w kierunku fundamentalnie innego podejścia opartego na świetle.

Ogłoszenie następuje w czasie, gdy branża AI przechodzi szybko z fazy szkolenia modeli do wdrożenia na dużą skalę, co powoduje bezprecedensowe obciążenie istniejącej infrastruktury obliczeniowej.

Przekraczając Ograniczenia Krzemu

Przez lata postępy w dziedzinie AI opierały się w dużej mierze na postępach w technologiach krzemu, szczególnie GPU. Jednak ten model zaczyna pokazywać oznaki napięcia. Zużycie energii rośnie gwałtownie, a wzrost wydajności staje się coraz trudniejszy do osiągnięcia bez znacznego zwiększenia kosztów i wymagań energetycznych.

Podejście Lumai zastępuje elektrony fotonami. Zamiast wykonywania obliczeń za pomocą sygnałów elektrycznych, ich system wykorzystuje światło do przetwarzania danych. Umożliwia to ogromną równoległość, gdzie miliony operacji mogą wystąpić jednocześnie w trójwymiarowej przestrzeni, a nie na płaskich powierzchniach krzemu.

Według firmy, ta architektura może dostarczyć znacznie wyższą przepustowość, jednocześnie redukując zużycie energii o do 90% w porównaniu z konwencjonalnymi systemami .

Rosnące Ciśnienie na Centra Danych

Czas ogłoszenia odzwierciedla szersze wyzwania branży. Obciążenia AI rosną szybko, szczególnie w inferencji, która polega na uruchamianiu przeszkolonych modeli w aplikacjach świata rzeczywistego.

Centra danych są coraz bardziej ograniczone przez dostępność energii. Globalny popyt na energię w centrach danych ma podwoić się do końca dekady, zmuszając operatorów do poszukiwania niekonwencjonalnych rozwiązań, takich jak dedykowana generacja energii i alternatywne źródła energii.

Jednocześnie skalowanie tradycyjnego sprzętu staje się mniej wydajne. Każde nowe pokolenie krzemu oferuje stopniowe ulepszenia, ale często wymaga nieproporcjonalnie więcej energii i chłodzenia.

Lumai prezentuje obliczenia optyczne jako sposób, aby ominąć te ograniczenia całkowicie, zamiast ich stopniowego ulepszania.

Jak Działa Iris Nova

System Iris Nova wykorzystuje hybrydową architekturę, która łączy komponenty optyczne i cyfrowe. Silnik optyczny obsługuje podstawowe operacje matematyczne, które napędzają modele AI, podczas gdy konwencjonalne systemy cyfrowe zarządzają oprogramowaniem i funkcjami sterowania.

Ten projekt pozwala systemowi na integrację z istniejącymi środowiskami centrów danych bez konieczności całkowitej przebudowy infrastruktury.

Jednym z obszarów, w którym system jest szczególnie zoptymalizowany, jest etap “prefill” inferencji, w którym modele przetwarzają duże ilości danych wejściowych przed generowaniem odpowiedzi. Przyspieszając ten etap, system ma na celu poprawę ogólnej wydajności i efektywności.

Lumai podaje, że Iris Nova może uruchamiać modele takie jak Llama 8B i 70B w czasie rzeczywistym, co sugeruje, że jest w stanie obsłużyć obciążenia produkcyjne, a nie tylko przypadki użycia eksperymentalne .

Przesunięcie w Kierunku Ery Inferencji

Ogłoszenie odzwierciedla szersze przesunięcie priorytetów AI. Podczas gdy szkolenie coraz większych modeli dominowało w nagłówkach, rzeczywisty wpływ AI jest teraz definiowany przez inferencję – jak wydajnie te modele mogą być wdrożone i skalowane.

To przesunięcie ujawnia wąskie gardła, które były mniej widoczne podczas fazy szkolenia. Obciążenia inferencji są ciągłe, wrażliwe na opóźnienia i energochłonne, co sprawia, że efektywność jest kluczowym czynnikiem.

System Lumai jest zaprojektowany specjalnie z myślą o tej fazie, koncentrując się na przepustowości na wat, a nie samą surowej mocy obliczeniowej.

Wczesny Dostęp i Implikacje Branżowe

Serwer Iris Nova jest teraz dostępny do oceny przez hyperscalers, przedsiębiorstwa i instytucje badawcze. Dodatkowe systemy w rodzinie Iris, w tym Aura i Tetra, mają zostać wprowadzone, rozszerzając opcje wydajności i wdrożenia.

Jeśli obliczenia optyczne mogą spełnić swoje obietnice na dużą skalę, mogą one zmienić ekonomikę infrastruktury AI. Niższe zużycie energii i wyższa efektywność nie tylko zmniejszyłyby koszty operacyjne, ale także rozwiązałyby rosnące obawy dotyczące wpływu środowiskowego AI.

Pomimo że nie wiadomo jeszcze, jak szybko ta technologia zostanie przyjęta, ogłoszenie Lumai wskazuje na wyraźny kierunek: przyszłość obliczeń AI może nie być oparta wyłącznie na krzemie.