Dlaczego wyścig chipów AI teraz opiera się na oprogramowaniu

Każdy nowy akcelerator AI pojawia się z historią benchmarkingową: szczytowy przepływ, teraoperacje na wat, imponujące liczby, które obiecują, że ten chip zmieni wszystko. Te liczby pomijają jednak fakt, czy klient może rzeczywiście używać chipa w produkcji. Zazwyczaj nie może, i to jest prawdziwa historia stanu branży AI sprzętowej dzisiaj. Branża ta stoi w obliczu problemu dojrzałości oprogramowania, a większość firm nie jest jeszcze gotowa to publicznie przyznać.

Przerwa, o której nikt nie mówi

Cykle rozwoju krzemowego trwają od dwóch do czterech lat, podczas gdy krajobraz modeli AI ewoluuje w cyklu mierzącym miesiące i tendencję ku tygodniom. Pod tym leży problem łańcucha wartości: przypadki użycia końcowego, od pojazdów i fabryk po szpitale i urządzenia, dojrzewają w funkcjonalności i zaczynają generować wymierne wpływ na zysk i straty. To dojrzałość powoduje popyt na adaptacje oprogramowania, które z kolei wymagają zmian sprzętowych. Każda z tych trzech warstw działa z fundamentalnie różną szybkością, a to niezgodność jest przyczyną tarcia budującego się na rynku. Stos oprogramowania wymagany do uruchomienia dużych modeli językowych różni się fundamentalnie od tego, który został zbudowany dla wcześniejszych obciążeń szkoleniowych. Czas linii rozwoju sprzętu nie został ściśnięty, aby dopasować się do tego cyklu. Firmy, które wysyłają nowy krzem dzisiaj, dostarczają go klientom z oprogramowaniem, które nie może w pełni odblokować możliwości chipa, produkując wzorzec, który powtarza się na rynku: imponujący krzem, niedojrzałe oprogramowanie, powolne wdrożenie i przegapione przychody. Chip robi to, do czego został zaprojektowany. Problem polega na tym, że klienci nie mogą go łatwo używać.

Rozważmy, co się stało z branżą motoryzacyjną. Samochody były w dużej mierze rozwiązaniem już w połowie XX wieku, ale gdy oprogramowanie stało się różnicą, firmy z najgłębszymi tradycjami produkcyjnymi miały największe trudności z adaptacją. Ford i GM wiedzieli, jak budować silniki, ale nie mieli “mięśni” do budowania systemów operacyjnych. Branża sprzętowa AI przechodzi przez tę samą transformację teraz, a analogia jest niezwykle precyzyjna. NVIDIA (NVDA ) odgrywa rolę disruptora rodzimego oprogramowania, podczas gdy tradycyjne firmy półprzewodnikowe nadal uczą się, jak sprzedawać ekosystemy deweloperskie wraz z krzemem.

Dominacja NVIDIA ma prawie nic wspólnego z posiadaniem najlepszych chipów. CUDA (Compute Unified Device Architecture) ma dwadzieścia lat, z wszystkim tym, co to oznacza, ale to, co NVIDIA rzeczywiście zbudowało, to system operacyjny obliczeń AI: przewidywalny, dojrzały ekosystem, na którym deweloperzy i OEM mogą polegać w produkcji.

Klienci wybierają platformy na podstawie dojrzałości oprogramowania i ryzyka integracji, więc gdy nowy akcelerator pojawia się bez oprogramowania gotowego do produkcji, komercyjna rozmowa kończy się, zanim się zacznie.

Czas do pierwszego modelu, definiowany jako czas, jaki potrzebuje klient, aby uruchomić rzeczywiste obciążenie AI na danym akceleratorze, jest o wiele bardziej znaczącym komercyjnym wskaźnikiem niż szczytowy przepływ. To jest rozmowa, na którą większość firm sprzętowych jest najmniej przygotowana.

Rzeczywisty rynek to inferencja

Rodzimym językiem biznesu jest zysk i strata, a każda firma wdrażająca AI musi odpowiedzieć na to samo pytanie: gdzie jest pieniądz, a co mnie powstrzymuje przed jego zdobyciem? Szkolenie jest koniecznym krokiem, ale komercyjne AI żyją w inferencji, a ten rynek ledwie się zaczął.

Asymetria skali jest tutaj uderzająca. Szkolenie obejmuje jeden przypadek użycia; inferencja obejmuje nieskończoną liczbę. Każde zastosowanie AI w pojeździe, fabryce, szpitalu, telefonie lub magazynie wymaga inferencji. Chip, który uruchamia systemy bezpieczeństwa w samochodzie, nie może pobierać mocy z centrum danych, a urządzenie, które uruchamia inferencję w czasie rzeczywistym na podłodze fabryki, nie może tolerować wysokiej latencji. Rynek inferencji brzegowej wymaga krzemów zaprojektowanych specjalnie dla wydajności energetycznej, ograniczeń fizycznych i wymagań bezpieczeństwa i niezawodności przemysłów, które je wdrożą.

Niedawna decyzja Google o podzieleniu swojego ósmego pokolenia TPU na dwa odrębne chipy, jeden do szkolenia i jeden do inferencji, jest warta rozważenia. Ten wybór architektoniczny uznaje, że obciążenia te rozwinęły się tak znacznie, że optymalizacja dla obu w jednym projekcie teraz oznacza doskonałość w żadnym. Gdy firma, która prowadzi część największej infrastruktury AI, decyduje, że specjalizacja jest ważniejsza niż konsolidacja, sygnalizuje, dokąd zmierza reszta rynku: ku krzemom inferencji zaprojektowanym z myślą o wdrożeniu na brzegu, w dużych ilościach, pod rzeczywistymi ograniczeniami, których benchmarki centrum danych nie były projektowane do mierzenia.

Jesteśmy w trakcie wyścigu o inferencję, podczas gdy większość rynku nadal jest zorganizowana wokół szkolenia.

Strukturalne ograniczenia legacy

Firmy, które są najlepiej przygotowane do produkcji na dużą skalę, pozostają strukturalnie niezdolne do obsługi rynków, w których inferencja będzie żyć. Klienci samochodowi potrzebują dostawców, którzy gwarantują dostępność komponentów na okres dziesięciu lat. Ogólne firmy półprzewodnikowe, takie jak Intel (INTC ), nie zgodzą się na to. To ograniczenie strukturalne pozostawia całą branżę niedostatecznie obsłużoną, a żadne negocjacje nie zmienią tego.

Platforma AI brzegowego NVIDIA jest już teraz konfrontowana z wyzwaniem ze strony alternatyw zgodnych z PIN, które dostarczają lepszą wydajność na wat bez wymagania zmian w stosie oprogramowania. Klient może wymienić chip i zachować wszystko inne, co czyni to bezpośrednim atakiem komercyjnym na najbardziej bronioną część pozycji NVIDIA na brzegu.

Firmy, które udowodniły swoją koncepcję na CUDA, odkrywają, że ekonomiczne wdrożenie na dużą skalę wymaga ponownej architektury na krzemie o niższej mocy, ponieważ gdy organizacje wdrożą dziesiątki tysięcy urządzeń, koszt jednostkowy i zużycie energii stają się decydującymi czynnikami. Sekwencja rozgrywająca się na rynku inferencji jest prosta: użyj czegoś, co działa, przetestuj to, a następnie znajdź sposób, aby to wdrożyć ekonomicznie, ponieważ musisz na tym zarobić. Biorąc pod uwagę tempo adopcji AI, okno na ustanowienie przewagi oprogramowania i ekosystemu jest mierzone w kwartałach.

Inwestycja inżynieryjna, której większość firm nie wykonuje

Firmy sprzętowe AI nadal wysyłają potężne chipy z oprogramowaniem, które nie może w pełni ich uruchomić. Oprogramowanie systemowe gotowe do produkcji, obejmujące środowiska uruchomieniowe inferencji, optymalizację kompilatora i umożliwienie obciążeń, wymaga głębokiej, specjalistycznej inżynierii, której większość firm sprzętowych po prostu nie ma wewnętrznie.

Budowanie tej zdolności oznacza zatrudnienie inżynierów kompilatorów i architektów środowiska uruchomieniowego, którzy mogą zamknąć lukę między tym, co chip teoretycznie może zrobić, a tym, co klient może praktycznie wdrożyć. Firmy również muszą inwestować w łańcuchy narzędzi przed uzasadnieniem tego przychodem, ponieważ do czasu, gdy przychód przyjdzie, okno zostanie zamknięte. Firmy, które pomijają tę inwestycję, nie tylko pozostają w tyle. Tracą umowy.

Chip, który osiąga skalę, jest najbardziej wdrożalnym chipem, a wdrożalność jest funkcją jakości oprogramowania. Główni nabywcy, od OEM i hyperscalerów po klientów przedsiębiorstw, zostali już spaleni przez krzem, który dobrze benchmarkuje i źle integruje. Wybierają na podstawie dojrzałości ekosystemu i ryzyka integracji. Firmy, które traktują oprogramowanie jako pierwszorzędny priorytet inżynieryjny, konwertują więcej pilotów na umowy produkcyjne i osiągają przychody szybciej. Te, które traktują je jako późniejszy dodatek, obserwują, jak technicznie lepszy krzem traci umowy z gorszymi chipami wspieranymi przez dojrzałe stosy.

Czasomierz już tyka

Firmy sprzętowe AI, które są najlepiej przygotowane do zdobycia znaczącej części rynku w następnej fazie, budują dziś przewagi ekosystemowe, które będą trudne do powtórzenia dla późniejszych uczestników. Elastyczność oprogramowania, zdolność do adaptacji do nowych architektur modeli bez oczekiwania na następny tape-out, oddziela krzem, który pozostaje komercyjnie istotny, od krzemów, które cyklicznie przechodzą przez pilotaż bez generowania potrzebnych przychodów do sfinansowania następnego pokolenia.

Decyzje podejmowane teraz, w zespołach inżynieryjnych, umowach partnerskich i pilotach komercyjnych na całym krajobrazie sprzętu AI, określą, które firmy będą nadal istotne w 2028 roku. Dwudziestoletnia przewaga CUDA to rów, zbudowany na głębokości ekosystemu, ale każda firma, która jest gotowa traktować oprogramowanie jako priorytet inżynieryjny, może zbudować tę samą głębokość w czasie.

Pytanie, na które branża musi odpowiedzieć, brzmi: które firmy poruszają się wystarczająco szybko, aby zbudować głębokość ekosystemu, która sprawi, że ich chipy staną się wyborem domyślnym, zanim wybór kogoś innego stanie się zbyt zakorzeniony, aby go usunąć.