Recenzja książki: The Thinking Machine: Jensen Huang, NVIDIA i najbardziej pożądany mikrochip na świecie autorstwa Stephena Witt

The Thinking Machine: Jensen Huang, NVIDIA i najbardziej pożądany mikrochip na świecie wyróżnia się spośród innych książek o sztucznej inteligencji, ponieważ podejmuje ten temat z perspektywy, której wielu technicznie wykształconych czytelników, w tym ja, historycznie nie doceniał.

Podobnie jak wiele osób, które przez lata obserwowały rozwój sztucznej inteligencji, moje zrozumienie tego pola zostało ukształtowane przez znane kamienie milowe. Historia zwykle zaczyna się w 1956 roku z warsztatem w Dartmouth, przechodzi przez wczesne systemy symboliczne, a następnie przeskakuje do przełomowych momentów, takich jak zwycięstwo Deep Blue nad Garrym Kasparowem, zwycięstwo DeepMind w grze Go i ostatnio demonstracja przez OpenAI, że duże modele językowe mogą koordynować strategie w złożonych środowiskach wieloosobowych. Chwile te są intelektualnie satysfakcjonujące i łatwe do zapamiętania, ponieważ koncentrują się na widocznych zwycięstwach.

Czym wyróżnia się książka Stephena Witt, to to, że poddaje w wątpliwość to ujęcie. Zamiast koncentrować się na momentach, w których sztuczna inteligencja zrobiła wrażenie na świecie, The Thinking Machine koncentruje się na mniej widocznej warstwie pod tymi osiągnięciami. Twierdzi, przekonywująco, że współczesna era sztucznej inteligencji nie została odblokowana przede wszystkim przez pomysłowe idee, ale przez fundamentalną zmianę w sposobie, w jaki sama obliczeniowość była wykonywana.

Poprzez umieszczenie narracji wokół NVIDIA (NVDA ) i jej współzałożyciela Jensena Huanga, Witt przedstawia rewolucję sztucznej inteligencji jako historię o architekturze komputera, ekosystemach deweloperskich i długoterminowej wizji. Efektem jest nie tylko biografia korporacyjna, ale także brakujący rozdział w szerszej historii sztucznej inteligencji.

Od gier wideo do nowego paradygmatu komputera

Początki NVIDIA są znacznie oddalone od ambitnych celów, które teraz są kojarzone ze sztuczną inteligencją. Firma powstała w 1993 roku jako producent chipów graficznych, koncentrując się na renderowaniu coraz bardziej realistycznych światów gier wideo. Wyzwaniem w tym czasie nie była inteligencja, ale szybkość. Gry wymagały ogromnej liczby obliczeń, które musiały być wykonane natychmiast, aby symulować światło, ruch i głębię.

Rozwiązanie, które NVIDIA podjęła, to obliczenia równoległe. Obliczenia równoległe oznaczają wykonywanie wielu obliczeń jednocześnie, a nie sekwencyjnie. Zamiast polegać na jednym potężnym rdzeniu, które przetwarza polecenia jeden po drugim, GPU używa tysięcy mniejszych rdzeni, które pracują jednocześnie nad podobnymi operacjami matematycznymi. Ten podejście jest szczególnie potężne dla obciążeń, które obejmują powtarzanie tych samych obliczeń na dużych zbiorach danych.

Początkowo architektura ta została zbudowana dla grafiki. Jednak Witt pokazuje, jak ta decyzja cicho stworzyła idealną podstawę dla sieci neuronowych dziesięcioleci później. Trening nowoczesnych modeli sztucznej inteligencji wymaga ogromnej liczby identycznych operacji matematycznych stosowanych na ogromnych ilościach danych. GPU były już zoptymalizowane pod kątem takiej pracy.

Co sprawia, że ta część książki jest interesująca, to to, jak wyraźnie Witt łączy techniczne decyzje projektowe z przeżyciem. NVIDIA nie wybrała obliczeń równoległych, bo przewidywała sztuczną inteligencję. Wybrała je, bo była to jedyna droga, aby konkurować w czasie rzeczywistym z grafiką. Ta konieczność zmusiła firmę do opanowania modelu komputera, który później okazał się przełomowy, daleko poza granice gier.

Jensen Huang i myślenie w systemach, a nie w produktach

W centrum tej historii jest Jensen Huang, przedstawiany nie jako konwencjonalny menedżer, ale jako ktoś, kto konsekwentnie myślał w systemach, a nie w poszczególnych produktach. Witt przedstawia Huanga jako wymagającego, intensywnego i często trudnego, ale także niezwykle konsekwentnego w swoim spojrzeniu na technologię w długim okresie.

Podczas gdy konkurenci traktowali GPU jako wymienną część związaną z cyklami gier, Huang traktował je jako podstawę szerszej platformy komputera. Ta różnica jest krytyczna. Produkty są zastępowane. Platformy kumulują się.

Wewnątrz NVIDIA odbijało się to nastawienie. Inżynierowie byli zachęcani do myślenia o latach do przodu. Oprogramowanie było traktowane jako strategicznie ważne, jak krzem. Inwestycje były robione w narzędzia i wsparcie deweloperskie, zanim było jasne, że będą one potrzebne. Wiele z tych wyborów wydawało się nadmierne lub niepotrzebne w tym czasie. Windsight pokazał, że stworzyły one przewagę, której konkurenci nie mogli pokonać.

Witt wyjaśnia, że wzrost NVIDIA nie był nieunikniony. Firma była bliska upadku więcej niż raz. To, co ją poprowadziło do przodu, nie było jednym przełomem, ale utrzymaniem wiary, że przyspieszona komputacja ostatecznie będzie miała znaczenie daleko poza swój pierwotny przypadek użycia.

CUDA i historia pochodzenia sztucznej inteligencji, której wiele osób nie zauważyło

Jednym z najważniejszych wkładów The Thinking Machine jest to, jak przedstawia rolę CUDA w historii sztucznej inteligencji.

Przed przeczytaniem tej książki łatwo jest myśleć o CUDA jako po prostu udanym narzędziu deweloperskim. Witt pokazuje, dlaczego zasługuje ono na znacznie więcej uwagi. CUDA zostało stworzone, aby uczynić obliczenia równoległe użytecznymi poza grafiką. Przed CUDA używanie GPU do ogólnych obliczeń wymagało wymuszania problemów przez interfejsy specyficzne dla grafiki. Było to kruche, niewydajne i ograniczone do specjalistów.

CUDA to zmieniło, pozwalając deweloperom programować GPU przy użyciu znanych modeli programowania. Tysiące rdzeni obliczeniowych stało się dostępnych jako ogólny zasób. To obniżyło barierę wejścia do wysokowydajnych obliczeń w sposób, który niewielu ludzi w pełni doceniło w tym czasie.

To jest miejsce, w którym książka silnie rezonuje z moim własnym doświadczeniem uczenia się historii sztucznej inteligencji. Narracja, którą wchłonąłem, koncentrowała się głównie na modelach i algorytmach. Co The Thinking Machine wyjaśnia, to to, że wiele z tych pomysłów stało się praktycznych dopiero wtedy, gdy badacze mogli je skalować.

Badacze sztucznej inteligencji szybko zrozumieli, że sieci neuronowe są niemal idealnym dopasowaniem do obliczeń równoległych. Trening obejmuje powtarzanie tych samych operacji na dużych zbiorach danych, dostosowując miliony lub miliardy parametrów w czasie. CUDA pozwoliło na to, aby ten proces mógł się odbywać szybciej, taniej i bardziej niezawodnie niż CPU kiedykolwiek mogło.

To stało się szczególnie ważne, gdy głębokie uczenie się przyspieszyło i później, gdy pojawiły się modele oparte na transformatorach. Transformatorzy prosperują w skali. Bez przyspieszenia GPU wiele modeli, które definiują dzisiejszy krajobraz sztucznej inteligencji, pozostałoby teoretyczne lub zbyt drogie. CUDA nie wymyśliło tych architektur, ale umożliwiło ich szybką ewolucję.

Co Witt ujmuje szczególnie dobrze, to to, że ten wynik nie był w pełni zaplanowany. CUDA zostało zbudowane dla obliczeń naukowych. Badacze sztucznej inteligencji odkryli jego moc i pociągnęli NVIDIA do centrum wyścigu sztucznej inteligencji.

Infrastruktura ponad algorytmami

Jednym z najcenniejszych spostrzeżeń książki jest to, że postęp sztucznej inteligencji jest ograniczony tak samo przez infrastrukturę, jak i przez pomysły. Wiele popularnych relacji koncentruje się na algorytmach, sztuczkach treningowych i zbiorach danych. The Thinking Machine przypomina czytelnikowi, że żadne z nich nie mają znaczenia bez wystarczającej mocy obliczeniowej.

Z tej perspektywy nowoczesny boom sztucznej inteligencji wydaje się mniej nagły i bardziej opóźniony. Sieci neuronowe istniały przez dziesięciolecia. To, co się zmieniło, to dostępność sprzętu, który mógł je trenować w znaczącej skali.

NVIDIA nie tylko dostarczyła szybsze chipy. Zbudowała ekosystem sprzętu, bibliotek oprogramowania i narzędzi deweloperskich, które wzajemnie się wzmacniały w czasie. Gdy badacze optymalizowali swoją pracę na platformach NVIDIA, NVIDIA udoskonalała swoje produkty, aby lepiej obsługiwać obciążenia sztucznej inteligencji. Ta pętla sprzężenia zwrotnego stworzyła trwałą przewagę, która sięgała daleko poza surową wydajność.

Książka cicho podkreśla rzeczywistość, która staje się coraz bardziej oczywista dzisiaj: przywództwo w sztucznej inteligencji kształtowane jest przez łańcuchy dostaw, zdolności produkcyjne, ekosystemy oprogramowania i kontrolę platformy, a nie tylko geniusz badawczy.

Wizja, ryzyko i kumulujące się konsekwencje

Witt nie unika konsekwencji dominacji NVIDIA. Gdy firma staje się podstawą globalnej infrastruktury sztucznej inteligencji, jej wpływ rośnie odpowiednio. Przekonanie Jensena Huanga, że przyspieszona komputacja zdefiniuje następną fazę postępu technologicznego, przenika przez całą książkę.

Zamiast moralizować, The Thinking Machine koncentruje się na tym, jak konsekwentne decyzje inżynieryjne i strategiczne kumulowały się w czasie. NVIDIA nie wygrała, goniąc trendy. Wygrała, angażując się wcześnie w obliczenia równoległe, znosząc powtarzające się cykle rynkowe i inwestując bez ustanku w narzędzia, które uczyniły jej sprzęt niezastąpionym.

Dla czytelników, którzy chcą zrozumieć, jak sztuczna inteligencja naprawdę się rozwinęła

Dla czytelników, którzy już znają przełomowe momenty historii sztucznej inteligencji, ta książka wypełnia brakującą warstwę pod nimi. Wyjaśnia, dlaczego te przełomy mogły się skalować, gdy się skalowały, i dlaczego NVIDIA wyłoniła się jako tak siła w tym procesie.

To jest książka dla czytelników, którzy chcą zrozumieć sztuczną inteligencję jako system przemysłowy, a nie zbiór inteligentnych modeli. Będzie silnie rezonować z tymi, którzy są zainteresowani chipami, centrami danych i często niewidocznymi decyzjami inżynieryjnymi, które cicho kształtują moc technologiczną.

The Thinking Machine odnosi sukces, ponieważ przedstawia historię sztucznej inteligencji od podstaw, pokazując, jak obliczenia równoległe, platformy deweloperskie i długoterminowa wizja zbudowały podstawę, na której współczesna sztuczna inteligencja stoi.