서평: 스티븐 위트 저, 《생각하는 기계: 젠슨 황, 엔비디아, 그리고 세계에서 가장 탐나는 마이크로칩》

생각하는 기계: 젠슨 황, 엔비디아, 그리고 세계에서 가장 탐나는 마이크로칩 이 책은 인공지능에 관한 대부분의 책들과는 달리, 저를 포함한 많은 기술 지식인 독자들이 그동안 간과해왔던 관점에서 주제에 접근한다는 점에서 차별화됩니다.

수년간 인공지능 분야를 지켜봐 온 많은 사람들처럼, 저 역시 익숙한 주요 사건들을 통해 이 분야에 대한 이해를 형성해 왔습니다. 이야기는 대개 다음과 같이 시작됩니다. 1956년 다트머스 워크숍에서, 초기 기호 체계를 거쳐 IBM과 같은 획기적인 순간으로 넘어갑니다. 딥 블루가 게리 카스파로프를 꺾었습니다., 딥마인드, 바둑 마스터하기그리고 최근에는 OpenAI가 대규모 언어 모델이 복잡한 멀티플레이어 환경에서 전략을 조율할 수 있음을 보여주었습니다. 이러한 순간들은 눈에 보이는 승리에 초점을 맞추고 있기 때문에 지적으로 만족스럽고 기억하기 쉽습니다.

스티븐 위트의 책이 특히 뛰어난 점은 그러한 관점에 이의를 제기한다는 것입니다. 인공지능이 세상을 놀라게 한 순간들에 초점을 맞추는 대신, 생각하는 기계 이 책은 그러한 성과 이면에 숨겨진, 잘 드러나지 않는 층에 초점을 맞춥니다. 현대 인공지능 시대는 단순히 기발한 아이디어만으로 열린 것이 아니라, 연산 방식 자체의 근본적인 변화에 의해 실현되었다는 점을 설득력 있게 주장합니다.

NVIDIA를 중심으로 이야기를 전개함으로써 (NVDA 0.47%) 공동 창립자인 젠슨 황과 함께, 위트는 AI 혁명을 컴퓨팅 아키텍처, 개발자 생태계, 그리고 장기적인 신념에 관한 이야기로 재구성합니다. 그 결과는 단순한 기업 전기라기보다는 인공지능의 광범위한 역사에서 빠져 있던 한 장을 채워주는 이야기가 되었습니다.

비디오 게임에서 새로운 컴퓨팅 패러다임으로

엔비디아의 초창기는 오늘날 인공지능과 관련된 원대한 포부와는 거리가 멀었습니다. 1993 년에 등장 그래픽 칩 제조업체로서, 점점 더 사실적인 비디오 게임 세계를 구현하는 데 집중했습니다. 당시의 과제는 지능이 아니라 속도였습니다. 게임은 빛, 움직임, 깊이감을 시뮬레이션하기 위해 엄청난 양의 계산을 즉시 수행해야 했습니다.

엔비디아가 추구한 해결책은 다음과 같았습니다. 병렬 컴퓨팅. 병렬 컴퓨팅이란 여러 계산을 순차적으로 실행하는 대신 동시에 수행하는 것을 의미합니다. GPU는 하나의 강력한 코어가 명령어를 순차적으로 처리하는 대신, 수천 개의 작은 코어가 유사한 수학적 연산을 동시에 처리합니다. 이러한 접근 방식은 특히 대규모 데이터 세트에서 동일한 계산을 반복해야 하는 작업 부하에 매우 효과적입니다.

원래 이 아키텍처는 그래픽 처리를 위해 설계되었습니다. 하지만 위트는 이러한 결정이 어떻게 수십 년 후 신경망을 위한 이상적인 토대를 조용히 마련했는지 보여줍니다. 현대 AI 모델을 훈련하려면 방대한 양의 데이터에 걸쳐 동일한 수학 연산을 수없이 많이 적용해야 합니다. GPU는 바로 이러한 종류의 작업에 최적화되어 있었습니다.

이 책의 이 부분이 흥미로운 이유는 위트가 기술적 설계 선택과 생존을 얼마나 명확하게 연결하는지 보여주기 때문입니다. NVIDIA는 인공지능을 예측해서 병렬 컴퓨팅을 선택한 것이 아닙니다. 실시간 그래픽 분야에서 경쟁할 수 있는 유일한 방법이었기 때문입니다. 이러한 필요성 때문에 NVIDIA는 훗날 게임을 넘어 훨씬 더 광범위한 분야에 혁신적인 변화를 가져올 컴퓨팅 모델을 숙달할 수밖에 없었습니다.

젠슨 황과 시스템이 아닌 제품이 되는 사고방식

이 이야기의 중심에는 젠슨 황이 있는데, 그는 일반적인 경영자가 아니라 개별 제품보다는 시스템을 일관되게 사고하는 인물로 묘사됩니다. 위트는 황을 까다롭고, 열정적이며, 때로는 다루기 어려운 인물로 그려내지만, 오랜 기간에 걸쳐 기술에 대한 그의 관점이 놀라울 정도로 일관적이었다는 점도 보여줍니다.

경쟁사들이 GPU를 게임 수명 주기에 따른 소모품으로 취급하는 동안, 황 대표는 GPU를 더 광범위한 컴퓨팅 플랫폼의 기반으로 여겼습니다. 이러한 차이점은 매우 중요합니다. 제품은 교체되지만, 플랫폼은 축적되기 때문입니다.

엔비디아는 내부적으로 이러한 사고방식을 반영했습니다. 엔지니어들은 수년 앞을 내다보며 생각하도록 장려되었고, 소프트웨어는 실리콘만큼 전략적으로 중요하게 여겨졌습니다. 명확한 수요가 발생하기 훨씬 전부터 툴링과 개발자 지원에 투자가 이루어졌습니다. 당시에는 이러한 선택들이 과도하거나 불필요해 보였을지 모르지만, 돌이켜보면 경쟁사들이 넘기 힘든 강력한 진입 장벽을 구축하는 데 기여했습니다.

위트는 엔비디아의 성공이 필연적인 것이 아니었음을 분명히 밝힙니다. 이 회사는 여러 차례 실패의 위기를 겪었습니다. 엔비디아를 앞으로 나아가게 한 것은 단 한 번의 획기적인 발전이 아니라, 가속 컴퓨팅이 결국 원래의 사용 사례를 훨씬 뛰어넘어 중요한 의미를 갖게 될 것이라는 지속적인 믿음이었습니다.

CUDA와 AI의 기원 이야기: 많은 사람들이 놓친 부분

가장 중요한 공헌 중 하나는 생각하는 기계 이는 CUDA가 인공지능 역사에서 어떤 역할을 하는지를 재정립하는 방식입니다.

이 책을 읽기 전에는 다음과 같은 생각을 하기 쉽습니다. CUDA 단순히 성공적인 개발자 도구라고만 치부할 수 없는 CUDA에 대해, 위트는 왜 훨씬 더 많은 관심을 받을 자격이 있는지를 보여줍니다. CUDA는 그래픽 분야 외에서도 병렬 컴퓨팅을 활용할 수 있도록 만들어졌습니다. CUDA 이전에는 일반적인 연산에 GPU를 사용하려면 그래픽 전용 인터페이스를 통해 문제를 해결해야 했습니다. 이는 불안정하고 비효율적이었으며 전문가에게만 국한되었습니다.

CUDA는 개발자들이 익숙한 프로그래밍 모델을 사용하여 GPU를 프로그래밍할 수 있도록 함으로써 이러한 상황을 바꾸어 놓았습니다. 수천 개의 컴퓨팅 코어를 누구나 쉽게 활용할 수 있게 된 것입니다. 이는 고성능 컴퓨팅에 대한 진입 장벽을 낮추는 데 크게 기여했지만, 당시에는 그 중요성을 제대로 인식한 사람이 많지 않았습니다.

이 책은 제가 인공지능 역사를 배우면서 겪었던 경험과 강하게 공감대를 형성했습니다. 제가 접한 서술 방식은 모델과 알고리즘에 집중되어 있었습니다. 생각하는 기계 이 책에서 분명히 드러나는 것은 그러한 아이디어들 중 상당수가 연구자들이 실제로 대규모로 훈련시킬 수 있게 되었을 때 비로소 실용화되었다는 점입니다.

인공지능 연구원들은 신경망이 병렬 컴퓨팅에 거의 완벽하게 적합하다는 사실을 빠르게 알아차렸습니다. 학습 과정은 방대한 데이터 세트에 걸쳐 동일한 연산을 반복하고, 수백만 또는 수십억 개의 매개변수를 시간에 따라 조정하는 작업을 포함합니다. CUDA는 이러한 과정을 CPU보다 훨씬 빠르고 저렴하며 안정적으로 수행할 수 있도록 해주었습니다.

이는 딥러닝이 가속화되고 이후 트랜스포머 기반 모델이 등장하면서 특히 중요해졌습니다. 트랜스포머는 확장성이 뛰어납니다. GPU 가속이 없었다면 오늘날 AI 환경을 정의하는 많은 모델들이 이론적인 수준에 머물거나 구현 비용이 너무 높아 실현 불가능했을 것입니다. CUDA가 이러한 아키텍처를 발명한 것은 아니지만, 빠른 발전을 가능하게 했습니다.

위트가 특히 잘 포착한 것은 이러한 결과가 완전히 계획된 것이 아니었다는 점입니다. CUDA는 과학 컴퓨팅을 위해 개발되었습니다. AI 연구원들이 CUDA의 강력한 성능을 발견하고 NVIDIA를 AI 경쟁의 중심으로 끌어들인 것입니다.

알고리즘보다 인프라가 우선

이 책에서 가장 가치 있는 통찰 중 하나는 인공지능의 발전이 아이디어만큼이나 인프라에 의해 제약받는다는 점입니다. 많은 대중적인 저서들은 알고리즘, 훈련 기법, 데이터셋에 초점을 맞추고 있습니다. 생각하는 기계 이 글은 충분한 컴퓨팅 자원이 없으면 이러한 모든 것들이 무의미하다는 점을 독자에게 상기시켜 줍니다.

이러한 관점에서 볼 때, 현대 인공지능 붐 갑작스럽기보다는 오히려 지연된 것처럼 보입니다. 신경망은 수십 년 전부터 존재해 왔습니다. 달라진 점은 의미 있는 규모로 신경망을 훈련시킬 수 있는 하드웨어의 가용성이었습니다.

NVIDIA는 단순히 더 빠른 칩을 제공하는 데 그치지 않았습니다. 하드웨어, 소프트웨어 라이브러리, 개발자 도구로 구성된 생태계를 구축하여 시간이 지남에 따라 서로를 강화했습니다. 연구원들이 NVIDIA 플랫폼에 맞춰 작업을 최적화함에 따라 NVIDIA는 AI 워크로드를 더욱 효과적으로 처리할 수 있도록 제품을 개선했습니다. 이러한 피드백 루프는 단순한 성능 향상을 넘어 지속적인 경쟁 우위를 창출했습니다.

이 책은 오늘날 점점 더 분명해지고 있는 현실, 즉 인공지능 분야의 리더십은 연구 성과뿐만 아니라 공급망, 제조 능력, 소프트웨어 생태계, 플랫폼 통제에 의해 결정된다는 점을 조용히 강조합니다.

비전, 위험 및 누적 결과

위트는 엔비디아의 지배력이 갖는 의미를 숨기지 않는다. 엔비디아가 글로벌 AI 인프라의 기반이 되면서 그 영향력은 그에 비례해 커져간다. 가속 컴퓨팅이 차세대 기술 발전을 이끌 것이라는 젠슨 황의 믿음은 책 전체에 걸쳐 드러난다.

도덕적인 훈계를 하기보다는, 생각하는 기계 이 글은 일관된 엔지니어링과 전략적 결정이 시간이 지남에 따라 어떻게 누적되었는지에 초점을 맞춥니다. NVIDIA는 트렌드를 쫓아서 성공한 것이 아닙니다. 병렬 컴퓨팅에 일찍부터 투자하고, 반복되는 시장 변동을 견뎌내며, 하드웨어를 필수불가결하게 만드는 도구에 끊임없이 투자함으로써 성공했습니다.

인공지능이 실제로 어떻게 확장되었는지 이해하고 싶은 독자들을 위해

이미 주요 사건들을 알고 있는 독자들을 위해 AI 역사이 책은 그러한 혁신의 밑바탕에 깔려 있던 부분을 채워줍니다. 왜 그러한 혁신이 그 시점에 대규모로 적용될 수 있었는지, 그리고 왜 NVIDIA가 그 과정에서 그토록 핵심적인 역할을 하게 되었는지를 설명합니다.

이 책은 인공지능을 단순히 기발한 모델들의 집합체가 아닌 산업 시스템으로서 이해하고자 하는 독자들을 위한 책입니다. 반도체 칩, 데이터 센터, 그리고 기술의 판도를 조용히 좌우하는 눈에 잘 띄지 않는 엔지니어링 결정에 관심 있는 사람들에게 큰 공감을 불러일으킬 것입니다.

생각하는 기계 이 책은 인공지능에 대한 이야기를 근본적으로 재구성하여 병렬 컴퓨팅, 개발자 플랫폼, 그리고 장기적인 비전이 어떻게 현대 인공지능의 토대를 구축했는지 보여주기 때문에 성공적입니다.