책 리뷰: 무한 기계 – 데미스 하사비스, 딥마인드, 그리고 초지능을 향한 여정

저는 이전에 파워 법칙을 읽었는데, 이는 벤처 캐피탈에 관한 가장 훌륭한 책이라고 생각합니다. 따라서 저는 세바스티안 말라비의 최신 책에 대해 매우 높은 기대를 가지고 접근했습니다. 무한 기계: 데미스 하사비스, 딥마인드, 그리고 초지능을 향한 여정은 저의 기대를 실망시키지 않았습니다.

파워 법칙과 마찬가지로, 이 책은 변혁적인 회사들이 기술이나 재무 결과만으로 설명될 수 없다는 것을 이해하기 때문에 성공합니다. 그것들은 건설하는 사람들의 야망, 성격, 라이벌关系, 그리고 깊이 내재된 신념을 통해 이해되어야 합니다.

무한 기계는 부분적으로 역사상 가장 중요한 인공 지능 회사 중 하나를 창립한 기업家的 이야기입니다. 그러나 더 중요하게는, 이는 과학자로서의 데미스 하사비스의 이야기입니다. 그는 기업가정신을 과학적 질문에 대한 추구를 위한 수단으로 사용했습니다.

데미스 하사비스는 딥마인드를 창립한 이유가 부유하거나 유명해지기 위해서가 아니라는 것을 알 수 있습니다. 그는 지능을 가장 중요한 문제로 식별했고, 그것을 해결하기 위해 자신의 삶을 구성했습니다.

이것이 책을 इतन 매력적으로 만드는 이유입니다.

과학자로서의 첫 번째, 기업가로서의 두 번째

말라비는 하사비스의 경력을 체스 신동과 비디오 게임 디자이너에서부터 신경과학자, 인공 지능 연구자, 그리고 결국 딥마인드의 공동 창립자까지 추적합니다. 이 책은 하사비스와의 30시간 이상의 대화와 동료, 경쟁자, 비평가, 이전 협력자와의 100회 이상의 인터뷰를 기반으로 합니다.

이 접근은 말라비가 하사비스를 단순히 구글 딥마인드의 공공 얼굴로만 나타내지 않고, 그의 관심사가 놀랍도록 일관된 사람으로 나타내도록 허용합니다.

체스는 그를 앞으로 몇 단계를 생각하도록 가르쳤습니다. 시뮬레이션 게임을 설계하는 것은 복잡한 세계가 어떻게 상대적으로 간단한 규칙에서 나타날 수 있는지 보여주었습니다. 신경과학은 기억, 상상, 계획, 지능이 인간 뇌 안에서 어떻게 작동하는지 묻도록 격려했습니다.

이러한 추구는 그의 경력의 단절된 단계가 아니었습니다. 그것들은 동일한 기본적인 질문에 대한 다른 접근 방식이었습니다. 지능을 충분히 잘 이해해서 재창조할 수 있을까요?

전체 책을 통해 두드러지는 것은 하사비스의 문제를 그 기초까지 줄이는 경향입니다. 기존 기술이 무엇을 성취할 수 있는지 시작하는 대신, 그는 반복적으로 그가 달성해야 할 결과와 함께 시작해서 뒤로 돌아가서 그것을 어떻게 달성할 수 있는지 작업했습니다.

이 첫 번째 원칙 접근법은 또한 그의异常적으로 긴 시간 지평을 설명합니다. 하사비스는 과학과 컴퓨팅이 충분히 발전할 때까지 문제를 그의 마음에 가지고 있는 데 몇 년, 심지어 몇십 년을 기다릴 준비가 있었습니다.

가장 분명한 예는 단백질 구조 예측입니다.

단백질 접히기 씨앗을 심은 대화

1990년대에 케임브리지에서 컴퓨터 과학을 공부하는 동안, 하사비스는 생물학 학생들과 친구가 되었습니다. 그들 중 하나는 특히 단백질 접히기 문제에 대해 매료되어 있었고, 그것을 해결하면 생물학을 변革할 수 있을 것이라고 설명했습니다.

하사비스는 즉시 그것을 인공 지능으로 해결할 수 있는巨大的 검색 문제로 인식했습니다. 그는 희망적으로 해결할 수 있는 과학적 문제에 대한 노트를 유지했다고 합니다. 거의 2십 년 동안 단백질 접히기는 그 목록에 남아있었습니다.

이것은 책의 가장 매력적인 부분 중 하나입니다.

보통의 대화가 하사비스를 몇십 년 동안 그의 마음에 남아 있는 문제를 소개했습니다. 대학교, 신경과학 연구, 기업가정신, 딥마인드의 창립, 그리고 점점 더 능력 있는 학습 시스템의 개발을 통해.

이어지는 것을 이해하기 위해, 도전의 규모를 감상해야 합니다.

단백질은 아미노산의 사슬로 시작합니다. 그 사슬은 세밀한 3차원 구조로 접히고, 그 구조는 주로 단백질이 살아있는 유기체 내에서 무엇을 할 수 있는지 결정합니다. 그 구조를 이해하는 것은 질병을 연구하고, 약을 설계하고, 생명에 의존하는 많은 메커니즘을 이해하는 데 필수적입니다.

어려운 점은 상대적으로 작은 단백질이라도 이론적으로 수용할 수 있는 구성의 천문학적인 수를 가정할 수 있다는 것입니다. X선 결晶학이나 저온 전자 현미경과 같은 방법을 사용하여 실험적으로 구조를 결정하는 것은 상당한 시간, 전문 지식, 비용을 요구할 수 있습니다.

대략 50년 동안 과학자들은 일차원 아미노산 서열에서 단백질의 3차원 구조를 신뢰성 있게 예측하려고 노력했습니다. 이 도전은 계산 생물학의 가장 해결되지 않은 문제 중 하나가 되었습니다.

알파폴드가 “단백질 접히기 문제를 해결했다”고 말하는 것은 기술적으로 너무 넓은 표현입니다. 알파폴드가 단백질 구조 예측을 변혁시켰습니다. 그것은 물리적 접히기 과정, 단백질 운동, 잘못된 접히기, 또는 분자 상호작용의 모든 단계를 설명하지 않습니다.

이限定은 성과를 약화시키지 않습니다. 거의 실험적 정확도로 구조를 예측하는 것은 자체적으로 한 분야를 바꾼 획기적인 성과였습니다.

게임은 목적지가 아닌 훈련의 장소

딥마인드는 생물학에서 시작하지 않았습니다. 초기의 돌파구는 게임을 통해 이루어졌습니다.

게임은 인공 지능 연구소에 귀중한 것을 제공했습니다. 제어된 환경, 명확한 규칙, 측정 가능한 결과, 그리고 수많은 가능한 결정이었습니다. 에이전트는 실험할 수 있었고, 실패할 수 있었고, 피드백을 받을 수 있었고, 실제 세계에서 작동하는 것의 모호성과 물리적 위험 없이 개선할 수 있었습니다.

딥마인드의 깊은 Q-네트워크는 단일 학습 시스템이 화면 픽셀과 보상 신호에서 게임 특정 지침 없이 광범위한 아타리 게임을 마스터할 수 있음을 보여주었습니다. 이 연구는 깊은 강화 학습을 현대 인공 지능에서 가장 유망한 접근 방식 중 하나로 확립하는 데 도움이 되었습니다.

다음 주요 테스트는 고였습니다.

고는 전통적인 컴퓨팅 접근법에 저항했는데, 가능한 보드 위치의 수가 완전한 검색을 불가능하게 만들었기 때문입니다. 성공에는 패턴 인식, 전략적 계획, 그리고 모든 가능한 결과를 계산하지 않고도 유망한 이동을 식별하는 능력이 필요했습니다.

2016년 3월, 알파고는 전설적인 고 선수 이세돌을 4대 1로 이겼습니다. 2억 명 이상의 사람들이 엘리트 선수조차 초기에 어려움을 겪었던 움직임을 보는 것을 지켜보았습니다.

알파고 제로는 인간 게임 기록에 대한 의존성을 제거했습니다. 규칙만으로 시작하여 자체적으로 플레이하고 결국 이전의 알파고를 능가했습니다. 알파제로는 접근 방식을 더욱 일반화하여 인간 예제나 수작업 전략 없이 체스, 쇼기, 고를 마스터했습니다.

이 시스템은 알파폴드의 직접적인 원형이 아니었습니다. 연결은 구조적보다는 철학적이고 조직적인 측면에서 더 많습니다.

게임은 딥마인드가 거대한 가능성 공간을 탐색할 수 있는 시스템을 구축하는 방법을 가르쳤습니다. 그것들은 신경망, 강화 학습, 검색, 그리고 막대한 양의 계산이 인간이 명시적으로 프로그래밍하지 않은 해결책을 발견할 수 있음을 보여주었습니다.

더 중요하게는, 게임은 하사비스에게 인공 지능이 분류와 패턴 매칭을 넘어真正로 유용한 통찰력을 생성할 수 있다는 것을 확신시켜 주었습니다.

알파고는 역사적인 성과였지만, 그것은 결코 최종 목적지였습니다. 게임은 딥마인드가 아이디어, 사람, 인프라, 그리고 실제 과학적 문제에 직면하기 위해 필요한 자신감을 개발할 수 있는 실험실이었습니다.

단백질 구조 예측은 원래 임무가 최终적으로 테스트될 곳이었습니다.

알파폴드와 승리와 해결의 차이

딥마인드는 2016年に 공식적으로 단백질 구조 예측에 대해 작업을 시작했습니다. 첫 번째 알파폴드 시스템은 2018년 CASP13 단백질 구조 예측 경쟁에 참가하여 참가자 중最高의 정확도를 달성했습니다.

많은 조직에서는 경쟁에서 승리하는 것이 충분했습니다. 그것은 헤드라인, 학술 인식, 그리고 프로젝트가 성공했다는 증명을 생성했을 것입니다.

하사비스는 더 많은 것을 원했습니다.

벤치마크를 통과하지만 일상적인 과학 작업에 충분히 신뢰할 수 없는 시스템은 실제로 문제를 해결하지 못했습니다. 딥마인드는 팀을 확장하고 존 저퍼를 중앙 연구 역할에 두고 시스템을 크게 재설계했습니다.

결과는 알파폴드2였습니다.

2020년 CASP14에서 알파폴드2는 조직자와 연구자들이 실험적 방법과 비교할 수 있는 정확도를 달성했습니다. 관련 연구는 계산적 예측이 원자적 정확성에 도달할 수 있음을 보여주었으며, 이는 알려진 구조와 관련이 없는 경우에도 마찬가지였습니다.

딥마인드와 유럽 생물 정보학 연구소는 이후 과학이 카탈로그화한 거의 모든 단백질 구조에 대한 예측을 공개했습니다. 데이터베이스는 이후 190개 이상의 국가에서 300만 명 이상의 연구자들이 접근했습니다.

2024년, 하사비스와 저퍼는 단백질 구조 예측으로 노벨 화학상을 공동 수상했습니다. 다른 반은 계산적 단백질 설계로 데이비드 베이커에게 수상했습니다.

이벤트의 순서는 내가 하사비스에 대해 가장 인상적인 것을 보여줍니다.

그는 문제의 수용된 측정값에 만족하지 않는 것 같습니다. 그는 지속적으로 실제 문제가 해결되었는지 묻습니다.

이것은 순수한 형태의 첫 번째 원칙 사고입니다. 벤치마크는代理입니다. 목표는 첫 번째가 되는 것이 아닙니다. 목표는 실제로 무엇인가를 변경하는 것을 만드는 것입니다.

오픈AI가 앞서가도록 도운 LLM 블라인드 스폿

이 책은 최근 인공 지능 역사에서 가장混乱한 에피소드 중 하나를 명확히 합니다.

구글 연구자들은 2017년의 랜드마크 논문 Attention Is All You Need에서 트랜스포머 아키텍처를 도입했습니다. 트랜스포머는 현대的大 언어 모델의 기초가 되었습니다.

그러나 구글은 이 선두를 언어 모델을 정의하는 제품으로 변환하지 못했습니다. 오픈AI는 ChatGPT를 출시하고 수백만 명의 사람들이 처음으로 고급 인공 지능을 접하는 인터페이스를 설립했습니다. 앤트로픽은 개발자와 기업 사용자 중에서 또 다른 리더로 등장했습니다.

이 이야기의 일반적인 버전은 구글이 트랜스포머를 발명했지만 언어 모델을 구축하지 못했다는 것입니다. 그것은 정확하지 않습니다. 구글과 딥마인드는 언어 모델에 대한 상당한 연구를 발표했으며, 2021년에는 딥마인드의 280억 매개변수 고퍼 모델을 포함합니다.

실패는 연구의 부재가 아니었습니다. 그것은 전략적 신념과 제품 실행의 실패였습니다.

초기에는 하사비스가 언어만으로真正한 지능을 생성할 수 있다고 의심했습니다. 그는 지능한 시스템이 지각, 행동, 로봇공학, 또는 시뮬레이션 환경을 통해 세계에 기반을 두어야 한다고 믿었습니다.

그의 우려는 합리적이었습니다. 기계는 무게에 대한 정의를 저장할 수 있지만, 무게를真正로 이해하기 위해서는 무언가를 들어야만 합니다. 그것은 중력에 대한 설명을 처리할 수 있지만, 유리잔이 떨어졌을 때 깨질 것이라는 것을 이해할 수 있을까요?

딥마인드의 연구 계획은 따라서 게임과 시뮬레이션 세계에서 행동하는 에이전트를 강조했습니다. 연구자들은 언어와 행동을 3차원 환경에서 연결하기 위한 시스템을 구축하기도 했습니다.

하사비스는 인간 언어에 이미 물리적이고 사회적인 세계에 대한 많은 정보가 암호화되어 있다는 것을 과소평가했습니다. 큰 모델은 또한 사람들이 직접 세계를 경험한 피드백을 통해 지면을 상속할 수 있습니다.

하사비스는 이것이 그가 잘못 판단한 것이라고 인정했으며, 언어 모델을 “이상적으로 효과적”이라고 묘사했습니다.

이것은 책의 가장 유익한 부분 중 하나입니다. 그것은 구글의 행동이 훨씬 더 이해할 수 있게 만듭니다.

외부에서 보면, 트랜스포머를 책임진 조직이 오픈AI에게 LLM 시대를 정의하도록 허용하는 것은 설명할 수 없었습니다. 하사비스의 지적 프레임워크에서 보면, 더 이해할 수 있습니다. 그는 더 깊은 형태의 지능을 찾고 있었고, 초기에는 언어 예측을 불완전한 경로로 간주했습니다.

이 판단은 궁극적으로 AGI 수준에서 올바를 수 있습니다. 언어 모델만으로는 충분하지 않을 수 있습니다. 그러나 제품 및 플랫폼 결정으로서, 그것은 경쟁자에게 비상常한 기회를 제공했습니다.

나의 시장 관찰에 따르면, 제미니는 강력한 시스템이 되었습니다. 그러나 아직도 오픈AI와 앤트로픽이 설정한 범주를 재정의하려고하는 것처럼 느껴집니다.

이 책은 인공 지능에 가장 집중된 재능과 인프라를 보유한 조직 중 하나가 어떻게 그런 위치에 있게 되었는지 설명합니다.

구글에 딥마인드를 판매한 것은 임무와 일관된 결정

하사비스에 대한 또 다른 에피소드는 딥마인드를 구글에 판매하는 것이었습니다.

창립자 신화는 독립성을 축하합니다. 이상적인 기업가는 통제를 유지해야 하며, 인수를 거부해야 하며, 제국을 구축해야 하며, 지배적인 회사를 만든 개인으로 인정을 받습니다.

하사비스는 이 결정에 대해 다르게 평가했습니다.

2013년 딥마인드를 인수하기 위한 경쟁에서, 래리 페이지는 하사비스의 우선순위에 직접적으로 호소하는 논리를 제시했습니다. 만약 그의 실제 목표가 인공 일반 지능을 만들었다면, 왜 구글의 자원이 이미 존재하는 경우에 몇 년 동안 인프라를 재건하고, 자본을 모으고, 구글과 비교할 수 있는 회사를 구축하는 데 시간을浪費합니까?

대화는 래리 페이지, 마크 저커버그, 일론 머스크, 기술 분야의 다른 인물들, 그리고 뉴욕의 임대성에서 머스크의 생일을 축하하기 위한 모임을 포함한 거의 초현실적인 일련의 회의 중에 진행되었습니다.

구글은 컴퓨팅 인프라, 자본, 연구 재능, 그리고 딥마인드가 중요하다고 생각하는 윤리적 조건을 제공할 수 있었습니다. 하사비스는最終적으로 구글을 선택했습니다. 페이스북의 더 큰 제안을 받았음에도 불구하고.

전통적인 기업가적 관점에서 볼 때, 딥마인드를 इतन 早期에 판매하는 것은 독립성을 포기하는 것처럼 보일 수 있습니다.

그러나 하사비스의 관점에서 볼 때, 독립적으로 남는 것이 더 큰 분산이 될 수 있습니다.

그의 목표는 다음 구글의 창립자가 되는 것이 아니었습니다. 그것은 인공 일반 지능을 구축하고, 고급 지능을 과학에 적용하는 것에 대한 가장 신뢰할 수 있는 경로를 사용하는 것이었습니다. 구글은 그 경로를 단축했습니다.

인수는 실제로 독립성, 거버넌스, 상업화, 그리고 인공 지능의 윤리적 한계에 대한 실제 긴장을 생성했습니다. 이 책은 구글 내부의 딥마인드가 이러한 질문을 해결하지는 않았음을 시사합니다. 어떤면에서 그것은 더 어렵게 만들었습니다.

그러나 결정은 하사비스에 대해 중요한 것을 보여줍니다. 그는 전통적인 기업가적 지위를 과학적 임무보다 덜 중요하게 생각하는 것으로 보입니다.

좋은 사람 – 그러나 불가항력은 아님

하사비스는最終적으로 인공 지능 경주에서 좋은 사람으로 나타납니다.

그러나 모든 결정이 올바른 것은 아닙니다. 언어 모델에 대한 그의 주저는 결과적이었습니다. 딥마인드와 구글의 관계는妥協을 포함했습니다. 강력한 인공 지능 시스템이 소수의 기업에 집중되는 것은 좋은 의도만으로는 해결할 수 없는 질문을 만듭니다.

그러나 그의 동기는异常적으로 일관적입니다.

그는 지능을 이해하고 싶습니다. 그는 인공 지능이 과학적 발견을 가속화할 수 있다고 믿습니다. 그는 반복적으로 안전과 점점 더 능력 있는 시스템의 장기적인 결과를 고려할 필요를 강조했습니다. 가장 중요한 것은, 알파폴드는 그의 인공 지능에 대한 과학적 도구로서의 비전이 단순한 말뿐만이 아님을 보여주는 구체적인 증거를 제공합니다.

인공 지능이 인류에게 이익을 가져다줄 것이라는 약속과, 수백만 명의 연구자가 생명의 기계를 더 잘 이해하기 위해 사용하는 도구를 출시하는 것은 다릅니다.

알파폴드는 하사비스에게 다른 인공 일반 지능 경주에서 리더들에게 없는 신뢰성을 부여합니다.

최종 생각

무한 기계는 전기, 딥마인드의 역사, 그리고 현대 인공 지능의 몇 가지 가장 중요한 돌파구에 대한 접근 가능한 설명으로 성공합니다. 그것은 또한 알파고, 알파폴드, 구글의 지연된 ChatGPT 반응과 같은 실제 시간에 발생한 사건들을 훨씬 더 일관된 것으로 만듭니다.

가장 강력한 교훈은 하사비스가 예외적으로 지능적이라는 것만이 아닙니다. 그는 그의 지능을 사용할 문제를 매우 의도적으로 선택했다는 것입니다.

생물학 학생들과의 대화는 그를 수십 년 전에 접근할 수 있는 인공 지능이 있는 경우에만 해결할 수 있는 문제를 소개했습니다. 그는 문제를 기억하고, 필요한 조직과 시스템을 구축하고, 기술이 충분히 발전할 때까지 돌아와서 그것에 직면했습니다.

대부분의 기업가는 사용 가능한 기술로 시작하고 시장을 찾습니다. 하사비스는 인간을 변경할 수 있는 질문으로 시작하고, 그것에 답할 수 있는 기술을 만들기 위해 작업했습니다.

그것이 무한 기계를 इतन 기억에 남는 책으로 만들고, 데미스 하사비스를 인공 지능 역사에서 매우 특별한 인물로 만드는 것입니다.