書評
書評：無限マシン – デミス・ハサビス、ディープマインド、そして超知能への探求
Unite.AI を Google の優先ソースに追加
以前、ベンチャーキャピタルについて書かれた最も優れた本である『ザ・パワーロー』を読んだことがあります。この本は、期待通りに素晴らしい内容でした。ザ・パワーローと同様に、無限マシン：デミス・ハサビス、ディープマインド、そして超知能への探求も、技術や財務結果だけでは、変革的な企業を説明することはできないことを理解しているからです。企業を理解するには、創設者たちの野心、個性、対立、深く根付いた信念を理解する必要があるのです。
無限マシンは、最も重要な人工知能企業の1つを作った起業家の物語であると同時に、科学者が起業家精神を科学的疑問に答えるための手段として利用する物語でもあります。
デミス・ハサビスは、ディープマインドを創設したのは、富や名声、技術創業家としての評価を得るためではなく、最も重大な問題である知能に取り組むためだったと感じられます。彼は、知能を理解することを目標とし、人生をその目標を達成するために構築しました。
その違いが、この本をそんなに魅力的なくっきりさせるのであります。
科学者としての第一、起業家としての第二
マラビーは、ハサビスの経歴を、子供時代のチェスプロディジー、ビデオゲームデザイナー、神経科学者、AI研究者、そしてディープマインドの共同創設者まで辿っています。この本は、ハサビスとの30時間以上の会話と、100人以上の同僚、競合他社、批評家、元共同研究者のインタビューに基づいています。
このアクセスにより、マラビーは、ハサビスをディープマインドの表向きの顔としてだけでなく、興味が驚くほど一貫した人物として提示しています。
チェスは、先手を考えさせることを教えました。シミュレーションゲームのデザインは、複雑な世界が、比較的単純なルールから生まれることを教えました。神経科学は、記憶、想像力、計画、知能が、人間の脳内でどのように機能するかを問うことを促しました。
これらの追求は、キャリアの段階ではありませんでした。同じ根本的な質問への異なるアプローチでした。知能を十分に理解して再現できるかということです。
ハサビスが、問題をその基礎まで還元する傾向が際立っているのは、全体を通して際立っています。既存の技術が何を成し得るかから始めるのではなく、彼は繰り返し、達成すべき成果から始めて、後ろ向きに作業しました。
この第一原理アプローチは、彼の異常に長い時間的視野も説明しています。ハサビスは、科学とコンピューティングが十分に進歩するまで、問題を何年、何十年とでも抱え込む用意がありました。
最も明確な例はタンパク質構造予測です。
タンパク質構造予測の種を蒔いた会話
1990年代、ハサビスはケンブリッジ大学でコンピューターサイエンスを学んでいたとき、生物学の学生と友達になりました。彼らの1人は、タンパク質構造予測の問題に特に魅了されていました。タンパク質構造予測の問題を解決すれば、生物学を変えることができると説明しました。
ハサビスはすぐに、人工知能によって解決できる可能性のある巨大な探索問題であると認識しました。彼は、将来にアルゴリズムを構築できる科学的問題のメモをとっていたと伝えられています。タンパク質構造予測は、約2十年間、彼のメモの中に残っていました。
これは本の中で最も魅力的なくっきりする部分の1つです。
見た目には普通の会話が、ハサビスに、2十年間彼の頭に残る問題を紹介しました。大学、神経科学研究、起業、ディープマインドの創設、学習システムの開発を通じて、タンパク質構造予測の問題は彼の頭に残っていました。
続く出来事の重要性を理解するには、課題の規模を理解する必要があります。
タンパク質は、アミノ酸の鎖として始まります。その鎖は、3次元の複雑な構造に折りたたまれ、結果として得られる形が、タンパク質が生物内で何ができるかを大部分決定します。したがって、その構造を理解することは、疾患の研究、薬剤の設計、生命に依存する多くのメカニズムの理解に不可欠です。
困難は、比較的小さなタンパク質でも、理論的に可能な構造の数が天文学的であるということです。X線結晶学や低温電子顕微鏡などの方法で、構造を実験的に決定するには、かなりの時間、専門知識、コストが必要です。
約50年間、科学者たちは、1次元のアミノ酸配列からタンパク質の3次元構造を予測することに苦労しました。課題は、計算生物学の未解決の大問題の1つになりました。
アルファフォールドが「タンパク質構造予測を解決した」というのは、技術的に過度に広い表現です。アルファフォールドはタンパク質構造予測を変革しましたが、物理的な折りたたみプロセス、タンパク質の動き、ミスフォールディング、または分子間相互作用のすべての段階を説明するわけではありません。
その修正は、達成度を損なわないものです。実験的精度に近い構造を予測することは、自体がブレークスルーであり、全く新しい科学分野を変えました。
ゲームは目的地ではなく、トレーニングの場だった
ディープマインドは、生物学から始めませんでした。初期のブレークスルーはゲームを通じて達成されました。
ゲームは、AI研究所にとって、貴重なものを提供しました。制御された環境、明確なルール、測定可能な結果、および膨大な数の可能な決定です。エージェントは、現実世界で操作することによる曖昧さや物理的なリスクなしに、試行錯誤し、失敗し、フィードバックを受け、改善することができました。
ディープマインドのディープQネットワークは、ゲーム固有の指示ではなく、画面のピクセルと報酬シグナルから、幅広いアタリゲームをマスターできることを実証しました。この研究は、ディープ強化学習を、現代のAIで最も有望なアプローチの1つとして確立するのに役立ちました。
次の主要なテストは、囲碁でした。
囲碁は、ボード上の可能な位置の数が、網羅的な検索を不可能にしていたため、従来のコンピューティングアプローチに抵抗しました。成功するには、パターン認識、戦略的計画、および各結果を計算せずに有望な動きを特定する能力が必要でした。
2016年3月、AlphaGoは、伝説的な囲碁プレーヤー李世乭に4対1で勝利しました。2億人以上の人が、トッププレーヤーが最初に理解しづらかった動きを見せたことを目撃しました。
AlphaGo Zeroは、人間のゲーム記録への依存を取り除きました。ルールだけから始めて、自分自身と対戦し、最終的に以前のAlphaGoを上回りました。AlphaZeroは、人間の戦略や例を必要とせずに、チェス、将棋、囲碁をマスターするためのアプローチをさらに一般化しました。
これらのシステムは、アルファフォールドの直接的なプロトタイプではありませんでした。つながりは、より哲学的で組織的なものでした。
ゲームは、ディープマインドに、巨大な可能性空間をナビゲートできるシステムを構築する方法を教えました。ニューラルネットワーク、強化学習、探索、膨大な計算量を使用して、人間が明示的にプログラムしていない解決策を見つけることができることを実証しました。
さらに重要的是、ゲームは、ハサビスに、AIが分類やパターン認識を超えて、真正に有用な洞察を生成できるという信念を与えました。
AlphaGoは歴史的な成果でしたが、最終的な目的地ではありませんでした。ゲームは、ディープマインドがアイデア、人、インフラストラクチャ、そして現実の科学的問題に取り組むための自信を開発できる実験室でした。
タンパク質構造予測は、元のミッションが最終的にテストされる場所でした。
アルファフォールドと勝つことと解決することの違い
ディープマインドは、2016年に正式にタンパク質構造予測に取り組み始めました。最初のアルファフォールドシステムは、2018年のCASP13タンパク質構造予測コンペティションに参加し、参加者の中で最高の精度を達成しました。
多くの組織にとって、コンペティションに勝つことは十分でした。ヘッドライン、学術的認知、プロジェクトの成功を証明するものでした。
ハサビスはもっと求めました。
ベンチマークをトップしたが、日常の科学的作業に十分に信頼できるシステムではなかった場合、問題は真に解決されていません。ディープマインドはチームを拡大し、ジョン・ジャンパーを中央の研究役に据え、システムを大幅に再設計しました。
結果はアルファフォールド2でした。
2020年のCASP14では、アルファフォールド2は、多くのタンパク質ターゲットに対して、実験方法と比較可能な精度を達成しました。関連する研究は、計算による予測が、原子レベルの精度に近づくことができ、既知の構造が利用できない場合でも、定期的に達成できることを実証しました。
ディープマインドとヨーロッパバイオインフォマティクス研究所は、その後、科学がカタログに記載したほぼすべてのタンパク質構造（約2億個）をカバーする予測を公開しました。データベースは、以降、190以上の国から300万以上の研究者によってアクセスされました。
2024年、ハサビスとジャンパーは、タンパク質構造予測の功績で、ノーベル化学賞の半分を共同受賞しました。もう半分は、計算機によるタンパク質設計の功績でデビッド・ベイカーに授与されました。
出来事の順序は、ハサビスについて最も印象的な点を捉えています。
彼は、問題の公認の尺度に勝つことによって満足するように見えません。彼は、根本的な問題が実際に解決されたかどうかを繰り返し問います。
これは、第一原理の思考の最も純粋な形です。ベンチマークは、代理指標にすぎません。目的は、最初にランクすることではありません。目的は、科学者ができることを変えるものを作ることです。
LLMの盲点がOpenAIを先行させるのを助けた
本書は、最近のAIの歴史の中で最も混乱するエピソードの1つを明らかにしました。
Googleの研究者は、2017年のランドマーク論文Attention Is All You Needでトランスフォーマーアーキテクチャを導入しました。トランスフォーマーは、現代の大規模言語モデルを構築する基礎となりました。
しかし、Googleは、その先行を、ジェネレーティブAI時代を定義する製品に変えることができませんでした。OpenAIはChatGPTをリリースし、数百万の人々が、先進的なAIと初めて出会うインターフェイスを作りました。Anthropicは、特に開発者や企業ユーザーの中で、別のリーダーとして登場しました。
この物語の一般的なバージョンは、Googleがトランスフォーマーを発明し、それから単に言語モデルを構築しなかったというものです。それは完全に正確ではありません。Googleとディープマインドは、2021年のディープマインドの280億パラメーターのGopherモデルを含む、重要な言語モデルに関する研究を発表しています。
失敗は、研究の欠如ではありませんでした。戦略的信念と製品の実行の欠如でした。
ハサビスは初期的に、言語だけが真正の知能を生み出すことができるかどうか疑問視していました。彼は、知能システムが、知覚、行動、ロボティクス、またはシミュレートされた環境を通じて世界に根ざす必要があると信じていました。
彼の懸念は、妥当でした。機械は重さの定義を覚えることができますが、重さを理解するには、ものを持ち上げることが必要です。重力についての説明を処理することができますが、グラスが落とされたときに壊れることを理解するには、グラスを落とす必要があります。
ディープマインドの研究アジェンダは、ゲームやシミュレートされた世界の中で動作するエージェントを重視しました。研究者は、言語と知覚や行動を3次元の環境で結び付けることを目的としたシステムを構築しました。
しかし、ハサビスは、人間の言語にすでに物理的および社会的な世界に関する多くの情報がコード化されていることを過小評価しました。大規模なモデルは、世界を直接経験した人々からのフィードバックを通じて、ある種の根拠付けを継承することもできます。
ハサビスは後に、言語モデルを「不当に効果的」と表現し、この点を誤ったと認めました。
これは本の中で最も貴重な部分の1つです。なぜなら、Googleの行動が理解できるからです。
外から見ると、トランスフォーマーを開発した組織が、OpenAIにLLM時代を定義させることを許したことは、説明がつかないように見えました。ハサビスの知的枠組みから見ると、もっと理解できます。彼は、より深い知能を求めており、言語予測はその道筋としては不完全であると考えていました。
その判断が、AGIのレベルで最終的に正しいと証明されるかもしれません。言語モデルだけでは十分ではないかもしれません。しかし、製品やプラットフォームの決定としては、競合他社に異常な機会を与えることになりました。
私の観察では、Geminiは強力なシステムになり、競合他社のモデルを上回る可能性があります。しかし、Googleはまだ、OpenAIやAnthropicによって確立されたカテゴリを再定義しようとしているようです。
本書は、AIの才能とインフラストラクチャーが最も集中している組織の1つが、そのような立場にいることになった理由を説明しています。
ディープマインドをGoogleに売却したのは、ミッションに一致していた
ハサビスについて私の理解を変えたもう1つのエピソードは、ディープマインドのGoogleへの売却です。
創業者神話は、独立を称賛する傾向があります。理想的な起業家は、独立性を維持し、会社を築き、認知を得るべきです。
ハサビスは、決定を別の方法で評価したようです。
2013年のディープマインドの買収競争の際、ラリー・ペイジは、ハサビスの優先事項に直接対処する議論を行った。もし彼の真の目的がAGIを作ることであるなら、Googleのリソースがすでに存在する場合に、インフラストラクチャーを再構築し、資本を調達し、Googleに相当する会社を構築するのに何年も費やす必要があるのか。
会話は、ペイジ、マーク・ザッカーバーグ、イーロン・マスク、テクノロジー界の他の有名人を含む、ニューヨークでマスクの誕生日のために借りた城で開催された会議を含む、ほぼ幻想的な一連の会議の中で行われました。
Googleは、計算インフラストラクチャー、資本、研究タレント、そして忍耐力を、独立したディープマインドが再現するのが難しい規模で提供できました。また、ディープマインドが重要であると考えた倫理的条件を受け入れることも準備されていました。ハサビスは最終的に、Facebookからより大きなオファーを受けていたにもかかわらず、Googleを選択しました。
従来の起業家精神のレンズを通して見ると、ディープマインドを早期に売却することは、独立性を放棄するように見えるかもしれません。
ハサビスの視点から見ると、独立性を維持することが、より大きな妨げになる可能性があります。
彼の目的は、次のGoogleの創設者になることではありませんでした。科学と先進的な知能の応用に取り組むための最も速い信頼できるルートを作ることでした。Googleはそのルートを短縮しました。
買収は、独立性、統治、商業化、AIの倫理的限界に関する実際の緊張を生み出しました。本書は、これらの疑問が、Googleの中にディープマインドを置くことで解決されたことを示唆していません。実際、より困難なものにしました。
しかし、決定は、ハサビスについて重要なことを明らかにしています。彼は、伝統的な起業家精神の地位に比べて、科学的使命に取り組むことへの取り組みが強いようです。
良い人だが、無謬ではない
ハサビスは、AIレースの中で良い人であると見なされます。
しかし、それは彼の決定がすべて正しかったことを意味するわけではありません。言語モデルに対する彼の躊躇は、重大なものでした。ディープマインドとGoogleの関係には妥協が伴います。強力なAIシステムが少数の企業に集中することは、善意だけでは解決できない疑問を生み出します。
しかし、彼の動機は、異常に一貫しています。
彼は知能を理解したいと思っています。彼は、先進的なAIが科学的発見を加速できることを信じています。彼は、長期的には、ますます能力の高いシステムの結果を考慮する必要性を繰り返し強調しています。最も重要的是、アルファフォールドは、AIが科学のためのツールであるという彼のビジョンが、単なる願望的な話ではないことを実証しています。
AIが人間に利益をもたらすと約束するのとは異なり、数百万の研究者が生命のメカニズムをよりよく理解するために使用するツールをリリースすることです。
アルファフォールドは、ハサビスに、AGIレースの他のリーダーが持っていない信頼性を与えています。
最終的な考え
無限マシンは、伝記、ディープマインドの歴史、そして現代のAIにおけるいくつかの最も重要なブレークスルーのアクセス可能な説明として成功しています。また、AlphaGoやAlphaFoldから、GoogleのChatGPTへの遅れた対応まで、現実の出来事をよりまとまりのあるものに感じさせます。
最も強力な教訓は、ハサビスが例外的に優秀であるということだけではありません。彼が、どの問題にその知能を当てるかを非常に慎重に選んでいるということです。
生物学の学生との会話が、タンパク質構造予測の問題を導入しました。彼は20年間、その問題を頭に留めていた。組織とシステムを構築し、技術が十分に進歩するまで待って、問題に取り組みました。
多くの起業家は、利用可能な技術から始めて市場を探します。ハサビスは、人間を変える可能性のある質問から始めて、答えるのに十分な力を持つ技術を作るために取り組みました。
それが、この本をそんなに記憶に残るものにし、デミス・ハサビスを、人工知能の歴史の中で珍しい人物にしているのです。
