Buchrezension: The Infinity Machine: Demis Hassabis, DeepMind und die Suche nach Superintelligenz von Sebastian Mallaby

Nachdem ich zuvor The Power Law gelesen hatte, den ich als das beste Buch über Risikokapital halte, näherte ich mich Sebastian Mallabys neuem Buch mit ungewöhnlich hohen Erwartungen. The Infinity Machine: Demis Hassabis, DeepMind und die Suche nach Superintelligenz enttäuschte nicht.

Wie The Power Law gelingt dem Buch, weil Mallaby versteht, dass transformative Unternehmen nicht allein durch Technologie oder finanzielle Ergebnisse erklärt werden können. Sie müssen durch die Ambitionen, Persönlichkeiten, Rivalitäten und tief verwurzelten Überzeugungen der Menschen verstanden werden, die sie aufbauen.

The Infinity Machine ist teilweise die Geschichte eines Unternehmers, der eines der wichtigsten künstlichen Intelligenz-Unternehmen in der Geschichte gründet. Wichtiger jedoch ist es die Geschichte eines Wissenschaftlers, der zufällig Unternehmertum als Vehikel für die Verfolgung wissenschaftlicher Fragen nutzt.

Demis Hassabis kommt nicht als jemand daher, der DeepMind hauptsächlich gründete, um reich, berühmt oder als Technologie-Gründer gefeiert zu werden. Er kommt als jemand daher, der Intelligenz als das folgenschwerste Problem identifizierte, an dem er arbeiten konnte, und sein Leben darauf ausrichtete, es zu lösen.

Das ist es, was das Buch so überzeugend macht.

Ein Wissenschaftler zuerst und ein Unternehmer zweite

Mallaby zeichnet Hassabis’ Weg von einem Schach-Wunderkind und Videospiel-Designer zu einem Neurobiologen, KI-Forscher und schließlich zum Mitgründer von DeepMind nach. Das Buch basiert auf über 30 Stunden Gesprächen mit Hassabis und mehr als 100 Interviews mit Kollegen, Konkurrenten, Kritikern und ehemaligen Mitarbeitern.

Durch diesen Zugang kann Mallaby Hassabis nicht nur als öffentliches Gesicht von Google DeepMind präsentieren, sondern als eine Person, deren Interessen bemerkenswert konsistent geblieben sind.

Schach lehrte ihn, mehrere Züge im Voraus zu denken. Das Entwerfen von Simulations-Spielen lehrte ihn, wie komplexe Welten aus relativ einfachen Regeln entstehen können. Die Neurowissenschaft ermutigte ihn, zu fragen, wie Gedächtnis, Vorstellungskraft, Planung und Intelligenz im menschlichen Gehirn funktionieren.

Diese Verfolgungen waren nicht voneinander getrennte Karrierephasen. Sie waren unterschiedliche Ansätze zum gleichen zugrunde liegenden Fragen: Kann Intelligenz gut genug verstanden werden, um sie nachzubilden?

Was im gesamten Buch auffällt, ist Hassabis’ Tendenz, Probleme auf ihre Grundlagen zurückzuführen. Anstatt mit dem zu beginnen, was die bestehende Technologie erreichen konnte, begann er wiederholt mit dem Ergebnis, das er für möglich hielt, und arbeitete rückwärts.

Dieser first-principles-Ansatz erklärt auch seine ungewöhnlich lange Zeithorizont. Hassabis war bereit, ein Problem jahrelang oder sogar jahrzehntelang im Kopf zu behalten, bis Wissenschaft und Rechenleistung ausreichend fortgeschritten waren, um es angemessen anzugehen.

Das deutlichste Beispiel ist die Vorhersage der Proteinstruktur.

Das Gespräch, das den Samen für die Proteinfaltung pflanzte

Während seines Studiums der Informatik in Cambridge in den 1990er Jahren freundete sich Hassabis mit Biologiestudenten an. Einer von ihnen war besonders fasziniert von dem Proteinfaltungsproblem und erklärte, dass die Lösung dieses Problems die Biologie revolutionieren könnte.

Hassabis erkannte sofort, dass es sich um ein enormes Suchproblem handelte, das vielleicht irgendwann mit künstlicher Intelligenz angegangen werden könnte. Er soll Notizen über wissenschaftliche Probleme gemacht haben, die irgendwann für die Algorithmen geeignet sein könnten, die er aufbauen wollte. Die Proteinfaltung blieb fast zwei Jahrzehnte lang dabei.

Dies ist einer der faszinierendsten Teile des Buches.

Ein scheinbar alltägliches Gespräch führte Hassabis zu einem Problem, das in seinem Hinterkopf bleiben würde, während er die Universität besuchte, neurobiologische Forschung betrieb, Unternehmertum betrieb, DeepMind gründete und immer leistungsfähigere Lernsysteme entwickelte.

Um die Bedeutung dessen zu verstehen, was folgte, ist es notwendig, die Größe der Herausforderung zu würdigen.

Proteine beginnen als Ketten von Aminosäuren. Diese Ketten falten sich in komplexe dreidimensionale Strukturen, und die resultierende Form bestimmt größtenteils, was ein Protein in einem lebenden Organismus tun kann. Das Verständnis dieser Struktur ist daher für das Studium von Krankheiten, die Entwicklung von Medikamenten und das Verständnis vieler Mechanismen, auf denen das Leben basiert, von entscheidender Bedeutung.

Die Schwierigkeit besteht darin, dass sogar ein relativ kleines Protein theoretisch eine astronomische Anzahl von möglichen Konfigurationen annehmen kann. Die experimentelle Bestimmung einer Struktur durch Methoden wie Röntgenkristallographie oder Kryoelektronenmikroskopie kann erhebliche Zeit, Expertise und Kosten erfordern.

Während etwa 50 Jahren kämpften Wissenschaftler darum, die dreidimensionale Struktur eines Proteins aus seiner eindimensionalen Aminosäuresequenz zuverlässig vorherzusagen. Die Herausforderung wurde zu einem der großen ungelösten Probleme in der computergestützten Biologie.

Es wird oft gesagt, dass AlphaFold die Proteinfaltung “gelöst” hat. Technisch gesehen ist diese Beschreibung zu weit gefasst. AlphaFold revolutionierte die Vorhersage der Proteinstruktur; es erklärt nicht jeden Schritt des physikalischen Faltungsprozesses, der Proteindynamik, Fehlfaltung oder molekularen Wechselwirkung.

Diese Einschränkung mindert den Erfolg nicht. Die Vorhersage von Strukturen mit fast experimenteller Genauigkeit war selbst ein Durchbruch, der ein ganzes wissenschaftliches Feld veränderte.

Spiele waren das Trainingsgelände, nicht das Ziel

DeepMind begann nicht mit Biologie. Seine frühen Durchbrüche kamen durch Spiele.

Spiele boten einem KI-Labor etwas Unverzichtbares: kontrollierte Umgebungen mit klaren Regeln, messbaren Ergebnissen und einer enormen Anzahl von möglichen Entscheidungen. Ein Agent konnte experimentieren, scheitern, Feedback erhalten und verbessern, ohne die Mehrdeutigkeit und das physische Risiko der realen Welt.

DeepMinds Deep-Q-Netz demonstrierte, dass ein einzelnes Lernsystem eine breite Auswahl an Atari-Spielen aus Bildschirmpixeln und Belohnungssignalen beherrschen konnte, anstatt anweisungsspezifische Spielanweisungen zu verwenden. Die Arbeit half, tiefes Bestärkungslernen als eine der vielversprechendsten Ansätze in der modernen KI zu etablieren.

Die nächste große Herausforderung war Go.

Go hatte traditionelle Computeransätze widerstanden, weil die Anzahl der möglichen Brettpositionen eine erschöpfende Suche unmöglich machte. Erfolg erforderte Mustererkennung, strategische Planung und die Fähigkeit, vielversprechende Züge zu identifizieren, ohne jedes mögliche Ergebnis zu berechnen.

Im März 2016 besiegte AlphaGo den legendären Go-Spieler Lee Sedol vier Spiele zu eins. Mehr als 200 Millionen Menschen sahen, wie eine Maschine Züge anzeigte, die selbst Elite-Spieler anfangs nur schwer verstehen konnten.

AlphaGo Zero entfernte dann die Abhängigkeit von menschlichen Spielrekorden. Beginnend nur mit den Regeln, lernte es durch Selbstspiel und übertraf schließlich die frühere Version von AlphaGo. AlphaZero verallgemeinerte den Ansatz weiter, indem es Schach, Shogi und Go durch Selbstspiel beherrschte, ohne auf handgefertigte Strategien oder menschliche Beispiele angewiesen zu sein.

Diese Systeme waren nicht direkte Prototypen von AlphaFold. Der Zusammenhang ist eher philosophisch und organisatorisch als architektonisch.

Spiele lehrten DeepMind, wie man Systeme aufbaut, die in der Lage sind, riesige Möglichkeitsräume zu navigieren. Sie demonstrierten, dass neuronale Netze, Bestärkungslernen, Suche und enorme Rechenleistung Lösungen finden können, die Menschen nicht explizit programmiert haben.

Wichtiger noch: Sie gaben Hassabis das Vertrauen, dass KI über Klassifizierung und Mustererkennung hinausgehen und tatsächlich nützliche Erkenntnisse generieren kann.

AlphaGo war ein historisches Ereignis, aber es war nie das endgültige Ziel. Spiele waren Laboratorien, in denen DeepMind die Ideen, Menschen, Infrastruktur und das Vertrauen entwickeln konnte, das benötigt wurde, um echte wissenschaftliche Probleme anzugehen.

Die Vorhersage der Proteinstruktur war der Ort, an dem die ursprüngliche Mission endlich getestet werden würde.

AlphaFold und der Unterschied zwischen Gewinnen und Lösen

DeepMind begann offiziell 2016 mit der Arbeit an der Vorhersage der Proteinstruktur. Sein erstes AlphaFold-System nahm am CASP13-Protein-Struktur-Wettbewerb 2018 teil und erreichte die höchste Genauigkeit unter den Teilnehmern.

Für viele Organisationen wäre der Sieg im Wettbewerb ausreichend gewesen. Es hätte Schlagzeilen, akademische Anerkennung und den Beweis erzeugt, dass das Projekt erfolgreich war.

Hassabis wollte mehr.

Ein System, das einen Benchmark übertraf, aber für die tägliche wissenschaftliche Arbeit nicht ausreichend zuverlässig war, hatte das Problem nicht wirklich gelöst. DeepMind erweiterte das Team, setzte John Jumper in eine zentrale Forschungsrolle und überarbeitete das System wesentlich, anstatt nur den ersten Ansatz zu verfeinern.

Das Ergebnis war AlphaFold2.

Bei CASP14 im Jahr 2020 erreichte AlphaFold2 eine Genauigkeit, die von den Organisatoren und Forschern als vergleichbar mit experimentellen Methoden bei vielen Protein-Zielen angesehen wurde. Die damit verbundene Forschung zeigte, dass computergestützte Vorhersage regelmäßig atomare Genauigkeit erreichen kann, einschließlich Fälle, in denen keine eng verwandte bekannte Struktur verfügbar ist.

DeepMind und das European Bioinformatics Institute veröffentlichten später Vorhersagen, die mehr als 200 Millionen Proteinstrukturen abdeckten – fast jedes Protein, das von der Wissenschaft katalogisiert wurde. Die Datenbank wurde seitdem von über drei Millionen Forschern in mehr als 190 Ländern abgerufen.

2024 teilten Hassabis und Jumper den Nobelpreis für Chemie für die Vorhersage der Proteinstruktur, während die andere Hälfte an David Baker für die computergestützte Proteindesign verliehen wurde.

Die Abfolge der Ereignisse zeigt, was ich an Hassabis am meisten beeindruckend fand.

Er scheint nicht zufrieden mit dem Gewinnen des anerkannten Maßstabs eines Problems. Er fragt ständig, ob das zugrunde liegende Problem tatsächlich gelöst wurde.

Das ist first-principles-Denken in seiner reinsten Form. Ein Benchmark ist nur ein Proxy. Das Ziel ist nicht, als Erster zu rangieren. Das Ziel ist, etwas zu schaffen, das verändert, was Wissenschaftler tun können.

Der LLM-Blindpunkt, der OpenAI voranbrachte

Das Buch klärte auch eine der verwirrendsten Episoden in der jüngsten KI-Geschichte auf.

Google-Forscher stellten 2017 den Transformer-Architektur in dem bahnbrechenden Paper Attention Is All You Need vor. Transformer wurden die Grundlage, auf der moderne große Sprachmodelle aufbauten.

Google nutzte diesen Vorsprung jedoch nicht, um das Produkt zu schaffen, das die Ära der generativen KI definierte. OpenAI veröffentlichte ChatGPT und etablierte die Schnittstelle, durch die Hunderte von Millionen von Menschen erstmals auf fortschrittliche KI stoßen würden. Anthropic erschien später als ein weiterer Marktführer, insbesondere unter Entwicklern und Unternehmensanwendern.

Die gängige Version dieser Geschichte ist, dass Google den Transformer erfand und dann einfach keine Sprachmodelle baute. Das ist nicht ganz genau. Google und DeepMind veröffentlichten umfangreiche Sprachmodell-Forschung, einschließlich DeepMinds 280-Milliarden-Parameter-Gopher-Modell im Jahr 2021.

Das Versagen lag nicht in der Abwesenheit von Forschung. Es lag im Versagen strategischer Überzeugung und Produktumsetzung.

Hassabis zweifelte anfangs daran, dass Sprache allein echte Intelligenz hervorbringen könne. Er glaubte, dass ein intelligentes System in der Welt durch Wahrnehmung, Aktion, Robotik oder simulierte Umgebungen verankert werden müsse.

Seine Bedenken waren berechtigt. Eine Maschine konnte die Definition von Gewicht speichern, aber würde sie wirklich verstehen, was Gewicht ist, ohne jemals etwas angehoben zu haben? Sie könnte Beschreibungen von Schwerkraft verarbeiten, aber würde sie verstehen, dass ein Glas zersplittert, wenn es fallen gelassen wird?

DeepMinds Forschungsagenda betonte daher Agenten, die in Spielen und simulierten Welten agierten. Ihre Forscher bauten sogar Systeme, die speziell darauf ausgelegt waren, Sprache mit Wahrnehmung und Aktion in dreidimensionalen Umgebungen zu verbinden.

Was Hassabis unterschätzte, war, wie viel Information über die physische und soziale Welt bereits in der menschlichen Sprache kodifiziert worden war. Große Modelle konnten auch eine Form der Verankerung durch Feedback von Menschen erben, die die Welt direkt erlebt hatten.

Hassabis hat seitdem anerkannt, dass er dies falsch eingeschätzt hat, und bezeichnet Sprachmodelle als “unverhältnismäßig effektiv”.

Dies war einer der wertvollsten Teile des Buches, da es Googles Verhalten viel verständlicher macht.

Von außen betrachtet schien es unerklärlich, dass die Organisation, die den Transformer verantwortete, es OpenAI erlaubte, die LLM-Ära zu definieren. Aus Hassabis’ intellektuellem Rahmen aus betrachtet, macht es mehr Sinn. Er suchte nach einer tieferen Form der Intelligenz und betrachtete anfangs Sprachvorhersage als unvollständigen Weg dorthin.

Diese Beurteilung mag sich letztendlich auf dem Niveau der künstlichen allgemeinen Intelligenz als richtig erweisen. Sprachmodelle allein mögen nicht ausreichen. Als Produkt- und Plattformentscheidung gab sie jedoch den Wettbewerbern eine außergewöhnliche Chance.

Meiner eigenen Beobachtung des Marktes zufolge ist Gemini zu einem formidablen System geworden und könnte in einzelnen Bewertungen andere Modelle überbieten. Dennoch scheint es, als ob Google versucht, eine Kategorie neu zu definieren, deren Erwartungen von OpenAI und Anthropic geprägt wurden.

Das Buch hilft, zu erklären, wie eine der Organisationen mit der größten Konzentration an KI-Talent und -Infrastruktur in diese Position geraten ist.

Warum der Verkauf von DeepMind an Google mit der Mission konsistent war

Die andere Episode, die mein Verständnis von Hassabis veränderte, war der Verkauf von DeepMind an Google.

Gründer-Mythen feiern häufig Unabhängigkeit. Der ideale Unternehmer soll Kontrolle behalten, Übernahmen ablehnen, ein Imperium aufbauen und persönliche Anerkennung für die Schaffung eines dominanten Unternehmens erhalten.

Hassabis scheint diese Entscheidung anders bewertet zu haben.

Während des Wettbewerbs um den Kauf von DeepMind 2013 machte Larry Page ein Argument, das direkt zu Hassabis’ Prioritäten passte. Wenn sein tatsächliches Ziel darin bestand, künstliche allgemeine Intelligenz zu schaffen, warum sollte er Jahre damit verbringen, Infrastruktur aufzubauen, Kapital aufzubringen und ein Unternehmen zu schaffen, das mit Google vergleichbar war, wenn Googles Ressourcen bereits existierten?

Die Gespräche fanden in einer fast surrealen Reihe von Treffen mit Page, Mark Zuckerberg, Elon Musk und anderen Technologie-Größen statt, einschließlich einer Zusammenkunft in einer gemieteten Burg in New York zu Musks Geburtstag.

Google konnte Recheninfrastruktur, Kapital, Forschungstalent und Geduld auf einer Skala anbieten, die ein unabhängiges DeepMind nur schwer hätte reproduzieren können. Es war auch bereit, ethische Bedingungen zu akzeptieren, die DeepMind für wichtig hielt. Hassabis wählte letztendlich Google, obwohl er angeblich ein größeres Angebot von Facebook erhalten hatte.

Angesichts einer konventionellen unternehmerischen Perspektive könnte der Verkauf von DeepMind so früh als Aufgabe der Unabhängigkeit erscheinen.

Angesichts von Hassabis’ Perspektive könnte die Unabhängigkeit jedoch die größere Ablenkung gewesen sein.

Sein Ziel war es nicht, als Gründer des nächsten Google bekannt zu werden. Es war, den schnellsten glaubwürdigen Weg zum Aufbau von künstlicher allgemeiner Intelligenz und der Anwendung von fortschrittlicher Intelligenz auf die Wissenschaft zu nutzen. Google verkürzte diesen Weg.

Der Kauf führte später zu realen Spannungen über Unabhängigkeit, Governance, Kommerzialisierung und die ethischen Grenzen der KI. Das Buch legt nicht nahe, dass die Platzierung von DeepMind innerhalb eines der größten Konzerne der Welt diese Fragen gelöst hat. In einigen Aspekten machte es sie sogar schwieriger.

Trotzdem zeigt die Entscheidung, was Hassabis auszeichnet. Er scheint weniger an dem konventionellen Status des Unternehmertums interessiert als an der wissenschaftlichen Mission, die das Unternehmertum ermöglicht.

Einer der Guten – aber nicht unfehlbar

Hassabis kommt letztendlich als einer der Guten in dem Wettlauf um KI heraus.

Das bedeutet nicht, dass jede Entscheidung korrekt war. Seine Zögerlichkeit bei Sprachmodellen war folgenschwer. Die Beziehung zwischen DeepMind und Google umfasste Kompromisse. Die Konzentration leistungsfähiger KI-Systeme in einigen wenigen Konzernen wirft Fragen auf, die gute Absichten allein nicht beantworten können.

Seine Motivationen scheinen jedoch ungewöhnlich konsistent.

Er will Intelligenz verstehen. Er glaubt, dass fortschrittliche KI die wissenschaftliche Entdeckung beschleunigen kann. Er hat wiederholt die Bedeutung von Sicherheit und der Notwendigkeit betont, die langfristigen Konsequenzen immer leistungsfähigerer Systeme zu berücksichtigen. Am wichtigsten ist jedoch, dass AlphaFold konkrete Beweise dafür liefert, dass seine Vision von KI als Instrument für die Wissenschaft mehr als nur eine aspirierende Aussage ist.

Es gibt einen Unterschied zwischen der Behauptung, KI werde der Menschheit zugutekommen, und der Veröffentlichung eines Tools, das von Millionen von Forschern verwendet wird, um die Maschinerie des Lebens besser zu verstehen.

AlphaFold gibt Hassabis eine Glaubwürdigkeit, die nur wenige andere Führer im Wettlauf um künstliche allgemeine Intelligenz besitzen.

Letzte Gedanken

The Infinity Machine gelingt als Biografie, als Geschichte von DeepMind und als zugängliche Darstellung einiger der wichtigsten Durchbrüche in der modernen künstlichen Intelligenz. Es macht auch Ereignisse, die wir in Echtzeit beobachtet haben – von AlphaGo und AlphaFold bis hin zu Googles verzögerter Reaktion auf ChatGPT – wesentlich kohärenter.

Die wichtigste Lektion ist nicht einfach, dass Hassabis außergewöhnlich intelligent ist, obwohl er offensichtlich ist. Es ist, dass er ungewöhnlich bewusst darüber entschieden hat, welche Probleme seine Intelligenz verdienen.

Ein Gespräch mit Biologiestudenten führte ihn zu dem Proteinfaltungsproblem, Jahrzehnte bevor KI in der Lage war, es anzugehen. Er behielt das Problem im Hinterkopf, baute die Organisation und Systeme auf, die benötigt wurden, um es anzugehen, und kehrte zu ihm zurück, als die Technologie weit genug fortgeschritten war.

Die meisten Unternehmer beginnen mit einer verfügbaren Technologie und suchen nach einem Markt. Hassabis begann mit Fragen, die er glaubte, die Menschheit verändern könnten, und arbeitete daran, Technologie zu schaffen, die mächtig genug war, um sie zu beantworten.

Das ist es, was The Infinity Machine zu einem so unvergesslichen Buch und Demis Hassabis zu einer so ungewöhnlichen Figur in der Geschichte der künstlichen Intelligenz macht.