Critique du livre : La Machine Infinie : Demis Hassabis, DeepMind et la quête de la superintelligence par Sebastian Mallaby

Après avoir lu précédemment The Power Law, que je considère comme le meilleur livre écrit sur le capital-risque, j’ai abordé le dernier livre de Sebastian Mallaby avec des attentes inhabituellement élevées. La Machine Infinie : Demis Hassabis, DeepMind et la quête de la superintelligence n’a pas déçu.

Comme The Power Law, le livre réussit parce que Mallaby comprend que les entreprises transformatrices ne peuvent pas être expliquées uniquement par la technologie ou les résultats financiers. Elles doivent être comprises à travers les ambitions, les personnalités, les rivalités et les croyances profondément ancrées des personnes qui les construisent.

La Machine Infinie est en partie l’histoire d’un entrepreneur qui crée l’une des entreprises d’intelligence artificielle les plus importantes de l’histoire. Mais plus important encore, c’est l’histoire d’un scientifique qui utilise l’entrepreneuriat comme véhicule pour poursuivre des questions scientifiques.

Demis Hassabis ne semble pas être quelqu’un qui a fondé DeepMind principalement pour devenir riche, célèbre ou célébré en tant que fondateur de technologie. Il apparaît comme quelqu’un qui a identifié l’intelligence comme le problème le plus conséquent sur lequel il pouvait travailler et qui a construit sa vie autour de sa résolution.

Cette distinction est ce qui rend le livre si captivant.

Un scientifique d’abord et un entrepreneur ensuite

Mallaby retrace le parcours de Hassabis, de prodige du chess et concepteur de jeux vidéo à neuroscientifique, chercheur en intelligence artificielle et finalement co-fondateur de DeepMind. Le livre s’appuie sur plus de 30 heures de conversations avec Hassabis, ainsi que sur plus de 100 entretiens avec des collègues, des concurrents, des critiques et des anciens collaborateurs.

Cet accès permet à Mallaby de présenter Hassabis non simplement comme le visage public de Google DeepMind, mais comme une personne dont les intérêts sont restés remarquablement constants.

Le chess lui a appris à réfléchir plusieurs coups à l’avance. La conception de jeux de simulation lui a appris comment des mondes complexes pouvaient émerger à partir de règles relativement simples. La neuroscience l’a encouragé à se demander comment la mémoire, l’imagination, la planification et l’intelligence fonctionnent à l’intérieur du cerveau humain.

Ces poursuites n’étaient pas des étapes disjointes de sa carrière. Elles étaient différentes approches de la même question sous-jacente : peut-on comprendre l’intelligence suffisamment pour la recréer ?

Ce qui ressort tout au long du livre, c’est la tendance de Hassabis à réduire les problèmes à leurs fondements. Plutôt que de commencer par ce que la technologie existante pouvait accomplir, il a répétitivement commencé par le résultat qu’il croyait devrait être possible et a travaillé à rebours.

Cette approche de première principale explique également son horizon de temps inhabituellement long. Hassabis était prêt à garder un problème en tête pendant des années, voire des décennies, jusqu’à ce que la science et l’informatique aient suffisamment progressé pour qu’il puisse l’attaquer correctement.

L’exemple le plus clair est la prédiction de la structure des protéines.

La conversation qui a planté la graine de la prédiction de la structure des protéines

Pendant ses études en sciences informatiques à Cambridge dans les années 1990, Hassabis est devenu ami avec des étudiants en biologie. L’un d’eux était particulièrement fasciné par le problème du pliage des protéines et a expliqué que résoudre ce problème pourrait transformer la biologie.

Hassabis a immédiatement reconnu qu’il s’agissait du type de problème de recherche énorme qui pourrait éventuellement être abordé avec l’intelligence artificielle. Il a apparemment maintenu des notes sur les problèmes scientifiques qui pourraient éventuellement devenir adaptés aux algorithmes qu’il espérait construire. La prédiction de la structure des protéines est restée parmi eux pendant près de deux décennies.

Ceci est l’une des parties les plus captivantes du livre.

Une conversation apparemment ordinaire l’a introduit à un problème qui resterait dans son esprit à travers l’université, la recherche en neurosciences, l’entrepreneuriat, la création de DeepMind et le développement de systèmes d’apprentissage de plus en plus capables.

Pour comprendre l’importance de ce qui a suivi, il est nécessaire d’apprécier l’échelle du défi.

Les protéines commencent comme des chaînes d’acides aminés. Ces chaînes se plient en structures tridimensionnelles complexes, et la forme résultante détermine en grande partie ce qu’une protéine peut faire à l’intérieur d’un organisme vivant. Comprendre cette structure est donc essentiel pour étudier les maladies, concevoir des médicaments et comprendre de nombreux mécanismes sur lesquels repose la vie.

La difficulté est que même une protéine relativement petite peut théoriquement adopter un nombre astronomique de configurations possibles. La détermination expérimentale d’une structure par des méthodes telles que la cristallographie aux rayons X ou la microscopie électronique cryogénique peut nécessiter un temps, une expertise et des frais considérables.

Pendant environ 50 ans, les scientifiques ont lutté pour prédire de manière fiable la structure tridimensionnelle d’une protéine à partir de sa séquence d’acides aminés unidimensionnelle. Le défi est devenu l’un des grands problèmes non résolus de la biologie computationnelle.

On dit souvent qu’AlphaFold « a résolu le pliage des protéines ». Techniquement, cette description est trop large. AlphaFold a transformé la prédiction de la structure des protéines ; il n’explique pas toutes les étapes du processus de pliage physique, du mouvement des protéines, du pliage incorrect ou de l’interaction moléculaire.

Cette qualification ne diminue pas l’accomplissement. Prédire des structures avec une précision quasi expérimentale a été en soi une avancée qui a changé un domaine scientifique entier.

Les jeux étaient le terrain d’entraînement, pas la destination

DeepMind n’a pas commencé avec la biologie. Ses premières avancées sont venues à travers les jeux.

Les jeux offraient quelque chose de précieux à un laboratoire d’intelligence artificielle : des environnements contrôlés avec des règles claires, des résultats mesurables et un nombre énorme de décisions possibles. Un agent pouvait expérimenter, échouer, recevoir des commentaires et s’améliorer sans l’ambiguïté et le risque physique d’opérer dans le monde réel.

Le réseau de profondeur Q de DeepMind a démontré qu’un seul système d’apprentissage pouvait maîtriser une large sélection de jeux Atari à partir de pixels d’écran et de signaux de récompense plutôt que d’instructions spécifiques au jeu. Le travail a aidé à établir l’apprentissage par renforcement profond comme l’une des approches les plus prometteuses dans l’IA moderne.

Le prochain grand test a été le jeu de Go.

Le Go avait résisté aux approches informatiques traditionnelles car le nombre de positions de plateau possibles rendait la recherche exhaustive impossible. Le succès nécessitait la reconnaissance de motifs, la planification stratégique et la capacité d’identifier des mouvements prometteurs sans calculer toutes les issues potentielles.

En mars 2016, AlphaGo a battu le joueur de Go légendaire Lee Sedol quatre parties sur cinq. Plus de 200 millions de personnes ont regardé une machine afficher des mouvements que même les joueurs de niveau élite ont initialement eu du mal à comprendre.

AlphaGo Zero a ensuite supprimé la dépendance aux enregistrements de jeux humains. En partant uniquement des règles, il a appris en jouant contre lui-même et a finalement dépassé la version précédente d’AlphaGo. AlphaZero a généralisé l’approche plus loin, maîtrisant les échecs, le shogi et le Go par auto-apprentissage sans s’appuyer sur des stratégies conçues à la main ou des exemples humains.

Ces systèmes n’étaient pas des prototypes directs d’AlphaFold. La connexion est plus philosophique et organisationnelle que architecturale.

Les jeux ont enseigné à DeepMind comment construire des systèmes capables de naviguer dans des espaces de possibilités vastes. Ils ont démontré que les réseaux de neurones, l’apprentissage par renforcement, la recherche et des quantités énormes de calcul pouvaient découvrir des solutions que les humains n’avaient pas explicitement programmées.

Plus important encore, ils ont donné à Hassabis la confiance que l’IA pouvait aller au-delà de la classification et de la reconnaissance de motifs pour générer des idées vraiment utiles.

AlphaGo a été une réalisation historique, mais ce n’était jamais la destination finale. Les jeux étaient des laboratoires dans lesquels DeepMind pouvait développer les idées, les personnes, les infrastructures et la confiance nécessaires pour affronter de vrais problèmes scientifiques.

La prédiction de la structure des protéines était là où la mission d’origine serait finalement testée.

AlphaFold et la différence entre gagner et résoudre

DeepMind a officiellement commencé à travailler sur la prédiction de la structure des protéines en 2016. Son premier système AlphaFold a participé à la compétition de prédiction de la structure des protéines CASP13 en 2018 et a obtenu la plus grande précision parmi les participants.

Pour de nombreuses organisations, gagner la compétition aurait été suffisant. Cela aurait généré des titres, une reconnaissance académique et la preuve que le projet avait réussi.

Hassabis voulait plus.

Un système qui a dominé un benchmark mais est resté insuffisamment fiable pour le travail scientifique quotidien n’a pas vraiment résolu le problème. DeepMind a élargi l’équipe, a placé John Jumper dans un rôle de recherche central et a substantiellement réaménagé le système plutôt que de simplement affiner sa première approche.

Le résultat a été AlphaFold2.

À CASP14 en 2020, AlphaFold2 a obtenu une précision que les organisateurs et les chercheurs considéraient comme comparable aux méthodes expérimentales sur de nombreuses cibles de protéines. La recherche associée a démontré que la prédiction computationnelle pouvait régulièrement approcher la précision atomique, y compris dans les cas où aucune structure connue étroitement liée n’était disponible.

DeepMind et l’Institut européen de bioinformatique ont ensuite publié des prédictions couvrant plus de 200 millions de structures de protéines – presque toutes les protéines répertoriées par la science. La base de données a depuis été consultée par plus de trois millions de chercheurs dans plus de 190 pays.

En 2024, Hassabis et Jumper ont partagé la moitié du prix Nobel de chimie pour la prédiction de la structure des protéines, l’autre moitié étant attribuée à David Baker pour la conception de protéines computationnelles.

La séquence d’événements capture ce que j’ai trouvé le plus impressionnant chez Hassabis.

Il ne semble pas satisfait de gagner la mesure acceptée d’un problème. Il se demande constamment si le problème sous-jacent a réellement été résolu.

C’est la pensée de première principale dans sa forme la plus pure. Un benchmark n’est qu’un proxy. L’objectif n’est pas de se classer premier. L’objectif est de créer quelque chose qui change ce que les scientifiques sont capables de faire.

Le point aveugle des LLM qui a aidé OpenAI à prendre les devants

Le livre a également clarifié l’un des épisodes les plus confus de l’histoire récente de l’IA.

Les chercheurs de Google ont introduit l’architecture de transformateur dans le document fondateur de 2017 Attention Is All You Need. Les transformateurs sont devenus la base sur laquelle les grands modèles de langage modernes ont été construits.

Yet Google n’a pas converti cet avantage en le produit qui a défini l’ère de l’IA générative. OpenAI a publié ChatGPT et a établi l’interface à travers laquelle des centaines de millions de personnes ont rencontré l’IA avancée pour la première fois. Anthropic est ensuite apparu comme un autre leader, en particulier parmi les développeurs et les utilisateurs d’entreprise.

La version commune de cette histoire est que Google a inventé le transformateur et n’a ensuite simplement pas construit de modèles de langage. Ce n’est pas tout à fait exact. Google et DeepMind ont publié des recherches importantes sur les modèles de langage, y compris le modèle Gopher de 280 milliards de paramètres de DeepMind en 2021.

L’échec n’était pas l’absence de recherche. C’était un échec de conviction stratégique et d’exécution de produit.

Hassabis a initialement douté que le langage seul puisse produire une véritable intelligence. Il croyait qu’un système intelligent devait être ancré dans le monde à travers la perception, l’action, la robotique ou des environnements simulés.

Sa préoccupation était raisonnable. Une machine pouvait stocker une définition du poids, mais la comprendrait-elle vraiment sans jamais avoir soulevé quelque chose ? Elle pouvait traiter des descriptions de la gravité, mais la comprendrait-elle vraiment si un verre se brisait lorsqu’il était lâché ?

La feuille de route de la recherche de DeepMind a donc mis l’accent sur les agents qui agissaient à l’intérieur de jeux et de mondes simulés. Ses chercheurs ont même construit des systèmes spécifiquement conçus pour relier le langage à la perception et à l’action dans des environnements tridimensionnels.

Ce que Hassabis a sous-estimé, c’est à quel point les informations sur le monde physique et social avaient déjà été codées dans le langage humain. Les grands modèles pouvaient également hériter d’une forme d’ancrage à travers les commentaires des personnes qui avaient directement vécu le monde.

Hassabis a depuis reconnu que c’était quelque chose qu’il avait mal jugé, décrivant les modèles de langage comme « unreasonably effective ».

Ceci est l’une des sections les plus précieuses du livre car elle rend le comportement de Google beaucoup plus compréhensible.

De l’extérieur, il semblait inexplicable que l’organisation responsable du transformateur ait laissé OpenAI définir l’ère des LLM. De l’intérieur du cadre intellectuel de Hassabis, cela a plus de sens. Il recherchait une forme plus profonde d’intelligence et a initialement considéré la prédiction de langage comme un chemin incomplet vers celle-ci.

Ce jugement peut finalement se révéler correct au niveau de l’IA générale. Les modèles de langage seuls peuvent ne pas être suffisants. Mais en tant que décision de produit et de plateforme, cela a donné à des concurrents une ouverture extraordinaire.

Dans mon observation du marché, Gemini est devenu un système redoutable et peut surpasser les modèles concurrents dans les évaluations individuelles. Pourtant, il semble encore que Google essaie de redéfinir une catégorie dont les attentes ont été établies par OpenAI et Anthropic.

Le livre aide à expliquer comment l’une des organisations avec la plus grande concentration de talents et d’infrastructures en IA s’est retrouvée dans cette position.

Pourquoi la vente de DeepMind à Google était conforme à la mission

L’autre épisode qui a changé ma compréhension de Hassabis est la vente de DeepMind à Google.

La mythologie des fondateurs célèbre généralement l’indépendance. L’entrepreneur idéal est censé conserver le contrôle, résister à l’acquisition, construire un empire et recevoir une reconnaissance personnelle pour avoir créé une entreprise dominante.

Hassabis semble avoir évalué la décision différemment.

Pendant la compétition de 2013 pour acquérir DeepMind, Larry Page a fait un argument qui est allé directement aux priorités de Hassabis. Si son objectif réel était de créer l’IA générale, pourquoi passer des années à reconstruire les infrastructures, à lever des capitaux et à construire une entreprise comparable à Google lorsque les ressources de Google existaient déjà ?

Les conversations se sont déroulées au milieu d’une série presque surréaliste de réunions impliquant Page, Mark Zuckerberg, Elon Musk et d’autres figures de la technologie, y compris une réunion dans un château loué à New York pour l’anniversaire de Musk.

Google pouvait offrir des infrastructures de calcul, du capital, du talent de recherche et de la patience à une échelle que DeepMind indépendant aurait eu du mal à reproduire. Il était également prêt à accepter des conditions éthiques que DeepMind considérait comme importantes. Hassabis a finalement choisi Google malgré avoir reçu une offre plus élevée de Facebook.

Vue à travers une lentille entrepreneuriale conventionnelle, vendre DeepMind si tôt pourrait sembler être une renonciation à l’indépendance.

Vue à travers la lentille de Hassabis, rester indépendant pourrait être la plus grande distraction.

Son objectif n’était pas de devenir connu en tant que fondateur de la prochaine Google. C’était d’utiliser le chemin le plus rapide et le plus crédible pour construire l’IA générale et appliquer l’intelligence avancée à la science. Google a raccourci ce chemin.

L’acquisition a ensuite produit de véritables tensions sur l’indépendance, la gouvernance, la commercialisation et les limites éthiques de l’IA. Le livre ne suggère pas que le placement de DeepMind à l’intérieur de l’une des plus grandes entreprises mondiales ait résolu ces questions. De certaines manières, cela les a rendues plus difficiles.

Cependant, la décision révèle quelque chose d’important sur Hassabis. Il semble moins attaché au statut conventionnel de l’entrepreneuriat qu’à la mission scientifique que l’entrepreneuriat a rendu possible.

Un des bons – mais pas infaillible

Hassabis apparaît finalement comme l’un des bons dans la course à l’IA.

Cela ne signifie pas que chaque décision a été correcte. Son hésitation sur les modèles de langage a été conséquente. La relation de DeepMind avec Google a impliqué des compromis. La concentration de systèmes d’IA puissants à l’intérieur d’un petit nombre de sociétés pose des questions que les bonnes intentions seules ne peuvent pas résoudre.

Mais ses motivations semblent inhabituellement constantes.

Il veut comprendre l’intelligence. Il croit que l’IA avancée peut accélérer la découverte scientifique. Il a répétitivement souligné l’importance de la sécurité et la nécessité de considérer les conséquences à long terme de systèmes de plus en plus capables. Plus important encore, AlphaFold fournit des preuves concrètes que sa vision de l’IA en tant qu’instrument pour la science est plus qu’un simple point de discussion.

Il y a une différence entre promettre que l’IA profitera à l’humanité et publier un outil utilisé par des millions de chercheurs pour mieux comprendre les mécanismes de la vie.

AlphaFold donne à Hassabis une crédibilité que peu d’autres dirigeants dans la course à l’IA générale possèdent.

Pensées finales

La Machine Infinie réussit en tant que biographie, histoire de DeepMind et compte rendu accessible de certaines des avancées les plus importantes de l’IA moderne. Il rend également les événements que nous avons vécus en temps réel – d’AlphaGo et d’AlphaFold à la réponse retardée de Google à ChatGPT – considérablement plus cohérents.

La leçon la plus puissante n’est pas simplement que Hassabis est exceptionnellement intelligent, bien qu’il le soit clairement. C’est qu’il a été inhabituellement délibéré dans la décision de quels problèmes méritent cette intelligence.

Une conversation avec des étudiants en biologie l’a introduit au pliage des protéines des décennies avant que l’IA ne soit en mesure de l’aborder. Il a gardé le problème en tête, a construit l’organisation et les systèmes nécessaires pour le confronter et est revenu à celui-ci une fois que la technologie avait suffisamment progressé.

La plupart des entrepreneurs commencent avec une technologie disponible et cherchent un marché. Hassabis a commencé avec des questions qu’il croyait pouvaient changer l’humanité et a travaillé pour créer une technologie suffisamment puissante pour y répondre.

C’est ce qui rend La Machine Infinie un livre si mémorable et Demis Hassabis une figure si inhabituelle dans l’histoire de l’intelligence artificielle.