Recensione del libro: The Infinity Machine: Demis Hassabis, DeepMind e la ricerca dell’intelligenza superiore di Sebastian Mallaby

Dopo aver letto precedentemente The Power Law, che considero il miglior libro scritto sul capitale di rischio, mi sono avvicinato all’ultimo libro di Sebastian Mallaby con aspettative insolitamente elevate. The Infinity Machine: Demis Hassabis, DeepMind e la ricerca dell’intelligenza superiore non ha deluso.

Come The Power Law, il libro ha successo perché Mallaby capisce che le aziende trasformative non possono essere spiegate solo attraverso la tecnologia o i risultati finanziari. Devono essere comprese attraverso le ambizioni, le personalità, le rivalità e le convinzioni profondamente radicate delle persone che le costruiscono.

The Infinity Machine è in parte la storia di un imprenditore che crea una delle aziende di intelligenza artificiale più importanti della storia. Tuttavia, è soprattutto la storia di uno scienziato che utilizza l’imprenditorialità come veicolo per perseguire domande scientifiche.

Demis Hassabis non appare come qualcuno che abbia fondato DeepMind principalmente per diventare ricco, famoso o celebrato come fondatore di tecnologia. Appare come qualcuno che ha identificato l’intelligenza come il problema più conseguente su cui lavorare e ha costruito la sua vita intorno a risolverlo.

Questa distinzione è ciò che rende il libro così coinvolgente.

Uno scienziato prima e un imprenditore secondario

Mallaby traccia il percorso di Hassabis da prodigio degli scacchi e designer di videogiochi a neuroscienziato, ricercatore di intelligenza artificiale e infine co-fondatore di DeepMind. Il libro si basa su oltre 30 ore di conversazioni con Hassabis, insieme a oltre 100 interviste con colleghi, concorrenti, critici e ex collaboratori.

Questo accesso consente a Mallaby di presentare Hassabis non solo come il volto pubblico di Google DeepMind, ma come una persona le cui interessi sono rimasti notevolmente coerenti.

Gli scacchi gli hanno insegnato a pensare diverse mosse in anticipo. La progettazione di giochi di simulazione gli ha insegnato come mondi complessi potessero emergere da regole relativamente semplici. La neuroscienza lo ha incoraggiato a chiedersi come funzionano la memoria, l’immaginazione, la pianificazione e l’intelligenza all’interno del cervello umano.

Queste attività non erano stadi disconnessi della sua carriera. Erano approcci diversi alla stessa domanda sottostante: può l’intelligenza essere compresa abbastanza bene da essere ricreata?

Ciò che spicca in tutto il libro è la tendenza di Hassabis a ridurre i problemi alle loro fondamenta. Invece di iniziare con ciò che la tecnologia esistente poteva realizzare, ha ripetutamente iniziato con il risultato che credeva dovesse essere possibile e ha lavorato a ritroso.

Questo approccio di primo principio spiega anche il suo orizzonte temporale insolitamente lungo. Hassabis era disposto a tenere un problema nella sua mente per anni, o addirittura decenni, fino a quando la scienza e il calcolo non fossero stati abbastanza avanzati per attaccarlo correttamente.

Il più chiaro esempio è la previsione della struttura delle proteine.

La conversazione che ha piantato il seme della previsione della struttura delle proteine

Mentre studiava scienze informatiche a Cambridge negli anni ’90, Hassabis divenne amico di studenti di biologia. Uno di loro era particolarmente affascinato dal problema della piegatura delle proteine e spiegò che risolverlo avrebbe potuto trasformare la biologia.

Hassabis immediatamente riconobbe che si trattava del tipo di enorme problema di ricerca che potrebbe essere affrontato con l’intelligenza artificiale. Si dice che abbia mantenuto appunti su problemi scientifici che potrebbero eventualmente diventare idonei per gli algoritmi che sperava di costruire. La previsione della struttura delle proteine rimase tra loro per quasi due decenni.

Questa è una delle parti più affascinanti del libro.

Una conversazione apparentemente ordinaria lo ha introdotto a un problema che sarebbe rimasto nella parte posteriore della sua mente attraverso l’università, la ricerca neuroscientifica, l’imprenditorialità, la creazione di DeepMind e lo sviluppo di sistemi di apprendimento sempre più capaci.

Per comprendere il significato di ciò che seguì, è necessario apprezzare la scala della sfida.

Le proteine iniziano come catene di amminoacidi. Queste catene si piegano in strutture tridimensionali intricate e la forma risultante determina in gran parte cosa una proteina possa fare all’interno di un organismo vivente. Comprendere quella struttura è quindi essenziale per studiare le malattie, progettare farmaci e comprendere molti dei meccanismi sui quali dipende la vita.

La difficoltà è che anche una proteina relativamente piccola può assumere un numero astronomico di configurazioni possibili. Determinare sperimentalmente una struttura attraverso metodi come la cristallografia a raggi X o la microscopia elettronica criogenica può richiedere tempo, competenze ed esperti sostanziali.

Per circa 50 anni, gli scienziati hanno lottato per prevedere in modo affidabile la struttura tridimensionale di una proteina dalla sua sequenza di amminoacidi unidimensionale. La sfida è diventata uno dei grandi problemi irrisolti della biologia computazionale.

Si dice spesso che AlphaFold “ha risolto la piegatura delle proteine”. Tecnicamente, questa descrizione è troppo ampia. AlphaFold ha trasformato la previsione della struttura delle proteine; non spiega ogni fase del processo di piegatura fisica, del movimento delle proteine, della piegatura errata o dell’interazione molecolare.

Questa qualificazione non diminuisce il risultato. Prevedere strutture con accuratezza quasi sperimentale è stato di per sé una svolta che ha cambiato un intero campo scientifico.

I giochi erano il terreno di addestramento, non la destinazione

DeepMind non è iniziata con la biologia. I suoi primi risultati sono arrivati attraverso i giochi.

I giochi offrivano qualcosa di inestimabile a un laboratorio di intelligenza artificiale: ambienti controllati con regole chiare, risultati misurabili e un numero enorme di decisioni possibili. Un agente poteva sperimentare, fallire, ricevere feedback e migliorare senza l’ambiguità e il rischio fisico di operare nel mondo reale.

La rete Q profonda di DeepMind ha dimostrato che un singolo sistema di apprendimento poteva padroneggiare una vasta selezione di giochi Atari da pixel e segnali di ricompensa piuttosto che istruzioni specifiche del gioco. Il lavoro ha aiutato a stabilire l’apprendimento per rinforzo profondo come uno degli approcci più promettenti nell’intelligenza artificiale moderna.

La prossima grande prova è stata il Go.

Il Go aveva resistito agli approcci di calcolo tradizionali perché il numero di posizioni possibili sulla scacchiera lo rendeva impossibile da esaurire. Il successo richiedeva il riconoscimento di pattern, la pianificazione strategica e la capacità di identificare mosse promettenti senza calcolare ogni possibile risultato.

Nel marzo 2016, AlphaGo ha sconfitto il leggendario giocatore di Go Lee Sedol quattro partite su cinque. Oltre 200 milioni di persone hanno guardato una macchina eseguire mosse che anche i giocatori di élite inizialmente hanno faticato a comprendere.

AlphaGo Zero ha poi rimosso la dipendenza dai record di gioco umani. Iniziando solo con le regole, ha imparato giocando contro se stesso e alla fine ha superato la versione precedente di AlphaGo. AlphaZero ha generalizzato ulteriormente l’approccio, padroneggiando scacchi, shogi e Go attraverso l’autoapprendimento senza affidarsi a strategie create dall’uomo o esempi.

Questi sistemi non erano prototipi diretti di AlphaFold. La connessione è più filosofica e organizzativa che architettonica.

I giochi hanno insegnato a DeepMind come costruire sistemi in grado di navigare spazi di possibilità vasti. Hanno dimostrato che le reti neurali, l’apprendimento per rinforzo, la ricerca e enormi quantità di calcolo potevano scoprire soluzioni che gli esseri umani non avevano esplicitamente programmato.

Il più importante è che hanno dato a Hassabis la fiducia che l’intelligenza artificiale potesse andare oltre la classificazione e il riconoscimento di pattern per generare insight genuinamente utili.

AlphaGo è stato un risultato storico, ma non è mai stata la destinazione finale. I giochi erano laboratori in cui DeepMind poteva sviluppare le idee, le persone, l’infrastruttura e la fiducia necessarie per affrontare problemi scientifici reali.

La previsione della struttura delle proteine è stata dove la missione originale sarebbe stata finalmente testata.

AlphaFold e la differenza tra vincere e risolvere

DeepMind ha formalmente iniziato a lavorare sulla previsione della struttura delle proteine nel 2016. Il suo primo sistema AlphaFold ha partecipato alla competizione CASP13 sulla struttura delle proteine nel 2018 e ha raggiunto l’accuratezza più alta tra i partecipanti.

Per molte organizzazioni, vincere la competizione sarebbe stato sufficiente. Avrebbe generato titoli, riconoscimento accademico e la prova che il progetto aveva avuto successo.

Hassabis voleva di più.

Un sistema che superava un benchmark ma rimaneva insufficientemente affidabile per il lavoro scientifico quotidiano non aveva realmente risolto il problema. DeepMind ha ampliato il team, ha messo John Jumper in un ruolo di ricerca centrale e ha sostanzialmente ridisegnato il sistema piuttosto che semplicemente raffinare il suo primo approccio.

Il risultato è stato AlphaFold2.

Al CASP14 nel 2020, AlphaFold2 ha raggiunto un’accuratezza che gli organizzatori e i ricercatori consideravano paragonabile ai metodi sperimentali in molti bersagli di proteine. La ricerca associata ha dimostrato che la previsione computazionale poteva regolarmente avvicinarsi all’accuratezza atomica, compresi i casi in cui non era disponibile una struttura nota strettamente correlata.

DeepMind e l’Istituto di bioinformatica europeo hanno successivamente rilasciato previsioni che coprono oltre 200 milioni di strutture di proteine, quasi ogni proteina catalogata dalla scienza. Il database è stato successivamente accesso da oltre tre milioni di ricercatori in oltre 190 paesi.

Nel 2024, Hassabis e Jumper hanno condiviso la metà del Premio Nobel per la chimica per la previsione della struttura delle proteine, con l’altra metà assegnata a David Baker per la progettazione computazionale delle proteine.

La sequenza degli eventi cattura ciò che ho trovato più impressionante in Hassabis.

Non sembra soddisfatto di vincere la misurazione accettata di un problema. Continua a chiedersi se il problema sottostante sia stato realmente risolto.

Questo è il pensiero di primo principio nella sua forma più pura. Un benchmark è solo un proxy. L’obiettivo non è classificarsi primo. L’obiettivo è creare qualcosa che cambi ciò che gli scienziati sono in grado di fare.

Il punto cieco LLM che ha aiutato OpenAI a prendere il largo

Il libro ha anche chiarito uno degli episodi più confusi nella recente storia dell’intelligenza artificiale.

I ricercatori di Google hanno introdotto l’architettura del trasformatore nel paper del 2017 Attention Is All You Need. I trasformatori sono diventati la base su cui sono stati costruiti i moderni modelli linguistici di grandi dimensioni.

Yet Google non ha convertito quel vantaggio iniziale nel prodotto che ha definito l’era dell’intelligenza artificiale generativa. OpenAI ha rilasciato ChatGPT e ha stabilito l’interfaccia attraverso cui centinaia di milioni di persone avrebbero incontrato per la prima volta l’intelligenza artificiale avanzata. Anthropic è successivamente emerso come un altro leader, in particolare tra gli sviluppatori e gli utenti aziendali.

La versione comune di questa storia è che Google ha inventato il trasformatore e poi semplicemente non ha costruito modelli linguistici. Ciò non è del tutto accurato. Google e DeepMind hanno pubblicato ricerche sostanziali sui modelli linguistici, compreso il modello Gopher da 280 miliardi di parametri di DeepMind nel 2021.

Il fallimento non è stato l’assenza di ricerca. È stato un fallimento di convinzione strategica e di esecuzione del prodotto.

Hassabis inizialmente dubitava che il linguaggio da solo potesse produrre una vera intelligenza. Credeva che un sistema intelligente dovesse essere basato nel mondo attraverso la percezione, l’azione, la robotica o ambienti simulati.

La sua preoccupazione era ragionevole. Una macchina poteva memorizzare una definizione di peso, ma avrebbe realmente capito il peso senza mai aver sollevato nulla? Poteva elaborare descrizioni della gravità, ma avrebbe capito che un bicchiere si rompe quando viene lasciato cadere?

La agenda di ricerca di DeepMind ha conseguentemente enfatizzato gli agenti che agivano all’interno di giochi e mondi simulati. I suoi ricercatori hanno anche costruito sistemi specificamente progettati per collegare il linguaggio con la percezione e l’azione in ambienti tridimensionali.

Ciò che Hassabis ha sottovalutato è quanto informazioni sul mondo fisico e sociale fossero già state codificate nel linguaggio umano. I grandi modelli potevano anche ereditare una forma di basi attraverso il feedback delle persone che avevano direttamente sperimentato il mondo.

Hassabis ha successivamente ammesso che questo è stato qualcosa che ha sottovalutato, descrivendo i modelli linguistici come “inspiegabilmente efficaci”.

Questa è stata una delle sezioni più preziose del libro perché rende il comportamento di Google molto più comprensibile.

Dall’esterno, sembrava incomprensibile che l’organizzazione responsabile del trasformatore avesse permesso a OpenAI di definire l’era LLM. Dall’intelaiatura intellettuale di Hassabis, ha più senso. Stava cercando una forma più profonda di intelligenza e inizialmente considerava la previsione del linguaggio come un percorso incompleto verso di essa.

Quel giudizio potrebbe eventualmente rivelarsi corretto al livello dell’intelligenza artificiale generale. I modelli linguistici da soli potrebbero non essere sufficienti. Ma come decisione di prodotto e piattaforma, ha dato ai concorrenti un’apertura straordinaria.

Nella mia osservazione del mercato, Gemini è diventato un sistema formidabile e potrebbe superare i modelli concorrenti in singole valutazioni. Eppure, sembra ancora come se Google stesse cercando di ridefinire una categoria le cui aspettative erano state stabilite da OpenAI e Anthropic.

Il libro aiuta a spiegare come una delle organizzazioni con la più grande concentrazione di talenti e infrastrutture di intelligenza artificiale si sia trovata in quella posizione.

Perché vendere DeepMind a Google è stato coerente con la missione

L’altro episodio che ha cambiato la mia comprensione di Hassabis è stata la vendita di DeepMind a Google.

La mitologia del fondatore tende a celebrare l’indipendenza. L’imprenditore ideale dovrebbe mantenere il controllo, resistere all’acquisto, costruire un impero e ricevere il riconoscimento personale per aver creato un’azienda dominante.

Hassabis sembra aver valutato la decisione in modo diverso.

Durante la competizione per l’acquisto di DeepMind nel 2013, Larry Page ha fatto un argomento che è andato direttamente alle priorità di Hassabis. Se il suo obiettivo era effettivamente creare l’intelligenza artificiale generale, perché spendere anni a ricostruire l’infrastruttura, raccogliere capitali e costruire un’azienda paragonabile a Google quando le risorse di Google già esistevano?

Le conversazioni si sono svolte in una serie quasi surreale di incontri che coinvolgevano Page, Mark Zuckerberg, Elon Musk e altre figure tecnologiche, compresa una riunione in un castello affittato a New York per il compleanno di Musk.

Google poteva offrire infrastrutture di calcolo, capitale, talenti di ricerca e pazienza su una scala che un DeepMind indipendente avrebbe faticato a riprodurre. Era anche disposto ad accettare condizioni etiche che DeepMind considerava importanti. Hassabis ha scelto alla fine Google nonostante abbia ricevuto un’offerta più grande da Facebook.

Visto attraverso una lente imprenditoriale convenzionale, vendere DeepMind così presto potrebbe sembrare una rinuncia all’indipendenza.

Visto attraverso la lente di Hassabis, rimanere indipendenti potrebbe essere stata la maggiore distrazione.

Il suo obiettivo non era diventare noto come il fondatore della prossima Google. Era utilizzare il percorso più credibile verso la costruzione dell’intelligenza artificiale generale e applicare l’intelligenza avanzata alla scienza. Google ha accorciato quel percorso.

L’acquisto ha successivamente prodotto tensioni reali sull’indipendenza, la governance, la commercializzazione e i limiti etici dell’intelligenza artificiale. Il libro non suggerisce che collocare DeepMind all’interno di una delle più grandi corporation del mondo abbia risolto quelle domande. In alcuni modi, le ha rese più difficili.

Tuttavia, la decisione rivela qualcosa di importante su Hassabis. Sembra meno attaccato allo status convenzionale dell’imprenditorialità che alla missione scientifica che l’imprenditorialità ha reso possibile.

Uno dei buoni ragazzi, ma non infallibile

Hassabis appare alla fine come uno dei buoni ragazzi nella corsa all’intelligenza artificiale.

Ciò non significa che ogni decisione sia stata corretta. La sua esitazione sui modelli linguistici è stata conseguente. La relazione di DeepMind con Google ha comportato compromessi. La concentrazione di potenti sistemi di intelligenza artificiale all’interno di un piccolo numero di corporation solleva domande che le buone intenzioni da sole non possono rispondere.

Le sue motivazioni sembrano insolitamente coerenti.

Vuole capire l’intelligenza. Crede che l’intelligenza artificiale avanzata possa accelerare la scoperta scientifica. Ha ripetutamente sottolineato la sicurezza e la necessità di considerare le conseguenze a lungo termine di sistemi sempre più capaci. Soprattutto, AlphaFold fornisce prove concrete che la sua visione dell’intelligenza artificiale come strumento per la scienza è più di un punto di vista aspirazionale.

C’è una differenza tra promettere che l’intelligenza artificiale beneficerà l’umanità e rilasciare uno strumento utilizzato da milioni di ricercatori per comprendere meglio la macchina della vita.

AlphaFold dà a Hassabis credibilità che pochi altri leader nella corsa all’intelligenza artificiale generale possiedono.

Pensieri finali

The Infinity Machine ha successo come biografia, storia di DeepMind e resoconto accessibile di alcune delle più importanti scoperte nell’intelligenza artificiale moderna. Fa anche sembrare gli eventi che abbiamo visto in tempo reale, dal Go di Alpha e AlphaFold alla risposta ritardata di Google a ChatGPT, considerevolmente più coerenti.

La lezione più potente non è semplicemente che Hassabis sia eccezionalmente intelligente, anche se chiaramente lo è. È che è stato insolitamente deliberato nel decidere quali problemi meritano quell’intelligenza.

Una conversazione con studenti di biologia lo ha introdotto al problema della piegatura delle proteine decenni prima che l’intelligenza artificiale fosse in grado di affrontarlo. Ha mantenuto il problema nella sua mente, ha costruito l’organizzazione e i sistemi necessari per affrontarlo e ci è tornato una volta che la tecnologia era avanzata abbastanza.

La maggior parte degli imprenditori inizia con una tecnologia disponibile e cerca un mercato. Hassabis ha iniziato con domande che credeva potessero cambiare l’umanità e ha lavorato per creare la tecnologia abbastanza potente da rispondere a quelle domande.

Questo è ciò che rende The Infinity Machine un libro così memorabile e Demis Hassabis una figura così insolita nella storia dell’intelligenza artificiale.