Boekrecensie: The Infinity Machine: Demis Hassabis, DeepMind, en de zoektocht naar superintelligentie door Sebastian Mallaby

Nadat ik eerder The Power Law had gelezen, dat ik beschouw als het beste boek over venture capital, benaderde ik Sebastian Mallaby’s laatste boek met ongebruikelijk hoge verwachtingen. The Infinity Machine: Demis Hassabis, DeepMind, en de zoektocht naar superintelligentie heeft die verwachtingen niet teleurgesteld.

Net als The Power Law slaagt het boek omdat Mallaby begrijpt dat transformatieve bedrijven niet alleen kunnen worden verklaard door technologie of financiële resultaten. Ze moeten worden begrepen door de ambities, persoonlijkheden, rivaliteiten en diepgewortelde overtuigingen van de mensen die ze bouwen.

The Infinity Machine is gedeeltelijk het verhaal van een ondernemer die een van de belangrijkste kunstmatige intelligentiebedrijven in de geschiedenis creëert. Maar belangrijker nog, het is het verhaal van een wetenschapper die toevallig ondernemerschap gebruikt als voertuig voor het nastreven van wetenschappelijke vragen.

Demis Hassabis komt niet over als iemand die DeepMind heeft opgericht om rijk, beroemd of gevierd te worden als technologieondernemer. Hij komt over als iemand die intelligentie heeft geïdentificeerd als het meest gevolgrijke probleem waar hij aan kon werken en vervolgens zijn leven heeft opgebouwd rond het oplossen ervan.

Dat onderscheid is wat het boek zo boeiend maakt.

Een wetenschapper eerst en een ondernemer tweede

Mallaby volgt Hassabis’ pad van kind-schaakwonder en videospelontwerper tot neurobioloog, AI-onderzoeker en uiteindelijk mede-oprichter van DeepMind. Het boek is gebaseerd op meer dan 30 uur conversaties met Hassabis, naast meer dan 100 interviews met collega’s, concurrenten, critici en voormalige medewerkers.

Dit geeft Mallaby de mogelijkheid om Hassabis niet alleen te presenteren als het publieke gezicht van Google DeepMind, maar als een persoon wiens interesses opvallend consistent zijn gebleven.

Schaak heeft hem geleerd om meerdere zetten vooruit te denken. Het ontwerpen van simulatiespellen heeft hem geleerd hoe complexe werelden kunnen ontstaan uit relatief eenvoudige regels. Neurobiologie heeft hem aangemoedigd om te vragen hoe geheugen, verbeelding, planning en intelligentie werken in de menselijke hersenen.

Deze activiteiten waren geen losse fasen in zijn carrière. Ze waren verschillende benaderingen van dezelfde onderliggende vraag: Kan intelligentie goed genoeg worden begrepen om te worden gereconstrueerd?

Wat opvalt in het hele boek is Hassabis’ neiging om problemen terug te brengen tot hun fundamenten. In plaats van te beginnen met wat bestaande technologie kon bereiken, begon hij herhaaldelijk met het resultaat dat hij geloofde dat mogelijk moest zijn en werkte hij terug.

Deze aanpak vanuit de eerste principes verklaart ook zijn ongebruikelijk lange tijdshorizon. Hassabis was bereid om een probleem jaren – of zelfs decennia – in zijn hoofd te houden totdat de wetenschap en de computertechnologie voldoende waren geavanceerd om het aan te pakken.

Het meest duidelijke voorbeeld is eiwitstructuurvoorspelling.

Het gesprek dat het zaad van eiwitvouwing plantte

Terwijl hij in de jaren negentig informatica studeerde aan de Universiteit van Cambridge, werd Hassabis vrienden met biologiestudenten. Een van hen was bijzonder geïnteresseerd in het eiwitvouwingsprobleem en legde uit dat het kraken ervan biologie kon transformeren.

Hassabis herkende het onmiddellijk als het type enorm zoekprobleem dat mogelijk ooit met kunstmatige intelligentie kon worden aangepakt. Hij zou notities hebben bijgehouden over wetenschappelijke problemen die uiteindelijk geschikt konden worden voor de algoritmes die hij hoopte te bouwen. Eiwitvouwing bleef bijna twee decennia lang bij hem.

Dit is een van de meest boeiende delen van het boek.

Een ogenschijnlijk gewoon gesprek introduceerde Hassabis in een probleem dat in de achterkant van zijn hoofd zou blijven tijdens zijn universitaire studies, neurobiologisch onderzoek, ondernemerschap, de creatie van DeepMind en de ontwikkeling van steeds capabelere learnsysteemen.

Om de betekenis van wat volgde te begrijpen, is het noodzakelijk om de omvang van de uitdaging te waarderen.

Eiwitten beginnen als ketens van aminozuren. Die ketens vouwen zich op in complexe driedimensionale structuren, en de resulterende vorm bepaalt grotendeels wat een eiwit in een levend organisme kan doen. Het begrijpen van die structuur is daarom essentieel voor het bestuderen van ziektes, het ontwerpen van medicijnen en het begrijpen van veel van de mechanismen waarop het leven afhankelijk is.

De moeilijkheid is dat zelfs een relatief klein eiwit theoretsch een astronomisch aantal mogelijke configuraties kan aannemen. Experimenteel bepalen van een structuur door middel van methoden zoals röntgendiffractie of cryo-elektronenmicroscopie kan aanzienlijke tijd, deskundigheid en kosten vereisen.

Gedurende ongeveer 50 jaar hebben wetenschappers gestreden om eiwitstructuur betrouwbaar te voorspellen vanuit de een dimensionale aminozuursequentie. De uitdaging werd een van de grote onopgeloste problemen in computationele biologie.

Het wordt vaak gezegd dat AlphaFold “eiwitvouwing heeft opgelost”. Technisch gezien is die beschrijving te breed. AlphaFold heeft eiwitstructuurvoorspelling getransformeerd; het verklaart niet elke fase van het fysieke vouwingsproces, eiwitbeweging, misvouwing of moleculaire interactie.

Die kwalificatie vermindert de prestatie niet. Het voorspellen van structuren met bijna experimentele nauwkeurigheid was op zichzelf een doorbraak die een hele wetenschappelijke discipline veranderde.

Spellen waren het oefenterrein, niet de bestemming

DeepMind begon niet met biologie. De vroege doorbraken kwamen via spellen.

Spellen boden iets onbetaalbaars voor een AI-laboratorium: gecontroleerde omgevingen met duidelijke regels, meetbare resultaten en een enorm aantal mogelijke beslissingen. Een agent kon experimenteren, falen, feedback ontvangen en verbeteren zonder de ambiguïteit en fysieke risico’s van opereren in de echte wereld.

DeepMind’s diepe Q-netwerk demonstreerde dat één learnsysteem een breed scala aan Atari-spellen kon beheersen vanaf scherm pixels en beloningsignalen in plaats van spel-specifieke instructies. Het werk hielp diepe versterking van leren vestigen als een van de meest veelbelovende benaderingen in de moderne AI.

De volgende grote test was Go.

Go had traditionele computeraanpakken weerstaan omdat het aantal mogelijke bordposities een uitputtende zoekactie onmogelijk maakte. Succes vereiste patroonherkenning, strategische planning en de mogelijkheid om veelbelovende zetten te identificeren zonder elke mogelijke uitkomst te berekenen.

In maart 2016 versloeg AlphaGo de legendarische Go-speler Lee Sedol vier games tegen één. Meer dan 200 miljoen mensen keken toe hoe een machine zetten maakte die zelfs elite-spelers aanvankelijk moeite hadden om te begrijpen.

AlphaGo Zero verwijderde vervolgens de afhankelijkheid van menselijke spelrecords. Het leerde door tegen zichzelf te spelen en overtrof uiteindelijk de eerdere versie van AlphaGo. AlphaZero generaliseerde de aanpak verder, meester van schaken, shogi en Go door zelfspel zonder afhankelijkheid van handgemaakte strategieën of menselijke voorbeelden.

Deze systemen waren geen directe prototypen van AlphaFold. De verbinding is meer filosofisch en organisatorisch dan architectonisch.

Spellen leerden DeepMind hoe systemen te bouwen die in staat waren om enorme mogelijkheidsruimtes te navigeren. Ze demonstreerden dat neurale netwerken, versterking van leren, zoekactie en enorme hoeveelheden berekening oplossingen konden ontdekken die mensen niet expliciet hadden geprogrammeerd.

Belangrijker nog, ze gaven Hassabis vertrouwen dat AI verder kon gaan dan classificatie en patroonherkenning om echt nuttige inzichten te genereren.

AlphaGo was een historische prestatie, maar het was nooit de eindbestemming. Spellen waren laboratoria waarin DeepMind kon ontwikkelen de ideeën, mensen, infrastructuur en vertrouwen die nodig waren om echte wetenschappelijke problemen aan te pakken.

Eiwitstructuurvoorspelling was waar de oorspronkelijke missie uiteindelijk zou worden getest.

AlphaFold en het verschil tussen winnen en oplossen

DeepMind begon officieel te werken aan eiwitstructuurvoorspelling in 2016. Het eerste AlphaFold-systeem nam deel aan de CASP13-eiwitstructuurcompetitie in 2018 en behaalde de hoogste nauwkeurigheid onder de deelnemers.

Voor veel organisaties zou het winnen van de competitie genoeg zijn geweest. Het zou koppen, academische erkenning en bewijs hebben gegenereerd dat het project was geslaagd.

Hassabis wilde meer.

Een systeem dat een benchmark bovenaan stond maar nog steeds onvoldoende betrouwbaar was voor dagelijkse wetenschappelijk werk, had het probleem nog niet echt opgelost. DeepMind breidde het team uit, plaatste John Jumper in een centrale onderzoeksrol en ontwierp het systeem opnieuw in plaats van alleen de eerste aanpak te verfijnen.

Het resultaat was AlphaFold2.

Bij CASP14 in 2020 behaalde AlphaFold2 een nauwkeurigheid die door organisatoren en onderzoekers werd beschouwd als vergelijkbaar met experimentele methoden voor veel eiwitdoelen. Het onderzoek toonde aan dat computationele voorspelling regelmatig atomaire nauwkeurigheid kon bereiken, inclusief in gevallen waarin geen nauw verwant bekende structuur beschikbaar was.

DeepMind en het Europees Bio-informatica Instituut gaven later voorspellingen vrij die meer dan 200 miljoen eiwitstructuren besloegen – bijna elk eiwit dat door de wetenschap is gecatalogiseerd. De database is sindsdien toegankelijk gemaakt voor meer dan drie miljoen onderzoekers in meer dan 190 landen.

In 2024 deelden Hassabis en Jumper de helft van de Nobelprijs voor Scheikunde voor eiwitstructuurvoorspelling, met de andere helft toegekend aan David Baker voor computationeel eiwitontwerp.

De reeks gebeurtenissen vat samen wat ik het meest indrukwekkend vond aan Hassabis.

Hij lijkt niet tevreden met het winnen van de geaccepteerde meting van een probleem. Hij vraagt zich voortdurend af of het onderliggende probleem werkelijk is opgelost.

Dat is zuivere denken vanuit de eerste principes. Een benchmark is slechts een proxy. Het doel is niet om als eerste te eindigen. Het doel is om iets te creëren dat verandert wat wetenschappers kunnen doen.

De LLM-blinde vlek die OpenAI hielp om voorop te lopen

Het boek verduidelijkt ook een van de meest verwarrende episodes in de recente AI-geschiedenis.

Google-onderzoekers introduceerden de transformer-architectuur in het baanbrekende paper van 2017 Attention Is All You Need. Transformers werden de basis waarop moderne grote taalmodellen werden gebouwd.

Maar Google zette die voorsprong niet om in het product dat de generatieve AI-tijdperk definieerde. OpenAI bracht ChatGPT uit en stelde de interface vast waarmee honderden miljoenen mensen voor het eerst geavanceerde AI zouden ontmoeten. Anthropic kwam later naar voren als een andere leider, vooral onder ontwikkelaars en enterprise-gebruikers.

De gebruikelijke versie van dit verhaal is dat Google de transformer heeft uitgevonden en vervolgens simpelweg geen taalmodellen heeft gebouwd. Dat is niet helemaal juist. Google en DeepMind publiceerden aanzienlijk taalmodelonderzoek, waaronder DeepMind’s 280-miljard-parameter Gopher-model in 2021.

Het falen was geen afwezigheid van onderzoek. Het was een falen van strategische overtuiging en productuitvoering.

Hassabis twijfelde aanvankelijk of taal alleen echte intelligentie kon produceren. Hij geloofde dat een intelligent systeem gegrond moest zijn in de wereld door perceptie, actie, robotica of gesimuleerde omgevingen.

Zijn bezorgdheid was redelijk. Een machine kon een definitie van gewicht opslaan, maar zou het werkelijk gewicht begrijpen zonder ooit iets te tillen? Het kon beschrijvingen van zwaartekracht verwerken, maar zou het begrijpen dat een glas zou breken als het werd gedropt?

DeepMind’s onderzoeksagenda benadrukte daarom agenten die optraden in spellen en gesimuleerde werelden. Hun onderzoekers bouwden zelfs systemen die specifiek waren ontworpen om taal te verbinden met perceptie en actie in driedimensionale omgevingen.

Wat Hassabis onderschatte, was hoeveel informatie over de fysieke en sociale wereld al was gecodeerd in de menselijke taal. Grote modellen konden ook een vorm van gronding erven door feedback van mensen die de wereld rechtstreeks hadden ervaren.

Hassabis heeft sindsdien erkend dat dit iets was wat hij verkeerd had ingeschat, waarbij hij taalmodellen “onredelijk effectief” noemde.

Dit was een van de meest waardevolle delen van het boek, omdat het Google’s gedrag veel beter verklaarbaar maakt.

Van buitenaf leek het onbegrijpelijk dat de organisatie die verantwoordelijk was voor de transformer het zou toelaten dat OpenAI de LLM-tijdperk definieert. Vanuit Hassabis’ intellectueel kader is het echter logischer. Hij zocht naar een diepere vorm van intelligentie en beschouwde taalvoorspelling aanvankelijk als een onvolledige weg ernaartoe.

Die beoordeling kan uiteindelijk correct blijken te zijn op het niveau van AGI. Taalmodellen alleen kunnen mogelijk niet voldoende zijn. Maar als product- en platformbeslissing gaf het concurrenten een buitengewone opening.

Uit mijn eigen observatie van de markt is Gemini een formidabel systeem geworden en kan het mogelijk individuele evaluaties van concurrerende modellen overtreffen. Het voelt nog steeds alsof Google probeert een categorie te herschrijven waarvan de verwachtingen zijn vastgesteld door OpenAI en Anthropic.

Het boek helpt te verklaren hoe een van de organisaties met de grootste concentratie van AI-talent en -infrastructuur zich in die positie bevond.

Waarom het verkopen van DeepMind aan Google consistent was met de missie

Het andere voorval dat mijn begrip van Hassabis veranderde, was de verkoop van DeepMind aan Google.

Founder-mythologie viert onafhankelijkheid. De ideale ondernemer moet de controle behouden, overname weerstaan, een imperium bouwen en persoonlijke erkenning ontvangen voor het creëren van een dominante onderneming.

Hassabis lijkt de beslissing anders te hebben beoordeeld.

Tijdens de competitie om DeepMind te verwerven in 2013, maakte Larry Page een argument dat rechtstreeks naar Hassabis’ prioriteiten ging. Als zijn werkelijke doel was om AGI te creëren, waarom zou hij jaren besteden aan het opbouwen van infrastructuur, het werven van kapitaal en het creëren van een onderneming die vergelijkbaar is met Google, wanneer Google’s middelen al bestonden?

De gesprekken vonden plaats tijdens een bijna surrealistische reeks ontmoetingen met Page, Mark Zuckerberg, Elon Musk en andere technologiefiguren, waaronder een bijeenkomst in een gehuurd kasteel in New York voor Musk’s verjaardag.

Google kon computing-infrastructuur, kapitaal, onderzoektalent en geduld op een schaal bieden die een onafhankelijke DeepMind moeilijk had kunnen reproduceren. Het was ook bereid om ethische voorwaarden te accepteren die DeepMind belangrijk achtte. Hassabis koos uiteindelijk voor Google, ondanks een groter bod van Facebook.

Gezien door een conventioneel ondernemerslens, kan het verkopen van DeepMind zo vroeg als het opgeven van onafhankelijkheid lijken.

Gezien door Hassabis’ lens, kan onafhankelijk blijven een grotere afleiding zijn.

Zijn doel was niet om bekend te worden als de oprichter van de volgende Google. Het was om de snelste geloofwaardige route te gebruiken naar het bouwen van AGI en het toepassen van geavanceerde intelligentie op wetenschap. Google verkortte die route.

De overname produceerde later echte spanningen over onafhankelijkheid, bestuur, commercialisatie en de ethische grenzen van AI. Het boek suggereert niet dat het plaatsen van DeepMind binnen een van de grootste ondernemingen ter wereld deze vragen heeft opgelost. Op sommige manieren maakte het ze moeilijker.

Toch onthult de beslissing iets belangrijks over Hassabis. Hij lijkt minder gehecht aan de conventionele status van ondernemerschap dan aan de wetenschappelijke missie die ondernemerschap mogelijk maakt.

Een van de goeie jongens – maar niet onfeilbaar

Hassabis komt uiteindelijk over als een van de goeie jongens in de AI-race.

Dat betekent niet dat elke beslissing correct is geweest. Zijn aarzeling over taalmodellen was gevolgrijk. DeepMind’s relatie met Google heeft compromissen met zich meegebracht. De concentratie van krachtige AI-systemen binnen een klein aantal bedrijven roept vragen op die goede bedoelingen alleen niet kunnen beantwoorden.

Maar zijn motivaties lijken ongewoon consistent.

Hij wil intelligentie begrijpen. Hij gelooft dat geavanceerde AI wetenschappelijke ontdekking kan versnellen. Hij heeft herhaaldelijk benadrukt dat veiligheid en het overwegen van de langetermijngevolgen van steeds capabelere systemen nodig zijn. Het meest belangrijk is dat AlphaFold concrete bewijzen levert dat zijn visie op AI als instrument voor wetenschap meer is dan een aspiratie.

Er is een verschil tussen beloven dat AI de mensheid ten goede zal komen en het uitbrengen van een instrument dat door miljoenen onderzoekers wordt gebruikt om de machinerie van het leven beter te begrijpen.

AlphaFold geeft Hassabis geloofwaardigheid die weinig andere leiders in de AGI-race bezitten.

Slotgedachten

The Infinity Machine slaagt als biografie, een geschiedenis van DeepMind en een toegankelijk verslag van enkele van de belangrijkste doorbraken in de moderne kunstmatige intelligentie. Het maakt ook gebeurtenissen die we in real-time hebben meegemaakt – van AlphaGo en AlphaFold tot Google’s verlate reactie op ChatGPT – aanzienlijk meer coherent.

Het meest krachtige les is niet dat Hassabis uitzonderlijk intelligent is, hoewel hij dat duidelijk is. Het is dat hij ongewoon doelgericht is geweest in het bepalen van welke problemen zijn intelligentie verdienen.

Een gesprek met biologiestudenten introduceerde hem in eiwitvouwing, decennia voordat AI in staat was om het aan te pakken. Hij hield het probleem in zijn hoofd, bouwde de organisatie en systemen die nodig waren om het aan te pakken, en keerde terug naar het probleem zodra de technologie voldoende was geavanceerd.

De meeste ondernemers beginnen met een beschikbare technologie en zoeken naar een markt. Hassabis begon met vragen die hij geloofde dat de mensheid konden veranderen en werkte aan het creëren van technologie die krachtig genoeg was om ze te beantwoorden.

Dat is wat The Infinity Machine zo’n memorabel boek maakt en Demis Hassabis zo’n ongebruikelijke figuur in de geschiedenis van de kunstmatige intelligentie.