Bokrecension: The Infinity Machine: Demis Hassabis, DeepMind och jakten på superintelligens av Sebastian Mallaby

Efter att ha läst The Power Law, som jag anser vara den bästa boken om riskkapital, närmade jag mig Sebastian Mallabys senaste bok med ovanligt höga förväntningar. The Infinity Machine: Demis Hassabis, DeepMind och jakten på superintelligens besviken inte.

Liksom The Power Law lyckas boken för att Mallaby förstår att omvälvande företag inte kan förklaras enbart genom teknik eller finansiella resultat. De måste förstås genom ambitionerna, personligheterna, rivaliteterna och djupt rotade övertygelserna hos de människor som bygger dem.

The Infinity Machine är delvis berättelsen om en entreprenör som skapar ett av de viktigaste artificiella intelligensföretagen i historien. Mer viktigt är det dock berättelsen om en vetenskapsman som råkar använda entreprenörskap som ett fordon för att följa vetenskapliga frågor.

Demis Hassabis framstår inte som någon som grundade DeepMind främst för att bli rik, berömd eller firad som en teknikgrundare. Han framstår som någon som identifierade intelligens som det mest betydelsefulla problem han kunde arbeta med och sedan konstruerade sitt liv kring att lösa det.

Detta är vad som gör boken så tilltalande.

En vetenskapsman först och en entreprenör andra

Mallaby spårar Hassabis väg från barnschackgeni och videospelutvecklare till neurovetenskapsman, AI-forskare och slutligen medgrundare av DeepMind. Boken bygger på mer än 30 timmars samtal med Hassabis, tillsammans med över 100 intervjuer med kollegor, konkurrenter, kritiker och tidigare samarbetspartner.

Denna tillgång gör det möjligt för Mallaby att presentera Hassabis inte bara som den offentliga figuren för Google DeepMind, utan som en person vars intressen har förblivit anmärkningsvärt konsekventa.

Schack lärde honom att tänka flera drag före. Att utveckla simulerings-spel lärde honom hur komplexa världar kunde uppstå från relativt enkla regler. Neurovetenskap uppmuntrade honom att fråga hur minne, fantasi, planering och intelligens fungerar inuti den mänskliga hjärnan.

Dessa strävanden var inte oberoende etapper i hans karriär. De var olika tillvägagångssätt för att besvara samma underliggande fråga: Kan intelligens förstås tillräckligt bra för att återskapas?

Vad som sticker ut genom hela boken är Hassabis tendens att reducera problem till deras grunder. Istället för att börja med vad befintlig teknik kunde åstadkomma, började han upprepade gånger med den utfall han trodde borde vara möjlig och arbetade bakåt.

Denna första-princip-tillvägagångssätt förklarar också hans ovanligt långa tidsHorisont. Hassabis var villig att hålla ett problem i sitt sinne i år – eller till och med årtionden – tills vetenskap och datorteknik hade utvecklats tillräckligt för att han skulle kunna angripa det ordentligt.

Det tydligaste exemplet är proteinstrukturprediktion.

Samtalen som sådde frön för proteinveckningslösningen

Medan han studerade datavetenskap vid Cambridge på 1990-talet, blev Hassabis vän med biologistudenter. En av dem var särskilt fascinerad av proteinfoldningsproblemet och förklarade att att knäcka det kunde förvandla biologi.

Hassabis erkände omedelbart det som en enorm sökning som kanske en dag kunde hanteras med artificiell intelligens. Han ska ha förvaltat anteckningar om vetenskapliga problem som så småningom kunde bli lämpliga för de algoritmer han hoppades bygga. Proteinveckning förblev bland dem i nästan två decennier.

Detta är en av de mest spännande delarna av boken.

En till synes vanlig konversation introducerade Hassabis till ett problem som skulle förbli i bakhuvudet genom universitet, neurovetenskaplig forskning, entreprenörskap, skapandet av DeepMind och utvecklingen av alltmer kapabla inlärningssystem.

För att förstå betydelsen av vad som följde är det nödvändigt att uppskatta utmaningens omfattning.

Proteiner börjar som kedjor av aminosyror. Dessa kedjor veckar sig in i invecklade tredimensionella strukturer, och den resulterande formen bestämmer i stor utsträckning vad ett protein kan göra inuti en levande organism. Att förstå den strukturen är därför avgörande för att studera sjukdomar, utforma läkemedel och förstå många av de mekanismer som livet beror på.

Svårigheten är att även ett relativt litet protein teoretiskt kan anta ett astronomiskt antal möjliga konfigurationer. Experimentellt bestämma en struktur genom metoder som röntgenkristallografi eller kryo-elektronmikroskopi kan kräva betydande tid, expertis och kostnad.

Under ungefär 50 år kämpade forskare för att tillförlitligt förutsäga ett proteins tredimensionella struktur från dess en-dimensionella aminosyrasekvens. Utmaningen blev ett av de stora olösta problemen i beräkningsbiologi.

Det sägs ofta att AlphaFold “löste proteinveckning.” Tekniskt sett är den beskrivningen för bred. AlphaFold transformerade proteinstrukturprediktion; det förklarar inte varje stadium av den fysiska veckningsprocessen, proteinrörelse, felveckning eller molekylär interaktion.

Den kvalificeringen minskar inte prestationen. Att förutsäga strukturer med nästan experimentell noggrannhet var i sig ett genombrott som förändrade ett helt vetenskapligt område.

Spel var träningsgrunden, inte destinationen

DeepMind började inte med biologi. Dess tidiga genombrott kom genom spel.

Spel erbjöd något ovärderligt för ett AI-laboratorium: kontrollerade miljöer med tydliga regler, mätbara resultat och ett enormt antal möjliga beslut. En agent kunde experimentera, misslyckas, få feedback och förbättras utan den tvetydighet och fysiska risk som följer med att operera i den verkliga världen.

DeepMinds djupa Q-nätverk demonstrerade att ett enda inlärningssystem kunde bemästra ett brett urval av Atari-spel från skärm pixlar och belönings signaler snarare än spel-specifika instruktioner. Arbetet hjälpte till att etablera djup förstärkt inlärning som en av de mest lovande tillvägagångssätten i modern AI.

Nästa stora test var Go.

Go hade motstått traditionella datormetoder eftersom antalet möjliga brädlägen gjorde uttömmande sökning omöjlig. Framgång krävde mönsterigenkänning, strategisk planering och förmågan att identifiera lovande drag utan att beräkna varje möjligt resultat.

I mars 2016 besegrade AlphaGo den legendariska Go-spelaren Lee Sedol fyra spel till ett. Mer än 200 miljoner människor såg en maskin visa drag som till och med elit-spelare initialt kämpade för att förstå.

AlphaGo Zero tog sedan bort beroendet av mänskliga spelinstruktioner. Utgående endast från reglerna lärde den sig genom att spela mot sig själv och slutligen överträffade den tidigare versionen av AlphaGo. AlphaZero generaliserade tillvägagångssättet ytterligare, bemästrade schack, shogi och Go genom självspel utan att förlita sig på handgjorda strategier eller mänskliga exempel.

Dessa system var inte direkta prototyper för AlphaFold. Anslutningen är mer filosofisk och organisatorisk än arkitektonisk.

Spel lärde DeepMind hur man bygger system som kan navigera i enorma möjlighetsrymder. De visade att neurala nätverk, förstärkt inlärning, sökning och enorma mängder beräkningar kunde avslöja lösningar som människor inte explicit programmerat.

Mer viktigt var att de gav Hassabis förtroende för att AI kunde gå utöver klassificering och mönsterigenkänning för att generera genuint användbara insikter.

AlphaGo var en historisk prestation, men den var aldrig den slutgiltiga destinationen. Spel var laboratorier där DeepMind kunde utveckla idéer, människor, infrastruktur och förtroende för att konfrontera riktiga vetenskapliga problem.

Proteinstrukturprediktion var där den ursprungliga missionen slutligen skulle testas.

AlphaFold och skillnaden mellan att vinna och lösa

DeepMind började officiellt arbeta med proteinstrukturprediktion 2016. Dess första AlphaFold-system deltog i CASP13-proteinstrukturkonkurrensen 2018 och uppnådde högsta noggrannhet bland deltagarna.

För många organisationer skulle att vinna tävlingen ha varit tillräckligt. Det skulle ha genererat rubriker, akademiskt erkännande och bevis för att projektet hade lyckats.

Hassabis ville mer.

Ett system som toppade en benchmark men förblev otillräckligt tillförlitligt för daglig vetenskaplig verksamhet hade inte verkligen löst problemet. DeepMind utvidgade teamet, placerade John Jumper i en central forskningsroll och omkonstruerade systemet betydligt snarare än att bara finslipa sin första tillvägagångssätt.

Resultatet var AlphaFold2.

Vid CASP14 2020 uppnådde AlphaFold2 en noggrannhet som arrangörer och forskare ansåg vara jämförbar med experimentella metoder över många proteinmål. Den associerade forskningen visade att beräkningsprediktion kunde regelbundet närma sig atomnoggrannhet, inklusive i fall där ingen nära besläktad känd struktur var tillgänglig.

DeepMind och European Bioinformatics Institute släppte sedan prediktioner som täckte mer än 200 miljoner proteinstrukturer – nästan varje protein som katalogiserats av vetenskap. Databasen har sedan dess använts av mer än tre miljoner forskare i över 190 länder.

2024 delade Hassabis och Jumper på sig den andra halvan av Nobelpriset i kemi för proteinstrukturprediktion, med den andra halvan tilldelad David Baker för beräkningsbaserad proteindesign.

Sequensen av händelser fångar vad jag fann mest imponerande med Hassabis.

Han verkar inte tillfreds med att vinna den accepterade mätningen av ett problem. Han fortsätter att fråga om det underliggande problemet verkligen har lösts.

Det är första-princip-tänkande i sin renaste form. En benchmark är bara en proxy. Målet är inte att rankas först. Målet är att skapa något som förändrar vad forskare kan göra.

LLM-blindfläcken som hjälpte OpenAI att dra ifrån

Boken klargjorde också en av de mest förvirrande episoderna i den senaste AI-historien.

Google-forskare introducerade transformer-arkitekturen i den banbrytande 2017-papperet Attention Is All You Need. Transformatorer blev grunden för vilken moderna stora språkmodeller byggdes.

Ändå omvandlade Google inte den försprången till den produkt som definierade den generativa AI-eran. OpenAI släppte ChatGPT och etablerade gränssnittet genom vilket hundratals miljoner människor skulle första gången möta avancerad AI. Anthropic dök sedan upp som en annan ledare, särskilt bland utvecklare och företagsanvändare.

Den vanliga versionen av denna historia är att Google uppfann transformatorn och sedan enkelt misslyckades med att bygga språkmodeller. Det är inte riktigt korrekt. Google och DeepMind publicerade betydande språkmodellsforskning, inklusive DeepMinds 280-miljardersparameter-Gopher-modell 2021.

Misslyckandet var inte avsaknad av forskning. Det var ett misslyckande med strategisk övertygelse och produktutförande.

Hassabis tvivlade initialt på att språk ensamt kunde producera verklig intelligens. Han trodde att ett intelligent system behövde vara grundat i världen genom perception, handling, robotik eller simulerade miljöer.

Hans oro var rimlig. En maskin kunde lagra en definition av vikt, men skulle den verkligen förstå vikt utan att någonsin lyfta något? Den kunde bearbeta beskrivningar av tyngdkraft, men skulle den verkligen förstå att ett glas skulle gå sönder när det föll?

DeepMinds forskningsagenda betonade därför agenter som agerade i spel och simulerade världar. Forskarna byggde till och med system som specifikt var avsedda att koppla språk med perception och handling i tredimensionella miljöer.

Vad Hassabis underskattade var hur mycket information om den fysiska och sociala världen som redan hade kodats i mänskligt språk. Stora modeller kunde också ärva en form av grundning genom feedback från människor som hade direkt upplevt världen.

Hassabis har sedan dess erkänt att detta var något han underskattade, och beskrev språkmodeller som “orimligt effektiva”.

Detta var en av de mest värdefulla delarna av boken eftersom det gör Googles beteende mer förståeligt.

Från utsidan verkade det oförklarligt att organisationen som var ansvarig för transformatorn skulle låta OpenAI definiera LLM-eran. Från Hassabis intellektuella ramverk är det mer förståeligt. Han letade efter en djupare form av intelligens och betraktade initialt språkprediktion som en ofullständig väg mot den.

Den bedömningen kan så småningom visa sig vara korrekt på AGI-nivå. Språkmodeller ensamma kan inte vara tillräckliga. Men som produkt- och plattformsbeslut gav det konkurrenter en extraordinär öppning.

I min egen observation av marknaden har Gemini blivit ett formidabelt system och kan prestera bättre än konkurrerande modeller i enskilda utvärderingar. Men det känns fortfarande som om Google försöker omdefiniera en kategori vars förväntningar etablerades av OpenAI och Anthropic.

Boken hjälper till att förklara hur en av organisationerna med den största koncentrationen av AI-talang och infrastruktur hamnade i den positionen.

Varför försäljningen av DeepMind till Google var förenlig med uppdraget

Den andra episoden som förändrade min förståelse av Hassabis var DeepMinds försäljning till Google.

Entreprenörsmytologin tenderar att hylla oberoende. Den ideala entreprenören förväntas behålla kontroll, motstå förvärv, bygga ett imperium och få personligt erkännande för att ha skapat ett dominerande företag.

Hassabis verkar ha utvärderat beslutet annorlunda.

Under tävlingen om att förvärva DeepMind 2013 gjorde Larry Page ett argument som gick direkt till Hassabis prioriteringar. Om hans verkliga mål var att skapa AGI, varför spendera år på att bygga om infrastruktur, samla in kapital och konstruera ett företag jämförbart med Google när Googles resurser redan fanns?

Samtalen utvecklades mitt i en nästan surrealistisk serie möten som involverade Page, Mark Zuckerberg, Elon Musk och andra tekniska figurer, inklusive en sammankomst i en hyrd slott i New York för Musks födelsedag.

Google kunde erbjuda datormiljö, kapital, forskningstalent och tålamod i en skala som en oberoende DeepMind skulle ha kämpat för att reproducera. Det var också berett att acceptera etiska villkor som DeepMind ansåg viktiga. Hassabis valde slutligen Google trots att han rapporterades ha fått ett större erbjudande från Facebook.

Sett genom ett konventionellt entreprenöriellt perspektiv kunde försäljningen av DeepMind så tidigt verka som en kapitulation.

Sett genom Hassabis perspektiv kan oberoende ha varit den större distraktionen.

Hans mål var inte att bli känd som grundare av nästa Google. Det var att använda den snabbaste trovärdiga vägen för att bygga AGI och tillämpa avancerad intelligens på vetenskap. Google förkortade den vägen.

Förvärvet producerade sedan verkliga spänningar kring oberoende, styrning, kommersialisering och de etiska gränserna för AI. Boken föreslår inte att placeringen av DeepMind inom en av världens största korporation löste dessa frågor. På vissa sätt gjorde det dem svårare.

Ändå avslöjar beslutet något viktigt om Hassabis. Han verkar mindre fäst vid den konventionella statusen för entreprenörskap än till det vetenskapliga uppdrag som entreprenörskap möjliggjorde.

En av de goda killarna – men inte ofelbar

Hassabis verkar slutligen vara en av de goda killarna i AI-löpningen.

Det betyder inte att varje beslut har varit korrekt. Hans tveksamhet kring språkmodeller var betydelsefull. DeepMinds relation med Google har involverat kompromisser. Koncentrationen av kraftfulla AI-system inom ett fåtal korporationer skapar frågor som goda avsikter ensamma inte kan besvara.

Men hans motivationer verkar ovanligt konsekventa.

Han vill förstå intelligens. Han tror att avancerad AI kan accelerera vetenskaplig upptäckt. Han har upprepade gånger betonat vikten av säkerhet och behovet av att överväga de långsiktiga konsekvenserna av alltmer kapabla system. Framför allt ger AlphaFold honom trovärdighet som få andra ledare i AGI-löpningen besitter.

Det finns en skillnad mellan att lova att AI kommer att gynna mänskligheten och att släppa ett verktyg som används av miljontals forskare för att bättre förstå livets maskineri.

AlphaFold ger Hassabis trovärdighet som få andra ledare i AGI-löpningen besitter.

Slutliga tankar

The Infinity Machine lyckas som en biografi, en historia om DeepMind och en tillgänglig redogörelse för några av de viktigaste genombrotten i modern artificiell intelligens. Den gör också händelser som vi bevittnade i realtid – från AlphaGo och AlphaFold till Googles försenade svar på ChatGPT – känna sig betydligt mer sammanhängande.

Den kraftfullaste lärdomen är inte bara att Hassabis är exceptionellt intelligent, även om han tydligtvis är det. Det är att han har varit ovanligt medveten om vilka problem som förtjänar den intelligensen.

En konversation med biologstudenter introducerade honom till proteinveckning decennier innan AI var kapabel att hantera det. Han höll problemet i åtanke, byggde organisationen och systemen som behövdes för att konfrontera det och återvände till det när tekniken hade utvecklats tillräckligt.

De flesta entreprenörer börjar med tillgänglig teknik och letar efter en marknad. Hassabis började med frågor han trodde kunde förändra mänskligheten och arbetade mot att skapa teknik som var tillräckligt kraftfull för att besvara dem.

Det är vad som gör The Infinity Machine till en så minnesvärd bok och Demis Hassabis till en så ovanlig figur i artificiell intelligens historia.