AGI och framtidens AI

AlphaEvolve: Google DeepMinds banbrytande steg mot AGI

mm
LÃĪgg till Unite.AI bland dina fÃķredragna kÃĪllor pÃĨ Google

Google DeepMind har presenterat AlphaEvolve, en evolutionÃĪr kodagent som ÃĪr utformad fÃķr att autonomt upptÃĪcka nya algoritmer och vetenskapliga lÃķsningar. I artikeln med titeln “AlphaEvolve: En kodagent fÃķr vetenskaplig och algoritmisk upptÃĪckt,” presenteras denna forskning som ett grundlÃĪggande steg mot Artificiell allmÃĪn intelligens (AGI) och ÃĪven Artificiell superintelligens (ASI). Till skillnad frÃĨn att fÃķrlita sig pÃĨ statisk finjustering eller mÃĪnskligt mÃĪrkta dataset, tar AlphaEvolve en helt annan vÃĪg – en som fokuserar pÃĨ autonom kreativitet, algoritmisk innovation och kontinuerlig sjÃĪlvfÃķrbÃĪttring.

I hjÃĪrtat av AlphaEvolve finns en sjÃĪlvinneslutande evolutionÃĪr pipeline som drivs av stora sprÃĨkmodeller (LLM). Denna pipeline genererar inte bara utdata – den muterar, utvÃĪrderar, vÃĪljer och fÃķrbÃĪttrar kod Ãķver generationer. AlphaEvolve bÃķrjar med en initial program och fÃķrfinar det iterativt genom att infÃķra noggrant strukturerade fÃķrÃĪndringar.

Dessa fÃķrÃĪndringar tar formen av LLM-genererade diffar – kodmodifieringar som fÃķreslÃĨs av en sprÃĨkmodell baserad pÃĨ tidigare exempel och explicita instruktioner. En “diff” i programvaruteknik hÃĪnvisar till skillnaden mellan tvÃĨ versioner av en fil, vanligtvis med markerade rader som ska tas bort eller lÃĪggas till och nya rader som ska lÃĪggas till. I AlphaEvolve genererar LLM dessa diffar genom att analysera den aktuella programvaran och fÃķreslÃĨ smÃĨ redigeringar – lÃĪgga till en funktion, optimera en loop eller ÃĪndra en hyperparameter – baserat pÃĨ en prompt som innehÃĨller prestandamÃĨtt och tidigare lyckade redigeringar.

Varje modifierad programvara testas sedan med hjÃĪlp av automatiserade utvÃĪrderare som ÃĪr anpassade fÃķr uppgiften. De mest effektiva kandidaterna sparas, refereras och kombineras som inspiration fÃķr framtida iterationer. Över tiden leder denna evolutionÃĪra loop till uppkomsten av alltmer sofistikerade algoritmer – ofta ÃķvertrÃĪffande de som designats av mÃĪnskliga experter.

Att fÃķrstÃĨ vetenskapen bakom AlphaEvolve

I sin kÃĪrna ÃĪr AlphaEvolve byggt pÃĨ principer om evolutionÃĪr berÃĪkning – en underdisciplin till artificiell intelligens som inspireras av biologisk evolution. Systemet bÃķrjar med en grundlÃĪggande implementering av kod, som det behandlar som en initial “organism”. Genom generationer modifierar AlphaEvolve koden – infÃķrande variationer eller “mutationer” – och utvÃĪrderar anpassningen av varje variation med hjÃĪlp av en vÃĪldefinierad poÃĪngfunktion. De bÃĪst presterande varianterna Ãķverlever och fungerar som mallar fÃķr nÃĪsta generation.

Denna evolutionÃĪra loop koordineras genom:

  • Prompt Sampling: AlphaEvolve konstruerar prompter genom att vÃĪlja och infoga tidigare lyckade kodexempel, prestandamÃĨtt och uppgiftsspecifika instruktioner.
  • Kodmutation och fÃķrslag: Systemet anvÃĪnder en mix av kraftfulla LLM – Gemini 2.0 Flash och Pro – fÃķr att generera specifika modifieringar av den aktuella kodbasen i form av diffar.
  • UtvÃĪrderingsmekanism: En automatiserad utvÃĪrderingsfunktion bedÃķmer varje kandidats prestanda genom att kÃķra den och returnera skalÃĪra poÃĪng.
  • Databas och kontroll: En distribuerad kontrollorkestrerar denna loop, lagrar resultat i en evolutionÃĪr databas och balanserar utforskning med exploatering genom mekanismer som MAP-Elites.

Denna feedbackrika, automatiserade evolutionÃĪra process skiljer sig radikalt frÃĨn standardfinjusteringstekniker. Den ger AlphaEvolve mÃķjlighet att generera nya, hÃķgpresterande och ibland motsÃĪgelsefulla lÃķsningar – pressar grÃĪnsen fÃķr vad maskinlÃĪrning kan uppnÃĨ autonomt.

JÃĪmfÃķrelse med RLHF

FÃķr att uppskatta AlphaEvolves innovation ÃĪr det viktigt att jÃĪmfÃķra det med Reinforcement Learning from Human Feedback (RLHF), en dominerande metod som anvÃĪnds fÃķr att finjustera stora sprÃĨkmodeller.

I RLHF anvÃĪnds mÃĪnskliga preferenser fÃķr att trÃĪna en belÃķningsmodell, som vÃĪgleder inlÃĪrningsprocessen fÃķr en LLM via fÃķrstÃĪrkt inlÃĪrning algoritmer som Proximal Policy Optimization (PPO). RLHF fÃķrbÃĪttrar anpassning och anvÃĪndbarhet hos modeller, men det krÃĪver omfattande mÃĪnskligt engagemang fÃķr att generera feedbackdata och opererar vanligtvis i en statisk, engÃĨngsfinjusteringsregim.

AlphaEvolve, i kontrast:

  • Tar bort mÃĪnsklig feedback frÃĨn loopen till fÃķrmÃĨn fÃķr maskinexekverbara utvÃĪrderare.
  • StÃķder kontinuerligt lÃĪrande genom evolutionÃĪr selektion.
  • Utforskar mycket bredare lÃķsningrymder pÃĨ grund av stokastiska mutationer och asynkron exekvering.
  • Kan generera lÃķsningar som inte bara ÃĪr anpassade, utan nya och vetenskapligt betydelsefulla.

DÃĪr RLHF finjusterar beteende, upptÃĪcker och uppfinner AlphaEvolve. Denna distinktion ÃĪr kritisk nÃĪr man ÃķvervÃĪger framtida riktningar mot AGI: AlphaEvolve gÃķr inte bara bÃĪttre fÃķrutsÃĪgelser – det hittar nya vÃĪgar till sanning.

TillÃĪmpningar och genombrott

1. Algoritmisk upptÃĪckt och matematiska framsteg

AlphaEvolve har visat sin fÃķrmÃĨga till banbrytande upptÃĪckter i kÃĪrnalgoritmiska problem. FramfÃķr allt upptÃĪckte det en ny algoritm fÃķr att multiplicera tvÃĨ 4×4 komplexvÃĪrdesmatriser med endast 48 skalÃĪra multiplikationer – ÃķvertrÃĪffande Strassens 1969 resultat pÃĨ 49 multiplikationer och brÃķt en 56-ÃĨrig teoretisk takhÃķjd. AlphaEvolve uppnÃĨdde detta genom avancerad tensordekompositionsteknik som den utvecklade Ãķver mÃĨnga iterationer, ÃķvertrÃĪffande flera state-of-the-art-approacher.

FÃķrutom matrismultiplikation gjorde AlphaEvolve betydande bidrag till matematisk forskning. Det utvÃĪrderades pÃĨ Ãķver 50 Ãķppna problem inom omrÃĨden som kombinatorik, talteori och geometri. Det matchade de bÃĪsta kÃĪnda resultaten i cirka 75% av fallen och ÃķvertrÃĪffade dem i cirka 20%. Dessa framgÃĨngar inkluderade fÃķrbÃĪttringar av Erdős minimum overlap-problem, en tÃĪtare lÃķsning av kissing number-problemet i 11 dimensioner och mer effektiva geometriska packningskonfigurationer. Dessa resultat understryker dess fÃķrmÃĨga att fungera som en autonom matematisk utforskare – fÃķrfinar, itererar och utvecklar alltmer optimala lÃķsningar utan mÃĪnskligt ingripande.

2. Optimering Ãķver Googles berÃĪkningsstack

AlphaEvolve har ocksÃĨ levererat mÃĪtbara prestandafÃķrbÃĪttringar Ãķver Googles infrastruktur:

  • I datacenter schemalÃĪggning upptÃĪckte det en ny heuristik som fÃķrbÃĪttrade jobbplacering, ÃĨterhÃĪmtade 0,7% av tidigare strandade berÃĪkningsresurser.
  • FÃķr Geminis trÃĪningskÃĪrnor utvecklade AlphaEvolve en bÃĪttre tilingstrategi fÃķr matrismultiplikation, vilket resulterade i en 23% kernelhastighet och en 1% total minskning av trÃĪnningstid.
  • I TPU-kretsdesign identifierade det en fÃķrenkling av aritmetisk logik pÃĨ RTL (Register-Transfer Level), som verifierades av ingenjÃķrer och inkluderades i nÃĪsta generations TPU-chip.
  • Det optimerade ocksÃĨ compiler-genererad FlashAttention-kod genom att redigera XLA-mellanliggande representationer, vilket minskade inferenstiden pÃĨ GPU med 32%.

Tillsammans validerar dessa resultat AlphaEvolves fÃķrmÃĨga att operera pÃĨ flera abstraktionsnivÃĨer – frÃĨn symbolisk matematik till lÃĨgnivÃĨ-hÃĨrdvaruoptimering – och leverera verkliga prestandafÃķrbÃĪttringar.

  • EvolutionÃĪr programmering: En AI-paradigm som anvÃĪnder mutation, selektion och arv fÃķr att iterativt fÃķrfinar lÃķsningar.
  • Kod-superoptimering: Den automatiserade sÃķkningen efter den mest effektiva implementeringen av en funktion – ofta resulterande i fÃķrvÃĨnansvÃĪrt, motsÃĪgelsefulla fÃķrbÃĪttringar.
  • Meta-prompt-evolution: AlphaEvolve utvecklar inte bara kod – det utvecklar ocksÃĨ hur det kommunicerar instruktioner till LLM – mÃķjliggÃķrande sjÃĪlvfÃķrbÃĪttring av kodningsprocessen.
  • Discretisering av fÃķrlust: En regleringsterm som uppmuntrar utdata att anpassa sig till halv-heltals- eller heltalsvÃĪrden, avgÃķrande fÃķr matematisk och symbolisk tydlighet.
  • HallucinationsfÃķrlust: En mekanism som injicerar slumpmÃĪssighet i mellanliggande lÃķsningar, uppmuntrar utforskning och undviker lokala minima.
  • MAP-Elites-algoritm: En typ av kvalitets-diversitetsalgoritm som upprÃĪtthÃĨller en diversifierad population av hÃķgpresterande lÃķsningar Ãķver funktionella dimensioner – mÃķjliggÃķr robust innovation.

Konsekvenser fÃķr AGI och ASI

AlphaEvolve ÃĪr mer ÃĪn en optimerare – det ÃĪr en glimt av en framtid dÃĪr intelligenta agenter kan demonstrera kreativ autonomi. Systemets fÃķrmÃĨga att formulera abstrakta problem och utveckla sina egna tillvÃĪgagÃĨngssÃĪtt fÃķr att lÃķsa dem representerar ett betydande steg mot Artificiell allmÃĪn intelligens. Detta gÃĨr utÃķver dataprediktion – det handlar om strukturerat resonemang, strategibildning och anpassning till feedback – kÃĪnnetecken fÃķr intelligent beteende.

Dess fÃķrmÃĨga att iterativt generera och fÃķrfinar hypoteser signalerar ocksÃĨ en utveckling i hur maskiner lÃĪr sig. Till skillnad frÃĨn modeller som krÃĪver omfattande Ãķvervakat trÃĪning, fÃķrbÃĪttrar AlphaEvolve sig sjÃĪlv genom en loop av experiment och utvÃĪrdering. Denna dynamiska form av intelligens tillÃĨter det att navigera komplexa problemrum, avvisa svaga lÃķsningar och hÃķja starkare lÃķsningar utan direkt mÃĪnsklig Ãķvervakning.

Genom att exekvera och validera sina egna idÃĐer fungerar AlphaEvolve som bÃĨde teoretiker och experimentell forskare. Det flyttar sig bortom att utfÃķra fÃķrdefinierade uppgifter och in i omrÃĨdet fÃķr upptÃĪckt, simulerar en autonom vetenskaplig process. Varje fÃķreslagen fÃķrbÃĪttring testas, benchmarkas och ÃĨterintegreras – tillÃĨter kontinuerlig fÃķrbÃĪttring baserad pÃĨ verkliga resultat snarare ÃĪn statiska mÃĨl.

Kanske mest anmÃĪrkningsvÃĪrt ÃĪr AlphaEvolve en tidig instans av rekursiv sjÃĪlvfÃķrbÃĪttring – dÃĪr ett AI-system inte bara lÃĪr sig utan fÃķrbÃĪttrar komponenter av sig sjÃĪlv. I flera fall fÃķrbÃĪttrade AlphaEvolve trÃĪningsinfrastrukturen som stÃķder dess egna grundmodeller. Även om det fortfarande ÃĪr begrÃĪnsat av nuvarande arkitekturer, sÃĪtter denna fÃķrmÃĨga en prejudikat. Med fler problem ramade i utvÃĪrderbara miljÃķer kunde AlphaEvolve skala mot alltmer sofistikerat och sjÃĪlvoptimerande beteende – en grundlÃĪggande egenskap hos Artificiell superintelligens (ASI).

BegrÃĪnsningar och framtida riktning

AlphaEvolves nuvarande begrÃĪnsning ÃĪr dess beroende av automatiserade utvÃĪrderingsfunktioner. Detta begrÃĪnsar dess anvÃĪndbarhet till problem som kan formaliseras matematiskt eller algoritmiskt. Det kan inte ÃĪnnu operera meningsfullt i omrÃĨden som krÃĪver underfÃķrstÃĨdd mÃĪnsklig fÃķrstÃĨelse, subjektiv bedÃķmning eller fysisk experiment.

Men framtida riktningar inkluderar:

  • Integrering av hybridutvÃĪrdering: kombinerar symboliskt resonemang med mÃĪnskliga preferenser och naturligt sprÃĨk-kritik.
  • Distribution i simuleringsmiljÃķer, mÃķjliggÃķrande inkarnerad vetenskaplig experiment.
  • Destillering av utvecklade utdata till bas-LLM, skapar mer kapabla och exempel-effektiva grundmodeller.

Dessa riktningar pekar mot alltmer agenter som kan utfÃķra autonomt, hÃķgrisk-problem-lÃķsning.

Slutsats

AlphaEvolve ÃĪr ett betydande steg framÃĨt – inte bara i AI-verktyg utan i vÃĨr fÃķrstÃĨelse av maskinintelligens i sig. Genom att kombinera evolutionÃĪr sÃķkning med LLM-resonemang och feedback, omdefinierar det vad maskiner kan upptÃĪcka autonomt. Det ÃĪr en tidig men betydande signal som visar att sjÃĪlvfÃķrbÃĪttrande system som kan visa verklig vetenskaplig tanke inte lÃĪngre ÃĪr teoretiska.

I framtiden, nÃĪr AlphaEvolve skalar Ãķver mer komplexa och abstrakta omrÃĨden – och nÃĪr mÃĪnskligt ingripande i processen minskar – kan det visa accelererande intelligensvinster. Denna sjÃĪlvfÃķrstÃĪrkande cykel av iterativ fÃķrbÃĪttring, tillÃĪmpad inte bara pÃĨ externa problem utan inÃĨt pÃĨ sin egen algoritmiska struktur, ÃĪr en teknisk mekanism fÃķr att starta mot AGI, dÃĪr systemet inte bara slutfÃķr uppgifter utan fÃķrbÃĪttrar den infrastruktur som mÃķjliggÃķr dess lÃĪrande och resonemang.

Över tiden, nÃĪr AlphaEvolve skalar Ãķver mer komplexa och abstrakta omrÃĨden – och nÃĪr mÃĪnskligt ingripande i processen minskar – kan det visa accelererande intelligensvinster. Denna sjÃĪlvfÃķrstÃĪrkande cykel av iterativ fÃķrbÃĪttring, tillÃĪmpad inte bara pÃĨ externa problem utan inÃĨt pÃĨ sin egen algoritmiska struktur, ÃĪr en teknisk mekanism fÃķr att starta mot AGI, dÃĪr systemet inte bara slutfÃķr uppgifter utan fÃķrbÃĪttrar den infrastruktur som mÃķjliggÃķr dess lÃĪrande och resonemang. Med sin kombination av kreativitet, autonomi och rekursion kan AlphaEvolve komma att minnas inte bara som en produkt av DeepMind, utan som en ritning fÃķr de fÃķrsta riktigt allmÃĪnna och sjÃĪlvutvecklande artificiella medvetanden.

Antoine ÃĪr en visionÃĪr ledare och medgrundare av Unite.AI, driven av en outtrÃķttlig passion fÃķr att forma och frÃĪmja framtidens AI och robotik. En serieentreprenÃķr, han tror att AI kommer att vara lika stÃķrande fÃķr samhÃĪllet som elektricitet, och han fÃĨngas ofta i att prata om potentialen fÃķr stÃķrande teknologier och AGI.

Som en futurist ÃĪr han dedikerad till att utforska hur dessa innovationer kommer att forma vÃĨr vÃĪrld. Dessutom ÃĪr han grundare av Securities.io, en plattform som fokuserar pÃĨ att investera i banbrytande teknologier som omdefinierar framtiden och omformar hela sektorer.