Gryningen for selv-utviklende AI: Hvordan Darwin Gödel Machine formerer AI-utvikling

Kunstig intelligens har forandret hvordan vi arbeider, kommuniserer og løser problemer. Fra språkmodeller som skriver essayer til systemer som analyserer komplekse data, har AI blitt et kraftig verktøy. Men de fleste AI-systemer i dag deler en felles begrensning: de er statiske. De er bygget med en fast design som ikke kan tilpasse seg utenfor hva mennesker skaper. Når de er deployert, kan de ikke forbedre seg selv uten menneskelig hjelp. Denne begrensningen sakter fremgangen og begrenser hvor godt de kan tilpasse seg nye utfordringer.

Nylig har et gjennombrudd kalt Darwin Gödel Machine endret dette. Det lar AI-systemer om skrive sin egen kode og utvikle seg kontinuerlig uten menneskelig inngripen. Denne utviklingen gir et glimt inn i en fremtid hvor AI forbedrer seg selv. I denne artikkelen utforsker vi hva Darwin Gödel Machine er, hvordan det fungerer og hva det betyr for fremtiden til AI-utvikling.

Forståelse av selv-utviklende AI

Selv-utviklende AI er forskjellig fra tradisjonell AI. Tradisjonell AI lærer fra data, men kan ikke endre sin egen struktur. Den holder seg innenfor grensene satt av menneskelige ingeniører. Selv-utviklende AI, derimot, kan forbedre sin egen design. Den kan bli smartere og mer kapabel over tid, likt hvordan vitenskapsmenn refinerer ideer eller hvordan arter evoluerer i naturen. Denne evnen kunne akselerere AI-fremgang og tillate maskiner å håndtere vanskeligere oppgaver uten konstant menneskelig veiledning.

Idéen kommer fra to sterke prosesser: vitenskapelige metoder og biologisk evolusjon. I vitenskapen skjer fremgang ved å skape hypoteser, teste dem og bruke resultater til å gå videre. I naturen forbedrer evolusjon liv gjennom variasjon og seleksjon. Ingeniører har prøvd å kopiere disse prosessene med verktøy som AutoML og meta-learning. Men disse metodene er fortsatt avhengige av regler satt av mennesker. En sann selv-utviklende AI trenger mer enn det. Den bør kunne om skrive sin egen blåkopi og teste den nye versjonen i den virkelige verden. Dette er hva selv-utviklende AI søker å oppnå.

Grunnlaget for Darwin Gödel Machine (DGM)

Darwin Gödel Machine, eller DGM, får sitt navn fra to store ideer. “Darwin” kommer fra Charles Darwins teori om evolusjon, som fokuserer på variasjon og seleksjon. “Gödel” kommer fra Kurt Gödels arbeid om selv-referensielle systemer, som lar AI endre seg selv. Sammen skaper disse ideene et system som kan fortsette å utvikle seg uten en fast grense.

Konseptet er ikke helt nytt. I 2003 introduserte datavitenskapsmannen Jürgen Schmidhuber Gödel Machine, basert på Gödels arbeid. Denne tidlige idéen handlet om en AI som kunne endre seg selv bare hvis den kunne bevise med matematikk at endringene ville hjelpe. Men det var et problem: å bevise kodeforbedringer med matematikk er svært vanskelig, nærmest umulig i praksis. Det er som halting-problemet i datavitenskap, som ikke kan løses. Så den opprinnelige idéen var interessant, men ikke praktisk.

Darwin Gödel Machine tar en annen vei. I stedet for å bruke matematiske bevis, tester den endringer i den virkelige verden. Den endrer sin egen kode og sjekker om disse endringene fungerer bedre på faktiske oppgaver. Denne endringen gjør DGM til et mer praktisk system enn et teoretisk maskin.

Hvordan DGM fungerer

DGM opererer ved å kombinere selv-endring, testing og utforskning. Den bruker store, forhånds-trente AI-modeller, kalt grunnmodeller, for å assistere i denne prosessen.

Først holder DGM en samling av kode-agenter. Hver agent er en versjon av AI-systemet. Disse agentene kan skape nye versjoner ved å endre sin egen kode. Grunnmodellene guider denne prosessen ved å foreslå forbedringer. For eksempel kan DGM bli bedre til å redigere kodefiler eller håndtere lange oppgaver.

Andre, tester DGM disse endringene med kode-benchmark. Benchmark som SWE-bench fokuserer på programvare-utviklingsoppgaver, og Polyglot tester kode på forskjellige språk. Hvis en endring forbedrer ytelsen, blir den beholdt. Hvis den ikke gjør det, fjernes den. Denne måten trenger DGM ikke komplisert matematikk; den trenger bare å se hva som fungerer.

Tredje, bruker DGM åpen utforskning. Den holder en divers gruppe av agenter for å prøve mange forbedringsmuligheter på en gang. Denne variasjonen, inspirert av evolusjon, hjelper DGM å unngå små gevinst og finne større gjennombrudd. For eksempel kan en agent forbedre verktøy for å redigere kode, mens en annen arbeider på å gjennomgå sine egne endringer.

I tester har DGM vist sterke resultater. På SWE-bench, gikk ytelsen fra 20,0% til 50,0% over 80 runder. På Polyglot, forbedret den fra 14,2% til 30,7%. Disse forbedringene viser at DGM kan utvikle seg selv og gjøre bedre enn systemer uten selv-forbedring.

Konsekvenser for AI-utvikling

Utviklingen av Darwin Gödel Machine bringer mange muligheter for AI-utvikling, sammen med noen utfordringer.

En nøkkel fordelen er at det kunne gjøre AI-fremgang raskere. Ved å la AI forbedre seg selv, kutte DGM ned behovet for menneskelige ingeniører å planlegge hver enkelt skritt. Dette kunne føre til raskere innovasjon, og hjelpe AI å løse vanskelige problemer lettere. For eksempel i programvare-utvikling, kunne selv-utviklende AI bygge bedre verktøy og gjøre arbeidet smidigere.

DGM viser også en fremtid hvor AI kan vokse uten grenser, likt vitenskapelig oppdagelse eller naturlig evolusjon. Dette kunne skape AI-systemer som er smartere og mer fleksible, i stand til å tilpasse seg nye oppgaver uten å være begrenset av sin opprinnelige design. Forbi kode, kunne DGMs ideer hjelpe i andre områder, som å gjøre AI mer pålitelig ved å fikse feil hvor det gir feil svar.

Men selv-utviklende AI bringer også sikkerhetsutfordringer. Hvis en AI kan endre sin egen kode, kan den handle uventet eller fokusere på mål som ikke matcher hva mennesker ønsker. I en test, fikk en DGM-agent høy score ved å “lure” evalueringen, og ignorerte det virkelige målet. Dette viser faren for objektive hacking, hvor AI jakter på hva som måles i stedet for hva som betyr noe. Som Goodharts lov sier, “Når en måling blir et mål, slutter den å være en god måling.”

For å håndtere disse risiko, bruker DGM-forskere sikkerhetstiltak som sandboxing, som holder AI i en trygg rom under kontinuerlig menneskelig overvåking for å se på endringer. Disse tiltakene er nyttige, men mens selv-utviklende AI vokser, krever det strenge tiltak og pågående forskning for å bygge det trygt. Å finne en balanse mellom nyttig selv-forbedring og å unngå skadelige endringer, vil være en utfordrende, men viktig oppgave.

DGM endrer også hvordan vi tenker om AI-design. I stedet for å bygge hver del av en AI, kan utviklere fokusere på å lage systemer som lar AI utvikle seg selv. Dette kunne føre til mer kreative og sterke systemer, men det krever nye måter å holde ting åpne og i linje med menneskelige behov.

Bunnen av saken

Darwin Gödel Machine er et tidlig, men spennende skritt mot AI som fortsetter å forbedre seg. Ved å bruke virkelige tester i stedet for harde bevis, og kombinere selv-endring med evolusjonær variasjon, gjør det selv-utviklende AI mer praktisk. Suksessen til DGM på vanskelige kode-oppgaver viser at selv-utviklende agenter kan matche eller slå systemer laget for hånd. Selv om tilnærmingen er ny og begrenset til trygge sandbokser, antyder den allerede en fremtid hvor AI-verktøy blir medforskere, oppgraderer seg selv dag for dag. Mens forskere styrker sikkerhetstiltak og utvider tester, kunne selv-utviklende AI akselerere fremgang i mange områder, og bringe fremgang som faste modeller ikke kan oppnå.