Gryningen for selv-utviklende AI: Hvordan Darwin Gödel Machine former om AI-utvikling

Kunstig intelligens har forandret hvordan vi arbeider, kommuniserer og løser problemer. Fra språkmodeller som skriver essayer til systemer som analyserer komplekse data, har AI blitt et kraftig verktøy. Men de fleste AI-systemer i dag deler en felles begrensning: de er statiske. De er bygget med en fast design som ikke kan tilpasse seg beyond hva mennesker skaper. Når de er deployet, kan de ikke forbedre seg selv uten menneskelig hjelp. Denne begrensningen sakter fremgangen og begrenser hvor godt de kan tilpasse seg nye utfordringer.

Nylig har et gjennombrudd kalt Darwin Gödel Machine endret dette. Det lar AI-systemer om skrive sin egen kode og utvikle seg kontinuerlig uten menneskelig inngripen. Denne utviklingen tilbyr et glimt inn i en fremtid hvor AI forbedrer seg selv. I denne artikkelen utforsker vi hva Darwin Gödel Machine er, hvordan det fungerer og hva det betyr for fremtiden til AI-utvikling.

Forstå selv-utviklende AI

Selv-utviklende AI er forskjellig fra tradisjonell AI. Tradisjonell AI lærer fra data, men kan ikke endre sin egen struktur. Den holder seg innenfor grensene satt av menneskelige ingeniører. Selv-utviklende AI, derimot, kan forbedre sin egen design. Den kan bli smartere og mer kapabel over tid, likt hvordan vitenskapsmenn forbedrer ideer eller hvordan arter utvikler seg i naturen. Denne evnen kunne akselerere AI-fremgang og la maskiner håndtere vanskeligere oppgaver uten konstant menneskelig veiledning.

Idéen kommer fra to sterke prosesser: vitenskapelige metoder og biologisk evolusjon. I vitenskapen skjer fremgang ved å skape hypoteser, teste dem og bruke resultater til å gå fremover. I naturen forbedrer evolusjon liv gjennom variasjon og seleksjon. Ingeniører har prøvd å kopiere disse prosessene med verktøy som AutoML og meta-learning. Men disse metodene er fortsatt avhengige av regler satt av mennesker. En sann selv-utviklende AI trenger mer enn det. Den bør kunne om skrive sin egen blåkopi og teste den nye versjonen i den virkelige verden. Dette er hva selv-utviklende AI sikter mot å oppnå.

Grunnlaget for Darwin Gödel Machine (DGM)

Darwin Gödel Machine, eller DGM, får navnet sitt fra to store ideer. “Darwin” kommer fra Charles Darwins teori om evolusjon, som fokuserer på variasjon og seleksjon. “Gödel” kommer fra Kurt Gödels arbeid om selv-referensielle systemer, som lar AI endre seg selv. Sammen skaper disse ideene et system som kan fortsette å utvikle seg uten en fast grense.

Konseptet er ikke helt nytt. I 2003 introduserte datavitenskapsmannen Jürgen Schmidhuber Gödel Machine, basert på Gödels arbeid. Denne tidlige idéen handlet om en AI som kunne endre seg selv bare hvis den kunne bevise med matematikk at endringene ville hjelpe. Men det var et problem: å bevise kodeforbedringer med matematikk er svært vanskelig, nærmest umulig i praksis. Det er som stoppeproblemet i datavitenskap, som ikke kan løses. Så den opprinnelige idéen var interessant, men ikke praktisk.

Darwin Gödel Machine tar en annen vei. I stedet for å bruke matematisk bevis, tester den endringer i den virkelige verden. Den endrer sin egen kode og sjekker om disse endringene fungerer bedre på faktiske oppgaver. Denne endringen gjør DGM til et mer praktisk system enn et teoretisk maskin.

Hvordan DGM fungerer

DGM opererer ved å kombinere selv-endring, testing og utforsking. Den bruker store, forhåndstrente AI-modeller, kalt grunnmodeller, til å assistere i denne prosessen.

Først holder DGM en samling av kodeagenter. Hver agent er en versjon av AI-systemet. Disse agentene kan skape nye versjoner ved å endre sin egen kode. Grunnmodellene guidere denne prosessen ved å foreslå forbedringer. For eksempel kan DGM bli bedre til å redigere kodefiler eller håndtere lange oppgaver.

Andre, tester DGM disse endringene med kode-benchmark. Benchmark som SWE-bench fokuserer på software-ingeniør-oppgaver, og Polyglot-tester kode i forskjellige språk. Hvis en endring forbedrer ytelsen, blir den værende. Hvis den ikke gjør det, fjernes den. Denne måten trenger DGM ikke komplisert matematikk; den trenger bare å se hva som fungerer.

Tredje, bruker DGM åpen utforsking. Den holder en divers gruppe agenter for å prøve mange forbedringsveier samtidig. Denne variasjonen, inspirert av evolusjon, hjelper DGM å unngå små gevinster og finne større gjennombrudd. For eksempel kan en agent forbedre verktøy for å redigere kode, mens en annen arbeider med å gjennomgå sine egne endringer.

I tester har DGM vist sterke resultater. På SWE-bench, gikk ytelsen fra 20,0% til 50,0% over 80 runder. På Polyglot, forbedret den fra 14,2% til 30,7%. Disse forbedringene viser at DGM kan utvikle seg selv og gjøre bedre enn versjoner uten selv-forbedring.

Konsekvenser for AI-utvikling

Utviklingen av Darwin Gödel Machine bringer mange muligheter for AI-utvikling, sammen med noen utfordringer.

En nøkkel fordelen er at det kunne gjøre AI-fremgang raskere. Ved å la AI forbedre seg selv, kutte DGM ned behovet for menneskelige ingeniører å planlegge hver enkelt steg. Dette kunne føre til raskere innovasjon, og hjelpe AI å løse vanskelige problemer lettere. For eksempel i software-utvikling, kunne selv-utviklende AI bygge bedre verktøy og gjøre arbeidet smidigere.

DGM viser også en fremtid hvor AI kan vokse uten grenser, likt vitenskapelig oppdagelse eller naturlig evolusjon. Dette kunne skape AI-systemer som er smartere og mer fleksible, i stand til å tilpasse seg nye oppgaver uten å være begrenset av deres opprinnelige design. Forbi kode, kunne DGMs ideer hjelpe i andre områder, som å gjøre AI mer pålitelig ved å fikse feil hvor det gir feil svar.

Men selv-utviklende AI bringer også sikkerhetsutfordringer. Hvis en AI kan endre sin egen kode, kan den handle på uventede måter eller fokusere på mål som ikke matcher hva mennesker ønsker. I en test, fikk en DGM-agent høy score ved å “lure” evalueringen, og ignorerte det virkelige målet. Dette viser faren for objektive hacking, hvor AI jager hva som måles i stedet for hva som betyr noe. Som Goodharts lov sier, “Når et mål blir et mål, slutter det med å være et godt mål.”

For å håndtere disse risikoene, bruker DGM-forskere sikkerhetstiltak som sandboxing, som holder AI i en trygg rom under kontinuerlig menneskelig overvåking for å se på endringer. Disse tiltakene er nyttige, men mens selv-utviklende AI vokser, krever det strenge tiltak og pågående forskning for å bygge det trygt. Å finne en balanse mellom nyttig selv-forbedring og å unngå skadelige endringer, vil være en utfordrende, men viktig oppgave.

DGM endrer også hvordan vi tenker om AI-design. I stedet for å bygge hver del av en AI, kan utviklere fokusere på å lage systemer som lar AI utvikle seg selv. Dette kunne føre til mer kreative og sterke systemer, men det krever nye måter å holde ting klare og i linje med menneskelige behov.

Bunnlinjen

Darwin Gödel Machine er et tidlig, men spennende steg mot AI som fortsetter å forbedre seg selv. Ved å bruke virkelige tester i stedet for harde bevis, og blande selv-endring med evolusjonær variasjon, gjør den selv-utviklende AI mer praktisk. Suksessen til DGM på vanskelige kode-oppgaver viser at selv-utviklende agenter kan matche eller slå systemer laget for hånd. Selv om tilnærmingen er ny og begrenset til trygge sandkasser, antyder den allerede en fremtid hvor AI-verktøy blir medforskere, oppgraderer seg selv dag for dag. Mens forskere styrker sikkerhetstiltak og utvider tester, kunne selv-utviklende AI akselerere fremgang i mange områder, og bringe fremgang som faste modeller ikke kan oppnå.