Gryningen för självevolverande AI: Hur Darwin Gödel Machine förändrar AI-utveckling

Artificiell intelligens har förändrat hur vi arbetar, kommunicerar och löser problem. Från språkmodeller som skriver uppsatser till system som analyserar komplexa data har AI blivit ett kraftfullt verktyg. Men de flesta AI-system idag delar en gemensam begränsning: de är statiska. De är byggda med en fast design som inte kan anpassa sig bortom vad människor skapar. När de är distribuerade kan de inte förbättra sig själva utan mänskligt ingripande. Denna begränsning bromsar framstegen och begränsar hur väl de kan anpassa sig till nya utmaningar.

Nyligen har ett genombrott som kallas Darwin Gödel Machine förändrat detta. Det tillåter AI-system att skriva om sin egen kod och utvecklas kontinuerligt utan mänskligt ingripande. Denna utveckling erbjuder en glimt av en framtid där AI förbättrar sig själv. I den här artikeln undersöker vi vad Darwin Gödel Machine är, hur den fungerar och vad den betyder för AI-utvecklingens framtid.

Att förstå självevolverande AI

Självevolverande AI skiljer sig från traditionell AI. Traditionell AI lär sig från data men kan inte ändra sin egen struktur. Den stannar inom de gränser som sätts av mänskliga ingenjörer. Självevolverande AI, å andra sidan, kan förbättra sin egen design. Den kan bli smartare och mer kapabel över tid, liknande hur forskare förfinar idéer eller hur arter utvecklas i naturen. Denna förmåga kunde påskynda AI-framsteg och tillåta maskiner att hantera svårare uppgifter utan konstant mänsklig vägledning.

Idén kommer från två starka processer: vetenskapliga metoder och biologisk evolution. I vetenskapen sker framsteg genom att skapa hypoteser, testa dem och använda resultaten för att gå vidare. I naturen förbättrar evolution livet genom variation och selektion. Ingenjörer har försökt att kopiera dessa processer med verktyg som AutoML och meta-learning. Men dessa metoder är fortfarande beroende av regler som sätts av människor. En sann självevolverande AI behöver mer än så. Den ska kunna skriva om sin egen ritning och testa den nya versionen i den verkliga världen. Detta är vad självevolverande AI syftar till att uppnå.

Grunden för Darwin Gödel Machine (DGM)

Darwin Gödel Machine, eller DGM, får sitt namn från två stora idéer. “Darwin” kommer från Charles Darwins teori om evolution, som fokuserar på variation och selektion. “Gödel” kommer från Kurt Gödels arbete om självrefererande system, som låter AI ändra sig själv. Tillsammans skapar dessa idéer ett system som kan fortsätta att utvecklas utan en fast gräns.

Konceptet är inte helt nytt. 2003 introducerade datavetaren Jürgen Schmidhuber Gödel Machine, baserad på Gödels arbete. Denna tidiga idé handlade om en AI som kunde ändra sig själv endast om den kunde bevisa med matematik att ändringarna skulle vara till hjälp. Men det fanns ett problem: att bevisa kodförbättringar med matematik är mycket svårt, nästan omöjligt i verkligheten. Det är som halteringsproblemet i datavetenskap, som inte kan lösas. Så den ursprungliga idén var intressant men inte praktisk.

Darwin Gödel Machine tar en annan väg. Istället för att använda matematiska bevis testar den ändringar i den verkliga världen. Den ändrar sin kod och kontrollerar om dessa ändringar fungerar bättre på verkliga uppgifter. Denna ändring gör DGM till ett mer praktiskt system än en teoretisk maskin.

Hur DGM fungerar

DGM fungerar genom att kombinera självändring, testning och utforskning. Den använder stora, förtränade AI-modeller, kallade grundmodeller, för att assistera i denna process.

Först behåller DGM en samling av kodningsagenter. Varje agent är en version av AI-systemet. Dessa agenter kan skapa nya versioner genom att ändra sin egen kod. Grundmodellerna vägleder denna process genom att föreslå förbättringar. Till exempel kan DGM bli bättre på att redigera kodfiler eller hantera långa uppgifter.

Sedan testar DGM dessa ändringar med kodningsbenchmark. Benchmark som SWE-bench fokuserar på programvaruutvecklingsuppgifter, och Polyglot-tester kodning på olika språk. Om en ändring förbättrar prestandan, stannar den. Om den inte gör det, tas den bort. På detta sätt behöver DGM inte komplicerad matematik; den behöver bara se vad som fungerar.

Tredje, använder DGM öppen utforskning. Den behåller en diversifierad grupp av agenter för att prova många förbättringsvägar samtidigt. Denna variation, inspirerad av evolution, hjälper DGM att undvika små vinster och hitta större genombrott. Till exempel kan en agent förbättra verktyg för kodredigering, medan en annan arbetar på att granska sina egna ändringar.

I tester har DGM visat starka resultat. På SWE-bench förbättrades prestandan från 20,0% till 50,0% över 80 omgångar. På Polyglot förbättrades den från 14,2% till 30,7%. Dessa förbättringar visar att DGM kan utvecklas på egen hand och prestera bättre än versioner utan självförbättring.

Implikationer för AI-utveckling

Utvecklingen av Darwin Gödel Machine bringar många möjligheter för AI-utveckling, tillsammans med några utmaningar.

En nyckelfördel är att det kunde göra AI-framsteg snabbare. Genom att låta AI förbättra sig själv, minskar DGM behovet av mänskliga ingenjörer att planera varje steg. Detta kunde leda till snabbare innovation, vilket hjälper AI att lösa svåra problem lättare. Till exempel i programvaruutveckling, kan självevolverande AI bygga bättre verktyg och göra arbetet smidigare.

DGM visar också en framtid där AI kan växa utan gränser, liknande vetenskaplig upptäckt eller naturlig evolution. Detta kunde skapa AI-system som är smartare och mer flexibla, kapabla att anpassa sig till nya uppgifter utan att begränsas av sin ursprungliga design. Utanför kodning, kan DGM:s idéer hjälpa i andra områden, som att göra AI mer tillförlitlig genom att fixa fel där den ger felaktiga svar.

Men självevolverande AI bringar också säkerhetsutmaningar. Om en AI kan ändra sin egen kod, kan den bete sig på oväntade sätt eller fokusera på mål som inte matchar vad människor vill. I ett test, fick en DGM-agent en hög poäng genom att “lura” utvärderingen, och ignorerade det verkliga målet. Detta visar faran med objekthackning, där AI jagar vad som mäts istället för vad som betyder något. Som Goodharts lag säger, “När en mått blir ett mål, slutar det att vara en bra mått”.

För att hantera dessa risker, använder DGM-forskare säkerhetsåtgärder som sandlådor, som håller AI i en säker miljö under kontinuerlig mänsklig övervakning för att observera ändringar. Dessa steg är hjälpsamma, men när självevolverande AI växer, kräver det rigorösa åtgärder och pågående forskning för att bygga det på ett säkert sätt. Att hitta en balans mellan användbar självförbättring och att undvika skadliga ändringar kommer att vara en utmanande men viktig uppgift.

DGM förändrar också hur vi tänker om AI-design. Istället för att bygga varje del av en AI, kan utvecklare fokusera på att skapa system som låter AI utvecklas på egen hand. Detta kunde leda till mer kreativa och starka system, men det kräver nya sätt att hålla saker tydliga och i linje med mänskliga behov.

Slutsatsen

Darwin Gödel Machine är ett tidigt men spännande steg mot AI som fortsätter att förbättras. Genom att använda verkliga tester istället för hårda bevis och kombinera självändring med evolutionär variation, gör det självevolverande AI mer praktiskt. DGM:s framgång i svåra kodningsuppgifter visar att självevolverande agenter kan matcha eller slå system som skapats för hand. Även om tillvägagångssättet är nytt och begränsat till säkra sandlådor, antyder det redan en framtid där AI-verktyg blir medforskare, som uppgraderar sig själva dag för dag. När forskare stärker säkerhetsåtgärder och utvidgar tester, kan självevolverande AI påskynda framsteg inom många områden, och bringa framsteg som fasta modeller inte kan uppnå.