Den AI som lär sig själv är inte längre science fiction

Nyutvecklade AI-ramverk rör sig mot ett radikalt språng: maskiner som förbättrar sig själva, utan mänsklig insikt.

Under många år förblev även de mest avancerade AI-modellerna passiva motorer, som förutsåg svar baserat på träningsdata som de inte kunde modifiera. Men idag är det inte modellens storlek som definierar nästa kapitel i artificiell intelligens; det är om modellen kan utvecklas på egen hand.

Nyligen presenterade MIT-forskare ett nytt AI-ramverk som kallas Self-Adapting LLMs (SEAL). Tillvägagångssättet tillåter stora språkmodeller (LLM) att förbättra sig själva autonomt, vilket möjliggör för AI att diagnostisera sina begränsningar och permanent uppdatera sina egna neurala vikter genom en intern återkopplingsloop som drivs av förstärkningsinlärning. Istället för att kräva att forskare upptäcker fel, skriver nya prompter eller matar in ytterligare exempel, tar modellen full äganderätt av sin egen utveckling.

“Stora språkmodeller (LLM) är kraftfulla men statiska; de saknar mekanismer för att anpassa sina vikter i svar på nya uppgifter, kunskap eller exempel”, skrev MIT-forskarna i en bloggpost. “Experiment på kunskapsinkorporering och få-skottsgeneralisering visar att SEAL är ett lovande steg mot språkmodeller som kan anpassa sig själva i svar på nya data.”

I tidiga tester tillät denna självredigerande loop modeller att gå från fullständigt misslyckande till framgång i komplexa abstrakta resonemangspussel, och överträffade till och med mycket större modeller som GPT-4.1 med en 72,5-procentig framgångsgrad, där traditionella metoder misslyckades. Dessutom minskar SEAL påstås minska mänsklig tillsyn med 85 procent samtidigt som noggrannhet och anpassningsförmåga ökar.

Uppkomsten av självlärande AI-ramverk

SEAL är en del av en bredare trend mot autonom maskinintelligens. Forskare på Sakana AI har till exempel introducerat Darwin-Gödel-maskinen—en AI-agent som skriver om sin egen kod med hjälp av öppna evolutionära strategier.

“Det skapar olika själförbättringar, såsom en patchvalideringssteg, bättre filvisning, förbättrade redigeringsverktyg, generering och rangordning av flera lösningar för att välja den bästa, och lägga till en historik över vad som har försökts tidigare (och varför det misslyckades) när man gör nya ändringar”, skrev Sakana AI i en bloggpost.

På samma sätt kan Anthropics AI-agenter, drivna av Claude 4, nu autonomt orkestrera arbetsflöden över kodbas och affärssystem.

“Ett system som omkonfigurerar sig baserat på tillgångens typ, dess miljö och dess historia möjliggör att gå från en reaktiv respons till en kontinuerlig förebyggande strategi”, sa Christian Struve, VD och medgrundare på Fracttal, till mig. “Det handlar inte om fler lager eller fler parametrar, utan om mer autonoma och mer användbara system.”

Vad som förenar dessa insatser är en grundläggande övertygelse: AI behöver inte bli större för att bli smartare. Den måste bli mer anpassningsbar.

“Skalning har gett stora vinster, men vi når gränsen för vad storlek ensam kan uppnå. Själanpassande inlärningsmodeller som SEAL erbjuder ett övertygande nästa steg genom att möjliggöra för system att växa och förbättras över tid”, sa Jorge Riera, grundare och VD på full-stack datakonsultplattformen Dataco, till mig. “Självutvecklande modeller förskjuter också framstegsmått från statiska benchmark till mått på anpassningsförmåga, inlärningseffektivitet och säker långsiktig förbättring. Istället för att bara testa vad en modell känner till vid distribution, kan vi utvärdera hur väl den lär sig, behåller och utvecklas över tid.”

Impact på AI-ekosystemet och den globala kapplöpningen mot autonomi

Denna nivå av autonomi omdefinierar också AI-distributionens ekonomi. Tänk dig bedrägeridetekteringssystem som uppdaterar sig omedelbart för att motverka nya hot, eller AI-lärare som ändrar sin undervisningsstil baserat på en students beteende. Inom robotik kan själanpassande ramverk leda till autonoma maskiner som lär sig nya rörelsemönster utan att behöva omprogrammeras.

I hela Mellanöstern bygger länder som Förenade Arabemiraten och Saudiarabien snabbt grundläggande modeller som är utformade för anpassning. Förenade Arabemiratens Falcon och G42:s Jais är öppen källkods-LLM som byggts med regional relevans i åtanke, medan Saudiarabiens ALLaM och Aramco Digitals Metabrain driver på inom området autonom AI-agenter för smarta städer, hälsovård och logistik.

Dessa insatser är ännu inte ekvivalenta med MIT:s SEAL när det gäller självredigeringsförmåga, men de speglar en gemensam bana: från passiva AI-system till aktiva, utvecklande agenter som kan navigera komplexitet med begränsad mänsklig vägledning. Och precis som SEAL backas dessa initiativ upp av robusta styrningsramar, som belyser den växande medvetenheten om att AI-autonomi måste kombineras med ansvar.

“Detta är ett första steg mot självhanterande system som modifierar sin logik utan konstant ingripande”, säger Struve. “Jag tror att artificiell intelligens inte omdefinierar vad intelligens är, men den tvingar oss att omvärdera vår relation till den. Det viktiga är inte att en modell utvecklas, utan att den gör det i samförstånd med de mål vi definierar som människor.”

Jeff Townes, CTO på Gorilla Logic, betonar också vikten av att styrningen håller jämna steg med AI-utvecklingen: “Frågan är inte om AI kan utvecklas – det är om företaget kan utvecklas med det. Styrningen måste förankra varje AI-anpassning till tydliga resultat och KPI:er som ledare kan mäta och lita på, så att innovationen skalar med tillförsikt istället för risk.”

Är vi redo för AI som skriver om sig själv?

Den mest provocerande frågan SEAL väcker är inte teknisk – det är om modeller kan bestämma hur de ska lära sig själva, vilken roll spelar vi i att forma deras värderingar, prioriteringar och riktning?

Experter varnar för att när själanpassande AI-system får autonomi, måste rusningen mot självförbättring inte överträffa etableringen av etiska skydd. “Jag tror att alla AI-system måste inkorporera minst tre grundläggande etiska principer”, säger Jacob Evans, CTO på Kryterion.

“Först, och detta kan tyckas självklart, men AI-system behöver identifiera sig som AI. För det andra måste AI-system vara människocentrerade, förstärka och inte ersätta mänskligt omdöme. Och slutligen måste de erkänna sina begränsningar och osäkerheter, samtidigt som de vägrar att tillhandahålla information som kunde underlätta allvarlig skada. Utan dessa säkerhetsåtgärder kan AI bli ett verktyg för manipulation snarare än pålitligt stöd.”

“För att möjliggöra för modeller att förbättra sig själva i produktion, behöver de en dynamisk återkopplingsloop, inte bara statisk träning. En kraftfull metod är att använda en ‘digital tvilling’ eller en sofistikerad sandlådemiljö där AI kan testa och validera sina egna självgenererade förbättringar innan de någonsin distribueras till användare”, delade Ganesh Vanama, datorseendeingenjör på Automotus.

När det gäller styrning tillade Vanama: “den oåterkalleliga kontrollen är ‘människa-i-loopen’-övervakning”. Han sa att medan vi vill att modellerna ska anpassa sig, “måste du ha kontinuerlig övervakning för att upptäcka ‘aligneringsdrift’ där modellen avviker från sina avsedda mål eller säkerhetsbegränsningar. Detta system måste ge en mänsklig revisor makten att veto eller omedelbart återställa alla autonoma uppdateringar som misslyckas med en säkerhets- eller prestandagranskning.”

Men andra experter tror att det fortfarande finns tid att utveckla dessa säkerhetsåtgärder, och hävdar att att bygga en robust, allmän, självförbättrande AI fortfarande är en monumental utmaning.

“Sådana modeller saknar fortfarande förmågan att tillförlitligt omprogrammera sig själva i realtid. Viktiga utmaningar kvarstår, inklusive att förhindra fel förstärkning, undvika katastrofalt glömska, säkerställa stabilitet under uppdateringar och upprätthålla transparens kring interna ändringar”, säger Riera. “Tills dessa är åtgärdade, förblir fullständig självstyrd anpassning en frontlinje snarare än en verklighet.”

MIT:s forskare ser SEAL som en nödvändig utveckling. Som en av MIT:s ledande forskare uttryckte det, speglar detta ramverk för närvarande bara mänskligt lärande mer noggrant än något som kommit före.

“Dessa system antyder en förändring från statiska, engångsmodeller till anpassningsbara arkitekturer som kan lära sig av erfarenhet, hantera minne och följa mål över tid. Riktningen är tydlig: mot modulär, kontextmedveten intelligens som kan justera sig kontinuerligt”, sa Riera till mig. “Även om det fortfarande är i experimentfasen, markerar detta tillvägagångssätt ett meningsfullt steg mot mer autonoma och resilienta AI-system.”

Oavsett om detta leder till mer personliga system eller helt nya former av maskinagent, återstår att se. Åldern för självlärande AI har anlänt – och den skriver om mer än bara sin egen kod, den skriver om reglerna för vad maskiner kan bli.