Hur Phi-4-reasoning omdefinierar AI-resonemang genom att utmana “Större är bättre”-myten

Microsofts nyliga utgivning av Phi-4-reasoning utmanar en nyckelantagande i byggandet av artificiella intelligenssystem som kan resonera. Sedan introduktionen av kedjeresonemang 2022, trodde forskare att avancerat resonemang krävde mycket stora språkmodeller med hundratals miljarder parametrar. Men Microsofts nya 14-miljarders parametermodell, Phi-4-reasoning, ifrågasätter denna tro. Genom att använda en datacentrerad ansats snarare än att förlita sig på ren beräkningskraft, uppnår modellen prestanda som är jämförbar med mycket större system. Denna genombrott visar att en datacentrerad ansats kan vara lika effektiv för utbildning av resonemangsmodeller som den är för konventionell AI-utbildning. Det öppnar möjligheten för mindre AI-modeller att uppnå avancerat resonemang genom att ändra sättet AI-utvecklare utbildar resonemangsmodeller, från “större är bättre” till “bättre data är bättre.”

Den traditionella resonemangsparadigmen

Kedjeresonemang har blivit en standard för att lösa komplexa problem i artificiell intelligens. Denna teknik guidar språkmodeller genom steg-för-steg-resonemang, bryter ner svåra problem i mindre, hanterbara steg. Det imiterar mänskligt tänkande genom att göra modellerna “tänka högt” på naturligt språk innan de ger ett svar.

Men denna förmåga kom med en viktig begränsning. Forskare upptäckte konsekvent att kedjeresonemang fungerade bra endast när språkmodellerna var mycket stora. Resonemangs förmåga tycktes vara direkt kopplad till modellens storlek, med större modeller som presterade bättre på komplexa resonemangs uppgifter. Detta ledde till en tävling i byggandet av stora resonemangsmodeller, där företag fokuserade på att förvandla sina stora språkmodeller till kraftfulla resonemangsmotorer.

Idén att införa resonemangs förmåga i AI-modeller kom främst från observationen att stora språkmodeller kan utföra in-context-lärande. Forskare observerade att när modellerna visas exempel på hur man löser problem steg-för-steg, lär de sig att följa detta mönster för nya problem. Detta ledde till tron att större modeller som tränats på enorma mängder data naturligt utvecklar mer avancerat resonemang. Den starka kopplingen mellan modellstorlek och resonemangsprestanda blev allmänt accepterad. Team investerade enorma resurser i att skala upp resonemangs förmåga med förstärkt lärande, troende att beräkningskraft var nyckeln till avancerat resonemang.

Förstå datacentrerad ansats

Uppkomsten av datacentrerad AI utmanar “större är bättre”-mentaliteten. Denna ansats flyttar fokus från modellarkitektur till att noggrant konstruera datan som används för att träna AI-system. Istället för att behandla data som fast input, ser datacentrerad metodik data som material som kan förbättras och optimeras för att förbättra AI-prestanda.

Andrew Ng, en ledare inom detta område, främjar att bygga systematiska ingenjörspraxis för att förbättra datakvalitet snarare än att bara justera kod eller skala upp modeller. Denna filosofi erkänner att datakvalitet och kurering ofta är viktigare än modellstorlek. Företag som antar denna ansats visar att mindre, vältränade modeller kan överträffa större om de tränas på högkvalitativa, noggrant förberedda datamängder.

Den datacentrerade ansatsen ställer en annan fråga: “Hur kan vi förbättra vår data?” snarare än “Hur kan vi göra modellen större?” Detta innebär att skapa bättre träningsdatamängder, förbättra datakvalitet och utveckla systematisk dataingenjörskap. I datacentrerad AI ligger fokus på att förstå vad som gör data effektiv för specifika uppgifter, inte bara att samla in mer data.

Denna ansats har visat stor potential i att träna små men kraftfulla AI-modeller med små datamängder och mycket mindre beräkning. Microsofts Phi-modeller är ett bra exempel på att träna små språkmodeller med en datacentrerad ansats. Dessa modeller tränas med curriculum-lärande, som främst inspireras av hur barn lär sig genom progressivt svårare exempel. Initialt tränas modellerna på enkla exempel, som sedan gradvis ersätts med svårare. Microsoft (MSFT ) byggde en datamängd från läroböcker, som beskrivs i deras papper “Textbooks Are All You Need“. Detta hjälpte Phi-3 att överträffa modeller som Google’s Gemma och GPT 3.5 i uppgifter som språkförståelse, allmän kunskap, grundskolematematik och medicinska frågesvar.

Trots den datacentrerade ansatsens framgång har resonemang generellt förblivit en funktion i stora AI-modeller. Detta beror på att resonemang kräver komplexa mönster och kunskap som stora modeller fångar lättare. Men denna tro har nyligen utmanats av utvecklingen av Phi-4-reasoning-modellen.

Phi-4-reasoningens genombrottsstrategi

Phi-4-reasoning visar hur en datacentrerad ansats kan användas för att träna små resonemangsmodeller. Modellen byggdes genom att finjustera den grundläggande Phi-4-modellen på noggrant utvalda “lärbara” exempel och resonemangs exempel genererade med OpenAI’s o3-mini. Fokus låg på kvalitet och specificitet snarare än datamängdens storlek. Modellen tränas med cirka 1,4 miljoner högkvalitativa exempel istället för miljarder generiska. Forskarna filtrerade exempel för att täcka olika svårighetsgrader och resonemangstyper, vilket säkerställde mångfald. Denna noggranna kurering gjorde varje träningsexempel meningsfullt, och lärde modellen specifika resonemangsmönster snarare än att bara öka datamängden.

I finjusteringen tränas modellen med fullständiga resonemangs demonstrationer som involverar komplett tankeprocess. Dessa steg-för-steg resonemangskedjor hjälpte modellen att lära sig hur man bygger logiska argument och löser problem systematiskt. För att ytterligare förbättra modellens resonemangs förmåga, förfinas den med förstärkt lärande på cirka 6 000 högkvalitativa matematikproblem med verifierade lösningar. Detta visar att även små mängder fokuserat förstärkt lärande kan signifikant förbättra resonemang när det tillämpas på välkuraterad data.

Prestanda bortom förväntningar

Resultaten visar att denna datacentrerade ansats fungerar. Phi-4-reasoning överträffar mycket större öppna modeller som DeepSeek-R1-Distill-Llama-70B och nästan matchar den fulla DeepSeek-R1, trots att den är mycket mindre. På AIME 2025-testet (en amerikansk matematikolympiadkvalificerare) överträffar Phi-4-reasoning DeepSeek-R1, som har 671 miljarder parametrar.

Dessa vinster går bortom matematik till vetenskapligt problem lösende, kodning, algoritmer, planering och spatiala uppgifter. Förbättringar från noggrann datakurering överförs väl till allmänna benchmark, vilket tyder på att denna metod bygger grundläggande resonemangsförmåga snarare än uppgiftsspecifika trick.

Phi-4-reasoning utmanar idén att avancerat resonemang behöver massiv beräkning. En 14-miljarders parametermodell kan matcha prestanda hos modeller som är många gånger större när den tränas på noggrant kuraterad data. Denna effektivitet har viktiga konsekvenser för att distribuera resonemangs AI där resurser är begränsade.

Konsekvenser för AI-utveckling

Phi-4-reasoningens framgång signalerar en förändring i hur AI-resonemangsmodeller bör byggas. Istället för att fokusera främst på att öka modellstorleken, kan team få bättre resultat genom att investera i datakvalitet och kurering. Detta gör avancerat resonemang mer tillgängligt för organisationer utan enorma beräkningsbudgetar.

Den datacentrerade metoden öppnar också nya forskningsvägar. Framtida arbete kan fokusera på att hitta bättre träningsexempel, skapa rikare resonemangsdemonstrationer och förstå vilken data som bäst hjälper resonemang. Dessa riktningar kan vara mer produktiva än att bara bygga större modeller.

Mer allmänt kan detta hjälpa till att demokratisera AI. Om mindre modeller som tränats på kuraterad data kan matcha stora modeller, blir avancerad AI tillgänglig för fler utvecklare och organisationer. Detta kan också påskynda AI-antagande och innovation i områden där mycket stora modeller inte är praktiska.

Framtiden för resonemangsmodeller

Phi-4-reasoning sätter en ny standard för resonemangsmodellutveckling. Framtida AI-system kommer sannolikt att balansera noggrann datakurering med arkitekturförbättringar. Denna ansats erkänner att både datakvalitet och modell-design är viktiga, men att förbättra data kan ge snabbare, mer kostnadseffektiva vinster.

Detta möjliggör också specialiserade resonemangsmodeller som tränats på domänspecifik data. Istället för allmänna jättar, kan team bygga fokuserade modeller som excellerar i specifika områden genom riktad datakurering. Detta kommer att skapa mer effektiv AI för specifika användningsområden.

När AI utvecklas kommer lärdomarna från Phi-4-reasoning att påverka inte bara resonemangsmodellutbildning utan AI-utveckling överlag. Framgången med datakurering som övervinner storleksbegränsningar tyder på att framtida framsteg ligger i att kombinera modellinnovation med smart dataingenjörskap, snarare än att bara bygga större arkitektur.

Slutsatsen

Microsofts Phi-4-reasoning förändrar den allmänna tron att avancerad AI-resonemang behöver mycket stora modeller. Istället för att förlita sig på storleken, använder denna modell en datacentrerad ansats med högkvalitativa och noggrant valda träningsdata. Phi-4-reasoning har endast 14 miljarder parametrar men presterar lika bra som mycket större modeller på svåra resonemangs uppgifter. Detta visar att fokus på bättre data är viktigare än att bara öka modellstorleken.

Denna nya träningsmetod gör avancerad AI-resonemang mer effektivt och tillgängligt för organisationer som inte har stora beräkningsresurser. Framgången med Phi-4-reasoning pekar på en ny riktning i AI-utveckling. Den fokuserar på att förbättra datakvalitet, smart utbildning och noggrann ingenjörskap snarare än att bara göra modellerna större.

Denna ansats kan hjälpa AI att utvecklas snabbare, minska kostnader och tillåta fler människor och företag att använda kraftfulla AI-verktyg. I framtiden kommer AI sannolikt att växa genom att kombinera bättre modeller med bättre data, vilket gör avancerad AI användbar i många specialiserade områden.