Opkomsten af små resonningsmodeller: Kan kompakt AI matche GPT-niveau resonning?

I de seneste år har AI-feltet været fanget af succesen med store sprogmodeller (LLM’er). Initialt designede til naturlig sprogbehandling, har disse modeller udviklet sig til kraftfulde resonningsværktøjer, der kan tackle komplekse problemer med en menneske-lignende trin-for-trin tænkeproces. however, trods deres exceptionelle resonnings-evner, har LLM’er betydelige ulemper, herunder høje beregningsomkostninger og langsomme installationshastigheder, hvilket gør dem upraktiske til brug i virkeligheden i ressource-begrænsede miljøer som mobilenheder eller edge-computing. Dette har ført til en stigende interesse for udvikling af mindre, mere effektive modeller, der kan tilbyde lignende resonnings-evner samtidig med at minimere omkostninger og ressourcekrav. Denne artikel udforsker opkomsten af disse små resonningsmodeller, deres potentiale, udfordringer og implikationer for fremtiden for AI.

En skift i perspektiv

For meget af AI’s nyere historie, har feltet fulgt principperne om “skalalove”, som foreslår, at modelpræstationen forbedres forudsigeligt, efterhånden som data, beregningskraft og modelstørrelse øges. Mens denne tilgang har resulteret i kraftfulde modeller, har det også ført til betydelige kompromiser, herunder høje infrastrukturomkostninger, miljøpåvirkning og latency-problemer. Ikke alle ansøgninger kræver de fulde evner af massive modeller med hundredvis af milliarder af parametre. I mange praktiske tilfælde – såsom på-enhed-assistenter, sundhedspleje og uddannelse – kan mindre modeller opnå lignende resultater, hvis de kan resonere effektivt.

Forståelse af resonning i AI

Resonning i AI henviser til en models evne til at følge logiske kæder, forstå årsag og virkning, deducere implikationer, planlægge trin i en proces og identificere modsigelser. For sprogmodeller betyder dette ofte ikke kun at hente information, men også at manipulere og slutte information gennem en struktureret, trin-for-trin-tilgang. Dette niveau af resonning opnås typisk ved at finjustere LLM’er til at udføre multi-trins resonning, før de når frem til et svar. Mens disse metoder er effektive, kræver de betydelige beregningsressourcer og kan være langsomme og dyre at installere, hvilket rejser bekymringer om deres tilgængelighed og miljøpåvirkning.

Forståelse af små resonningsmodeller

Små resonningsmodeller sigter mod at replikere resonnings-evnerne af store modeller, men med større effektivitet i forhold til beregningskraft, hukommelse og latency. Disse modeller anvender ofte en teknik kaldet knowledge distillation, hvor en mindre model (den “elev”) lærer af en større, forudtrænet model (den “lærer”). Destillationsprocessen indebærer træning af den mindre model på data genereret af den større, med det formål at overføre resonnings-evnen. Elev-modellen er derefter finjusteret for at forbedre sin præstation. I nogle tilfælde anvendes reinforcement learning med specialiserede domæne-specifikke belønningsfunktioner for at yderligere forbedre modellens evne til at udføre opgave-specifik resonning.

Opkomsten og fremskridtene af små resonningsmodeller

En bemærkelsesværdig milepæl i udviklingen af små resonningsmodeller kom med udgivelsen af DeepSeek-R1. Trods at være trænet på en relativt beskeden cluster af ældre GPU’er, opnåede DeepSeek-R1 en præstation, der var sammenlignelig med større modeller som OpenAI’s o1 på benchmarks som MMLU og GSM-8K. Dette har ført til en genovervejelse af den traditionelle skalatilgang, som antog, at større modeller var inherent overlegne.
DeepSeek-R1’s succes kan tilskrives dens innovative træningsproces, som kombinerede storstile reinforcement learning uden at afhænge af overvåget finjustering i de tidlige faser. Denne innovation ledte til skabelsen af DeepSeek-R1-Zero, en model, der viste imponerende resonnings-evner i sammenligning med store resonningsmodeller. Yderligere forbedringer, såsom brugen af cold-start data, forbedrede modellens koherens og opgave-eksekvering, især inden for områder som matematik og kode.
Desuden har destillations-teknikker vist sig at være afgørende i udviklingen af mindre, mere effektive modeller fra større modeller. For eksempel har DeepSeek udgivet destillerede versioner af sine modeller, med størrelser, der varierer fra 1,5 milliarder til 70 milliarder parametre. Ved hjælp af disse modeller har forskere trænet en sammenlignelig mindre model DeepSeek-R1-Distill-Qwen-32B, der har overgået OpenAI’s o1-mini på forskellige benchmarks. Disse modeller er nu installerbare med standard-hardware, hvilket gør dem til en mere praktisk mulighed for en bred vifte af ansøgninger.

Kan små modeller matche GPT-niveau resonning

For at vurderere, om små resonningsmodeller (SRM’er) kan matche resonningskraften af store modeller (LRM’er) som GPT, er det vigtigt at evaluere deres præstation på standard-benchmarks. For eksempel opnåede DeepSeek-R1-modellen scorede omkring 0,844 på MMLU-test, sammenlignelig med større modeller som o1. På GSM-8K-dataset, der fokuserer på matematik for grundskole-niveau, opnåede DeepSeek-R1’s destillerede model opnåede top-tier præstation, overgående både o1 og o1-mini.
I kodnings-opgaver, såsom dem på LiveCodeBench og CodeForces, opførte DeepSeek-R1’s destillerede modeller sig lignende o1-mini og GPT-4o, demonstrerende stærke resonnings-evner i programmering. however, større modeller har stadig en fordele i opgaver, der kræver bredere sprogforståelse eller håndtering af lange kontekst-vinduer, da mindre modeller tendere til at være mere opgave-specifikke.
Trods deres styrker kan små modeller have svært ved at udføre forlængede resonnings-opgaver eller når de står over for uddata. For eksempel i LLM-skak-simulationer gjorde DeepSeek-R1 flere fejl end større modeller, hvilket antyder begrænsninger i dens evne til at fastholde fokus og præcision over lange perioder.

Kompromiser og praktiske implikationer

Kompromiserne mellem modelstørrelse og præstation er kritiske, når man sammenligner SRM’er med GPT-niveau LRM’er. Mindre modeller kræver mindre hukommelse og beregningskraft, hvilket gør dem ideelle til edge-enheder, mobilapps eller situationer, hvor offline-inferens er nødvendig. Denne effektivitet resulterer i lavere driftsomkostninger, med modeller som DeepSeek-R1, der er op til 96% billigere at køre end større modeller som o1.
however, disse effektivitetsgevinster kommer med visse kompromiser. Mindre modeller er typisk finjusteret for bestemte opgaver, hvilket kan begrænse deres fleksibilitet i forhold til større modeller. For eksempel, mens DeepSeek-R1 excellerer i matematik og kode, mangler den multimodale evner, såsom evnen til at fortolke billeder, som større modeller som GPT-4o kan håndtere.
Trods disse begrænsninger er de praktiske anvendelser af små resonningsmodeller enorme. I sundhedspleje kan de drive diagnostiske værktøjer, der analyserer medicinske data på standard hospital-servere. I uddannelse kan de anvendes til at udvikle personlige undervisningssystemer, der giver trin-for-trin feedback til studerende. I videnskabelig forskning kan de assistere med data-analyse og hypotesetestning inden for områder som matematik og fysik. Den open-source-natur af modeller som DeepSeek-R1 fremmer også samarbejde og demokratiserer adgangen til AI, hvilket gør det muligt for mindre organisationer at drage fordel af avanceret teknologi.

Det endelige punkt

Udviklingen af sprogmodeller til små resonningsmodeller er en betydelig fremgang i AI. Mens disse modeller måske endnu ikke fuldt ud kan matche de brede evner af store sprogmodeller, tilbyder de nøglefordele i effektivitet, omkostningseffektivitet og tilgængelighed. Ved at strike en balance mellem resonningskraft og ressource-effektivitet er mindre modeller klar til at spille en afgørende rolle på tværs af forskellige ansøgninger, hvilket gør AI mere praktisk og bæredygtig til brug i virkeligheden.