DeepSeek-Prover-V2: Broen mellem uformel og formel matematisk bevisførelse

Mens DeepSeek-R1 har fremmet AI’s evner i uformel bevisførelse, er formel matematisk bevisførelse stadig en udfordring for AI. Dette skyldes primært, at produktion af verificerbare matematiske bevis kræver både dyb konceptuel forståelse og evnen til at konstruere præcise, trin-for-trin logiske argumenter. Nylig er der dog sket betydelig fremgang i denne retning, da forskere ved DeepSeek-AI har introduceret DeepSeek-Prover-V2, en open-source AI-model, der kan omdanne matematisk intuition til strenge, verificerbare bevis. Denne artikel vil dykke ned i detaljerne om DeepSeek-Prover-V2 og overveje dets potentielle indvirkning på fremtidig videnskabelig opdagelse.

Udfordringen ved formel matematisk bevisførelse

Matematikere løser ofte problemer ved hjælp af intuition, heuristik og højtniveau-bevisførelse. Denne tilgang tillader dem at springe over trin, der synes åbenlyse, eller at basere sig på approximationer, der er tilstrækkelige til deres formål. Formel bevisførelse kræver dog en anden tilgang. Den kræver fuld præcision, hvor hvert trin er udtrykt explicit og logisk begrundet uden nogen tvivl.

Seneste fremskridt i store sprogmodeller (LLM’er) har vist, at de kan løse komplekse, konkurrenceniveau-matematiksproblemer ved hjælp af naturlig sprogbevisførelse. Trods disse fremskridt kæmper LLM’er stadig med at omdanne intuitiv bevisførelse til formelle bevis, som maskiner kan verificere. Dette skyldes primært, at uformel bevisførelse ofte inkluderer genveje og udeladt trin, som formelle systemer ikke kan verificere.

DeepSeek-Prover-V2 løser dette problem ved at kombinere styrkerne fra uformel og formel bevisførelse. Den bryder komplekse problemer ned i mindre, håndterbare dele, mens den stadig opretholder den præcision, der kræves af formel verificering. Denne tilgang gør det lettere at brokke gapet mellem menneskelig intuition og maskine-verificerede bevis.

En ny tilgang til bevisførelse

I essensen anvender DeepSeek-Prover-V2 en unik dataprocesseringspipeline, der involverer både uformel og formel bevisførelse. Pipelinen begynder med DeepSeek-V3, en generel LLM, der analyserer matematiske problemer i naturligt sprog, bryder dem ned i mindre trin og oversætter disse trin til formelt sprog, som maskiner kan forstå.

I stedet for at forsøge at løse hele problemet på én gang, bryder systemet det ned i en række “submål” – mellemlemmer, der fungerer som trinsten til den endelige bevis. Denne tilgang efterligner, hvordan menneskelige matematikere løser svære problemer, ved at arbejde med håndterbare bidder i stedet for at forsøge at løse alt på én gang.

Det, der gør denne tilgang særligt innovativ, er, hvordan den syntetiserer træningsdata. Når alle submål af et komplekst problem er løst, kombinerer systemet disse løsninger til en komplet formel bevis. Dette bevis er derefter parret med DeepSeek-V3’s oprindelige chain-of-thought-bevisførelse for at skabe højkvalitets “cold-start”-træningsdata til modeltræning.

Reinforcement Learning til matematisk bevisførelse

Efter initial træning på syntetisk data anvender DeepSeek-Prover-V2 reinforcement learning for at yderligere forbedre sine evner. Modellen får feedback på, om dens løsninger er korrekte eller ej, og den bruger denne feedback til at lære, hvilke tilgange der fungerer bedst.

En af udfordringerne her er, at strukturen af de genererede bevis ikke altid svarer til lemma-dekompositionen foreslået af chain-of-thought. For at løse dette problem inkluderede forskerne en konsistensbelønning i træningsstadiet for at reducere strukturel misalignering og påtvinge inklusion af alle dekomponerede lemmer i endelige bevis. Denne tilgang har vist sig at være særligt effektiv for komplekse teorier, der kræver flertrins-bevisførelse.

Præstation og virkelige evner

DeepSeek-Prover-V2’s præstation på etablerede benchmarks demonstrerer dens exceptionelle evner. Modellen opnår imponerende resultater på MiniF2F-test-benchmark og løser med succes 49 af 658 problemer fra PutnamBench – en samling af problemer fra den prestigefyldte William Lowell Putnam Mathematical Competition.

Måske endnu mere imponerende er, at modellen, når den vurderes på 15 udvalgte problemer fra seneste American Invitational Mathematics Examination (AIME)-konkurrencer, løser med succes 6 problemer. Det er også interessant at bemærke, at i sammenligning med DeepSeek-Prover-V2 løser DeepSeek-V3 8 af disse problemer ved hjælp af flertalsafstemning. Dette tyder på, at gapet mellem formel og uformel matematisk bevisførelse er hurtigt lukkende i LLM’er. Modellens præstation på kombinatoriske problemer kræver dog stadig forbedring, hvilket højligter et område, hvor fremtidig forskning kunne fokusere.

ProverBench: En ny benchmark for AI i matematik

DeepSeek-forskere introducerede også en ny benchmark-dataset for evaluering af matematiske problemsløsningskapaciteten hos LLM’er. Denne benchmark, navngivet ProverBench, består af 325 formaliserede matematiske problemer, herunder 15 problemer fra seneste AIME-konkurrencer, samt problemer fra lærebøger og undervisningstutorials. Disse problemer dækker områder som talteori, algebra, kalkulus, reel analyse og mere. Introduktionen af AIME-problemer er særligt vital, da den vurderer modellen på problemer, der kræver ikke kun viden, men også kreativ problemsløsning.

Open-source-adgang og fremtidige implikationer

DeepSeek-Prover-V2 tilbyder en spændende mulighed med sin open-source-tilgængelighed. Hostet på platforme som Hugging Face, er modellen tilgængelig for en bred vifte af brugere, herunder forskere, undervisere og udviklere. Med både en mere letvægts 7-milliard-parameter-version og en kraftfuld 671-milliard-parameter-version, sikrer DeepSeek-forskere, at brugere med varierende beregningsressourcer stadig kan drage fordel af den. Denne åbne adgang opmuntrer til eksperimenter og ermögiller udviklere at skabe avancerede AI-værktøjer til matematisk problemsløsning. Som følge heraf har modellen potentialet til at drive innovation i matematisk forskning, hvilket giver forskere mulighed for at løse komplekse problemer og opdage nye indsighter på området.

Implikationer for AI og matematisk forskning

Udviklingen af DeepSeek-Prover-V2 har betydelige implikationer ikke kun for matematisk forskning, men også for AI. Modellens evne til at generere formelle bevis kan hjælpe matematikere med at løse svære teorier, automatisere verificeringsprocesser og endda foreslå nye formodninger. Desuden kan teknikkerne, der er anvendt til at skabe DeepSeek-Prover-V2, påvirke udviklingen af fremtidige AI-modeller i andre områder, der afhænger af streng logisk bevisførelse, såsom software- og hardware-ingeniørarbejde.

Forskerne sigter mod at skala modellen op for at løse endnu mere komplekse problemer, såsom dem på International Mathematical Olympiad (IMO)-niveau. Dette kan yderligere fremme AI’s evner til at bevise matematiske teorier. Da modeller som DeepSeek-Prover-V2 fortsætter med at udvikle sig, kan de måske omdefinere fremtiden for både matematik og AI, hvilket driver fremgang i områder, der spænder fra teoretisk forskning til praktiske anvendelser i teknologi.

Det endelige punkt

DeepSeek-Prover-V2 er en betydelig udvikling i AI-dreven matematisk bevisførelse. Den kombinerer uformel intuition med formel logik for at bryde komplekse problemer ned og generere verificerbare bevis. Dens imponerende præstation på benchmarks viser dens potentiale til at støtte matematikere, automatisere bevisverificering og endda drive nye opdagelser på området. Som en open-source-model er den tilgængelig for en bred vifte af brugere, hvilket tilbyder spændende muligheder for innovation og nye anvendelser i både AI og matematik.