AI’s nye intuition: Hvorfor smartere tænkning betyder mere end længere tænkning

Fremgangene i kunstig intelligens (AI) har længe været drevet af overbevisningen om, at øget data og beregningskraft kan forbedre præstationen. Denne “brute force”-tilgang har ført til imponerende AI-systemer, såsom GPT-3, som har opnået bemærkelsesværdige resultater gennem årene. However, denne paradigme nærmer sig sine grænser. Da AI-problemerne bliver mere komplekse, bliver det klart, at blot at tilføje mere beregningskraft ikke vil være en bæredygtig eller effektiv løsning for langsigtede fremskridt. Denne erkendelse har fået forskere til at omvurdere deres tilgang til AI-udvikling. I denne kontekst introducerer Deep Cogitos Cogito v2-model en ny tilgang, der kan ændre fremtiden for AI-udvikling. I stedet for at afhænge af mere beregningskraft eller forlænget resonnering, udvikler Cogito v2 interne “intuitioner”, der guider modellen til at identificere de rigtige veje, før den overhovedet begynder at søge. Dette er en paradigmeskift i, hvordan AI udvikles, ved at fokusere på smartere tænkning i stedet for længere tænkning.

En skift i AI-udvikling

I mange år har drivkraften bag AI-fremgangen været ideen om, at “mere er bedre”. Denne tilgang har ført til AI-modeller, der genererer omfattende resonneringskæder for at løse komplekse problemer. OpenAIs modeller, såsom GPT-3, er et eksempel på denne tilgang, hvor længere tænkning har ført til imponerende resultater på svære opgaver. Selvom denne metode har produceret imponerende resultater, har den betydelige ulemper. Længere resonneringskæder kræver mere beregningskraft, hvilket resulterer i langsommere slutninger og højere driftsomkostninger. Dessuten har forskning vist, at disse forlængede processer ofte fører til aftagende afkast, hvor længere tænkning fører til større bias og mindre effektivitet. Det grundlæggende problem er, at afhængighed af lange resonneringskæder og øget beregningskraft ikke længere er en effektiv løsning for at tackle komplekse AI-problemer. Disse tilgange er begrænsede af deres massive beregningstid og hukommelseskrav.

Hvorfor “intuition” betyder noget for AI

I modsætning til nuværende AI-systemer, der afhænger af forlænget resonnering, bruger mennesker ofte, hvad der kaldes “intuition” (en form for hurtig, intuitiv dømmekraft) til at løse problemer. Selvom intuition kan synes som en abstrakt begreb, er det ofte resultatet af år med erfaring, læring og kontekstbehandling, der tillader mennesker at træffe hurtige beslutninger uden at fuldt ud analysere alle detaljer. Det er denne form for intuition, der adskiller rå beregning fra menneske-lignende resonnering. Mennesker bygger denne “intuition” gennem mønstergenkendelse og akkumuleret erfaring, og det giver os mulighed for at træffe beslutninger uden at udforske alle mulige muligheder. AI’s nye “intuition” sigter mod at replikere denne proces.

Dette begreb, der også kaldes “intelligens-prior”, kan være en nøgle til at give AI-systemer menneske-lignende resonnering og gøre dem mere effektive. AI-modeller med stærk intelligens-prior kan forudse, hvilke løsninger der sandsynligvis vil lykkes, uden at skulle gå gennem omfattende beregning. I stedet for at afhænge af udførlige søgemetoder, giver intuition AI-systemer mulighed for at udnytte tidligere viden og fokusere på de mest effektive veje til en løsning.

Hvorledes Cogito v2 inkorporerede “intuition”

Cogito har inkorporeret ideen om “intuition” (mere teknisk, intelligens-prior) i deres nyeste model, Cogito v2. De har integreret denne idé gennem en mekanisme kaldet Itereret Destillation og Forstærkning (IDA). Denne mekanisme giver modellen mulighed for at lære af sin egen resonneringsproces og forfine sin problemløsningsevne over tid. I stedet for at afhænge af statiske prompts eller faste lærere, giver IDA AI mulighed for at destillere succesfulde resonneringsveje tilbage til dens kerne-modelparametre. Denne selvforbedringsproces forfiner modellens resonneringsfærdighed over tid, optimerer ikke kun for nøjagtige svar, men for de mest effektive måder at tænke på.

• Itereret Destillation og Forstærkning (IDA)

For at forstå, hvordan IDA virker, kan vi se på dual-process-teorien, der opdeler menneskelig tænkning i to systemer: System 1 og System 2. System 1 refererer til hurtig, intuitiv beslutning, mens System 2 er langsommere med mere bevidst resonnering. Teorien foreslår, at mennesker afhænger af System 1 til de fleste opgaver, men skifter til System 2, når de står over for mere komplekse beslutninger.

IDA er en to-trins cyklus: forstærkning og destillation. I forstærkningsfasen bruger modellen intensive beregningsmetoder til at generere højkvalitetsløsninger eller resonneringsspor. Dette er som System 2-tænkning, hvor AI tager sig tid til at omhyggeligt evaluere potentielle løsninger. I destillationsfasen internaliserer modellen derefter indsigt fra forstærkningsfasen, transformerer resonneringsprocessen fra System 2 til System 1. Ligesom en menneskelig chauffør bliver mere intuitiv efter at have fået erfaring, kan en AI-model med IDA træffe hurtigere og mere effektive beslutninger over tid.

Den grundlæggende idé bag IDA er at bruge beregningsintensive resonnering i forstærkningsfasen og derefter destillere den forbedrede resonnering tilbage til modellens parametre. Denne proces giver modellen mulighed for at internalisere effektive resonneringsstrategier, der bygger dens evne til at tænke intuitivt, når den løser problemer. Ved at gentage denne cyklus forbedrer AI-systemet kontinuerligt sin evne til at træffe beslutninger med færre beregningsressourcer.

Fordele ved at integrere “intuition” i AI

En af de primære fordele ved AI’s intuition er dens effektivitet. Modeller som Cogito v2 demonstrerer resonneringskæder, der er op til 60% kortere end dem fra konkurrerende modeller. Dette betyder, at de kan nå frem til svar med færre interne trin, reducerer tiden og ressourcerne, der kræves for slutninger. For eksempel kan et problem, der måske tager DeepSeek R1 over 200 tokens at løse, blive løst af Cogito v2 i færre end 100 tokens.

Desuden er omkostningerne ved at træne Cogito v2 betydeligt lavere end for traditionelle AI-modeller. Hele træningsprocessen for Cogito v2, der dækker et bredt spektrum af parametre, kostede under 3,5 millioner dollars, hvilket er langt mindre end de udgifter, der normalt er forbundet med storstilet modeller som GPT-4.

Cogito v2 har også demonstreret emergente evner på områder, det ikke blev ekslicit trænet for. For eksempel kan Cogito v2, på trods af at være trænet primært på tekst, resonere om billeder, dragende indsigt om billedkomposition og habitater. Denne cross-modale resonansfærdighed er et betydeligt skridt mod generel intelligens, en vigtig milepæl på vejen til Kunstig Generel Intelligens (AGI).

Omtilægning af AI-udvikling

Succesen med intelligens-prior antyder, at AI-udviklingsstrategierne har brug for en grundlæggende ændring. I stedet for blot at skale op modelstørrelsen eller øge beregningsressourcerne, bør AI-udvikling fokusere på at bygge systemer, der kan udvikle og forfine deres egne kognitive strategier. Denne ændring spejler menneskelig kognitiv udvikling, hvor intelligens ikke er et resultat af en større hjerne eller mere tænkningstid, men snarere bedre mentale modeller og resonneringsstrategier. Denne ændring kan have langsigtede implikationer. Ved at fokusere på smartere resonnering i stedet for rå beregningskraft kan AI blive mere alsidig, tilpasningsdygtig og i stand til at tackle nye udfordringer. Denne ændring kan accelerere AI’s anvendelse i industrier som sundhedsvesen, cybersikkerhed og autonom transport, gøre AI-systemer mere effektive, omkostningseffektive og med stor impact.

Det endelige punkt

Succesen med Cogito v2 demonstrerer, at fremtiden for AI ligger ikke i at skale op modeller eller øge beregningskraft, men i at forfine resonansarkitekturer og optimere for smartere problemløsning. Denne ændring lover en mere bæredygtig og tilgængelig fremtid for AI, hvor systemer kan kontinuerligt forbedre og tilpasse sig med mindre afhængighed af enorme beregningsressourcer. Ved at fokusere på intelligent resonnering i stedet for brute-force-beregning kan AI blive mere i stand til at tackle komplekse, virkelige problemer.