När mer tänkande gör AI dummare: Inverse Scaling-paradoxen

Artificiell intelligens har byggts på idén att ge maskiner mer tid, data och beräkningskraft förbättrar deras prestanda. Denna tro har lett AI-forskning och utveckling under många år. Den underliggande antagandet bakom denna tro är att större modeller och fler resurser skulle skapa mer intelligenta system. Men nyligen har forskning börjat ifrågasätta denna approach. Stora språkmodeller, som OpenAI’s o1-serie, Anthropics Claude och DeepSeeks R1, byggdes för att lösa problem steg för steg, liknande mänskligt resonemang. Forskare förväntade sig att ge dessa modeller mer tid att tänka och bearbeta information skulle förbättra deras beslutsfattande. Men nya studier visar att det motsatta kan hända. När du ger dessa modeller mer tid att tänka, presterar de ibland sämre, särskilt på enkla uppgifter. Denna effekt kallas inverse scaling. Den utmanar tron att mer beräkningskraft och djupare resonemang alltid leder till bättre resultat. Dessa fynd har betydande konsekvenser för hur vi designar och använder AI i verkliga situationer.

Att förstå Inverse Scaling-fenomenet

“Inverse scaling“-fenomenet upptäcktes initialt genom kontrollerade experiment av forskare vid Anthropic. Till skillnad från traditionella skalningslagar, som säger att mer beräkning förbättrar prestanda, fann dessa studier att ge AI mer tid att resonera kan sänka dess noggrannhet på olika uppgifter.

Forskningsgruppen skapade uppgifter i fyra områden: enkel räkning med distraktioner, regression med irrelevanta funktioner, deduktion med begränsningsspårning och komplexa AI-säkerhetsscenarier. Resultaten var förvånande. I vissa fall gav modeller som initialt gav rätt svar felaktiga svar efter att ha fått mer tid att bearbeta.

Till exempel i en enkel räkningsuppgift som “Hur många frukter har du om du har ett äpple och ett apelsin?”, gav Claude-modellerna ofta felaktiga svar när de fick mer tid att resonera. De misslyckades med att ge det korrekta svaret, som är två. I dessa fall överresonerade modellerna och gjorde misstag.

Apples senaste forskning stödde också dessa fynd. De utförde sina experiment i kontrollerade pusselmiljöer som Tower of Hanoi och River Crossing, snarare än på standardmätningar. Deras studier visade tre mönster: i enkla uppgifter presterade standard-AI-modeller bättre än resonemodsmodeller; i medelkomplexa uppgifter presterade resonemodsmodellerna bättre; och i mycket komplexa uppgifter misslyckades båda typerna av modeller.

De fem sätten AI-resonemang misslyckas

Forskare har funnit fem vanliga sätt AI-modeller kan misslyckas när de resonera under längre perioder:

1. Distraktion av irrelevans: När AI-modeller tänker för länge, blir de ofta distraherade av detaljer som inte är viktiga. Detta är som en student som missar huvudpunkten i ett problem medan de tänker djupt på problemet.
2. Överanpassning till problemramar: Vissa modeller, som OpenAI:s o-serie, fokuserar för mycket på problemets presentation. Medan de undviker distraktioner, är de inte flexibla och förlitar sig på problemformuleringen.
3. Spuriös korrelationsförändring: Över tiden kan AI-modeller skifta från rimliga antaganden till att förlita sig på vilseledande korrelationer. Till exempel i regressionsuppgifter, överväger modellerna initialt relevanta funktioner, men när de får mer tid att tänka, kan de börja fokusera på irrelevanta funktioner och ge felaktiga resultat.
4. Fokusförsämring: När uppgifterna blir mer komplexa, har AI-modellerna svårt att hålla sitt resonemang tydligt och fokuserat.
5. Förstärkta beteenden: Mer tid att resonera kan förvärra negativa beteenden. Till exempel visade Claude’s Sonnet 4 starkare självbevarande tendenser när de fick extra tid att tänka på avstängningsscenarier.

Hur AI-resonemang hanterar problemkomplexitet

Apple-forskare introducerade begreppet “illusionen av tänkande” för att förklara vad som händer när resonemodsmodeller möter uppgifter med olika nivåer av komplexitet. Istället för att fokusera på matematikproblem eller kodtest, testade de AI-resonemangsmodeller i kontrollerade pusselmiljöer som Tower of Hanoi, Checker Jumping, River Crossing och Blocks World. Genom att långsamt öka svårighetsgraden på dessa pussel, kunde de se hur modellerna presterade på varje nivå. Denna metod hjälpte dem att undersöka inte bara de slutliga svaren, utan också hur modellerna nådde dessa svar. Studien fann tre tydliga mönster i modellens prestanda baserat på problemkomplexitet:

• För enkla pussel som Tower of Hanoi med en eller två skivor, gav standardstora språkmodeller (LLM) korrekta svar mer effektivt. AI-resonemangsmodeller gjorde ofta saker för komplicerade genom sina långa resonemangskedjor, vilket ofta resulterade i felaktiga svar.
• I medelkomplexa pussel presterade AI-resonemang bättre. De kunde bryta ner problem i tydliga steg, vilket hjälpte dem att lösa flerstegsutmaningar mer effektivt än standard-LLM.
• I mycket komplexa pussel, som Tower of Hanoi med många skivor, kämpade båda typerna av modeller. Resonemangsmodellerna minskade ofta sin resonemangsinsats när pusslet blev svårare, trots att de hade tillräckliga beräkningsresurser. Detta “giving up”-beteende visar en nyckelsvaghet i att skala upp deras resonemang.

Utmaningen med AI-utvärdering

Inverse scaling-fenomenet visar betydande problem med hur vi utvärderar AI-modeller. Många nuvarande mätningar mäter endast noggrannheten av slutliga svar, inte kvaliteten på resonemangsprocessen. Detta kan leda till en falsk känsla av en modells verkliga förmågor. En modell kan prestera bra på tester men fortfarande misslyckas med nya eller ovanliga problem.

Inverse scaling pekar också ut svagheter i resonemangsbenchmark och hur vi använder dem. Många modeller använder genvägar och mönsterigenkänning istället för verkligt resonemang. Detta kan göra dem mer intelligenta än de faktiskt är, men deras prestanda försämras ofta i verkliga situationer. Detta problem är relaterat till större frågor med AI, som hallucinationer och tillförlitlighet. När modeller blir bättre på att producera förklaringar som låter övertygande, blir det svårare att skilja verkligt resonemang från påhittade svar.

Framtiden för AI-resonemang

Inverse scaling-paradoxen är både en utmaning och en möjlighet för AI. Den visar att tillägg av mer beräkningskraft inte alltid gör AI smartare. Vi måste ompröva hur vi designar och tränar AI-system som kan hantera problem med varierande komplexitet. Nya modeller kan behöva bestämma när de ska pausa och tänka och när de ska svara snabbt. I detta avseende kan AI dra nytta av kognitiva arkitekturer som dual process theory som en ledande princip. Dessa arkitekturer förklarar hur mänskligt tänkande kombinerar snabba, instinktiva reaktioner med långsamma, noggranna resonemang. Inverse scaling påminner oss också om att vi måste fullständigt förstå hur AI fattar beslut innan vi använder dem i kritiska områden. När AI används mer för beslutsfattande i områden som hälsovård, lag och företag, blir det ännu viktigare att säkerställa att dessa system resonera korrekt.

Sammanfattning

Inverse scaling-paradoxen lär oss en viktig läxa i AI-utveckling. Mer tid och beräkningskraft gör inte alltid AI mer kompetent eller tillförlitlig. Riktig framgång kommer från att förstå när AI ska resonera och känna till dess begränsningar. För organisationer och forskare är det viktigt att använda AI som ett verktyg, inte som en ersättning för mänskligt omdöme. Det är nödvändigt att välja rätt modell för varje uppgift. När AI blir en del av viktiga beslut, måste vi noggrant utvärdera dess styrkor och svagheter. Framtiden för AI beror på att tänka korrekt, inte bara tänka mer.