Illusionen om AI-resonnering: Apples studie og debatten om AI’s tænkningsevner

Kunstig intelligens (AI) er nu en del af hverdagslivet. Det driver taleassistenter, kører chatbots og hjælper med at træffe kritiske beslutninger i brancher som sundhedsvesen, bankvæsen og forretning. Avancerede systemer som OpenAI’s GPT-4 og Google’s Gemini regnes ofte for at være i stand til at give intelligente, menneskelignende svar. Mange mennesker tror, disse modeller kan resonere og tænke som mennesker.

Men Apples studie fra 2025 udfordrer denne tro. Deres forskning stiller spørgsmål ved, om disse Large Reasoning Models (LRMs) virkelig er i stand til at tænke. Studiet konkluderer, at disse AI-modeller måske ikke bruger rigtig resonnering, men i stedet afhænger af mønstergenkendelse. Modellerne identificerer og gentager mønstre fra deres træningsdata i stedet for at skabe ny logik eller forståelse.

Apple (AAPL ) testede flere førende AI-modeller ved hjælp af klassiske logikpuzzler. Resultaterne var uventede. På simple opgaver udførte standardmodellerne undertiden bedre end de mere avancerede resonansmodeller. På moderat komplekse puslespil viste LRM’erne nogen fordele. Men når puslespillet blev mere komplekst, fejlede begge typer af modeller. Selv når de fik den korrekte trin-for-trin-løsning, kunne modellerne ikke følge den pålideligt.

Apples fund har igangsat en debat inden for AI-fællesskabet. Nogle eksperter er enige med Apple og siger, at disse modeller kun giver illusionen af tænkning. Andre argumenterer for, at testene måske ikke fuldt ud fanget AI’s evner, og at mere effektive metoder er nødvendige. Den centrale spørgsmål nu er: Kan AI virkelig resonere, eller er det kun avanceret mønstergenkendelse?

Dette spørgsmål er vigtigt for alle. Med AI, der bliver mere almindelig, er det essentiel at forstå, hvad disse systemer kan og ikke kan gøre.

Hvad er Large Reasoning Models (LRMs)?

LRM’er er AI-systemer designet til at løse problemer ved at vise resonnering trin for trin. I modsætning til standard sprogmodeller, der genererer svar baseret på forudsigelse af det næste ord, sigter LRM’er mod at give logiske forklaringer. Dette gør dem nyttige til opgaver, der kræver flere trin af resonnering og abstrakt tænkning.

LRM’er trænes på store datasæt, der inkluderer bøger, artikler, websteder og anden tekstbaseret indhold. Denne træning giver modellerne mulighed for at forstå sprogmodeller og de logiske strukturer, der ofte findes i menneskelig resonnering. Ved at vise, hvordan de når deres konklusioner, forventes LRM’er at give mere klare og troværdige resultater.

Disse modeller er lovende, fordi de kan håndtere komplekse opgaver på tværs af forskellige domæner. Målet er at forbedre gennemsigtighed i beslutningstagning, især i kritiske felter, der afhænger af præcise og logiske konklusioner.

Men der er bekymring over, om LRM’er virkelig resonere. Nogle mener, at i stedet for at tænke på en menneskelignende måde, kan de bruge mønstergenkendelse. Dette rejser spørgsmål om de virkelige begrænsninger for AI-systemer og om de kun efterligner resonnering.

Apples studie: Test af AI-resonnering og illusionen af tænkning

For at besvare spørgsmålet om, hvorvidt LRM’er kan resonere eller kun er avancerede mønstergenkendere, designede Apples forskningshold en række eksperimenter ved hjælp af klassiske logikpuzzler. Disse inkluderede Tower of Hanoi, River Crossing og Blocks World-problemer, der længe har været brugt til at teste menneskelig logisk tænkning. Holdet valgte disse puslespil, fordi deres kompleksitet kunne justeres. Dette gjorde det muligt for dem at evaluere både standard sprogmodeller og LRM’er under forskellige niveauer af sværhedsgrad.

Apples tilgang til test af AI-resonnering adskilte sig fra traditionelle benchmark-tests, der ofte fokuserer på matematiske eller kodningstasks. Disse tests kan være påvirket af modellernes eksponering for lignende data under træning. I stedet brugte Apples hold puslespil, der gjorde det muligt for dem at kontrollere kompleksiteten, mens de fastholdt konsistente logiske strukturer. Denne design gjorde det muligt for dem at observere ikke kun de endelige svar, men også de resonneringstrin, der blev taget af modellerne.

Studiet afslørede tre distinkte performancesniveauer:

Simple opgaver

På fundamentale problemer udførte standard sprogmodellerne undertiden bedre end de mere avancerede LRM’er. Disse opgaver var så enkle, at de simple modeller kunne generere korrekte svar mere effektivt.

Moderat komplekse opgaver

Da kompleksiteten af puslespillet øgedes, viste LRM’er, der var designet til at give struktureret resonnering med trin-for-trin-forklaringer, nogen fordele. Disse modeller kunne følge resonneringsprocessen og give mere præcise løsninger end standardmodellerne.

Meget komplekse opgaver

Når puslespillet blev mere komplekst, fejlede begge typer af modeller fuldstændigt. Selv om modellerne havde tilstrækkelige beregningsressourcer, kunne de ikke løse opgaverne. Deres nøjagtighed faldt til nul, hvilket indikerede, at de ikke kunne håndtere kompleksitetsniveauet, der krævedes for disse opgaver.

Mønstergenkendelse eller rigtig resonnering?

Ved yderligere analyse fandt forskerne flere bekymringer om modellernes resonnering. Svarene, der blev givet af modellerne, afhængige stærkt af, hvordan problemstillingerne blev præsenteret. Små ændringer, såsom ændring af numre eller variabelnavne, kunne resultere i fuldstændigt forskellige svar. Denne inkonsistens antyder, at modellerne afhænger af lænte mønstre fra deres træningsdata i stedet for at anvende logisk resonnering.

Studiet viste, at selv når eksplisitte algoritmer eller trin-for-trin-instruktioner blev givet, fejlede modellerne ofte med at bruge dem korrekt, når kompleksiteten af puslespillet øgedes. Deres resonneringsspor afslørede, at modellerne ikke konsekvent fulgte regler eller logik. I stedet var deres løsninger forskellige baseret på overfladiske ændringer i input i stedet for den faktiske struktur af problemet.

Apples hold konkluderede, at det, der så ud som resonnering, ofte kun var avanceret mønstergenkendelse. Selv om disse modeller kan efterligne resonnering ved at genkende kendte mønstre, forstår de ikke virkelig opgaverne eller anvender logik på en menneskelignende måde.

Den fortsatte debat: Kan AI virkelig resonere eller kun efterligne tænkning?

Apples studie har ført til en debat i AI-fællesskabet om, hvorvidt LRM’er kan virkelig resonere. Mange eksperter støtter nu Apples fund, og argumenterer for, at disse modeller skaber illusionen af resonnering. De mener, at når de står over for komplekse eller nye opgaver, kæmper både standard sprogmodeller og LRM’er, selv når de får korrekte instruktioner eller algoritmer. Dette antyder, at resonnering ofte kun er evnen til at genkende og gentage mønstre fra træningsdata i stedet for ægte forståelse.

På den anden side mener selskaber som OpenAI og nogle forskere, at deres modeller kan resonere. De peger på høje resultater på standardiserede tests, såsom LSAT, og udfordrende matematik-eksamener. For eksempel scorede OpenAI’s GPT-4 i 88. percentilen blandt LSAT-testdeltagere. Nogle tolker denne stærke præstation som bevis for resonneringsevne. Støtterne af denne synspunkt argumenterer for, at sådanne resultater viser, at AI-modeller kan resonere, i hvert fald i visse situationer.

Men Apples studie stiller spørgsmål ved denne synspunkt. Forskerne argumenterer for, at høje score på standardiserede tests ikke nødvendigvis indikerer en præcis forståelse eller resonnering. Nuverende benchmark-tests kan måske ikke fuldt ud fange resonneringsevner og kan være påvirket af de data, modellerne blev trænet på. I mange tilfælde kan modellerne blot gentage mønstre fra deres træningsdata i stedet for virkelig at resonere gennem nye problemer.

Denne debat har praktiske konsekvenser. Hvis AI-modeller ikke virkelig resonere, kan de måske ikke være pålidelige til opgaver, der kræver logisk beslutningstagning. Dette er især vigtigt i felter som sundhedsvesen, finans og jura, hvor fejl kan have alvorlige konsekvenser. For eksempel kan en AI-model, der ikke kan anvende logik på nye eller komplekse medicinske tilfælde, være mere tilbøjelig til at begå fejl. Ligeledes kan AI-systemer i finans, der mangler evnen til at resonere, tage dårlige investeringsbeslutninger eller undervurdere risici.

Apples fund advarer også om, at mens AI-modeller er nyttige til opgaver som indholdsgenerering og dataanalyse, skal de bruges med forsigtighed i områder, der kræver dyb forståelse eller kritisk tænkning. Nogle eksperter ser manglen på rigtig resonnering som en betydelig begrænsning, mens andre mener, at mønstergenkendelse alene kan være værdifuld for mange praktiske anvendelser.

Hvad kommer herefter for AI-resonnering?

Fremtiden for AI-resonnering er stadig usikker. Nogle forskere mener, at med mere træning, bedre data og forbedrede modelarkitekturer vil AI fortsat udvikle sig til at have rigtig resonneringsevne. Andre er mere skeptiske og mener, at nuværende AI-modeller måske altid vil være begrænsede til mønstergenkendelse og aldrig vil kunne resonere på en menneskelignende måde.

Forskere udvikler i øjeblikket nye evalueringmetoder til at bedømme AI-modellers evne til at håndtere problemer, de aldrig har mødt før. Disse tests sigter mod at bedømme, om AI kan tænke kritisk og forklare sin resonnering på en måde, der giver mening for mennesker. Hvis disse tests er succesfulde, kan de give en mere præcis forståelse af, hvor godt AI kan resonere, og hjælpe forskere med at udvikle bedre modeller.

Der er også en øget interesse for at udvikle hybridmodeller, der kombinerer styrkerne fra mønstergenkendelse og resonnering. Disse modeller vil bruge neurale netværk til mønstergenkendelse og symbolske resonneringssystemer til mere komplekse opgaver. Apple og NVIDIA (NVDA ) arbejder tilsyneladende på disse hybridtilgange, der kunne føre til AI-systemer, der kan virkelig resonere.

Bottom line

Apples studie fra 2025 rejser vigtige spørgsmål om den sande natur af AI’s resonneringsevne. Mens AI-modeller som LRM’er viser stort potentiale i forskellige felter, advarer studiet om, at de måske ikke besidder en ægte forståelse eller menneskelignende resonnering. I stedet afhænger de af mønstergenkendelse, hvilket begrænser deres effektivitet i opgaver, der kræver mere komplekse kognitive processer.

AI fortsætter med at forme fremtiden, og det er essentiel at anerkende både dens styrker og begrænsninger. Ved at forbedre testmetoder og styre vores forventninger kan vi bruge AI ansvarligt. Dette vil sikre, at det supplerer menneskelig beslutningstagning i stedet for at erstatte det.