Illusjonen av AI-resonnering: Apples studie og debatten om AI-sinus tenkningsevner

Kunstig intelligens (AI) er nå en del av hverdagslivet. Det driver taleassistenter, kjører chatbots og hjelper med å ta kritiske beslutninger i bransjer som helse, bank og forretning. Avanserte systemer, som OpenAI’s GPT-4 og Google’s Gemini, regnes ofte som kapable til å gi intelligente, menneskelignende svar. Mange mennesker tror disse modellene kan resonere og tenke som mennesker.

Men Apples studie fra 2025 utfordrer denne troen. Deres forskning spør om disse Store resonneringsmodeller (LRM) virkelig er i stand til å tenke. Studien konkluderer med at disse AI-modellene kanskje ikke bruker virkelig resonnering, men i stedet avhenger av mønster-gjenkjenning. Modellene identifiserer og gjentar mønster fra deres treningsdata, i stedet for å skape ny logikk eller forståelse.

Apple (AAPL ) testet flere ledende AI-modeller med klassiske logiske puslespill. Resultatene var uventede. På enkle oppgaver, utførte standard-modellene noen ganger bedre enn de mer avanserte resonneringsmodellene. På moderat komplekse puslespill, viste LRM noen fordeler. Men når puslespillene ble mer komplekse, feilet begge typer modeller. Selv når de ble gitt korrekte, trinn-for-trinn løsninger, kunne modellene ikke følge dem pålitelig.

Apples funn har initiert en debatt innen AI-samfunnet. Noen eksperter er enige med Apple, og sier at disse modellene bare gir illusjonen av tenkning. Andre argumenterer for at testene kanskje ikke fullt ut fanger AI-sinus evner, og at mer effektive metoder er nødvendige. Den viktigste spørsmålet nå er: Kan AI virkelig resonere, eller er det bare avansert mønster-gjenkjenning?

Dette spørsmålet er viktig for alle. Med AI som blir mer vanlig, er det essensielt å forstå hva disse systemene kan og ikke kan gjøre.

Hva er Store resonneringsmodeller (LRM)?

LRM er AI-systemer designet for å løse problemer ved å vise resonnering trinn for trinn. I motsetning til standard språkmodeller, som genererer svar basert på å forutsi neste ord, har LRM som mål å gi logiske forklaringer. Dette gjør dem nyttige for oppgaver som krever flere trinn av resonnering og abstrakt tenkning.

LRM er trenet på store datamengder som inkluderer bøker, artikler, nettsider og annen tekstlig innhold. Denne treningen muliggjør at modellene kan forstå språkmønster og logiske strukturer som vanligvis finnes i menneskelig resonnering. Ved å vise hvordan de kommer frem til sine konklusjoner, forventes LRM å tilby mer klare og pålitelige resultater.

Disse modellene er lovende fordi de kan håndtere komplekse oppgaver over flere domener. Målet er å forbedre transparensen i beslutningstaking, særlig i kritiske felt som avhenger av nøyaktige og logiske konklusjoner.

Men det er bekymring om hvorvidt LRM virkelig resonere. Noen tror at i stedet for å tenke på en menneskelignende måte, kan de bruke mønster-gjenkjenning. Dette reiser spørsmål om de virkelige grensene for AI-systemer og om de bare mimikerer resonnering.

Apples studie: Testing AI-resonnering og illusjonen av tenkning

For å svare på spørsmålet om LRM kan resonere eller bare er avanserte mønster-gjenkjenning, designet Apples forskningsteam en rekke eksperimenter med klassiske logiske puslespill. Disse inkluderte Tower of Hanoi, River Crossing og Blocks World-problemer, som lenge har blitt brukt til å teste menneskelig logisk tenkning. Teamet valgte disse puslespillene fordi kompleksiteten kunne justeres. Dette muliggjorde at de kunne evaluere både standard språkmodeller og LRM under ulike nivåer av vanskelighet.

Apples tilnærming til å teste AI-resonnering forskjellige fra tradisjonelle benchmark, som ofte fokuserer på matematiske eller kode-oppdrag. Disse testene kan være påvirket av modellenes eksponering for lignende data under trening. I stedet brukte Apples team puslespill som tillot dem å kontrollere kompleksitet samtidig som de opprettholdt konsistente logiske strukturer. Denne designen lot dem observere ikke bare de endelige svarene, men også resonnerings-trinnene tatt av modellene.

Studien avdekket tre distinkte ytelsesnivåer:

Enkle oppgaver

På grunnleggende problemer, utførte standard språkmodeller noen ganger bedre enn de mer avanserte LRM. Disse oppgavene var enkle nok til at de enklere modellene kunne generere korrekte svar mer effektivt.

Moderat komplekse oppgaver

Etter hvert som kompleksiteten til puslespillene økte, viste LRM, som var designet for å gi strukturert resonnering med trinn-for-trinn forklaringer, en fordel. Disse modellene var i stand til å følge resonneringsprosessen og tilby mer nøyaktige løsninger enn standard modellene.

Svært komplekse oppgaver

Når puslespillene ble mer komplekse, feilet begge typer modeller fullstendig. Selv om modellene hadde tilstrekkelig beregningskraft, var de ikke i stand til å løse oppgavene. Deres nøyaktighet falt til null, noe som indikerte at de ikke kunne håndtere kompleksitetsnivået som var nødvendig for disse problemene.

Mønster-gjenkjenning eller virkelig resonnering?

Ved videre analyse fant forskerne flere bekymringer med modellenes resonnering. Svarene gitt av modellene avhengig sterkt av hvordan problemene ble presentert. Små endringer, som å endre tall eller variabelnavn, kunne føre til helt forskjellige svar. Denne inkonsistensen antyder at modellene avhenger av lærte mønster fra deres treningsdata, i stedet for å anvende logisk resonnering.

Studien viste at selv når eksplisitte algoritmer eller trinn-for-trinn instruksjoner ble gitt, feilet modellene ofte i å bruke dem korrekt når kompleksiteten til puslespillene økte. Deres resonneringsspor avdekket at modellene ikke konsistent fulgte regler eller logikk. I stedet varierte deres løsninger basert på overfladiske endringer i inndata, i stedet for den faktiske strukturen til problemet.

Apples team konkluderte med at det som så ut som resonnering ofte bare var avansert mønster-gjenkjenning. Selv om disse modellene kan mime resonnering ved å gjenkjenne kjente mønster, forstår de ikke virkelig oppgavene eller anvender logikk på en menneskelignende måte.

Den pågående debatten: Kan AI virkelig resonere eller bare mime tenkning?

Apples studie har ført til en debatt i AI-samfunnet om hvorvidt LRM kan virkelig resonere. Mange eksperter støtter nå Apples funn, og argumenterer for at disse modellene skaper illusjonen av resonnering. De er av den oppfatning at når de møter komplekse eller nye oppgaver, feiler både standard språkmodeller og LRM, selv når de får korrekte instruksjoner eller algoritmer. Dette antyder at resonnering ofte bare er evnen til å gjenkjenne og gjenta mønster fra treningsdata, i stedet for virkelig forståelse.

På den andre siden, mener selskaper som OpenAI og noen forskere at deres modeller kan resonere. De peker på høy ytelse på standardiserte tester, som LSAT, og utfordrende matematikkeksaminer. For eksempel scoret OpenAI’s GPT-4 i 88. percentil blant LSAT-testtakerne. Noen tolker denne sterke ytelsen som bevis på resonneringsevne. Støttespillere av denne oppfatningen argumenterer for at slike resultater viser at AI-modeller kan resonere, i alle fall i visse situasjoner.

Men Apples studie utfordrer denne oppfatningen. Forskerne argumenterer for at høye poeng på standardiserte tester ikke nødvendigvis indikerer en korrekt forståelse eller resonnering. Nåværende benchmark kan ikke fullt ut fange resonneringsevner og kan være påvirket av dataene modellene ble trenet på. I mange tilfeller kan modellene bare gjenta mønster fra deres treningsdata, i stedet for å virkelig resonere gjennom nye problemer.

Denne debatten har praktiske konsekvenser. Hvis AI-modeller ikke virkelig resonere, kan de ikke være pålitelige for oppgaver som krever logisk beslutningstaking. Dette er særlig viktig i felt som helse, finansielle tjenester og jus, hvor feil kan ha alvorlige konsekvenser. For eksempel, hvis en AI-modell ikke kan anvende logikk på nye eller komplekse medisinske tilfeller, er feil mer sannsynlige. Likedan kan AI-systemer i finansielle tjenester som mangler evnen til å resonere, ta dårlige investeringsbeslutninger eller misforstå risiko.

Apples funn advarer også mot at mens AI-modeller er nyttige for oppgaver som innholdsgenerering og dataanalyse, bør de brukes med forsiktighet i områder som krever dyp forståelse eller kritisk tenkning. Noen eksperter ser mangelen på virkelig resonnering som en betydelig begrensning, mens andre mener at mønster-gjenkjenning alene kan fortsatt være verdifullt for mange praktiske anvendelser.

Hva er neste skritt for AI-resonnering?

Fremtiden for AI-resonnering er fortsatt usikker. Noen forskere tror at med mer trening, bedre data og forbedret modellarkitektur, vil AI fortsette å utvikle virkelig resonneringsevner. Andre er mer skeptiske og mener at nåværende AI-modeller kan alltid være begrensede til mønster-gjenkjenning, og aldri engasjere i menneskelignende resonnering.

Forskere utvikler nå nye evalueringmetoder for å vurdere AI-modellenes evne til å håndtere problemer de aldri har møtt før. Disse testene har som mål å vurdere om AI kan tenke kritisk og forklare sin resonnering på en måte som har mening for mennesker. Hvis disse testene er vellykkede, kan de gi en mer nøyaktig forståelse av hvordan godt AI kan resonere og hjelpe forskerne med å utvikle bedre modeller.

Det er også økende interesse for å utvikle hybridmodeller som kombinerer styrkene til mønster-gjenkjenning og resonnering. Disse modellene vil bruke neurale nettverk for mønster-gjenkjenning og symbolske resonneringssystemer for mer komplekse oppgaver. Apple og NVIDIA (NVDA ) er begge rapportert å utforske disse hybridtilnærmingene, som kan føre til AI-systemer som kan virkelig resonere.

Bunnen av saken

Apples studie fra 2025 reiser viktige spørsmål om den virkelige naturen til AI-sinus resonneringsevner. Mens AI-modeller som LRM viser stort potensiale i ulike felt, advarer studien mot at de kanskje ikke besitter virkelig forståelse eller menneskelignende resonnering. I stedet avhenger de av mønster-gjenkjenning, noe som begrenser deres effektivitet i oppgaver som krever mer komplekse kognitive prosesser. AI fortsatt å forme fremtiden, er det essensielt å anerkjenne både styrkene og begrensningene. Ved å forbedre testmetoder og håndtere forventningene våre, kan vi bruke AI ansvarlig. Dette vil sikre at det komplementerer menneskelig beslutningstaking, i stedet for å erstatte den.