Hvordan LLM’er tvinger os til at omdefinere intelligens

Der er et gammelt ordsprog: Hvis det ligner en and, svømmer som en and og quacker som en and, så er det sandsynligvis en and. Denne simple måde at tænke på, ofte forbundet med den amerikanske digter James Whitcomb Riley, har formet, hvordan vi tænker om kunstig intelligens i årtier. Ideen om, at adfærd er nok til at identificere intelligens, inspirerede Alan Turings berømte “Imitations-spil”, nu kaldet Turing-testen.

Turing foreslog, at hvis en menneske ikke kan fortælle, om de taler med en maskine eller en anden menneske, så kan maskinen siges at være intelligent. Begge “and-testen” og Turing-testen antyder, at det, der betyder noget, ikke er, hvad der ligger inde i et system, men hvordan det opfører sig. I årtier har denne test vejledt fremskridt i AI. Men med ankomsten af store sprogmodeller (LLM’er), har situationen ændret sig. Disse systemer kan skrive flydende tekst, føre samtaler og løse opgaver på måder, der føles bemærkelsesværdigt menneskelige. Spørgsmålet er ikke længere, om maskiner kan efterligne menneskelig samtale, men om denne efterligning er sand intelligens. Hvis et system kan skrive som os, tænke som os og endda skabe som os, skal vi så kalde det intelligent? Eller er adfærd alene ikke længere nok til at måle intelligens?

Udviklingen af maskinintelligens

Store sprogmodeller har ændret, hvordan vi tænker om AI. Disse systemer, der tidligere var begrænsede til at generere grundlæggende tekstbeskeder, kan nu løse logiske problemer, skrive computerkode, udarbejde historier og endda hjælpe med kreative opgaver som manuskriptskrivning. En nøgleudvikling i denne fremgang er deres evne til at løse komplekse problemer gennem trin-for-trin-tænkning, en metode kaldet Chain-of-thought-tænkning. Ved at bryde et problem ned i mindre dele, kan en LLM løse komplekse matematiske problemer eller logiske puslespil på en måde, der ligner menneskelig problemløsning. Denne kapacitet har enablede dem til at matche eller endda overgå menneskelig præstation på avancerede benchmarks som MATH eller GSM8K. I dag besidder LLM’er også multimodale evner. De kan arbejde med billeder, fortolke medicinske scanninger, forklare visuelle puslespil og beskrive komplekse diagrammer. Med disse fremskridt er spørgsmålet ikke længere, om LLM’er kan efterligne menneskelig adfærd, men om denne adfærd reflekterer sand forståelse.

Spore af menneske-lignende tænkning

Denne succes med LLM’er er med til at omdefinere, hvordan vi forstår intelligens. Fokus er skiftet fra at tilpasse AI-adfærd til menneskelig adfærd, som foreslået af Turing-testen, til at udforske, hvor tæt LLM’er spejler menneskelig tænkning i den måde, de behandler information (dvs. sand menneske-lignende tænkning). For eksempel i en ny studie, sammenlignede forskere de interne mekanismer i AI-modeller med menneske-hjerneaktivitet. Studiet fandt, at LLM’er med over 70 milliarder parametre, ikke kun opnåede menneske-lignende nøjagtighed, men også organiserede information internt på måder, der matchede menneske-hjerne-mønstre.

Når både mennesker og AI-modeller arbejdede på mønster-genkendelsesopgaver, viste hjerne-scanninger lignende aktivitet-mønstre hos menneskelige deltagere og korresponderende beregningsmønstre i AI-modellerne. Modellerne grupperede abstrakte begreber i deres interne lag på måder, der direkte matchede med menneske-hjerne-bølge-aktivitet. Dette antyder, at succesfuld tænkning måske kræver lignende organisatoriske strukturer, både i biologiske og kunstige systemer.

Forskere er dog omhyggelige med at bemærke begrænsningerne i dette arbejde. Studiet omfattede et relativt lille antal menneskelige deltagere, og mennesker og maskiner nærmede sig opgaverne på forskellige måder. Mennesker arbejdede med visuelle mønstre, mens AI-modellerne behandlede tekstbeskrivelser. Korrelationen mellem menneske- og maskin-behandling er interessant, men den beviser ikke, at maskiner forstår begreber på samme måde som mennesker.

Der er også tydelige forskelle i præstation. Mens de bedste AI-modeller nærmede sig menneske-lignende nøjagtighed på simple mønstre, viste de mere dramatiske fald i præstation på de mest komplekse opgaver i forhold til menneskelige deltagere. Dette antyder, at på trods af ligheder i organisation, kan der stadig være fundamentale forskelle i, hvordan mennesker og maskiner behandler svære abstrakte begreber.

Den skeptiske perspektiv

Trods disse imponerende fund, er der en stærk argumentation for, at LLM’er ikke er andet end meget dygtige efterlignere. Denne synspunkt kommer fra filosoffen John Searles “Chinese Room“-tanke-experiment, som illustrerer, hvorfor adfærd måske ikke er lig med forståelse.

I dette tanke-experiment beder Searle os om at forestille os en person låst inde i et rum og kan kun tale engelsk. Personen modtager kinesiske symboler og bruger en engelsk regelbog til at manipulere disse symboler og producere svar. Udefra rummet ser svarene ud, som om de kommer fra en native kinesisk taler. Searle argumenterer dog for, at personen forstår intet om kinesisk. Han følger blot regler uden nogen reel forståelse.

Kritikere anvender samme logik på LLM’er. De argumenterer for, at disse systemer er “stochastic parrots“, der genererer svar baseret på statistiske mønstre i deres træningsdata, ikke på grund af sand forståelse. Begrebet “stochastic” refererer til deres probabilistiske natur, mens “parrot” understreger deres efterlignende adfærd uden reel forståelse.

Flere tekniske begrænsninger i LLM’er understøtter også dette argument. LLM’er genererer ofte “hallucinationer“; svar, der ser plausibelt ud, men er fuldstændig forkerte, misvisende og meningsløse. Dette sker, fordi de vælger statistisk plausibelt ord i stedet for at konsultere en intern videnbase eller forstå sandhed og falskhed. Disse modeller reproducerer også menneske-lignende fejl og fordomme. De bliver forvirret af irrelevant information, som mennesker let kan ignorere. De viser raciale og kønsstereotyper, fordi de har lært fra data, der indeholder disse fordomme. En anden afslørende begrænsning er “position bias”, hvor modellerne overbetoner information i begyndelsen eller slutningen af lange dokumenter, mens de negligerer midterindholdet. Denne “tabt-i-midten“-fænomen antyder, at disse systemer behandler information på en måde, der er meget forskellig fra mennesker, der kan opretholde opmærksomhed på tværs af hele dokumenter.

Disse begrænsninger understreger en central udfordring: mens LLM’er excellerer i at genkende og reproducerere sprog-mønstre, betyder dette ikke, at de virkelig forstår mening eller virkelighedskontekst. De klarer sig godt til at håndtere syntaks, men forbliver begrænsede, når det kommer til semantik.

Hvad tæller som intelligens?

Debatten kommer ultimate ned til, hvordan vi definerer intelligens. Hvis intelligens er evnen til at generere koherent sprog, løse problemer og tilpasse sig nye situationer, så opfylder LLM’er allerede denne standard. Men hvis intelligens kræver selvbevidsthed, sand forståelse eller subjektiv oplevelse, så mangler disse systemer stadig.

Sværtigheden er, at vi mangler en klar eller objektiv måde at måle kvaliteter som forståelse eller bevidsthed. I både mennesker og maskiner sluttes de fra adfærd. “And-testen” og Turing-testen gav tidligere elegante svar, men i LLM’ernes tidsalder, kan de måske ikke længere være tilstrækkelige. Deres evner tvinger os til at overveje, hvad der virkelig tæller som intelligens, og om vores traditionelle definitioner holder trit med teknologisk virkelighed.

Bottom Line

Store sprogmodeller udfordrer, hvordan vi definerer AI-intelligens. De kan efterligne tænkning, generere ideer og udføre opgaver, der tidligere blev set som unikt menneskelige. Men de mangler den bevidsthed og forankring, der former sand menneske-lignende tænkning. Deres opkomst tvinger os til at spørge ikke kun, om maskiner opfører sig intelligent, men hvad intelligens selv virkelig betyder.