Hvordan LLMs tvinger oss til å gjendefinere intelligens

Det finnes et gammelt ordtak: Hvis det ser ut som en and, svømmer som en and, og kvakker som en and, så er det sannsynligvis en and. Denne enkle måten å resonere på, ofte knyttet til den indianske poeten James Whitcomb Riley, har formet hvordan vi tenker om kunstig intelligens i årevis. Ideen om at atferd er nok til å identifisere intelligens inspirerte Alan Turings berømte “Imitasjonsspill”, nå kalt Turing-testen.

Turing foreslo at hvis en menneske ikke kan skille om de snakker med en maskin eller et annet menneske, så kan maskinen sies å være intelligent. Begge ande-testen og Turing-testen antyder at det som teller er ikke hva som ligger inne i et system, men hvordan det oppfører seg. I årevis har denne testen guidet fremgangen i AI. Men med ankomsten av store språkmodeller (LLM), har situasjonen endret seg. Disse systemene kan skrive flytende tekst, holde samtaler og løse oppgaver på måter som føles merkelig menneskelige. Spørsmålet er ikke lenger om maskiner kan imitere menneskelig samtale, men om denne imitasjonen er sant intelligens. Hvis et system kan skrive som oss, resonere som oss og sogar skape som oss, bør vi kalle det intelligent? Eller er atferd alene ikke lenger nok til å måle intelligens?

Utviklingen av maskinintelligens

Store språkmodeller har endret hvordan vi tenker om AI. Disse systemene, som en gang var begrenset til å generere grundig tekst, kan nå løse logiske problemer, skrive dataprogrammer, skrive historier og sogar assistere med kreative oppgaver som manusforfatter. En nøkkelutvikling i denne fremgangen er deres evne til å løse komplekse problemer gjennom steg-for-steg-resonnering, en metode kjent som Chain-of-thought-resonnering. Ved å bryte ned et problem i mindre deler, kan en LLM løse komplekse matematikkproblemer eller logiske puslespill på en måte som ligner menneskelig problemløsning. Denne evnen har gjort det mulig for dem å matche eller sogar overgå menneskelig ytelse på avanserte benchmark som MATH eller GSM8K. I dag har LLM-er også multimodale evner. De kan arbeide med bilder, tolke medisinske skanninger, forklare visuelle puslespill og beskrive komplekse diagrammer. Med disse fremgangene er spørsmålet ikke lenger om LLM-er kan imitere menneskelig atferd, men om denne atferden reflekterer genuin forståelse.

Spor av menneske-lignende tenkning

Suksessen til LLM-er definerer om hvordan vi forstår intelligens. Fokuset skifter fra å sammenligne atferd av AI med mennesker, som foreslått av Turing-testen, til å utforske hvor nært LLM-er speiler menneskelig tenkning i måten de prosesserer informasjon (dvs. sant menneske-lignende tenkning). For eksempel, i en nylig studie, sammenlignet forskerne de interne arbeidene av AI-modeller med menneskelig hjerneaktivitet. Studien fant at LLM-er med over 70 milliarder parametre, ikke bare oppnådde menneskelig nøyaktighet, men også organiserte informasjon internt på måter som matchet menneskelig hjernemønster.

Når både mennesker og AI-modeller arbeidet med mønstergjenkjenning, viste hjerne-scanninger lignende aktivitetmønster hos menneskelige deltakere og korresponderte beregningsmønster hos AI-modellene. Modellene grupperte abstrakte konsepter i sine interne lag på måter som direkte matchet med menneskelig hjernebølgeaktivitet. Dette antyder at suksessfull resonnering kan kreve lignende organisatoriske strukturer, enten i biologiske eller kunstige systemer.

Forskere er imidlertid forsiktige med å notere begrensningene i dette arbeidet. Studien involverte et relativt lite antall menneskelige deltakere, og mennesker og maskiner nærmet seg oppgavene på ulike måter. Mennesker arbeidet med visuelle mønster, mens AI-modellene prosesserte tekstbeskrivelser. Korrelasjonen mellom menneskelig og maskinprosessering er intrigerende, men den beviser ikke at maskiner forstår konsepter på samme måte som mennesker.

Det er også tydelige forskjeller i ytelse. Mens de beste AI-modellene nærmet seg menneskelig nøyaktighet på enkle mønster, viste de mer dramatiske ytelsesfall på de mest komplekse oppgavene sammenlignet med menneskelige deltakere. Dette antyder at til tross for lignende organisatoriske strukturer, kan det fortsatt være grunnleggende forskjeller i hvordan mennesker og maskiner prosesserer vanskelige abstrakte konsepter.

Den skeptiske perspektivet

Til tross for disse imponerende funn, er det en sterk argument som foreslår at LLM-er ikke er mer enn en svært dyktig imitator. Dette synspunkt kommer fra filosofen John Searles “Kinesisk rom“-tenkningseksempel som illustrerer hvorfor atferd ikke nødvendigvis betyr forståelse.

I dette tenkningseksempelet ber Searle oss om å forestille oss en person låst i et rom og kan bare snakke engelsk. Personen mottar kinesiske symboler og bruker en engelsk regelbok til å manipulere disse symbolene og produsere svar. Utenfor rommet ser svarene ut som om de kommer fra en native kinesisk taler. Men Searle argumenterer for at personen forstår ingenting om kinesisk. Han følger bare regler uten noen virkelig forståelse.

Kritikere anvender samme logikk til LLM-er. De argumenterer for at disse systemene er “stokastiske papegøyer” som genererer svar basert på statistiske mønster i deres treningsdata, ikke virkelig forståelse. Begrepet “stokastisk” refererer til deres probabilistiske natur, mens “papegøye” understreker deres imitative atferd uten virkelig forståelse.

Flere tekniske begrensninger i LLM-er støtter også dette argumentet. LLM-er genererer ofte “hallusinasjoner“; svar som ser plausibelt ut, men er fullstendig feil, misvisende og meningsløse. Dette skjer fordi de velger statistisk plausibelt ord i stedet for å konsultere en intern kunnskapsbase eller forstå sannhet og usannhet. Disse modellene gjentar også menneskelige feil og fordommer. De blir forvirret av irrelevante informasjon som mennesker lett ville ignorere. De utviser rasistiske og kjønnsstereotypiske holdninger fordi de lærte fra data som inneholdt disse fordommene. En annen åpenbar begrensning er “posisjonsforvrengning”, hvor modellene overbetoner informasjon i begynnelsen eller slutten av lange dokumenter mens de neglisjerer midten. Denne “tapte-i-midten“-fenomenet antyder at disse systemene prosesserer informasjon svært forskjellig fra mennesker, som kan opprettholde oppmerksomhet over hele dokumenter.

Disse begrensningene understreker en sentral utfordring: mens LLM-er utmerker seg på å gjenkjenne og reproducere språkmønster, betyr dette ikke at de virkelig forstår mening eller virkelighetskontekst. De utfører godt på å håndtere syntaks, men forblir begrensede når det gjelder semantikk.

Hva teller som intelligens?

Hva teller som intelligens?

Debatten kommer til slutt ned til hvordan vi definerer intelligens. Hvis intelligens er evnen til å generere koherent språk, løse problemer og tilpasse seg nye situasjoner, så møter LLM-er allerede denne standarden. Men hvis intelligens krever selvbevissthet, virkelig forståelse eller subjektiv erfaring, så mangler disse systemene fortsatt.

Det er vanskelig fordi vi mangler en klar eller objektiv måte å måle kvaliteter som forståelse eller bevissthet. I både mennesker og maskiner, antar vi dem fra atferd. Ande-testen og Turing-testen ga en gang elegante svar, men i LLM-erens tidsalder, kan de ikke lenger være tilstrekkelige. Deres evner tvinger oss til å gjenoverveie hva som virkelig teller som intelligens og om våre tradisjonelle definisjoner holder tritt med teknologisk virkelighet.

Bunnen av saken

Store språkmodeller utfordrer hvordan vi definerer AI-intelligens. De kan imitere resonnering, generere ideer og utføre oppgaver som en gang ble sett på som unikt menneskelige. Likevel mangler de bevisstheten og grunnlaget som former sant menneske-lignende tenkning. Deres fremvekst tvinger oss til å spørre ikke bare om maskiner handler intelligent, men hva intelligens selv virkelig betyr.