Hur LLMs tvingar oss att omdefiniera intelligens

Det finns ett gammalt uttryck: Om det ser ut som en anka, simmar som en anka och kvackar som en anka, då är det förmodligen en anka. Detta enkla sätt att resonera, ofta kopplat till den indianska poeten James Whitcomb Riley, har format hur vi tänker om artificiell intelligens under årtionden. Idén att beteende är tillräckligt för att identifiera intelligens inspirerade Alan Turings berömda “Imitationslek”, nu kallad Turingtest.

Turing föreslog att om en människa inte kan avgöra om de pratar med en maskin eller en annan människa, då kan maskinen sägas vara intelligent. Både anka-testet och Turingtestet föreslår att det som är viktigt inte är vad som ligger innanför ett system, utan hur det beter sig. Under årtionden har detta test lett framåt utvecklingen av AI. Men med ankomsten av stora språkmodeller (LLM) har situationen förändrats. Dessa system kan skriva flytande text, hålla samtal och lösa uppgifter på sätt som känns förvånansvärt mänskliga. Frågan är inte längre om maskiner kan imitera mänskligt samtal, utan om denna imitation är sann intelligens. Om ett system kan skriva som oss, resonera som oss och till och med skapa som oss, ska vi kalla det intelligent? Eller är beteende ensam inte längre tillräckligt för att mäta intelligens?

Utvecklingen av maskinintelligens

Stora språkmodeller har förändrat hur vi tänker om AI. Dessa system, som tidigare var begränsade till att generera grundläggande textsvar, kan nu lösa logiska problem, skriva datorprogram, skriva berättelser och till och med assistera med kreativa uppgifter som manusförfattning. En viktig utveckling i denna process är deras förmåga att lösa komplexa problem genom steg-för-steg-resonemang, en metod som kallas Chain-of-thought-resonemang. Genom att bryta ner ett problem i mindre delar kan en LLM lösa komplexa matematiska problem eller logiska pussel på ett sätt som liknar mänskligt problemlösande. Denna förmåga har möjliggjort för dem att matcha eller till och med överträffa mänsklig prestation på avancerade benchmark-tester som MATH eller GSM8K. Idag besitter LLM:er också multimodala förmågor. De kan arbeta med bilder, tolka medicinska skanningsbilder, förklara visuella pussel och beskriva komplexa diagram. Med dessa framsteg är frågan inte längre om LLM:er kan imitera mänskligt beteende, utan om detta beteende reflekterar äkta förståelse.

Spår av mänskligt tänkande

Denna framgång för LLM:er omdefinierar hur vi förstår intelligens. Fokus skiftar från att anpassa AI-beteende till mänskligt beteende, som föreslagits av Turingtestet, till att undersöka hur nära LLM:er speglar mänskligt tänkande i hur de bearbetar information (dvs. sann mänsklig tänkande). Till exempel i en nylig studie jämförde forskare de inre mekanismerna i AI-modeller med mänsklig hjärnaktivitet. Studien fann att LLM:er med över 70 miljarder parametrar, inte bara uppnådde mänsklig nivå av exakthet utan också organiserade information internt på sätt som matchade mänskliga hjärnmönster.

När både människor och AI-modeller arbetade med mönsterigenkänning, visade hjärnskanningar liknande aktivitetsmönster hos de mänskliga deltagarna och motsvarande beräkningsmönster i AI-modellerna. Modellerna grupperade abstrakta koncept i sina inre lager på sätt som direkt matchade mänsklig hjärnvågsaktivitet. Detta tyder på att framgångsrikt resonemang kan kräva liknande organisatoriska strukturer, vare sig i biologiska eller artificiella system.

Forskare är dock försiktiga med att notera begränsningarna i detta arbete. Studien involverade ett relativt litet antal mänskliga deltagare, och människor och maskiner angrep uppgifterna på olika sätt. Människor arbetade med visuella mönster medan AI-modellerna bearbetade textbeskrivningar. Korrelationen mellan mänsklig och maskinbearbetning är intressant, men den bevisar inte att maskiner förstår koncept på samma sätt som människor.

Det finns också tydliga skillnader i prestation. Medan de bästa AI-modellerna nådde mänsklig nivå av exakthet på enkla mönster, visade de mer dramatiska prestandafall på de mest komplexa uppgifterna jämfört med mänskliga deltagare. Detta tyder på att trots likheter i organisation, kan det fortfarande finnas grundläggande skillnader i hur människor och maskiner bearbetar svåra abstrakta koncept.

Den skeptiska perspektiven

Trots dessa imponerande fynd finns ett starkt argument som föreslår att LLM:er inte är mer än mycket skickliga imitatorer. Denna syn kommer från filosofen John Searles “Kinesiska rum“-tankeexperiment som illustrerar varför beteende inte nödvändigtvis är detsamma som förståelse.

I detta tankeexperiment ber Searle oss att föreställa oss en person som är inlåst i ett rum och bara kan tala engelska. Personen får kinesiska symboler och använder en engelsk regelbok för att manipulera dessa symboler och producera svar. Utanför rummet ser svaren ut som om de kommer från en infödd kinesisk talare. Men Searle hävdar att personen inte förstår någoting om kinesiska. Han följer bara regler utan någon verklig förståelse.

Kritiker tillämpar samma logik på LLM:er. De hävdar att dessa system är “stokastiska papegojor” som genererar svar baserat på statistiska mönster i deras träningsdata, inte äkta förståelse. Begreppet “stokastisk” hänvisar till deras sannolikhetsbaserade natur, medan “papegoja” betonar deras imiterande beteende utan verklig förståelse.

Flera tekniska begränsningar av LLM:er stöder också detta argument. LLM:er genererar ofta “hallucinationer“; svar som ser trovärdiga ut men är helt felaktiga, vilseledande och meningslösa. Detta sker eftersom de väljer statistiskt trovärdiga ord snarare än att konsultera en intern kunskapsbas eller förstå sanning och falskhet. Dessa modeller återger också mänskliga fel och fördomar. De blir förvirrade av irrelevanta uppgifter som människor lätt skulle ignorera. De visar ras- och könsstereotyper eftersom de lärde sig från data som innehåller dessa fördomar. En annan avslöjande begränsning är “positionssbias”, där modellerna överbetonar information i början eller slutet av långa dokument medan de försummar mitteninnehållet. Detta “förlorade-i-mitten“-fenomen tyder på att dessa system bearbetar information mycket annorlunda än människor, som kan upprätthålla uppmärksamhet över hela dokument.

Dessa begränsningar lyfter fram en central utmaning: medan LLM:er excellerar i att känna igen och reproducera språkmönster, betyder det inte att de verkligen förstår mening eller verklig kontext. De presterar bra på att hantera syntax men förblir begränsade när det gäller semantik.

Vad räknas som intelligens?

Debatten slutar till slut med hur vi definierar intelligens. Om intelligens är förmågan att generera sammanhängande språk, lösa problem och anpassa sig till nya situationer, då uppfyller LLM:er redan denna standard. Men om intelligens kräver självmedvetande, äkta förståelse eller subjektiv upplevelse, så brister dessa system fortfarande.

Svårigheten är att vi saknar en tydlig eller objektiv metod för att mäta egenskaper som förståelse eller medvetande. Både hos människor och maskiner drar vi slutsatser om dem från beteende. Anka-testet och Turingtestet gav en gång i tiden eleganta svar, men i LLM:ernas era kan de inte längre vara tillräckliga. Deras förmågor tvingar oss att ompröva vad som verkligen räknas som intelligens och om våra traditionella definitioner håller jämna steg med teknisk verklighet.

Slutsatsen

Stora språkmodeller utmanar hur vi definierar AI-intelligens. De kan imitera resonemang, generera idéer och utföra uppgifter som tidigare ansågs unikt mänskliga. Men de saknar medvetenhet och förankring som formar sann mänsklig tänkande. Deras uppkomst tvingar oss att fråga inte bara om maskiner agerar intelligent, utan vad intelligens i sig själv verkligen betyder.