At tænke som et menneske: kan AI udvikle analogisk ræsonnement?

Når mennesker står over for noget nyt, søger de instinktivt efter sammenligninger. Et barn, der lærer om atomer, kan høre, at elektronerne kredser omkring atomkernen “ligesom planeter kredser om solen.” En iværksætter kan præsentere sin startup som “Uber for dyrepleje.” En videnskabsmand kan fortælle et ikke-specialiseret publikum, at hjernen behandler information “ligesom en computer.”

Dette mentale spring – at se, hvordan noget ligner noget andet i sin dybere struktur – kaldes analogisk ræsonnement. Og det kan være den ingrediens, der skiller menneskelig intelligens fra AI i dets nuværende form. Hvis vi nogensinde skal udvikle kunstig generel intelligens – den hellige gral for AI, der hidtil har vist sig at være svær at opnå – må vi finde ud af, om det er muligt for maskiner at lære at tænke analogt. Mere kan ikke stå på spil. Hvis svaret er “nej”, så vil selv de mest avancerede AI-systemer for altid forblive ikke andet end glorificerede regnemaskiner. De vil være ude af stand til at løse problemer, der kræver mere end en omarrangering af de data, de er blevet trænet på.

Forståelsens arkitektur

Analogisk ræsonnement fungerer på niveauet for strukturelle, snarere end overfladiske, ligheder. For eksempel, hvad gør hjerter og vandpumper ens? Bestemt ikke deres fysiske udseende. Det er det faktum, at begge udfører præcis samme funktion, nemlig at cirkulere væske gennem et system. Og det er netop denne evne til at kortlægge relationer, der er typiske i en kontekst, over på en anden kontekst, der gør menneskelig læring, kreativitet og problemløsning så unikke.

Der er ingen mangel på virkelige eksempler. Tag August Kekulé, den brillante tyske kemiker, der fik et vink om benzens struktur i form af en drøm, hvor han så en slange bide sin egen hale. I dag anvender programmører lektioner fra organisering af et køkken, når de strukturerer kode, og lærere forklarer elektrisk strøm ved at sammenligne den med vand, der flyder gennem rør.

Nuværende AI-systemer finder dog denne almindelige kognitive færdighed meget svær. Når de bliver bedt om det, er moderne store sprogmodeller (LLM’er) kun alt for glade for at forklare, hvorfor “tid er penge” eller at løse verbale ræsonnementsopgaver. Men voksende beviser tyder på, at de ofte er engageret i sofistikeret mønstergenkendelse, snarere end ægte strukturel kortlægning. Når forskere stiller disse modeller nye analogiproblemer, der afviger fra deres træningsdata, falder præstationen ofte kraftigt. Dette skyldes, at LLM’er er gode til at reproducere analogier, de har set før, men fejler, når de bliver bedt om at skabe nye forbindelser.

Intet analogisk ræsonnement, ingen AGI

Det er tydeligt, at analogisk ræsonnement er en ufravigelig forudsætning for AGI. Uden det forbliver AI-systemer skrøbelige, ude af stand til at tilpasse viden, der er relevant i ét domæne, til at løse problemer i et andet. For eksempel kan man forestille sig en selvkørende bil, der har lært at navigere på solrige Californiens gader, men ikke kan ekstrapolere denne viden til at håndtere snevejr. Bilens AI-system er en dyr mønstersammenligner, ikke et system, der er i stand til ægte intelligens. Sand intelligens ville kræve den kognitive fleksibilitet til at genkende, at kørsel på isglatte veje er strukturelt sammenlignelig med andre glatte overflader, selv om detaljerne er forskellige.

Samme princip gælder i domæner ud over selvkørende biler, naturligvis. Analogisk tænkning driver også fremgang i videnskab, medicinsk diagnose, juridisk ræsonnement og kreative foretagender. AI-systemer uden denne kapacitet ligner en lærd, der har memoriseret et helt bibliotek, men ikke kan syntetisere denne viden på tværs af discipliner. Imponerende, ja, men kun på en snæver måde.

Opbygning af det analogiske sind

Så, hvad ville det kræve at udvikle AI-systemer, der er i stand til menneskelignende analogisk ræsonnement? Baseret på fremvoksende forskning og den fundamentale natur af analogisk tænkning, synes flere kritiske betingelser og teknikker at være nødvendige.

Strukturelt rige og varierede træningsdata

Den første betingelse er, at AI-systemer trænes på data, der går ud over overfladiske tekst-mønstre. Internettet, med dets enorme repository af videnskabelige artikler, teknisk dokumentation, kreative værker og forklarende indhold, er et godt udgangspunkt. Men ikke hvilke som helst internetdata er tilstrækkelige. Det, der kræves, er strukturel diversitet. Med andre ord, for at guide AI-systemer mod at lære at genkende abstrakte mønstre, bør udviklere starte med at udsætte dem for kontraster fra dag ét af træningen. Deres træningsdata kunne omfatte arkitektoniske tegninger sammen med musikalske partitur, matematiske beviser sammen med digte eller juridiske argumenter sammen med opskrifter. Da hvert domæne inkorporerer forskellige typer relationelle strukturer, ville et kommende AGI-system have gavn af denne type øvelse.

Endnu vigtigere er det, at disse data skal bevare og fremhæve strukturelle relationer, ikke blot statistiske korrelationer. Vidensgrafer, årsagsdiagrammer og eksplicit kortlagte relationer mellem begreber kunne hjælpe AI-systemer med at lære at “se” struktur snarere end at memorere associationer mekanisk. Tænk på det som at undervise AI ikke blot i, hvad ting er, men hvordan de relaterer til hinanden på principielle måder.

Testning ud over træningssættet

For at sikre, at AI-systemer lærer at ræsonnere analogt, og ikke blot forbedrer deres evne til at efterligne, har vi brug for værktøjer, der bevidst tester deres evne til at kortlægge struktur over på situationer, de aldrig har mødt før. Dette indebærer at konstruere testopgaver, der bevidst afviger fra noget, der sandsynligvis vil optræde i træningsdata – hvad forskere kalder “kontrafaktiske” opgaver.

For eksempel kunne vi i stedet for at bede en AI om at løse standard-analogier som “hvalp er til hund som killing er til ____” præsentere den for opgaver, der bruger opfundne begreber eller bede den om at kortlægge relationer mellem domæner, den aldrig har set forbundet. Kan den genkende, at relationen mellem ingredienser og en opskrift svarer til relationen mellem bevis og et juridisk argument, selv om den aldrig har mødt denne specifikke sammenligning? Sådanne tests ville afsløre, om systemet forstår underliggende strukturer eller blot husker lignende eksempler.

Måling af, hvad der betyder noget

Den gode nyhed for AI-udviklere er, at der er flere årtiers kognitionsvidenskabelig forskning, som specifikt beskæftiger sig med, hvordan mennesker behandler analogier. De kan bruge denne forskning til at udvikle solide benchmark for analogisk ræsonnement. Dog må disse benchmark gå ud over blot at tælle korrekte svar på analogi-tester. Det, der virkelig er nødvendigt, er målinger, der fanger, om AI-systemer kan identificere, hvilke relationer der er relevante at kortlægge, mens de ignorerer overfladiske ligheder og opretholder konsistens over deres kortlægninger.

Dette kunne indebære scoringssystemer, der belønner identificering af højere-ordens relationer. For eksempel ville en AI score højere, hvis den ikke blot kan genkende, at både atomer og solsystemer omfatter kredsløb, men også forstå de årsagsmæssige relationer, der styrer disse kredsløb. En anden kompetence, der kunne evalueres, kunne være, om AI spontant kan generere passende analogier til at forklare nye begreber, ikke blot løse forstrukturerede analogi-opgaver.

Støtte gennem promptning

Nylig forskning tyder på, at AI’s evne til at tænke analogt afhænger i høj grad af, hvordan den bliver bedt om at gøre det. Analogisk promptning – eksplicit guidning af modeller gennem processen med strukturel kortlægning – kan fremkalde mere sofistikeret ræsonnement end blot at præsentere problemer uden forberedelse. Dette kunne indebære at bede systemet om først at identificere relationer i et kildedomæne, derefter eksplicit bede det om at kortlægge disse relationer over på et måldomæne.

Denne teknik kunne tjene dobbelt formål: forbedre nuværende AI-systemers analoge evner og generere træningsdata for fremtidige modeller. Ved at optage succesfulde eksempler på guidet analogisk ræsonnement kan eksempler skabes, der kan lære efterfølgende systemer at deltage i denne proces mere naturligt.

Hybrid-arkitekturer

At opnå menneskelignende analogisk ræsonnement kan kræve at gå ud over tilgange baseret udelukkende på neurale netværk. Hybrid-systemer, der kombinerer mønstergenkendelse med symbolisk ræsonnement – eksplicit repræsentation og manipulation af strukturelle relationer – kunne give den manglende del. Mens neurale netværk er gode til at lære implicitte mønstre, kan symboliske systemer påtvinge den strukturelle konsistens og logiske kortlægning, som analogisk ræsonnement kræver.

Hybrid-arkitekturer er stadig i deres barndom, men forskerne udforsker aktivt deres potentiale. Nogle argumenterer for at kombinere neurale netværk med symbolisk ræsonnement, der kan føre til forbedret analogisk kapacitet. Andre fremhæver hybrid-modeller, der er bygget til at adressere AI-modellers tendens til at fabrikere og tænke analogt på en overfladisk måde.

Hvorhen?

Afhængigt af, hvem man spørger, er analogisk ræsonnement enten allerede fremvoksende eller også bliver AI-systemerne blot mere sofistikerede i deres efterligning. Uanset hvilken position, der er tættere på sandheden, er det klart, at hvis drømmen om AGI skal realiseres, vil det kræve mere end blot større modeller eller mere data. Det vil også kræve nogle fundamentale innovationer i, hvordan vi strukturerer, træner og evaluerer vores AI-systemer.

Da AI’s transformative kapaciteter udvikler sig, kommer analogisk ræsonnement til at repræsentere både en kritisk benchmark for præstation og en nøgtern påmindelse om kløften mellem AI’s nuværende kapaciteter og ægte menneskelig kognition. Når et AI-system kan se, at demokrati er for borgere, hvad orkester er for musikere – genkendelse ikke overfladiske træk, men dybe strukturelle relationer om koordination, repræsentation og fremvoksende harmoni – vil det have overskredet en kritisk tærskel mod sand intelligens.