At tænke som et menneske: Kan AI udvikle analogisk resonnering?

Når mennesker står over for noget nyt, søger de instinktivt efter sammenligninger. Et barn, der lærer om atomer, kan høre, at elektronerne kredser omkring atomkernen “ligesom planeter kredser om solen.” En iværksætter kan præsentere sin startup som “Uber for dyrepleje.” En videnskabsmand kan fortælle en ikke-faglig publikum, at hjernen behandler information “ligesom en computer.”

Denne mentale spring – at se, hvordan noget ligner noget andet i sin dybere struktur – kaldes analogisk resonnering. Og det kan være det ingrediens, der skiller menneskelig intelligens fra AI i dets nuværende form. Hvis vi nogensinde skal udvikle kunstig generel intelligens – det hellige gral for AI, der hidtil har vist sig at være svær at opnå – må vi finde ud af, om det er muligt for maskiner at lære at tænke analogt. Spillet er højt, og hvis svaret er “nej”, så vil selv de mest avancerede AI-systemer forblive ikke mere end glorificerede regnemaskiner. De vil være ude af stand til at løse problemer, der kræver mere end en omarrangering af de data, de er blevet trænet på.

Forståelsens arkitektur

Analogisk resonnering fungerer på niveauet for strukturelle, snarere end overfladiske, ligheder. For eksempel, hvad gør hjerte og vandpumper lignende? Bestemt ikke deres fysiske udseende. Det er det faktum, at begge udfører præcis samme funktion, nemlig at cirkulere væske gennem et system. Og det er netop denne evne til at kortlægge relationer, der er typiske i en kontekst, over på en anden kontekst, der gør menneskelig læring, kreativitet og problemløsning så unik.

Der er ingen mangel på virkelige eksempler. Tag August Kekulé, den brillante tyske kemiker, der fik en hint om benzens struktur i form af en drøm, hvor han så en slange bide sin egen hale. I dag anvender programmører lektioner fra organisering af en køkken, når de strukturerer kode, og lærere forklarer elektrisk strøm ved at sammenligne den med vand, der flyder gennem rør.

Nuværende AI-systemer finder dog denne almindelige kognitive færdighed meget svær. Når de bliver bedt om det, er moderne store sprogmodeller (LLM’er) kun alt for glade for at forklare, hvorfor “tid er penge” eller at løse verbale resonneringsopgaver. Men voksende beviser tyder på, at de ofte er engageret i sofistikeret mønster-genkendelse, snarere end ægte strukturel kortlægning. Når forskere præsenterer disse modeller med nye analogiske problemer, der afviger fra deres træningsdata, falder præstationen ofte kraftigt. Dette skyldes, at LLM’er er gode til at reproducere analogier, de har set før, men fejler, når de bliver bedt om at skabe nye forbindelser.

Ingen analogisk resonnering, ingen AGI

Det er tydeligt, at analogisk resonnering er sine qua non for AGI. Uden det forbliver AI-systemer ømfølsomme, ude af stand til at tilpasse viden, der er relevant i en domæne, til at løse problemer i en anden. For eksempel kan man forestille sig en selv kørende bil, der har lært at navigere på solrige Californiens gader, men ikke kan extrapolere denne viden til at håndtere snevejr. Bilens AI-system er en dyr mønster-genkender, ikke et system, der er i stand til ægte intelligens. Sand intelligens ville kræve den kognitive fleksibilitet til at genkende, at kørsel på isglatte veje er strukturelt sammenlignelig med andre glatte overflader, selv om detaljerne forskellige.

Samme princip gælder i domæner ud over selv kørende biler, naturligvis. Analogt tænkning driver også fremgang i videnskab, medicinsk diagnose, juridisk resonnering og kreative foretagender. AI-systemer uden denne kapacitet ligner en lærd, der har memoriseret en hel bibliotek, men ikke kan syntetisere denne viden på tværs af discipliner. Imponerende, ja, men kun på en snæver måde.

Opbygning af den analogiske sind

Så, hvad ville det kræve at udvikle AI-systemer, der er i stand til menneske-lignende analogisk resonnering? Baseret på fremvoksende forskning og den fundamentale natur af analogt tænkning, synes flere kritiske betingelser og teknikker at være nødvendige.

Strukturelt rig og varieret træningsdata

Den første betingelse er, at AI-systemer trænes på data, der går ud over overfladiske tekst-mønstre. Internettet, med dets enorme repository af videnskabelige artikler, teknisk dokumentation, kreative værker og forklarende indhold, er et godt udgangspunkt. Men ikke blot hvilket som helst internettet-data vil gøre. Det, der kræves, er strukturel diversitet. Med andre ord, for at guide AI-systemer mod at lære at genkende abstrakte mønstre, bør udviklere starte med at udsætte dem for kontraster fra dag ét af træningen. Deres træningsdata kunne omfatte arkitektoniske tegninger sammen med musikalske partitur, matematiske beviser sammen med digte eller juridiske argumenter sammen med opskrifter. Da hvert domæne inkorporerer forskellige typer relationelle strukturer, ville et AGI-til-væren profitere af denne type øvelse.

Endnu vigtigere er det, at disse data skal bevare og fremhæve strukturelle relationer, ikke blot statistiske korrelationer. Viden grafer, årsags-diagrammer og eksplicit kortlagte relationer mellem begreber kunne hjælpe AI-systemer med at lære at “se” struktur snarere end at memorere associationer mekanisk. Tænk på det som at undervise AI ikke blot i, hvad ting er, men hvordan de relaterer til hinanden på principielle måder.

Testning ud over træningssættet

For at sikre, at AI-systemer lærer at resonere analogt, og ikke blot forbedrer deres mimikri-færdigheder, har vi brug for værktøjer, der bevidst tester deres evne til at kortlægge struktur over på situationer, de aldrig har mødt før. Dette indebærer at konstruere testopgaver, der bevidst afviger fra noget, der sandsynligvis vil optræde i træningsdata – hvad forskere kalder “kontrafaktiske” opgaver.

For eksempel kunne vi i stedet for at bede en AI om at løse standard-analogier som “hvalp er til hund som kat er til ____” præsentere den for opgaver, der bruger opfundne begreber eller bede den om at kortlægge relationer mellem domæner, den aldrig har set forbundet. Kan den genkende, at relationen mellem ingredienser og en opskrift paralleller relationen mellem bevis og et juridisk argument, selv om den aldrig har mødt denne specifikke sammenligning? Sådanne tests ville afsløre, om systemet forstår underliggende strukturer eller blot husker lignende eksempler.

Måling af, hvad der betyder noget

Det gode nyt for AI-udviklere er, at der er årtiers værd af kognitiv videnskabsforskning, der handler specifikt med, hvordan mennesker behandler analogier. De kan bruge denne forskning til at udvikle solide benchmark for analogisk resonnering. Dog må disse benchmark gå ud over blot at tælle korrekte svar på analogi-tester. Det, der virkelig er nødvendigt, er målinger, der fanger, om AI-systemer kan identificere, hvilke relationer der er relevante at kortlægge, mens de ignorerer overfladiske ligheder og opretholder konsistens over deres kortlægninger.

Dette kunne indebære scoringssystemer, der belønner identificering af højere-ordens relationer. For eksempel ville en AI score højere, hvis den kan ikke blot genkende, at både atomer og solsystemer indebærer kredsende, men også forstå de årsagsmæssige relationer, der styrer disse kredsløb. En anden kompetence, der kunne evalueres, kunne være, om AI kan spontant generere passende analogier til at forklare nye begreber, ikke blot løse forstrukturerede analogi-opgaver.

Støtte gennem promptning

Nylig forskning tyder på, at AI’s evne til at tænke analogt afhænger i høj grad af, hvordan den bliver bedt om at gøre det. Analogisk promptning – eksplicit guidning af modeller gennem processen med strukturel kortlægning – kan fremkalde mere sofistikeret resonnering end blot at præsentere problemer koldt. Dette kunne indebære at bede systemet om først at identificere relationer i en kilde-domæne, derefter eksplicit bede det om at kortlægge disse relationer over på et mål-domæne.

Denne teknik kunne tjene dobbelt formål: forbedre nuværende AI-systemers analoge evner og generere træningsdata for fremtidige modeller. Ved at optage succesfulde eksempler på guidet analogisk resonnering kan eksempler skabes, der kan lære efterfølgende systemer at engagere i denne proces mere naturligt.

Hybrid-arkitekturer

At opnå menneske-lignende analogisk resonnering kan kræve at gå ud over ren neurale netværks-tilgange. Hybrid-systemer, der kombinerer mønster-genkendelse med symbolisk resonnering – eksplicit repræsentation og manipulation af strukturelle relationer – kunne give den manglende del. Mens neurale netværk er gode til at lære implicitte mønstre, kan symboliske systemer påtvinge den strukturelle konsistens og logiske kortlægning, som analogisk resonnering kræver.

Hybrid-arkitekturer er stadig i deres barndom, men forskere er aktivt udforskende deres potentiale. Nogle argumenterer for at kombinere neurale netværk med symbolisk resonnering, der kan føre til forbedret analogisk kapacitet. Andre fremhæver hybrid-modeller, der er bygget til at adressere AI-modellers tendens til at fabrikere og tænke analogt på en overfladisk måde.

Hvorhen?

Afhangigt af, hvem man spørger, er analogisk resonnering enten allerede fremvoksende eller AI’er bliver bare mere sofistikeret i deres mimikri. Uanset hvilken position, der er tættere på sandheden, er det klart, at hvis drømmen om AGI skal realiseres, vil det kræve mere end blot større modeller eller mere data. Det vil også kræve nogle fundamentale innovationer i, hvordan vi strukturerer, træner og evaluerer vores AI-systemer.

Da AI’s transformative kapaciteter udvikler sig, kommer analogisk resonnering til at repræsentere både en kritisk benchmark for præstation og en nøgtern påmindelse om gapet mellem AI’s nuværende kapaciteter og ægte menneskelig kognition. Når et AI-system kan se, at demokrati er for borgere, hvad orkester er for musikere – genkendelse ikke overfladiske træk, men dybe strukturelle relationer om koordination, repræsentation og fremvoksende harmoni – vil det have overskredet en kritisk tærskel mod sand intelligens.