Å tenke som et menneske: Kan AI utvikle analogisk resonnement?

Når mennesker møter noe nytt, søker de instinktivt etter sammenligninger. Et barn som lærer om atomer, kan høre at elektronene går i bane rundt atomkjernen “som planeter går i bane rundt solen.” En entrepreneur kan presentere sitt startup som “Uber for pet grooming.” En forsker kan fortelle en ikke-spesialistisk publikum at hjernen prosesserer informasjon “som en datamaskin.”

Dette mentale spranget – å se hvordan en ting ligner en annen i sin dypere struktur – kalles analogisk resonnement. Og det kan være ingrediensen som skiller menneskelig intelligens fra AI i dens nåværende form. Hvis vi noen gang skal utvikle kunstig generell intelligens – det hellige gral av AI som har vist seg å være så vanskelig å oppnå – må vi finne ut om det er mulig for maskiner å lære å tenke analogt. Innsatsen kan ikke være høyere. Hvis svaret er “Nei”, vil selv de mest avanserte AI-systemene for alltid forbli ikke mer enn glorifiserte regnemaskiner. De vil ikke kunne løse problemer som krever mer enn en omordning av dataene de har blitt trent på.

Arkitekturen for forståelse

Analogisk resonnement fungerer på et nivå av strukturelle, ikke overfladiske, likheter. For eksempel, hva gjør hjerte og vannpumper lignende? Det er ikke deres fysiske utseende. Det er faktum at begge utfører samme funksjon, nemlig å sirkulere væske gjennom et system. Og det er nettopp denne evnen til å kartlegge relasjoner som er typiske i en kontekst over på en annen kontekst som gjør menneskelig læring, kreativitet og problemløsning så unik.

Det finnes ingen mangel på eksempler fra virkeligheten. Ta August Kekulé, den briljante tyske kjemikeren, som fikk en hint om benzens struktur i form av en drøm hvor han så en slange som biter seg selv i halen. I dag bruker programmerere lærdommer fra organisering av et kjøkken når de strukturerer kode, og lærere forklarer elektrisk strøm ved å sammenligne den med vann som flyter gjennom rør.

Nåværende AI-systemer har imidlertid vanskelig for å mestre denne vanlige kognitive ferdigheten. Når de blir bedt om å løse oppgaver, er moderne store språkmodeller (LLM) mer enn glade for å forklare hvorfor “tid er penger” eller å fullføre verbale resonnement-oppgaver. Men økende bevis tyder på at de ofte driver med sofistikert mønster-gjenkjenning, snarere enn ekte strukturell kartlegging. Når forskere presenterer disse modellene med nye analoge problemer som avviker fra deres treningsdata, synker ofte prestasjonene. Dette skyldes at LLM-er utmerker seg i å gjenta analogier de har sett før, men feiler når de blir bedt om å etablere nye forbindelser.

Ingen analogisk resonnement, ingen AGI

Det er åpenbart at analogisk resonnement er sine qua non for AGI. Uten det, forbli AI-systemer skjøre, ute av stand til å tilpasse kunnskap som er relevant i en domene for å løse problemer i en annen. For eksempel, tenk på en selvstyrt bil som har lært å navigere i solfylte California-gater, men ikke kan ekstrapolere denne læringen for å håndtere snøforhold. Bilens AI-system er en dyr mønster-gjenkjenner, ikke et system som er i stand til ekte intelligens. Ekte intelligens ville kreve kognitiv fleksibilitet til å gjenkjenne at å kjøre på isete veier er strukturelt sammenlignbar med andre glatte-overflate-scenarier, selv om detaljene forskjeller.

Samme prinsipp gjelder i domener utenfor autonome kjøretøy, naturligvis. Analogt tenkning driver også fremgang i vitenskap, medisinsk diagnose, juridisk resonnement og kreative bestrebelser. AI-systemer uten denne kapasiteten ligner en forsker som har memorert en hel bibliotek, men ikke kan syntetisere denne kunnskapen på tvers av disipliner. Imponerende, visst, men bare på en snever måte.

Bygging av den analoge hjernen

Hva ville det så ta å utvikle AI-systemer som er i stand til menneske-lignende analogisk resonnement? Basert på fremvoksende forskning og den grunnleggende naturen til analogt tenkning, synes flere kritiske betingelser og tekniker å være nødvendige.

Strukturelt rikt og diversifisert treningsdata

Det første kravet er å ha AI-systemer som er trent på data som går utover overfladiske tekst-mønster. Internettet, med sin enorme samling av vitenskapelige artikler, teknisk dokumentasjon, kreative verk og forklarende innhold, er et godt utgangspunkt. Men ikke bare noen som helst internett-data vil gjøre. Hva som er nødvendig, er strukturell diversitet. Med andre ord, for å guide AI-systemer mot å lære å gjenkjenne abstrakte mønster, bør utviklere starte med å eksponere dem for kontraster fra første dag av treningsfasen. Deres treningsdata kunne omfatte arkitektoniske tegninger sammen med musikalske partiturer, matematiske bevis sammen med poesi, eller juridiske argumenter sammen med oppskrifter.

Viktigere ennno, denne dataen må bevare og fremheve strukturelle relasjoner, ikke bare statistiske korrelasjoner. Kunnskapsgrafer, årsaksdiagrammer og eksplisitt kartlagte relasjoner mellom konsepter kunne hjelpe AI-systemer å lære å “se” struktur snarere enn å memorere assosiasjoner mekanisk. Tenk på det som å lære AI ikke bare hva ting er, men hvordan de relaterer til hverandre på en prinsipiell måte.

Testing utenfor treningssettet

For å sikre at AI-systemer lærer å resonnere analogt, og ikke bare forbedrer sine mimikry-ferdigheter, trenger vi verktøy som bevisst tester deres evne til å kartlegge struktur over på situasjoner de aldri har møtt før. Dette innebærer å konstruere testoppgaver som er bevisst forskjellige fra noe som kan dukke opp i treningsdata – hva forskere kaller “kontrafaktiske” oppgaver.

For eksempel, i stedet for å be en AI om å fullføre standard-analogier som “valp er til hund som kattunge er til ____”, kunne vi presentere den med problemer som bruker oppdiktede konsepter eller be den om å kartlegge relasjoner mellom domener den aldri har sett koblet sammen. Kan den gjenkjenne at relasjonen mellom ingredienser og en oppskrift paralleller relasjonen mellom bevis og et juridisk argument, selv om den aldri har møtt denne spesifikke sammenligningen? Slike tester ville avsløre om systemet forstår underliggende strukturer eller bare husker lignende eksempler.

Måling av hva som teller

Det gode nyheten for AI-utviklere er at det finnes tiårsverk av kognitiv vitenskapelig forskning som handler spesifikt med hvordan mennesker prosesserer analogier. De kan bruke denne forskningen til å utvikle robuste målestokker for analogisk resonnement. Imidlertid må disse målestokkene gå utover å bare telle riktige svar på analogi-tester. Hva som virkelig er nødvendig, er målestokker som fanger om AI-systemer kan identifisere hvilke relasjoner som er relevante å kartlegge, mens de ignorerer overfladiske likheter og opprettholder konsistens over sine kartlegginger.

Dette kunne innebære vurderingssystemer som belønner identifisering av høyere-ordens-relasjoner. For eksempel, en AI vil få en høyere score hvis den kan ikke bare gjenkjenne at både atomer og solsystemer innebærer baner, men også forstå de årsaksrelasjoner som styrer disse banene. En annen kompetanse som kan vurderes, er om AI kan spontant generere passende analogier for å forklare nye konsepter, ikke bare fullføre forhåndsstrukturerte analogi-oppgaver.

Scaffolding gjennom prompting

Nylig forskning tyder på at AI-sin evne til å tenke analogt avhenger i stor grad av hvordan den blir bedt om å gjøre det. Analogisk prompting – å eksplisitt guide modellene gjennom prosessen med strukturell kartlegging – kan fremkalle mer sofistikert resonnement enn å bare presentere problemer kaldt. Dette kunne innebære å først be systemet om å identifisere relasjoner i en kilde-domene, deretter å eksplisitt be det om å kartlegge disse relasjonene over på en mål-domene.

Denne teknikken kunne tjene doble formål: å forbedre nåværende AI-systemers analoge evner, mens den også genererer treningsdata for fremtidige modeller. Ved å registrere suksessfulle eksempler på guidet analogisk resonnement, kan eksempler skapes som kan lære påfølgende systemer å engasjere i denne prosessen på en mer naturlig måte.

Hybrid-arkitekturer

Å oppnå menneske-lignende analogisk resonnement kan kreve å gå utover ren neurale nettverks-tilnærminger. Hybrid-systemer som kombinerer mønster-gjenkjenning med symbolisk resonnement – å eksplisitt representere og manipulere strukturelle relasjoner – kunne gi den manglende biten. Mens neurale nettverk utmerker seg i å lære implisitte mønster, kan symboliske systemer påtvinge den strukturelle konsistensen og logiske kartlegging som analogisk resonnement krever.

Hybrid-arkitekturer er fortsatt i sin barndom, men forskere er aktivt i ferd med å utforske deres potensiale. Noen argumenterer for å kombinere neurale nettverk med symbolisk resonnement som kunne føre til forbedret analogisk evne. Andre fremmer hybrid-modeller bygget for å håndtere AI-modellens tendens til å fabrikkere og tenke analogt på en overfladisk måte.

Hvor videre?

Avhengig av hvem du spør, er analogisk resonnement enten allerede emergent eller AI-er bare blir mer sofistikerte i sin mimikry. Uansett hvilken posisjon som er nærmere sannheten, er det klart at hvis drømmen om AGI skal realiseres, vil det kreve mer enn bare større modeller eller mer data. Det vil også kreve noen grunnleggende innovasjoner i hvordan vi strukturerer, trener og vurderer våre AI-systemer.

Etterhvert som AI-sin transformative evner utvikles, kommer analogisk resonnement til å representere både en kritisk benchmark for prestasjon og en sørgmodig påminnelse om gapet mellom AI-sin nåværende evner og ekte menneskelig kognisjon. Når et AI-system kan se at demokrati er til borgere hva et orkester er til musikere – gjenkjenner ikke overfladiske trekk, men dype strukturelle relasjoner om koordinering, representasjon og emergent harmoni – vil det ha krysset en kritisk terskel mot sanne intelligens.