DeepMind: AI kan arve menneskelige kognitive begrænsninger, kunne have gavn af ‘formel uddannelse’

En ny samarbejdsprojekt mellem DeepMind og Stanford University antyder, at AI ofte ikke er bedre til abstrakt tænkning end mennesker, fordi maskinelæringsmodeller får deres tænkningssystemer fra virkelige, menneskelige eksempler, der er grundet i praktisk kontekst (som AI ikke kan opleve), men også er hæmmet af vores egne kognitive svagheder.

Dette kan være en barriere for den overlegne ‘blue sky’-tænkning og kvaliteten af intellektuel oprindelse, som mange håber på fra maskinelæringsystemer, og viser, i hvilken udstrækning AI afspejler menneskelig erfaring og er tilbøjelig til at tænke (og resonere) inden for de menneskelige grænser, der har informeret det.

Forskerne foreslår, at AI-modeller kunne have gavn af en forudgående træning i abstrakt tænkning, som de sammenligner med en ‘formel uddannelse’, før de sættes til at arbejde på virkelige opgaver.

Artiklen siger:

‘Mennesker er ufuldkomne tænkere. Vi tænker mest effektivt om entiteter og situationer, der er konsistente med vores forståelse af verden.

‘Vore eksperimenter viser, at sprogmodeller spejler disse mønstre af adfærd. Sprogmodeller udfører ufuldkomment logisk tænkning, men denne præstation afhænger af indhold og kontekst. Mest bemærkelsesværdigt, sådanne modeller fejler ofte i situationer, hvor mennesker fejler — når stimuli bliver for abstrakte eller modsiger forudgående forståelse af verden.’

For at teste, i hvilken udstrækning hyperskala, GPT-niveau Natural Language Processing (NLP)-modeller kunne være påvirkede af sådanne begrænsninger, udførte forskerne en række af tre tests på en passende model, og konkluderede*:

‘Vi finder, at state of the art store sprogmodeller (med 7 eller 70 milliarder parametre) spejler mange af de samme mønstre, der observeres hos mennesker på tværs af disse opgaver — ligesom mennesker, modeller tænker mere effektivt om overbevisende situationer end urealistiske eller abstrakte.’

‘Vore resultater har implikationer for at forstå både disse kognitive effekter og de faktorer, der bidrager til sprogmodelpræstation.’

Artiklen foreslår, at skabelsen af tænkningsevner i en AI uden at give det fordelene af den virkelige, fysiske erfaring, der sætter sådanne evner i kontekst, kunne begrænse potentialet for sådanne systemer, og observerer, at ‘grundlagt erfaring… formodentlig underbygger nogle menneskelige overbevisninger og tænkning’.

Forfatterne påstår, at AI oplever sprog passivt, hvorimod mennesker oplever det som en aktiv og central komponent for social kommunikation, og at denne type aktiv deltagelse (der indebærer konventionelle sociale systemer for straf og belønning) kunne være ‘nøgle’ til at forstå mening på samme måde, som mennesker gør.

Forskerne observerer:

‘Nogle forskelle mellem sprogmodeller og mennesker kan derfor stamme fra forskelle mellem den rige, grundlagte, interaktive erfaring af mennesker og den fattige erfaring af modellerne.’

De foreslår, at en løsning kunne være en periode med ‘forudgående træning’, ligesom mennesker oplever i skolesystemet og på universitetet, før træning på kerndata, der vil bygge en nyttig og alsidig sprogmodel.

Denne periode med ‘formel uddannelse’ (som forskerne sammenligner) ville adskille sig fra konventionel maskinelæringsforudtræning (der er en metode til at reducere træningstiden ved at genbruge semi-trænede modeller eller importere vægte fra fuldt trænede modeller som en ‘booster’ til at starte træningsprocessen).

Det ville i stedet repræsentere en periode med vedvarende læring designet til at udvikle AI’s logiske tænkningsevner på en rent abstrakt måde og til at udvikle kritiske færdigheder på samme måde, som en universitetsstuderende vil blive opmuntret til at gøre over længere tid.

‘Flere resultater,’ siger forfatterne, ‘antyder, at dette ikke er så utopisk, som det lyder’.

Artiklen er titlen Language models show human-like content effects on reasoning og kommer fra seks forskere på DeepMind og en tilknyttet både DeepMind og Stanford University.

Tests

Mennesker lærer abstrakte begreber gennem praktiske eksempler, på samme måde som ‘implizert vigtighed’, der ofte hjælper sprogtilhørende med at huske ord og sprogregler via mnemonik. Det enkleste eksempel på dette er at undervise abstruse principper i fysik ved at konstruere ‘rejsecenarier’ for tog og biler.

For at teste den abstrakte tænkningsevne hos en hyperskala-sprogmodel, udviklede forskerne en række af tre lingvistiske/semantiske tests, der kan være udfordrende for både mennesker og maskiner. Testene blev anvendt ‘zero shot’ (uden løste eksempler) og ‘five shot’ (med fem forudgående løste eksempler).

Den første opgave relaterer til naturlig sprogslæring (NLI), hvor subjektet (en person eller i dette tilfælde en sprogmodel) modtager to sætninger, en ‘præmis’ og en ‘hypotese’, der synes at være deduceret fra præmissen. For eksempel X er mindre end Y, Hypotese: Y er større end X (medført).

For den naturlige sprogslæring-opgave evaluerede forskerne sprogmodellerne Chinchilla (en 70 milliarder parametre-model) og 7B (en 7 milliarder parametre-version af samme model), og fandt, at for de konsistente eksempler (dvs. dem, der ikke var nonsens), kun den større Chinchilla-model opnåede resultater højere end ren chance; og de bemærker:

‘Dette indikerer en stærk indholdsbias: modellerne foretrækker at fuldføre sætningen på en måde, der er konsistent med forudgående forventninger, snarere end på en måde, der er konsistent med logikkens regler’.

Chinchillas 70-milliarder parametre-præstation i NLI-opgaven. Begge denne model og dens slankere version 7B viste ‘substantiel overbevisningsbias’, ifølge forskerne. Kilde: https://arxiv.org/pdf/2207.07051.pdf

Syllogismer

Den anden opgave præsenterer en mere kompleks udfordring, syllogismer – argumenter, hvor to sande udsagn åbenbart antyder et tredje udsagn (der kan være eller ikke være en logisk konklusion, der kan sluttes fra de to forudgående udsagn):

Fra artiklens testmateriale, forskellige ‘realistiske’ og paradoksale eller nonsensuelle syllogismer.

Her er mennesker utrolig fejlbarlige, og en konstruktion, der er designet til at eksemplificere en logisk princip, bliver næsten med det samme (og måske permanent) indviklet og forvirret af menneskelig ‘overbevisning’ om, hvad det rigtige svar burde være.

Forfatterne bemærker, at en studie fra 1983 viste, at deltagere var fordommede af, om en syllogisms konklusion stemte overens med deres egne overbevisninger, og bemærker:

‘Deltagere var langt mere sandsynlige (90% af tiden) at fejlagtigt sige, at en ugyldig syllogism var gyldig, hvis konklusionen var overbevisende, og således primært afhængigt af overbevisning snarere end abstrakt tænkning.’

Ved at teste Chinchilla mod en række forskellige syllogismer, mange af dem med falske konklusioner, fandt forskerne, at ‘overbevisningsbias driver næsten alle zero-shot-beslutninger’. Hvis sprogmodellen finder en konklusion, der er inkonsistent med virkeligheden, er modellen, ifølge forfatterne, ‘stærkt fordommet’ til at erklære den endelige argument for ugyldig, selv hvis den endelige argument er en logisk konsekvens af de forudgående udsagn.

Zero-shot-resultater for Chinchilla (zero-shot er den måde, hvorpå de fleste testpersoner ville modtage disse udfordringer, efter en forklaring af den ledende regel), der illustrerer den store kløft mellem en computers beregningskapacitet og en NLP-models kapacitet til at navigere denne type ‘nascent logik’-udfordring.

Wason Selektionstesten

For den tredje test blev den endnu mere udfordrende Wason Selektionstest logikproblem reformuleret i en række varierende iterationer for sprogmodellen at løse.

Wason-testen, der blev udviklet i 1968, er åbenbart meget enkel: deltagere vises fire kort, og fortælles en vilkårlig regel, såsom ‘Hvis et kort har et “D” på den ene side, så har det et “3” på den anden side.’ De fire synlige kortflader viser ‘D’, ‘F’, ‘3’ og ‘7’.

Deltagerne bedes derefter om at vælge, hvilke kort de skal vende for at verificere, om reglen er sand eller falsk.

Den korrekte løsning i dette eksempel er at vende kortene ‘D’ og ‘7’. I tidlige tests fandt man, at mens de fleste (menneskelige) deltagere korrekt ville vælge ‘D’, var de mere sandsynlige at vælge ‘3’ snarere end ‘7’, og forvirrede kontrapositivet af reglen (‘ikke 3 antyder ikke D’) med konversen (‘3’ antyder ‘D’, som ikke er logisk antydet).

Forfatterne bemærker, at potentialet for forudgående overbevisning til at gribe ind i den logiske proces hos menneskelige deltagere, og bemærker yderligere, at selv akademiske matematikere og universitetsstuderende i matematik generelt scorede under 50% på denne opgave.

Men når skemaet for en Wason-opgave på en eller anden måde afspejler menneskelig praktisk erfaring, stiger præstationen traditionelt derefter.

Forfatterne observerer, med reference til tidligere eksperimenter:

‘[Hvis] kortene viser alder og drikkevarer, og reglen er “hvis de drikker alkohol, så skal de være 21 eller ældre” og viser kort med ’øl’, ’sodavand’, ’25’, ’16’, så vælger de fleste deltagere korrekt at tjekke kortene, der viser ’øl’ og ’16’.’

For at teste sprogmodelpræstation på Wason-opgaver, udviklede forskerne diverse realistiske og vilkårlige regler, nogle med ‘nonsens’-ord, for at se, om AI kunne gennemtrænge konteksten af indhold for at afgøre, hvilke ‘virtuelle kort’ at flippe over.

Nogle af de mange Wason Selektionstest-puzzler, der blev præsenteret i testene.

For Wason-testene udførte modellen komparabelt med mennesker på ‘realistiske’ (ikke-nonsens) opgaver.

Zero-shot Wason Selektionstest-resultater for Chinchilla, med modellen, der udfører langt over tilfældigt, i hvert fald for de ‘realistiske’ regler.

Artiklen kommenterer:

‘Dette afspejler resultater i den menneskelige litteratur: mennesker er langt mere præcise, når de besvarer Wason-opgaven, når den er formuleret i realistiske situationer end i vilkårlige regler om abstrakte attributter.’

Formel uddannelse

Artiklens resultater rammer tænkningsevnen hos hyperskala NLP-systemer i kontekst af vores egne begrænsninger, som vi synes at overføre til modeller via de akkumulerede virkelige datasæt, der driver dem. Da de fleste af os ikke er genier, er modellerne heller ikke det.

Derudover konkluderer den nye forskning, at vi i hvert fald har fordelene af en vedvarende periode med formative uddannelse og de yderligere sociale, økonomiske og endda seksuelle motiver, der danner den menneskelige imperativ. Alt, hvad NLP-modeller kan opnå, er de resulterende handlinger af disse miljøfaktorer, og de synes at være i overensstemmelse med den generelle menneskelige snarere end den exceptionelle.

Forfatterne siger:

‘Vore resultater viser, at indholdseffekter kan opstå fra blot at træne en stor transformer til at efterligne sprog produceret af menneskelig kultur, uden at inkorporere disse menneskespecifikke interne mekanismer.

‘Med andre ord, sprogmodeller og mennesker ankommer begge til disse indholdsbias – men fra åbenbart meget forskellige arkitekturer, erfaringer og træningsmål.’

Derfor foreslår de en slags ‘induktions-træning’ i ren tænkning, som har vist sig at forbedre modelpræstation for matematik og generel tænkning. De bemærker yderligere, at sprogmodeller også er blevet trænet eller tilpasset til at følge instruktioner bedre på et abstrakt eller generaliseret niveau og til at verificere, korrigere eller debiasere deres egen output.

* Min konvertering af inline-citationer til hyperlinks.

Først udgivet 15. juli 2022.