DeepMind: AI kan menselijke cognitieve beperkingen erven, zou baat hebben bij ‘formele opleiding’

Een nieuwe samenwerking tussen DeepMind en Stanford University suggereert dat AI vaak niet beter is in abstract redeneren dan mensen, omdat machine learning-modellen hun redeneerarchitecturen verkrijgen uit voorbeelden uit de echte wereld die zijn geworteld in praktische context (die de AI niet kan ervaren), maar ook worden gehinderd door onze eigen cognitieve tekortkomingen.

Als dit wordt bewezen, kan dit een barrière vormen voor het superieure ‘blauwe hemel’ denken en de kwaliteit van intellectuele oorsprong die veel mensen hopen van machine learning-systemen, en illustreert de mate waarin AI menselijke ervaring weerspiegelt en geneigd is te cogiteren (en te redeneren) binnen de menselijke grenzen die het heeft geïnformeerd.

De onderzoekers suggereren dat AI-modellen kunnen profiteren van een vooropleiding in abstract redeneren, wat ze vergelijken met een ‘formele opleiding’, voordat ze worden ingezet voor taken in de echte wereld.

Het artikel zegt:

‘Mensen zijn onvolmaakte redeneraars. We redeneren het meest effectief over entiteiten en situaties die consistent zijn met onze kennis van de wereld.

‘Onze experimenten laten zien dat taalmodellen deze patronen van gedrag weerspiegelen. Taalmodellen presteren onvolmaakt op logische redeneertaken, maar deze prestatie hangt af van de inhoud en context. Het meest opvallend is dat dergelijke modellen vaak falen in situaties waarin mensen falen — wanneer stimuli te abstract worden of in conflict komen met onze kennis van de wereld.’

Om de mate te testen waarin hyperschaalbare, GPT-niveau Natural Language Processing (NLP)-modellen door dergelijke beperkingen kunnen worden beïnvloed, voerden de onderzoekers een reeks van drie tests uit op een geschikt model, en concludeerden*:

‘We vinden dat state-of-the-art grote taalmodellen (met 7 of 70 miljard parameters) veel van dezelfde patronen vertonen die bij mensen worden waargenomen — net als mensen, redeneren modellen effectiever over geloofwaardige situaties dan over onrealistische of abstracte situaties.

‘Onze bevindingen hebben implicaties voor het begrijpen van zowel deze cognitieve effecten als de factoren die bijdragen aan de prestaties van taalmodellen.’

Het artikel suggereert dat het creëren van redeneervaardigheden in een AI zonder het de voordelen van echte, fysieke ervaring te geven die dergelijke vaardigheden in context plaatst, de potentie van dergelijke systemen kan beperken, en opmerkt dat ‘gegronde ervaring… vermoedelijk enkele menselijke overtuigingen en redeneringen ondersteunt’.

De auteurs stellen dat AI taal passief ervaart, terwijl mensen taal ervaren als een actief en centraal onderdeel van sociale communicatie, en dat dit soort actieve deelname (dat conventionele sociale systemen van straf en beloning omvat) ‘sleutel’ kan zijn voor het begrijpen van betekenis op dezelfde manier als mensen.

De onderzoekers merken op:

‘Enkele verschillen tussen taalmodellen en mensen kunnen daarom voortkomen uit de rijke, gefundeerde, interactieve ervaring van mensen en de verarmde ervaring van de modellen.’

Ze suggereren dat een oplossing kan zijn een periode van ‘vooropleiding’, net als mensen die in het schoolsysteem en universiteit ervaren, voordat ze worden opgeleid voor core-data die uiteindelijk een nuttig en veelzijdig taalmodel zullen bouwen.

Deze periode van ‘formele opleiding’ (zoals de onderzoekers analogiseren) zou verschillen van conventionele machine learning-vooropleiding (die een methode is om de opleidingstijd te verkorten door semi-getrainde modellen te hergebruiken of gewichten te importeren van volledig getrainde modellen, als een ‘booster’ om het opleidingsproces te starten).

Het zou een periode van duurzame leerervaring vertegenwoordigen die is ontworpen om de logische redeneervaardigheden van de AI te ontwikkelen op een puur abstracte manier, en om kritische vaardigheden te ontwikkelen op dezelfde manier als een universiteitsstudent zal worden aangemoedigd om te doen gedurende hun opleiding.

‘Enkele resultaten,’ stellen de auteurs, ‘geven aan dat dit niet zo onrealistisch is als het klinkt’.

Het artikel heet Taalmodellen vertonen mensachtige inhoudseffecten op redeneren, en komt van zes onderzoekers bij DeepMind en één die is aangesloten bij zowel DeepMind als Stanford University.

Tests

Mensen leren abstracte concepten door praktische voorbeelden, op dezelfde manier van ‘geïmpliceerde importantie’ die vaak helpt bij het leren van vocabulaire en linguïstische regels, via mnemonica. Het eenvoudigste voorbeeld hiervan is het onderwijzen van abstracte principes in de natuurkunde door ‘reis scenario’s’ te creëren voor treinen en auto’s.

Om de abstracte redeneervaardigheden van een hyperschaalbaar taalmodel te testen, ontwierpen de onderzoekers een reeks van drie linguïstische/semantische tests die ook voor mensen uitdagend kunnen zijn. De tests werden ‘zero shot’ (zonder voorbeelden) en ‘five shot’ (met vijf voorbeelden) uitgevoerd.

De eerste taak heeft betrekking op natuurlijke taal inferentie (NLI), waarbij het onderwerp (een persoon of, in dit geval, een taalmodel) twee zinnen ontvangt, een ‘premisse’ en een ‘hypothese’ die lijkt te zijn afgeleid van de premisse. Bijvoorbeeld X is kleiner dan Y, Hypothese: Y is groter dan X (geïmpliceerd).

Voor de Natural Language Inference-taak evalueerden de onderzoekers de taalmodellen Chinchilla (een 70 miljard parametermodel) en 7B (een 7 miljard parametermodel van hetzelfde model), en vonden dat voor de consistente voorbeelden (d.w.z. die geen onzin waren), alleen het grotere Chinchilla-model resultaten behaalde die hoger waren dan zuiver toeval; en ze merken op:

‘Dit geeft een sterke inhoudsvoorkeur aan: de modellen geven de voorkeur aan het voltooien van de zin op een manier die consistent is met eerdere verwachtingen, in plaats van op een manier die consistent is met de regels van de logica’.

Chinchilla’s 70-miljard parameterprestaties in de NLI-taak. Beide modellen vertoonden ‘aanzienlijke geloofsbias’, volgens de onderzoekers. Bron: https://arxiv.org/pdf/2207.07051.pdf

Syllogismen

De tweede taak presenteert een complexere uitdaging, syllogismen – argumenten waarin twee waarheden schijnbaar een derde waarheid impliceren (die al dan niet een logische conclusie is die uit de eerste twee waarheden kan worden afgeleid):

Uit het testmateriaal van het artikel, verschillende ‘realistische’ en paradoxale of nonsensuele syllogismen.

Hier zijn mensen enorm kwetsbaar, en een constructie die is ontworpen om een logisch principe te demonstreren, wordt bijna onmiddellijk (en misschien permanent) verward en in de war gebracht door menselijke ‘overtuiging’ over wat het juiste antwoord zou moeten zijn.

De auteurs merken op dat een studie uit 1983 aantoonde dat deelnemers werden beïnvloed door of een syllogisme’s conclusie overeenkwam met hun eigen overtuigingen, en opmerken:

‘Deelnemers waren veel vaker (90% van de tijd) geneigd om een ongeldige syllogisme als geldig te beschouwen als de conclusie geloofwaardig was, en vertrouwden dus voornamelijk op overtuiging in plaats van abstract redeneren.’

Bij het testen van Chinchilla tegen een reeks van diverse syllogismen, veel met conclusies die vals waren, vonden de onderzoekers dat ‘overtuigingsbias bijna alle zero-shot beslissingen aandrijft’. Als het taalmodel een conclusie tegenkomt die in strijd is met de realiteit, is het model, volgens de auteurs, ‘sterk bevooroordeeld’ om het eindargument ongeldig te verklaren, zelfs als het eindargument een logische implicatie is van de voorgaande statements.

Zero-shot resultaten voor Chinchilla (zero-shot is de manier waarop de meeste testonderwerpen deze uitdagingen zouden ontvangen, na een uitleg van de leidende regel), die de enorme kloof tussen de berekeningscapaciteit van een computer en de capaciteit van een NLP-model om deze soort ‘pril logische’ uitdaging te navigeren, illustreren.

De Wason Selectie Taak

Voor de derde test werd de nog uitdagender Wason Selectie Taak logische probleem herschreven in een aantal variaties voor het taalmodel om op te lossen.

De Wason-taak, ontwikkeld in 1968, is ogenschijnlijk heel eenvoudig: deelnemers worden vier kaarten getoond en een willekeurige regel verteld, zoals ‘Als een kaart een ‘D’ op de ene kant heeft, dan heeft het een ‘3’ op de andere kant.’ De vier zichtbare kaartvlakken tonen ‘D’, ‘F’, ‘3’ en ‘7’.

De onderwerpen worden vervolgens gevraagd welke kaarten ze moeten omdraaien om te verifiëren of de regel waar of onwaar is.

De juiste oplossing in dit voorbeeld is om de kaarten ‘D’ en ‘7’ om te draaien. In vroege tests werd gevonden dat de meeste (menselijke) onderwerpen correct ‘D’ zouden kiezen, maar vaker ‘3’ in plaats van ‘7’ zouden kiezen, waardoor ze de contrapositie van de regel (‘niet 3 impliceert niet D’) verwarren met de converse (‘3’ impliceert ‘D’, wat niet logisch geïmpliceerd wordt).

De auteurs merken op dat de mogelijkheid voor eerdere overtuiging om in te grijpen in het logische proces bij menselijke onderwerpen, en merken verder op dat zelfs academische wiskundigen en undergraduate wiskundigen over het algemeen minder dan 50% scoorden bij deze taak.

Als de schema van een Wason-taak op de een of andere manier menselijke praktische ervaring weerspiegelt, stijgt de prestatie traditioneel dienovereenkomstig.

De auteurs merken op, verwijzend naar eerdere experimenten:

‘[Als] de kaarten leeftijden en drankjes tonen, en de regel is “als ze alcohol drinken, moeten ze 21 jaar of ouder zijn” en kaarten tonen met ‘bier’, ‘soda’, ‘25’, ‘16’, kiezen de meeste deelnemers correct de kaarten met ‘bier’ en ‘16’.’

Om de prestaties van taalmodellen op Wason-taken te testen, creëerden de onderzoekers diverse realistische en willekeurige regels, sommige met ‘onzin’ woorden, om te zien of de AI de context van de inhoud kon doorgronden en kon bepalen welke ‘virtuele kaarten’ om te draaien.

Enkele van de vele Wason Selectie Taak puzzels die in de tests werden gepresenteerd.

Voor de Wason-taken presteerde het model vergelijkbaar met mensen op ‘realistische’ (niet-onzinnige) taken.

Zero-shot Wason Selectie Taak resultaten voor Chinchilla, met het model dat boven toeval presteert, tenminste voor de ‘realistische’ regels.

Het artikel merkt op:

‘Dit weerspiegelt bevindingen in de menselijke literatuur: mensen zijn veel nauwkeuriger bij het beantwoorden van de Wason-taak wanneer deze wordt geformuleerd in termen van realistische situaties dan willekeurige regels over abstracte attributen.’

Formele Opleiding

De bevindingen van het artikel plaatsen het redeneervermogen van hyperschaalbare NLP-systemen in de context van onze eigen beperkingen, die we lijken over te dragen aan modellen via de opgebouwde datasets uit de echte wereld die hen aandrijven. Aangezien de meesten van ons geen genieën zijn, zijn de modellen waarvan de parameters zijn geïnformeerd door onze eigen evenmin.

Daarnaast concludeert het nieuwe onderzoek dat we tenminste het voordeel hebben van een langdurige periode van vormende opleiding, en de extra sociale, financiële en zelfs seksuele motivaties die de menselijke imperatief vormen. Alles wat NLP-modellen kunnen verkrijgen, zijn de resulterende acties van deze omgevingsfactoren, en ze lijken te conformeren naar het algemene in plaats van het uitzonderlijke menselijke.

De auteurs stellen:

‘Onze resultaten laten zien dat inhoudseffecten kunnen ontstaan door eenvoudigweg een grote transformer te trainen om taal te imiteren die wordt geproduceerd door de menselijke cultuur, zonder deze menselijke, interne mechanismen te incorporeren.

‘Met andere woorden, taalmodellen en mensen komen beide tot deze inhoudsvoorkeuren – maar vanuit ogenschijnlijk heel verschillende architectuur, ervaring en trainingsdoelen.’

Ze suggereren dus een soort ‘inductie training’ in zuivere redenering, die is aangetoond om de prestaties van modellen voor wiskunde en algemene redenering te verbeteren. Ze merken verder op dat taalmodellen ook zijn getraind of aangepast om instructies beter te volgen op een abstract of gegeneraliseerd niveau, en om hun eigen output te verifiëren, corrigeren of debiasen.

* Mijn conversie van inline citaten naar hyperlinks.

Origineel gepubliceerd op 15 juli 2022.