Andersons hoek
DeepMind: AI kan menselijke cognitieve beperkingen erven, zou baat hebben bij ‘formele opleiding’

Belangrijkste puntenDeepMind en Stanford tonen aan dat AI de menselijke overtuigingsbias weerspiegelt bij…
Meer weergeven
- DeepMind en Stanford tonen aan dat AI de menselijke overtuigingsbias weerspiegelt bij logische redeneertaken.
- Taalmodellen worstelen met abstracte logica, maar presteren goed bij realistische Wason-keuzetaken.
- Onderzoekers stellen formele onderwijsachtige pre-training voor om de abstracte redeneervaardigheden van AI te verbeteren.
Een nieuwe samenwerking tussen DeepMind en Stanford University suggereert dat AI vaak niet beter is in abstract redeneren dan mensen, omdat machine learning-modellen hun redeneerarchitecturen verkrijgen uit voorbeelden uit de echte wereld die zijn geworteld in praktische context (die de AI niet kan ervaren), maar ook worden gehinderd door onze eigen cognitieve tekortkomingen.
Als dit wordt bewezen, kan dit een barrière vormen voor het superieure vrije denken en de intellectuele originaliteit die veel mensen verwachten van machine learning-systemen, en illustreert de mate waarin AI menselijke ervaring weerspiegelt en geneigd is te cogiteren (en te redeneren) binnen de menselijke grenzen die het hebben gevormd.
De onderzoekers suggereren dat AI-modellen kunnen profiteren van een vooropleiding in abstract redeneren, wat ze vergelijken met een ‘formele opleiding’, voordat ze worden ingezet voor taken in de echte wereld.
Het artikel zegt:
‘Mensen zijn onvolmaakte redeneraars. We redeneren het meest effectief over entiteiten en situaties die consistent zijn met onze kennis van de wereld.
‘Onze experimenten laten zien dat taalmodellen deze patronen van gedrag weerspiegelen. Taalmodellen presteren onvolmaakt op logische redeneertaken, maar deze prestatie hangt af van de inhoud en context. Het meest opvallend is dat dergelijke modellen vaak falen in situaties waarin mensen falen — wanneer stimuli te abstract worden of in conflict komen met onze kennis van de wereld.’
Om de mate te testen waarin hyperschaalbare, GPT-niveau Natural Language Processing (NLP)-modellen door dergelijke beperkingen kunnen worden beïnvloed, voerden de onderzoekers een reeks van drie tests uit op een geschikt model, en concludeerden*:
‘We vinden dat state-of-the-art grote taalmodellen (met 7 of 70 miljard parameters) veel van dezelfde patronen vertonen die bij mensen worden waargenomen — net als mensen, redeneren modellen effectiever over geloofwaardige situaties dan over onrealistische of abstracte situaties.
‘Onze bevindingen hebben implicaties voor het begrijpen van zowel deze cognitieve effecten als de factoren die bijdragen aan de prestaties van taalmodellen.’
Het artikel suggereert dat het creëren van redeneervaardigheden in een AI zonder het de voordelen van echte, fysieke ervaring te geven die dergelijke vaardigheden in context plaatst, de potentie van dergelijke systemen kan beperken, en opmerkt dat ‘gegronde ervaring… vermoedelijk enkele menselijke overtuigingen en redeneringen ondersteunt’.
De auteurs stellen dat AI taal passief ervaart, terwijl mensen taal ervaren als een actief en centraal onderdeel van sociale communicatie, en dat dit soort actieve deelname (dat conventionele sociale systemen van straf en beloning omvat) ‘sleutel’ kan zijn voor het begrijpen van betekenis op dezelfde manier als mensen.
De onderzoekers merken op:
‘Enkele verschillen tussen taalmodellen en mensen kunnen daarom voortkomen uit de rijke, gefundeerde, interactieve ervaring van mensen en de verarmde ervaring van de modellen.’
Ze suggereren dat een oplossing kan zijn een periode van ‘vooropleiding’, net als mensen die in het schoolsysteem en universiteit ervaren, voordat ze worden opgeleid voor core-data die uiteindelijk een nuttig en veelzijdig taalmodel zullen bouwen.
Deze periode van ‘formele opleiding’ (zoals de onderzoekers analogiseren) zou verschillen van conventionele machine learning-vooropleiding (die een methode is om de opleidingstijd te verkorten door semi-getrainde modellen te hergebruiken of gewichten te importeren van volledig getrainde modellen, als een ‘booster’ om het opleidingsproces te starten).
Het zou een periode van duurzame leerervaring vertegenwoordigen die is ontworpen om de logische redeneervaardigheden van de AI te ontwikkelen op een puur abstracte manier, en om kritische vaardigheden te ontwikkelen op dezelfde manier als een universiteitsstudent zal worden aangemoedigd om te doen gedurende hun opleiding.
‘Enkele resultaten,’ stellen de auteurs, ‘geven aan dat dit niet zo onrealistisch is als het klinkt’.
Het artikel heet Taalmodellen vertonen mensachtige inhoudseffecten op redeneren, en komt van zes onderzoekers bij DeepMind en één die is aangesloten bij zowel DeepMind als Stanford University.
Tests
Mensen leren abstracte concepten door praktische voorbeelden, op dezelfde manier van ‘geïmpliceerde importantie’ die vaak helpt bij het leren van vocabulaire en linguïstische regels, via mnemonica. Het eenvoudigste voorbeeld hiervan is het onderwijzen van abstracte principes in de natuurkunde door ‘reis scenario’s’ te creëren voor treinen en auto’s.
Om de abstracte redeneervaardigheden van een hyperschaalbaar taalmodel te testen, ontwierpen de onderzoekers een reeks van drie linguïstische/semantische tests die ook voor mensen uitdagend kunnen zijn. De tests werden ‘zero shot’ (zonder voorbeelden) en ‘five shot’ (met vijf voorbeelden) uitgevoerd.
De eerste taak heeft betrekking op natuurlijke taal inferentie (NLI), waarbij de proefpersoon (een persoon of, in dit geval, een taalmodel) twee zinnen ontvangt, een ‘premisse’ en een ‘hypothese’ die lijkt te zijn afgeleid van de premisse. Bijvoorbeeld X is kleiner dan Y, Hypothese: Y is groter dan X (geïmpliceerd).
Voor de Natural Language Inference-taak evalueerden de onderzoekers de taalmodellen Chinchilla (een 70 miljard parametermodel) en 7B (een versie van hetzelfde model met 7 miljard parameters), en vonden dat voor de consistente voorbeelden (d.w.z. die geen onzin waren), alleen het grotere Chinchilla-model resultaten behaalde die hoger waren dan zuiver toeval; en ze merken op:
‘Dit geeft een sterke inhoudsvoorkeur aan: de modellen geven de voorkeur aan het voltooien van de zin op een manier die consistent is met eerdere verwachtingen, in plaats van op een manier die consistent is met de regels van de logica’.

Chinchilla’s 70-miljard parameterprestaties in de NLI-taak. Beide modellen vertoonden ‘aanzienlijke geloofsbias’, volgens de onderzoekers. Bron: https://arxiv.org/pdf/2207.07051.pdf
Syllogismen
De tweede taak presenteert een complexere uitdaging, syllogismen – argumenten waarin twee ware uitspraken schijnbaar een derde uitspraak impliceren (die al dan niet een logische conclusie is die uit de eerste twee uitspraken kan worden afgeleid):

Uit het testmateriaal van het artikel, verschillende ‘realistische’ en paradoxale of onzinnige syllogismen.
Hier zijn mensen enorm kwetsbaar, en een constructie die is ontworpen om een logisch principe te demonstreren, wordt bijna onmiddellijk (en misschien permanent) verward en in de war gebracht door menselijke ‘overtuiging’ over wat het juiste antwoord zou moeten zijn.
De auteurs merken op dat een studie uit 1983 aantoonde dat deelnemers werden beïnvloed door of een syllogisme’s conclusie overeenkwam met hun eigen overtuigingen, en opmerken:
‘Deelnemers waren veel vaker (90% van de tijd) geneigd om een ongeldig syllogisme als geldig te beschouwen als de conclusie geloofwaardig was, en vertrouwden dus voornamelijk op overtuiging in plaats van abstract redeneren.’
Bij het testen van Chinchilla tegen een reeks van diverse syllogismen, veel met conclusies die vals waren, vonden de onderzoekers dat ‘overtuigingsbias bijna alle zero-shot beslissingen aandrijft’. Als het taalmodel een conclusie tegenkomt die in strijd is met de realiteit, is het model, volgens de auteurs, ‘sterk bevooroordeeld’ om het eindargument ongeldig te verklaren, zelfs als het eindargument een logische implicatie is van de voorgaande statements.

Zero-shot resultaten voor Chinchilla (zero-shot is de manier waarop de meeste proefpersonen deze uitdagingen zouden ontvangen, na een uitleg van de leidende regel), die de enorme kloof tussen de berekeningscapaciteit van een computer en de capaciteit van een NLP-model om deze soort ‘pril logische’ uitdaging te navigeren, illustreren.
De Wason Selectie Taak
Voor de derde test werd de nog uitdagender Wason Selectie Taak logische probleem herschreven in een aantal variaties voor het taalmodel om op te lossen.
De Wason-taak, ontwikkeld in 1968, is ogenschijnlijk heel eenvoudig: deelnemers worden vier kaarten getoond en een willekeurige regel verteld, zoals ‘Als een kaart een ‘D’ op de ene kant heeft, dan heeft het een ‘3’ op de andere kant.’ De vier zichtbare kaartvlakken tonen ‘D’, ‘F’, ‘3’ en ‘7’.
De proefpersonen worden vervolgens gevraagd welke kaarten ze moeten omdraaien om te verifiëren of de regel waar of onwaar is.
De juiste oplossing in dit voorbeeld is om de kaarten ‘D’ en ‘7’ om te draaien. In vroege tests werd gevonden dat de meeste (menselijke) proefpersonen correct ‘D’ zouden kiezen, maar vaker ‘3’ in plaats van ‘7’ zouden kiezen, waardoor ze de contrapositie van de regel (‘niet 3 impliceert niet D’) verwarren met de converse (‘3’ impliceert ‘D’, wat niet logisch geïmpliceerd wordt).
De auteurs merken op dat de mogelijkheid voor eerdere overtuiging om in te grijpen in het logische proces bij menselijke proefpersonen, en merken verder op dat zelfs academische wiskundigen en bachelorstudenten wiskunde over het algemeen minder dan 50% scoorden bij deze taak.
Als het schema van een Wason-taak op de een of andere manier menselijke praktische ervaring weerspiegelt, stijgt de prestatie traditioneel dienovereenkomstig.
De auteurs merken op, verwijzend naar eerdere experimenten:
‘[Als] de kaarten leeftijden en drankjes tonen, en de regel is “als ze alcohol drinken, moeten ze 21 jaar of ouder zijn” en kaarten tonen met ‘bier’, ‘soda’, ‘25’, ‘16’, kiezen de meeste deelnemers correct de kaarten met ‘bier’ en ‘16’.’
Om de prestaties van taalmodellen op Wason-taken te testen, creëerden de onderzoekers diverse realistische en willekeurige regels, sommige met ‘onzin’ woorden, om te zien of de AI de context van de inhoud kon doorgronden en kon bepalen welke ‘virtuele kaarten’ om te draaien.
Voor de Wason-taken presteerde het model vergelijkbaar met mensen op ‘realistische’ (niet-onzinnige) taken.

Zero-shot Wason Selectie Taak resultaten voor Chinchilla, met het model dat boven toeval presteert, tenminste voor de ‘realistische’ regels.
Het artikel merkt op:
‘Dit weerspiegelt bevindingen in de menselijke literatuur: mensen zijn veel nauwkeuriger bij het beantwoorden van de Wason-taak wanneer deze wordt geformuleerd in termen van realistische situaties dan willekeurige regels over abstracte attributen.’
Formele Opleiding
De bevindingen van het artikel plaatsen het redeneervermogen van hyperschaalbare NLP-systemen in de context van onze eigen beperkingen, die we lijken over te dragen aan modellen via de opgebouwde datasets uit de echte wereld die hen aandrijven. Aangezien de meesten van ons geen genieën zijn, zijn de modellen waarvan de parameters zijn gevormd door onze gegevens evenmin.
Daarnaast concludeert het nieuwe onderzoek dat we tenminste het voordeel hebben van een langdurige periode van vormende opleiding, en de extra sociale, financiële en zelfs seksuele motivaties die de menselijke imperatief vormen. Alles wat NLP-modellen kunnen verkrijgen, zijn de resulterende acties van deze omgevingsfactoren, en ze lijken zich te richten naar de gewone in plaats van de uitzonderlijke mens.
De auteurs stellen:
‘Onze resultaten laten zien dat inhoudseffecten kunnen ontstaan door eenvoudigweg een grote transformer te trainen om taal te imiteren die wordt geproduceerd door de menselijke cultuur, zonder deze menselijke, interne mechanismen te incorporeren.
‘Met andere woorden, taalmodellen en mensen komen beide tot deze inhoudsvoorkeuren – maar vanuit ogenschijnlijk heel verschillende architectuur, ervaring en trainingsdoelen.’
Ze suggereren dus een soort ‘inductie training’ in zuivere redenering, waarvan is aangetoond dat deze de prestaties van modellen op het gebied van wiskunde en algemeen redeneren verbetert. Ze merken verder op dat taalmodellen ook zijn getraind of aangepast om instructies beter te volgen op een abstract of gegeneraliseerd niveau, en om hun eigen output te verifiëren, corrigeren of debiasen.
* Mijn conversie van inline citaten naar hyperlinks.
Origineel gepubliceerd op 15 juli 2022.













