DeepMind: AI může dědit kognitivní omezení lidí, mohlo by se zlepšit díky “formálnímu vzdělávání”

Nová spolupráce mezi DeepMind a Stanfordovou univerzitou naznačuje, že AI může být často stejně dobrá v abstraktním uvažování jako lidé, protože modely strojového učení získávají své architektury uvažování z reálných, lidských příkladů, které jsou zakořeněny v praktickém kontextu (který AI nemůže zažít), ale jsou také omezeny našimi vlastními kognitivními nedostatky.

Toto bylo prokázáno, a mohlo by to představovat bariéru pro lepší “modré nebe” myšlení a kvalitu intelektuálního původu, kterou mnozí doufají od systémů strojového učení, a ilustruje rozsah, v jakém AI odráží lidské zkušenosti, a je náchylné k uvažování (a rozumění) v rámci lidských hranic, které ji informují.

Výzkumníci navrhují, že modely AI by mohly mít prospěch z předškolního vzdělávání v abstraktním uvažování, podobnému “formálnímu vzdělávání”, předtím, než budou nasazeny do reálných úkolů.

Článek uvádí:

Lidé jsou nedokonalí uvažovatelé. Nejlépe uvažujeme o entitách a situacích, které jsou konzistentní s naším pochopením světa.

Naše experimenty ukazují, že jazykové modely odrážejí tyto vzorce chování. Jazykové modely fungují nedokonale na logických úkolech uvažování, ale tato funkčnost závisí na obsahu a kontextu. Nejdůležitěji, tyto modely často selhávají v situacích, kde lidé selhávají — když podněty se stanou příliš abstraktními nebo jsou v rozporu s předchozím pochopením světa.

Aby otestovali rozsah, v jakém hyperscale, GPT-úroveň modelů zpracování přirozeného jazyka (NLP) by mohla být ovlivněna takovými omezeními, výzkumníci provedli sérii tří testů na vhodném modelu, a dospěli k závěru*:

Zjistili jsme, že nejnovější velké jazykové modely (s 7 nebo 70 miliardami parametrů) odrážejí mnoho stejných vzorců pozorovaných u lidí napříč těmito úkoly — jako lidé, modely uvažují účinněji o uvěřitelných situacích než o nereálných nebo abstraktních.

Naše výsledky mají důsledky pro pochopení obou těchto kognitivních efektů a faktorů, které přispívají k výkonu jazykového modelu.

Článek naznačuje, že vytváření rozumových schopností v AI bez poskytnutí skutečné, reálné zkušenosti, která dává tyto schopnosti do kontextu, by mohlo omezit potenciál takových systémů, a uvádí, že “zakotvená zkušenost… zřejmě podpírá některé lidské víry a uvažování”.

Autorů se domnívá, že AI zažívá jazyk pasivně, zatímco lidé jej zažívají jako aktivní a centrální součást pro sociální komunikaci, a že tato aktivní účast (která zahrnuje konvenční sociální systémy trestu a odměny) by mohla být “klíčem” k pochopení významu stejným způsobem, jako lidé.

Výzkumníci pozorují:

Některé rozdíly mezi jazykovými modely a lidmi mohou tedy pocházet z rozdílů mezi bohatou, zakotvenou, interaktivní zkušeností lidí a chudou zkušeností modelů.

Navrhují, že jedním z řešení by mohlo být období “předškolního vzdělávání”, podobnému tomu, které lidé zažívají ve škole a univerzitě, předtím, než budou školeni na základních datech, které nakonec vytvoří užitečný a všestranný jazykový model.

Toto období “formálního vzdělávání” (jak autoři analogizují) by se lišilo od konvenčního předškolního vzdělávání strojového učení (které je metodou zkrácení doby školení opakovaným použitím pološkolených modelů nebo importem váh z plně školených modelů, jako “booster” pro spuštění procesu školení).

Místo toho by to představovalo období udržitelného učení navrženého pro rozvoj logických rozumových schopností AI čistě abstraktním způsobem, a pro rozvoj kritických schopností podobným způsobem, jako je student univerzity povzbuzen udělat během svého vysokoškolského vzdělání.

‘Několik výsledků,’ autoři uvádějí, ‘naznačuje, že to nemusí být tak nereálné, jak to zní’.

Článek je nazvaný Jazykové modely ukazují lidské vzorce chování při uvažování, a pochází od šesti výzkumníků z DeepMind a jednoho, který je spojen s DeepMind a Stanfordovou univerzitou.

Testy

Lidé se učí abstraktní koncepty prostřednictvím praktických příkladů, podobným způsobem “implikované důležitosti”, který často pomáhá jazykovým učencům memorizovat slovní zásobu a jazyková pravidla, pomocí mnemotechnických pomůcek. Nejlepším příkladem je učení abstraktních principů fyziky pomocí vyvolání “scénářů cestování” pro vlaky a auta.

Aby otestovali abstraktní rozumové schopnosti hyperscale jazykového modelu, výzkumníci vytvořili sadu tří lingvistických a sémantických testů, které mohou být také náročné pro lidi. Testy byly aplikovány “zero shot” (bez vyřešených příkladů) a “five shot” (s pěti předchozími vyřešenými příklady).

První úkol se týká přirozeného jazykového vyvozování (NLI), kde subjekt (člověk nebo v tomto případě jazykový model) obdrží dvě věty, “předpoklad” a “hypotéza”, která se zdá být odvozena z předpokladu. Například X je menší než Y, Hypotéza: Y je větší než X (implikováno).

Pro úkol přirozeného jazykového vyvozování výzkumníci vyhodnotili jazykové modely Chinchilla (model s 70 miliardami parametrů) a 7B (model s 7 miliardami parametrů), a zjistili, že pro konzistentní příklady (tj. ty, které nebyly nesmyslem) pouze větší model Chinchilla dosáhl výsledků vyšších než náhoda; a poznamenávají:

To ukazuje silnou obsahovou předpojatost: modely preferují dokončit větu způsobem konzistentním s předchozími očekáváními, spíše než způsobem konzistentním s pravidly logiky.

Chinchilla’s 70-billion parameter performance in the NLI task. Both this model and its slimmer version 7B exhibited ‘substantial belief bias’, according to the researchers. Source: https://arxiv.org/pdf/2207.07051.pdf

Syllogismy

Druhý úkol představuje složitější výzvu, syllogismy – argumenty, kde dvě pravdivé výroky zdánlivě implikují třetí výrok (který může nebo nemusí být logickým závěrem odvozeným z předchozích dvou výroků):

From the paper’s test material, various ‘realistic’ and paradoxical or nonsensical syllogisms.

Lidé jsou zde enormně náchylní k chybám, a konstrukt navržen pro demonstraci logického principu se stává téměř okamžitě (a možná trvale) zapleteným a zmateným lidským “vírou” v to, co by měla být správná odpověď.

Autoři poznamenávají, že studie z roku 1983 prokázala, že účastníci byli ovlivněni tím, zda závěr syllogismu souhlasil s jejich vlastními vírami, a poznamenávají:

Účastníci byli mnohem více (90 % času) nesprávně říkali, že neplatný syllogismus je platný, pokud závěr byl uvěřitelný, a většinou se spoléhali na víru spíše než na abstraktní uvažování.

Při testování Chinchilly proti sérii různých syllogismů, mnoho z nich mělo falešné závěry, výzkumníci zjistili, že “víra ovlivňuje téměř všechny zero-shot rozhodnutí”. Pokud jazykový model najde závěr, který je v rozporu s realitou, model, autoři uvádějí, je “silně předpojatý” k prohlášení, že konečná argumentace je neplatná, i když konečná argumentace je logickým důsledkem předchozích výroků.

Zero shot results for Chinchilla (zero shot is the way that most test subjects would receive these challenges, after an explanation of the guiding rule), illustrating the vast gulf between a computer’s computational capacity and an NLP model’s capacity to navigate this kind of ‘nascent logic’ challenge.

Úkol Wasonovy selekce

Pro třetí test, byl ještě náročnější logický problém Wasonovy selekce reformulován do série různých iterací pro jazykový model k řešení.

Úkol Wason, vytvořený v roce 1968, je zdánlivě velmi jednoduchý: účastníkům jsou ukázány čtyři karty, a jsou informováni o libovolném pravidle, jako je “Pokud karta má ‘D’ na jedné straně, pak má ‘3’ na druhé straně.” Čtyři viditelné strany karet ukazují ‘D’, ‘F’, ‘3’ a ‘7’.

Účastníci jsou poté požádáni, které karty potřebují otočit, aby ověřili, zda pravidlo je pravdivé nebo nepravdivé.

Správné řešení v tomto příkladu je otočit karty ‘D’ a ‘7’. V raných testech bylo zjištěno, že zatímco většina (lidských) účastníků by správně vybrala ‘D’, byli více pravděpodobně vybrat ‘3’ než ‘7’, a zmátli kontrapozitiv pravidla (‘ne 3 implikuje ne D’) s konverzí (‘3’ implikuje ‘D’, které není logicky implikováno).

Autoři poznamenávají, že potenciál pro předchozí víru, aby zasáhl do logického procesu u lidských účastníků, a dále poznamenávají, že i akademici a studenti matematiky obvykle dosáhli skóre nižší než 50 % v tomto úkolu.

Jednak, když schéma úkolu Wason nějak odráží lidskou praktickou zkušenost, výkon tradičně stoupá.

Autoři pozorují, odkazují se na dřívější experimenty:

‘[Pokud] karty ukazují věk a nápoje, a pravidlo je “pokud pijí alkohol, musí být 21 nebo starší” a ukazují karty s ‘pivem’, ‘limonádou’, ’25’, ’16’, většina účastníků správně zvolí karty s ‘pivem’ a ’16’.’

Aby otestovali výkon jazykového modelu na úkolech Wason, výzkumníci vytvořili různé realistické a libovolné pravidla, některé s “nesmyslovými” slovy, aby zjistili, zda AI může proniknout do kontextu obsahu a určit, které “virtuální karty” otočit.

Some of the many Wason Selection Task puzzles presented in the tests.

Pro testy Wason model dosáhl srovnatelných výsledků s lidmi na “realistických” (ne nesmyslových) úkolech.

Zero-shot Wason Selection Task results for Chinchilla, with the model performing well above chance, at least for the ‘realistic’ rules.

Článek komentuje:

To odráží výsledky v lidské literatuře: lidé jsou mnohem přesnější při odpovědi na úkol Wason, když je formulován v termínech realistických situací než libovolných pravidel o abstraktních atributech.

Formální vzdělávání

Závěry článku rámují rozumové potenciály hyperscale NLP systémů v kontextu našich vlastních omezení, která zdá se, že předáváme modelům prostřednictvím nahromaděných reálných dat, která je pohání. Protože většina z nás nejsou géniové, ani modely, jejichž parametry jsou informovány našimi vlastními, nejsou.

<p Navíc, nová práce uzavírá, že alespoň máme výhodu udržitelného období formativního vzdělávání, a dalších sociálních, finančních a dokonce sexuálních motivací, které tvoří lidskou imperativ. Vše, co modely NLP mohou získat, jsou výsledné akce těchto environmentálních faktorů, a zdá se, že se přizpůsobují obecnému spíše než výjimečnému lidskému.

Autoři uvádějí:

Naše výsledky ukazují, že obsahové efekty mohou vzniknout jednoduše tím, že velké transformátory jsou školeny k imitaci jazyka produkovaného lidskou kulturou, bez začlenění těchto lidských specifických vnitřních mechanismů.

V jiných slovech, jazykové modely a lidé oba dosahují těchto obsahových předpojatostí – ale zjevně velmi odlišných architektur, zkušeností a školicích cílů.

Takže navrhují druh “indukčního školení” v čistém uvažování, které bylo ukázáno, že zlepšuje výkon modelu pro matematiku a obecné uvažování. Dále poznamenávají, že jazykové modely byly také školeny nebo upraveny pro lepší dodržování pokynů na abstraktní nebo generalizované úrovni, a pro ověření, opravu nebo odstranění svých vlastních výstupů.

* Mé převody inline citací na hypertextové odkazy.

První publikováno 15. července 2022.