Myslení jako člověk: Může umělá inteligence vyvinout analogické myšlení?

Když se lidé setkávají s něčím novým, instinktivně sahají po srovnáních. Dítě, které se učí o atomech, může slyšet, že elektrony obíhají jádro „jako planety obíhají Slunce“. Podnikatel může prezentovat svou firmu jako „Uber pro péči o psy“. Vědec může vysvětlit laické veřejnosti, že mozek zpracovává informace „jako počítač“.

Tento mentální skok – vidět, jak jedna věc připomíná jinou ve své hlubší struktuře – se nazývá analogické myšlení. A může to být ingrediencí, která odděluje lidskou inteligenci od AI v její současné podobě. Pokud chceme někdy vyvinout umělou obecnou inteligenci – Svatý grál AI, který se dosud ukázal být nedosažitelným – musíme zjistit, zda je možné, aby stroje naučily analogicky myslet. Sázky nemohou být vyšší. Pokud je odpověď „Ne“, pak i ty nejsofistikovanější AI systémy budou navždy pouze vylepšenými kalkulačkami. Nebudou schopny řešit problémy, které vyžadují více než pouze přeuspořádání dat, na kterých byly trénovány.

Architektura chápání

Analogické myšlení funguje na úrovni strukturálních, nikoli povrchových, podobností. Například co dělá srdce a vodní čerpadla podobná? Určitě ne jejich fyzický vzhled. Je to fakt, že obě plní přesně stejnou funkci, totiž cirkulaci tekutiny skrze systém. A je přesně tato schopnost mapovat vztahy typické v jednom kontextu na jiný kontext, co dělá lidské učení, kreativitu a řešení problémů tak jedinečnými.

Existuje spousta reálných příkladů. Vezměme si Augusta Kekulého, génialního německého chemika, který dostal nápad o struktuře benzenu ve formě snu, ve kterém viděl hada, který kousl svůj vlastní ocas. Dnes programátoři aplikují lekce z organizace kuchyně při strukturování kódu a učitelé vysvětlují elektrický proud srovnáním s vodou tekoucí potrubím.

Současné AI systémy však tento běžný kognitivní dovedek najdou velmi obtížným. Když jsou vyzváni, moderní velké jazykové modely (LLM) jsou příliš rádi, aby vysvětlily, proč „čas je peníze“, nebo aby dokončily verbální rébusy. Ale rostoucí důkazy naznačují, že se často zabývají sofistikovaným pattern matchingem, spíše než skutečným strukturálním mapováním. Když výzkumníci předloží těmto modelům nové analogické problémy, které se liší od jejich trénovacích dat, výkon často klesá. To je proto, že LLM vynikají v reprodukci analogií, které již viděly, ale selhávají, když jsou požádány o vytvoření nových spojení.

Žádné analogické myšlení, žádná AGI

Zjevně, analogické myšlení jesine qua non AGI. Bez něj AI systémy zůstávají křehké, neschopné adaptovat znalosti, které jsou relevantní v jednom doméně, aby řešily problémy v jiné. Například si představte samořiditelné auto, které se naučilo navigovat na slunných kalifornských ulicích, ale nemůže extrapolovat toto učení, aby zvládlo sněhové podmínky. AI systém auta je drahý pattern matcher, ne systém schopný skutečné inteligence. Skutečná inteligence by vyžadovala kognitivní flexibilitu, aby rozpoznala, že řízení na ledových silnicích je strukturálně srovnatelné s jinými kluzkými povrchy, i když se specifika liší.

Stejný princip platí v oblastech beyond autonomních vozidel, samozřejmě. Analogické myšlení také pohání pokrok ve vědě, lékařské diagnostice, právním uvažování a tvůrčích aktivitách. AI systémy bez této kapacity připomínají učence, který si zapamatoval celou knihovnu, ale nemůže syntetizovat tuto znalost napříč obory. Impozantní, jistě, ale pouze v úzce omezeném způsobem.

Stavba analogického myšlení

Co by tedy bylo třeba, aby se vyvinuly AI systémy schopné lidského analogického myšlení? Na základě výzkumu a fundamentální povahy analogického myšlení se zdá, že jsou nutné několik kritických podmínek a technik.

Strukturálně bohatá a rozmanitá trénovací data

První požadavkem je, aby AI systémy byly trénovány na datech, která jdou beyond povrchových textových vzorců. Internet, s jeho rozsáhlým repozitářem vědeckých článků, technické dokumentace, tvůrčích děl a vysvětlovacích obsahu, je dobrým výchozím bodem. Ale ne jakákoliv internetová data budou stačit. Co je vyžadováno, je strukturální rozmanitost. Jinými slovy, aby se AI systémy naučily rozpoznávat abstraktní vzorce, vývojáři by měli začít vystavovat tyto systémy kontrastům od prvního dne trénování. Jejich trénovací data by mohla zahrnovat architektonické plány vedle hudebních partitur, matematické důkazy spolu s poetickými díly, nebo právní argumenty vedle receptů.

Ještě důležitější je, že tato data potřebují zachovat a zdůraznit strukturální vztahy, ne pouze statistické korelace. Knowledge grafy, kauzální diagramy a explicitně mapované vztahy mezi koncepty by mohly pomoci AI systémům naučit se „vidět“ strukturu, spíše než mechanicky memorovat asociace. Myslete si to jako učení AI, co věci jsou, a jak se vztahují k sobě navzájem v principiálních způsobech.

Testování beyond trénovací sady

Abychom se ujistili, že AI systémy se učí analogicky myslet, a ne pouze vylepšují své napodobovací dovednosti, potřebujeme nástroje, které záměrně zkoušejí jejich schopnost mapovat strukturu na situace, se kterými se nikdy předtím nesetkaly. To zahrnuje konstrukci testovacích problémů, které jsou záměrně odlišné od čehokoliv, co by se mohlo objevit v trénovacích datech – co výzkumníci nazývají „kontrafaktické“ úkoly.

Například místo toho, aby se AI požádalo o dokončení standardních analogií, jako je „štěně je k psu, jako kotě je k ____“, bychom mohli předložit problémy, které používají vynalezené koncepty, nebo požádat je o mapování vztahů mezi doménami, které nikdy předtím neviděly spojené. Může rozpoznat, že vztah mezi ingrediencemi a receptemparalleled vztah mezi důkazy a právním argumentem, i když se s tímto konkrétním srovnáním nikdy předtím nesetkalo? Takové testy by odhalily, zda systém chápe hlubší struktury, nebo zda si pouze pamatuje podobné příklady.

Měření toho, co záleží

Dobrou zprávou pro vývojáře AI je, že existuje desetiletí výzkumu v oblasti kognitivní vědy, který se zabývá tím, jak lidé zpracovávají analogie. Mohou použít tento výzkum, aby vyvinuli robustní benchmarky pro analogické myšlení. Avšak tyto benchmarky musí jít beyond pouhého počítání správných odpovědí na analogické testy. Co je opravdu potřeba, jsou metriky, které zachycují, zda AI systémy mohou identifikovat, které vztahy jsou relevantní pro mapování, zatímco ignorují povrchové podobnosti a udržují konzistenci napříč svými mapováním.

To by mohlo zahrnovat systémy hodnocení, které odměňují identifikaci vyšších řádů vztahů. Například AI bude mít vyšší skóre, pokud může rozpoznat, že obě atomy a sluneční systémy zahrnují orbitální pohyby, ale také pochopit kauzální vztahy, které řídí tyto orbity. Další kompetencí, která by mohla být hodnocena, je zda AI může spontánně generovat vhodné analogie, aby vysvětlily nové koncepty, a ne pouze dokončily předem strukturované analogické problémy.

Scaffolding přes prompting

Nedávný výzkum naznačuje, že schopnost AI myslet analogicky závisí do značné míry na tom, jak je požádána, aby tak učinila. Analogické prompting – explicitní vedení modelů prostřednictvím procesu strukturálního mapování – může vyvolat sofistikovanější myšlení než pouhé předložení problémů. To by mohlo zahrnovat požádání systému o identifikaci vztahů v zdrojovém doméně, a poté explicitní žádost o mapování těchto vztahů na cílový domén.

Tato technika by mohla sloužit dvěma účelům: vylepšení současné AI schopnosti analogicky myslet a generování trénovacích dat pro budoucí modely. Zaznamenáním úspěšných instancí řízeného analogického myšlení by mohly být vytvořeny příklady, které by mohly naučit následující systémy, aby se zabývaly tímto procesem více přirozeně.

Hybridní architektury

Dosažení lidského analogického myšlení by mohlo vyžadovat přesun beyond čistě neuronových sítí. Hybridní systémy, které kombinují rozpoznávání vzorců se symbolickým uvažováním – explicitním reprezentováním a manipulováním strukturálních vztahů – by mohly poskytnout chybějící kus. Zatímco neuronové sítě vynikají v učení implicitních vzorců, symbolické systémy mohou vynutit strukturální konzistenci a logické mapování, které analogické myšlení vyžaduje.

Hybridní architektury jsou stále v plenkách, ale výzkumníci aktivně zkoumají jejich potenciál. Někteří argumentují pro kombinaci neuronových sítí se symbolickým uvažováním, které by mohlo vést k vylepšené analogické schopnosti. Jiní propagují hybridní modely, které jsou navrženy tak, aby řešily tendenci AI modelů konfabulovat a myslet analogicky v povrchním způsobem.

Kam dál?

V závislosti na tom, koho se zeptáte, analogické myšlení je buď již emergentní, nebo AI se prostě stává více sofistikovaným v jeho napodobování. Bez ohledu na to, která pozice je bližší pravdě, je zřejmé, že pokud má být realizován sen o AGI, bude to vyžadovat více než pouze větší modely nebo více dat. Bude to také vyžadovat einige fundamentální inovace v tom, jak strukturujeme, trénujeme a vyhodnocujeme naše AI systémy.

Jak se transformační schopnosti AI rozvíjejí, analogické myšlení představuje jak kritický benchmark pro výkon, tak i střízlivou připomínku mezery mezi současnými schopnostmi AI a skutečným lidským myšlením. Když AI systém může vidět, že demokracie je pro občany to, co orchestr je pro hudebníky – rozpoznání ne povrchových rysů, ale hlubokých strukturálních vztahů o koordinaci, reprezentaci a emergentní harmonii – bude to překročilo kritickou hranici směrem k skutečné inteligenci.