Myšlení jako člověk: může AI rozvinout analogické uvažování?

Když se lidé setkávají s něčím novým, instinktivně sahají po srovnáních. Dítě, které se učí o atomech, může slyšet, že elektrony obíhají jádro „jako planety obíhají Slunce“. Podnikatel může prezentovat svou firmu jako „Uber pro péči o domácí mazlíčky“. Vědec může vysvětlit laické veřejnosti, že mozek zpracovává informace „jako počítač“.

Tento mentální skok – vidět, jak jedna věc připomíná jinou ve své hlubší struktuře – se nazývá analogické myšlení. A může to být ingrediencí, která odděluje lidskou inteligenci od AI v její současné podobě. Pokud chceme někdy vyvinout obecnou umělou inteligenci (AGI) – Svatý grál AI, který se dosud ukázal být nedosažitelným – musíme zjistit, zda je možné, aby se stroje naučily analogicky myslet. Sázky nemohou být vyšší. Pokud je odpověď „Ne“, pak i ty nejsofistikovanější AI systémy budou navždy pouze vylepšenými kalkulačkami. Nebudou schopny řešit problémy, které vyžadují více než pouze přeuspořádání dat, na kterých byly trénovány.

Architektura chápání

Analogické myšlení funguje na úrovni strukturálních, nikoli povrchových, podobností. Například co dělá srdce a vodní čerpadla podobná? Určitě ne jejich fyzický vzhled. Je to fakt, že obě plní přesně stejnou funkci, totiž cirkulaci tekutiny skrze systém. A je přesně tato schopnost mapovat vztahy typické v jednom kontextu na jiný kontext, co dělá lidské učení, kreativitu a řešení problémů tak jedinečnými.

Existuje spousta reálných příkladů. Vezměme si Augusta Kekulého, geniálního německého chemika, který dostal nápad o struktuře benzenu ve formě snu, ve kterém viděl hada, který se zakousl do vlastního ocasu. Dnes programátoři aplikují lekce z organizace kuchyně při strukturování kódu a učitelé vysvětlují elektrický proud srovnáním s vodou tekoucí potrubím.

Současné systémy AI však s touto běžnou kognitivní dovedností značně zápasí. Na požádání moderní velké jazykové modely (LLM) ochotně vysvětlí, proč „čas jsou peníze“, nebo doplní slovní úlohy vyžadující uvažování. Ale přibývající důkazy naznačují, že se často zabývají sofistikovaným porovnáváním vzorců, spíše než skutečným strukturálním mapováním. Když výzkumníci předloží těmto modelům nové analogické problémy, které se liší od jejich trénovacích dat, jejich úspěšnost často prudce klesá. To je proto, že LLM vynikají v reprodukci analogií, které již viděly, ale selhávají, když jsou požádány o vytvoření nových spojení.

Žádné analogické myšlení, žádná AGI

Je zřejmé, že analogické myšlení je nezbytnou podmínkou AGI. Bez něj AI systémy zůstávají křehké, neschopné adaptovat znalosti, které jsou relevantní v jedné oblasti, aby řešily problémy v jiné. Například si představte samořiditelné auto, které se naučilo navigovat na slunných kalifornských ulicích, ale nemůže extrapolovat toto učení, aby zvládlo sněhové podmínky. AI systém auta je drahý nástroj pro porovnávání vzorců, ne systém schopný skutečné inteligence. Skutečná inteligence by vyžadovala kognitivní flexibilitu, aby rozpoznala, že jízda po zledovatělých silnicích je strukturálně srovnatelná s jízdou po jiných kluzkých površích, i když se specifika liší.

Stejný princip samozřejmě platí i v jiných oblastech než u autonomních vozidel. Analogické myšlení také pohání pokrok ve vědě, lékařské diagnostice, právním uvažování a tvůrčích aktivitách. AI systémy bez této kapacity připomínají učence, který si zapamatoval celou knihovnu, ale nemůže syntetizovat tuto znalost napříč obory. Impozantní, jistě, ale pouze ve velmi omezeném rozsahu.

Stavba analogického myšlení

Co by tedy bylo třeba, aby se vyvinuly AI systémy schopné lidského analogického myšlení? Na základě výzkumu a fundamentální povahy analogického myšlení se několik zásadních podmínek a technik jeví jako nezbytných.

Strukturálně bohatá a rozmanitá trénovací data

Prvním požadavkem je, aby AI systémy byly trénovány na datech, která přesahují povrchové textové vzorce. Internet, s jeho rozsáhlým repozitářem vědeckých článků, technické dokumentace, tvůrčích děl a vysvětlujícího obsahu, je dobrým výchozím bodem. Ale ne jakákoliv internetová data budou stačit. Co je vyžadováno, je strukturální rozmanitost. Jinými slovy, aby se AI systémy naučily rozpoznávat abstraktní vzorce, vývojáři by měli začít vystavovat tyto systémy kontrastům od prvního dne trénování. Jejich trénovací data by mohla zahrnovat architektonické plány vedle hudebních partitur, matematické důkazy spolu s poetickými díly, nebo právní argumenty vedle receptů. Každá oblast totiž představuje jiné typy vztahových struktur, takže budoucí systém AGI by z takového procvičování mohl těžit.

Ještě důležitější je, že tato data potřebují zachovat a zdůraznit strukturální vztahy, ne pouze statistické korelace. Znalostní grafy, kauzální diagramy a explicitně mapované vztahy mezi koncepty by mohly pomoci AI systémům naučit se „vidět“ strukturu, spíše než mechanicky memorovat asociace. Představte si, že AI učíte nejen to, co věci jsou, ale také zásady, podle kterých spolu souvisejí.

Testování nad rámec trénovací sady

Abychom se ujistili, že AI systémy se učí analogicky myslet, a ne pouze vylepšují své napodobovací dovednosti, potřebujeme nástroje, které záměrně zkoušejí jejich schopnost mapovat strukturu na situace, se kterými se nikdy předtím nesetkaly. To zahrnuje konstrukci testovacích problémů, které jsou záměrně odlišné od čehokoliv, co by se mohlo objevit v trénovacích datech – tedy úloh, které výzkumníci nazývají „kontrafaktuálními“ úkoly.

Například místo toho, abychom AI požádali o doplnění běžných analogií, jako je „štěně se má ke psu jako kotě k ____“, bychom jí mohli předložit problémy s vymyšlenými pojmy nebo ji požádat o mapování vztahů mezi oblastmi, které nikdy předtím neviděla propojené. Dokáže rozpoznat, že vztah mezi ingrediencemi a receptem je obdobou vztahu mezi důkazy a právním argumentem, i když se s tímto konkrétním srovnáním nikdy nesetkala? Takové testy by odhalily, zda systém chápe hlubší struktury, nebo zda si pouze pamatuje podobné příklady.

Měření toho, na čem záleží

Dobrou zprávou pro vývojáře AI je, že existují desítky let výzkumu v oblasti kognitivní vědy, který se zabývá tím, jak lidé zpracovávají analogie. Mohou použít tento výzkum, aby vyvinuli robustní benchmarky pro analogické myšlení. Avšak tyto benchmarky musí přesahovat pouhé počítání správných odpovědí na analogické testy. Co je opravdu potřeba, jsou metriky, které zachycují, zda AI systémy mohou identifikovat, které vztahy jsou relevantní pro mapování, zatímco ignorují povrchové podobnosti a udržují konzistenci napříč svými mapováními.

To by mohlo zahrnovat systémy hodnocení, které odměňují rozpoznávání vztahů vyššího řádu. Například AI bude mít vyšší skóre, pokud dokáže nejen rozpoznat, že atomy i sluneční soustavy zahrnují oběžné dráhy, ale také pochopit kauzální vztahy, které řídí tyto orbity. Další kompetencí, která by mohla být hodnocena, je schopnost AI spontánně vytvářet vhodné analogie pro vysvětlení nových pojmů, místo aby jen doplňovala předem připravené analogické úlohy.

Podpora uvažování pomocí zadávání pokynů

Nedávný výzkum naznačuje, že schopnost AI myslet analogicky závisí do značné míry na tom, jak je požádána, aby tak učinila. Zadávání pokynů pro analogické uvažování – explicitní vedení modelů prostřednictvím procesu strukturálního mapování – může vyvolat sofistikovanější myšlení než pouhé předložení problémů bez vodítek. To by mohlo zahrnovat požádání systému o identifikaci vztahů ve zdrojové oblasti, a poté explicitní žádost o mapování těchto vztahů na cílovou oblast.

Tato technika by mohla sloužit dvěma účelům: zlepšení současné schopnosti systémů AI analogicky myslet a generování trénovacích dat pro budoucí modely. Zaznamenáním úspěšných případů řízeného analogického myšlení by mohly být vytvořeny příklady, které by mohly naučit následující systémy, aby se zabývaly tímto procesem přirozeněji.

Hybridní architektury

Dosažení lidského analogického myšlení by mohlo vyžadovat překročení rámce přístupů založených výhradně na neuronových sítích. Hybridní systémy, které kombinují rozpoznávání vzorců se symbolickým uvažováním – explicitním reprezentováním strukturálních vztahů a manipulací s nimi – by mohly poskytnout chybějící kus. Zatímco neuronové sítě vynikají v učení implicitních vzorců, symbolické systémy mohou vynutit strukturální konzistenci a logické mapování, které analogické myšlení vyžaduje.

Hybridní architektury jsou stále v plenkách, ale výzkumníci aktivně zkoumají jejich potenciál. Někteří argumentují pro kombinaci neuronových sítí se symbolickým uvažováním, což by mohlo zlepšit schopnost analogicky uvažovat. Jiní propagují hybridní modely, které jsou navrženy tak, aby řešily sklon modelů AI ke konfabulacím a povrchnímu analogickému uvažování.

Kam dál?

V závislosti na tom, koho se zeptáte, se analogické myšlení v AI buď již začíná objevovat, nebo se AI pouze zdokonaluje v jeho napodobování. Bez ohledu na to, která pozice je bližší pravdě, je zřejmé, že pokud má být realizován sen o AGI, bude to vyžadovat více než pouze větší modely nebo více dat. Bude to také vyžadovat některé zásadní inovace v tom, jak strukturujeme, trénujeme a vyhodnocujeme naše AI systémy.

Jak se transformační schopnosti AI rozvíjejí, analogické myšlení představuje jak kritický benchmark pro výkon, tak i střízlivou připomínku mezery mezi současnými schopnostmi AI a skutečným lidským myšlením. Když AI systém může vidět, že demokracie je pro občany to, co orchestr je pro hudebníky – a rozpozná přitom nikoli povrchové rysy, ale hluboké strukturální vztahy koordinace, reprezentace a vznikající harmonie – překročí důležitou hranici směrem ke skutečné inteligenci.