Jak LLMs nutí nás předefinovat inteligenci

Existuje staré rčení: Pokud to vypadá jako kachna, plavá jako kachna a kváká jako kachna, pak to pravděpodobně je kachna. Tento jednoduchý způsob myšlení, často spojovaný s indianským básníkem Jamesem Whitcombem Rileyem, formoval naše myšlení o umělých inteligencích po desetiletí. Nápad, že chování je dostatečné k identifikaci inteligence, inspiroval Alana Turinga k jeho slavné “Imitační hře”, nyní nazývané Turingův test.

Turing navrhl, že pokud člověk nemůže rozlišit, zda komunikuje se strojem nebo s jiným člověkem, pak lze říci, že stroj je inteligentní. Oba testy, test kachny i Turingův test, naznačují, že to, co je důležité, není to, co je uvnitř systému, ale jak se chová. Po desetiletí vedl tento test pokrok v oblasti AI. Ale s příchodem velkých jazykových modelů (LLM) se situace změnila. Tyto systémy mohou generovat srozumitelný text, vést konverzace a řešit úkoly způsobem, který se zdá pozoruhodně lidským. Otázka již není, zda stroje mohou napodobovat lidskou konverzaci, ale zda tato imitace je skutečná inteligence. Pokud systém může psát jako my, rozumět jako my a dokonce vytvářet jako my, měli bychom ho nazvat inteligentním? Nebo je chování samo o sobě již недостатčné k měření inteligence?

Vývoj strojové inteligence

Velké jazykové modely změnily, jak myslíme o AI. Tyto systémy, dříve omezené na generování základních textových odpovědí, mohou nyní řešit logické problémy, psát počítačový kód, vytvářet příběhy a dokonce pomáhat s kreativními úkoly, jako je psaní scénářů. Jedním z klíčových vývojů v tomto pokroku je jejich schopnost řešit komplexní problémy pomocí krok za krokem, metody nazývané řetězec myšlenek. Rozložením problému na menší části může LLM řešit komplexní matematické problémy nebo logické hádanky způsobem, který se podobá lidskému řešení problémů. Tato schopnost umožnila jim dosáhnout nebo dokonce překonat lidské výkony v pokročilých testech, jako je MATH nebo GSM8K. Dnes mají LLM také multimodální schopnosti. Mohou pracovat s obrázky, interpretovat medicínské snímky, vysvětlovat vizuální hádanky a popisovat komplexní diagramy. S těmito pokroky je otázkou již není, zda LLM mohou napodobovat lidské chování, ale zda toto chování odráží skutečné porozumění.

Stopy lidského myšlení

Úspěch LLM mění, jak chápeme inteligenci. Zaměření se přesouvá z přizpůsobení chování AI lidem, jak navrhoval Turingův test, k prozkoumání, jak blízce LLM odrážejí lidské myšlení ve způsobu, jakým zpracovávají informace (tj. skutečné lidské myšlení). Například v nedávné studii výzkumníci porovnali vnitřní fungování AI modelů s lidskou mozkovou aktivitou. Studie zjistila, že LLM s více než 70 miliardami parametrů nejen dosáhli lidské přesnosti, ale také organizovali informace vnitřně způsobem, který odpovídal lidským mozkovým vzorcům.

Když lidé i AI modely pracovali na úkolech rozpoznávání vzorců, mozkové snímky ukázaly podobné aktivační vzorce u lidských účastníků a odpovídající výpočetní vzorce u AI modelů. Modely seskupily abstraktní koncepty ve svých vnitřních vrstvách způsobem, který přímo odpovídal lidské mozkové vlnové aktivitě. To naznačuje, že úspěšné myšlení může vyžadovat podobné organizační struktury, ať už v biologických nebo umělých systémech.

Výzkumníci jsou však opatrní a upozorňují na omezení této práce. Studie zahrnovala relativně malý počet lidských účastníků a lidé a stroje přistupovali k úkolu odlišně. Lidé pracovali s vizuálními vzorci, zatímco AI modely zpracovávaly textové popisy. Korelace mezi lidským a strojovým zpracováním je fascinující, ale neznamená to, že stroje chápou koncepty stejným způsobem jako lidé.

Existují také zřejmé rozdíly ve výkonu. Zatímco nejlepší AI modely dosáhly lidské přesnosti u jednoduchých vzorců, ukázaly výraznější poklesy výkonu u nejkomplexnějších úkolů ve srovnání s lidskými účastníky. To naznačuje, že navzdory podobnostem v organizaci mohou existovat fundamentální rozdíly v tom, jak lidé a stroje zpracovávají obtížné abstraktní koncepty.

Skeptický pohled

Navzdory těmto působivým zjištěním existuje silný argument, že LLM jsou pouze velmi zruční napodobiteli. Tento názor pochází od filozofa Johna Searleho a jeho myšlenkového experimentu “Čínská místnost“, který ilustruje, proč chování nemusí být rovnocenné s porozuměním.

V tomto myšlenkovém experimentu Searle žádá, abychom si představili osobu uzamčenou v místnosti, která mluví pouze anglicky. Osoba obdrží čínské symboly a používá anglickou příručku, aby tyto symboly zpracovala a vytvořila odpovědi. Zvenčí vypadají její odpovědi exactly jako odpovědi rodilého čínského mluvčího. Searle však argumentuje, že osoba nic nechápe o čínštině. Pouze následuje pravidla bez skutečného porozumění.

Kritici aplikují stejnou logiku na LLM. Argumentují, že tyto systémy jsou “stochastickými papoušky“, které generují odpovědi na základě statistických vzorců ve svých trénovacích datech, nikoli na základě skutečného porozumění. Termín “stochastický” odkazuje na jejich pravděpodobnostní povahu, zatímco “papoušek” zdůrazňuje jejich imitační chování bez skutečného porozumění.

Několik technických omezení LLM také podporuje tento argument. LLM často generují “halucinace“; odpovědi, které vypadají přesvědčivě, ale jsou zcela nesprávné, zavádějící a nesmyslné. To se stává, protože vybírají statisticky přesvědčivé slova, místo aby konzultovaly vnitřní znalostní bázi nebo porozumění pravdě a nepravdě. Tyto modely také reprodukují lidské chyby a předpojatosti. Zmatou se irelevantními informacemi, které by lidé snadno ignorovali. Ukazují rasové a genderové stereotypy, protože se učily z dat, která tyto předpojatosti obsahovala. Další zjevné omezení je “pozicionální předpojatost”, kdy modely nadměrně zdůrazňují informace na začátku nebo konci dlouhých dokumentů, zatímco zanedbávají střední obsah. Tento “ztracený uprostřed” fenomén naznačuje, že tyto systémy zpracovávají informace velmi odlišně od lidí, kteří mohou udržet pozornost napříč celými dokumenty.

Tyto omezení zdůrazňují centrální výzvu: zatímco LLM vynikají v rozpoznávání a reprodukci jazykových vzorců, to ještě neznamená, že skutečně rozumí významu nebo kontextu reálného světa. Daří se jim dobře v syntaxi, ale zůstávají omezené, pokud jde o sémantiku.

Co se počítá jako inteligence?

Debata nakonec spočívá v tom, jak definujeme inteligenci. Pokud inteligence znamená schopnost generovat srozumitelný jazyk, řešit problémy a přizpůsobit se novým situacím, pak LLM již tuto normu splňují. Pokud však inteligence vyžaduje sebeuvědomění, skutečné porozumění nebo subjektivní zkušenost, tyto systémy stále zaostávají.

Obtíž spočívá v tom, že nemáme jasný nebo objektivní způsob, jak měřit kvality, jako je porozumění nebo vědomí. U lidí i strojů tyto kvality inferujeme z chování. Test kachny a Turingův test dříve poskytovaly elegantní odpovědi, ale ve věku LLM již možná nejsou dostatečné. Jejich schopnosti nás nutí přehodnotit, co skutečně znamená inteligence, a zda naše tradiční definice držely krok s technologickou realitou.

Závěrečné shrnutí

Velké jazykové modely mění, jak definujeme inteligenci AI. Mohou napodobovat myšlení, generovat nápady a vykonávat úkoly, které byly dříve považovány za výlučně lidské. Přesto jim chybí vědomí a zakotvení, které formují skutečné lidské myšlení. Jejich vzestup nás nutí klást otázky, zda stroje jednají inteligentně, ale také, co inteligence sama o sobě skutečně znamená.