LLM:t eivät ole järkeviä – ne ovat vain hyviä suunnittelijoita

Suuret kielen mallit (LLM), kuten OpenAI:n o3, Google:n Gemini 2.0 (GOOGL ) ja DeepSeekin R1, ovat osoittaneet merkittävää edistystä monimutkaisten ongelmien ratkaisemisessa, ihmismäisessä tekstin luomisessa ja jopa koodin kirjoittamisessa tarkkuudella. Nämä edistyneet LLM:t kutsutaan usein “järkevyyden malleiksi” heidän poikkeuksellisten kykyjensä vuoksi analyysissä ja monimutkaisten ongelmien ratkaisemisessa. Mutta totuttaako nämä mallit todella “järkeillä”, vai ovatko ne vain poikkeuksellisen hyviä “suunnittelijoita”? Tämä ero on hienovarainen, mutta merkittävä, ja sillä on suuria vaikutuksia siihen, miten ymmärrämme LLM:n kyvyt ja rajoitukset.

Jotta ymmärtäisimme tämän eron, vertailemme kahta skenaariota:

• Järkeily: Rikosetsivä, joka tutkii rikosta, on pakko koota yhteen ristiriitaisia todisteita, päätellä, mitkä niistä ovat väärä, ja tulla siihen johtopäätökseen, joka perustuu rajoitettuihin todisteisiin. Tämä prosessi sisältää johtamisen, ristiriitojen ratkaisemisen ja abstraktin ajattelun.
• Suunnittelu: Shakinpelaaja, joka laskee parhaan siirron järjestyksen, jotta voittaa vastustajansa.

Vaikka molemmat prosessit sisältävät useita askelia, etsivä osallistuu syvään järkeilyyn, jotta voi tehdä johtamuksia, arvioida ristiriitoja ja soveltaa yleisiä periaatteita tiettyyn tapaukseen. Shakinpelaaja taas osallistuu lähinnä suunnitteluun, valitsemalla optimaalisen siirron järjestyksen voittaakseen pelin. LLM:t toimivat paljon enemmän shakinpelaajan kuin etsivän tavoin.

Ymmärtäminen ero: Järkeily vs. Suunnittelu

Jotta ymmärtäisimme, miksi LLM:t ovat hyviä suunnittelijoita eivätkä järkeile, on tärkeää ymmärtää ensin ero näiden kahden termin välillä. Järkeily on prosessi, jossa uusia johtopäätöksiä saadaan annetuista premissistä käyttämällä logiikkaa ja johtamista. Se sisältää ristiriitojen tunnistamisen ja korjaamisen, uusien oivallusten luomisen, päätösten tekemisen epäselvissä tilanteissa ja osallistumisen kausaalisessa ymmärtämisessä ja vastakkaisessa ajattelussa, kuten “Mitä jos?” -skenaarioissa.

Suunnittelu taas keskittyy toimintien järjestyksen rakentamiseen tietyn tavoitteen saavuttamiseksi. Se perustuu monimutkaisten tehtävien jakamiseen pienempiin askeliin, seuraamiseen tunnettuja ongelmanratkaisustrategioita, soveltamiseen aiemmin opittuja malleja samankaltaisiin ongelmiin ja suorittamiseen järjestettyjä toimintajonoja uusien oivallusten sijaan. Vaikka sekä järkeily että suunnittelu sisältävät askelkohtaisen prosessin, järkeily vaatii syvempää abstraktiota ja johtamista, kun taas suunnittelu seuraa vakiintuneita menettelyjä ilman uuden tiedon luomista.

Miten LLM:t lähestyvät “järkeilyä”

Nykyiset LLM:t, kuten OpenAI:n o3 ja DeepSeek-R1, ovat varustettu tekniikalla, jota kutsutaan Chain-of-Thought (CoT) -järkeilyllä, parantamaan ongelmanratkaisukykyään. Tämä menetelmä rohkaisee malleja jakamaan ongelmat välimuotoisiin askeliin, jäljitellen sitä, miten ihmiset ajattelevat loogisesti ongelman läpi. Tutkimalla yksinkertaista matemaattista ongelmaa:

Jos myymälä myy omenia 2 dollarilla kappale, mutta tarjoaa alennusta 1 dollarilla kappaleelta, jos ostat yli 5 omenaa, kuinka paljon 7 omenaa maksaisi?

Tyypillinen LLM, joka käyttää CoT-ohjausta, voisi ratkaista sen seuraavasti:

1. Määritä säännöllinen hinta: 7 * 2 = 14.
2. Tunnista, että alennus on voimassa (koska 7 > 5).
3. Lasketa alennus: 7 * 1 = 7.
4. Vähennä alennus yhteishinnasta: 14 – 7 = 7.

Asettamalla askelkohtaisen prosessin selkeästi, malli minimoi virheiden mahdollisuuden, jotka johtuvat yhden askelen ennustamisesta. Vaikka tämä askelkohtainen prosessi tekee LLM:istä järkeilevän näköisiä, se on itse asiassa suunnittelun muoto, joka muistuttaa ohjeiden seuraamista. Toisaalta oikea järkeilyprosessi voisi tunnistaa yleisen säännön: Jos alennus on voimassa yli 5 omenan, niin jokainen omena maksaa 1 dollarin. Ihminen voi johtaa tämän säännön välittömästi, mutta LLM ei voi, koska se seuraa vain järjestettyä laskentajonoa.

Miksi Chain-of-Thought on suunnittelu, ei järkeily

Vaikka Chain-of-Thought (CoT) on parantanut LLM:n suorituskykyä logiikkaan perustuvissa tehtävissä, kuten matemaattisissa sanatehtävissä ja koodauksessa, se ei sisällä aitoa logista järkeilyä. Tämä johtuu siitä, että CoT seuraa proseduraalista tietoa, joka perustuu järjestettyihin askeliin eikä luo uusia oivalluksia. Se ei myöskään ymmärrä kausaalisia suhteita ja abstrakteja suhteita, mikä tarkoittaa, että malli ei osallistu vastakkaiseen ajatteluun tai tarkastele hypoteettisia tilanteita, jotka vaativat intuitiota havaitun aineiston ulkopuolelta. Lisäksi CoT ei voi muuttaa lähestymistapaansa merkittävästi opittujen mallien ulkopuolelle, mikä rajoittaa sen kykyä järkeillä luovasti tai sopeutua tuttuun tapaan.

Mitä LLM:ien pitäisi tehdä, jotta ne voivat kehittyä aidoiksi järkeilykoneiksi?

Mitä LLM:ien pitäisi tehdä, jotta ne voivat todella järkeillä kuin ihmiset? Tässä on joitakin avainalueita, joissa niiden on parannettava:

1. Symbolinen ymmärtäminen: Ihmiset järkeilevät manipuloimalla abstrakteja symboleja ja suhteita. LLM:t puuttuvat kuitenkin aidoista symbolisista järkeilymekanismeista. Symbolisen AI:n tai hybridimallien integroiminen, jotka yhdistävät neurverkot formaalisiin logiikkajärjestelmiin, voisi parantaa niiden kykyä osallistua aitoon järkeilyyn.
2. Kausaalinen päättely: Aito järkeily vaatii kausaalisuuden ymmärtämisen, ei vain tilastollisia korrelaatioita. Mallin on päätteltävä perussäännöistä aineistosta eikä vain ennustettava seuraavaa tokenia. Tutkimus kausaalisesta AI:sta, joka mallintaa kausaalisia suhteita, voisi auttaa LLM:itä siirtymään suunnittelusta järkeilyyn.
3. Itsearviointi ja metakognitio: Ihmiset arvioivat jatkuvasti omaa ajatteluprosessiaan kysymällä “Onko tämä johtopäätös järkevä?” LLM:t eivät kuitenkaan ole mekanismia itsearvioinnille. Mallien rakentaminen, jotka voivat kriittisesti arvioida omaa tulostaan, olisi askel kohti aitoa järkeilyä.
4. Arkijärjen ymmärtäminen ja intuitio: Vaikka LLM:illä on pääsy laajaan tietopohjaan, ne usein kamppailevat perusrakenteisen järkeilyn kanssa. Tämä johtuu siitä, että ne eivät ole todellista maailman kokemuksia, eivätkä ne voi helposti tunnistaa absurdia, jota ihmiset havaitsevat välittömästi. Niillä ei myöskään ole tapaa tuoda todellisen maailman dynamiikkaa päätöksentekoprosessiinsa. Yksi keino parantaa tätä voisi olla mallin rakentaminen, jossa on arkijärjen moottori, joka voi sisältää todellisen maailman aistimisen tai tietoverkkorakenteen, jotta malli voisi ymmärtää maailmaa ihmisten tavoin.
5. Vastakkainen ajattelu: Ihmisen järkeily usein sisältää kysymyksen “Mitä jos asiat olisivat erilaiset?” LLM:t kamppailevat näiden “mitä jos” -skenaarioiden kanssa, koska ne ovat rajoitettu aineistoon, jolle ne on koulutettu. Jotta mallit voivat ajatella enemmän kuin ihmiset näissä tilanteissa, niiden on simuloida hypoteettisia skenaarioita ja ymmärrettävä, miten muuttujien muutokset voivat vaikuttaa lopputulokseen. Niiden on myös oltava tapa testata eri mahdollisuuksia ja luoda uusia oivalluksia, eikä vain ennustaa perustuen siihen, mitä ne ovat jo nähneet. Ilman näitä kykyjä LLM:t eivät voi todella kuvitella vaihtoehtoisia tulevaisuutta – ne voivat vain toimia siitä, mitä ne ovat jo oppineet.

Johtopäätös

Vaikka LLM:t voivat näyttää järkeilevän, ne luottavat itse asiassa suunnittelutekniikoita monimutkaisten ongelmien ratkaisemiseen. Riippumatta siitä, onko kyse matemaattisesta ongelmanratkaisusta tai loogisesta johtamisesta, ne järjestävät lähinnä tunnettuja malleja järjestetyssä muodossa eikä syvällisesti ymmärrä periaatteita, jotka niiden taustalla vaikuttavat. Tämä ero on kriittinen AI-tutkimuksessa, koska jos me yliarvioimme kehittyneen suunnittelun aidoksi järkeilyksi, meidän on riski yliarvioida AI:n todellisia kykyjä.

Tie aitoon järkeilyyn vaatii perustavanlaatuisia edistysaskelia tokenien ennustamisen ja todennäköisyyden suunnittelun ulkopuolelle. Se vaatii läpimurtoja symbolisessa logiikassa, kausaalisessa ymmärtämisessä ja metakognitiossa. Ennen kuin nämä edistysaskeleet tehdään, LLM:t pysyvät voimakkaina työkaluina järjestetyssä ongelmanratkaisussa, mutta ne eivät todella ajattele samalla tavalla kuin ihmiset.