Miksi tekoälyn tuottamaa tekstiä on vaikeampi ymmärtää kuin luulet

Tekoälymallien ymmärtäminen voi käydä vaikeammaksi, koska niiden koulutuksessa palkitaan yhä enemmän ongelmien tehokkaasta ratkaisemisesta eikä asioiden selkeästä selittämisestä ihmisille.

Edellä oleva muokkaamaton virke on ChatGPT:n kirjoittama vastaus pyyntöön, jossa siltä pyydettiin ELI5-tyylistä yhden virkkeen yhteenvetoa tieteellisestä artikkelista. Virkkeessä on ainakin muutamia kielen vääristymisen piirteitä, joita selitetään tässä uudessa tutkimuksessa*. Uuden tutkimuksen mukaan ongelma koskee kaikkia johtavia malleja sekä lähes kärkitasolla olevia malleja ja joitakin testattuja avoimen painotuksen malleja.

Esimerkiksi katkelman alkuosa ”niiden koulutuksessa palkitaan yhä enemmän ongelmien tehokkaasta ratkaisemisesta” havainnollistaa artikkelin näkemystä siitä, että tekoälymallit toisinaan antavat elottomille asioille inhimillisiä toimintoja (sillä yllä olevassa esimerkissä ”koulutuksen” kuvataan palkitsevan jotakin aktiivisesti).

Tämä voi hidastaa ilmauksen nopeaa jäsentämistä, sillä meidän on ensin sisäisesti ymmärrettävä, että kyseessä on havainnollistava kielikuva, eikä tulkittava ilmausta kirjaimellisesti, mikä olisi paljon yksinkertaisempaa.

Jälkimmäinen osa ”palkitaan yhä enemmän ongelmien tehokkaasta ratkaisemisesta”niputtaa myös useita ajatuksia yhteen ja pakottaa lukijan päättelemään, mitä palkitaan, mitä ratkaistaan ja mikä muuttuu tehokkaammaksi.

Artikkelissa todetaan^†:

”[Readers] elollisuutta käytetään jäsentämisen vihjeenä, ja ilman lisäkontekstia yhteensopimattomuus voi aiheuttaa P600-vasteen^††, johon liittyy uudelleenanalyysi. ”

”Näiden virkkeiden muotoileminen uudelleen elottomien subjektien välttämiseksi saattaisi kuitenkin edellyttää virkkeen pidentämistä. Esimerkiksi sana ”puree” korvaa ilmauksen ”aiheuttaa ongelman”. ”

”Arvelemme, että mallit ovat koulutuksen aikana saattaneet päätyä käyttämään tällaisia rakenteita tehokkaina, vaikkakin epätyypillisinä tapoina ilmaista merkityksiä, joiden ilmaiseminen muuten veisi enemmän tokeneita.”

Anteeksi mitä?

Tämä on artikkelin keskeinen ajatus: koska nykyaikaisia tekoälymalleja, kuten ChatGPT:tä, Claudeta ja Geminiä, optimoidaan monenlaisten ongelmien ratkaisemiseen eikä erityisesti viestintään, ne tuottavat usein kieltä hyvin tiiviinä paketteina, joiden sisältöä on purettava.

Tämä yllätti minut, sillä yritän jatkuvasti saada ChatGPT:n ja sen kaltaiset mallit olemaan vähemmän runsassanaisia ja tiiviimpiä – kirjallisuudessa tämä ongelma tunnistetaan ja siihen puututaan.

Sen sijaan artikkelissa runsassanaisuutta kuvataan eräänlaiseksi zip-pommiksi, joka vaikeuttaa ymmärtämistä silloinkin, kun virke ei ole kovin pitkä. Kun siis yhdistetään oletusvastausten liiallinen pituus ja artikkelissa esiin tuotu liiallinen tiivistäminen, voidaan ajatella, että johtavien tekoälymallien oletusvastaustyyli on varsin omintakeinen. Oletettavasti tätä melko niukkasanaista tyyliä käytetään osittain myös tekoälyn tuottaman tekstin ominaisuutena tunnistimissa, vaikka artikkelissa tätä ei käsitellä.

Kirjoittajat tarkastelevat myös substantiivien ketjuttamista, jota havainnollistaa ongelmallinen ilmaus Ryhmä auttaa koiranpureman uhria^†:

”Englannissa substantiivit voivat vapaasti määrittää muita substantiiveja adjektiivin tavoin: ilmauksessa kahvikauppa, kahvi määrittää kauppaa, vaikka se yleensä esiintyy substantiivina. Tämä ominaisuus mahdollistaa useiden substantiivien ketjuttamisen rikkaiksi yhdyssanoiksi, jotka ilmaisevat hyvin täsmällisiä merkityksiä.

Tällaiset ketjut voivat kuitenkin aiheuttaa epäselvyyttä sanojen ryhmittelyssä, kuten otsikossa Ryhmä auttaa koiranpureman uhria, ja häiritä lukemista.”

Jos LLM:t siis ovat tiivistämisen kautta runsassanaisia, ovatko ne kaksin verroin runsassanaisia tuottaessaan kyselyyn vastaukseksi liiallisia määriä tiivistettyä tekstiä? Tämä tarkoittaa, että kyselyyn vastatessa luettavaa tekstiä on paljon ja että itse tekstissä voi lisäksi olla runsaasti ”implisiittistä” merkitystä, joka on purettava auki.

Yhdessä vuoden 2023 tutkimuksessa esitettiin, että LLM-malleista voi tulla tarpeettoman runsassanaisia, koska niiden koulutuksessa käytetään tekoälytuomareita, jotka palkitsevat usein pidemmistä vastauksista – jopa silloin, kun ihmiset suosivat tutkimuksen testeissä lyhyempiä vastauksia.

Uuden tutkimuksen kirjoittajat selittävät osan johtavien mallien tiivistävistä taipumuksista (ks. edellä oleva lainaus) arkkitehtuurin ominaisuudella, joka saa mallit säästämään tokeneita. Se on nykyään varsin suopea ajatus.

Tarkastellaan seuraavaksi tutkimuksessa käytettyjä menetelmiä ja aineistoja sekä kirjoittajien tekemiä testejä.

Aineisto ja menetelmät

Epätavallisia sanayhdistelmiä tutkittiin niiden ennakoimattomuuden selvittämiseksi. Yhdistelmiä mitattiin n-grammeilla eli sanajaksoilla, ja harvinaisten yhdistelmien havaittiin liittyvän lukemisen suurempaan vaikeuteen.

Riippuvuuden pituutta (grammaattisesti toisiinsa liittyvien sanojen välistä etäisyyttä) mitattiin myös, sillä pidemmät etäisyydet kuormittavat työmuistia enemmän – varsinkin silloin, kun subjektin ja verbin välissä on useita sanoja.

Objektirelatiivilauseita (esimerkiksi rakennetta ”talo, jonka urakoitsijat rakensivat”) tutkittiin etenkin silloin, kun valinnaisia sanoja jätettiin pois (kuten englannin sanaa ”that” rakenteesta ”talo, jonka urakoitsijat rakensivat”).

Edellä mainittuja useasta substantiivista muodostuvia yhdyssanoja (vähintään kolmen substantiivin muodostamia rakenteita, kuten ”kauhuelokuvan ääniraitageneraattori”) tutkittiin myös, sillä niiden osien väliset suhteet voivat jäädä epäselviksi.

Substantiiveista muodostettuja verbejä (verbeinä käytettyjä substantiiveja, kuten ”haarukoi se” sen sijaan, että sanottaisiin ”laita se haarukkaan”) tutkittiin yhdessä elottomien subjektien kanssa, joihin liittyi tavallisesti eläviin olentoihin yhdistettyjä verbejä (kuten aiemmin käsiteltiin). Molemmissa rakenteissa merkitys voidaan tiivistää harvempiin sanoihin, mutta lukijalta voidaan samalla edellyttää enemmän tulkintaa.

Tutkitut mallit

Tutkijat keräsivät tekoälyn tuottamia keskusteluja 14 mallista: Kimi K2.5; GLM 5; Claude Sonnet 5, Opus 5, Opus 5.5 ja Fable 5; GPT-5.6 Luna, Terra ja Sol; Olmo Base, Instruct ja Think; sekä Llama Base and Instruct.

Testit sisälsivät kymmenen aloituskehotetta yleiseen keskusteluun ja viisi koodaukseen. Kussakin tehtävässä mallin piti kopioida aito, julkinen GitHub-koodivarasto, etsiä siitä virheitä ja korjata ne hiekkalaatikossa.

Keskustelut rajattiin 12 vuoropariin ja koodaussessiot 11 vuoropariin, minkä jälkeen lähetettiin ennalta määritelty lopetusviesti. Erillisessä testissä kutakin mallia pyydettiin kirjoittamaan seitsemän esseetä PERSUADE 2.0 -aineiston tehtävänantojen pohjalta.

Vertailua varten ihmisten kirjoittamia tekstejä kerättiin lähteistä, jotka vastasivat mahdollisimman hyvin tekoälyn kolmea tulostyyppiä: OpenSubtitles (elokuvien ja televisio-ohjelmien tekstityskokoelma, joka ei liity avoimen lähdekoodin tekstitysalustaan) toimi yleisen keskustelun aineistona; StackExchange (verkkoyhteisö, johon kuuluu kysymys- ja vastausfoorumeita) koodauskeskustelujen aineistona; ja edellä mainitun PERSUADE 2.0 -aineiston opiskelijaesseet kirjoitustehtävien aineistona. Lisäksi vertailulähteenä käytettiin Wikipediaa.

Kun sopivaa ihmisten tuottamaa aineistoa oli saatavilla, samoja kielellisiä piirteitä mitattiin sekä ihmisten kirjoittamista että tekoälyn tuottamista teksteistä. Näitä vertailuaineistoja käytettiin myös sanayhdistelmien yleisyyden arviointiin.

Edestakaista käännöstä (englannista japaniksi ja takaisin NLLB-200-mallilla) käytettiin erottamaan tyylilliset mieltymykset kielellisistä välttämättömyyksistä. Merkitys säilyi pitkälti, vaikka lauserakenne muuttui, mikä auttoi tunnistamaan tarpeettoman monimutkaiset ilmaukset.

Tulokset

Koe 1

Kuten alla näkyy, useita vaikeita rakenteita esiintyi useammin alkuperäisissä tekoälyn tuottamissa teksteissä, etenkin huippumalleissa. Tämän tulkittiin osoittavan, että mallit suosivat tarpeettoman monimutkaisia ilmauksia:

Vertailu alkuperäisten tekoälyn tuottamien tekstien sekä japaniksi ja takaisin englanniksi käännettyjen versioiden välillä. Vihreät pisteet osoittavat kielellisiä piirteitä, joita käytettiin useammin alkuperäisteksteissä; vaaleanpunaiset pisteet puolestaan piirteitä, joita käytettiin useammin käännöksen jälkeen. Erot olivat yleensä suurempia GPT- ja Claude-malleilla. Lähde

Kuuden kielellisen piirteen esiintymistä verrattiin 14 tekoälymallissa kolmessa käyttötavassa: keskustelussa, koodauksessa ja esseiden kirjoittamisessa. Keskustelussa testattiin 12 mallia, koodauksessa yhdeksää ja esseiden kirjoittamisessa kaikkia 14:ää:

Kuuden kielellisen piirteen vertailu tekoälymalleissa keskustelussa, koodauksessa ja esseiden kirjoittamisessa. Kukin vinoneliö kuvaa mallin yhdistettyä tulosta; vaakapalkit esittävät 95 prosentin luottamusvälit. Katkoviivat osoittavat ihmisten kirjoittamien tekstien vertailutasot: OpenSubtitles (keskustelu), StackExchange (koodaus) ja PERSUADE 2.0 -aineiston opiskelijaesseet (esseiden kirjoittaminen). Pisteviivat osoittavat Wikipedia-vertailut. Suuremmat arvot merkitsevät yleensä mitatun rakenteen yleisempää käyttöä tai suurempaa kielellistä monimutkaisuutta. Katso tarkempi kuva alkuperäisestä tutkimusartikkelista.

Alkuperäistä tekoälyn tuottamaa tekstiä verrattiin myös takaisin käännettyihin versioihin, mikä mahdollisti lauserakenteiden erojen mittaamisen:

Vertailussa alkuperäinen tekoälyn tuottama teksti (täydet vinoneliöt) ja versiot, jotka oli käännetty japaniksi ja takaisin englanniksi NLLB-200-mallilla (tyhjät ympyrät). Vaaleanpunaiset viivat osoittavat piirteitä, joita käytettiin useammin käännöksen jälkeen; vihreät viivat piirteitä, joita käytettiin useammin alkuperäisissä teksteissä. Tähdet ilmaisevat tilastollista merkitsevyyttä (yksi, kaksi tai kolme tähteä osoittaa tilastollisen näytön vahvistuvan asteittain). Useimmat lukemisen vaikeuteen yhdistetyt rakenteet vähenivät käännöksessä, etenkin huippumalleissa. Katso lähdeartikkelista tarkempi kuva.

Huippu- ja lähes huippuluokan mallien havaittiin käyttävän liikaa epätavallisia sanayhdistelmiä, substantiiveista muodostettuja verbejä, elottomia subjekteja sekä objektirelatiivilauseita, joista oli jätetty pois valinnaisia sanoja (ks. yllä oleva kaavio). Nämä taipumukset olivat yleensä vähäisempiä Llama- ja Olmo Base -malleissa, mutta selvempiä Olmo Thinkissä.

Erot olivat esseekirjoittamisessa vähäisempiä kuin keskusteluissa tai koodauksessa. Tämän katsottiin johtuvan siitä, että esseet perustuvat yhteen kehotteeseen, kun taas pitkät edestakaiset keskustelut saattavat kannustaa kielelliseen tiivistämiseen.

Kirjoittajat huomauttavat:

‘PERSUADE-esseissä muutokset edestakaisessa käännöksessä olivat vähäisempiä useissa luokissa (n-grammitunnusluvut, riippuvuuksien pituudet, substantiiviketjut ja substantiiveista muodostetut verbit) verrattuna keskusteluihin ja [coding].

‘Oletamme tämän johtuvan siitä, että esseissä käytetään yhtä kehotetta, toisin kuin keskusteluissa ja koodauksessa, joissa on monta peräkkäistä vuoroa. Arvelemme, että pitkissä edestakaisissa keskusteluissa voi syntyä tiettyjä rakenteita (sillä niissä saatetaan joutua tiivistämään tietoa enemmän).’

Käännöksen jälkeen vähiten muutoksia havaittiin Llama- ja Olmo Base- sekä Instruct-malleissa, joiden sanayhdistelmät ja verbien käyttö muistuttivat myös eniten opiskelijoiden esseitä. Olmo Thinkin havaittiin sen sijaan käyttäytyvän enemmän huippumallien tavoin. Claude Opus 5.5:n havaittiin käyttävän vähemmän vaikeita rakenteita kuin Opus 5:n 19:ssä 21 vertailusta; kahdeksassa näistä 95 prosentin luottamusvälit eivät olleet päällekkäisiä.

Koe 2

Toisessa kokeessa selvitettiin, voisiko taustalla oleva paine tuottaa lyhyempiä ja tietosisällöltään tiiviimpiä vastauksia saada mallit suosimaan sellaisia kielellisiä rakenteita, joita ihmisten on vaikeampi ymmärtää.

Tässä kokeessa Qwen2.5-1.5B-Instruct-mallia hienosäädettiin käyttäen ryhmäsuhteellista politiikkaoptimointia (GRPO), ja mallin tehtävänä oli muuntaa rakenteiset, JSON-muotoiset tapahtumakuvaukset englanninkielisiksi lauseiksi.

Koulutuksessa säädettiin kahta asiaa: sitä, kuinka paljon mallin sallittiin poiketa tavanomaisista sanavalinnoistaan (β), ja sitä, kuinka voimakkaasti sitä rangaistiin pidempien vastausten tuottamisesta (λ). Kukin tapahtuma voitiin ilmaista kahdella kieliopillisesti kelvollisella tavalla, joiden tokenmäärät erosivat toisistaan tunnetusti.

Esimerkiksi ‘Hän lähetti meille valokuvan’ vaati kuusi tokenia, kun taas ‘Hän lähetti valokuvan meille’ vaati seitsemän. Lisäksi tehtiin erillinen testi, jossa saman asian ilmaisemiseen kahdella tavalla tarvittiin yhtä monta tokenia. Näin tarkistettiin, johtuivatko erot lauseiden pituudesta.

Vaikutusta testattiin aiemmin näkemättömillä lauseilla, joissa käytettiin neljää koulutuksen aikana esiintynyttä rakennetta, kahta koulutuksessa käyttämätöntä rakennetta, joihin sisältyi valinnainen sana ”that”, sekä toisiinsa liittymättömiä rakenteita, joissa käytettiin possessiiveja, kvanttoreita, passiivia ja tarkoitusta ilmaisevia sivulauseita.

Testeillä selvitettiin, opitaanko lyhyempien ilmaisujen suosiminen ja yleistyykö se rakenteisiin, joita ei ole esiintynyt koulutuksen aikana:

Pidemmistä vastauksista koulutuksen aikana määrätyn rangaistuksen vaikutus. Esimerkki lyhyemmästä ja pidemmästä muotoilusta esitetään kohdassa A. Lyhyempien rakenteiden suosimista mitataan kohdassa B, ja aiemmin koulutuksessa esiintymättömien rakenteiden testit esitetään kohdissa C ja D. Oranssi tarkoittaa koulutusta ilman rajoitusta, joka koskee muutoksia alkuperäiseen malliin; sininen tarkoittaa koulutusta tällaisen rajoituksen kanssa. Katkoviivat kuvaavat alkuperäisen mallin mieltymyksiä. Suuremmat rangaistukset lisäsivät yleensä lyhyemmän muotoilun suosimista myös sellaisissa rakenteissa, joita ei esiintynyt koulutuksessa. Katso lähdeartikkelista tarkempi kuva.

Kun pidemmistä vastauksista määrättyä rangaistusta kasvatettiin, lyhyempi muotoilu valittiin useammin (kuten suoraan yllä olevassa kuvassa näkyy). Ilman KL-rangaistusta (rajoitusta sille, kuinka paljon malli saattoi poiketa alkuperäisistä sanavalintaennusteistaan) muutos oli nopea; sen kanssa sama vaikutus näkyi vähitellen. Ilman kumpaakaan rangaistusta mieltymykset vaihtelivat suuresti koulutuskertojen välillä, mutta jo pieni pituusrangaistus sai aikaan johdonmukaisen lyhyempien vaihtoehtojen suosimisen.

Tämä mieltymys havaittiin myös aiemmin näkemättömissä lauserakenteissa, joissa esiintyi valinnainen sana ‘that’. Siirtyminen kaukaisempiin kieliopillisiin rakenteisiin oli paljon heikompaa: vaikutus havaittiin vain omistusmuodoissa, kun KL-rangaistus puuttui.

Kirjoittajat toteavat:

‘Pidämme näitä tuloksia periaatteen toimivuuden osoituksena: GRPO-menetelmää hyödyntävässä vahvistusoppimisessa käytetty pituusrangaistus voi vaikuttaa suoraan kieliopillisiin piirteisiin.

‘Mallia ei suoraan ohjeistettu käyttämään tiivistä tai tiheää kieltä, eikä sille suoraan annettu tietoa syntaktisten vaihtoehtojen saatavuudesta.

‘Sen sijaan rangaistus sai aikaan syntaktisten vaihtoehtojen lyhyempien muotojen spontaanin suosimisen.’

Yhteenveto

Olen jo jonkin aikaa ollut kiinnostunut ankkureista – sekä tahattomista että tarkoituksellisista – jotka luonnehtivat tekoälyn tuottamaa tekstiä. Siksi tämä uusi julkaisu valaisee hieman näennäistä ristiriitaa LLM-mallien tunnetun runsassanaisuuden ja niiden nykyään yhtä lailla tunnetun taipumuksen välillä tiivistää tietoa tavoilla, jotka vaikuttavat ”helppolukuisilta” yksinkertaisesti siksi, että sanoja käytetään vähän – mutta tämä on selvästi väärä tulkinta tästä vihjeestä.

Suurten kielimallien tekstissä lyhyys voi viestiä yksinkertaisen tiivistyksen sijaan monimutkaisuudesta, ikään kuin tekoäly tarjoaisi meille arvoituksen sanojen takana olevien suorien käsitteiden sijaan. Näin on ilmeisesti vain siksi, että sama malli voi koodata ja kirjoittaa.

* Artikkelin nimi on ”Miksi tekoälyn tuottamaa kieltä on niin vaikea ymmärtää?”, ja sen ovat kirjoittaneet kaksi kirjoittajaa New York Universitystä ja The University of Texasista.

^† Muunsin kirjoittajien tekstinsisäiset viittaukset hyperlinkeiksi.

^†† https://mikeydoes.com/glossary/p600/

Julkaistu ensimmäisen kerran maanantaina 26. lokakuuta 2026