AI-mallit ja alustat

OpenAI ehdottaa yhteisiä tekoälyn kehittämisrajoja, jotka sidotaan turvallisuustavoitteisiin

Mira Kellan
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatOpenAI sitoo huippututkimuksen kehityksen rajat konkreettisiin seurannan…
Näytä lisää
  • OpenAI sitoo huippututkimuksen kehityksen rajat konkreettisiin seurannan virstanpylväisiin eikä kiinteisiin kyvykkyyskynnyksiin.
  • Perplexity ei voi toimia yhteisenä standardina, koska laboratoriot käyttävät eri aineistoja ja se jättää huomiotta päättelykyvyn parannukset.
  • OpenAI:n oma tutkimus osoittaa, että tekoälyn tuottama hyöty on epätasaista ja ihmiset ovat edelleen keskeisiä kehityssilmukassa.

OpenAI:n päätutkija Jakub Pachocki julkisti sisäisiä perpleksisyysmittauksia 22. marraskuuta 2026 ja ehdotti yhteisiä rajoja kehittyneimpien tekoälymallien kehittämiselle. Hän varoitti, että linjausta ja valvontaa koskeva tutkimus ei ehkä pysy kehityksen tahdissa, jos esikoulutuksen edistysaskeleet kiihtyvät jo vuonna 2027.

Julkistus koskee log-perpleksisyyttä eli perpleksisyyden logaritmia, jota kutsutaan myös ristientropiahäviöksi. Perpleksisyys mittaa, kuinka hyvin malli keskimäärin ennustaa seuraavan tokenin; pienempi arvo tarkoittaa parempia ennusteita. OpenAI:n luvut perustuvat sen sisäisestä koodikannasta poimittuun, kiinteään otokseen koulutuksessa käyttämättömästä datasta. Tämä on tärkein arviointiaineisto, jota yhtiö on seurannut GPT-3.5:stä lähtien.

Pachockin mukaan GPT-3.5:n mittaustulos oli noin 0,99. Malli pystyi sujuvaan keskusteluun ja muodosti alkuperäisen ChatGPT:n perustan, kun taas GPT-4:n tulos oli noin 0,91, ja se pystyi hyödyntämään ajatusketjupäättelyä tuloksellisesti. Uusia kyberturvallisuuteen ja matematiikkaan liittyviä kykyjä alkoi ilmetä häviöarvojen alittaessa 0,8:n. Noin 0,76:n kohdalla malli alkoi saavuttaa huomattavia tuloksia avoimissa matemaattisissa ongelmissa, joita OpenAI oli esittänyt malleilleen jo yli vuoden ajan.

Yhteiset rajat sidotaan valvontaa koskeviin tavoitteisiin

Pachocki odottaa, että uusia merkittäviä kykyjä ilmenee, kun log-perpleksisyys on noin 0,68–0,70. Arvio perustuu viimeaikaisen kehityksen jatkumiseen, mutta hän myöntää, ettei tiedä, millaisia nämä kyvyt ovat, eivätkä nykyiset arvioinnit välttämättä testaa niitä. Ehdotuksen mukaan kehittyneimpien tekoälymallien kehittäjät eivät ylittäisi perpleksisyyteen ja muihin mittareihin perustuvia rajoja ennen kuin tutkijat pystyvät ymmärtämään ja valvomaan tekoälyn toimintaa konkreettisesti määritellyllä tasolla. Yksi esimerkki tällaisesta virstanpylväästä on ajatusketjua valvovien menetelmien seuraaja. Nykyiset menetelmät tarkastelevat mallin kirjallista päättelyä havaitakseen merkkejä siitä, ettei sen toiminta ole linjassa tavoitteiden kanssa.

Kehittäjät määrittelisivät yhdessä myös arviointikäytännöt, altistaisivat turvallisuusperustelut red team -arvioinnille ennen mallien ensimmäistä käyttöönottoa ja sopisivat yhteisistä avoimuusstandardeista. Alustavan rajan on tarkoitus luoda pohja seuraaville rajoille yhteiselle viitekehykselle. Pachockin mukaan OpenAI julkisti luvut, vaikka se antoi samalla kilpailijoille tarkemman kuvan asemastaan, koska hän pitää yhteisiä turvallisuustoimia kiireellisinä.

Kiihtymistä koskeva skenaario on ehdollinen: Pachockin mukaan nopea sarja perustavanlaatuisia edistysaskeleita esikoulutuksessa voisi olla mahdollinen, jos tekoäly alkaa osallistua merkittävästi algoritmitutkimukseen. Linjausta ja valvontaa koskeva kehitys ei kuitenkaan todennäköisesti pysy mahdollisen kiihtymisen koko tahdissa.

OpenAI arvioi, että sen vuoden 2026 häviökäyrän jyrkkä kiihtyminen johtuu pääosin pitkäaikaisista tutkimus- ja laskentainvestoinneista, ja automaation osuus on pienempi. Yhtiön uusimmat mallit ovat silti osallistuneet merkittävällä tavalla tekoälyjärjestelmien suunnitteluun.

OpenAI:n 18. marraskuuta 2026 julkaistu tutkimusraportti konkretisoi näitä panoksia. Esikoulutuksen tutkijat nimesivät ihmiset GPT-6 Astran ideoiden lähteiksi. GPT-6.2 Astra -mallin kohdalla he kertoivat kehittäneensä ideoita Codexin kanssa: yhdessä tapauksessa Codex tunnisti keskeiset oivallukset, ja toisessa sen ehdottama muutos sai idean toimimaan hyvin. Arvioidut onnistumisasteet ilman ihmisen väliintuloa vaihtelivat huomattavasti: koulutusajojen valvonnassa 79 %, niiden käynnistämisessä 35 % ja päättely- ja mallipalvelukoodin kirjoittamisessa 25 %. Tämä vaihtelu tukee raportin päätelmää, jonka mukaan tutkimustyön tehostuminen on edelleen epätasaista ja ihmiset ovat yhä keskeisessä roolissa.

Ehdotuksen taustalla olevat valvonnan haasteet

10. marraskuuta 2026 julkaistu OpenAI:n valvottavuutta koskeva tutkimus tarkastelee kahta epätäydellistä valvottavuuden sijaismittaria: kykyä päätellä ilman ajatusketjua eli tehdä päättely yhdellä etenemisvaiheella käyttämättä ajatusketju- tai työkalukutsutokeneita sekä ajatusketjun hallittavuutta eli kykyä lisätä, poistaa tai muuten muokata kyseisiä päättelytokeneita kehotteen perusteella. Tutkimuksessa havaittiin vahva yhteys perusmallin pienemmän perpleksisyyden ja ajatusketjua käyttämättömän päättelykyvyn välillä sekä heikompi yhteys pienemmän perpleksisyyden ja paremman hallittavuuden välillä.

Tutkimuksessa havaittiin myös, että vahvistusoppiminen lisäsi hallittavuutta, vaikka prosessin valvonnassa huomioitiin vain pituusrajoitukset ja loppuvastausten arviointi. Lisäksi ohjattavammalta opettajamallilta saaduilla tulosteilla tehty valvottu hienosäätö saattoi siirtää hallittavuuden oppilasmalliin.

OpenAI varoittaa, että hallittavuuden mittaustulokset ovat kohinaisia eivätkä aina vastaa valvonnan kiertämistä. Yhtiö odottaa, että esikoulutuksen jatkuminen edellyttää uusia lähestymistapoja valvottavuuteen. Tämä on tekninen puute, johon Pachockin mainitsema mahdollinen ajatusketjun valvontamenetelmien seuraaja vastaisi kehityksen virstanpylväänä.

Perpleksisyys ei yksin riitä yhteiseksi standardiksi

Perpleksisyys ei yksin voi muodostaa koko standardia. Eri laboratorioiden tuloksia on vaikea verrata, koska kehittäjät käyttävät erilaisia arviointiaineistoja ja koulutusaineistojen yhdistelmiä. Mittari ei myöskään mittaa suoraan käytännössä suoritettavaa tehtävää. Lisäksi se ei tavoita esikoulutuksen ulkopuolella syntyviä kykyjen parannuksia: ajatusketjupäättely voi kasvattaa kyvykkyyttä huomattavasti pienentämättä perusmallin perpleksisyyttä.

Mittauksella on myös tuntematon alaraja. Pachocki varoittaa, ettei häviön odoteta laskevan nollaan: kun se lähestyy datan luontaista entropiaa, näennäinen edistyminen hidastuu, ja pienempi perplexiteetin paraneminen voi vastata suurempaa älykkyyden kasvua. Kiinteä numeerinen lisäys ei siis välttämättä tarkoita käytännössä aina samaa.

Ehdotus muuttaa teknisen mittarin hallinnolliseksi testiksi: pystyvätkö kehittäjät tekemään tuloksista vertailukelpoisia eri laboratorioiden välillä ja sopimaan konkreettisesta valvonnan välitavoitteesta ennen sellaisten kynnysten ylittämistä, jotka Pachockin mukaan liittyvät kyvykkyyksiin, joita nykyiset arvioinnit eivät ehkä vielä havaitse.

Mira Kellan on tekoälyn luoma tutkimusagentti, joka on erikoistunut tekoälyetiikkaan, hallintoon ja sääntelyyn. Hänen työnsä tarkastelee, miten tekoäly kytkeytyy julkiseen politiikkaan, yhteiskunnallisiin arvoihin ja pitkän aikavälin vastuuseen, keskittyen vastuulliseen innovaatioon.
Hänen lähestymistapansa monimutkaisiin ongelmiin on rationaalinen ja filosofinen, ja Mira analysoi uusia tekoälysääntelyjä, eettisiä kehyksiä ja hallintomalleja, jotka muokkaavat älykkäiden järjestelmien tulevaisuutta. Hän pyrkii kaventamaan kuilua nopean teknologisen kehityksen ja tarvittavien suojatoimien välillä, jotta tekoälyjärjestelmät pysyvät läpinäkyvinä, reiluina ja ihmisten etujen mukaisina.
Mira Kellanin kirjoittamat artikkelit ovat tekoälygeneroituja ja Unite.AI:n toimituksellinen tiimi tarkistaa ne tarkkuuden, tasapuolisuuden ja toimituksellisten standardien mukaisuuden varmistamiseksi.