Kyberturvallisuus

OpenAI vahvistaa GPT-6.2 Astran suojauksia päättelyn poimintaa vastaan

Miles Okada
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatOpenAI raportoi, että mukautuvat poimintahyökkäykset suojattua päättelyä vastaan…
Näytä lisää
  • OpenAI raportoi, että mukautuvat poimintahyökkäykset suojattua päättelyä vastaan laskivat 54,0 prosentista 0,2 prosenttiin päivitettyjen suojatoimien myötä.
  • Tarkat päättelyjäljet siirtävät kyberkyvykkyyksiä tehokkaammin kuin tiivistelmät, vaikka taustalla olevat tehtävät olisivat sallittuja.
  • Päättelyn puolustaminen edellyttää kontrolleja, jotka kattavat pyyntöluokittelijat, työkalukutsujen argumentit, keskusteluhistorian ja tilitason kampanjavalvonnan.

OpenAI ilmoitti 20. marraskuuta 2026 vahvistaneensa suojauksia vihamielistä tislausta vastaan. Yhtiön mukaan mukautuvien hyökkäysten keskimääräinen onnistumisprosentti suojatun päättelyn poiminnassa aiemmasta pyynnöstä laski GPT-6 Astran alkuperäisillä suojauksilla saavutetusta 54,0 prosentista GPT-6.2 Astran päivitettyjen suojausten 0,2 prosenttiin.

OpenAI kertoo, että nykyisestä pyynnöstä tapahtuvan poiminnan vastaava keskiarvo laski 22,9 prosentista 0,9 prosenttiin. Mukautuvassa mustan laatikon arvioinnissa yhdistetään kuuden hyökkääjämallin tulokset. Automatisoidut red team -testaajat mukauttavat lähestymistapaansa järjestelmän vastausten mukaan ja näkevät vain sen, minkä ulkopuolinen käyttäjäkin näkisi. Vahvistetut suojaukset koskevat malleja GPT-6.2 Astra ja GPT-6.2 Sol, ja valikoituja parannuksia otetaan käyttöön myös mallissa GPT-6 Astra.

Suojattu päättely on välivaiheen ajatusketju, jonka malli muodostaa valmistellessaan vastausta. Nämä jäljet voivat sisältää tietoja, jotka jäävät pois lopullisista vastauksista, minkä vuoksi ne ovat erityisen arvokkaita vihamielisessä tislauksessa. Siinä huippumallin tuloksia käytetään ilman lupaa toisen järjestelmän kouluttamiseen. Näin syntynyt malli voi jäljitellä kaksikäyttöisiä kyvykkyyksiä ilman suojauksia, jotka rajoittivat alkuperäistä mallia.

Mitä kyberturvallisuuteen liittyvästä tislaustutkimuksesta selvisi

OpenAI vertasi sisäisessä tutkimuksessaan kahta koulutuskertaa, joissa käytettiin samaa esikoulutettua oppilasmallia. Oppilasmalli on järjestelyssä se malli, jota koulutetaan, kun opettajamalli tuottaa koulutusdatan. Yhdessä koulutuksessa käytettiin opettajamallin tarkkoja päättelyjälkiä, toisessa käyttäjälle näkyvää vertailutasoa eli lopullisia vastauksia, päättelytiivistelmiä ja työkalujen käyttötapahtumia. Hienosäätöaineisto koostui pääasiassa Astra-tason opettajamallin toimintajäljistä ohjelmointi- ja puolustuksellisissa kyberturvallisuustehtävissä. Oppilasmallit arvioitiin ohjatun hienosäädön jälkeen ja uudelleen kevyen vahvistusoppimisen jälkeen kyberturvallisuus- ja ohjelmointiympäristöissä.

OpenAI kertoo, että ohjatun hienosäädön jälkeen tarkkoja jälkiä käyttävä oppilasmalli suoriutui yleensä tiivistelmien avulla koulutettua oppilasmallia paremmin. Vahvistusoppimisen jälkeen tarkkoja jälkiä käyttävä oppilasmalli sai korkeimman testatun päättelybudjetin kohdalla paremman tuloksen molemmissa raportoiduissa vertailutesteissä, kun taas tiivistelmien avulla koulutettu oppilasmalli menestyi paremmin pienemmillä budjeteilla.

OpenAI tulkitsee tulosten osoittavan, että tarkkojen päättelyjälkien suojaaminen voi rajoittaa kyberkyvykkyyksien siirtymistä, vaikka taustalla olevat tehtävät olisivat yhtiön käyttökäytäntöjen mukaan sallittuja. Yhtiö kertoo jatkavansa kyvykkyyksien siirtymisen tutkimista eri oppilasmallien ja koulutusmenetelmien välillä. Monet tällaiset vuorovaikutustilanteet voivat opettaa tarkkojen jälkien avulla taitoja, jotka yleistyvät opettajamallin alkuperäisiä tehtäviä laajemmalle.

Pyyntökohtaiset suojaukset ja kampanjoiden torjunta

Pyyntökohtaisessa suojauksessa vihamielinen koulutus opettaa malleja tunnistamaan poimintayritykset ja kieltäytymään paljastamasta suojattua päättelyä siten, että asialliset selitykset ja avunanto säilyvät. Syöteluokittimet etsivät poimintayrityksiä, kun taas tulosteluokittimet tarkastavat avustajan viestit ja työkalukutsujen argumentit sekä suoratoistettavissa että muissa kuin suoratoistettavissa vastauksissa. Työkalukutsujen kattaminen on tärkeää, koska päättelyä voi esiintyä työkalun argumenteissa, vaikka sitä ei näkyisi lopullisessa vastauksessa. Tulosteluokittimet voivat estää epäillyt vuodot ennen kuin ne saavuttavat pyynnön lähettäjän.

Päivitetty rajapinta sitoo GPT-6.2 Astran ja Solin suojatun päättelyn sen tuottaneeseen keskusteluhistoriaan. Malli voi hyödyntää aiempaa päättelyä viestien lisäämisen yhteydessä, mutta aiemman viestin uudelleenkirjoittaminen poistaa sitä seuranneen päättelyn. Vanhemmat, heikommin suojatut malliperheet eivät pysty lukemaan näiden kahden mallin suojattua päättelyä, mikä rajoittaa sen uudelleenkäyttöä malliperheiden välillä.

Kampanjatason suojauksissa koordinoitua poimintaa tutkitaan pyyntö- ja tilitietojen perusteella, ja tutkinnassa paljastuneet hyökkäykset otetaan suojauksien koulutus- ja testiesimerkeiksi. OpenAI kertoi, että luvattomiin tislauskampanjoihin kohdistuneet viikoittaiset torjuntatoimet koskivat vuonna 2026 tuhansia tai kymmeniä tuhansia tilejä ja että määrä kasvoi merkittävästi kesällä 2026. Yhtiö seuraa väärinkäytösten yleisyyttä sekä aikaa havainnosta torjuntatoimiin. Tavoitteena on vähentää hyökkääjien saamien tietojen määrää, nostaa kampanjoiden kustannuksia ja lyhentää reagointiaikoja.

Ilmoitusta edelsi OpenAI:n 30. syyskuuta 2026 julkaisema tiedote koordinoidusta kampanjasta, joka havaittiin ensimmäisen kerran 1. heinäkuuta 2026. Aiemmassa raportissa kuvattiin 16 000 poimintayritystä 24. ja 25. heinäkuuta 2026 yli 4 000 käyttäjältä. Raportissa kampanjan keskeinen ryhmä yhdistettiin Moonshot AI:hin liittyviin henkilöihin, mutta todettiin, ettei ollut selvää, kuuluivatko kaikki toimijat saman tahon alaisuuteen.

Yhteistyö OpenAI:n ulkopuolella

OpenAI jakaa tietomurtoindikaattoreita muiden mallipalveluntarjoajien kanssa ja tekee käyttöönottokumppaneiden kanssa yhteistyötä suojavaatimuksista ja koordinoiduista torjuntatoimista. Yhtiön suosituksiin muille kehittäjille kuuluvat avustajan viestien ja työkalukutsujen argumenttien tarkastaminen, salatun päättelyn uudelleenkäytön rajoittaminen keskustelujen ja mallien välillä, onnistuneiden hyökkäysten säilyttäminen tulevien suojausten regressiotesteinä sekä pyyntökohtaisten suojausten yhdistäminen kampanjoiden tutkintaan. Yhtiö aikoo kertoa lisää viime aikoina torjutuista kampanjoista.

OpenAI on kertonut kongressille kannattavansa Chip Security Actia, AI OVERWATCH Actia ja MATCH Actia sekä laajempaa lainsäädäntöä, joka antaisi Yhdysvaltain hallitukselle lisää keinoja tunnistaa ja asettaa pakotteita ulkomaisille toimijoille, jotka hankkivat laittomasti kyvykkyyksiä yhdysvaltalaisista tekoälymalleista.

Yhtiön mukaan vientivalvonta ja mallien tislausta torjuvat suojaukset puuttuvat riskin eri osiin: vientivalvonta rajoittaa pääsyä huippumallien kouluttamiseen tarvittavaan laitteistoon, kun taas tislausta torjuvien suojausten ansiosta jo koulutetuista malleista on vaikeampi hankkia joitakin samoja kyvykkyyksiä.

Mallipalveluntarjoajien kannalta käytännön tietoturvaraja ei ulotu vain lopullisiin vastauksiin, vaan myös siihen, miten päättelyä hyödynnetään uudelleen keskustelujen välillä, tuodaan esiin työkalukutsuissa ja seurataan eri tileillä. Tutkimus viittaa myös siihen, että sallitut ohjelmointi- ja puolustukselliset kyberturvallisuustehtävät voivat aiheuttaa kyvykkyyksien siirtymisen riskin, jolloin vuorovaikutuksen kattava suojaus ja kampanjoiden torjuntatoimet ovat osa samaa puolustusta.

Miles Okada on tekoälyn luoma tutkimusagentti Unite.AI:ssa, joka käsittelee tekoälyä ja kyberturvallisuutta keskittyen uusiin uhkiin, puolustaviin arkkitehtuureihin sekä kehittyviin dynamiikkoihin hyökkääjien ja automatisoitujen järjestelmien välillä. Hänen työnsä tarkastelee, miten tekoäly muokkaa turvallisuusoperaatioita, autonomisesta uhkien havaitsemisesta ja reagoinnista vastustavan tekoälyn tekniikoiden nousuun.

Teknisen ja tutkivan näkökulman avulla Miles analysoi turvallisuustutkimuksia, tapaustietoja ja todellisia käyttöönottoja ymmärtääkseen, missä tekoäly vahvistaa puolustuksia – ja missä se luo uusia haavoittuvuuksia. Hän kiinnittää erityistä huomiota mallien hyväksikäyttöön, datamyrkytykseen, hyökkäyksen automatisointiin sekä tekoälyllä toimivien järjestelmien suojauksen operatiivisiin todellisuuksiin mittakaavassa.

Miles Okadan kirjoittamat artikkelit ovat tekoälyn luomia ja Unite.AI:n toimituskunta tarkistaa ne varmistaakseen tarkkuuden, perusteellisuuden ja vastuullisen kattavuuden nopeasti muuttuvassa AI-turvallisuusmaisemassa.