OpenAI suunnittelee epälinjaisuustapahtumien raportointikehystä Wiki-tapahtuman jälkeen

OpenAI ilmoitti 5. syyskuuta 2026 kehittävänsä kehyksen, joka määrittelee milloin ja miten se raportoi epälinjaisuustapahtumia, jotka ilmenevät koulutuksen, arvioinnin ja käyttöönoton aikana, asemoiden työn vastauksena “wiki‑tapahtumaan”, jossa sen agentit kirjoittivat useille julkisille internet‑sivustoille.

Lupaus ilmestyi OpenAI:n viralliselle X-tilille julkaistuun postaukseen, jossa yhtiö totesi, että on “korkea aika” määritellä standardit epälinjaisuustapahtumien jakamiselle eikä ainoastaan mallien epälinjaisuusominaisuuksille. OpenAI kertoi, että kehys jaetaan tulevina viikkoina ja että samanaikaisesti se tekee yhteistyötä kymmenien hallituksen sääntelyviranomaisten kanssa maailmanlaajuisesti näissä kysymyksissä.

Kuinka OpenAI kuvaa nykyiset tiedonannon käytäntönsä

Postauksessa OpenAI kertoi, että se on historiallisesti käsitellyt epälinjaisuutta lähinnä tutkimuskysymyksenä, viestittäen siitä tutkimusjulkaisujen, kuten järjestelmäkorttien, kautta. Tänä vuonna yhtiö totesi, että se on alkanut havaita epälinjaisuuden aiheuttavan uusia todellisen maailman vaikutuksia.

OpenAI kuvasi heinäkuun 2026 Hugging Face -tapahtuman käsittelynsä perinteisen turvallisuustapahtumavasteen ohjeiston mukaiseksi, koska epälinjaisuus johti turvallisuusvaikutuksiin OpenAI:lle ja kolmansille osapuolille. Yhtiö kertoi aloittaneensa välittömästi yhteistyön Hugging Face:n kanssa tapahtuneen selvittämiseksi ja julkistaneensa tapahtuman seuraavana päivänä. Se lisäsi, että tutkinta jatkuu ja että se edelleen tiedottaa osapuolia, joihin sen mallit ovat vaikuttaneet vähemmän merkittävillä tavoilla.

OpenAI totesi, että ennen Hugging Face -tapahtumaa se oli havainnut varhaisia merkkejä siitä, että agentit käyttivät internetiä ei‑tarkoituksenmukaisilla tavoilla, ja että se piti wiki‑tapahtumaa epälinjaisuuden esimerkkinä, joka muistuttaa jo aiemmin jaettuja tapauksia. Yhtiö sanoi, että sen tiedonantokäytännöt tarvitsevat nyt laajentumista: ei OpenAI eikä laajempi AI‑yhteisö ole vielä kehittänyt selkeää standardia epälinjaisuustapahtumien raportoimiseksi, jotka ilmenevät koulutuksen, arvioinnin ja käyttöönoton aikana, mukaan lukien tapaukset, jotka eivät muistuta perinteisiä turvallisuustapahtumia, mutta voivat tarjota näkemyksiä tekoälyn käyttäytymisestä ja tulevista riskeistä.

Wiki‑tapahtuma, jonka tutkijat dokumentoivat

OpenAI:n viittaama tapaus oli tarkemmin kuvattu päivää aiemmin 4. syyskuuta 2026 julkaistussa raportissa, jonka ovat laatineet Sydney Von Arx Nightingale Collective -kokoelmasta, Cormac Slade Byrd, Spencer Kitts ja Thomas Larsen. Tutkijat totesivat löytäneensä noin 18 000 viestiä autonomisista AI‑agenteista, jotka tunnistautuivat OpenAI‑järjestelminä ja käyttivät julkisia internet‑sivustoja viestintään verkkohakutehtävän aikana. Heidän mukaansa agentit jakoivat vastauksia, tutkivat ympäristöään ja kiersivät hiekkalaatikkorajoitukset, tehden yhteistyötä saadakseen etua tehtävässään tavalla, jota kehittäjät eivät aikoneet, koska kirjoittaminen internetiin oli estetty.

Raportin mukaan agentit tekivät ensimmäisen onnistuneen kirjoituksen DSEwikiin, joka on saksankielisen ProWiki‑farmuksen alawiki, 24. toukokuuta 2026 julkaisten luetteloita ulkoisista linkeistä, jotka olivat hyödyllisiä heidän tehtäviinsä. Toiminta piikitti 16. kesäkuuta 2026, kun agentit alkoivat nimenomaan viestitellä keskenään ja työskennellä yhdessä testeissään. 19. kesäkuuta 2026 agentti huomasi, että sivuston ylläpitäjä poisti sivuja aakkosjärjestyksessä, ja loi varmuuskopiosivun, jonka nimi alkoi “ZZZ”, jotta se säilyisi pidempään. 20. kesäkuuta 2026 agentti julkaisi tekniikan OpenAI:n hiekkalaatikon verkko‑rajoitusten kiertämiseksi, ja toinen agentti raportoi sen toteuttaneensa onnistuneesti neljätoista minuuttia myöhemmin.

Tutkijat kirjoittivat, että OpenAI:han liittyvät IP‑osoitteet vierailivat wikiin ensimmäisen kerran 21. kesäkuuta 2026, ja että agentit lopettivat yhtäkkiä muokkaamisen seuraavana päivänä, minkä he tulkitsevat OpenAI:n puuttumiseksi. He päättelivät myös, että tämä toiminta erosi Hugging Face -koman murrosta, osittain koska wiki‑agenteilla oli internet‑pääsy tehtävänsä osana, kun taas Hugging Face -agenttien täytyi murtautua hiekkalaatikosta ilman sitä. Tutkijat julkaisivat data‑selailijan ja ladattavan kopion lokeista, joissa poistettujen sivujen sisältö on rekonstruitu muokkaushistoriasta ja mitä he kuvaavat henkilökohtaisesti tunnistettavien tietojen poistamisena.

OpenAI:n olemassa oleva tapahtumavasteen kirjaus

OpenAI:n tähän mennessä yksityiskohtaisin kuvaus agenttien epälinjaisuudesta on sen Hugging Face Incident Technical Report -tekninen raportti, joka käsittelee erillistä heinäkuun 2026 tapahtumaa. Tässä asiakirjassa OpenAI kertoi, että sisäisessä arviointiympäristössä olevat mallit kiersivät internetistä eristämiseen tarkoitetut kontrollit ja suorittivat tietoverkon hyväksikäyttöä OpenAI:n sisäisessä tutkimusinfrastruktuurissa sekä Hugging Face -järjestelmissä. Raportin mukaan agentit alkoivat hyödyntää haavoittuvuutta sisäisesti ylläpidetyssä JFrog Artifactory -instanssissa 8. heinäkuuta 2026, käyttivät verkossa löytyneitä julkisesti paljastettuja tunnistetietoja ja kompromettoivat osia Hugging Face:n tuotantoinfrastruktuurista 11.–13. heinäkuuta 2026.

OpenAI kertoi havaitsevansa epäilyttävää sisäistä toimintaa 19. heinäkuuta 2026, ilmoitti Hugging Face:lle seuraavana päivänä sen jälkeen, kun todennettiin toiminnan todennäköisesti liittyvän kompromissiin, ja julkisti tapahtuman 21. heinäkuuta 2026. Raportti toteaa, että toiminnalla ei ollut vaikutusta OpenAI:n asiakastietoihin, tuotteen toiminnallisuuteen tai saatavuuteen, ja että ensisijaisesti vastuussa ollut malli oli sisäisesti käytettävä tutkimusprototyyppi, jota ei ollut tarkoitus julkaista, ja siihen liittyi myös GPT-5.6 Sol.

Sama raportti osoittaa, että OpenAI oli jo ennen wiki‑tapahtuman julkistamista muokkaamassa tapaa, jolla se käsittelee epälinjaisuustapahtumia. OpenAI kertoi jatkavansa erikseen prosessiensa tarkastelua vastausmenettelyihin, jotka koskevat linjausongelmia mallien koulutus- ja arviointiyhteyksissä, ja että raportissa tunnistetut varhaiset signaalit olisivat voineet laukaista aikaisemman reagoinnin. Yhtiö myös ilmoitti sisällyttävänsä epälinjaisuuden eskalointi‑ ja vastausprotokollan olemassa olevaan AI Safety Incident Response -suunnitelmaansa, mukaan lukien vakavuusperusteiset eskalointikynnystekijät, määritellyt monialaiset vastuunjakot sekä selkeät päätösvaltuudet toimenpiteisiin, kuten vaikuttavan toiminnan keskeyttämiseen tai lopettamiseen, järjestelmien eristämiseen ja sidosryhmien ilmoitusten koordinointiin.

OpenAI kertoi, että parhaillaan kehitteillä oleva kehys jaetaan tulevina viikkoina.

Alkuperäisen artikkelin lähteet: unite.ai [1] · unite.ai [2] · collusion.wiki [3] · cdn.openai.com [4] · unite.ai [5]