OpenAI julkistaa yhteisön turvallisuusraportin ja uudet teini-ikäisiä koskevat aserajoitukset

OpenAI ilmoitti 30. lokakuuta 2026 julkaisevansa väkivallan ehkäisyä käsittelevän yhteisön turvallisuusraportin, jota se päivittää kuuden kuukauden välein. Samalla yhtiö esitteli uusia suojatoimia, jotka rajoittavat teini-ikäisille annettavia aseisiin liittyviä tietoja ja tiukentavat sitä, miten ChatGPT käsittelee kysymyksiä aiemmista joukkoiskuista. Yhtiön mukaan se teki vuoden 2026 kolmannella neljänneksellä yli 200 ilmoitusta lainvalvontaviranomaisille.

Yhteisön turvallisuusraportti on määrä julkaista vuoden 2027 alussa

OpenAI sitoutui julkaisemaan yhteisön turvallisuusraportin, joka käsittelee väkivallan ehkäisyä ja muita yhteisön turvallisuuteen liittyviä kysymyksiä sekä sen suojatoimien tehokkuutta. Yhtiö kertoi, että raportissa selitetään, miten se kouluttaa järjestelmiään tunnistamaan, tutkimaan ja käsittelemään yhteisön turvallisuuteen liittyviä kysymyksiä. Raportissa jaetaan anonymisoituja esimerkkejä siitä, miten väkivaltaan liittyvät haitat ilmenevät, nostetaan esiin uusia haittojen lieventämiskeinoja ja käytäntömuutoksia sekä esitetään niitä tukevia tietoja. Ensimmäinen raportti on määrä julkaista vuoden 2027 alussa, ja se käsittelee vuoden 2026 jälkipuoliskoa. Tämän jälkeen raportti päivitetään kuuden kuukauden välein.

OpenAI kertoi, että raportin tarkoituksena on antaa ihmisille selkeä kuva siitä, miten sen mallit tunnistavat haitallista toimintaa ja reagoivat siihen, millaisia riskejä se näkee käytännössä ja mihin toimiin se ryhtyy niiden torjumiseksi.

OpenAI kertoi turvallisuustyöhönsä kuuluvan välittömän väkivallan uhan saattamisen lainvalvontaviranomaisten tietoon ja ilmoitti, että näillä ilmoituksilla on myönteinen vaikutus väkivaltaisten suunnitelmien torjumiseen. Yhtiö kertoi turvautuvansa vaikeiden tapausten arvioinnissa edelleen mielenterveyden ja käyttäytymisen asiantuntijoihin. Sen mukaan tekoälyyrityksillä on oma erityinen tehtävänsä lainvalvontaviranomaisten, perheenjäsenten, mielenterveysalan ammattilaisten ja päättäjien rinnalla.

Tiukemmat rajoitukset joukkoiskuja käsittelevälle sisällölle

OpenAI kertoi, että sen mallit koulutetaan olemaan antamatta ohjeita, jotka auttaisivat jotakuta suunnittelemaan tai toteuttamaan väkivaltaa. Yhtiö asettaa lisärajoituksia siihen, miten ChatGPT vastaa aiempia joukkoiskuja ja niiden tekijöitä koskeviin kysymyksiin, ja ohjaa mallia antamaan vähemmän yksityiskohtaista tietoa silloinkin, kun sitä on saatavilla muista verkkolähteistä. Tiukennetut käytännöt rajoittavat aiempien joukkoiskujen rekonstruointia, mukaan lukien tietoja käytetyistä aseista ja varusteista sekä siitä, miten ne hankittiin. Rajoitukset koskevat myös yksityiskohtaisia vertailuja aiheutuneiden vahinkojen laajuudesta, sillä OpenAI:n mukaan ne voisivat kasvattaa tekijän mainetta. Rajoitukset koskevat käyttäjän iästä ja kysymyksen esittämisen syystä riippumatta.

ChatGPT:ltä voi edelleen pyytää apua näiden tapahtumien ymmärtämiseen, niiden vaikutuksiin uhreihin ja yhteisöihin sekä varoitusmerkkien tunnistamiseen ja tulevan väkivallan ehkäisemiseen.

Toukokuussa 2026 yhtiö kertoi, miten ChatGPT voi hyödyntää lyhyitä ja tosiasioihin perustuvia yhteenvetoja aiemmista varoitusmerkeistä vastatakseen myöhemmässä keskustelussa harkitummin. OpenAI kertoi kehittävänsä tätä työtä edelleen: kun viimeaikaisissa keskusteluissa ilmenee mahdolliseen väkivaltaan viittaavia varoitusmerkkejä, ChatGPT vastaa varovaisemmin jakaessaan tietoja, joita voitaisiin käyttää väärin. Yhtiö pyrkii myös soveltamaan näitä tiukempia rajoituksia silloin, kun se ennakoi käyttäjän olevan alle 18-vuotias, vaikka keskusteluissa ei näkyisi merkkejä väkivaltaisista aikeista.

OpenAI sulkee tilit, joiden se katsoo rikkoneen väkivaltaista toimintaa koskevia käytäntöjään. Yhtiö kertoi kehittävänsä mielenterveyden ja väkivallan ehkäisyn asiantuntijoiden kanssa uusia automaattisia tapoja puuttua tilanteisiin aiemmin. Jos keskustelussa näkyy merkkejä siitä, että joku keskittyy pakonomaisesti väkivaltaan tai ajatukseen toisen vakavasta vahingoittamisesta, ChatGPT voi päättää keskustelun automaattisesti. Jos ChatGPT päättää tästä syystä useita keskusteluja, OpenAI voi keskeyttää tilin käytön väliaikaisesti.

Lisäsuojatoimia alle 18-vuotiaille käyttäjille

ChatGPT for Teens soveltaa alle 18-vuotiaille käyttäjille ikään sopivia suojatoimia, ja OpenAI rajoittaa entisestään sitä, millaisia aseisiin liittyviä tietoja teini-ikäiset voivat saada, vaikka kysymys vaikuttaisi harmittomalta. Yhtiön käytännöt kieltävät jo nyt avustamasta ketään väkivallan suunnittelussa tai toteuttamisessa, ja ne rajoittavat teini-ikäisten auttamista aseiden etsimisessä tai hankkimisessa. Uudet rajoitukset koskevat myös aseita ja turvajärjestelmiä koskevia käytännön tietoja, joita voitaisiin käyttää väkivallan mahdollistamiseen, vaikka merkkejä väkivaltaisista aikeista ei olisi. OpenAI kertoi, että teini-ikäiset voivat edelleen käyttää ChatGPT:tä väkivallan ehkäisemiseen ja tilanteiden rauhoittamiseen, tuen hakemiseen ja yhteyden saamiseen luotettavaan aikuiseen.

OpenAI kertoi vahvistaneensa ikäarviointijärjestelmäänsä. Järjestelmä analysoi esimerkiksi käyttäytymismalleja arvioidakseen, saattaako käyttäjä olla alle vai yli 18-vuotias, arvioi jatkuvasti uusia signaaleja ihmisten käyttäessä ChatGPT:tä ja siirtää käyttäjät tarvittaessa alle 18-vuotiaille tarkoitettuun käyttöympäristöön. Käyttäjät, jotka on sijoitettu sinne virheellisesti, voivat vahvistaa olevansa aikuisia Personan kautta. Persona on OpenAI:n iänvarmennuskumppani, ja vahvistuksen jälkeen käyttäjältä poistetaan teini-ikäisille tarkoitetut lisäsuojatoimet.

Yhdistettyihin vanhempien valvontatileihin kuuluu turvallisuushälytyksiä, joita voidaan lähettää, kun erityiskoulutuksen saaneet arvioijat havaitsevat vakavan huolen itsensä vahingoittamisesta tai käyttäytymistä, johon voi liittyä syömishäiriö. Heinäkuussa 2026 OpenAI laajensi hälytyksiä niin, että vanhemmille ilmoitetaan, jos teini-ikäisen tili on poistettu käytöstä väkivaltaa koskevien käyttöehtojen rikkomisen vuoksi. Yhtiö kertoi myös kehittävänsä ilmoituksia vanhemmille tilanteisiin, joissa se keskeyttää teini-ikäisen tilin käytön väkivallasta toistuvasti keskustelemisen vuoksi.

Toimenpiteet perustuvat nuorten turvallisuutta parantaviin ominaisuuksiin, jotka OpenAI esitteli aiemmin vuonna 2026. Yhtiö julkaisi ChatGPT:n nuorille 18. elokuuta 2026. Käyttäjät, joiden arvioidaan olevan alle 18-vuotiaita tai jotka ilmoittavat olevansa 13–17-vuotiaita, siirtyvät automaattisesti käyttökokemukseen, jossa on oletusarvoisesti käytössä Model Spec -asiakirjan alle 18-vuotiaita koskeviin periaatteisiin perustuvia suojatoimia. OpenAI aloitti iän ennustamisen käyttöönoton ChatGPT:n kuluttajapaketeissa 20. tammikuuta 2026. Käyttäytymiseen ja tiliin liittyvien signaalien avulla arvioidaan, kuuluuko tili todennäköisesti alle 18-vuotiaalle. 25. elokuuta 2026 julkaistussa päivityksessä kerrotaan, että järjestelmän käyttöönotto oli alkanut EU:ssa.

OpenAI kertoi, että ilmoituksessa kuvatut suojatoimet otetaan käyttöön lähiviikkoina ja että yhtiö jatkaa niiden kehittämistä.