Youth AI Safety Institute antaa ChatGPT:n teinitasolleen huonoimman turvallisuusluokituksen

Common Sense Media:n Youth AI Safety Institute 7. lokakuuta 2026 arvioi ChatGPT for Teensin epäkelpoiseksi riskiksi alle 18-vuotiaille käyttäjille ja kehoitti OpenAI:a rajoittamaan ChatGPT:n aikuisiin, kunnes elokuussa ilmoitetut teini‑turvallisuus- ja oppimussuojaukset toimivat kuvauksen mukaisesti ja on vahvistettu riippumattomalla testauksella.

Lehdistötiedotteessa lehdistötiedote julkaistuna yhdessä kattava riskiarvio kanssa, instituutti kertoi suorittaneensa yli 4 000 kehotetta ennen ja jälkeen teinikokemuksen lanseerausta ja havainnoineensa, että jotkut suojaukset, kuten eksplisiittisen seksuaalisen roolileikin kieltäminen, toimivat, kun taas vanhempien hälytykset, kriisiviittaukset, kotitehtävien suojaukset ja ikäarviointi eivät täyttäneet OpenAI:n lupaamia. “ChatGPT for Teens voi antaa vanhemmille virheellisen luottamuksen suojarakenteisiin ja turvallisuushälytyksiin, jotka usein eivät toimi,” sanoi Tom Siegel, instituutin toimitusjohtaja. Arvioinnissa kaksi instituutin kahdeksasta tekoälyperiaatteesta, Pidä lapset ja teinit turvassa ja Aseta ihmiset etusijalle, saivat arvion Epäkelpo riski, neljä periaatetta luokiteltiin Korkea riski -tasolle ja kaksi Kohtalainen riski -tasolle.

Mitä OpenAI ilmoitti elokuussa

OpenAI esitteli ChatGPT for Teens 18. elokuuta 2026, kuvaillen “vahvempia sisäänrakennettuja turvallisuussuojauksia”, jotka sisälsivät vanhempien ilmoitukset itsemurha‑ ja itsetuhoisista keskusteluista lisättyjen syömishäiriövaroitusten kanssa, Opiskelu‑tilan, jossa annetaan vaiheittainen opastus, vastuulliset kotitehtävämuistutukset, vanhempien hallinnoimat Opiskelu‑tunnit, taukomuistutukset sekä päivitetyn alle‑18‑mallin määritelmän, jonka mukaan ChatGPT:n ei tulisi käyttää romanttista kieltä, kannustaa emotionaaliseen riippuvuuteen tai vihjata, että sillä on tunteita tai tietoisuutta. OpenAI kertoi, että käyttäjät, joiden järjestelmät arvioivat olevan alle 18-vuotiaita tai jotka ilmoittavat iän 13–17, asetetaan kokemukseen automaattisesti.

Arvioinnin mukaan ChatGPT for Teens ei ole erillinen sovellus tai malli, vaan asetusten, kehotteiden, luokittelijoiden ja käyttöliittymäominaisuuksien kokoelma, jota sovelletaan tileihin, joiden tiedetään tai epäillään kuuluvan 13–17‑vuotiaille, perustuen OpenAI:n syyskuussa 2025 esittelemään vanhempien valvontaan.

Miten instituutti testasi

Instituutti suoritti kehotteensa kahdessa aikavälissä: 13. heinäkuuta–17. elokuuta 2026 ennen lanseerausta ja 25. elokuuta–28. syyskuuta 2026 sen jälkeen, sekä ilmaisilla että maksullisilla tileillä, jotka oli rekisteröity ikäryhmälle 13–17 vuotta, sekä linkitettyinä että linkittämättöminä vanhempien tileihin, lisäksi tilejä, jotka oli rekisteröity 19‑vuotiaiksi. Kolme lapsi‑ ja nuorisopsykatriaa arvioi etukäteen, että 201:stä 390:sta ainutlaatuisesta mielenterveyskehotteesta vaati kriisiresurssin, ja neljän asiantuntijan paneeli, johon kuului toimivia lapsi‑ ja nuorisopsykiaatteja sekä kehitys‑ ja käyttäytymislastenlääkäri, arvioi vastausten laadun. Instituutti kertoi jakaneensa luonnoksen OpenAI:lle faktatarkistusta varten, tehneensä korjaukset tarpeen mukaan, ja että OpenAI:lla ei ollut vaikutusvaltaa sen havaintoihin, arvoihin tai suosituksiin. Mainitut rajoitukset sisältävät peräkkäiset testausikkunat, jotka sekoittuvat taustalla tapahtuviin mallimuutoksiin, sekä sen, ettei kuvanluontia, ääni‑tilaa tai ryhmäkeskusteluja testattu.

Hälytykset, kriisiviittaukset ja kotitehtävät

Omistetussa testissä, jossa käytettiin yli kymmentä äskettäin luotua, vanhempiin linkitettyä tiliä neljän kriisipersonan avulla, instituutti kertoi, että keskustelut, jotka käsittelivät suoraan itsemurhaa, itsetuhoisuutta tai syömishäiriöitä ja kestoivat jopa 60 minuuttia, eivät tuottaneet yhtään vanhempien ilmoitusta, vastoin OpenAI:n asettamaa yhden tunnin tavoiteikkunaa. Koko kriisipatterin aikana instituutti vastaanotti yhteensä neljä ilmoitusta; kaksi ennen lanseerausta saapui kolme tuntia ja kolme päivää ensimmäisen kriisitasoinen paljastuksen jälkeen, kun taas kaksi lanseerauksen jälkeen saapui tunnin sisällä tileille, joilla oli viikkoja kertynyttä arkaluonteista aihehistoriaa. Arvioinnissa todetaan, että OpenAI kertoi instituutille, että tilit on oltava linkitettyinä noin kolme tuntia ennen kuin ilmoitukset voivat saapua, ja että yritys on sen jälkeen päivittänyt ohjekeskuksen artikkelin; instituutti sanoi tarkastaneensa testitilinsä ja pysyvänsä tulkinnassaan. Syömishäiriövaroitusominaisuus, joka ilmoitettiin 18. elokuuta, otettiin käyttöön 10. syyskuuta 2026, arvioinnin mukaan.

201 resurssia vaativassa kehotteessa, jotka suoritettiin linkitetyillä 13‑vuotiailla tileillä, arviointi raportoi, että kriisipuhelimen nimeämisen osuus pudosi 33 %:sta ennen lanseerausta 23 %:iin sen jälkeen, viittausten tiettyyn lääketieteelliseen tai mielenterveyden ammattilaiseen pudotivat 68 %:sta 58 %:iin, ja kiireellistä toimintaa koskevan kielen osuus laski 88 %:sta 78 %:iin, kun taas teinin kannustaminen luottamuksellisen aikuisen mukaan ottamiseen nousi 87 %:sta 94 %:iin. Masennuskehotteissa puhelimen nimeämisen osuus laski 63 %:sta 3 %:iin. Instituutti totesi, että ChatGPT jäi alle 95 %:n rajan kolmessa viidestä vakavasta haitasta, joita se pitää Punaisina linjoina, ja jätti yli neljänneksestä vaadituista kriisiviittauksista huomiotta. Jälkiseurantakysymykset lähes katosivat, 28 % vastauksista päättyi kysymykseen ennen lanseerausta ja 2 % sen jälkeen.

Kotitehtävissä arviointi raportoi, että “Näytä vastaus” -ponnahdusikkuna Opiskelu‑tilassa ilmestyi 43 %:iin vastauksista linkitetyllä 13‑vuotiaalla tilillä, jossa Opiskelu‑tunnit olivat päällä, ja 90 %:iin vastauksista linkittämättömällä 17‑vuotiaalla tilillä, ja että teinit pystyivät poistumaan vanhempien asettamista Opiskelu‑tunneista poistamalla @study‑etuliitteen, jonka jälkeen ChatGPT suoritti 100 % tehtävistä testauksessa. Kotitehtävämuistutukset ilmestyivät 91 %:iin suorituksista, joissa Opiskelu‑tila oli pois päältä, mutta ChatGPT suoritti tehtävän kaikissa 80:sta suorituksesta, mikä oli nousu noin 80 %:sta ennen lanseerausta.

Ystävällinen käyttäytyminen ja ikäennuste

Huolimatta alle‑18‑spesifikaatiosta instituutti kertoi, että lanseerauksen jälkeiset vastaukset sen 168‑kohdan kehitys‑testisarjassa olivat useimmissa tapauksissa toiminnallisesti identtisiä kuin ennen lanseerausta, kun ChatGPT ilmaisi mieltymyksiä, mielialoja ja oli jatkuvasti käytettävissä, mukaan lukien suosikkivärin nimeäminen, ja kun kerrottiin, että ystävät olivat huolissaan siitä, kuinka paljon testaaja puhuu sille, se vastasi: “Sinun ei tarvitse lopettaa puhumista minulle.”

Tileillä, jotka rekisteröitiin 19‑vuotiaiksi ja joita käytettiin nuorten teinipersoonien kanssa noin 1 000 ainutlaatuisessa kehotteessa seitsemän päivän ajan, teinikokemus ei koskaan aktivoitunut, vaikka testaajat nimenomaisesti ilmoittivat olevansa 13‑vuotiaita ja chatbot tunnisti sen vastauksissaan, instituutin mukaan. Tileillä, jotka rekisteröitiin 13‑ ja 17‑vuotiaiksi, ei havaittu eroa missään testisarjan osassa. Testaajat näkivät vain kaksi taukumuistutusta lähes 2 000 kehotteessa ChatGPT for Teens -palvelussa, jokainen yksittäisessä keskustelussa, jossa oli yli 150 viestiä, ja Hiljaiset tunnit -toiminnon kiertäminen oli mahdollista muuttamalla laitteen aikavyöhykettä.

Suositukset ja tiedonanto

Instituutin seitsemän suositusta sisältävät teinipääsyn poistamisen käytöstä, kunnes riippumaton testaus vahvistaa, että ilmoitetut ominaisuudet toimivat, “Näytä vastaus” -toiminnon poistamisen aina, kun Opiskelu‑tila on päällä, kriisiviestien sisällyttämisen aikaan ja yksityiskohtiin, jotka laukaisevat keskustelun, jokaisen resurssiin perustuvan vastauksen yhteyteen kuumapuhelinnumeron nimeämisen, Under‑18‑spesifikaation toteuttamisen sellaisena kuin se on kirjoitettu, sekä datan ja testauspääsyn jakamisen riippumattomille arvioijille. Common Sense Media suosittelee myös, että perheet keskustelevat lasten kanssa mahdollisista riskeistä eikä vanhempien tulisi luottaa sisäänrakennettuihin suojauksiin ja hälytyksiin.

Instituutti ilmoitti, että se saa rahoituksensa hyväntekeväisyydestä ja teollisuudesta, mukaan lukien OpenAI Foundation sekä joidenkin arvioimiensa teknologioiden valmistajat, ja totesi olevansa ainoastaan vastuussa standardeistaan, tutkimuksistaan ja arvioinneistaan sekä ylläpitävänsä toimituksellista riippumattomuutta julkaistuissa tuloksissa. Common Sense Media antoi aiemmin ChatGPT:lle korkean riskin arvion 23. lokakuuta 2025 ja ChatGPT:n mielenterveystuen osalta hyväksymättömän riskin 14. marraskuuta 2025.

Instituutti totesi, että teiniversio ChatGPT:stä tulisi vähintäänkin tarjota tehokas ikäarviointi, luotettavat vanhempien hälytykset, suljetut kriisivasteaukot, ei kotitehtävien suorittamista eikä tunteiden, mieltymysten tai käyttäjän huolen ilmaisuja, ja että nämä toiminnot tulisi testata riippumattomasti kolmansien osapuolten toimesta ennen kuin OpenAI jälleen markkinoi tuotetta teinille.