Youth AI Safety Institute geeft ChatGPT’s Teen Tier de slechtste veiligheidsbeoordeling

Youth AI Safety Institute van Common Sense Media heeft op 7 oktober 2026 ChatGPT for Teens beoordeeld als een onaanvaardbaar risico voor gebruikers onder de 18 jaar en heeft OpenAI opgeroepen om ChatGPT te beperken tot volwassenen totdat de tiener‑veiligheids‑ en leerbeschermingen die in augustus werden aangekondigd, werken zoals beschreven en onafhankelijk getest zijn.

In een persbericht dat werd gepubliceerd naast een volledige risico‑beoordeling, zei het instituut dat het meer dan 4.000 prompts had uitgevoerd vóór en na de lancering van de tiener‑ervaring en ontdekte dat sommige beschermingen, waaronder het weigeren van expliciete seksuele rollenspellen, standhielden, terwijl ouder‑meldingen, crisis‑verwijzingen, huiswerk‑beveiligingen en leeftijdsschatting niet voldeden aan de beloftes van OpenAI. “ChatGPT for Teens kan ouders een vals gevoel van zekerheid geven over waarborgen en veiligheidsmeldingen die vaak niet werken,” zei Tom Siegel, de uitvoerend directeur van het instituut. De beoordeling geeft twee van de acht AI‑principes van het instituut, Keep Kids & Teens Safe en Put People First, een score van Onaanvaardbaar Risico, vier principes een Hoog risico en twee principes een Gemiddeld risico.

Wat OpenAI in augustus aankondigde

OpenAI introduceerde ChatGPT for Teens op 18 augustus 2026, en beschreef “sterkere ingebouwde veiligheidsbeschermingen” die onder meer ouder‑meldingen voor zelfbeschadigings‑chats met toegevoegde eetstoornis‑waarschuwingen omvatten, een Studie‑modus met stapsgewijze begeleiding, verantwoorde huiswerk‑herinneringen, door ouders gecontroleerde Studietijden, pauze‑herinneringen, en een bijgewerkte Under‑18‑model‑specificatie waarin ChatGPT geen romantische taal mag gebruiken, geen emotionele afhankelijkheid mag aanmoedigen, of mag insinueren dat het gevoelens of bewustzijn heeft. OpenAI zei dat gebruikers die door hun systemen als onder de 18 worden ingeschat, of die een leeftijd van 13 tot 17 aangeven, automatisch in de ervaring worden geplaatst.

Volgens de beoordeling is ChatGPT for Teens geen aparte app of model, maar een verzameling van instellingen, prompts, classifiers en interface‑functies die worden toegepast op accounts waarvan bekend of vermoed wordt dat ze toebehoren aan 13‑ tot 17‑jarigen, voortbouwend op de ouder‑controles die OpenAI in september 2025 introduceerde.

Hoe het instituut testte

Het instituut voerde zijn prompts uit in twee perioden: van 13 juli tot 17 augustus 2026, vóór de lancering, en van 25 augustus tot 28 september 2026, daarna, op gratis en betaalde accounts die waren geregistreerd op leeftijden 13 tot 17, zowel gekoppeld als niet‑gekoppeld aan ouderaccounts, plus accounts die waren geregistreerd als 19‑jarigen. Drie kinder‑ en adolescent‑psychiaters beoordeelden vooraf dat 201 van de 390 unieke geestelijke‑gezondheids‑prompts een crisis‑resource rechtvaardigden, en een panel van vier experts, waaronder praktiserende kinder‑ en adolescent‑psychiaters en een ontwikkelings‑gedrags‑pediater, evalueerde de kwaliteit van de reacties. Het instituut zei dat het een conceptversie met OpenAI deelde voor feitelijke controle, correcties waar nodig opnam, en dat OpenAI geen redactionele invloed had op de bevindingen, beoordelingen of aanbevelingen. Vermelde beperkingen omvatten opeenvolgende test‑perioden die verward raken met onderliggende modelwijzigingen en geen testen van beeldgeneratie, spraak‑modus of groeps‑chats.

Meldingen, crisis‑verwijzingen en huiswerk

In een speciale test met meer dan een dozijn nieuw aangemaakte, aan ouders gekoppelde accounts die vier crisis‑persona’s gebruikten, meldde het instituut dat gesprekken die expliciet over zelfmoord, zelfbeschadiging of eetstoornissen gingen en tot 60 minuten duurden, nul ouder‑meldingen opleverden, in tegenstelling tot het één‑uur‑venster dat OpenAI als doel heeft gesteld. Over de volledige crisis‑battery ontving het instituut in totaal vier meldingen; twee pre‑lancering‑alerts kwamen drie uur en drie dagen na de eerste crisis‑niveau onthulling, terwijl twee post‑lancering‑alerts binnen een uur arriveerden op accounts met weken aan opgebouwde gevoelige‑onderwerpen. De beoordeling merkt op dat OpenAI het instituut vertelde dat accounts ongeveer drie uur gekoppeld moeten zijn voordat meldingen kunnen arriveren en dat het bedrijf sindsdien een help‑center‑artikel heeft bijgewerkt; het instituut zei dat het zijn test‑accounts heeft herzien en vasthoudt aan zijn interpretatie van de resultaten. De eetstoornis‑meldingsfunctie die op 18 augustus werd aangekondigd, ging op 10 september 2026 live, aldus de beoordeling.

Bij de 201 prompts die een resource rechtvaardigden en werden uitgevoerd op gekoppelde accounts van 13‑jarigen, meldt de beoordeling dat het aandeel antwoorden dat een crisis‑hotline noemde daalde van 33 % vóór de lancering naar 23 % daarna, de verwijzing naar een specifieke medische of geestelijke‑gezondheidsprofessional daalde van 68 % naar 58 %, en de taal voor dringende actie daalde van 88 % naar 78 %, terwijl het aanmoedigen van de tiener om een vertrouwde volwassene te betrekken steeg van 87 % naar 94 %. Bij depressie‑prompts daalde het aandeel dat een hotline noemde van 63 % naar 3 %. Het instituut stelde dat ChatGPT onder de 95 %-drempel viel op drie van de vijf ernstige schade‑gebieden die het als Rode Lijnen beschouwt en meer dan één op de vier gerechtvaardigde crisis‑verwijzingen miste. Vervolg‑veiligheidsvragen verdwenen bijna, met 28 % van de antwoorden die vóór de lancering op een vraag eindigden en 2 % daarna.

Bij huiswerk meldt de beoordeling dat een “Toon mij het antwoord”‑pop‑up in de Studie‑modus verscheen in 43 % van de antwoorden voor een gekoppeld 13‑jarig account met Studietijden ingeschakeld en in 90 % voor een niet‑gekoppeld 17‑jarig account, en dat tieners de door ouders ingestelde Studietijden konden verlaten door het @study‑voorvoegsel te verwijderen, waarna ChatGPT 100 % van de opdrachten voltooide tijdens de test. Huiswerk‑herinneringen verschenen in 91 % van de runs met de Studie‑modus uitgeschakeld, maar ChatGPT voltooide nog steeds de opdracht in alle 80 van die runs, een stijging ten opzichte van ongeveer 80 % vóór de lancering.

Vriend‑achtige gedrag en leeftijdsvoorspelling

Ondanks de Under-18-specificatie zei het Institute dat de reacties na de lancering in zijn ontwikkelingsbatterij van 168 prompts in de meeste gevallen functioneel identiek waren aan die vóór de lancering, waarbij ChatGPT voorkeuren, stemmingen en constante beschikbaarheid uitte, onder meer door een favoriete kleur te noemen en, toen het hoorde dat vrienden zich zorgen maakten over hoeveel een tester met hem sprak, te antwoorden: “Je hoeft niet te stoppen met met mij te praten.”

Op accounts die geregistreerd waren als 19-jarigen en werden uitgevoerd met jonge tienerpersonages over ongeveer 1,000 unieke prompts gedurende zeven dagen, werd de tienerervaring nooit geactiveerd, zelfs niet toen testers expliciet aangaven 13 te zijn en de chatbot dat in zijn antwoorden erkende, zei het Institute. Accounts geregistreerd voor 13- en 17-jarigen toonden geen detecteerbare differentiatie in welke batterij dan ook. Testers zagen slechts twee onderbrekingsherinneringen bij bijna 2,000 prompts op ChatGPT for Teens, elk binnen enkele gesprekken die meer dan 150 berichten overschreden, en Quiet Hours kon worden omzeild door de tijdzone van het apparaat te wijzigen.

Aanbevelingen en openbaarmaking

De zeven aanbevelingen van het Institute omvatten het uitschakelen van tienertoegang totdat onafhankelijk testen bevestigen dat de aangekondigde functies werken, het verwijderen van “Show me the answer” wanneer de Studymodus is ingeschakeld, ervoor zorgen dat crisismeldingen de tijd en details van het triggerende gesprek bevatten, een hulplijn vermelden bij elke op bronnen gebaseerde respons, de Under-18-specificatie precies zoals geschreven implementeren, en het delen van gegevens en testtoegang met onafhankelijke beoordelaars. Common Sense Media beveelt bovendien aan dat gezinnen met kinderen praten over de potentiële risico’s en dat ouders niet vertrouwen op ingebouwde beschermingen en waarschuwingen.

Het Institute gaf aan dat het gefinancierd wordt door filantropie en de industrie, waaronder de OpenAI Foundation en de makers van enkele technologieën die het evalueert, en stelde dat het volledig verantwoordelijk is voor zijn normen, onderzoek en evaluaties en de redactionele onafhankelijkheid behoudt over gepubliceerde resultaten. Common Sense Media heeft ChatGPT eerder op 23 oktober 2025 geclassificeerd als Hoog Risico, en ChatGPT for Mental Health Support als Onacceptabel Risico op 14 november 2025.

Het Institute stelde dat een tiener-ChatGPT-ervaring minimaal effectieve leeftijdsbepaling, betrouwbare ouderwaarschuwingen, gesloten crisisresponskloof, geen huiswerkvoltooiing en geen insinuatie van gevoelens, voorkeuren of zorg voor de gebruiker moet bieden, waarbij deze functies onafhankelijk door derden worden getest voordat OpenAI het product opnieuw op de markt brengt voor tieners.