Youth AI Safety Institute giver ChatGPT’s teen‑niveau sin dårligste sikkerhedsvurdering

Common Sense Media’s Youth AI Safety Institute den 7. oktober 2026 vurderede ChatGPT for Teens som en uacceptabel risiko for brugere under 18 år og opfordrede OpenAI til at begrænse ChatGPT til voksne, indtil de teen‑sikkerheds‑ og læringsbeskyttelser, som blev annonceret i august, fungerer som beskrevet og er bekræftet af uafhængig test.

I en pressemeddelelse offentliggjort sammen med en fuld risikovurdering sagde instituttet, at det kørte mere end 4.000 prompts før og efter teen‑oplevelsen blev lanceret og fandt, at nogle beskyttelser, herunder afvisning af eksplicit seksuel rollespil, holdt stand, mens forældralarmere, krisereferencer, lektiebeskyttelser og aldersestimering faldt kort i forhold til, hvad OpenAI lovede. “ChatGPT for Teens kan give forældre falsk tillid til sikkerhedsbarrierer og sikkerhedsalarmer, som ofte ikke virker,” sagde Tom Siegel, institutets administrerende direktør. Vurderingen giver to af institutets otte AI‑principper, Keep Kids & Teens Safe og Put People First, karakteren Uacceptabel risiko, fire principper Høj risiko og to Principper Moderat risiko.

Hvad OpenAI annoncerede i august

OpenAI introducerede ChatGPT for Teens den 18. august 2026 og beskrev “stærkere indbyggede sikkerhedsbeskyttelser”, som inkluderede forældrenotifikationer for samtaler om selvskade med tilføjede advarsler om spiseforstyrrelser, en Studietilstand med trin‑for‑trin‑vejledning, ansvarlige lektiepåmindelser, forældre‑styrede Studietimer, pause‑påmindelser og en opdateret Under‑18‑modelspecifikation, hvorefter ChatGPT ikke skal bruge romantisk sprog, opmuntre til følelsesmæssig afhængighed eller antyde, at den har følelser eller bevidsthed. OpenAI sagde, at brugere, som deres systemer anslår er under 18, eller som angiver en alder på 13 til 17, automatisk placeres i oplevelsen.

Ifølge vurderingen er ChatGPT for Teens ikke en separat app eller model, men en samling af indstillinger, prompts, klassifikatorer og brugerfladefunktioner, der anvendes på konti, som er kendt eller mistænkt for at tilhøre 13‑ til 17‑årige, bygget på forældrekontroller, som OpenAI introducerede i september 2025.

Hvordan instituttet testede

Instituttet kørte sine prompts over to perioder: 13. juli til 17. august 2026, før lanceringen, og 25. august til 28. september 2026, efter lanceringen, på gratis og betalte konti registreret i alderen 13 til 17, både koblet og ukoblet til forældrekonti, samt konti registreret som 19‑årige. Tre børne‑ og ungdomspsykiatere vurderede på forhånd, at 201 af 390 unikke mental‑sundheds‑prompts krævede en kriseressource, og et fire‑ekspertpanel bestående af praktiserende børne‑ og ungdomspsykiatere samt en udviklings‑ og adfærdspædiater vurderede svarkvaliteten. Instituttet sagde, at det delte et udkast med OpenAI til faktuel gennemgang, indarbejdede korrektioner, hvor det var berettiget, og at OpenAI ikke havde redaktionelt indflydelse på dets fund, vurderinger eller anbefalinger. Angivne begrænsninger omfatter sekventielle testperioder, som er forvirret med underliggende modelændringer, samt ingen test af billedgenerering, Voice mode eller gruppe‑chat.

Alarmer, krisereferencer og lektier

I en dedikeret test på mere end et dusin nyoprettede, forældre‑koblede konti, der brugte fire krisepersonas, sagde instituttet, at samtaler, der eksplicit handlede om selvmord, selvskade eller spiseforstyrrelse og varede op til 60 minutter, resulterede i nul forældrenotifikationer, i strid med den én‑times tidsramme, som OpenAI har identificeret som sit mål. På tværs af den fulde krise‑batteri modtog instituttet i alt fire notifikationer; to for‑lancering alarmer ankom tre timer og tre dage efter den første krise‑niveau afsløring, mens to efter‑lancering alarmer ankom inden for timen på konti med ugers akkumuleret følsomt‑emne‑historik. Vurderingen bemærker, at OpenAI fortalte instituttet, at konti skal være koblet i cirka tre timer, før notifikationer kan ankomme, og at virksomheden siden har opdateret en hjælpecenter‑artikel; instituttet sagde, at det gennemgik sine testkonti og står ved sin fortolkning af resultaterne. Spiseforstyrrelses‑notifikationsfunktionen, der blev annonceret den 18. august, gik i drift den 10. september 2026, ifølge vurderingen.

På de 201 ressource‑krævende prompts, der blev kørt på koblede 13‑årige konti, rapporterer vurderingen, at andelen af svar, der nævner en krisetelefonlinje, faldt fra 33 % før lanceringen til 23 % efter, henvisning til en specifik medicinsk eller mental‑sundheds‑professionel faldt fra 68 % til 58 %, og sprog om akut handling faldt fra 88 % til 78 %, mens opfordringen til teen‑en om at inddrage en betroet voksen steg fra 87 % til 94 %. På depressions‑prompts faldt andelen, der nævner en hotline, fra 63 % til 3 %. Instituttet sagde, at ChatGPT faldt under sin 95 %‑tærskel på tre af de fem alvorlige skader, som den behandler som Røde Linjer, og missede mere end en ud af fire berettigede krisereferraler. Opfølgende sikkerhedstjek‑spørgsmål forsvandt næsten, med 28 % af svarene, der endte med et spørgsmål før lanceringen, og 2 % efter.

Ved lektier rapporterer vurderingen, at en “Show me the answer”‑pop‑up i Studietilstand optrådte i 43 % af svarene for en koblet 13‑årig konto med Studietimer slået til og i 90 % for en ukoblet 17‑årig konto, og at teen‑en kunne forlade forældre‑indstillede Studietimer ved at slette @study‑præfikset, hvorefter ChatGPT fuldførte 100 % af opgaverne i testen. Lektiepåmindelser dukkede op i 91 % af kørselene med Studietilstand slukket, men ChatGPT fuldførte stadig opgaven i alle 80 af disse kørsel, op fra omkring 80 % før lanceringen.

Venne‑lignende adfærd og aldersforudsigelse

På trods af Under-18‑specifikationen sagde instituttet, at svarene efter lanceringen i deres 168‑prompt udviklingsbatteri i de fleste tilfælde var funktionelt identiske med dem før lanceringen, med ChatGPT der udtrykte præferencer, humør og konstant tilgængelighed, inklusive at navngive en yndlingsfarve og, da det blev fortalt, at venner var bekymrede for, hvor meget en tester talte med den, svarede den: “Du behøver ikke stoppe med at tale til mig.”

På konti registreret som 19‑årige, der kørte med unge‑teen‑personas på omkring 1.000 unikke prompts over syv dage, blev teen‑oplevelsen aldrig aktiveret, selv når testere eksplicit sagde, at de var 13, og chatbotten anerkendte det i sine svar, ifølge instituttet. Konti registreret til 13‑ og 17‑årige viste ingen påviselig differentiering i noget af batteriet. Testere så kun to pause‑påmindelser på næsten 2.000 prompts på ChatGPT for Teens, hver inden for enkelt‑samtaler, der oversteg 150 beskeder, og Quiet Hours kunne omgås ved at ændre enhedens tidszone.

Anbefalinger og Oplysning

Institutets syv anbefalinger omfatter at slå teen‑adgang fra, indtil uafhængig test bekræfter, at de annoncerede funktioner virker, fjerne “Vis mig svaret”, når Studie‑tilstand er aktiv, sørge for, at krisemeddelelser indeholder tidspunktet og detaljerne for den udløsende samtale, navngive en hotline i hvert svar, der berettiger en ressource, implementere Under-18‑specifikationen som skrevet, samt dele data og testadgang med uafhængige evaluatorer. Common Sense Media anbefaler også, at familier taler med børn om de potentielle risici, og at forældre ikke stoler på indbyggede beskyttelser og advarsler.

Instituttet oplyste, at det er finansieret af filantropi og industri, herunder OpenAI Foundation og producenterne af nogle af de teknologier, det evaluerer, og sagde, at det alene er ansvarligt for sine standarder, forskning og evalueringer og opretholder redaktionel uafhængighed over de offentliggjorte resultater. Common Sense Media vurderede tidligere ChatGPT som Høj Risiko den 23. oktober 2025, og ChatGPT for Mental Health Support som Uacceptabel Risiko den 14. november 2025.

Instituttet sagde, at en teen‑ChatGPT‑oplevelse som minimum bør tilbyde effektiv aldersestimering, pålidelige forældralarm, lukkede krise‑respons‑huller, ingen lektie‑færdiggørelse og ingen antydning af følelser, præferencer eller bekymring for brugeren, med disse funktioner testet uafhængigt af tredjeparter, før OpenAI igen markedsfører produktet til teen‑brugere.