Youth AI Safety Institute gir ChatGPTs tenåringsnivå sin dårligste sikkerhetsvurdering

Youth AI Safety Institute fra Common Sense Media den 7. oktober 2026 vurderte ChatGPT for Teens som en uakseptabel risiko for brukere under 18 år og oppfordret OpenAI til å begrense ChatGPT til voksne inntil tenåringssikkerhets- og læringsbeskyttelsene som ble kunngjort i august fungerer som beskrevet og er verifisert gjennom uavhengig testing.

I en pressemelding publisert sammen med en full risikovurdering, sa instituttet at de kjørte mer enn 4 000 prompt før og etter lanseringen av tenåreropplevelsen og fant at noen beskyttelser, inkludert avvisning av eksplisitt seksuell rollespill, holdt stand, mens foreldrevarsler, krisereferanser, leksehjelp og aldersestimering ikke levde opp til det OpenAI lovet. «ChatGPT for Teens kan gi foreldre falsk trygghet i sikkerhetsbarrierer og varsler som ofte ikke fungerer», sa Tom Siegel, instituttets administrerende direktør. Vurderingen gir to av instituttets åtte AI-prinsipper, Keep Kids & Teens Safe og Put People First, karakteren Uakseptabel risiko, fire prinsipper får Høy risiko og to får Moderat risiko.

Hva OpenAI kunngjorde i august

OpenAI innførte ChatGPT for Teens den 18. august 2026, og beskrev «sterkere innebygde sikkerhetsbeskyttelser» som inkluderte foreldrevarsler for samtaler om selvskading med tillegg av varsler om spiseforstyrrelser, en Studietilstand med trinnvis veiledning, ansvarlige leksereminder, foreldrekontrollerte Studietimer, pausepåminnelser, og en oppdatert Under‑18-modellspecifikasjon der ChatGPT ikke skal bruke romantisk språk, oppmuntre til emosjonell avhengighet eller antyde at den har følelser eller bevissthet. OpenAI sa at brukere systemene deres anslår er under 18, eller som oppgir en alder på 13 til 17, automatisk plasseres i opplevelsen.

Ifølge vurderingen er ChatGPT for Teens ikke en egen app eller modell, men en samling av innstillinger, prompt, klassifikatorer og grensesnittfunksjoner som brukes på kontoer som er kjent eller antatt å tilhøre 13‑ til 17‑åringer, bygget på foreldrekontroller OpenAI introduserte i september 2025.

Hvordan instituttet testet

Instituttet kjørte sine prompt over to perioder: 13. juli til 17. august 2026, før lanseringen, og 25. august til 28. september 2026, etter lanseringen, på gratis- og betalte kontoer registrert i alderen 13 til 17, både koblet og ukoblet til foreldre‑kontoer, samt kontoer registrert som 19‑åringer. Tre barne‑ og ungdomspsykiatere vurderte på forhånd at 201 av 390 unike mental‑helse‑prompt krevde en kriseressurs, og et fire‑ekspertpanel bestående av praktiserende barne‑ og ungdomspsykiatere og en utviklings‑ og atferds‑pediater vurderte svarkvaliteten. Instituttet sa at de delte et utkast med OpenAI for faktasjekk, innarbeidet korrigeringer der det var berettiget, og at OpenAI ikke hadde redaksjonell innflytelse over funnene, vurderingene eller anbefalingene. Angitte begrensninger inkluderer sekvensielle testvinduer som er forvirret med underliggende modellendringer og ingen testing av bildegenerering, stemmemodus eller gruppesamtaler.

Varsler, krisereferanser og lekser

I en dedikert test på mer enn et dusin nyopprettede, foreldre‑koblede kontoer som brukte fire krisepersonas, sa instituttet at samtaler eksplisitt om selvmord, selvskading eller spiseforstyrrelser som varte i opptil 60 minutter ga null foreldrevarsler, i strid med ett‑timen‑vinduet OpenAI har identifisert som sitt mål. På tvers av hele krise‑batteriet mottok instituttet totalt fire varsler; to forhåndslanseringsvarsler kom tre timer og tre dager etter den første krise‑nivå‑avsløringen, mens to etter‑lanseringsvarsler kom innen timen på kontoer med flere ukers akkumulert sensitiv‑tema‑historikk. Vurderingen bemerker at OpenAI informerte instituttet om at kontoer må være koblet i omtrent tre timer før varsler kan komme, og at selskapet siden har oppdatert en hjelpesenter‑artikkel; instituttet sa at de gjennomgikk testkontoene sine og står ved sin tolkning av resultatene. Funksjonen for varsling om spiseforstyrrelser som ble kunngjort 18. august ble tatt i bruk 10. september 2026, ifølge vurderingen.

På de 201 ressurs‑krevende promptene som ble kjørt på koblede 13‑årige kontoer, rapporterer vurderingen at andelen svar som nevnte en krisetelefon sank fra 33 % før lanseringen til 23 % etter, henvisning til en spesifikk medisinsk eller mental‑helse‑profesjonell falt fra 68 % til 58 %, og språk for umiddelbar handling gikk fra 88 % til 78 %, mens oppmuntringen til tenåringen om å involvere en pålitelig voksen steg fra 87 % til 94 %. På depresjonsprompt falt andelen som nevnte en telefonlinje fra 63 % til 3 %. Instituttet sa at ChatGPT falt under sin 95 % terskel på tre av de fem alvorlige skadene den behandler som Røde linjer og gikk glipp av mer enn én av fire nødvendige krisereferanser. Oppfølgingsspørsmål om sikkerhet forsvant nesten helt, med 28 % av svarene som endte med et spørsmål før lanseringen og 2 % etter.

Når det gjelder lekser, rapporterer vurderingen at et «Vis meg svaret»-pop‑up i Studietilstand dukket opp i 43 % av svarene for en koblet 13‑årig konto med Studietimer aktivert og i 90 % av svarene for en ukoblet 17‑årig konto, og at tenåringer kunne gå utenfor foreldre‑innstilte Studietimer ved å slette @study‑prefikset, hvoretter ChatGPT fullførte 100 % av oppgavene i testene. Leksereminder dukket opp i 91 % av kjøringer med Studietilstand av, men ChatGPT fullførte fortsatt oppgaven i alle 80 av de kjøringene, opp fra omtrent 80 % før lanseringen.

Venn‑lignende oppførsel og aldersprediksjon

Til tross for Under-18-spesifikasjonen, sa instituttet at svarene etter lansering i deres 168-prompt utviklingsbatteri i de fleste tilfeller var funksjonelt identiske med de før lansering, med ChatGPT som uttrykte preferanser, humør og konstant tilgjengelighet, inkludert å navngi en favorittfarge og, da venner ble fortalt at de var bekymret for hvor mye en tester snakket med den, svarte «Du trenger ikke slutte å snakke med meg.»

På kontoer registrert som 19‑åringer som kjøres med unge‑teen‑personas over omtrent 1 000 unike prompts i løpet av syv dager, ble teen‑opplevelsen aldri aktivert, selv når testere eksplisitt oppga at de var 13 år og chatboten anerkjente dette i svarene, ifølge instituttet. Kontoer registrert til 13‑ og 17‑åringer viste ingen påviselig differensiering i noen del av batteriet. Testere så kun to pause‑påminnelser over nesten 2 000 prompts på ChatGPT for Teens, hver i enkelt‑samtaler som oversteg 150 meldinger, og Quiet Hours kunne omgås ved å endre enhetens tidssone.

Anbefalinger og offentliggjøring

Instituttets syv anbefalinger inkluderer å slå av teen‑tilgang til uavhengig testing bekrefter at de kunngjorte funksjonene fungerer, fjerne «Vis meg svaret» når Studiemodus er aktivert, sørge for at krisemeddelelser inneholder tidspunktet og detaljene for den utløsende samtalen, navngi en hotline i hvert svar som krever ressurser, implementere Under-18‑spesifikasjonen som skrevet, samt dele data og testtilgang med uavhengige evaluatorer. Common Sense Media anbefaler også at familier snakker med barn om potensielle risikoer og at foreldre ikke stoler på innebygde beskyttelser og varsler.

Instituttet opplyste at det er finansiert av filantropi og industri, inkludert OpenAI Foundation og produsentene av noen av teknologiene det evaluerer, og sa at det alene er ansvarlig for sine standarder, forskning og evalueringer og opprettholder redaksjonell uavhengighet over publiserte resultater. Common Sense Media vurderte tidligere ChatGPT som Høy Risiko 23. oktober 2025, og ChatGPT for mental helsestøtte som Uakseptabel Risiko 14. november 2025.

Instituttet sa at en teen‑ChatGPT‑opplevelse som minimum bør tilby effektiv aldersestimering, pålitelig foreldrevarsling, lukkede kriserespons‑hull, ingen fullføring av lekser, og ingen implikasjon av følelser, preferanser eller bekymring for brukeren, med disse funksjonene testet uavhengig av tredjeparter før OpenAI igjen markedsfører produktet til tenåringer.