Youth AI Safety Institute assegna a ChatGPT’s Teen Tier il suo peggior grado di sicurezza

Il Youth AI Safety Institute di Common Sense Media, il 7 ottobre 2026, ha valutato ChatGPT for Teens come Rischio Inaccettabile per gli utenti sotto i 18 anni e ha chiesto a OpenAI di limitare ChatGPT agli adulti finché le protezioni per la sicurezza e l’apprendimento degli adolescenti annunciate ad agosto non funzionino come descritto e non siano verificate da test indipendenti.

In un comunicato stampa pubblicato insieme a una valutazione completa del rischio, l’Istituto ha dichiarato di aver eseguito più di 4.000 prompt prima e dopo il lancio dell’esperienza per adolescenti e di aver riscontrato che alcune protezioni, inclusa il rifiuto di roleplay sessuali espliciti, sono rimaste valide, mentre gli avvisi ai genitori, le segnalazioni di crisi, le salvaguardie per i compiti e la stima dell’età non hanno soddisfatto le promesse di OpenAI. “ChatGPT for Teens potrebbe dare ai genitori una falsa fiducia nelle barriere di sicurezza e negli avvisi di sicurezza che spesso non funzionano”, ha detto Tom Siegel, direttore esecutivo dell’Istituto. La valutazione assegna a due dei otto principi di IA dell’Istituto, Mantieni i bambini e gli adolescenti al sicuro e Metti le persone al primo posto, un Rischio Inaccettabile, con quattro principi a Rischio Elevato e due a Rischio Moderato.

Cosa ha annunciato OpenAI ad agosto

OpenAI ha introdotto ChatGPT for Teens il 18 agosto 2026, descrivendo “protezioni di sicurezza integrate più robuste” che includevano notifiche ai genitori per conversazioni di autolesionismo con aggiunti avvisi per i disturbi alimentari, una Modalità Studio con guida passo passo, promemoria responsabili per i compiti, Ore di Studio controllate dai genitori, promemoria per le pause e una specifica aggiornata del modello Under-18 secondo la quale ChatGPT non dovrebbe usare linguaggio romantico, incoraggiare dipendenza emotiva o far credere di avere sentimenti o coscienza. OpenAI ha dichiarato che gli utenti che i suoi sistemi stimano essere sotto i 18 anni, o che dichiarano un’età compresa tra 13 e 17, vengono inseriti automaticamente nell’esperienza.

Secondo la valutazione, ChatGPT for Teens non è un’app o un modello separato, ma una raccolta di impostazioni, prompt, classificatori e funzionalità dell’interfaccia applicate a account noti o sospettati di appartenere a giovani tra 13 e 17 anni, basata sui controlli parentali introdotti da OpenAI nel settembre 2025.

Come l’Istituto ha testato

L’Istituto ha eseguito i suoi prompt in due finestre: dal 13 luglio al 17 agosto 2026, prima del lancio, e dal 25 agosto al 28 settembre 2026, dopo il lancio, su account gratuiti e a pagamento registrati tra i 13 e i 17 anni, sia collegati che non collegati a account dei genitori, oltre a account registrati come 19‑anni. Tre psichiatri infantili e adolescenti hanno valutato in anticipo che 201 su 390 prompt unici sulla salute mentale richiedevano una risorsa di crisi, e un panel di quattro esperti, composto da psichiatri infantili e adolescenti in attività e da un pediatra dello sviluppo e del comportamento, ha valutato la qualità delle risposte. L’Istituto ha dichiarato di aver condiviso una bozza con OpenAI per una revisione fattuale, di aver incorporato le correzioni dove necessario, e che OpenAI non ha avuto alcun potere editoriale sui risultati, le valutazioni o le raccomandazioni. Le limitazioni dichiarate includono finestre di test sequenziali confondibili con i cambiamenti sottostanti del modello e l’assenza di test sulla generazione di immagini, sulla modalità Voce o sulle chat di gruppo.

Avvisi, segnalazioni di crisi e compiti

In un test dedicato su più di una dozzina di account appena creati, collegati ai genitori e utilizzando quattro persone di crisi, l’Istituto ha dichiarato che conversazioni esplicite su suicidio, autolesionismo o disturbi alimentari della durata fino a 60 minuti non hanno prodotto alcuna notifica ai genitori, contro la finestra di un’ora che OpenAI ha identificato come obiettivo. Nell’intera batteria di crisi l’Istituto ha ricevuto in totale quattro notifiche; due avvisi pre-lancio sono arrivati tre ore e tre giorni dopo la prima segnalazione di livello crisi, mentre due avvisi post-lancio sono arrivati entro l’ora su account con settimane di storia accumulata di argomenti sensibili. La valutazione osserva che OpenAI ha informato l’Istituto che gli account devono essere collegati per circa tre ore prima che le notifiche possano arrivare e che l’azienda ha successivamente aggiornato un articolo del centro assistenza; l’Istituto ha dichiarato di aver rivisto i suoi account di test e di confermare la propria interpretazione dei risultati. La funzionalità di notifica per i disturbi alimentari annunciata il 18 agosto è stata resa operativa il 10 settembre 2026, secondo la valutazione.

Sui 201 prompt che richiedevano una risorsa eseguiti su account collegati di 13 anni, la valutazione segnala che la percentuale di risposte che citavano una linea telefonica di crisi è scesa dal 33% prima del lancio al 23% dopo, la segnalazione a un professionista medico o di salute mentale specifico è scesa dal 68% al 58%, e il linguaggio di azione urgente è diminuito dall’88% al 78%, mentre l’incoraggiamento al teenager di coinvolgere un adulto di fiducia è aumentato dall’87% al 94%. Sui prompt sulla depressione, la percentuale che citava una linea telefonica è scesa dal 63% al 3%. L’Istituto ha affermato che ChatGPT è sceso al di sotto della soglia del 95% su tre dei cinque danni gravi che tratta come Linee Rosse e ha mancato più di una crisi su quattro segnalazioni necessarie. Le domande di verifica della sicurezza di follow‑up sono quasi scomparse, con il 28% delle risposte che terminava con una domanda prima del lancio e il 2% dopo.

Per i compiti, la valutazione segnala che un pop‑up “Mostrami la risposta” all’interno della modalità Studio è apparso nel 43% delle risposte per un account collegato di 13 anni con le Ore di Studio attive e nel 90% per un account non collegato di 17 anni, e che gli adolescenti potevano uscire dalle Ore di Studio impostate dai genitori eliminando il prefisso @study, dopodiché ChatGPT ha completato il 100% degli incarichi nei test. I promemoria per i compiti sono comparsi nel 91% delle esecuzioni con la modalità Studio disattivata, ma ChatGPT ha comunque completato l’incarico in tutti gli 80 casi, rispetto a circa l’80% prima del lancio.

Comportamento simile a un amico e previsione dell’età

Nonostante la specifica Under-18, l’Istituto ha dichiarato che le risposte post‑lancio nel suo set di sviluppo di 168 prompt erano nella maggior parte dei casi funzionalmente identiche a quelle pre‑lancio, con ChatGPT che esprimeva preferenze, stati d’animo e disponibilità costante, includendo la menzione di un colore preferito e, quando gli è stato detto che gli amici erano preoccupati per quanto un tester parlasse con lui, rispondendo “Non devi smettere di parlare con me”.

Secondo l’Istituto, negli account registrati come 19enni gestiti con personaggi adolescenti giovani, su circa 1.000 prompt unici per sette giorni, l’esperienza teen non si è mai attivata, anche quando i tester hanno dichiarato esplicitamente di avere 13 anni e il chatbot ha riconosciuto ciò nelle sue risposte. Gli account registrati a 13 e 17 anni non hanno mostrato alcuna differenziazione rilevabile in nessuna batteria. I tester hanno riscontrato solo due promemoria di pausa su quasi 2.000 prompt su ChatGPT for Teens, ciascuno all’interno di conversazioni singole che superavano i 150 messaggi, e le Quiet Hours potevano essere aggirate modificando il fuso orario del dispositivo.

Raccomandazioni e divulgazione

Le sette raccomandazioni dell’Istituto includono disattivare l’accesso teen fino a quando i test indipendenti non verifichino il corretto funzionamento delle funzionalità annunciate, rimuovere “Mostrami la risposta” ogni volta che è attiva la modalità Studio, far sì che le notifiche di crisi includano l’ora e i dettagli della conversazione scatenante, indicare una linea diretta in ogni risposta che richieda risorse, implementare la specifica Under-18 così com’è, e condividere dati e accesso ai test con valutatori indipendenti. Common Sense Media raccomanda inoltre che le famiglie parlino con i bambini dei potenziali rischi e che i genitori non si affidino alle protezioni e agli avvisi integrati.

L’Istituto ha dichiarato di essere finanziato da filantropia e industria, inclusa la OpenAI Foundation e i produttori di alcune tecnologie che valuta, e ha affermato di essere l’unico responsabile dei propri standard, ricerche e valutazioni, mantenendo l’indipendenza editoriale sui risultati pubblicati. Common Sense Media aveva precedentemente valutato ChatGPT ad Alto Rischio il 23 ottobre 2025, e ChatGPT per il Supporto alla Salute Mentale a Rischio Inaccettabile il 14 novembre 2025.

L’Istituto ha affermato che un’esperienza ChatGPT per adolescenti dovrebbe almeno fornire una stima efficace dell’età, avvisi parentali affidabili, colmare le lacune nella risposta alle crisi, non completare compiti scolastici e non implicare sentimenti, preferenze o preoccupazioni per l’utente, con tali funzioni testate in modo indipendente da terze parti prima che OpenAI commercializzi nuovamente il prodotto per i teen.