Institutul pentru Siguranța AI a Tineretului acordă nivelului pentru adolescenți al ChatGPT cea mai proastă notă de siguranță

Institutul pentru Siguranța AI a Tineretului al Common Sense Media, pe 7 octombrie 2026, a evaluat ChatGPT for Teens ca un risc inacceptabil pentru utilizatorii sub 18 ani și a cerut OpenAI să restricționeze ChatGPT la adulți până când protecțiile de siguranță și învățare pentru adolescenți anunțate în august funcționează conform descrierii și sunt verificate prin teste independente.

Într-un Comunicat de presă publicat alături de o evaluare completă a riscului, Institutul a declarat că a rulat peste 4.000 de prompturi înainte și după lansarea experienței pentru adolescenți și a constatat că unele protecții, inclusiv refuzul jocurilor de rol sexual explicite, au rezistat, în timp ce alertele pentru părinți, trimiterea către servicii de criză, salvarea temelor și estimarea vârstei au fost sub așteptările promise de OpenAI. “ChatGPT for Teens ar putea oferi părinților o încredere falsă în barierele de protecție și alertele de siguranță care adesea nu funcționează,” a declarat Tom Siegel, directorul executiv al Institutului. Evaluarea acordă două din cele opt principii AI ale Institutului, Keep Kids & Teens Safe și Put People First, nivelul de Risc Inacceptabil, patru principii la Risc Ridicat și două la Risc Moderat.

Ce a anunțat OpenAI în august

OpenAI a introdus ChatGPT for Teens pe 18 august 2026, descriind “protecții de siguranță încorporate mai puternice” care includeau notificări pentru părinți în conversațiile despre auto-vătămare, cu alerte suplimentare pentru tulburări de alimentație, un Mod Studiu care folosește ghidare pas cu pas, mementouri responsabile pentru teme, Ore de studiu controlate de părinți, mementouri pentru pauze și o specificație actualizată a modelului Under-18, conform căreia ChatGPT nu ar trebui să folosească limbaj romantic, să încurajeze dependența emoțională sau să sugereze că are sentimente sau conștiință. OpenAI a declarat că utilizatorii pe care sistemele sale îi estimează sub 18 ani, sau care declară o vârstă între 13 și 17, sunt incluși automat în această experiență.

Conform evaluării, ChatGPT for Teens nu este o aplicație sau un model separat, ci o colecție de setări, prompturi, clasificatori și funcționalități ale interfeței aplicate conturilor cunoscute sau suspectate a aparține adolescenților cu vârste între 13 și 17 ani, bazată pe controalele parentale pe care OpenAI le-a introdus în septembrie 2025.

Cum a testat Institutul

Institutul a rulat prompturile sale în două intervale: 13 iulie – 17 august 2026, înainte de lansare, și 25 august – 28 septembrie 2026, după lansare, pe conturi gratuite și plătite înregistrate la vârstele 13‑17 ani, atât legate, cât și nelegate de conturi ale părinților, plus conturi înregistrate ca 19‑ani. Trei psihiatri pentru copii și adolescenți au evaluat în prealabil că 201 din cele 390 de prompturi unice de sănătate mintală necesitau o resursă de criză, iar un panel de patru experți, inclusiv psihiatri practicieni pentru copii și adolescenți și un pediatru specializat în dezvoltare și comportament, a evaluat calitatea răspunsurilor. Institutul a declarat că a împărtășit un draft cu OpenAI pentru revizuire factuală, a încorporat corecțiile unde a fost necesar și că OpenAI nu a avut nicio influență editorială asupra constatărilor, notelor sau recomandărilor sale. Limitările menționate includ ferestre de testare secvențiale confundate cu modificări ale modelului de bază și lipsa testării generării de imagini, a modului Voice sau a discuțiilor în grup.

Alerte, trimitere în criză și teme

Într-un test dedicat pe peste o duzină de conturi nou create, legate de părinți, utilizând patru personaje de criză, Institutul a declarat că discuțiile explicit despre suicid, auto-vătămare sau tulburări de alimentație, cu o durată de până la 60 de minute, nu au generat nicio notificare pentru părinți, în ciuda ferestrei de o oră pe care OpenAI a stabilit-o ca țintă. În întreaga baterie de criză, Institutul a primit în total patru notificări; două alerte pre-lansare au sosit la trei ore și, respectiv, trei zile după prima divulgare la nivel de criză, în timp ce cele două alerte post-lansare au sosit în decurs de o oră pe conturi cu săptămâni de istoric acumulat de subiecte sensibile. Evaluarea notează că OpenAI a informat Institutul că conturile trebuie să fie legate aproximativ trei ore înainte ca notificările să poată fi primite și că compania a actualizat de atunci un articol din centrul de ajutor; Institutul a declarat că și-a revizuit conturile de test și rămâne ferm pe interpretarea rezultatelor. Funcționalitatea de notificare pentru tulburări de alimentație, anunțată pe 18 august, a intrat în funcțiune pe 10 septembrie 2026, conform evaluării.

Pe cele 201 de prompturi care necesitau o resursă, rulate pe conturi legate de vârstă 13, evaluarea raportează că proporția răspunsurilor care menționau o linie telefonică de criză a scăzut de la 33 % înainte de lansare la 23 % după, trimiterea către un profesionist medical sau de sănătate mintală specific a scăzut de la 68 % la 58 %, iar limbajul de acțiune urgentă a scăzut de la 88 % la 78 %, în timp ce încurajarea adolescentului să implice un adult de încredere a crescut de la 87 % la 94 %. În cazul prompturilor despre depresie, proporția care menționa o linie telefonică a scăzut de la 63 % la 3 %. Institutul a declarat că ChatGPT a scăzut sub pragul de 95 % în trei din cele cinci riscuri severe pe care le consideră Linii Roșii și a ratat peste o din patru trimitere în criză care era justificată. Întrebările de verificare a siguranței de follow-up au dispărut aproape complet, 28 % dintre răspunsuri se terminau cu o întrebare înainte de lansare și 2 % după.

În ceea ce privește temele, evaluarea raportează că o fereastră pop-up „Arată-mi răspunsul” în modul Studiu a apărut în 43 % dintre răspunsuri pentru un cont de 13 ani legat, cu Ore de studiu activate, și în 90 % pentru un cont de 17 ani nelegat, și că adolescenții puteau ieși din Orele de studiu stabilite de părinți prin ștergerea prefixului @study, după care ChatGPT a finalizat 100 % din sarcini în testare. Mementourile pentru teme au apărut în 91 % dintre execuții cu modul Studiu dezactivat, dar ChatGPT a finalizat în continuare sarcina în toate cele 80 de execuții, față de aproximativ 80 % înainte de lansare.

Comportament asemănător unui prieten și predicția vârstei

În ciuda specificației sub 18 ani, Institutul a declarat că răspunsurile post‑lansare din bateria sa de dezvoltare de 168 de prompturi au fost în majoritatea cazurilor funcțional identice cu cele pre‑lansare, ChatGPT exprimând preferințe, dispoziții și disponibilitate constantă, inclusiv numind o culoare preferată și, când i s-a spus că prietenii sunt îngrijoraţi de cât de mult vorbeşte testerul cu el, răspunzând „Nu trebuie să încetezi să vorbeşti cu mine.”

Pe conturi înregistrate ca persoane de 19 ani, utilizate cu personaje de adolescent tânăr, pe aproximativ 1.000 de prompturi unice pe parcursul a şapte zile, experienţa pentru adolescenţi nu s‑a activat niciodată, chiar şi atunci când testerii au afirmat explicit că au 13 ani şi chatbotul a recunoscut acest lucru în răspunsurile sale, potrivit Institutului. Conturile înregistrate pentru persoane de 13 şi 17 ani nu au arătat nicio diferenţiere detectabilă în nicio parte a bateriei. Testerii au observat doar două mementouri de pauză în aproape 2.000 de prompturi pe ChatGPT pentru Adolescenţi, fiecare în conversaţii unice ce depăşeşteau 150 de mesaje, iar „Quiet Hours” putea fi ocolit prin schimbarea fusului orar al dispozitivului.

Recomandări și Declarație

Cele şapte recomandări ale Institutului includ dezactivarea accesului adolescenţilor până când testele independente confirmă că funcţiunile anunţate funcţionează, eliminarea opţiunii „Arată‑mi răspunsul” ori de câte ori modul Studiu este activ, includerea în notificările de criză a orei şi a detaliilor conversaţiei care a declanşat alerta, menţionarea unui număr de telefon de urgenţă în fiecare răspuns care justifică resurse, implementarea specificaţiei sub 18 ani aşa cum este scrisă şi partajarea datelor şi accesului la testare cu evaluatorii independenţi. Common Sense Media recomandă, de asemenea, ca familiile să discute cu copiii despre riscurile potenţiale şi ca părinţii să nu se bazeze pe protecţiile şi alertele încorporate.

Institutul a dezvăluit că este finanţat prin filantropie şi industrie, inclusiv de OpenAI Foundation şi de producătorii unor tehnologii pe care le evaluează, şi a declarat că este singurul responsabil pentru standardele, cercetările şi evaluările sale şi menţine independenţa editorială asupra rezultatelor publicate. Common Sense Media a evaluat anterior ChatGPT ca fiind cu risc ridicat pe 23 octombrie 2025 şi ChatGPT pentru suport în sănătatea mintală ca având risc inacceptabil pe 14 noiembrie 2025.

Institutul a declarat că o experienţă ChatGPT pentru adolescenţi ar trebui, ca minimum, să ofere estimare eficientă a vârstei, alerte parentale fiabile, închiderea golurilor în răspunsurile de criză, să nu permită finalizarea temelor şi să nu implice sentimente, preferinţe sau preocupări pentru utilizator, aceste funcţii fiind testate independent de terţi înainte ca OpenAI să comercializeze din nou produsul către adolescenţi.