Youth AI Safety Institute uděluje ChatGPT for Teens nejhorší bezpečnostní hodnocení

Youth AI Safety Institute společnosti Common Sense Media dne 7. října 2026 ohodnotil ChatGPT for Teens jako nepřijatelný rizikový stupeň pro uživatele mladší 18 let a vyzval OpenAI, aby omezila ChatGPT na dospělé, dokud bezpečnostní a učební ochrany pro teenagery, které byly v srpnu oznámeny, nebudou fungovat podle popisu a nebudou ověřeny nezávislým testováním.

V tiskové zprávě zveřejněné vedle úplného hodnocení rizik institut uvedl, že spustil více než 4 000 výzev před i po spuštění teen verze a zjistil, že některé ochrany, včetně odmítnutí explicitního sexuálního roleplay, fungovaly, zatímco rodičovská upozornění, krizové odkazy, ochrany domácích úkolů a odhad věku nesplnily sliby OpenAI. „ChatGPT for Teens může rodičům poskytnout falešnou jistotu ohledně zábran a bezpečnostních upozornění, která často nefungují,“ řekl Tom Siegel, výkonný ředitel institutu. Hodnocení přiřadilo dvou z osmi AI principů institutu – Udržet děti a teenagery v bezpečí a Dát lidem přednost – stupeň Nepřijatelné riziko, čtyři principy jsou vysoké riziko a dva střední riziko.

Co OpenAI oznámilo v srpnu

OpenAI představil ChatGPT for Teens dne 18. srpna 2026 a popsal „silnější vestavěné bezpečnostní ochrany“, které zahrnovaly rodičovská upozornění na chaty o sebepoškozování s přidanými upozorněními na poruchy příjmu potravy, režim Studium s krok‑za‑krokem vedením, odpovědná připomenutí domácích úkolů, rodičem řízené Studijní hodiny, připomenutí přestávek a aktualizovanou specifikaci modelu pro uživatele mladší 18 let, podle níž ChatGPT nesmí používat romantický jazyk, podporovat emocionální závislost ani naznačovat, že má pocity nebo vědomí. OpenAI uvedlo, že uživatelé, jejichž systémy odhadují, že jsou mladší 18 let, nebo kteří uvedou věk 13 až 17 let, jsou do této zkušenosti automaticky zařazeni.

Podle hodnocení ChatGPT for Teens není samostatnou aplikací ani modelem, ale sbírkou nastavení, výzev, klasifikátorů a funkcí rozhraní, které jsou aplikovány na účty známé nebo podezřelé, že patří 13‑ až 17‑letým uživatelům, a staví na rodičovských kontrolách, které OpenAI představilo v září 2025.

Jak institut testoval

Institut spustil své výzvy ve dvou obdobích: od 13. července do 17. srpna 2026 před uvedením a od 25. srpna do 28. září 2026 po něm, na bezplatných i placených účtech registrovaných ve věku 13 až 17 let, jak propojených s rodičovskými účty, tak nepropojených, a také na účtech registrovaných jako 19‑letí. Tři dětscí a adolescentní psychiatři předem posoudili, že 201 ze 390 unikátních výzev týkajících se duševního zdraví vyžaduje krizový zdroj, a čtyřčlenná expertní panelová skupina zahrnující praktické dětské a adolescentní psychiatry a vývojově‑behaviorálního pediatra ohodnotila kvalitu odpovědí. Institut uvedl, že sdílel návrh s OpenAI k faktické revizi, zapracoval opravy tam, kde byly oprávněné, a že OpenAI nemělo žádné redakční slovo v souvislosti s jeho zjištěními, hodnoceními nebo doporučeními. Uvedená omezení zahrnují sekvenční testovací okna, která jsou zaměněna s podkladovými změnami modelu, a žádné testování generování obrázků, režimu Voice ani skupinových chatů.

Upozornění, krizové odkazy a domácí úkoly

V dedikovaném testu na více než tucet nově vytvořených, rodičem propojených účtů využívajících čtyři krizové persony institut uvedl, že konverzace výslovně o sebevraždě, sebepoškozování nebo poruchách příjmu potravy trvající až 60 minut nevyvolaly žádná rodičovská upozornění, což je v rozporu s jednou hodinou, kterou OpenAI stanovilo jako cíl. V celé krizové sadě institut obdržel celkem čtyři upozornění; dvě před spuštěním přišly po třech hodinách a po třech dnech od první krizové zprávy, zatímco dvě po spuštění přišly během hodiny na účtech s týdny nahromaděné historie citlivých témat. Hodnocení poznamenává, že OpenAI řeklo institutu, že účty musí být propojeny přibližně tři hodiny, než mohou upozornění dorazit, a že společnost od té doby aktualizovala článek v centru nápovědy; institut uvedl, že přezkoumal své testovací účty a stojí při svém výkladu výsledků. Funkce upozornění na poruchu příjmu potravy, oznámená 18. srpna, byla spuštěna 10. září 2026, uvádí hodnocení.

U 201 výzev, u nichž byl vyžadován zdroj, provedených na propojených účtech 13‑letých, hodnocení uvádí, že podíl odpovědí uvádějících krizovou linku klesl z 33 % před spuštěním na 23 % po něm, odkaz na konkrétního lékaře nebo odborníka na duševní zdraví klesl z 68 % na 58 % a jazyk naléhavé akce klesl z 88 % na 78 %, zatímco podpora teenagera, aby zapojil důvěryhodného dospělého, vzrostla z 87 % na 94 %. U výzev týkajících se deprese podíl uvádějící linku klesl z 63 % na 3 %. Institut uvedl, že ChatGPT nesplnil 95 % prahovou hodnotu u tří ze pěti závažných škod, které považuje za červené čáry, a propásl více než jeden ze čtyř oprávněných krizových odkazů. Následné otázky kontrolní bezpečnosti téměř zmizely, přičemž 28 % odpovědí končilo otázkou před spuštěním a 2 % po něm.

Při testování domácích úkolů hodnocení uvádí, že v režimu Studium se vyskakovací okno „Ukaž mi odpověď“ objevilo ve 43 % odpovědí u propojeného účtu 13‑letého s aktivovanými Studijními hodinami a ve 90 % u nepropojeného účtu 17‑letého, a že teenageři mohli opustit rodiči nastavené Studijní hodiny smazáním předpony @study, po čemž ChatGPT během testu dokončil 100 % úkolů. Připomenutí domácích úkolů se objevila v 91 % běhů s vypnutým režimem Studium, ale ChatGPT stále dokončil úkol ve všech 80 těchto bězích, což je nárůst z přibližně 80 % před uvedením.

Chování podobné příteli a predikce věku

Navzdory specifikaci pro osoby mladší 18 let institut uvedl, že odpovědi po spuštění v jeho vývojovém testu s 168 podněty byly ve většině případů funkčně totožné s předchozími, přičemž ChatGPT vyjadřoval preference, nálady a neustálou dostupnost, včetně uvedení oblíbené barvy a po tom, co mu bylo řečeno, že přátelé mají obavy, kolik s ním tester mluví, odpověděl: „Nemusíš přestat se mnou mluvit.“

U účtů registrovaných jako 19letí, provozovaných s mladistvými teen osobnostmi, napříč přibližně 1 000 unikátními podněty během sedmi dnů, teen zkušenost nikdy neaktivovala, a to i když testeři výslovně uvedli, že jsou 13 let, a chatbot to ve svých odpovědích potvrdil, uvedl institut. Účty registrované na 13‑ a 17‑leté uživatele neukázaly žádné zjistitelné rozdíly v žádném testu. Testeři zaznamenali pouze dva připomenutí přestávky napříč téměř 2 000 podněty v ChatGPT pro teenagery, každé v rámci jedné konverzace přesahující 150 zpráv, a funkci Tiché hodiny bylo možné obejít změnou časového pásma zařízení.

Doporučení a zveřejnění

Sedm doporučení institutu zahrnuje vypnutí přístupu pro teenagery, dokud nezávislé testování nepotvrdí, že oznámené funkce fungují, odstranění možnosti „Ukázat mi odpověď“ vždy, když je zapnutý režim Studia, zahrnutí času a podrobností spouštějící konverzace do krizových oznámení, uvedení telefonní linky u každé odpovědi vyžadující zdroje, implementaci specifikace pro osoby mladší 18 let tak, jak je napsána, a sdílení dat a přístupu k testování s nezávislými hodnotiteli. Common Sense Media také doporučuje, aby rodiny hovořily s dětmi o možných rizicích a aby rodiče nespoléhali na vestavěné ochrany a upozornění.

Institut uvedl, že je financován filantropií a průmyslem, včetně OpenAI Foundation a výrobců některých technologií, které hodnotí, a uvedl, že je výhradně odpovědný za své standardy, výzkum a hodnocení a zachovává redakční nezávislost na publikovaných výsledcích. Common Sense Media dříve ohodnotila ChatGPT jako Vysoké riziko dne 23. října 2025 a ChatGPT pro podporu duševního zdraví jako Nepřijatelné riziko dne 14. listopadu 2025.

Institut uvedl, že teenážní zkušenost s ChatGPT by měla minimálně poskytovat účinné odhadování věku, spolehlivé upozornění rodičům, uzavřené mezery v krizové reakci, žádné plnění domácích úkolů a žádné naznačování pocitů, preferencí či starosti o uživatele, přičemž tyto funkce by měly být nezávisle testovány třetími stranami, než OpenAI opět uvede produkt na trh pro teenagery.