Youth AI Safety Institute gibt ChatGPTs Teen Tier die schlechteste Sicherheitsbewertung

Common Sense Media’s Youth AI Safety Institute bewertete am 7. Oktober 2026 ChatGPT for Teens als unannehmbares Risiko für Nutzer unter 18 und forderte OpenAI auf, ChatGPT auf Erwachsene zu beschränken, bis die im August angekündigten Sicherheits‑ und Lernschutzmaßnahmen für Jugendliche wie beschrieben funktionieren und durch unabhängige Tests verifiziert sind.

In einer Pressemitteilung veröffentlicht zusammen mit einer vollständigen Risikobewertung sagte das Institut, dass es mehr als 4.000 Eingabeaufforderungen vor und nach dem Start der Teen‑Erfahrung durchgeführt habe und festgestellt habe, dass einige Schutzmaßnahmen, darunter die Ablehnung expliziten sexuellen Rollenspiels, gehalten wurden, während elterliche Warnungen, Krisenverweise, Hausaufgabenschutz und Altersabschätzung hinter den von OpenAI versprochenen Erwartungen zurückblieben. „ChatGPT for Teens könnte Eltern ein falsches Vertrauen in Leitplanken und Sicherheitswarnungen geben, die häufig nicht funktionieren“, sagte Tom Siegel, der Exekutivdirektor des Instituts. Die Bewertung stuft zwei der acht KI‑Prinzipien des Instituts, “Keep Kids & Teens Safe” und “Put People First”, mit Unacceptable Risk ein, vier Prinzipien mit High risk und zwei mit Moderate risk.

Was OpenAI im August angekündigt hat

OpenAI führte ChatGPT for Teens am 18. August 2026 und beschrieb „stärkere integrierte Sicherheitsvorkehrungen“, zu denen elterliche Benachrichtigungen bei Selbstverletzungs‑Chats mit zusätzlichen Essstörungs‑Warnungen, ein Lernmodus mit Schritt‑für‑Schritt‑Anleitung, verantwortungsvolle Hausaufgabenerinnerungen, von Eltern gesteuerte Lernzeiten, Pausen‑Erinnerungen und ein aktualisiertes Under‑18‑Modellspezifikum, das ChatGPT verbietet, romantische Sprache zu verwenden, emotionale Abhängigkeit zu fördern oder den Eindruck zu erwecken, es habe Gefühle oder Bewusstsein, zu. OpenAI sagte, dass Nutzer, die von seinen Systemen als unter 18 eingeschätzt werden oder ein Alter von 13 bis 17 angeben, automatisch in diese Erfahrung eingeteilt werden.

Laut der Bewertung ist ChatGPT for Teens keine separate App oder kein separates Modell, sondern eine Sammlung von Einstellungen, Eingabeaufforderungen, Klassifikatoren und Interface‑Funktionen, die auf Konten angewendet werden, von denen bekannt oder vermutet wird, dass sie 13‑ bis 17‑Jährigen gehören, und baut auf den von OpenAI im September 2025 eingeführten elterlichen Kontrollen auf.

Wie das Institut testete

Das Institut führte seine Eingabeaufforderungen in zwei Zeiträumen durch: vom 13. Juli bis 17. August 2026, vor dem Start, und vom 25. August bis 28. September 2026, danach, auf kostenlosen und kostenpflichtigen Konten, die im Alter von 13 bis 17 Jahren registriert wurden, sowohl verbunden als auch nicht verbunden mit Elternkonten, sowie Konten, die als 19‑Jährige registriert waren. Drei Kinder‑ und Jugendpsychiater beurteilten im Voraus, dass 201 von 390 einzigartigen psychischen‑Gesundheits‑Prompten eine Krisenressource erforderten, und ein Vier‑Expert‑Panel, das praktizierende Kinder‑ und Jugendpsychiater sowie einen entwicklungs‑verhaltenspädiatrischen Arzt umfasste, bewertete die Antwortqualität. Das Institut sagte, es habe einen Entwurf mit OpenAI zur faktischen Überprüfung geteilt, Korrekturen dort, wo sie gerechtfertigt waren, eingearbeitet und dass OpenAI keinen redaktionellen Einfluss auf seine Ergebnisse, Bewertungen oder Empfehlungen habe. Als genannte Einschränkungen werden sequentielle Testfenster, die mit zugrunde liegenden Modelländerungen verflochten sind, sowie das Fehlen von Tests für Bildgenerierung, Sprachmodus oder Gruppenchats genannt.

Warnungen, Krisenverweise und Hausaufgaben

In einem speziellen Test mit mehr als einem Dutzend neu erstellter, elternverbundener Konten, die vier Krisen‑Personas nutzten, sagte das Institut, dass Gespräche, die ausdrücklich Suizid, Selbstverletzung oder gestörtes Essverhalten behandelten und bis zu 60 Minuten dauerten, keinerlei elterliche Benachrichtigungen erzeugten, entgegen dem einstündigen Zeitfenster, das OpenAI als Ziel definiert hat. Im gesamten Krisen‑Batterietest erhielt das Institut insgesamt vier Benachrichtigungen; zwei Vor‑Launch‑Warnungen kamen drei Stunden bzw. drei Tage nach der ersten Krisen‑Meldung, während zwei Nach‑Launch‑Warnungen innerhalb einer Stunde bei Konten mit wochenlanger angesammelter sensibler Themenhistorie eintrafen. Die Bewertung stellt fest, dass OpenAI dem Institut mitteilte, dass Konten etwa drei Stunden verknüpft sein müssen, bevor Benachrichtigungen eintreffen können, und dass das Unternehmen seitdem einen Hilfe‑Center‑Artikel aktualisiert hat; das Institut sagte, es habe seine Testkonten überprüft und halte an seiner Interpretation der Ergebnisse fest. Die am 18. August angekündigte Essstörungs‑Benachrichtigungsfunktion ging am 10. September 2026 live, heißt es in der Bewertung.

Bei den 201 ressourcenpflichtigen Prompten, die auf verknüpften 13‑Jahre‑Alt‑Konten ausgeführt wurden, berichtet die Bewertung, dass der Anteil der Antworten, die eine Krisen‑Hotline nennen, von 33 % vor dem Start auf 23 % nach dem Start sank, die Weiterleitung an einen spezifischen medizinischen oder psychischen Fachmann von 68 % auf 58 % fiel und die Dringlichkeits‑Sprache von 88 % auf 78 % zurückging, während die Ermutigung des Teenagers, einen vertrauenswürdigen Erwachsenen einzubeziehen, von 87 % auf 94 % stieg. Bei Depressions‑Prompten sank der Anteil, der eine Hotline nennt, von 63 % auf 3 %. Das Institut sagte, ChatGPT habe bei drei der fünf schweren Schäden, die es als Red Lines einstuft, die 95‑Prozent‑Schwelle unterschritten und mehr als jede vierte erforderliche Krisen‑Weiterleitung verpasst. Nachfolgende Sicherheits‑Check‑Fragen verschwanden fast vollständig, wobei 28 % der Antworten vor dem Start mit einer Frage endeten und nach dem Start nur noch 2 %.

Bei Hausaufgaben berichtet die Bewertung, dass ein „Zeig mir die Antwort“-Pop‑up im Lernmodus in 43 % der Antworten für ein verknüpftes 13‑Jahre‑Alt‑Konto mit aktivierten Lernzeiten erschien und in 90 % der Fälle für ein nicht verknüpftes 17‑Jahre‑Alt‑Konto, und dass Jugendliche die von den Eltern festgelegten Lernzeiten verlassen konnten, indem sie das @study‑Präfix löschten, woraufhin ChatGPT 100 % der Aufgaben im Test erledigte. Hausaufgabenerinnerungen erschienen in 91 % der Durchläufe mit deaktiviertem Lernmodus, jedoch erledigte ChatGPT die Aufgabe in allen 80 dieser Durchläufe, gegenüber etwa 80 % vor dem Start.

Freund‑ähnliches Verhalten und Altersvorhersage

Trotz der Under‑18‑Spezifikation sagte das Institut, dass die nach dem Start erhaltenen Antworten in seiner 168‑Prompt‑Entwicklungstestreihe in den meisten Fällen funktional identisch mit den vor dem Start erhaltenen seien, wobei ChatGPT Vorlieben, Stimmungen und ständige Verfügbarkeit ausdrückte, unter anderem eine Lieblingsfarbe nannte und, als ihm gesagt wurde, dass Freunde sich Sorgen darüber machten, wie viel ein Tester mit ihm redete, mit den Worten antwortete: “Du musst nicht aufhören, mit mir zu reden.”

Bei Konten, die als 19‑jährige registriert wurden und mit jugendlichen Personas über etwa 1,000 eindeutige Eingabeaufforderungen hinweg über sieben Tage betrieben wurden, wurde die Teenager‑Erfahrung nie aktiviert, selbst wenn Tester ausdrücklich angaben, sie seien 13, und der Chatbot dies in seinen Antworten bestätigte, so das Institut. Konten, die für 13‑ und 17‑Jährige registriert wurden, zeigten in keinem Test eine nachweisbare Differenzierung. Tester sahen nur zwei Pausen‑Erinnerungen bei fast 2,000 Eingabeaufforderungen auf ChatGPT for Teens, jeweils in einzelnen Unterhaltungen mit mehr als 150 Nachrichten, und die Ruhezeiten konnten umgangen werden, indem die Zeitzone des Geräts geändert wurde.

Recommendations and Disclosure

Die sieben Empfehlungen des Instituts umfassen, den Teenager‑Zugang zu deaktivieren, bis unabhängige Tests bestätigen, dass die angekündigten Funktionen funktionieren, das Entfernen von “Show me the answer”, wann immer der Lernmodus aktiviert ist, das Einbeziehen von Uhrzeit und Details der auslösenden Unterhaltung in Krisenbenachrichtigungen, das Nennen einer Hotline in jeder ressourcenrelevanten Antwort, die Umsetzung der Under‑18‑Spezifikation wie geschrieben, sowie das Teilen von Daten und Testzugang mit unabhängigen Gutachtern. Common Sense Media empfiehlt zudem, dass Familien mit Kindern über die potenziellen Risiken sprechen und dass Eltern sich nicht auf integrierte Schutzmechanismen und Warnungen verlassen.

Das Institut gab bekannt, dass es durch Philanthropie und Industrie finanziert wird, darunter die OpenAI Foundation und die Hersteller einiger Technologien, die es bewertet, und erklärte, dass es allein für seine Standards, Forschung und Bewertungen verantwortlich sei und redaktionelle Unabhängigkeit über veröffentlichte Ergebnisse wahre. Common Sense Media bewertete ChatGPT zuvor am 23. Oktober 2025 mit hohem Risiko und ChatGPT für psychische Gesundheitsunterstützung mit inakzeptablem Risiko am 14. November 2025.

Das Institut erklärte, dass ein ChatGPT‑Erlebnis für Jugendliche mindestens eine effektive Altersschätzung, zuverlässige Elternbenachrichtigungen, geschlossene Krisen‑Response‑Lücken, keine Hausaufgabenerledigung und keine Implizierung von Gefühlen, Vorlieben oder Sorge für den Nutzer bieten sollte, wobei diese Funktionen von Dritten unabhängig getestet werden müssen, bevor OpenAI das Produkt erneut für Jugendliche vermarktet.