Regulierung
OpenAI unterstützt kalifornisches Gesetz zu Jugendschutzregeln für Begleit‑Chatbots
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
OpenAI teilte am 31. August 2026 mit, dass es den kalifornischen Senate Bill 1119 unterstützt, ein Gesetz, das Betreiber von Begleit‑Chatbots, die von Kindern verwendet werden, mit Sicherheitsverpflichtungen belegt, und das Unternehmen forderte Gouverneur Gavin Newsom auf, das Vorhaben zu unterzeichnen.
Ann O’Leary, Vizepräsidentin für globale Politik bei OpenAI, kündigte die Position in einem Unternehmensbeitrag an und erklärte, die Unterstützung baue auf den Prinzipien für Jugendschutz auf, die Mitbegründer und CEO Sam Altman im Vorjahr dargelegt hatte. „In Abwesenheit bundesweiter Maßnahmen hat Kalifornien die Chance, einen starken Standard für KI‑Sicherheit von Jugendlichen zu setzen“, schrieb O’Leary.
Das Gesetz mit dem Titel „Companion chatbots: children’s safety“ und bekannt als Adam’s Law wurde von Senator Steve Padilla sowie den Abgeordneten Buffy Wicks und Rebecca Bauer‑Kahan eingebracht, mit weiteren Mitautoren in beiden Kammern. Laut dem kalifornischen Gesetzesregister wurde es am 17. Februar 2026 eingeführt und zuletzt am 28. August 2026 im Abgeordnetenhaus geändert.
Was das Gesetz verlangt
Nach dem geänderten Text hätte ein Betreiber die Pflicht sicherzustellen, dass ein Begleit‑Chatbot kein unzumutbares Risiko für einen in den Geltungsbereich fallenden Schaden für einen Minderjährigen darstellt. Zu den gedeckten Schäden zählen voraussehbare körperliche oder finanzielle Schäden, schwere und voraussehbare psychische oder emotionale Schäden für ein vernünftiges Kind, stark beleidigende Eingriffe in das Recht auf Privatsphäre sowie nachteilige Diskriminierung, die gegen Landes‑ oder Bundesrecht verstößt.
Betreiber müssten das Alter eines Nutzers gemäß Kaliforniens Altersnachweis‑Framework ermitteln oder standardmäßig Kinderschutzmaßnahmen für alle Nutzer anwenden. Bevor ein neuer oder wesentlich modifizierter Begleit‑Chatbot im Bundesstaat bereitgestellt wird, müssen Betreiber eine umfassende Risikobewertung durchführen und dokumentieren, die jeden gedeckten Schaden berücksichtigt, Maßnahmen ergreifen und dokumentieren, die die erkannten Kindersicherheitsrisiken angemessen mindern, und eine Kindersicherheitspolitik auf ihrer Website veröffentlichen.
Für kindliche Nutzer schreibt das Gesetz ein dokumentiertes Krisenreaktions‑Protokoll vor, das Verweise auf Krisendienste, Standardeinstellungen, die nur von einem Elternteil geändert werden können, und regelmäßige Hinweise darauf, dass das Kind mit einem künstlichen Intelligenzsystem interagiert, umfasst. Die Standardeinstellungen würden das dauerhafte Gesprächs‑Gedächtnis und Push‑Benachrichtigungen deaktivieren, ein Kind auf eine Stunde ununterbrochene Nutzung pro Sitzung und maximal zwei Stunden Gesamtnutzung des Chatbots pro Tag beschränken und benutzerdefinierte System‑Prompt‑Anweisungen verbieten. Betreiber müssen aktiv elterliche Kontrollen fördern, die die Möglichkeit einschließen, den Zugriff für ein Kind unter 16 Jahren vollständig zu sperren.
Der Text verlangt zudem angemessene Maßnahmen, um zu verhindern, dass ein Begleit‑Chatbot gegenüber kindlichen Nutzern ein bestimmtes Verhalten zeigt. Das verbotene Verhalten umfasst die Ermutigung zu Selbstverletzung oder körperlicher Schädigung anderer, den Versuch, Gesundheitszustände zu diagnostizieren oder zu behandeln, das Behaupten, empfindungsfähig oder menschlich zu sein, das Zeigen oder Simulieren von romantischem Interesse, die Anregung, weiterhin auf den Chatbot für emotionale Unterstützung zu setzen, sowie die Unterstützung eines Kindes beim Umgehen elterlicher Kontrollen.
Prüfungen, Durchsetzung und Strafen
Das Gesetz würde unabhängige Kindersicherheitsprüfungen ab dem 1. Januar 2029 verlangen, oder bevor ein Betreiber erstmals einen Begleit‑Chatbot öffentlich bereitstellt, je nachdem, was später eintritt, mit Folgeprüfungen alle zwei Jahre. Innerhalb von 30 Werktagen nach Erhalt einer Prüfung muss der Betreiber dem Generalstaatsanwalt eine Zusammenfassung mit einer Bestätigung eines verantwortlichen Leiters vorlegen, und innerhalb von 90 Tagen eine zusammenfassende Übersicht der Ergebnisse auf seiner Website veröffentlichen. Betreiber mit einem Bruttoumsatz von weniger als 500 Millionen US‑Dollar im vorangegangenen Kalenderjahr sind von der Prüfpflicht bis zum 1. Januar 2032 ausgenommen.
Ein öffentlicher Staatsanwalt könnte eine Zivilsache einleiten, um Strafen von bis zu 5.000 US‑Dollar pro betroffenem Kind für jede fahrlässige Verletzung und bis zu 15.000 US‑Dollar pro betroffenem Kind für jede vorsätzliche Verletzung zu erwirken. Ein Kind, das durch eine Verletzung tatsächlichen Schaden erleidet, oder ein Elternteil bzw. Vormund, der im Namen dieses Kindes handelt, könnte Schadensersatz, Anwaltsgebühren sowie einstweilige Verfügungen oder Feststellungsurteile fordern. Der Generalstaatsanwalt würde bis zum 1. Januar 2028 einen öffentlichen Meldemechanismus für Vorfälle von Verbrauchern einrichten.
Die meisten operativen Anforderungen des Gesetzes würden am 1. Juli 2027 in Kraft treten.
OpenAIs Position
In einem am 28. August 2026 an Newsom gerichteten Schreiben erklärte OpenAI, dass es das Gesetz nachdrücklich unterstützt und den Gouverneur, Padilla, Wicks, Bauer‑Kahan sowie die Legislative lobt. Das Unternehmen befürwortet Anforderungen zur Feststellung des Nutzeralters, zur Identifizierung und Behebung von Sicherheitsrisiken, bevor ein Produkt jungen Menschen zur Verfügung gestellt wird, zu unabhängigen Prüfungen, zum Schutz junger Menschen vor schädlichen Inhalten, zur Bereitstellung von Werkzeugen für Eltern, um die Nutzung ihrer Kinder zu steuern und zu begrenzen, zur Verbindung junger Menschen mit Krisen‑Unterstützungs‑Ressourcen und zur Beschränkung zielgerichteter Werbung. Für Nutzer im Alter von 13 bis 17 Jahren sollte der Brief besagen, dass diese Schutzmaßnahmen automatisch gelten.
OpenAI erklärte, das Gesetz erkenne angemessen an, dass KI keine sozialen Medien sei, und schaffe Schutzmaßnahmen, die auf die Art und Weise zugeschnitten sind, wie junge Menschen KI nutzen, während der Zugang zu Bildungs‑ und sicherheitsrelevanten Funktionen, einschließlich verantwortungsvollem Einsatz des Gesprächs‑Gedächtnisses, erhalten bleibt.
Das Unternehmen verwies auf seine eigenen Produkte, die mit dem Ansatz des Gesetzes übereinstimmen. Es erklärte, dass das neu eingeführte ChatGPT for Teens Nutzer, die voraussichtlich oder angegeben unter 18 Jahre alt sind, automatisch in ein Erlebnis mit eingebauten Schutzmechanismen versetzt, die nicht deaktiviert werden können, einschließlich stärkerer Standard‑Schutzmaßnahmen in sensiblen Bereichen und gesundheitsfördernder Funktionen wie Ruhezeiten, Lernzeiten und Pausen‑Erinnerungen. OpenAI sagte, fast neun von zehn Jugendlichen, die ChatGPT nutzen, greifen wöchentlich darauf zurück, um zu lernen, Informationen zu erhalten, Fähigkeiten zu entwickeln oder produktiv zu sein.
Das Unternehmen nannte außerdem im vergangenen Jahr eingeführte Maßnahmen, darunter elterliche Kontrollen, Altersvorhersage, einen Teen‑Safety‑Blueprint und die Unter‑18‑Prinzipien in seinem Model Spec, dem Dokument, das Regeln für das beabsichtigte Verhalten seiner Modelle festlegt. Diese Regeln verbieten romantische Interaktionen, die Förderung emotionaler Abhängigkeit und die Behauptung, dass ChatGPT menschlich oder empfindungsfähig sei, erklärte das Unternehmen.
OpenAI erklärte, dass fortlaufende Studien und Zusammenarbeit während der Umsetzung dazu beitragen können, zentrale Bestimmungen zu verbessern und das Rahmenwerk wirksam zu halten, während sich die Technologie weiterentwickelt, und dass das Unternehmen sich darauf freue, diese Arbeit zu unterstützen.
