OpenAI steunt Californië-wet over veiligheidsregels voor companion‑chatbots voor jongeren

OpenAI zei op 31 augustus 2026 dat het de California Senate Bill 1119 steunt, wetgeving die veiligheidsverplichtingen zou opleggen aan exploitanten van companion‑chatbots die door kinderen worden gebruikt, en het bedrijf riep gouverneur Gavin Newsom op om het voorstel tot wet te maken.

Ann O’Leary, vice‑president global policy van OpenAI, kondigde de positie aan in een bedrijfspost, waarin ze schreef dat de steun voortbouwt op de principes voor tienerveiligheid die medeoprichter en CEO Sam Altman het voorgaande jaar uiteenzette. “In afwezigheid van federale actie heeft Californië de kans om een sterke norm voor AI‑veiligheid voor jongeren te stellen,” schreef O’Leary.

De wet, getiteld “Companion chatbots: children’s safety” en bekend als Adam’s Law, werd geïntroduceerd door senator Steve Padilla en de leden van de Assemblée Buffy Wicks en Rebecca Bauer‑Kahan, met extra mede‑auteurs in beide kamers. Volgens het Californië wetgevingsregister werd de wet op 17 februari 2026 ingediend en recentelijk aangepast in de Assemblée op 28 augustus 2026.

Wat de wet vereist

Volgens de gewijzigde tekst heeft een exploitant de plicht ervoor te zorgen dat een companion‑chatbot geen onredelijk risico vormt op een gedekte schade voor een minderjarige. Gedekte schade omvat redelijkerwijs voorziene fysieke of financiële schade, ernstige en redelijkerwijs voorziene psychologische of emotionele schade voor een redelijk kind, sterk beledigende inbreuken op privacyrechten, en nadelige discriminatie in strijd met staats‑ of federale wetgeving.

Exploitanten moeten de leeftijd van een gebruiker bepalen volgens het Californië‑leeftijdsverificatiekader of standaardkindbescherming voor alle gebruikers toepassen. Voordat een nieuwe of substantieel gewijzigde companion‑chatbot in de staat beschikbaar wordt gesteld, moeten exploitanten een uitgebreide risico‑analyse uitvoeren en documenteren die elk gedekt risico omvat, maatregelen nemen en documenteren die de geïdentificeerde kindveiligheidsrisico’s redelijkerwijs mitigeren, en een kindveiligheidsbeleid op hun website publiceren.

Voor kindgebruikers verplicht de wet een gedocumenteerd crisisrespons‑protocol dat verwijzingen naar crisisdiensten bevat, standaardinstellingen die alleen door een ouder kunnen worden gewijzigd, en periodieke meldingen dat het kind interacteert met een kunstmatig‑intelligentiesysteem. De standaardinstellingen schakelen blijvend gesprek‑geheugen en push‑meldingen uit, beperken een kind tot één uur continu gebruik per sessie en twee uur totaal chatbot‑gebruik per dag, en verbieden aangepaste systeem‑prompt‑instructies. Exploitanten moeten actief ouder‑controles promoten, waaronder de mogelijkheid om de toegang volledig uit te schakelen voor kinderen onder de 16 jaar.

De tekst vereist ook redelijke maatregelen om te voorkomen dat een companion‑chatbot zich schuldig maakt aan bepaalde gedragingen tegenover kindgebruikers. Het verboden gedrag omvat het aanmoedigen van zelfbeschadiging of fysieke schade aan anderen, pogingen om gezondheidsproblemen te diagnosticeren of te behandelen, beweren sentient of mens te zijn, romantische interesse uiten of simuleren, voortdurende afhankelijkheid van de chatbot voor emotionele steun aanmoedigen, en een kind helpen de ouder‑controles te omzeilen.

Audits, handhaving en sancties

De wet zou onafhankelijke kindveiligheids‑audits vereisen vanaf 1 januari 2029, of vóórdat een exploitant een companion‑chatbot publiekelijk beschikbaar maakt, afhankelijk van wat later valt, met vervolg‑audits elke twee jaar. Binnen 30 werkdagen na ontvangst van een audit moet de exploitant een samenvatting met een attestatie van een verantwoordelijke functionaris indienen bij de Attorney General, en binnen 90 dagen een overzicht van de resultaten op zijn website plaatsen. Exploitanten met minder dan $500 miljoen bruto‑omzet in het voorgaande kalenderjaar zijn vrijgesteld van de audit‑plicht vóór 1 januari 2032.

Een openbaar aanklager kan een civiele procedure starten met boetes tot $5.000 per getroffen kind voor elke nalatige overtreding en tot $15.000 per getroffen kind voor elke opzettelijke overtreding. Een kind dat daadwerkelijke schade lijdt door een overtreding, of een ouder of voogd die namens dat kind optreedt, kan schadevergoeding, advocaatkosten en een gerechtelijk of declaratoir bevel eisen. De Attorney General moet tegen 1 januari 2028 een openbaar meldingsmechanisme voor consumentenklachten opzetten.

De meeste operationele vereisten van de wet treden in werking op 1 juli 2027.

Positie van OpenAI

In een brief van 28 augustus 2026 aan gouverneur Newsom zei OpenAI dat het de wet sterk steunt en de gouverneur, Padilla, Wicks, Bauer‑Kahan en de wetgevende macht prees. Het bedrijf zei dat het de eisen ondersteunt om de leeftijd van een gebruiker te bepalen, veiligheidsrisico’s te identificeren en aan te pakken voordat een product aan jongeren wordt aangeboden, onafhankelijke audits te ondergaan, jongeren te beschermen tegen schadelijke inhoud, ouders tools te geven om het gebruik van hun kinderen te begeleiden en te beperken, jongeren te verbinden met crisis‑ondersteuningsbronnen, en gerichte reclame te beperken. Voor gebruikers die worden geïdentificeerd als 13 tot 17 jaar, zou volgens de brief die bescherming automatisch moeten gelden.

OpenAI stelde dat de wet terecht erkent dat AI geen sociale media is en waarborgen vastlegt die zijn afgestemd op de manier waarop jongeren AI gebruiken, terwijl toegang tot educatieve en veiligheidskritische functies behouden blijft, inclusief verantwoord gebruik van gesprek‑geheugen.

Het bedrijf verwees naar zijn eigen producten als consistent met de benadering van de wet. Het zei dat de nieuw gelanceerde ChatGPT for Teens automatisch gebruikers die naar schatting of verklaring onder de 18 zijn, plaatst in een ervaring met ingebouwde waarborgen die niet kunnen worden uitgeschakeld, waaronder sterkere standaardbeschermingen op gevoelige gebieden en functies voor gezond gebruik zoals Stille uren, Studietijd en pauze‑herinneringen. OpenAI meldde dat bijna negen op tien tieners die ChatGPT gebruiken, het wekelijks raadplegen voor leren, informatie, vaardigheidsontwikkeling of productiviteit.

Het bedrijf noemde ook maatregelen die het afgelopen jaar zijn toegevoegd, waaronder ouder‑controles, leeftijdsvoorspelling, een Teen Safety Blueprint en de Under‑18 Principles in zijn Model Spec, het document dat regels vastlegt voor hoe zijn modellen behoren te functioneren. Die regels verbieden romantische betrokkenheid, het aanmoedigen van emotionele afhankelijkheid, en beweringen dat ChatGPT menselijk of sentient is, aldus het bedrijf.

OpenAI zei dat voortgezet onderzoek en samenwerking tijdens de implementatie kunnen helpen de kernbepalingen te verbeteren en het raamwerk effectief te houden naarmate de technologie evolueert, en dat het ernaar uitkijkt dit werk te ondersteunen.