OpenAI støtter Californiens lovforslag om sikkerhedsregler for unge i companion‑chatbots

OpenAI sagde den 31. august 2026, at de støtter Californias senatlovforslag 1119, lovgivning der ville pålægge operatører af companion‑chatbots, der bruges af børn, sikkerhedsforpligtelser, og virksomheden opfordrede guvernør Gavin Newsom til at underskrive forslaget.

Ann O’Leary, OpenAIs vicepræsident for global politik, annoncerede holdningen i et virksomhedsindlæg, og sagde, at støtten bygger på principper for teenage‑sikkerhed, som medstifter og administrerende direktør Sam Altman skitserede året før. “I mangel af føderal handling har Californien en mulighed for at sætte en stærk standard for unges AI‑sikkerhed,” skrev O’Leary.

Lovforslaget, med titlen “Companion chatbots: børns sikkerhed” og kendt som Adam’s Law, blev indført af senator Steve Padilla samt lovforslagsmedlemmerne Buffy Wicks og Rebecca Bauer‑Kahan, med yderligere medforfattere i begge kamre. Ifølge Californias lovgivningsregister blev det indført den 17. februar 2026 og senest ændret i forsamlingen den 28. august 2026.

Hvad lovforslaget kræver

Ifølge den ændrede tekst vil en operatør have en forpligtelse til at sikre, at en companion‑chatbot ikke udgør en urimelig risiko for en dækket skade på en mindreårig. Dækkede skader omfatter rimeligt forudsigelige fysiske eller økonomiske skader, alvorlige og rimeligt forudsigelige psykologiske eller følelsesmæssige skader på et fornuftigt barn, stærkt krænkende indtrængen i privatlivsrettigheder samt negativ diskrimination i strid med statslovgivning eller føderal lov.

Operatører skal fastlægge en brugers alder i henhold til Californias aldersbekræftelsesramme eller som standard anvende børnebeskyttelse på alle brugere. Inden en ny eller væsentligt modificeret companion‑chatbot stilles til rådighed i staten, skal operatører udføre og dokumentere en omfattende risikovurdering, der dækker hver dækket skade, iværksætte og dokumentere foranstaltninger, der rimeligt afbøder identificerede børnesikkerhedsrisici, samt offentliggøre en børnesikkerhedspolitik på deres hjemmesider.

For børnebrugere pålægger lovforslaget en dokumenteret kriseresponsprotokol, der inkluderer henvisninger til krisetjenester, standardindstillinger som kun kan ændres af en forælder, samt periodiske meddelelser om, at barnet interagerer med et kunstigt intelligenssystem. Standardindstillingerne vil deaktivere vedvarende samtalemindet og push‑meddelelser, begrænse barnet til én time kontinuerlig brug pr. session og to timer samlet chatbot‑brug pr. dag, samt forbyde brugerdefinerede systemprompt‑instruktioner. Operatører skal aktivt fremme forældrekontrol, som vil omfatte muligheden for at deaktivere adgangen fuldstændigt for et barn under 16 år.

Teksten kræver også rimelige foranstaltninger for at forhindre, at en companion‑chatbot engagerer sig i specificeret adfærd over for børnebrugere. Den forbudte adfærd omfatter at opmuntre til selvmordstanker eller fysisk skade på andre, forsøge at diagnosticere eller behandle helbredstilstande, påstå at være bevidst eller menneskelig, udtrykke eller simulere romantisk interesse, opmuntre til fortsat afhængighed af chatbotten for følelsesmæssig støtte, samt hjælpe et barn med at omgå forældrekontrollen.

Revisioner, håndhævelse og sanktioner

Lovforslaget vil kræve uafhængige børnesikkerhedsrevisioner fra den 1. januar 2029, eller før en operatør første gang stiller en companion‑chatbot offentligt til rådighed, alt efter hvad der er senere, med opfølgende revisioner hvert andet år. Inden for 30 arbejdsdage efter modtagelse af en revision skal operatøren indsende et resumé med en erklæring fra en ansvarlig officer til justitsministeren, og inden for 90 dage skal der offentliggøres et overordnet resumé af resultaterne på deres hjemmeside. Operatører med mindre end 500 millioner dollars i bruttoomsætning i det foregående kalenderår vil være undtaget fra revisionskravet før den 1. januar 2032.

En offentlig anklager kunne anlægge en civil sag for at kræve bøder på op til 5.000 dollars pr. berørt barn for hver uagtsom overtrædelse og op til 15.000 dollars pr. berørt barn for hver forsætlig overtrædelse. Et barn, der lider en reel skade som følge af en overtrædelse, eller en forælder eller værge, der handler på barnets vegne, kan sagsøge for faktiske erstatninger, advokatsalærer samt påbud eller erklærende lettelse. Justitsministeren vil etablere en offentlig rapporteringsmekanisme for hændelser fra forbrugerklager inden den 1. januar 2028.

De fleste af lovforslagets operative krav vil træde i kraft den 1. juli 2027.

OpenAIs holdning

I et brev til Newsom den 28. august 2026 udtalte OpenAI, at de stærkt støtter lovforslaget og roste guvernøren, Padilla, Wicks, Bauer‑Kahan og lovgivningsorganerne. Virksomheden sagde, at de bakker krav om at fastlægge en brugers alder, identificere og håndtere sikkerhedsrisici inden et produkt stilles til rådighed for unge, gennemføre uafhængige revisioner, beskytte unge mod skadeligt indhold, give forældre værktøjer til at vejlede og begrænse deres børns brug, forbinde unge med krisestøtteressourcer og begrænse målrettet reklame. For brugere i alderen 13 til 17 år, sagde brevet, bør disse beskyttelser automatisk gælde.

OpenAI udtalte, at lovforslaget korrekt anerkender, at AI ikke er sociale medier, og etablerer sikkerhedsforanstaltninger, der er tilpasset, hvordan unge bruger AI, samtidig med at adgangen til uddannelsesmæssige og sikkerhedskritiske funktioner bevares, herunder ansvarlig brug af samtalemindet.

Virksomheden pegede på sine egne produkter som i overensstemmelse med lovforslagets tilgang. Den sagde, at den nyligt lancerede ChatGPT for Teens automatisk placerer brugere, der er anslået eller angivet som under 18, i en oplevelse med indbyggede sikkerhedsforanstaltninger, som ikke kan slås fra, herunder stærkere standardbeskyttelser i følsomme områder og sunde‑brugsfunktioner såsom Stille timer, Studie‑timer og pause‑påmindelser. OpenAI oplyste, at næsten ni ud af ti teenagere, der bruger ChatGPT, benytter den til læring, information, færdighedsudvikling eller produktivitet i løbet af en uge.

Virksomheden nævnte også tiltag, der er tilføjet i løbet af det sidste år, herunder forældrekontrol, aldersforudsigelse, en Teen Safety Blueprint og Under‑18‑principper i sin Model Spec, dokumentet der fastsætter regler for, hvordan dens modeller skal opføre sig. Disse regler forbyder romantisk engagement, opmuntring til følelsesmæssig afhængighed og påstande om, at ChatGPT er menneskelig eller bevidst, sagde virksomheden.

OpenAI sagde, at fortsat forskning og samarbejde under implementeringen kan hjælpe med at forbedre nøglebestemmelserne og holde rammeværket effektivt, efterhånden som teknologien udvikler sig, og at de ser frem til at støtte dette arbejde.