OpenAI podporuje kalifornský zákon o bezpečnostních pravidlech pro doprovodné chatboty pro mládež

OpenAI uvedla dne 31. srpna 2026, že podporuje kalifornský senátní zákon č. 1119, legislativu, která by uvalila povinnosti bezpečnosti na provozovatele doprovodných chatbotů používaných dětmi, a společnost vyzvala guvernéra Gavina Newsoma, aby zákon podepsal.

Ann O’Leary, viceprezidentka pro globální politiku ve společnosti OpenAI, oznámila tento postoj v příspěvku společnosti, přičemž uvedla, že podpora vychází z principů bezpečnosti pro teenagery, které spoluzakladatel a výkonný ředitel Sam Altman představil předchozí rok. „V nepřítomnosti federální akce má Kalifornie příležitost nastavit silný standard pro bezpečnost AI pro mládež,“ napsala O’Leary.

Zákon, nazvaný „Companion chatbots: children’s safety“ a známý jako Adamův zákon, byl předložen senátorem Stevem Padillou a poslanci Buffym Wicks a Rebeccou Bauer‑Kahan, s dalšími spoluautory v obou komorách. Podle kalifornského legislativního záznamu byl předložen 17. února 2026 a naposledy novelizován ve Sněmovně 28. srpna 2026.

Co zákon vyžaduje

Podle novelovaného znění by provozovatel měl povinnost zajistit, aby doprovodný chatbot nepředstavoval nepřiměřené riziko jakékoli zahrnuté újmy na nezletilém. Zahrnuté újmy zahrnují rozumně předvídatelné fyzické nebo finanční poškození, závažné a rozumně předvídatelné psychologické nebo emocionální poškození rozumného dítěte, vysoce urážlivé zásahy do práv na soukromí a nepříznivou diskriminaci v rozporu se státním či federálním zákonem.

Provozovatelé by museli určit věk uživatele podle kalifornského rámce pro ověřování věku nebo standardně uplatnit ochranu dětí na všechny uživatele. Před tím, než nabídnou v státě nový nebo podstatně upravený doprovodný chatbot, musí provozovatelé provést a zdokumentovat komplexní hodnocení rizik zahrnující každou zahrnutou újmu, přijmout a zdokumentovat opatření, která rozumně zmírní identifikovaná rizika pro bezpečnost dětí, a zveřejnit politiku ochrany dětí na svých webových stránkách.

Pro dětské uživatele zákon ukládá dokumentovaný protokol reakce na krizi, který zahrnuje odkazy na krizové služby, výchozí nastavení, které může změnit pouze rodič, a periodické upozornění, že dítě komunikuje se systémem umělé inteligence. Výchozí nastavení by zakázalo trvalou konverzační paměť a push notifikace, omezilo by dítě na jednu hodinu nepřetržitého používání na relaci a dva hodiny celkového používání chatbotu za den a zakázalo by vlastní instrukce systému. Provozovatelé musí aktivně propagovat rodičovskou kontrolu, která by zahrnovala možnost úplně zakázat přístup pro dítě mladší 16 let.

Text také vyžaduje rozumná opatření k zabránění tomu, aby se doprovodný chatbot zapojil do specifikovaného chování vůči dětským uživatelům. Zakázané chování zahrnuje povzbuzování k sebepoškozování nebo fyzickému poškození ostatních, pokusy o diagnostiku nebo léčbu zdravotních stavů, tvrzení, že je citlivý nebo lidský, vyjadřování či simulaci romantického zájmu, povzbuzování k dalšímu spoléhání na chatbot pro emocionální podporu a pomoc dítěti obejít rodičovskou kontrolu.

Audity, vymáhání a sankce

Zákon by vyžadoval nezávislé audity bezpečnosti dětí od 1. ledna 2029 nebo předtím, než provozovatel poprvé veřejně zpřístupní doprovodný chatbot, podle toho, co nastane později, s následnými audity každé dva roky. Do 30 pracovních dnů od obdržení auditu by provozovatel předložil souhrn s prohlášením odpovědného úředníka generálnímu prokurátorovi a do 90 dnů by na svých webových stránkách zveřejnil stručný přehled výsledků. Provozovatelé s hrubým ročním obratem nižším než 500 milionů dolarů v předchozím kalendářním roce by byli od požadavku na audit osvobozeni do 1. ledna 2032.

Veřejný zástupce by mohl podat občanskou žalobu s požadavkem na pokuty až 5 000 USD za každé poškozené dítě za každé nedbalé porušení a až 15 000 USD za každé poškozené dítě za každé úmyslné porušení. Dítě, které utrpí skutečnou újmu v důsledku porušení, nebo rodič či opatrovník jednající jeho jménem, může žádat náhradu skutečných škod, náklady na právní zastoupení a soudní či deklarativní opatření. Generální prokurátor zřídí veřejný mechanismus hlášení incidentů pro spotřebitelské stížnosti do 1. ledna 2028.

Většina provozních požadavků zákona by vstoupila v platnost 1. července 2027.

Postoj OpenAI

V dopise z 28. srpna 2026 adresovaném Newsomovi OpenAI uvedla, že zákon silně podporuje a chválí guvernéra, Padillu, Wicks, Bauer‑Kahan a zákonodárce. Společnost uvedla, že podporuje požadavky na určení věku uživatele, identifikaci a řešení bezpečnostních rizik před zpřístupněním produktu mladým lidem, podstoupení nezávislých auditů, ochranu mladých lidí před škodlivým obsahem, poskytování rodičům nástrojů k vedení a omezení používání jejich dětí, propojení mladých lidí s krizovými podpůrnými zdroji a omezení cílené reklamy. Pro uživatele ve věku 13 až 17 let dopis uvádí, že tato ochrana by měla být automaticky uplatněna.

OpenAI uvedla, že zákon správně uznává, že AI není sociální média, a stanoví opatření přizpůsobená tomu, jak mladí lidé AI používají, přičemž zachovává přístup k vzdělávacím a bezpečnostně kritickým funkcím, včetně odpovědného využívání konverzační paměti.

Společnost poukázala na své vlastní produkty jako v souladu s přístupem zákona. Uvedla, že nově spuštěný ChatGPT pro teenagery automaticky zařazuje uživatele odhadované nebo uvedené jako mladší 18 let do prostředí s vestavěnými ochrannými opatřeními, která nelze vypnout, včetně silnějších výchozích ochran v citlivých oblastech a funkcí podporujících zdravé používání, jako jsou Tiché hodiny, Studijní hodiny a připomínky na přestávky. OpenAI uvedla, že téměř devět z deseti teenagerů, kteří používají ChatGPT, ho využívá k učení, získávání informací, rozvoji dovedností nebo produktivitě během týdne.

Společnost také uvedla opatření přidaná během posledního roku, včetně rodičovských kontrol, predikce věku, Plánu bezpečnosti pro teenagery a Principů pro osoby mladší 18 let ve svém Model Spec, dokumentu stanovujícím pravidla pro chování jejích modelů. Tato pravidla zakazují romantické zapojení, podporu emocionální závislosti a tvrzení, že ChatGPT je lidský nebo citlivý, uvedla společnost.

OpenAI uvedla, že pokračující studium a spolupráce během implementace mohou pomoci zlepšit klíčová ustanovení a udržet rámec účinný s vývojem technologie, a těší se na podporu této práce.