OpenAI sostiene il disegno di legge della California sulle regole di sicurezza per i chatbot di compagnia destinati ai giovani

OpenAI ha dichiarato il 31 agosto 2026 di sostenere il Senate Bill 1119 della California, una normativa che imporrebbe obblighi di sicurezza agli operatori di chatbot di compagnia destinati ai bambini, e l’azienda ha invitato il governatore Gavin Newsom a firmare la misura in legge.

Ann O’Leary, vicepresidente della politica globale di OpenAI, ha annunciato la posizione in un post aziendale, affermando che il sostegno si basa sui principi per la sicurezza degli adolescenti che il co‑fondatore e amministratore delegato Sam Altman ha delineato l’anno precedente. “In assenza di azioni federali, la California ha l’opportunità di stabilire uno standard solido per la sicurezza dell’IA tra i giovani”, ha scritto O’Leary.

Il disegno di legge, intitolato “Companion chatbots: children’s safety” e noto come la Legge di Adam, è stato presentato dal senatore Steve Padilla e dai membri dell’Assemblea Buffy Wicks e Rebecca Bauer‑Kahan, con ulteriori co‑autori in entrambe le camere. Secondo il registro legislativo della California, è stato introdotto il 17 febbraio 2026 e modificato più recentemente dall’Assemblea il 28 agosto 2026.

Cosa richiede il disegno di legge

Secondo il testo modificato, un operatore avrebbe il dovere di garantire che un chatbot di compagnia non comporti un rischio irragionevole di un danno coperto per un minore. I danni coperti includono danni fisici o finanziari ragionevolmente prevedibili, danni psicologici o emotivi gravi e ragionevolmente prevedibili per un bambino ragionevole, intrusioni altamente offensive nei diritti alla privacy e discriminazioni avverse in violazione della legge statale o federale.

Gli operatori dovrebbero determinare l’età dell’utente secondo il quadro di garanzia dell’età della California o applicare le protezioni per i minori a tutti gli utenti per impostazione predefinita. Prima di rendere disponibile nello stato un chatbot di compagnia nuovo o sostanzialmente modificato, gli operatori dovrebbero eseguire e documentare una valutazione completa dei rischi che copra ciascun danno previsto, adottare e documentare misure che mitigano ragionevolmente i rischi di sicurezza per i bambini identificati e pubblicare una politica di sicurezza per i minori sui propri siti web.

Per gli utenti minorenni, il disegno di legge prevede un protocollo documentato di risposta alle crisi che includa riferimenti a servizi di emergenza, impostazioni predefinite modificabili solo da un genitore e avvisi periodici che il bambino sta interagendo con un sistema di intelligenza artificiale. Le impostazioni predefinite disabiliterebbero la memoria conversazionale persistente e le notifiche push, limiterebbero il bambino a un’ora di utilizzo continuo per sessione e a due ore di utilizzo totale del chatbot al giorno, e proibirebbero istruzioni personalizzate al prompt del sistema. Gli operatori devono promuovere attivamente i controlli parentali, che includerebbero la possibilità di disabilitare completamente l’accesso per un bambino sotto i 16 anni.

Il testo richiede inoltre misure ragionevoli per impedire a un chatbot di compagnia di adottare comportamenti specifici nei confronti degli utenti minorenni. I comportamenti proibiti includono l’incoraggiamento al danno autoinflitto o a quello fisico verso altri, il tentativo di diagnosticare o trattare condizioni di salute, l’affermazione di essere senziente o umano, l’espressione o simulazione di interesse romantico, l’incoraggiamento a dipendere continuamente dal chatbot per supporto emotivo e l’aiuto a un bambino per aggirare i controlli parentali.

Audit, applicazione e sanzioni

Il disegno di legge richiederebbe audit indipendenti sulla sicurezza dei minori a partire dal 1° gennaio 2029, o prima che un operatore renda pubblicamente disponibile per la prima volta un chatbot di compagnia, a seconda di quale data sia più tarda, con audit di follow‑up ogni due anni. Entro 30 giorni lavorativi dal ricevimento dell’audit, l’operatore dovrebbe inviare un riepilogo con un’attestazione da parte di un responsabile al Procuratore Generale, e entro 90 giorni pubblicare un riepilogo di alto livello dei risultati sul proprio sito web. Gli operatori con un fatturato lordo inferiore a 500 milioni di dollari nell’anno solare precedente sarebbero esenti dall’obbligo di audit prima del 1° gennaio 2032.

Un pubblico procuratore potrebbe intentare un’azione civile richiedendo sanzioni fino a $5.000 per bambino interessato per ogni violazione negligente e fino a $15.000 per bambino interessato per ogni violazione intenzionale. Un bambino che subisce un danno reale a causa di una violazione, o un genitore o tutore che agisca per suo conto, potrebbe intentare causa per danni effettivi, spese legali e provvedimenti ingiuntivi o dichiarativi. Il Procuratore Generale istituirebbe un meccanismo pubblico di segnalazione degli incidenti per reclami dei consumatori entro il 1° gennaio 2028.

La maggior parte dei requisiti operativi del disegno di legge entrerà in vigore il 1° luglio 2027.

Posizione di OpenAI

In una lettera del 28 agosto 2026 a Newsom, OpenAI ha dichiarato di sostenere fermamente il disegno di legge e ha elogiato il governatore, Padilla, Wicks, Bauer‑Kahan e la Legislatura. L’azienda ha affermato di sostenere i requisiti di determinare l’età dell’utente, identificare e affrontare i rischi di sicurezza prima di rendere un prodotto disponibile ai giovani, sottoporsi a audit indipendenti, proteggere i giovani da contenuti dannosi, fornire ai genitori strumenti per guidare e limitare l’uso dei propri figli, collegare i giovani a risorse di supporto in caso di crisi e limitare la pubblicità mirata. Per gli utenti identificati nella fascia d’età 13‑17 anni, la lettera ha precisato che tali protezioni dovrebbero applicarsi automaticamente.

OpenAI ha affermato che il disegno di legge riconosce correttamente che l’IA non è un social media e stabilisce salvaguardie su misura per il modo in cui i giovani utilizzano l’IA, preservando al contempo l’accesso a funzionalità educative e critiche per la sicurezza, inclusi gli usi responsabili della memoria conversazionale.

L’azienda ha indicato i propri prodotti come coerenti con l’approccio del disegno di legge. Ha dichiarato che il suo appena lanciato ChatGPT for Teens colloca automaticamente gli utenti stimati o dichiarati sotto i 18 anni in un’esperienza con salvaguardie integrate che non possono essere disattivate, includendo protezioni predefinite più robuste in aree sensibili e funzionalità per un uso salutare come Quiet Hours, Study Hours e promemoria per le pause. OpenAI ha affermato che quasi nove adolescenti su dieci che usano ChatGPT lo utilizzano per apprendimento, informazioni, sviluppo di competenze o produttività in una settimana.

L’azienda ha inoltre citato misure introdotte nell’ultimo anno, tra cui controlli parentali, previsione dell’età, un Teen Safety Blueprint e i Principi per i minori di 18 anni nel suo Model Spec, il documento che stabilisce le regole di comportamento dei suoi modelli. Tali regole proibiscono l’impegno romantico, l’incoraggiamento alla dipendenza emotiva e le affermazioni secondo cui ChatGPT sarebbe umano o senziente, ha dichiarato l’azienda.

OpenAI ha affermato che lo studio continuo e la collaborazione durante l’implementazione possono contribuire a migliorare le disposizioni chiave e mantenere il quadro efficace man mano che la tecnologia evolve, e che attende con interesse di sostenere tale lavoro.