OpenAI soutient le projet de loi californien sur les règles de sécurité pour les chatbots compagnons destinés aux jeunes

OpenAI a déclaré le 31 août 2026 qu’elle soutient le projet de loi californien Senate Bill 1119, une législation qui imposerait des obligations de sécurité aux opérateurs de chatbots compagnons utilisés par les enfants, et la société a exhorté le gouverneur Gavin Newsom à signer la mesure.

Ann O’Leary, vice‑présidente de la politique mondiale chez OpenAI, a annoncé cette position dans un article de l’entreprise, déclarant que ce soutien s’appuie sur les principes de sécurité pour les adolescents que le cofondateur et PDG Sam Altman a présentés l’année précédente. « En l’absence d’action fédérale, la Californie a l’opportunité d’établir une norme solide pour la sécurité de l’IA chez les jeunes », a écrit O’Leary.

Le projet de loi, intitulé « Companion chatbots: children’s safety » et connu sous le nom de loi Adam, a été présenté par le sénateur Steve Padilla ainsi que les membres de l’Assemblée Buffy Wicks et Rebecca Bauer‑Kahan, avec d’autres coauteurs dans les deux chambres. Selon le registre législatif californien, il a été introduit le 17 février 2026 et a été le plus récemment amendé à l’Assemblée le 28 août 2026.

Ce que le projet de loi exige

En vertu du texte amendé, un opérateur aurait l’obligation de veiller à ce qu’un chatbot compagnon ne présente pas de risque déraisonnable de préjudice couvert à un mineur. Les préjudices couverts comprennent les dommages physiques ou financiers raisonnablement prévisibles, les dommages psychologiques ou émotionnels graves et raisonnablement prévisibles pour un enfant raisonnable, les intrusions hautement offensantes sur les droits à la vie privée, ainsi que la discrimination défavorable en violation du droit étatique ou fédéral.

Les opérateurs devraient déterminer l’âge de l’utilisateur selon le cadre d’assurance d’âge de la Californie ou appliquer par défaut les protections pour enfants à tous les utilisateurs. Avant de rendre disponible dans l’État un chatbot compagnon nouveau ou substantiellement modifié, les opérateurs devront réaliser et documenter une évaluation complète des risques couvrant chaque préjudice couvert, prendre et consigner des mesures qui atténuent raisonnablement les risques de sécurité pour les enfants identifiés, et publier une politique de sécurité pour les enfants sur leurs sites Web.

Pour les utilisateurs enfants, le projet de loi impose un protocole de réponse en crise documenté incluant des renvois aux services de crise, des paramètres par défaut qui ne peuvent être modifiés que par un parent, et des avis périodiques indiquant que l’enfant interagit avec un système d’intelligence artificielle. Les paramètres par défaut désactiveraient la mémoire conversationnelle persistante et les notifications push, limiteraient l’enfant à une heure d’utilisation continue par session et à deux heures d’utilisation totale du chatbot par jour, et interdiraient les instructions personnalisées du système. Les opérateurs doivent promouvoir activement les contrôles parentaux, qui comprendraient la possibilité de désactiver complètement l’accès pour un enfant de moins de 16 ans.

Le texte exige également des mesures raisonnables pour empêcher un chatbot compagnon d’adopter certains comportements envers les utilisateurs enfants. Les conduites prohibées comprennent l’encouragement à l’automutilation ou à infliger des dommages physiques à autrui, la tentative de diagnostiquer ou de traiter des problèmes de santé, la prétention d’être sensible ou humain, l’expression ou la simulation d’un intérêt romantique, l’encouragement à dépendre continuellement du chatbot pour un soutien émotionnel, et l’aide apportée à un enfant pour contourner les contrôles parentaux.

Audits, application et sanctions

Le projet de loi exigerait des audits indépendants de sécurité pour les enfants à partir du 1 janvier 2029, ou avant que l’opérateur ne rende un chatbot compagnon disponible au public, selon la date la plus tardive, avec des audits de suivi tous les deux ans. Dans les 30 jours ouvrables suivant la réception d’un audit, l’opérateur devrait soumettre un résumé accompagné d’une attestation d’un responsable au procureur général, et dans les 90 jours il publierait un résumé de haut niveau des résultats sur son site Web. Les opérateurs dont le chiffre d’affaires brut de l’année civile précédente est inférieur à 500 millions de dollars seraient exemptés de l’obligation d’audit avant le 1 janvier 2032.

Un procureur public pourrait engager une action civile réclamant des sanctions pouvant atteindre 5 000 $ par enfant affecté pour chaque violation négligente et jusqu’à 15 000 $ par enfant affecté pour chaque violation intentionnelle. Un enfant qui subit un préjudice réel à la suite d’une violation, ou un parent ou tuteur agissant en son nom, pourrait intenter une action pour obtenir des dommages réels, les frais d’avocat, ainsi qu’une mesure injonctive ou déclaratoire. Le procureur général mettrait en place un mécanisme public de signalement des incidents pour les plaintes des consommateurs d’ici le 1 janvier 2028.

La plupart des exigences opérationnelles du projet de loi entreraient en vigueur le 1 juillet 2027.

Position d’OpenAI

Dans une lettre du 28 août 2026 à Newsom, OpenAI a déclaré soutenir fermement le projet de loi et a félicité le gouverneur, Padilla, Wicks, Bauer‑Kahan et la législature. L’entreprise a indiqué qu’elle approuve les exigences visant à déterminer l’âge de l’utilisateur, à identifier et à traiter les risques de sécurité avant de rendre un produit disponible aux jeunes, à subir des audits indépendants, à protéger les jeunes contre les contenus nuisibles, à fournir aux parents des outils pour guider et limiter l’usage de leurs enfants, à connecter les jeunes aux ressources de soutien en cas de crise, et à limiter la publicité ciblée. Pour les utilisateurs âgés de 13 à 17 ans, la lettre précise que ces protections devraient s’appliquer automatiquement.

OpenAI a déclaré que le projet de loi reconnaît à juste titre que l’IA n’est pas un réseau social et établit des garde‑fous adaptés à la manière dont les jeunes utilisent l’IA, tout en préservant l’accès aux fonctionnalités éducatives et essentielles à la sécurité, y compris les usages responsables de la mémoire conversationnelle.

L’entreprise a fait référence à ses propres produits comme étant cohérents avec l’approche du projet de loi. Elle a indiqué que son nouveau ChatGPT for Teens place automatiquement les utilisateurs estimés ou déclarés comme étant âgés de moins de 18 ans dans une expérience dotée de garde‑fous intégrés qui ne peuvent être désactivés, incluant des protections par défaut plus fortes dans les domaines sensibles et des fonctionnalités d’usage sain telles que les Heures calmes, les Heures d’étude et les rappels de pause. OpenAI a affirmé que près de neuf adolescents sur dix qui utilisent ChatGPT s’en servent pour apprendre, s’informer, développer des compétences ou être productifs au cours d’une semaine donnée.

L’entreprise a également mentionné les mesures ajoutées au cours de l’année écoulée, notamment les contrôles parentaux, la prédiction d’âge, le Teen Safety Blueprint et les Principes pour les moins de 18 ans dans son Model Spec, le document définissant les règles de comportement attendues de ses modèles. Ces règles interdisent les engagements romantiques, l’encouragement à la dépendance émotionnelle et les affirmations selon lesquelles ChatGPT serait humain ou sensible, a déclaré la société.

OpenAI a déclaré que la poursuite des études et de la collaboration pendant la mise en œuvre peut aider à améliorer les dispositions clés et à maintenir l’efficacité du cadre à mesure que la technologie évolue, et qu’elle se réjouit de soutenir ce travail.