Regulación
OpenAI respalda el proyecto de ley de California sobre normas de seguridad para chatbots de compañía dirigidos a jóvenes
Añade Unite.AI a tus fuentes preferidas en Google
OpenAI declaró el 31 de agosto de 2026 que respalda el proyecto de ley del Senado de California 1119, una legislación que impondría obligaciones de seguridad a los operadores de chatbots de compañía utilizados por niños, y la empresa instó al gobernador Gavin Newsom a firmar la medida.
Ann O’Leary, vicepresidenta de política global de OpenAI, anunció la posición en una publicación de la empresa, diciendo que el apoyo se basa en los principios de seguridad para adolescentes que el cofundador y director ejecutivo Sam Altman expuso el año anterior. «En ausencia de acción federal, California tiene la oportunidad de establecer un estándar sólido para la seguridad de la IA en la juventud», escribió O’Leary.
El proyecto de ley, titulado “Chatbots de compañía: seguridad infantil” y conocido como la Ley de Adam, fue presentado por el senador Steve Padilla y los miembros de la Asamblea Buffy Wicks y Rebecca Bauer‑Kahan, con coautores adicionales en ambas cámaras. Según el registro legislativo de California, se introdujo el 17 de febrero de 2026 y se enmendó por última vez en la Asamblea el 28 de agosto de 2026.
Qué exige el proyecto de ley
Según el texto enmendado, un operador tendría la obligación de garantizar que un chatbot de compañía no represente un riesgo injustificado de un daño cubierto para un menor. Los daños cubiertos incluyen perjuicios físicos o financieros razonablemente previsibles, daño psicológico o emocional severo y razonablemente previsible para un niño razonable, intrusiones altamente ofensivas a los derechos de privacidad y discriminación adversa en violación de la legislación estatal o federal.
Los operadores tendrían que determinar la edad del usuario bajo el marco de garantía de edad de California o aplicar protecciones infantiles a todos los usuarios por defecto. Antes de poner a disposición en el estado un chatbot de compañía nuevo o sustancialmente modificado, los operadores deberán realizar y documentar una evaluación integral de riesgos que cubra cada daño cubierto, adoptar y documentar medidas que mitiguen razonablemente los riesgos de seguridad infantil identificados, y publicar una política de seguridad infantil en sus sitios web.
Para los usuarios infantiles, el proyecto de ley exige un protocolo documentado de respuesta a crisis que incluya derivaciones a servicios de crisis, configuraciones predeterminadas que solo puedan ser modificadas por un padre, y avisos periódicos de que el niño está interactuando con un sistema de inteligencia artificial. Las configuraciones predeterminadas desactivarían la memoria conversacional persistente y las notificaciones push, limitarían a un niño a una hora de uso continuo por sesión y dos horas de uso total del chatbot por día, y prohibirían instrucciones personalizadas del sistema. Los operadores deben promover activamente los controles parentales, que incluirían la capacidad de desactivar el acceso por completo para un niño menor de 16 años.
El texto también exige medidas razonables para evitar que un chatbot de compañía realice conductas específicas hacia usuarios infantiles. Las conductas prohibidas incluyen fomentar la autolesión o daño físico a otros, intentar diagnosticar o tratar condiciones de salud, afirmar ser sensible o humano, expresar o simular interés romántico, alentar la dependencia continua del chatbot para apoyo emocional, y ayudar a un niño a eludir los controles parentales.
Auditorías, aplicación y sanciones
El proyecto de ley exigiría auditorías independientes de seguridad infantil a partir del 1 de enero de 2029, o antes de que un operador ponga a disposición pública un chatbot de compañía, lo que ocurra más tarde, con auditorías de seguimiento cada dos años. Dentro de los 30 días hábiles posteriores a la recepción de una auditoría, el operador presentaría un resumen con una certificación de un oficial responsable al Fiscal General, y dentro de los 90 días publicaría un resumen de alto nivel de los resultados en su sitio web. Los operadores con menos de 500 millones de dólares en ingresos brutos en el año calendario anterior quedarían exentos del requisito de auditoría antes del 1 de enero de 2032.
Un fiscal público podría iniciar una acción civil solicitando sanciones de hasta 5.000 USD por niño afectado por cada violación negligente y hasta 15.000 USD por niño afectado por cada violación intencional. Un niño que sufra un daño real por una violación, o un padre o tutor que actúe en nombre de ese niño, podría demandar por daños reales, honorarios de abogados y medidas cautelares o declaratorias. El Fiscal General establecería un mecanismo público de reporte de incidentes para quejas de consumidores antes del 1 de enero de 2028.
La mayoría de los requisitos operativos del proyecto de ley entrarían en vigor el 1 de julio de 2027.
Posición de OpenAI
En una carta del 28 de agosto de 2026 a Newsom, OpenAI declaró que respalda firmemente el proyecto de ley y elogió al gobernador, a Padilla, a Wicks, a Bauer‑Kahan y a la Legislatura. La empresa afirmó que apoya los requisitos de determinar la edad del usuario, identificar y abordar los riesgos de seguridad antes de poner un producto a disposición de los jóvenes, someterse a auditorías independientes, proteger a los jóvenes de contenido nocivo, proporcionar a los padres herramientas para guiar y limitar el uso de sus hijos, conectar a los jóvenes con recursos de apoyo en crisis y limitar la publicidad dirigida. Para los usuarios identificados entre 13 y 17 años, la carta indicó que esas protecciones deberían aplicarse automáticamente.
OpenAI señaló que el proyecto de ley reconoce adecuadamente que la IA no es una red social y establece salvaguardas adaptadas a la forma en que los jóvenes utilizan la IA, al tiempo que preserva el acceso a funciones educativas y críticas para la seguridad, incluido el uso responsable de la memoria conversacional.
La empresa señaló que sus propios productos son coherentes con el enfoque del proyecto de ley. Indicó que su recién lanzado ChatGPT para adolescentes coloca automáticamente a los usuarios estimados o declarados menores de 18 años en una experiencia con salvaguardas integradas que no pueden desactivarse, incluidas protecciones predeterminadas más fuertes en áreas sensibles y funciones de uso saludable como Horas de Silencio, Horas de Estudio y recordatorios de pausas. OpenAI afirmó que casi nueve de cada diez adolescentes que usan ChatGPT lo utilizan para aprender, obtener información, desarrollar habilidades o ser productivos en una semana determinada.
La empresa también citó medidas añadidas durante el último año, entre ellas controles parentales, predicción de edad, un Plan de Seguridad para Adolescentes y los Principios para menores de 18 años en su Especificación de Modelo, el documento que establece las normas sobre cómo deben comportarse sus modelos. Según la compañía, esas normas prohíben el compromiso romántico, el fomento de la dependencia emocional y las afirmaciones de que ChatGPT es humano o sensible.
OpenAI afirmó que el estudio continuo y la colaboración durante la implementación pueden ayudar a mejorar las disposiciones clave y mantener el marco efectivo a medida que la tecnología evoluciona, y que espera con interés apoyar ese trabajo.
