La Legislatura de California aprueba la Ley de Verificación Independiente de Seguridad de IA

La Legislatura de California dio la aprobación final el 30 de agosto de 2026 a SB 813, legislación redactada por el senador Jerry McNerney que ordenaría a la Agencia de Operaciones del Gobierno designar organizaciones de verificación independientes — auditores externos calificados para evaluar los riesgos de seguridad de los sistemas y modelos de IA. El proyecto de ley ahora pasa al gobernador Gavin Newsom.

La Asamblea aprobó el proyecto en tercera lectura el 30 de agosto de 2026, y el Senado concordó con las enmiendas de la Asamblea el mismo día, completando el paso legislativo, según el registro oficial de votaciones. La Asamblea registró 67 votos a favor, 6 en contra y 6 miembros que no votaron; la concordancia del Senado se aprobó con 39 votos a favor, sin oposición y un miembro que no votó.

Qué requeriría SB 813

El proyecto añade un nuevo capítulo al Código de Gobierno de California que titula Organizaciones Independientes de Verificación de Seguridad de Inteligencia Artificial de California. A más tardar el 1 de enero de 2028, la Agencia de Operaciones del Gobierno debe desarrollar los requisitos de solicitud para la designación como organización de verificación independiente, o IVO; los procedimientos para suspender o terminar una designación; y los criterios para determinar si un auditor de IA está calificado. La agencia debe publicar esos requisitos y criterios públicamente, revisarlos y actualizarlos a medida que la tecnología y los estándares industriales cambien y, cuando sea factible, alinearlos con los estándares profesionales y regulatorios de auditoría y aseguramiento existentes.

Según la definición del proyecto, un IVO es un auditor de IA que ha demostrado experiencia en evaluar los riesgos que plantea un sistema o modelo de IA y en identificar las métricas y metodologías detrás de esa evaluación. Un IVO designado no debe tener dependencia financiera, operativa o de gestión respecto a la parte que evalúa. Puede aceptar pagos de la parte evaluada a tarifas razonables de mercado, pero no puede aceptar condiciones que condicionen el pago a los resultados de su evaluación.

Los procedimientos de suspensión y terminación deben cubrir incumplimientos a los estándares apropiados, representaciones materiales falsas en las solicitudes o divulgaciones requeridas, conflictos de interés que perjudiquen la independencia, fallas en mantener documentación adecuada, lapsos en ciberseguridad y conductas que razonablemente pongan en duda la integridad, objetividad o competencia de un IVO.

La agencia también debe convocar grupos de trabajo que incluyan ingenieros de compañías de IA competidoras y expertos en seguridad de IA para recopilar aportes de las partes interesadas sobre los estándares, y debe informar los hallazgos de esos grupos al Legislativo. Cada IVO designado debe presentar un informe anual, no antes de 12 meses después de su designación inicial, que resuma sus estándares y metodologías y divulgue cambios en políticas de gobernanza o fuentes de financiación relevantes para su independencia. Los IVO pueden redactar material para proteger secretos comerciales, ciberseguridad, seguridad pública o seguridad nacional, pero deben conservar la información sin redactar durante cinco años.

El marco es voluntario. El proyecto establece que no obliga a ningún desarrollador, implementador u operador de un sistema o modelo de IA a contratar a un IVO ni a someterse a una auditoría, no crea responsabilidad únicamente por no cumplir con un estándar, y no constituye una recomendación o respaldo estatal de ningún sistema o modelo de IA. En litigios que aleguen que un sistema de IA causó daño, el proyecto dispone que una auditoría realizada de acuerdo con un estándar identificado bajo el capítulo es relevante, pero no concluyente, para la acción.

Declaraciones del autor y patrocinadores

La oficina de McNerney describió la medida como un marco pionero a nivel nacional para evaluaciones independientes y de terceros de los posibles riesgos de seguridad que plantean los sistemas de IA. Su anuncio informó que la votación del Senado fue 37–0 y la de la Asamblea 53–4; el registro legislativo oficial indica que la concordancia del Senado fue 39–0 con un miembro que no votó y la votación de la Asamblea 67–6 con seis miembros que no votaron.

“La Legislatura de California hoy envía un mensaje claro: es hora de que California lidere la evaluación de los posibles riesgos de seguridad de la IA, ya que Washington, D.C., no puede o no quiere hacerlo,” dijo McNerney en una declaración anunciando la votación. Su oficina también señaló que establecer evaluaciones independientes y de terceros de la IA fue una de las recomendaciones principales del panel de alto nivel de Newsom sobre inteligencia artificial, y citó encuestas que indican que dos tercios de los estadounidenses tienen poca o ninguna confianza en que el gobierno federal regule la IA de manera eficaz.

SB 813 es patrocinado por Fathom, una organización sin fines de lucro que afirma haber desarrollado y promovido el modelo IVO y trabaja con legisladores de todo el país para ponerlo en práctica. La organización describió a los IVO como expertos externos calificados que pueden evaluar de forma independiente el riesgo de los modelos y sistemas de IA mediante pruebas y análisis creíbles, y afirmó que el proyecto permitiría que los riesgos potenciales de la tecnología se evalúen de forma independiente en lugar de aceptarse por fe.

“El poder del modelo de verificación independiente es que permite a expertos calificados e independientes evaluar el riesgo de las capacidades de IA, y mantiene el ritmo con la tecnología en lugar de congelar una única prueba en la ley,” dijo Andrew Freedman, CEO de Fathom, en la declaración de la organización.

La declaración de Fathom también ubicó el proyecto junto a SB 53, que según la organización ahora obliga a los grandes desarrolladores de frontera a publicar un marco de seguridad e informar incidentes críticos. La organización dijo que SB 813 iniciaría la construcción de una capa adicional de rendición de cuentas porque las determinaciones de seguridad aún dependen en gran medida de que las empresas evalúen sus propios sistemas, y que continuará trabajando con legisladores californianos, expertos técnicos y partes interesadas de la industria para avanzar el marco.

Versiones anteriores de la medida

McNerney introdujo SB 813 el 21 de febrero de 2025, con los miembros de la Asamblea Bauer‑Kahan y Lowenthal como coautores, y el proyecto fue enmendado repetidamente en ambas cámaras, con enmiendas de la Asamblea tan recientes como el 26 de agosto de 2026, según el registro legislativo. El Senado aprobó una versión anterior del proyecto 31–7 el 27 de enero de 2026. El anuncio de McNerney en ese momento indicaba que esa versión habría creado una Comisión de Normas y Seguridad de Inteligencia Artificial de California para designar paneles de expertos IVO que establecerían estándares voluntarios, certificarían a desarrolladores y proveedores de IA y vigilarían el cumplimiento, con poder para revocar la certificación.

Si Newsom firma el proyecto, la Agencia de Operaciones del Gobierno enfrentará una fecha límite del 1 de enero de 2028 para construir el sistema de designación, con los hallazgos de los grupos de trabajo que se informarán al Legislativo y los primeros informes anuales de IVO que deberán presentarse no antes de 12 meses después de la designación inicial de una organización.