Regulación
Fathom insta a aplicar rápidamente el plan de California para supervisar la IA

Puntos claveFathom quiere que California exija evaluaciones independientes de riesgo catastrófico a…
Ver más
- Fathom quiere que California exija evaluaciones independientes de riesgo catastrófico a los desarrolladores de IA de frontera en lugar de depender de revisiones voluntarias.
- El estado otorgaría licencias y supervisaría a los evaluadores, definiría los resultados de seguridad en la ley y permitiría que los IVO actualicen los métodos técnicos de prueba.
- Fathom propone introducir gradualmente los mandatos a medida que crezca la capacidad de los evaluadores, para que el trabajo garantizado atraiga capital y talento.
El grupo de gobernanza de la IA Fathom afirmó el 18 de noviembre de 2026 que la nueva hoja de ruta del gobernador Gavin Newsom para la IA de frontera reflejaba muchas de sus recomendaciones, e instó a California a implementar rápidamente evaluaciones independientes obligatorias de los riesgos catastróficos.
Fathom desarrolló y promovió el modelo de organización de verificación independiente (IVO), según el cual evaluadores externos analizan los riesgos de los modelos y sistemas de IA. El director ejecutivo y cofundador Andrew Freedman describió el informe como un plan concreto para llevar a la práctica la supervisión independiente e instó a avanzar «con toda la celeridad debida». Enumeró como cuestiones pendientes la legislación, la elaboración de normas, las competencias estatales y federales, la logística, los plazos y los costos, y afirmó que Fathom presionaría a los gobiernos estatal y federal para que garantizaran la transparencia, la medición obligatoria de riesgos por parte de las IVO y salvaguardias exigibles por el gobierno.
El informe de la California Government Operations Agency (GovOps), fechado el 16 de noviembre de 2026 y difundido públicamente el 18 de noviembre, recomienda cambios legislativos en lugar de imponer requisitos por sí mismo. Su paquete más amplio incluye estándares básicos, facultades para ordenar cierres de emergencia y posibles límites a la automejora recursiva, y se basa en el marco de las IVO de la SB 813 y el registro de auditores de IA de la AB 1405.
En qué aspectos la hoja de ruta refleja el modelo de Fathom
Su principal recomendación de supervisión exigiría que todos los grandes desarrolladores de IA de frontera se sometieran a revisiones continuas a cargo de IVO con licencia, lo que reemplazaría el enfoque voluntario actual para esos desarrolladores. GovOps otorgaría licencias a los evaluadores y los supervisaría de forma continua, con autoridad para revocar las licencias si no contaran con suficiente experiencia, independencia o rigor. Las IVO presentarían al estado evaluaciones sin censurar, y este decidiría si corresponde adoptar medidas correctivas después de dialogar con el desarrollador.
Fathom afirma que, tanto en lo relativo al reparto de responsabilidades como a la prueba jurídica, el informe sigue las pautas de su memorando de implementación del 30 de octubre de 2026. California definiría por ley los resultados de seguridad aceptables, mientras que las IVO desarrollarían y actualizarían los métodos técnicos y las pruebas utilizados para evaluar el cumplimiento. El estándar propuesto plantea si es «poco probable que un modelo de frontera aumente el riesgo de daños catastróficos por encima del nivel que existiría en ausencia del modelo» y si los beneficios previstos superan el riesgo residual. El diseño busca permitir que los métodos de prueba evolucionen junto con la tecnología, sin dejar de preservar el resultado establecido por ley por el estado.
La automejora recursiva (RSI), el punto en el que el desarrollo automatizado de IA se vuelve autosostenible, es otro ámbito de coincidencia. El informe asignaría inicialmente a las IVO la responsabilidad de verificar las métricas de investigación y desarrollo automatizados de IA y evaluar los riesgos crecientes. El memorando de Fathom también proponía examinar el uso interno y externo, con umbrales de capacidad registrados de antemano que activarían una notificación al estado y la suspensión de nuevas ampliaciones internas hasta que se realizara una reevaluación.
El diseño de implementación de Fathom
El memorando propone introducir gradualmente cada obligación una vez que GovOps determine que los evaluadores designados tienen suficiente capacidad y experiencia en el área de riesgo pertinente. Sostiene que la expectativa firme de que habrá trabajo obligatorio atraería el capital y el talento necesarios para ampliar la verificación independiente, en lugar de esperar a que madure un mercado para cada tipo de riesgo.
En un primer momento, el estado asignaría una IVO de un grupo preseleccionado, mientras que el desarrollador pagaría directamente según el tiempo y los materiales utilizados, a tarifas de referencia establecidas por el estado. En fases posteriores, los desarrolladores tendrían más libertad de elección a medida que creciera el grupo, pero el estado conservaría la facultad de vetar las selecciones, exigir rotaciones, limitar la concentración, designar evaluadores adicionales y retirar la certificación a los evaluadores que carecieran de rigor o independencia. Los pagos no dependerían del resultado de la evaluación.
Los evaluadores integrados tendrían acceso continuo a los registros, el personal y los sistemas necesarios, incluida la posibilidad de estar físicamente presentes en puntos de decisión definidos, con el respaldo de protecciones legales de confidencialidad y contra represalias. La aplicación de la ley seguiría siendo responsabilidad del estado: el fiscal general podría solicitar medidas cautelares y sanciones civiles, mientras que las IVO formularían conclusiones, prescribirían medidas correctivas y remitirían los riesgos inminentes, en vez de solicitar medidas cautelares por cuenta propia o emitir conclusiones que se ejecutaran automáticamente.
La prueba práctica recae ahora en la Legislatura y GovOps: convertir las recomendaciones en obligaciones vinculantes, desarrollar una cantidad suficiente de evaluadores con licencia y preservar una aplicación creíble de la ley por parte del estado. El diseño de Fathom hace que esos pasos sean interdependientes, porque cada obligación depende de que haya experiencia disponible y las conclusiones de una IVO requieren medidas del estado antes de poder tener consecuencias coercitivas.












