Réglementation
Fathom appelle à mettre rapidement en œuvre le plan californien de supervision de l’IA

Points clésFathom souhaite que la Californie impose des évaluations indépendantes des risques…
Voir plus
- Fathom souhaite que la Californie impose des évaluations indépendantes des risques catastrophiques aux développeurs d'IA de pointe plutôt que de s'appuyer sur des examens volontaires.
- L'État délivrerait des licences et superviserait les évaluateurs tout en définissant les résultats de sécurité dans la loi et en laissant les IVO mettre à jour les méthodes de test techniques.
- Fathom propose d'introduire progressivement les mandats à mesure que la capacité des évaluateurs augmente, afin que le travail garanti attire capitaux et talents.
Le groupe de gouvernance de l’IA Fathom a déclaré le 18 novembre 2026 que la nouvelle feuille de route du gouverneur Gavin Newsom sur l’IA de pointe reprenait bon nombre de ses recommandations, et a exhorté la Californie à mettre rapidement en place des évaluations indépendantes obligatoires des risques catastrophiques.
Fathom a élaboré et défendu le modèle des organismes indépendants de vérification (OIV), dans lequel des évaluateurs externes examinent les risques associés aux modèles et aux systèmes d’IA. Andrew Freedman, PDG et cofondateur, a présenté le rapport comme un plan concret pour mettre en pratique une supervision indépendante et a appelé à avancer « avec toute la célérité voulue ». Il a cité la législation, l’élaboration de règles, le partage des compétences entre les États et le gouvernement fédéral, la logistique, le calendrier et les coûts parmi les questions encore en suspens. Il a ajouté que Fathom ferait pression sur les gouvernements des États et le gouvernement fédéral pour obtenir de la transparence, imposer la mesure des risques par les OIV et faire appliquer des garde-fous par les pouvoirs publics.
Le rapport de l’Agence des opérations gouvernementales de Californie (GovOps), daté du 16 novembre 2026 et rendu public le 18 novembre, recommande des changements législatifs plutôt que d’imposer elle-même des exigences. Son ensemble de mesures plus large comprend des normes de base, le pouvoir d’ordonner un arrêt d’urgence et d’éventuelles limites à l’auto-amélioration récursive, dans le prolongement du cadre des OIV établi par le projet de loi SB 813 et du registre des auditeurs de l’IA créé par le projet de loi AB 1405.
En quoi la feuille de route reprend le modèle de Fathom
La principale recommandation en matière de supervision obligerait tous les grands développeurs d’IA de pointe à se soumettre à des examens continus menés par des OIV agréés, remplaçant ainsi l’approche volontaire actuellement appliquée à ces développeurs. GovOps agréerait les évaluateurs et exercerait sur eux une supervision continue, avec le pouvoir de révoquer leur agrément s’ils ne disposent pas d’une expertise, d’une indépendance ou d’une rigueur suffisantes. Les OIV transmettraient à l’État des évaluations non expurgées, et celui-ci déciderait s’il y a lieu d’exiger des mesures correctives après avoir échangé avec le développeur.
Selon Fathom, tant pour la répartition des responsabilités que pour le critère juridique, le rapport reprend les grandes lignes de son mémo de mise en œuvre du 30 octobre 2026. La Californie définirait dans la loi les résultats acceptables en matière de sécurité, tandis que les OIV élaboreraient et actualiseraient les méthodes et les tests techniques servant à évaluer la conformité. Le critère proposé consiste à déterminer si un modèle d’IA de pointe est « peu susceptible d’accroître le risque de préjudice catastrophique au-delà du niveau qui existerait en l’absence du modèle » et si ses bénéfices escomptés l’emportent sur le risque résiduel. Cette conception vise à permettre aux méthodes de test d’évoluer avec la technologie tout en préservant les résultats fixés par la loi de l’État.
L’auto-amélioration récursive (AAR), stade auquel le développement automatisé de l’IA devient autonome, constitue un autre point de convergence. Le rapport ferait de la vérification des indicateurs de recherche et développement automatisés en IA et de l’évaluation des risques croissants une responsabilité initiale des OIV. Le mémo de Fathom préconisait également d’examiner les usages internes et externes : des seuils de capacités préenregistrés déclencheraient une notification à l’État et la suspension de toute nouvelle montée en puissance interne, dans l’attente d’une réévaluation.
Le dispositif de mise en œuvre proposé par Fathom
Le mémo propose de déployer progressivement chaque obligation, dès que GovOps aura déterminé que les évaluateurs désignés disposent de capacités et d’une expertise suffisantes dans le domaine de risque concerné. Il fait valoir qu’une perspective crédible de missions obligatoires attirerait les capitaux et les talents nécessaires pour développer la vérification indépendante, plutôt que d’attendre qu’un marché mûr se constitue pour chaque risque.
Dans un premier temps, l’État désignerait un OIV au sein d’un groupe d’évaluateurs préalablement sélectionnés, tandis que le développeur le rémunérerait directement selon le temps passé et les coûts engagés, aux tarifs de référence fixés par l’État. Le choix du développeur s’élargirait au cours des phases suivantes, à mesure que le groupe s’étofferait, mais l’État conserverait le pouvoir de veto sur les sélections, d’imposer une rotation, de limiter la concentration, de nommer des évaluateurs supplémentaires et de retirer leur agrément aux évaluateurs manquant de rigueur ou d’indépendance. La rémunération ne dépendrait pas du résultat de l’évaluation.
Les évaluateurs intégrés auraient en permanence accès aux dossiers, au personnel et aux systèmes nécessaires, y compris la possibilité d’être physiquement présents à des étapes décisionnelles déterminées. Ils bénéficieraient de protections légales en matière de confidentialité et contre les représailles. L’application des règles resterait du ressort de l’État : le procureur général pourrait demander des injonctions judiciaires et des sanctions civiles, tandis que les OIV établiraient les constats, prescriraient des mesures correctives et signaleraient les risques imminents, au lieu de demander eux-mêmes des injonctions ou de donner à leurs constats un effet coercitif automatique.
La mise à l’épreuve concrète incombe désormais à la législature et à GovOps : transformer les recommandations en obligations contraignantes, tout en formant un nombre suffisant d’évaluateurs agréés et en préservant une capacité crédible de mise en application par l’État. Dans le dispositif de Fathom, ces étapes sont interdépendantes : chaque obligation dépend de l’expertise disponible, et les constats d’un OIV nécessitent une intervention de l’État avant de pouvoir produire des effets coercitifs.












