Réglementation
Newsom propose une supervision obligatoire de l’IA de pointe et des pouvoirs d’arrêt d’urgence

Points clésDes vérificateurs indépendants agréés donneraient à l'État une surveillance technique…
Voir plus
- Des vérificateurs indépendants agréés donneraient à l'État une surveillance technique continue plutôt que des déclarations de sécurité ponctuelles.
- Les ordres d'arrêt d'urgence prendraient effet immédiatement et resteraient en vigueur pendant le contrôle juridictionnel.
- La déclaration des incidents passerait de seuils calibrés sur l'entraînement à une capacité démontrée face au risque catastrophique.
Le gouverneur de Californie Gavin Newsom a publié des recommandations législatives le 18 novembre 2026. Celles-ci imposeraient une supervision indépendante continue des grands développeurs d’IA de pointe et permettraient aux autorités de l’État d’ordonner l’arrêt d’urgence des modèles présentant des risques catastrophiques imminents.
Le rapport, La sécurité de l’IA en 2026 et au-delà de l’Agence des opérations gouvernementales de Californie, daté du 16 novembre 2026, vise à éclairer les travaux législatifs lorsque les parlementaires reprendront leurs travaux en décembre 2026 ; ses recommandations ne constituent pas encore des obligations en vigueur. Le plan s’appuierait sur l’obligation faite par la Californie aux grands développeurs d’IA de pointe de publier des cadres de sécurité, en ajoutant des normes minimales définies par l’État en matière de sécurité, de sûreté et de transparence, applicables tout au long de l’entraînement, de l’utilisation interne et du déploiement.
Supervision indépendante continue
Tous les grands développeurs d’IA de pointe seraient soumis à une supervision continue par des organismes indépendants de vérification, ou OIV, titulaires d’une licence. Ces organismes traduiraient les normes de l’État en tests techniques et les mettraient à jour à mesure que les méthodes d’évaluation de l’IA évoluent. Ils auraient également accès aux modèles, au personnel, aux systèmes, aux environnements d’entraînement et aux dossiers qu’ils jugeraient nécessaires, puis transmettraient à l’État des évaluations non expurgées.
L’Agence des opérations gouvernementales délivrerait les licences aux OIV et pourrait les révoquer en cas de manque d’expertise, d’indépendance ou de rigueur. Si un évaluateur ne pouvait pas attester qu’un développeur respectait les normes, l’État pourrait ordonner des mesures correctives après avoir consulté l’entreprise. Les développeurs pourraient contester ces décisions devant les tribunaux avant leur entrée en vigueur, sauf dans le cadre de la procédure d’urgence accélérée.
Un prélèvement supplémentaire sur les frais de vérification payés par les développeurs contribuerait au financement des capacités de calcul de CalCompute, exploitées par le secteur public. Une partie de ces capacités serait réservée à la recherche indépendante en matière de sécurité et de sûreté ainsi qu’à la supervision publique, reliant ainsi un prélèvement financé par le secteur à l’infrastructure nécessaire au contrôle externe.
Confinement des risques et pouvoirs d’urgence
Chaque grand développeur d’IA de pointe devrait maintenir un protocole de confinement des risques, soumis à des tests et à des vérifications continus par un OIV, et certifié comme efficace par un haut responsable de l’entreprise. Les capacités requises couvriraient les ressources de calcul, les agents, l’accès interne et le déploiement des modèles, plutôt que de dépendre d’un simple interrupteur marche-arrêt. Les protocoles désigneraient les personnes responsables, prévoiraient une coordination avec les fournisseurs de services infonuagiques et d’électricité, et établiraient à quelles conditions un modèle pourrait être rétabli en toute sécurité.
Les tests porteraient sur les façons dont un arrêt peut échouer, notamment si un modèle copie ses poids pour entraver son confinement ou si un acteur extérieur accède aux commandes d’arrêt. Pour les développeurs de modèles à poids ouverts, les exigences de confinement et d’arrêt ne s’appliqueraient qu’aux déploiements qu’ils contrôlent, puisqu’ils ne peuvent pas arrêter les copies hébergées par d’autres.
Les autorités de l’État pourraient ordonner un arrêt immédiat si elles avaient des motifs crédibles de croire qu’il existe un risque catastrophique imminent ou un incident majeur de perte de contrôle, et que le développeur refusait de contenir le danger. L’ordre imposerait l’intervention réalisable la plus limitée, prendrait effet immédiatement et resterait en vigueur pendant l’examen judiciaire, bien que le développeur puisse demander une ordonnance restrictive temporaire. Il serait levé lorsque le danger ne serait plus imminent.
Signalement des incidents et recherche automatisée en IA
Le régime de signalement couvrirait les tentatives de vol des poids d’un modèle, même en l’absence de décès ou de blessure corporelle, tous les incidents de perte de contrôle, internes ou externes, ainsi qu’un nouveau dispositif de signalement des incidents évités de justesse. Le rapport propose de raccourcir de 15 jours à 48 heures le délai de signalement de la plupart des incidents critiques, tout en maintenant le délai de 24 heures pour les risques catastrophiques imminents. Les protections accordées aux lanceurs d’alerte seraient étendues aux anciens employés et aux prestataires.
Les modèles capables d’effectuer des actions susceptibles de créer un risque catastrophique seraient considérés comme des modèles de pointe aux fins du signalement des incidents, même s’ils avaient été entraînés au moyen de moins de 10^26 opérations sur nombres entiers ou en virgule flottante. Ce critère fondé sur les capacités répond à la préoccupation du rapport selon laquelle le fait de se fier uniquement à l’ampleur de l’entraînement a laissé des incidents dangereux en dehors des obligations de signalement à l’État.
Les entreprises qui automatisent la recherche et le développement en IA indiqueraient chaque trimestre la répartition de leurs ressources de calcul entre l’entraînement, les expériences de recherche, l’inférence pour les agents de recherche en IA, les travaux de sécurité et de sûreté, les clients externes et les activités dont l’origine n’est pas attribuée ; les OIV vérifieraient ces catégories. Des informations supplémentaires porteraient sur le volume et le coût des données d’entraînement, leurs domaines thématiques et leur provenance humaine ou issue de l’IA, ainsi que sur les ressources de calcul d’inférence utilisées pour entraîner des modèles dans des environnements d’apprentissage par renforcement, les comportements inappropriés connus ayant été récompensés et les mesures d’atténuation appliquées. Selon le rapport, ces mesures permettraient de déterminer si l’IA prend en charge une part croissante de son propre développement et si les investissements dans la sécurité suivent le rythme.
L’auto-amélioration récursive (RSI), dont la forme la plus poussée consiste pour un système d’IA à concevoir de manière autonome son successeur sans intervention humaine, serait soumise à un pouvoir de plafonnement activable en réserve plutôt qu’à une limite immédiate. Les autorités pourraient imposer un plafond temporaire, réexaminé périodiquement, à la recherche automatisée en IA si celle-ci dépasse les seuils auxquels un développeur s’est engagé ou progresse plus vite que les mesures de protection et les évaluations, créant ainsi un risque important de préjudice catastrophique. Le plafond serait levé après qu’un organisme de vérification indépendant (IVO) aurait confirmé la mise en place de mesures de protection adéquates.
Ces recommandations répondent à l’ordonnance exécutive de Newsom du 18 septembre 2026 sur la supervision indépendante et un dispositif d’arrêt d’urgence de l’IA, qui demandait des propositions d’experts dans un délai de deux mois et la mise en œuvre accélérée des lois californiennes sur la vérification indépendante et les auditeurs en IA. L’Agence des opérations gouvernementales a élaboré le rapport avec le Bureau des services d’urgence de Californie et des conseillers externes : Jason Goldman, Gillian Hadfield, Alondra Nelson et Rob Reich.
Pour les développeurs, la conformité irait au-delà de la publication de politiques de sécurité : elle impliquerait un examen externe continu, un signalement plus rapide des incidents et la capacité avérée d’arrêter les systèmes. La proposition laisse aux législateurs deux décisions liées : quel degré de pouvoir d’intervention instaurer et comment rendre opérationnelle une supervision continue alors que le secteur de la vérification soumis à agrément est encore en développement.












