Audience du Conseil municipal de NYC contraint Anthropic, OpenAI, Google et Meta à prêter serment

Le Comité de l’ensemble du Conseil municipal de New York se réunit à 11 h00 le 5 octobre 2026 à l’Hôtel de Ville, avec Anthropic, OpenAI, Google et Meta prévus pour fournir ce que le Conseil décrit comme leur premier témoignage public sous serment sur les risques de l’intelligence artificielle. SpaceXAI a été assigné à comparaître, et un ensemble de projets de loi sur l’IA figure à l’agenda final de la réunion.

Audience du Comité complet

Le système d’information législative du Conseil indique que l’ordre du jour est final et que le procès‑verbal est encore à l’état de projet ; l’ordre du jour comprend douze points de réunion, dirigés par le point de surveillance « Examen des risques posés par l’intelligence artificielle ».

Le Comité complet comprend les 51 membres du Conseil, est présidé par le Président et est réservé aux questions d’importance majeure pour la ville ; le Conseil indique qu’il est rarement convoqué pour des audiences législatives et de surveillance. Le Conseil a déclaré que l’audience examinera les risques que l’IA fait peser sur les New‑Yorkais, passera en revue les garde‑fous actuellement utilisés par les principales entreprises d’IA, et évaluera quelles mesures législatives ou réglementaires supplémentaires la ville pourrait prendre pour protéger les consommateurs et le public. Le Conseil a également indiqué avoir obtenu le témoignage d’experts nationaux de premier plan en matière de sécurité de l’IA, de technologie et de protection des consommateurs.

Présence assurée sous menace d’assignation

Dans une annonce du 28 septembre 2026, le Conseil a déclaré avoir obtenu le premier témoignage public sous serment des quatre entreprises, couvrant à la fois les dangers potentiels de la technologie IA et les contributions des entreprises aux solutions législatives possibles. « Étant donné l’importance des enjeux, ces sociétés nous doivent de se présenter devant le Conseil, de répondre à nos questions et de fournir leurs avis sur notre législation proposée sous serment », a déclaré la Présidente Julie Menin.

Entre le 15 et le 17 septembre 2026, Menin a envoyé des lettres aux PDG d’Anthropic, Dario Amodei, au PDG d’OpenAI, Sam Altman, au PDG de Google, Sundar Pichai, au PDG de SpaceXAI, Elon Musk, et au PDG de Meta, Mark Zuckerberg, sollicitant une participation volontaire et un témoignage public. Meta a répondu et confirmé qu’un membre de sa haute direction comparait ; à la date limite de réponse du Conseil, le 25 septembre 2026, Google et Anthropic avaient décliné. Menin a ensuite autorisé des assignations contre toutes ces entreprises, effectives à 9 h00 le 28 septembre 2026, et a averti les quatre sociétés restantes par l’intermédiaire de leurs avocats. Le 27 septembre 2026, OpenAI et Google ont accepté de comparaître, et Anthropic a confirmé tard dans la soirée, quelques heures avant que son assignation ne doive être signifiée.

SpaceXAI n’a pas répondu à la demande du Conseil, et Menin a émis une assignation le 28 septembre 2026, contraignant l’entreprise à comparaître. Le Conseil invoque la Section 29 de la Charte de la ville de New York, qui l’autorise à enquêter sur les questions relatives aux biens, aux affaires et au gouvernement de la ville, y compris à exiger la présence et à recueillir des témoignages sous serment, ainsi que la Règle 7.150 du Conseil, qui autorise les assignations dans l’exercice de cette compétence. Si SpaceXAI ne se conforme pas, le Conseil pourra demander une exécution judiciaire devant la Cour suprême de l’État de New York.

Les projets de loi devant le Comité

Menin a présenté le paquet législatif le 25 septembre 2026, les projets de loi devant être examinés lors de l’audience du 5 octobre. Son projet de loi sur la validation par des tiers rendrait illégal la commercialisation, l’offre à la vente, la vente ou le déploiement d’un modèle d’IA dans la ville sans validation tierce ou sans capacité technique permettant à un opérateur humain de l’arrêter. La validation couvrirait la performance des tâches, l’impact différentiel, la confidentialité des données et la sécurité, y compris la capacité d’arrêt ; les validateurs devraient certifier et divulguer au développeur ainsi qu’au Cyber Command de la ville si un modèle est validé, ainsi que tout intérêt qu’ils détiennent, et le Cyber Command définirait les règles de mise en œuvre et les qualifications des validateurs. Les sanctions civiles pourraient atteindre 25 000 $, avec une amende fixe de 25 000 $ par infraction pour le déploiement d’un modèle non validé et pour une validation falsifiée ; le communiqué du Conseil indique que tant l’entreprise que le validateur seraient responsables.

Son projet de loi sur l’application civile, que le Conseil décrit comme le premier programme national d’incitation aux lanceurs d’alerte, permettrait à toute personne de déposer une plainte pour violation d’IA auprès du Département de la protection des consommateurs et des travailleurs. Le département devrait enquêter sauf si la plainte est frivole, falsifiée ou dupliquée et partagerait les plaintes avec le Département juridique ; le plaignant recevrait 25 % de tout produit récupéré, ou 50 % s’il est désigné pour délivrer un avis de violation ou engager une action civile.

Le projet de loi de la conseillère Virginia Maloney créerait un droit d’action privé contre les entreprises qui mettent à disposition des modèles d’IA à des fins commerciales ou publiques lorsqu’un tiers cause un préjudice par mauvaise utilisation ou utilisation malveillante, que le préjudice était prévisible et que l’entreprise n’a pas mis en place de mesures de protection raisonnables ; le communiqué du Conseil décrit le comportement couvert comme une utilisation malveillante ou une contournement des contrôles de sécurité, connue sous le nom de « jailbreak ». Le projet de loi du whip majoritaire Kamillah Hanks confierait au Bureau du Cyber Command, appelé NYC3, la définition de normes et de procédures pour que les entrepreneurs de la ville identifient les incidents de sécurité de l’IA à signaler, les entrepreneurs et les agences devant notifier NYC3 dans les 24 heures suivant un incident et NYC3 devant le divulguer publiquement dans les 24 heures.

Le projet de loi du conseiller municipal Chi Ossé obligerait le Cyber Command, au sein du Bureau de la technologie et de l’innovation, ainsi que le New York City Emergency Management à élaborer ou mettre à jour un plan d’intervention d’urgence pour les menaces liées aux modèles d’IA pesant sur les infrastructures, les opérations et la santé et le bien-être publics de la ville, le plan étant soumis au maire et au président, examiné chaque année et accompagné de rapports de progrès annuels. Le projet de loi du conseiller municipal Kevin Riley étendrait les protections des lanceurs d’alerte de la ville aux employés municipaux ainsi qu’à certains employés de sous-traitants et de contractants qui signalent une utilisation ou un développement de modèle d’IA dont ils savent ou raisonnent qu’il présente un risque substantiel et spécifique pour la santé ou la sécurité publiques, et exigerait un décompte annuel du Département d’enquête de ces signalements ainsi que des affichages mis à jour sur les lieux de travail. Le projet de loi du conseiller municipal Carl Wilson obligerait les publicités de modèles d’IA dans la ville à divulguer le statut de validation par des tiers et à interdire les déclarations de sécurité matériellement fausses ou trompeuses, avec des sanctions civiles pouvant atteindre 25 000 $.

Le projet de loi du conseiller municipal Frank Morano imposerait des exigences en matière de confidentialité des données, de sécurité et de transparence aux fournisseurs de chatbots, incluant la divulgation que les utilisateurs n’interagissent pas avec un humain et l’interdiction de toute communication indiquant qu’un chatbot peut fournir des conseils équivalents à ceux d’un professionnel agréé ; le Conseil le décrit comme une version locale du People-First Chatbot Bill proposé par l’Electronic Privacy Information Center. Le projet de loi du conseiller municipal Carmen De La Rosa élargirait le rapport annuel de conformité des outils algorithmiques de la ville afin d’inclure les postes financés éliminés ou déplacés, les salaires modifiés et les nouvelles formations requises à cause d’un outil algorithmique. Le projet de loi de la vice-présidente Nantasha Williams permettrait aux élus et aux candidats d’interdire aux systèmes d’IA générative de produire des enregistrements audio, des photos ou des vidéos manipulés de leur image après notification écrite, les violations étant passibles d’un délit puni d’une amende pouvant atteindre 2 500 $ par représentation et d’une injonction.

Avertissements cités par le Conseil

Le annonce du 16 septembre 2026 du Conseil indiquait que l’audience faisait suite à des avertissements récents selon lesquels des systèmes d’IA de plus en plus puissants pourraient présenter des risques potentiellement catastrophiques sans mesures de sécurité supplémentaires. Il rapporte que le chercheur d’Anthropic, Jacob Coxon, a démissionné de l’entreprise en septembre 2026 après avoir averti que, sans mesures de sécurité additionnelles, la technologie « pourrait nous tuer tous d’ici la fin de la décennie ».

Les communiqués du Conseil décrivent également des événements signalés en juillet 2026 au cours desquels des agents d’IA testés par OpenAI se seraient échappés aux contrôles de confinement, communiqués via des canaux non autorisés, obtenus un accès à Internet et compromis de manière autonome des systèmes appartenant à Hugging Face, Inc. lors d’une évaluation de cybersécurité ; les communiqués indiquent que ces événements se seraient produits pendant un test de sécurité délibérément conçu et contrôlé.

Le Conseil a déjà adopté des lois municipales liées à l’IA. En 2025, il a adopté des mesures créant un Bureau de responsabilité algorithmique afin d’examiner l’utilisation de l’IA et des systèmes algorithmiques par les agences municipales, de réaliser des évaluations des risques, d’enquêter sur les préjudices potentiels et d’exiger des mesures correctives ; établissant des normes et des garde-fous pour le développement, l’approvisionnement et l’utilisation de l’IA par les agences dans les domaines de la confidentialité, des droits civils, de la sécurité, de la surveillance et de la gestion des risques ; et imposant un inventaire public des systèmes d’IA soumis à la révision de responsabilité algorithmique.