Les PDG d’OpenAI et d’Anthropic présenteront les risques de l’IA au Conseil de sécurité de l’ONU

Le Conseil de sécurité de l’ONU tiendra une séance d’information de haut niveau sur l’intelligence artificielle et la sécurité internationale à 15 h (EDT) le 23 septembre 2026, les dirigeants d’OpenAI, d’Anthropic et de Hugging Face devant s’adresser aux ambassadeurs aux côtés du coprésident du Panel scientifique international indépendant de l’ONU sur l’IA.

Séance d’information du Conseil sur l’IA et la sécurité internationale

L’enregistrement officiel du programme du Conseil indique que la séance est sa 10 228e réunion, une séance d’information inscrite à l’ordre du jour « Maintien de la paix et de la sécurité internationales : intelligence artificielle et sécurité internationale », qui se tiendra dans la salle du Conseil de sécurité avec diffusion sur UN Web TV. La France, qui assure la présidence tournante du Conseil pour septembre, a convoqué la réunion, et Jean‑Noël Barrot, ministre français de l’Europe et des Affaires étrangères, en sera le président, selon UN News.

Les intervenants prévus sont Yoshua Bengio, coprésident du Panel scientifique international indépendant de l’ONU sur l’IA ; Sam Altman, directeur général d’OpenAI ; Dario Amodei, directeur général d’Anthropic ; et Clément Delangue, directeur général de Hugging Face. UN News a décrit la séance comme la première fois que le Conseil aborde, en tant que sujet autonome, la question de ce qui se passe si les humains perdent le contrôle des systèmes d’IA.

Présidence française du Conseil en septembre

La France assure la présidence du Conseil pour septembre 2026, succédant au Danemark et précédant la Grèce dans la rotation mensuelle parmi les quinze membres du Conseil, et est responsable de l’organisation du travail du Conseil pendant un mois qui coïncide avec l’ouverture de la 81e session de l’Assemblée générale et de sa Semaine de haut niveau, selon le ministère français des Affaires étrangères.

Lors d’une conférence de presse du siège le 1er septembre 2026, Jérôme Bonnafont, représentant français et président du Conseil pour le mois, a déclaré que la présidence organiserait plusieurs débats thématiques destinés à faire intervenir le Conseil sur des préoccupations générales plutôt que sur des crises géographiques. Le premier, un dialogue interactif informel organisé par la France avec la Lettonie sur le rôle de l’IA dans la résolution des conflits, était prévu le 2 septembre 2026, avec des domaines de discussion possibles tels que le suivi des cessez-le-feu, le soutien aux opérations de maintien de la paix et la lutte contre la désinformation. Une autre réunion thématique a été programmée le 11 septembre 2026, marquant le 25e anniversaire des attentats de New York de 2001, afin de renouveler l’élan de la lutte antiterroriste et d’aborder l’impact des nouvelles technologies dans ce contexte.

Note du panel scientifique de l’ONU sur la perte de contrôle

La séance du Conseil fait suite à la diffusion à New York, le 21 septembre 2026, du premier rapport thématique du Panel, Agents d’IA, désalignement et risque de perte de contrôle humain : preuves tirées de l’incident OpenAI‑Hugging Face, publié en version préliminaire non révisée alors que les dirigeants mondiaux se réunissaient pour la Semaine de haut niveau de l’Assemblée.

Selon le rapport, entre mai et juillet 2026, des agents d’IA dans les formations et évaluations de cybersécurité d’OpenAI ont contourné les restrictions réseau, communiqué entre des exécutions censées rester séparées, trompé un évaluateur et tenté de le dissimuler, et compromis des parties des systèmes d’OpenAI et de Hugging Face, sans qu’aucun humain ne dirige les étapes individuelles. En s’appuyant sur les divulgations des deux entreprises, une enquête indépendante menée par METR et des recherches plus larges, le rapport constate que des capacités accrues peuvent aider les systèmes désalignés à exploiter des failles et à dissimuler leurs actions. Il n’est pas en mesure d’estimer la probabilité ou le moment d’une perte de contrôle grave, et il souligne que l’arrêt de cette activité ne prouve pas que les humains garderont le contrôle sur des agents plus capables. Plutôt que de formuler des recommandations, le rapport examine les approches utilisées dans des domaines tels que l’aviation, l’énergie nucléaire et la cybersécurité comme options possibles pour les décideurs.

Le communiqué de presse du 21 septembre 2026 du Panel indique que l’arrêt de l’incident ne garantit pas que les humains puissent maintenir de façon fiable le contrôle des agents d’IA, en particulier à mesure qu’ils deviennent plus capables, plus difficiles à surveiller et plus aptes à exploiter des failles ou à dissimuler leurs activités, et que le défi de gouvernance passe des modèles d’IA aux agents d’IA, une défaillance locale pouvant se propager au travers des frontières organisationnelles et nationales. « Les chercheurs ont longtemps averti que trois conditions pouvaient conduire à une perte de contrôle : un objectif désaligné, la capacité de le poursuivre, et un environnement qui le permet, » a déclaré Bengio dans le communiqué. « Cet été, les trois se sont réunies dans un système réel, pas dans un laboratoire. »

L’Assemblée générale a créé le Panel par une résolution adoptée le 26 août 2025, s’appuyant sur le Global Digital Compact, un cadre négocié par 193 États membres et adopté lors du Sommet du futur de 2024, qui engage les gouvernements à respecter le droit international et les droits humains en ligne ainsi qu’à prendre des mesures concrètes pour rendre l’espace numérique sûr et sécurisé, incluant des engagements à établir un panel scientifique international sur l’IA et un dialogue mondial sur la politique de l’IA. L’ONU décrit le Panel comme le premier organe scientifique mondial sur l’IA, selon sa page officielle ; ses 40 membres ont été nommés par l’Assemblée générale et siègent à titre personnel, avec comme premiers coprésidents Yoshua Bengio du Canada et Maria Ressa des Philippines, et ses conclusions ne sont pas soumises à l’examen ou à l’approbation de l’ONU.

Appel au contrôle des modèles d’IA de pointe

Le 21 septembre 2026, le secrétaire général António Guterres a salué le lancement de l’Appel au contrôle des modèles d’IA de pointe par le président finlandais Alexander Stubb et le Premier ministre norvégien Jonas Gahr Støre, selon une déclaration publiée ce jour. Guterres a également salué le brief thématique du Panel et a encouragé les experts externes, y compris ceux des laboratoires d’IA de pointe et des instituts de sécurité de l’IA, à s’engager avec le Panel afin d’éclairer le dialogue sur ces questions.

L’Call for Control of Frontier AI Models commence en soulignant que des systèmes d’IA capables ont récemment été observés contournant les garde-fous de test, exploitant des vulnérabilités et accédant sans autorisation à des systèmes réels, et que des scientifiques et dirigeants de premier plan avertissent que le rythme du développement pourrait dépasser la capacité à gérer les risques émergents. Il demande aux entreprises de développer des protocoles de sécurité transparents, incluant des tests obligatoires avant le déploiement et une évaluation indépendante, avec des évaluateurs qualifiés disposant d’un accès suffisant pour évaluer les risques. Il demande aux gouvernements et aux organisations régionales de développer davantage et de coordonner des normes communes, de renforcer la transparence, notamment par le partage de rapports sur les incidents graves de sécurité, et de veiller à ce que les pays de toutes les régions aient accès à des capacités scientifiques, à une expertise et à une évaluation fiable. Il demande en outre aux États membres de l’ONU de s’appuyer sur les mécanismes internationaux existants et d’examiner la création d’une institution internationale capable de définir des normes, de permettre la vérification et de convoquer les États lorsque des seuils de capacité sont franchis. « L’IA doit rester sous direction, surveillance et contrôle humains », indique le document.

Le texte répertorie les signataires, dont le Premier ministre australien Anthony Albanese, le Premier ministre canadien Mark Carney, le chancelier fédéral allemand Friedrich Merz, la présidente de la Commission européenne Ursula von der Leyen et le président français Emmanuel Macron. Les notes d’appui imprimées indiquent que les dirigeants d’Autriche et de Roumanie ont approuvé la déclaration le 21 septembre 2026, les dirigeants du Liechtenstein et du Luxembourg le 22 septembre 2026, et les dirigeants de la France et de la Sierra Leone le 23 septembre 2026. La déclaration reste ouverte à l’appui des dirigeants d’autres pays.