Des employés d’OpenAI ont alerté pendant des années sur les risques de sécurité internes

Reuters a rapporté, le 3 novembre 2026, que certains employés d’OpenAI avaient averti les dirigeants et les membres du conseil d’administration pendant des années des faiblesses en matière de sécurité opérationnelle. Cinq personnes connaissant les pratiques de l’entreprise ont évoqué un accès étendu au code, l’absence d’audits réguliers des outils internes et des inquiétudes concernant les menaces internes.

Certains employés ont exprimé leurs inquiétudes avant le lancement de ChatGPT, fin 2022, et les ont fait connaître aux principaux dirigeants et membres du conseil d’administration d’OpenAI. Certains membres du personnel ont eu le sentiment que la direction se souciait davantage de suivre le rythme de Google et d’Anthropic que de la sécurité.

En 2023, Leopold Aschenbrenner, alors chercheur, a rédigé une note interne intitulée « OpenAI is China’s leading AI lab », dans laquelle il faisait part de sa crainte que la Chine puisse infiltrer OpenAI et étudier ses technologies, ont déclaré trois personnes au fait de l’affaire. Il l’a transmise à certains membres du conseil d’administration plus tard cette année-là, après qu’une personne extérieure a piraté OpenAI et obtenu des informations sur GPT-4. OpenAI a déclaré que le pirate n’avait eu accès qu’aux canaux Slack accessibles à l’ensemble de l’entreprise.

Accès étendu au code et audits inégaux des outils

OpenAI stockait la majeure partie de son code dans un dépôt unique, appelé monorepo. Selon les cinq personnes, toute personne ayant accès au code pouvait consulter les détails techniques de nombreux projets, y compris des travaux sensibles sans rapport avec ses fonctions. Sa densité et sa complexité ont peut-être autrefois découragé certains attaquants, mais les agents d’IA peuvent désormais passer au crible une telle quantité de données.

La documentation de recherche était également conservée sur GitHub et Slack, ce qui inquiétait certains employés, qui craignaient que des acteurs malveillants puissent trouver des informations cruciales. OpenAI a déclaré que l’accès aux travaux sensibles avait été restreint. Ses travaux les plus sensibles sont conservés dans des dépôts distincts assortis de contrôles d’accès stricts, tandis que le monorepo ne contient ni l’intégralité du code de l’entreprise ni des informations essentielles sur les modèles, comme les poids des modèles, c’est-à-dire les valeurs numériques qui déterminent leur comportement.

Trois personnes connaissant les pratiques de l’entreprise ont déclaré qu’OpenAI ne soumettait pas régulièrement ses outils internes à des audits de sécurité, notamment les environnements isolés dans lesquels les chercheurs mettent à l’épreuve de nouveaux modèles. Les employés modifiaient souvent ces outils, et ces changements n’étaient pas toujours testés pour détecter d’éventuels problèmes de sécurité, ce qui pouvait les rendre vulnérables à des attaques extérieures. OpenAI a déclaré qu’elle procédait désormais à des audits de sécurité réguliers de ses outils internes sous la direction de Dane Stuckey, son responsable de la sécurité des systèmes d’information, qui a rejoint l’entreprise en octobre 2024.

Réorganisation de la sécurité et primes pour la découverte de failles

Deux personnes au fait de l’affaire ont déclaré que Thibault Sottiaux, un haut dirigeant chargé de superviser le développement des produits, avait pris la tête d’une initiative visant à sécuriser les systèmes internes d’OpenAI. Selon l’une d’elles, il a réaffecté, en août 2026, un quart des ingénieurs chargés des systèmes en production d’OpenAI à des travaux sur l’infrastructure de sécurité.

La porte-parole d’OpenAI, Elana Widmann, a déclaré que l’entreprise figurait parmi les organisations les plus ciblées au monde, qu’elle investissait massivement dans la protection contre les menaces internes, les cybercriminels et les États, et qu’elle continuerait à renforcer ses défenses à mesure que les technologies et les menaces évoluent.

OpenAI a annoncé le 2 novembre 2026 qu’elle prévoyait une nouvelle campagne intensive de sécurité interne avec Cathedral. Les chercheurs de Cathedral utiliseront les modèles d’OpenAI aux côtés des équipes de l’entreprise pour mettre ses défenses à l’épreuve et repérer leurs faiblesses. L’entreprise multiplie également par plus de quatre les primes pour les découvertes majeures dans le cadre de son programme de récompenses pour la recherche de failles de sécurité. Lors de la campagne précédente, les ingénieurs ont utilisé Codex pour examiner les découvertes, reproduire les vulnérabilités dans des environnements isolés et préparer des correctifs à soumettre à l’examen.

Affaire du dispositif d’enregistrement et culture de la recherche

Le ministère de la Justice a annoncé le 13 octobre 2026 que l’ingénieur d’OpenAI Abdulrahman Alfozan, âgé de 35 ans, avait été arrêté le 9 octobre 2026 et inculpé pour avoir utilisé ou tenté d’utiliser un appareil afin d’intercepter des communications orales. Le ministère a décrit des accusations portant sur un dispositif d’enregistrement au contenu chiffré, dissimulé derrière un téléviseur dans une salle de réunion de la direction où les réunions portaient souvent sur des informations techniques, commerciales et stratégiques confidentielles. Alfozan a été inculpé, mais pas reconnu coupable.

La révélation concernant le dispositif d’enregistrement n’a pas surpris un certain nombre d’anciens employés, et certains employés craignent que la culture de recherche relativement ouverte d’OpenAI n’accroisse les risques à mesure que les systèmes d’IA gagnent en capacités. Le domaine de l’IA est ancré dans le milieu universitaire, où les scientifiques spécialisés en apprentissage automatique parlent ouvertement de leurs recherches. OpenAI et Anthropic ont tenté de préserver une culture de recherche plus ouverte afin d’attirer des employés et de stimuler la créativité.

Le véritable test de la réorganisation de la sécurité d’OpenAI sera de savoir si un accès plus restreint, des audits systématiques et des tests continus peuvent coexister avec la culture de recherche ouverte à laquelle l’entreprise reste attachée.