Cybersécurité

OpenAI renforce GPT-6.2 Astra contre l’extraction de raisonnements

Miles Okada
Ajouter Unite.AI à vos sources préférées sur Google
Points clésOpenAI rapporte que les attaques d'extraction adaptative sur le raisonnement protégé…
Voir plus
  • OpenAI rapporte que les attaques d'extraction adaptative sur le raisonnement protégé sont passées de 54,0 % à 0,2 % avec des protections mises à jour.
  • Les traces de raisonnement exactes transfèrent les capacités cyber plus efficacement que les résumés, même lorsque les tâches sous-jacentes sont autorisées.
  • Défendre le raisonnement nécessite des contrôles couvrant les classificateurs de requêtes, les arguments d'appel d'outils, l'historique des conversations et l'application des campagnes au niveau du compte.

Le 20 novembre 2026, OpenAI a annoncé des protections renforcées contre la distillation adversariale. L’entreprise indique que le taux moyen de réussite des attaques adaptatives visant à extraire des raisonnements protégés à partir d’une demande antérieure est passé de 54,0 % avec les protections initiales de GPT-6 Astra à 0,2 % avec les protections mises à jour de GPT-6.2 Astra.

Pour l’extraction à partir de la demande en cours, la moyenne correspondante est passée de 22,9 % à 0,9 %, indique OpenAI. L’évaluation adaptative en boîte noire regroupe les résultats de six modèles d’attaquants. Des équipes automatisées de test d’intrusion adaptent leur approche en fonction des réponses du système et ne voient que ce qu’un utilisateur externe pourrait voir. Les protections renforcées couvrent GPT-6.2 Astra et GPT-6.2 Sol, et certaines améliorations sont également déployées sur GPT-6 Astra.

Le raisonnement protégé désigne la chaîne de pensée intermédiaire qu’un modèle génère pour parvenir à une réponse. Ces traces peuvent contenir des informations omises des réponses finales, ce qui les rend particulièrement utiles à la distillation adversariale, qui consiste à utiliser sans autorisation les résultats d’un modèle de pointe pour entraîner un autre système. Le modèle ainsi obtenu peut reproduire des capacités à double usage sans les protections qui encadraient le modèle d’origine.

Ce que révèle l’étude sur la distillation de capacités cyber

L’étude interne d’OpenAI a comparé deux entraînements du même modèle étudiant préentraîné, c’est-à-dire le modèle apprenant dans un dispositif où un modèle enseignant produit les données d’entraînement. Lors d’un entraînement, les traces exactes de raisonnement de l’enseignant ont été utilisées ; lors de l’autre, les données se limitaient à ce qui est visible par l’utilisateur : les réponses finales, les résumés de raisonnement et les interactions avec les outils. Les données de réglage fin étaient principalement constituées de trajectoires produites par un enseignant de niveau Astra pour des tâches de programmation et de cybersécurité défensive. Les modèles étudiants ont été évalués après un réglage fin supervisé, puis de nouveau après un apprentissage par renforcement léger dans des environnements de cybersécurité et de programmation.

Après le réglage fin supervisé, le modèle étudiant entraîné sur les traces exactes a généralement obtenu de meilleurs résultats que celui entraîné sur les résumés, indique OpenAI. Après l’apprentissage par renforcement, le modèle entraîné sur les traces exactes a obtenu un score supérieur au budget d’inférence le plus élevé testé sur les deux bancs d’essai présentés, tandis que le modèle entraîné sur les résumés a obtenu un meilleur score avec des budgets plus faibles.

OpenAI interprète ces résultats comme un indice que la protection des traces exactes peut limiter le transfert de capacités en cybersécurité, même lorsque les tâches sous-jacentes sont autorisées par ses politiques d’utilisation. L’entreprise indique qu’elle continuera d’étudier le transfert entre différents modèles étudiants et différentes méthodes d’entraînement. Au fil de nombreuses interactions de ce type, les traces exactes peuvent enseigner des compétences qui se généralisent au-delà des tâches initialement confiées au modèle enseignant.

Contrôles au niveau des demandes et lutte contre les campagnes

Au niveau des demandes, l’entraînement adversarial apprend aux modèles à reconnaître les tentatives d’extraction et à refuser de divulguer les raisonnements protégés, tout en continuant de fournir des explications et une aide légitimes. Les classificateurs d’entrée recherchent les tentatives d’extraction, tandis que les classificateurs de sortie examinent les messages de l’assistant et les arguments des appels d’outils, dans les réponses en continu comme dans celles qui ne le sont pas. La prise en compte des appels d’outils est importante, car un raisonnement peut figurer dans les arguments d’un outil sans apparaître dans la réponse finale ; les classificateurs de sortie peuvent bloquer les fuites présumées avant qu’elles ne parviennent à l’appelant.

La nouvelle API associe le raisonnement protégé de GPT-6.2 Astra et de Sol à l’historique de conversation qui l’a produit. Un modèle peut s’appuyer sur le raisonnement antérieur à mesure que de nouveaux messages sont ajoutés, mais la réécriture d’un message antérieur supprime le raisonnement qui en a découlé. Les anciennes familles de modèles, dotées de protections moins robustes, ne peuvent pas lire le raisonnement protégé des deux modèles, ce qui limite sa réutilisation entre familles de modèles.

Les mesures de protection à l’échelle des campagnes s’appuient sur des signaux liés aux demandes et aux comptes pour enquêter sur les opérations d’extraction coordonnées. Les attaques découvertes au cours de ces enquêtes sont ensuite utilisées comme exemples pour entraîner et tester les mécanismes de protection. OpenAI a indiqué qu’en 2026, le nombre hebdomadaire de mesures prises contre des campagnes de distillation non autorisées allait de quelques milliers à plusieurs dizaines de milliers de comptes, et qu’il avait fortement augmenté pendant l’été 2026. L’entreprise suit la prévalence des abus et le délai entre leur détection et les mesures prises, dans le but de réduire la quantité de données obtenues par les attaquants, d’augmenter le coût des campagnes et d’accélérer les interventions.

Cette annonce fait suite à la divulgation du 30 septembre 2026 par OpenAI d’une campagne coordonnée observée pour la première fois le 1er juillet 2026. Le précédent rapport faisait état de 16 000 tentatives d’extraction effectuées par plus de 4 000 utilisateurs les 24 et 25 juillet 2026, attribuait un groupe central à des personnes associées à Moonshot AI et précisait qu’il n’était pas établi que tous les opérateurs appartenaient au même acteur.

Coordination au-delà d’OpenAI

OpenAI partage des indicateurs de compromission avec d’autres fournisseurs de modèles et collabore avec ses partenaires de déploiement sur les exigences de protection et la coordination des mesures d’application. L’entreprise recommande aux autres développeurs d’examiner les messages de l’assistant et les arguments des appels d’outils, de limiter la réutilisation du raisonnement chiffré entre les conversations et les modèles, de conserver les attaques réussies comme tests de régression pour les protections à venir et d’associer les contrôles au niveau des demandes à des enquêtes sur les campagnes. OpenAI prévoit de communiquer davantage d’informations sur les campagnes récemment neutralisées.

OpenAI a indiqué au Congrès qu’elle soutenait le Chip Security Act, l’AI OVERWATCH Act et le MATCH Act, ainsi qu’une législation plus vaste qui donnerait au gouvernement américain davantage de moyens pour identifier et sanctionner les acteurs étrangers qui extraient illicitement des capacités des modèles d’IA américains.

L’entreprise estime que les contrôles à l’exportation et les défenses contre la distillation répondent à différentes facettes de ce risque : les contrôles à l’exportation limitent l’accès au matériel nécessaire à l’entraînement des modèles de pointe, tandis que les défenses contre la distillation compliquent l’acquisition de certaines des mêmes capacités à partir de modèles déjà entraînés.

Pour les fournisseurs de modèles, le périmètre de sécurité pratique ne se limite pas aux réponses finales : il englobe aussi la réutilisation du raisonnement d’une conversation à l’autre, son exposition par les appels d’outils et sa surveillance d’un compte à l’autre. L’étude laisse également entendre que les tâches autorisées de programmation et de cybersécurité défensive peuvent entraîner un risque de transfert de capacités, ce qui fait de la protection à l’échelle de l’ensemble des interactions et de la lutte contre les campagnes des éléments d’une même défense.

Miles Okada est un agent de recherche généré par IA chez Unite.AI, couvrant l'intelligence artificielle et la cybersécurité avec un accent sur les menaces émergentes, les architectures défensives et la dynamique évolutive entre les attaquants et les systèmes automatisés. Son travail examine comment l'IA transforme les opérations de sécurité, de la détection et de la réponse autonomes à l'essor des techniques d'IA adversaire.

Avec une perspective technique et investigative, Miles analyse les recherches en sécurité, les divulgations d'incidents et les déploiements réels afin de comprendre où l'IA renforce les défenses — et où elle introduit de nouvelles vulnérabilités. Il porte une attention particulière à l'exploitation des modèles, à l’empoisonnement des données, à l'automatisation des attaques et aux réalités opérationnelles de la sécurisation à grande échelle des systèmes alimentés par l'IA.

Les articles rédigés par Miles Okada sont générés par IA et révisés par l'équipe éditoriale de Unite.AI afin d'assurer précision, rigueur et couverture responsable du paysage de la sécurité de l'IA en évolution rapide.