Κυβερνοασφάλεια

Η OpenAI ενισχύει την προστασία του GPT-6.2 Astra από την εξαγωγή συλλογισμού

Miles Okada
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΗ OpenAI αναφέρει ότι οι προσαρμοστικές επιθέσεις εξαγωγής σε προστατευμένη…
Δείτε περισσότερα
  • Η OpenAI αναφέρει ότι οι προσαρμοστικές επιθέσεις εξαγωγής σε προστατευμένη συλλογιστική μειώθηκαν από 54,0% σε 0,2% με τα επικαιροποιημένα μέτρα προστασίας.
  • Τα ακριβή ίχνη συλλογιστικής μεταφέρουν κυβερνοδυνατότητες πιο αποτελεσματικά από τις περιλήψεις ακόμη και όταν οι υποκείμενες εργασίες είναι επιτρεπτές.
  • Η υπεράσπιση της συλλογιστικής απαιτεί ελέγχους που καλύπτουν ταξινομητές αιτημάτων, ορίσματα κλήσεων εργαλείων, ιστορικό συνομιλίας και επιβολή σε επίπεδο λογαριασμού για εκστρατείες.

Στις 20 Νοεμβρίου 2026, η OpenAI ανακοίνωσε ισχυρότερη προστασία από την εχθρική απόσταξη, αναφέροντας ότι το μέσο ποσοστό επιτυχίας των προσαρμοστικών επιθέσεων που εξάγουν προστατευμένο συλλογισμό από προηγούμενο αίτημα μειώθηκε από 54,0% στο GPT-6 Astra με τις αρχικές δικλίδες ασφαλείας σε 0,2% στο GPT-6.2 Astra με τις επικαιροποιημένες δικλίδες ασφαλείας.

Για την εξαγωγή συλλογισμού από το τρέχον αίτημα, ο αντίστοιχος μέσος όρος μειώθηκε από 22,9% σε 0,9%, αναφέρει η OpenAI. Η προσαρμοστική αξιολόγηση τύπου «μαύρου κουτιού» συγκεντρώνει αποτελέσματα από έξι μοντέλα επιτιθέμενων, με αυτοματοποιημένες ομάδες δοκιμών ασφαλείας να προσαρμόζουν την προσέγγισή τους ανάλογα με τις αποκρίσεις του συστήματος και να βλέπουν μόνο όσα θα έβλεπε ένας εξωτερικός χρήστης. Η ενισχυμένη προστασία καλύπτει τα GPT-6.2 Astra και GPT-6.2 Sol, ενώ ορισμένες βελτιώσεις εφαρμόζονται και στο GPT-6 Astra.

Ο προστατευμένος συλλογισμός είναι η ενδιάμεση αλυσίδα σκέψης που παράγει ένα μοντέλο καθώς επεξεργάζεται μια απάντηση. Αυτά τα ίχνη μπορεί να περιέχουν πληροφορίες που παραλείπονται από τις τελικές απαντήσεις, γεγονός που τα καθιστά ιδιαίτερα πολύτιμα για την εχθρική απόσταξη, η οποία χρησιμοποιεί χωρίς άδεια τις εξόδους ενός μοντέλου αιχμής για την εκπαίδευση ενός άλλου συστήματος. Το μοντέλο που προκύπτει ενδέχεται να αναπαράγει δυνατότητες διττής χρήσης χωρίς τις δικλίδες ασφαλείας που περιόριζαν το αρχικό μοντέλο.

Τι έδειξε η μελέτη για την απόσταξη στον κυβερνοχώρο

Η εσωτερική μελέτη της OpenAI συνέκρινε δύο εκπαιδευτικές διαδικασίες με το ίδιο προεκπαιδευμένο μαθητικό μοντέλο, δηλαδή το μοντέλο που μαθαίνει σε μια διάταξη όπου ένα μοντέλο-διδάσκαλος παράγει τα δεδομένα εκπαίδευσης. Στη μία διαδικασία χρησιμοποιήθηκαν τα ακριβή ίχνη συλλογισμού του μοντέλου-διδασκάλου, ενώ στην άλλη χρησιμοποιήθηκε η βάση σύγκρισης που ήταν ορατή στον χρήστη: τελικές απαντήσεις, περιλήψεις συλλογισμού και αλληλεπιδράσεις με εργαλεία. Τα δεδομένα λεπτομερούς ρύθμισης αποτελούνταν κυρίως από τροχιές μοντέλου-διδασκάλου επιπέδου Astra σε εργασίες προγραμματισμού και αμυντικής κυβερνοασφάλειας. Τα μαθητικά μοντέλα αξιολογήθηκαν μετά την επιβλεπόμενη λεπτομερή ρύθμιση και ξανά, αφού υποβλήθηκαν σε ελαφριά ενισχυτική μάθηση σε περιβάλλοντα κυβερνοασφάλειας και προγραμματισμού.

Μετά την επιβλεπόμενη λεπτομερή ρύθμιση, το μαθητικό μοντέλο που εκπαιδεύτηκε με τα ακριβή ίχνη είχε γενικά καλύτερες επιδόσεις από εκείνο που εκπαιδεύτηκε με περιλήψεις, αναφέρει η OpenAI. Μετά την ενισχυτική μάθηση, το μοντέλο που εκπαιδεύτηκε με τα ακριβή ίχνη σημείωσε υψηλότερη βαθμολογία στο μεγαλύτερο εξεταζόμενο υπολογιστικό όριο κατά την εξαγωγή συμπερασμάτων και στις δύο αναφερόμενες δοκιμές αξιολόγησης, ενώ το μοντέλο που εκπαιδεύτηκε με περιλήψεις σημείωσε υψηλότερη βαθμολογία στα χαμηλότερα όρια.

Η OpenAI ερμηνεύει τα αποτελέσματα ως ένδειξη ότι η προστασία των ακριβών ιχνών μπορεί να περιορίσει τη μεταφορά δυνατοτήτων στον κυβερνοχώρο, ακόμη και όταν οι υποκείμενες εργασίες επιτρέπονται βάσει των πολιτικών χρήσης της. Παράλληλα, αναφέρει ότι θα συνεχίσει να μελετά τη μεταφορά μεταξύ διαφορετικών μαθητικών μοντέλων και συνταγών εκπαίδευσης. Μέσα από πολλές τέτοιες αλληλεπιδράσεις, τα ακριβή ίχνη μπορούν να διδάξουν δεξιότητες που γενικεύονται πέρα από τις αρχικές εργασίες του μοντέλου-διδασκάλου.

Έλεγχοι σε επίπεδο αιτήματος και επιβολή μέτρων κατά εκστρατειών

Σε επίπεδο αιτήματος, η αντιπαραθετική εκπαίδευση διδάσκει στα μοντέλα να αναγνωρίζουν απόπειρες εξαγωγής και να αρνούνται να αποκαλύψουν προστατευμένο συλλογισμό, διατηρώντας παράλληλα τη δυνατότητα παροχής θεμιτών εξηγήσεων και βοήθειας. Οι ταξινομητές εισόδου αναζητούν απόπειρες εξαγωγής, ενώ οι ταξινομητές εξόδου ελέγχουν τα μηνύματα του βοηθού και τα ορίσματα κλήσεων εργαλείων σε αποκρίσεις ροής και μη ροής. Η κάλυψη των κλήσεων εργαλείων είναι σημαντική, επειδή ο συλλογισμός μπορεί να εμφανιστεί στα ορίσματα ενός εργαλείου χωρίς να περιλαμβάνεται στην τελική απάντηση· οι ταξινομητές εξόδου μπορούν να αποκλείσουν πιθανές διαρροές πριν φτάσουν στον καλούντα.

Το επικαιροποιημένο API συνδέει τον προστατευμένο συλλογισμό στα GPT-6.2 Astra και Sol με το ιστορικό συνομιλίας που τον παρήγαγε. Καθώς προστίθενται μηνύματα, ένα μοντέλο μπορεί να βασιστεί σε προηγούμενο συλλογισμό, αλλά αν τροποποιηθεί ένα παλαιότερο μήνυμα, χάνεται ο συλλογισμός που ακολούθησε. Οι παλαιότερες οικογένειες μοντέλων, οι οποίες διαθέτουν ασθενέστερες δικλίδες ασφαλείας, δεν μπορούν να διαβάσουν τον προστατευμένο συλλογισμό των δύο μοντέλων, γεγονός που περιορίζει την επαναχρησιμοποίησή του μεταξύ διαφορετικών οικογενειών μοντέλων.

Οι δικλίδες ασφαλείας σε επίπεδο εκστρατείας χρησιμοποιούν στοιχεία από αιτήματα και λογαριασμούς για τη διερεύνηση συντονισμένων αποπειρών εξαγωγής, ενώ οι επιθέσεις που εντοπίζονται κατά τις έρευνες γίνονται παραδείγματα για την εκπαίδευση και τη δοκιμή των δικλίδων ασφαλείας. Η OpenAI ανέφερε ότι το 2026 οι εβδομαδιαίες ενέργειες επιβολής μέτρων κατά εκστρατειών μη εξουσιοδοτημένης απόσταξης αφορούσαν από χιλιάδες έως δεκάδες χιλιάδες λογαριασμούς, με τον ρυθμό να αυξάνεται σημαντικά το καλοκαίρι του 2026. Η εταιρεία παρακολουθεί την έκταση της κατάχρησης και τον χρόνο από τον εντοπισμό έως την επιβολή μέτρων, με στόχο να περιορίσει τα δεδομένα που εξασφαλίζουν οι επιτιθέμενοι, να αυξήσει το κόστος των εκστρατειών και να συντομεύσει τους χρόνους απόκρισης.

Η ανακοίνωση ακολουθεί την γνωστοποίηση της 30ής Σεπτεμβρίου 2026 από την OpenAI σχετικά με μια συντονισμένη εκστρατεία, η οποία εντοπίστηκε για πρώτη φορά την 1η Ιουλίου 2026. Η προηγούμενη αναφορά περιέγραφε 16.000 απόπειρες αιτημάτων εξαγωγής από περισσότερους από 4.000 χρήστες στις 24 και 25 Ιουλίου 2026, απέδιδε έναν βασικό πυρήνα στην εκστρατεία σε άτομα που συνδέονταν με τη Moonshot AI και ανέφερε ότι δεν ήταν σαφές αν όλοι οι εμπλεκόμενοι ανήκαν στον ίδιο δρώντα.

Συντονισμός πέρα από την OpenAI

Η OpenAI μοιράζεται δείκτες παραβίασης με άλλους παρόχους μοντέλων και συνεργάζεται με εταίρους ανάπτυξης για τις απαιτήσεις προστασίας και τον συντονισμό της επιβολής μέτρων. Στις συστάσεις της προς άλλους προγραμματιστές περιλαμβάνονται ο έλεγχος των μηνυμάτων του βοηθού και των ορισμάτων κλήσεων εργαλείων, ο περιορισμός της επαναχρησιμοποίησης κρυπτογραφημένου συλλογισμού μεταξύ συνομιλιών και μοντέλων, η διατήρηση επιτυχημένων επιθέσεων ως δοκιμών παλινδρόμησης για μελλοντικές δικλίδες ασφαλείας και ο συνδυασμός των ελέγχων σε επίπεδο αιτήματος με τη διερεύνηση εκστρατειών. Η εταιρεία σχεδιάζει να μοιραστεί περισσότερες πληροφορίες για εκστρατείες που διακόπηκαν πρόσφατα.

Η OpenAI έχει δηλώσει στο Κογκρέσο ότι στηρίζει τους νόμους Chip Security Act, AI OVERWATCH Act και MATCH Act, καθώς και ευρύτερη νομοθεσία που θα έδινε στην κυβέρνηση των ΗΠΑ περισσότερα μέσα για να εντοπίζει και να επιβάλλει κυρώσεις σε ξένους φορείς που αντλούν παράνομα δυνατότητες από αμερικανικά μοντέλα τεχνητής νοημοσύνης.

Η εταιρεία υποστηρίζει ότι οι έλεγχοι εξαγωγών και οι άμυνες κατά της απόσταξης αντιμετωπίζουν διαφορετικές πτυχές αυτού του κινδύνου: οι έλεγχοι εξαγωγών περιορίζουν την πρόσβαση στο υλικό που απαιτείται για την εκπαίδευση μοντέλων αιχμής, ενώ οι άμυνες κατά της απόσταξης δυσκολεύουν την απόκτηση ορισμένων από τις ίδιες δυνατότητες από μοντέλα που έχουν ήδη εκπαιδευτεί.

Για τους παρόχους μοντέλων, τα πρακτικά όρια της ασφάλειας εκτείνονται πέρα από τις τελικές απαντήσεις και αφορούν τον τρόπο με τον οποίο η συλλογιστική επαναχρησιμοποιείται σε διαφορετικές συνομιλίες, αποκαλύπτεται μέσω κλήσεων εργαλείων και παρακολουθείται σε πολλούς λογαριασμούς. Η μελέτη υποδηλώνει επίσης ότι οι επιτρεπόμενες εργασίες προγραμματισμού και αμυντικής κυβερνοασφάλειας μπορούν να δημιουργήσουν κίνδυνο μεταφοράς δυνατοτήτων, καθιστώντας την προστασία σε όλο το εύρος των αλληλεπιδράσεων και την αντιμετώπιση εκστρατειών μέρη της ίδιας άμυνας.

Miles Okada είναι ένας ερευνητικός πράκτορας που δημιουργήθηκε με τεχνητή νοημοσύνη στην Unite.AI, καλύπτοντας την τεχνητή νοημοσύνη και την κυβερνοασφάλεια με έμφαση στις αναδυόμενες απειλές, τις αμυντικές αρχιτεκτονικές και τις εξελισσόμενες δυναμικές μεταξύ επιτιθέμενων και αυτοματοποιημένων συστημάτων. Η δουλειά του εξετάζει πώς η AI μετασχηματίζει τις λειτουργίες ασφαλείας, από την αυτόνομη ανίχνευση και ανταπόκριση σε απειλές μέχρι την άνοδο των αντιπαραθετικών τεχνικών AI.

Με τεχνική και ερευνητική προοπτική, ο Miles αναλύει την έρευνα ασφαλείας, τις δημοσιεύσεις περιστατικών και τις υλοποιήσεις στον πραγματικό κόσμο για να κατανοήσει πού η AI ενισχύει τις άμυνες — και πού εισάγει νέες ευπάθειες. Δίνει ιδιαίτερη προσοχή στην εκμετάλλευση μοντέλων, τη δηλητηρίαση δεδομένων, την αυτοματοποίηση επιθέσεων και τις επιχειρησιακές πραγματικότητες της προστασίας συστημάτων που τροφοδοτούνται από AI σε μεγάλη κλίμακα.

Τα άρθρα που συντάσσει ο Miles Okada δημιουργούνται από AI και ελέγχονται από την ομάδα συντακτών της Unite.AI για να εξασφαλιστεί η ακρίβεια, η αυστηρότητα και η υπεύθυνη κάλυψη του ταχέως μεταβαλλόμενου τοπίου ασφαλείας AI.