Μοντέλα και πλατφόρμες AI
Η OpenAI προτείνει κοινά όρια στην ανάπτυξη της ΤΝ, συνδεδεμένα με ορόσημα ασφάλειας

Βασικά σημείαΗ OpenAI συνδέει τα όρια της ανάπτυξης αιχμής με συγκεκριμένα ορόσημα παρακολούθησης…
Δείτε περισσότερα
- Η OpenAI συνδέει τα όρια της ανάπτυξης αιχμής με συγκεκριμένα ορόσημα παρακολούθησης αντί για σταθερά κατώφλια ικανοτήτων.
- Το Perplexity δεν μπορεί να χρησιμεύσει ως κοινό πρότυπο επειδή τα εργαστήρια χρησιμοποιούν διαφορετικά σύνολα δεδομένων και χάνει τα οφέλη συλλογισμού.
- Η έρευνα της ίδιας της OpenAI δείχνει άνιση βελτίωση της τεχνητής νοημοσύνης με τους ανθρώπους να παραμένουν κεντρικοί στον κύκλο ανάπτυξης.
Στις 22 Νοεμβρίου 2026, ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki, δημοσιοποίησε εσωτερικές μετρήσεις perplexity και πρότεινε κοινά όρια για την ανάπτυξη προηγμένων συστημάτων ΤΝ, προειδοποιώντας ότι η έρευνα για την ευθυγράμμιση και την παρακολούθηση ενδέχεται να μην προλάβει τις εξελίξεις, αν η προεκπαίδευση επιταχυνθεί από το 2027 και μετά.
Η δημοσιοποίηση αφορά τη λογαριθμική perplexity, δηλαδή τον λογάριθμο της perplexity, η οποία αποκαλείται επίσης απώλεια διασταυρούμενης εντροπίας. Η perplexity μετρά πόσο καλά ένα μοντέλο προβλέπει κατά μέσο όρο το επόμενο token· όσο χαμηλότερη είναι η τιμή της, τόσο καλύτερες είναι οι προβλέψεις. Τα στοιχεία της OpenAI βασίζονται σε ένα σταθερό στιγμιότυπο δεδομένων που δεν χρησιμοποιήθηκαν στην εκπαίδευση, από την εσωτερική βάση κώδικα της εταιρείας· πρόκειται για το βασικό σύνολο δεδομένων αξιολόγησης που παρακολουθεί από την εποχή του GPT-3.5.
Ο Pachocki αναφέρει ότι το GPT-3.5 είχε τιμή περίπου 0,99 και υποστήριζε άνετη συνομιλία, αποτελώντας τη βάση για το αρχικό ChatGPT, ενώ το GPT-4 είχε τιμή περίπου 0,91 και μπορούσε να αξιοποιεί αποτελεσματικά τη συλλογιστική αλυσίδας σκέψης. Νέες δυνατότητες στην κυβερνοασφάλεια και στα μαθηματικά εμφανίστηκαν σε τιμές απώλειας κάτω από 0,8. Σε τιμή περίπου 0,76, ένα μοντέλο άρχισε να δίνει αξιοσημείωτα αποτελέσματα σε ανοικτά μαθηματικά προβλήματα, αφού η OpenAI είχε περάσει περισσότερο από έναν χρόνο θέτοντας τέτοια προβλήματα στα μοντέλα της.
Κοινά όρια συνδεδεμένα με ορόσημα παρακολούθησης
Ο Pachocki αναμένει ότι θα εμφανιστούν περαιτέρω σημαντικές δυνατότητες στο εύρος λογαριθμικής perplexity 0,68–0,70, βάσει της προέκτασης των πρόσφατων εξελίξεων, αναγνωρίζοντας παράλληλα ότι δεν γνωρίζει ποιες θα είναι αυτές και ότι οι τρέχουσες αξιολογήσεις ενδέχεται να μην τις ελέγχουν. Η πρόταση καλεί τους δημιουργούς προηγμένων συστημάτων να μην υπερβαίνουν όρια που βασίζονται στην perplexity και σε άλλες μετρήσεις, μέχρι να φτάσει η ικανότητα των ερευνητών να κατανοούν και να παρακολουθούν τη συμπεριφορά της ΤΝ σε ένα συγκεκριμένο ορόσημο. Ένα παράδειγμα είναι ένας διάδοχος των συστημάτων παρακολούθησης της συλλογιστικής αλυσίδας σκέψης, τα οποία εξετάζουν τη γραπτή συλλογιστική ενός μοντέλου για ενδείξεις απόκλισης από την ευθυγράμμιση.
Οι δημιουργοί θα καθόριζαν επίσης από κοινού κανόνες αξιολόγησης, θα εκπονούσαν περιπτώσεις ασφάλειας με δοκιμές από ομάδες ειδικών που επιχειρούν να εντοπίσουν αδυναμίες, πριν από την πρώτη χρήση τέτοιων μοντέλων, και θα θέσπιζαν κοινά πρότυπα διαφάνειας. Το αρχικό όριο προορίζεται να οδηγήσει στη δημιουργία ενός κοινού πλαισίου για τα επόμενα όρια. Ο Pachocki λέει ότι η OpenAI δημοσιοποίησε τα στοιχεία, παρότι έτσι έδωσε στους ανταγωνιστές σαφέστερη εικόνα της θέσης της, επειδή θεωρεί επείγουσα την υιοθέτηση κοινών μέτρων ασφάλειας.
Το σενάριο της επιτάχυνσης είναι υπό όρους: ο Pachocki λέει ότι θα μπορούσε ενδεχομένως να σημειωθεί μια ταχεία σειρά θεμελιωδών εξελίξεων στην προεκπαίδευση, αν η ΤΝ αρχίσει να συμβάλλει ουσιαστικά στην έρευνα αλγορίθμων, ενώ είναι απίθανο η πρόοδος στην ευθυγράμμιση και την παρακολούθηση να προλάβει την πλήρη δυνητική επιτάχυνση.
Η OpenAI αποδίδει κυρίως τις απότομες επιδόσεις της καμπύλης απώλειας του 2026 στις μακροπρόθεσμες επενδύσεις στην έρευνα και στην υπολογιστική ισχύ, ενώ αποδίδει μικρότερο ρόλο στην αυτοματοποίηση. Ωστόσο, τα πιο πρόσφατα μοντέλα της έχουν ενσωματώσει ουσιαστικές συνεισφορές της ΤΝ στον σχεδιασμό.
Η έκθεση έρευνας της OpenAI, με ημερομηνία 18 Νοεμβρίου 2026, δίνει συγκεκριμένη μορφή σε αυτές τις συνεισφορές. Οι ερευνητές προεκπαίδευσης απέδωσαν σε ανθρώπους τις ιδέες που προσδιορίζονται για το GPT-6 Astra· για το GPT-6.2 Astra, περιέγραψαν την ανάπτυξη ιδεών μαζί με το Codex, μεταξύ άλλων μία περίπτωση στην οποία το Codex εντόπισε βασικές ιδέες και μία άλλη στην οποία η αλλαγή που πρότεινε έκανε μια ιδέα να λειτουργήσει καλά. Τα εκτιμώμενα ποσοστά επιτυχίας χωρίς ανθρώπινη παρέμβαση διέφεραν επίσης σημαντικά: 79% για την παρακολούθηση εκπαιδευτικών εκτελέσεων, 35% για την εκκίνησή τους και 25% για τη σύνταξη κώδικα συμπερασμού και εξυπηρέτησης. Αυτή η διακύμανση στηρίζει το συμπέρασμα της έκθεσης ότι η ερευνητική ενίσχυση παραμένει άνιση και ότι οι άνθρωποι εξακολουθούν να έχουν κεντρικό ρόλο στη διαδικασία.
Οι προκλήσεις της παρακολούθησης πίσω από την πρόταση
Μια μελέτη της OpenAI για τη δυνατότητα εποπτείας, με ημερομηνία 10 Νοεμβρίου 2026, εξετάζει δύο ατελείς έμμεσους δείκτες της δυνατότητας εποπτείας: την ικανότητα χωρίς αλυσίδα σκέψης, δηλαδή την εκτέλεση συλλογισμών σε ένα εμπρόσθιο πέρασμα χωρίς διακριτικά αλυσίδας σκέψης ή κλήσεων εργαλείων, και την ελεγξιμότητα της αλυσίδας σκέψης, δηλαδή τη δυνατότητα προσθήκης, αφαίρεσης ή άλλου χειρισμού αυτών των διακριτικών κατόπιν σχετικής προτροπής. Η μελέτη αναφέρει ισχυρή συσχέτιση μεταξύ χαμηλότερης τιμής perplexity στο βασικό μοντέλο και της ικανότητας χωρίς αλυσίδα σκέψης, καθώς και ασθενέστερη συσχέτιση με μεγαλύτερη ελεγξιμότητα.
Η μελέτη διαπίστωσε επίσης ότι η ενισχυτική μάθηση αύξησε τη δυνατότητα ελέγχου, ακόμη και χωρίς εποπτεία της διαδικασίας πέρα από τους περιορισμούς μήκους και τη βαθμολόγηση της τελικής απάντησης, και ότι η εποπτευόμενη λεπτομερής ρύθμιση με εξόδους από ένα ισχυρότερο μοντέλο-εκπαιδευτή με μεγαλύτερη δυνατότητα ελέγχου μπορούσε να μεταφέρει αυτή τη δυνατότητα σε ένα μοντέλο-μαθητή.
Η OpenAI επισημαίνει ότι η δυνατότητα ελέγχου είναι ασταθής και δεν αντιστοιχεί πάντα σε αποφυγή της παρακολούθησης, ενώ αναμένει ότι η περαιτέρω πρόοδος στην προεκπαίδευση θα απαιτήσει νέες προσεγγίσεις στη δυνατότητα παρακολούθησης. Αυτό είναι το τεχνικό χάσμα που βρίσκεται πίσω από το παράδειγμα του Pachocki για έναν πιθανό διάδοχο των συστημάτων παρακολούθησης της συλλογιστικής αλυσίδας σκέψης ως ορόσημο ανάπτυξης.
Τα όρια της perplexity ως κοινού προτύπου
Η perplexity από μόνη της δεν μπορεί να αποτελέσει το σύνολο του προτύπου. Οι συγκρίσεις μεταξύ εργαστηρίων είναι δύσκολες, επειδή οι δημιουργοί χρησιμοποιούν διαφορετικά σύνολα δεδομένων αξιολόγησης και διαφορετικά μείγματα δεδομένων εκπαίδευσης, ενώ η μετρική δεν μετρά άμεσα κάποια πρακτικά αξιοποιήσιμη εργασία. Επίσης, δεν καταγράφει τις αυξήσεις δυνατοτήτων που δεν προέρχονται από την προεκπαίδευση: η συλλογιστική αλυσίδας σκέψης μπορεί να αυξήσει σημαντικά τις δυνατότητες χωρίς να μειώσει την perplexity του βασικού μοντέλου.
Η μέτρηση έχει επίσης ένα άγνωστο κατώτατο όριο. Ο Pachocki προειδοποιεί ότι η απώλεια δεν αναμένεται να μηδενιστεί· καθώς πλησιάζει την εγγενή εντροπία των δεδομένων, η φαινομενική πρόοδος θα επιβραδύνεται, ενώ μικρότερες βελτιώσεις στην perplexity θα μπορούσαν να αντιστοιχούν σε μεγαλύτερη αύξηση της νοημοσύνης. Επομένως, μια σταθερή αριθμητική αύξηση δεν θα είχε κατ’ ανάγκη σταθερή πρακτική σημασία.
Η πρόταση μετατρέπει μια τεχνική μέτρηση σε δοκιμασία διακυβέρνησης: μπορούν οι προγραμματιστές να καταστήσουν τα αποτελέσματα συγκρίσιμα μεταξύ εργαστηρίων και να συμφωνήσουν σε ένα συγκεκριμένο ορόσημο εποπτείας προτού ξεπεράσουν τα κατώφλια που ο Pachocki συσχετίζει με δυνατότητες τις οποίες οι τρέχουσες αξιολογήσεις ενδέχεται να μην μπορούν ακόμη να εντοπίσουν;












