Το ERNIE Evolve της Baidu αυτοματοποιεί την έρευνα στην ΤΝ και τη βελτιστοποίηση συμπερασμού

Η Baidu παρουσίασε το ERNIE Evolve στις 9 Νοεμβρίου 2026, αναφέροντας καλύτερα αποτελέσματα από τις δημόσιες συγκρίσεις σε τρεις μετρικές των NanoChat και NanoGPT, καθώς και κατά 33,7% υψηλότερη διεκπεραιωτική ικανότητα σε μία δοκιμή συμπερασμού του ERNIE-5.5-Flash με ντετερμινιστικές ρυθμίσεις. Το αυτοματοποιημένο σύστημα έρευνας επιλέγει ερευνητικές κατευθύνσεις, τροποποιεί κώδικα ΤΝ και διατηρεί μόνο τις βελτιώσεις που περνούν από ξεχωριστή αξιολόγηση και επανεξέταση.

Η ανακοίνωση καλύπτει επίσης τις ενεργές εργασίες μηχανικής συμπερασμού για το ERNIE-5.5-Flash, το οποίο βρίσκεται υπό ανάπτυξη. Ο ρόλος του συστήματος είναι ευρύτερος από τη συγγραφή κώδικα: επιλέγει κατευθύνσεις διερεύνησης, εκτελεί δοκιμές και αξιοποιεί τόσο τις αποτυχίες όσο και τις επιτυχίες για να καθοδηγεί τις επόμενες επαναλήψεις.

Ένας ερευνητικός κύκλος με ανεξάρτητους ελέγχους

Με δεδομένα ένα αποθετήριο, έναν στόχο βελτιστοποίησης και κριτήρια αξιολόγησης, το ERNIE Evolve τροποποιεί κώδικα και εκτελεί πειράματα σε απομονωμένα περιβάλλοντα. Ένας Director στον εξωτερικό βρόχο επιλέγει κατεύθυνση και αρχική έκδοση, αξιοποιώντας μια Τράπεζα Εμπειρίας με προηγούμενα πειράματα και μια Βάση Γνώσεων με επιστημονικές εργασίες, κώδικα ανοικτού κώδικα και γνώση του πεδίου. Οι παράλληλες διαδρομές περιλαμβάνουν δέντρα υποψήφιων εκδόσεων· σε καθεμία, ένας Selector επιλέγει μια υποψήφια έκδοση και μια υπόθεση, και ένας Executor υλοποιεί την αλλαγή.

Η αποδοχή εξαρτάται από έναν σταθερό Evaluator και έναν ξεχωριστό Reviewer. Ο Evaluator βρίσκεται εκτός του αποθετηρίου, δεν είναι ορατός στους πράκτορες, αποκλείει αλλαγές εκτός του πεδίου εφαρμογής και απαιτεί οι βελτιώσεις να υπερβαίνουν ένα όριο θορύβου. Ο Reviewer ελέγχει αν τηρείται η ερευνητική κατεύθυνση και απορρίπτει προσπάθειες εκμετάλλευσης κενών στην αξιολόγηση. Οι υποψήφιες εκδόσεις που αποκλίνουν από την κατεύθυνση δεν μπορούν να αναδειχθούν ως η καλύτερη έκδοση.

Αποτελέσματα δημόσιων δοκιμών αναφοράς και δημοσιευμένος κώδικας

Η Baidu αναφέρει τα ακόλουθα αποτελέσματα σε σύγκριση με τα δημόσια αποτελέσματα αναφοράς που χρησιμοποιήθηκαν στην αξιολόγησή της:

Στο NanoChat, το ERNIE Evolve πρόσθεσε δύο κλάδους πρόβλεψης δίπλα στο νευρωνικό δίκτυο: ο ένας χρησιμοποιεί στατιστικά n-γραμμάτων από το σώμα εκπαίδευσης και ο άλλος ανακτά σχετικά έγγραφα και κάνει προβλέψεις βάσει της συνέχειάς τους. Ένας εκπαιδευμένος μηχανισμός στάθμισης προσαρμόζει τον συνδυασμό, αξιοποιώντας την επίδοση κάθε κλάδου σε προηγούμενες θέσεις των διακριτών μονάδων.

Το αποθετήριο αποτελεσμάτων δημοσιεύει τον τελικό κώδικα και τα αρχεία καταγραφής μετρήσεων, στα οποία ο κώδικας που εκτελέστηκε είναι ενσωματωμένος ή προσδιορίζεται μέσω του SHA-256. Περιλαμβάνει επτά τεχνουργήματα πυρήνων του SOL-ExecBench με βαθμολογίες από 0.6669 έως 0.9920· οι ορισμοί εργασιών και τα δεδομένα φόρτου εργασίας της NVIDIA δεν αναδιανέμονται.

Η γραμμή του SOL-ExecBench θέτει τα ευρύτερα αποτελέσματα σε προοπτική: το ERNIE Evolve δεν ήταν πρώτο σε κάθε μετρική του πίνακα, αν και η σύγκριση της Baidu το κατατάσσει υψηλότερα από τα Recursive και Hyra-1.0 σε αυτή την εργασία.

Βελτιστοποίηση συμπερασμού για το ERNIE-5.5-Flash

Η Baidu εφάρμοσε το ERNIE Evolve σε συμπερασμό χαμηλής καθυστέρησης στο Kunlunxin P800, σε διεκπεραιωτική ικανότητα συμπερασμού με ντετερμινιστικές ρυθμίσεις σε GPU και στην ταχύτητα αποκωδικοποίησης για μεμονωμένα αιτήματα. Οι περισσότερες γραμμές βάσης είχαν ήδη βελτιστοποιηθεί από μηχανικούς, ενώ οι αλλαγές έπρεπε να περάσουν τις ίδιες δοκιμές φόρτου και ελέγχους ορθότητας με τις εργασίες που υποβάλλουν οι μηχανικοί.

Στο Kunlunxin P800, η Baidu αναφέρει ότι τέσσερις ερευνητικοί κύκλοι αύξησαν την ταχύτητα παραγωγής στο 623,6% της γραμμής βάσης, με επιτυχία στους ελέγχους ορθότητας και χωρίς αλλαγές στο μοντέλο ή στη διαμόρφωση ανάπτυξης. Οι πρώτοι κύκλοι επέτρεψαν τη συνένωση υπερσυνδέσεων με περιορισμούς πολλαπλότητας και την κερδοσκοπική αποκωδικοποίηση και, στη συνέχεια, μείωσαν την επιβάρυνση από τον προγραμματισμό και τον συγχρονισμό στην πλευρά του κεντρικού επεξεργαστή. Μια διόρθωση στη διανομή εργασιών κατά τον τέταρτο κύκλο ενεργοποίησε τη διαδρομή χαμηλής καθυστέρησης του DeepEP.

Για την εκπαίδευση ενισχυτικής μάθησης, η ντετερμινιστική εργασία απαιτούσε τα παραγόμενα διακριτά στοιχεία και τις λογαριθμικές πιθανότητες να είναι πανομοιότυπα σε επίπεδο bit, ανεξάρτητα από τη σύνθεση της δέσμης, και να συμφωνούν με τον επανυπολογισμό ολόκληρης της ακολουθίας. Η ντετερμινιστική λειτουργία του SGLang υποστηρίζει αυτές τις απαιτήσεις καθορίζοντας τη σειρά των αναγωγών, αλλά αυτό περιορίζει την αξιοποίηση της GPU. Μετά από περίπου τρεις ημέρες, η Baidu αναφέρει ότι η εργασία μείωσε επίσης κατά 26% τον μέσο χρόνο ανά παραγόμενο διακριτό στοιχείο και κατά 12% τον χρόνο έως το πρώτο διακριτό στοιχείο, διατηρώντας τον ντετερμινισμό. Η μεγαλύτερη μεμονωμένη βελτίωση προήλθε από την αντικατάσταση της ντετερμινιστικής δειγματοληψίας, η οποία κατανάλωνε περίπου το 14% του χρόνου της GPU ανά βήμα, με έναν πυρήνα Triton που επεξεργάζεται παράλληλα τμήματα του λεξιλογίου.

Για την αποκωδικοποίηση στην GPU ενός μεμονωμένου αιτήματος, η Baidu αναφέρει αύξηση της ταχύτητας κατά 14,9% σε σύγκριση με μια υπηρεσία που είχε ήδη βελτιστοποιηθεί από μηχανικούς, χωρίς μεταβολή στην ακρίβεια. Τρεις από τις επτά ερευνητικές κατευθύνσεις απέφεραν κέρδη. Σε αυτές περιλαμβάνονταν η χρήση εγγενών εντολών FP16 για πολλαπλασιασμούς πινάκων FP8 με λιγότερες από οκτώ γραμμές εισόδου και η αντικατάσταση των διαδοχικών σαρώσεων ειδικών με έναν χρονοδρομολογητή μίγματος ειδικών δύο επιπέδων.

Οι δοκιμές αυτές ανέδειξαν επίσης αυστηρότερους περιορισμούς σε επίπεδο μονάδων και ντετερμινισμού, θόρυβο μετρήσεων συγκρίσιμο με τα επιμέρους κέρδη, καθώς και περιβάλλοντα που περιλάμβαναν μηχανές συμπερασμού, βιβλιοθήκες πυρήνων, πρόσθετα υλικού και σενάρια εκκίνησης υπηρεσιών. Ορισμένες χρήσιμες αλλαγές απέφεραν μικρότερα οφέλη από τον θόρυβο, επομένως οι υποψήφιες αλλαγές έπρεπε να αποδείξουν την αξία τους σε δοκιμές φόρτου από άκρο σε άκρο και όχι σε μεμονωμένες μετρήσεις πυρήνων.

Η Baidu σχεδιάζει να εφαρμόσει αυτόν τον κύκλο στη βελτιστοποίηση συστημάτων εκπαίδευσης και στη συνέχεια να χρησιμοποιήσει μετρικές δυνατοτήτων των μοντέλων για να καθοδηγήσει την αυτοματοποιημένη διατύπωση υποθέσεων, τον σχεδιασμό πειραμάτων και την επικύρωση. Μακροπρόθεσμος στόχος της είναι η τεχνητή νοημοσύνη να εντοπίζει κενά στις δυνατότητες και να δημιουργεί και να βελτιώνει εργασίες αξιολόγησης.

Η εταιρεία αναφέρει ότι η αναδρομική αυτοβελτίωση πρέπει να παραμένει υπό ανθρώπινο έλεγχο και να μπορεί να διακόπτεται, εντός σαφώς καθορισμένων ορίων για τους στόχους, τις άδειες και τους πόρους, με συνεχή αξιολόγηση της ασφάλειας και ανθρώπινη εποπτεία. Η μετάβαση από σταθερές μετρικές μηχανικής προς τις δυνατότητες των μοντέλων και τον σχεδιασμό σημείων αναφοράς καθιστά αυτούς τους ελέγχους αξιολόγησης και εποπτείας καθοριστικούς για το πόσο μπορεί να επεκταθεί ο ερευνητικός κύκλος.