Η Ai2 ανοίγει κώδικα το AstaBrief 8B για γρήγορη δημιουργία επιστημονικών αναφορών

Το Allen Institute for AI (Ai2) δήλωσε στις 2 Οκτωβρίου 2026 ότι ανοίγει κώδικα το AstaBrief 8B, ένα μοντέλο που μετατρέπει μια ερευνητική ερώτηση και αποσπάσματα λογοτεχνίας σε μια παρατιθέμενη αναφορά, κυκλοφορώντας τα βάρη του μοντέλου και τα δεδομένα εκπαίδευσης καθώς το σύστημα ενεργοποιείται ως Γρήγορη λειτουργία στο Asta, την πλατφόρμα του για επιστημονική εργασία.

Γρήγορη λειτουργία στη δημιουργία αναφορών του Asta

Το AstaBrief είναι διαθέσιμο στη λειτουργία «Δημιουργία αναφοράς» του Asta ως Γρήγορη λειτουργία, λειτουργώντας παράλληλα με την υπάρχουσα λειτουργία Thinking που τροφοδοτείται από Claude, σύμφωνα με η ανακοίνωση του Ai2. Η Ai2 δηλώνει ότι ο στόχος της ήταν να δοκιμάσει αν ένα μικρό, ανοιχτό μοντέλο εκπαιδευμένο ειδικά για τη δημιουργία επιστημονικών αναφορών θα μπορούσε να ταιριάξει με την ποιότητα των αναφορών των ιδιόκτητων μοντέλων που χρησιμοποιούσε, ενώ μειώνει το χρόνο δημιουργίας και το κόστος εξυπηρέτησης. Η Ai2 αναφέρει ότι σε όλη τη γραμμή παραγωγής του Asta, η Γρήγορη λειτουργία έχει μέσο χρόνο 51,1 δευτερόλεπτα ανά αναφορά σε σύγκριση με 178,5 δευτερόλεπτα για τη λειτουργία Thinking, μια διαφορά που περιγράφεται ως περίπου 3,5 φορές ταχύτερη και σχεδόν μείωση κατά μια τάξη μεγέθους του χρόνου δημιουργίας σε σχέση με τα ιδιότητα μοντέλα που παρακολουθούσε.

Η η κάρτα μοντέλου AstaBrief 8B δηλώνει ότι το μοντέλο είναι αδειοδοτημένο υπό την Apache 2.0, βασίζεται στο Qwen3-8B και προορίζεται για ερευνητική και εκπαιδευτική χρήση σύμφωνα με τις Οδηγίες Υπεύθυνης Χρήσης της Ai2. Επειδή τα βάρη είναι ανοιχτά, η Ai2 αναφέρει ότι τα ιδρύματα μπορούν να τρέξουν το μοντέλο στο δικό τους υλικό, συμπεριλαμβανομένου πίσω από το δικό τους τείχος προστασίας, κάτι που περιγράφεται ως απαραίτητο όταν οι ερευνητικές ερωτήσεις αφορούν ευαίσθητη ή αδημοσίευτη εργασία. Παράλληλα με τα βάρη, η Ai2 κυκλοφόρησε ένα παράδειγμα ροής εργασίας στο αποθετήριο ai2-scholarqa-lib GitHub, το οποίο οι ερευνητές μπορούν να προσαρμόσουν για να δημιουργούν αναφορές από τα δικά τους PDF.

Δεδομένα εκπαίδευσης και φιλτράρισμα

Η Ai2 ξεκίνησε από το Qwen3-8B και δημιούργησε το AstaBrief με εποπτευόμενη λεπτομερή ρύθμιση, ακολουθούμενη από απευθείας βελτιστοποίηση προτίμησης (DPO). Η ανακοίνωση αναφέρει ότι η ομάδα σκέφτηκε εκπαίδευση βασισμένη στην ενίσχυση, η οποία, σύμφωνα με την προηγούμενη εργασία DR Tulu, μπορεί να βελτιώσει τη δημιουργία εκτενών αναφορών για μοντέλα ανοιχτών βαρών, αλλά επέλεξε τη πιο απλή προσέγγιση επειδή η εκπαίδευση με ενίσχυση μπορεί να είναι ασταθής και δαπανηρή, και η ομάδα ήθελε μια ρύθμιση που να είναι φθηνότερη και πιο εύκολη στην αποσφαλμάτωση και επανάληψη.

Για ταχύτητα, το AstaBrief εκπαιδεύτηκε να γράφει ολόκληρη την αναφορά σε μία μόνο διεργασία από το ερώτημα του χρήστη και τα ανακτημένα αποσπάσματα, παρακάμπτοντας τα στάδια σύνοψης αποσπασμάτων και ομαδοποίησης που χρησιμοποιεί η λειτουργία Thinking βασισμένη στον Claude και παραλείποντας τη γραφή τμήμα προς τμήμα. Η Ai2 δηλώνει ότι βρήκε ότι αυτό ήταν δυνατό χωρίς να θυσιαστεί η απόδοση.

Η γραμμή εκπαίδευσης ξεκίνησε με πραγματικά ερωτήματα χρηστών που υποβλήθηκαν μέσω του συστήματος πίσω από το πλαίσιο ScholarQA της Ai2, το οποίο υποστηρίζει τη δημιουργία αναφορών του Asta. Η ομάδα φιλτράρισε τα αρχεία καταγραφής για ποιότητα, συνάφεια και ιδιωτικότητα, αφαιρώντας κίνηση από beta‑testers και bots, απορρίπτοντας ερωτήματα που ήταν πολύ σύντομα για να είναι ουσιαστικά, και χρησιμοποιώντας μια διεργασία βασισμένη σε LLM για να εντοπίσει μη‑αγγλικά ερωτήματα, μη‑επιστημονικά αιτήματα και προτροπές που περιείχαν προσωπικές πληροφορίες. Αυτό άφησε μια δεξαμενή 90K ερωτημάτων με έμφαση στην έρευνα.

Για το εποπτευόμενο στάδιο, οι στόχοι πλήρους αναφοράς δημιουργήθηκαν με τη πολυβηματική γραμμή ScholarQA, υποστηριζόμενη από ένα μίγμα ιδιόκτητων συστημάτων: Claude 3.5 Sonnet, Claude 3.7 Sonnet, o3, o4-mini και GPT‑4.1. Το φιλτράρισμα ποιότητας άφησε 47K χρηστικά παραδείγματα. Για το DPO, τα ζεύγη προήλθαν από ένα ξεχωριστό υποσύνολο ερωτημάτων που δεν χρησιμοποιήθηκε κατά τη δημιουργία δεδομένων SFT: μία αναφορά από τη γραμμή ScholarQA, συνήθως υποστηριζόμενη από Claude 3.5 ή 3.7 Sonnet, έναντι μιας αναφοράς που δημιουργήθηκε από o3, o4-mini, DeepSeek‑V3 ή DeepSeek‑R1. Δύο μοντέλα κριτών, GPT‑4.1 και DeepSeek‑R1, επέλεξαν νικητή για κάθε ζεύγος. Η Ai2 αναφέρει ότι οι κριτές συμφώνησαν με τις ανθρώπινες προτιμήσεις στο 95 τοις εκατό των περιπτώσεων, και μόνο τα ζεύγη στα οποία και οι δύο κριτές συμφώνησαν διατηρήθηκαν, παράγοντας περίπου 6K τελικά παραδείγματα. Σύμφωνα με την κάρτα μοντέλου, το κυκλοφορημένο μοντέλο αρχικοποιήθηκε από το σημείο ελέγχου AstaBrief-8B-SFT και προσαρμόστηκε περαιτέρω στο AstaBrief_DPO_Mix σύνολο δεδομένων, με την εκπαίδευση DPO να διεξάγεται στο πλαίσιο open‑instruct της Ai2 σε 8×H100 GPU.

Αποτελέσματα αξιολόγησης

Ο κύριος στόχος ανάπτυξης της Ai2 ήταν το SQABench‑CS2, το οποίο η ανακοίνωση περιγράφει ως ένα σύνολο 200 ερωτήσεων έρευνας στην επιστήμη των υπολογιστών που γράφτηκαν από χρήστες. Η ομάδα παρακολούθησε τέσσερις μετρήσεις: το σκορ ρυθμιστικού, που μετρά πόσο απαραίτητο περιεχόμενο καλύπτει μια αναφορά· την ακρίβεια απάντησης, που μετρά εάν κάθε παράγραφος είναι σχετική με την ερώτηση· την ακρίβεια παραπομπής, που μετρά εάν κάθε παραπομπή υποστηρίζει τον ισχυρισμό που της συνδέεται· και την ανάκληση παραπομπής, που μετρά εάν οι ισχυρισμοί μιας αναφοράς υποστηρίζονται πλήρως από τις παρεχόμενες παραπομπές. Δευτερεύουσες αξιολογήσεις χρησιμοποίησαν το DeepScholarBench, ένα benchmark με 63 ερωτήματα για μακροσκελή σύνθεση έρευνας, χτισμένο από πρόσφατα άρθρα arXiv, καθώς και ζυγιστικές συγκρίσεις με αναφορές από τη γραμμή παραγωγής που τροφοδοτείται από Claude.

Η ανακοίνωση αναφέρει ότι η ομάδα δοκίμασε τέσσερα φίλτρα βασισμένα σε στατιστικά σε συνθετικές εκπαιδευτικές αναφορές: λόγο εξόδου‑προς‑είσοδο token, συνάφεια παραπομπής, πυκνότητα παραπομπής και ποικιλία παραπομπής. Η Ai2 δηλώνει ότι οι πιο ισχυρές βελτιώσεις προέκυψαν από το φιλτράρισμα αναφορών με χαμηλή πυκνότητα παραπομπής, ενώ πιο επιθετικό φιλτράρισμα, συνδυασμοί φίλτρων και διακυμάνσεις ρυθμού μάθησης δεν πρόσθεσαν ουσιαστικά κέρδη. Περιγράφει το ευρύτερο μάθημα ως απόδειξη ότι η επιστημονική εξειδίκευση δεν είναι απαραίτητα θέμα προσθήκης περισσότερου επιστημονικού κειμένου στην προ‑εκπαίδευση, και ότι η σύνθεση και η ποιότητα των δεδομένων μετά την εκπαίδευση μπορούν να αλλάξουν ουσιαστικά την απόδοση του τελικού μοντέλου.

Το Ai2 αναφέρει ότι τα πρώιμα σημεία ελέγχου SFT βελτίωσαν τη συνολική ποιότητα του περιεχομένου, αλλά παρέμειναν πίσω από τη γραμμή παραγωγής Claude όσον αφορά την ακρίβεια των απαντήσεων και την ποιότητα των παραπομπών, και ότι το στάδιο DPO έφερε το AstaBrief σε απόσταση από τη γραμμή Claude και το DR Tulu στην παραγωγή αναφορών. Η κάρτα μοντέλου αναφέρει ότι στο σύνολο δοκιμών ScholarQA‑CS2, το AstaBrief‑8B σημείωσε μέσο όρο 87 στα παρακολουθούμενα μετρικά, σε σύγκριση με 83,7 για το σημείο ελέγχου SFT και 77,3 για το βασικό Qwen3‑8B, με το AstaBrief‑8B να καταγράφει 90,2 στην ανάκληση στοιχείων, 89 στην ακρίβεια των απαντήσεων, 90,5 στην ακρίβεια των παραπομπών και 78,2 στην ανάκληση των παραπομπών. Η κάρτα αναφέρει επίσης ποσοστά νίκης που αξιολογήθηκαν από LLM για το AstaBrief‑8B έναντι της γραμμής Asta ScholarQA, 55 τοις εκατό στο σύνολο ανάπτυξης και 72 τοις εκατό στο σύνολο δοκιμής, και παραθέτει βαθμολογίες DeepScholarBench 53,50 για το AstaBrief‑8B, 60,25 για το Asta ScholarQA και 56,26 για το DR‑Tulu‑8B.

Σε μια ξεχωριστή ανθρώπινη μελέτη που περιγράφεται στην ανακοίνωση, τρεις επιστημονικοί ερευνητές συνέβαλαν καθένας με τέσσερις έως πέντε ερωτήσεις σε ένα σύνολο 14 ερωτήσεων και αξιολόγησαν τις αναφορές των τριών συστημάτων βάσει συνολικής προτίμησης, πληρότητας, συνάφειας, οργάνωσης και ακρίβειας παραπομπών, επιτρέποντας ισοπαλίες. Το Ai2 αναφέρει ότι το DR Tulu κέρδισε στη συνολική προτίμηση, ενώ δύο από τους τρεις ερευνητές προτίμησαν το AstaBrief έναντι των άλλων συστημάτων όσον αφορά την ακρίβεια των παραπομπών.

Το Ai2 προειδοποιεί ότι η πλειονότητα της εκπαίδευσης και της αξιολόγησης ολοκληρώθηκε το 2025, ότι τα ιδιόκτητα μοντέλα που χρησιμοποιήθηκαν για τη δημιουργία δεδομένων εκπαίδευσης και ως σημεία σύγκρισης αντανακλούν το επίπεδο εκείνης της περιόδου, και ότι δεν έχει επαναλάβει την πλήρη αξιολόγηση έναντι των τρεχόντων κορυφαίων μοντέλων.

Πρώιμη Χρήση και Αναφερόμενα Επόμενα Βήματα

Το Ai2 αναφέρει ότι μεταξύ 374 χρηστών του Asta που έχουν δοκιμάσει τη λειτουργία Fast, το 29,1 % τη χρησιμοποίησε δύο ή περισσότερες ημέρες, οι χρήστες δημιούργησαν κατά μέσο όρο 3,67 νήματα αναφορών, το 23 % δεν επέστρεψε ποτέ στη λειτουργία Thinking για μελλοντικά νήματα, και άλλα 18 % εναλλάχτηκαν μεταξύ των λειτουργιών ανάλογα με τους στόχους τους, χρησιμοποιώντας τη λειτουργία Fast για περίπου το 40 % των νημάτων τους. Η θετική ανατροφοδότηση ανήλθε στο 84,2 % για τη λειτουργία Fast έναντι 85,2 % για τη λειτουργία Thinking, κάτι που το Ai2 χαρακτηρίζει ως παρόμοιο ποσοστό, ενώ σημειώνει ότι η ανατροφοδότηση είναι γενικά πολύ περιορισμένη για να υποστηρίξει ισχυρά συμπεράσματα.

Το Ai2 δηλώνει ότι εξερευνά πιο λεπτομερή εκμάθηση προτιμήσεων, ισχυρότερες προσεγγίσεις RAG‑plus‑RL, δυνατότητες πολλαπλών γύρων και πολλαπλών εργαλείων, πρόσθετες πηγές επιστημονικών δεδομένων και αποσύνθεση ερωτημάτων, μαζί με αξιολογήσεις που ελέγχουν εάν ένα μοντέλο διατηρεί το αποδεικτικό πεδίο των πηγών του αντί να διευρύνει όσα έχουν καθορίσει οι υποκείμενες μελέτες. Η ανακοίνωση εντάσσει το έργο στα ευρύτερα επιστημονικά μοντέλα του Ai2, συμπεριλαμβανομένου του NSF OMAI, μιας εθνικής πρωτοβουλίας των ΗΠΑ υπό την ηγεσία του Ai2 για την κατασκευή πλήρως ανοιχτής υποδομής AI και μοντέλων για την επιστημονική ανακάλυψη, και περιγράφει το AstaBrief ως ένα πείραμα σε μια μακρύτερη σειρά εργασιών που εκτείνεται από το ScholarQA και το DR Tulu μέχρι μελλοντικές εκδόσεις του Olmo.