Η γωνία του Anderson

Διδάσκοντας τον Ληθάργικο AI να «Κρατήσει τη Σκέψη» για Περισσότερο

Martin Anderson
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
AI-generated image: A robot with ChatGPT logo at laptop, with vice on open head and glowing text emerging from head. GPT-image-1.
Βασικά σημείαΜια νέα μέθοδος συμπίεσης που ονομάζεται C3 συμπιέζει μεγάλα κείμενα κατά 40 φορές…
Δείτε περισσότερα
  • Μια νέα μέθοδος συμπίεσης που ονομάζεται C3 συμπιέζει μεγάλα κείμενα κατά 40 φορές διατηρώντας ακρίβεια 93% για τη μνήμη τεχνητής νοημοσύνης.
  • Το C3 μιμείται την ανθρώπινη μνήμη υποβαθμίζοντας προβλέψιμα στα τέλη των προτάσεων, επιτρέποντας στοχευμένες διορθώσεις ακρίβειας.
  • Αυτή η άμεση προσέγγιση από κείμενο σε λανθάνουσες μεταβλητές ξεπερνά τις οπτικές μεθόδους, επιτρέποντας δυνητικά στα LLM να ανακαλούν ολόκληρες συζητήσεις.

θυμηθούν την αρχή μιας συνομιλίας. Μια νέα μέθοδος συμπίεσης κειμένου μπορεί να αλλάξει αυτό και να κάνει τις συνομιλίες AI πολύ λιγότερο ενοχλητικές. Τα συστήματα συνομιλίας AI όπως το

 

Τα μοντέλα γλωσσών συχνά δεν μπορούν να ChatGPT συχνά χάνουν την πηγή των προηγούμενων μερών μιας συνομιλίας, επαναλαμβάνοντας τον εαυτό τους ή δίνοντας απαντήσεις που αγνοούν τις προηγουμένως συμφωνημένες κανόνες. Αυτό συμβαίνειεπειδή ταΜεγάλα Μοντέλα Γλωσσών ( LLMs ) έχουν μια περιορισμένη ικανότητα να εστίαση, που ορίζεται ως το «παράθυρο περιεχομένου» της προσοχής – σαν ένας φακός που μπορεί να φωτίσει μόνο αυτό στο οποίο στοχεύει άμεσα και μερικά γειτονικά αντικείμενα. Η διόρθωση τέτοιων «αμνησιακών» τάσεων, οι οποίες οφείλονται σε αυτούς τους περιορισμούς στην προσοχή, είναι από τις πιο σημαντικές κατευθύνσεις έρευνας για τα γλωσσικά μοντέλα AI – όχι μόνο επειδή αυτό το σύνδρομο περιορίζει nghiêm trọng τη δυνατότητα χρήσιμων και συνεπούς πολυ-στροφικής συνομιλίας και εμποδίζει τη χρησιμότητα των LLMs σε μια ποικιλία ακριβειακών περιβαλλόντων, όπως η ιατρική και το δίκαιο.

Κρατώντας το

Νέα έρευνα απότην Κίνα † προτείνει μια νέα μέθοδο για να κάνει ένα σημαντικά μεγαλύτερο ποσό κειμένου να ταιριάζει στα περιορισμένα πόρους ενός GPU που εκτελεί ένα μοντέλο AI – με αποτελέσματα που επιτυγχάνουν μια

Η Συμπίεση Κατακλυσμού Πραγματοποιεί μια πιο ακριβή ανακατασκευή μακρών εγγράφων από τις οπτικές μεθόδους συμπίεσης όπως το DeepSeek-OCR, ακόμη και όταν μειώνεται η είσοδος μέχρι και σαράντα φορές. Σε μια σειρά από μήκη εγγράφων και ρυθμίσεις συμπίεσης, η νέα μέθοδος διατηρεί μια σχεδόν τέλεια πιστότητα, ενώ η οπτική προσέγγιση χειροτερεύει δραματικά υπό υψηλότερη συμπίεση. βελτίωση συμπίεσης 20 φορές ενώ διατηρούνται 98% ακρίβεια: Η Συμπίεση Κατακλυσμού Πραγματοποιεί μια πιο ακριβή ανακατασκευή μακρών εγγράφων από τις οπτικές μεθόδους συμπίεσης όπως το DeepSeek-OCR, ακόμη και όταν μειώνεται η είσοδος μέχρι και σαράντα φορές. Σε μια σειρά από μήκη εγγράφων και ρυθμίσεις συμπίεσης, ηνέα μέθοδος διατηρεί μια σχεδόν τέλεια πιστότητα, ενώ η οπτική προσέγγιση χειροτερεύει δραματικά υπό υψηλότερη Πηγή συμπίεση.

Πάνω, η ανθρώπινη μνήμη χειροτερεύει στο τέλος της ροής δεδομένων: μεσαία: το DeepSeek-OCR χειροτερεύει τυχαία, αφήνοντας keine άγκυρες που θα μπορούσαν να βοηθήσουν στη διόρθωση του προβλήματος: κάτω: η νέα μέθοδος χειροτερεύει με τον ίδιο τρόπο που η ανθρώπινη μνήμη, προς το τέλος της ροής δεδομένων, προσφέροντας δείκτες που μπορούν να βοηθήσουν στη βελτίωση της ακρίβειας μέσω της μετα-επεξεργασίας. Αυτό σημαίνει ότι ολόκληρη η συζήτηση, ακόμη και μια πολύ μεγάλη, μπορεί να συμπιεστεί και να επανεισαχθεί (ενημερωθεί) σε τακτά χρονικά διαστήματα ως περιεχόμενο φόντου, αργότερα στη συζήτηση – όταν ο LLM κανονικά θα ξεχνούσε τις προηγούμενες πληροφορίες και θα έπεφτε σε «αμνησιακή» συμπεριφορά. Ενώ πρόκειται για μια λεπτή μέθοδο συμπίεσης, ακόμη και ο τρόπος με τον οποίο συμβαίνει η απώλεια είναι χρήσιμος:

με τη νέα μέθοδο, η μνήμη χειροτερεύει στο τέλος μιας πρότασης, και όχι ομοιόμορφα σε όλη τη διάρκεια, όπως με το DeepSeek-OCR αρχιτεκτονική που ενέπνευσε τη νέα προσέγγιση: στην πραγματικότητα, οι ερευνητές πίσω από τη νέα εργασία προτείνουν ότι η μέθοδός τους χειροτερεύει με τον ίδιο τρόπο που η ανθρώπινη μνήμη, και όχι τυχαία: Πάνω, η ανθρώπινη μνήμη χειροτερεύει στο τέλος της ροής δεδομένων: μεσαία: το DeepSeek-OCR χειροτερεύει τυχαία, αφήνοντας keine άγκυρες που θα μπορούσαν να βοηθήσουν στη διόρθωση του προβλήματος: κάτω: η νέα μέθοδος χειροτερεύει με τον ίδιο τρόπο που η ανθρώπινη μνήμη, προς το τέλος της

Από το χαρτί απελευθέρωσης DeepSeekOCR, ένα σχήμα για τη σωλήνωση συμπίεσης, συμπεριλαμβανομένων 16x16 ραστεροποιημένων μπαλωμάτων ως στοιχείο OCR. Πηγή ( https://arxiv.org/pdf/2510.18234  ) της ροής δεδομένων, προσφέροντας δείκτες που μπορούν να βοηθήσουν στη βελτίωση της ακρίβειας μέσω της μετεπεξεργασίας. Αυτό σημαίνει ότι μπορείτε να προβλέψετε πότε τα αποθηκευμένα δεδομένα μπορεί να είναι λιγότερο αξιόπιστα και να χρησιμοποιήσετε αυτήν τη γνώση για να αντιμετωπίσετε το πρόβλημα – προσφέροντας ενδεχομένως μια τεράστια βελτίωσησε συνομιλιακή ανάκληση και

συνεκτικότητα, με 100% ακρίβεια μετά χρησιμοποιώντας τη διόρθωση. πού Η νέα προσέγγιση ονομάζεται Η εργασία αναφέρει: (C3), και είναι εμπνευσμένη από τον τρόπο με τον οποίο το DeepSeek-OCR συμπιέζει κείμενο ως εικόνες, επιτυγχάνοντας μεγάλα επίπεδα συμπίεσης. Ωστόσο, ραστών εικόνων, επιτυγχάνοντας δύο (μεσαία και μεγάλη) γλωσσικά μοντέλα για να συμπιέσουν μακρά κείμενο απευθείας σε Συμπίεση Κατακλυσμού λατινικές ενσωματώσεις , η νέα προσέγγιση κόβει την αντίσταση που προκαλείται από τη χρήση τη βελτιωμένηαπόδοση. ‘Η υπεροχή της C3 μπορεί να αποδοθεί στη θεμελιώδη αρχιτεκτονική της σχεδίασης. Η ανάλυση DeepSeek-OCR υποθέτει

ότι η πτώση της απόδοσής της οφείλεται σε παράγοντες όπως “σύνθετο layout” και “blur εικόνας σε χαμηλότερες αναλύσεις” – εγγενείς περιορισμοί του οπτικού μονοπατιού. Η νέα εργασία ‘Η παραδειγματική μας C3, λειτουργώντας απευθείας στο κείμενο-περιβάλλον, είναι

απαλλαγμένη από αυτές τις οπτικές-περιοριστικές ανωμαλίες. Αποφεύγει την απώλεια πληροφοριών που συνδέεται με την απόδοση κειμένου σε pixels και στη συνέχεια την κωδικοποίηση αυτών των pixels. Αντίθετα, αξιοποιεί την ισχυρή σεματική κατανόηση ενός προ-εκπαιδευμένου LLM για να αποσπάσει πληροφορίες κειμένου απευθείας σε μια αποτελεσματική λατινική αναπαράσταση.’ ονομάζεται ,

εντελώς και προέρχεται από Εξερεύνηση των Άνω Ορίων της Συμπίεσης Κειμένου † ,δύο συγγραφείς Συμπίεση Κατακλυσμού:οιοποίοι φαίνεται* να προσφέρουν επίσης την C3 ως ανοικτό αποθετήριο στο GitHub.

Μέθοδος

Για να κατανοήσετε τη νέα προσέγγιση, είναι χρήσιμο να γνωρίζετε τι οπτική αναγνώριση χαρακτήρων (OCR) είναι, επειδή αυτή είναι η πηγή της όλης ιδέας. Η OCR είναι μια αλγοριθμική μέθοδος που χρονολογείται πίσω στο 1920 ,αν και δημοσιεύθηκε στις δεκαετίες του 1990, όπου η ανίχνευση μοτίβων επιτρέπει σε ένα πρόγραμμα υπολογιστή να μετατρέψει ραστώδες κείμενο (δηλαδή, κείμενο μέσα σε εικόνες, που δεν μπορεί να επιλεγεί και που υπάρχει μόνο ως φωτογραφικό περιεχόμενο) σε επεξεργάσιμο κείμενο. Οι Οι δημιουργοί του DeepSeek-OCR ανακάλυψαν ότι το κείμενο μπορούσε να συμπιεστεί πολύ περισσότερο από τις τυπικές διαδικασίες χρησιμοποιώντας το OCR ως ενδιάμεσο στάδιο.Με άλλα λόγια, αντί να συμπιέζουν το ίδιο το κείμενο, μπορούσαν να επιτύχουν μεγαλύτερη πυκνότητα ενσωματώσεων λατινικών (δηλαδή, περισσότερες πληροφορίες αποθηκευμένες) : συμπιέζοντας μια ραστωμένη εκδοχή τουκειμένου

Από το έγγραφο της DeepSeekOCR, ένα σχήμα για τη διαδικασία συμπίεσης, που περιλαμβάνει 16x16 ραστωμένα τμήματα ως το OCR συστατικό. Πηγή ( https://arxiv.org/pdf/2510.18234 ) Από το έγγραφο της DeepSeekOCR, ένα σχήμα για τη διαδικασία συμπίεσης, που περιλαμβάνει 16×16 ραστωμένα τμήματα ως το OCR συστατικό. ΠηγήΗ νέα εργασία υποδηλώνει ότι οι οπτικές προσεγγίσεις όπως το DeepSeek-OCR μπορεί να αποδίδουν λανθασμένα την πηγή των κερδών συμπίεσης. Αντί να είναι η μετατόπιση από το κείμενο στην εικόνα ο πρωταρχικός παράγοντας, οι συγγραφείς υποθέτουν ότι το κλειδί της βελτίωσης έρχεται από τη μετατροπή των περίπλοκων συμβόλων κειμένου σε πιοαποτελεσματικές λατινικές αναπαραστάσεις).Για να δοκιμάσουν αυτήν την υπόθεση, δημιούργησαν μια διαδικασία που αξιοποιεί δύο γλωσσικά μοντέλα: τομικρότερο <img class=” wp-image-226086″ src=”https://www.unite.ai/wp-content/uploads/2025/11/deepseekocr.jpg” alt=”Στο νέο σύστημα C3, το μικρότερο μοντέλο Qwen2.5 1.5B συμπιέζει μια μακρά είσοδο σε μια σταθερή σειράλατινικών συμβόλων, χρησιμοποιώντας εκπαιδεύσιμες ενσωματώσεις ερωτημάτων. Αυτά τα σύμβολα, μαζί με μια

Ακρίβεια ανακατασκευής και αναλογίες συμπίεσης σε 32 λανθάνοντα διακριτικά, δείχνοντας ότι ακόμη και σε ακραίες μειώσεις (έως σχεδόν 40x) η ακρίβεια παραμένει πάνω από 93%. πρόταση, μεταφέρονται στο μεγαλύτερο μοντέλο Qwen2.5 3B, το οποίο ανακατασκευάζει το αρχικό κείμενο. Αυτή η αρχιτεκτονική επιτρέπει την υψηλή-πιστότητα ανάκληση μακρών ακολουθιών χρησιμοποιώντας μόνο μια μικρή parte του αρχικού συμβόλου. Qwen2.5 1.5B , το οποίο λειτουργεί ως ο κωδικοποιητής, συμπιέζοντας μακρά κείμενα σε μια μικρή σειρά λατινικών συμβόλων: και το μεγαλύτερο Qwen2.5 3B , το οποίο λειτουργεί ως ο αποκωδικοποιητής, ανακατασκευάζοντας το αρχικό κείμενο από αυτά τα

σύμβολα: Για να χειριστεί το στάδιο της συμπίεσης, οι ερευνητές προσάρμοσαν το προ-εκπαιδευμένο μοντέλο Qwen2.5 1.5B εισάγοντας : αφηρημένες Για να αξιολογήσουνπροτάσεις που οδηγούν το μοντέλο να αποσπάσει την εισερχόμενη μακρά περιέχομενο σε μια πολύ μικρότερη λατινική αναπαράσταση. εκπαιδεύσιμες ενσωματώσεις ερωτημάτων Αντί να τροποποιήσουν την αρχιτεκτονική, η μέθοδος απλώς τροφοδοτεί το μακρό κείμενο και τις ενσωματώσεις ερωτημάτων μαζί ως μια seule είσοδο. Το μηχανισμό πόσο πληροφορίες επιβίωσαν της συμπίεσης, οι ερευνητές οδήγησαν το μοντέλο Qwen2.5 3B να ανακατασκευάσει το αρχικό κείμενο χρησιμοποιώντας μόνο τα λατινικά σύμβολα και την πρόταση αυτο-προσοχής του μοντέλου αντιμετωπίζει αυτά τα στοιχεία ιδιαίτερα, επιτρέποντας στο μοντέλο να εξαγάγει μια σταθερή-μήκος λατινική περιέχομενο χωρίς να χρειάζεται νέες στρώσεις ή αλλαγές σχεδίασης: και αυτή η έξοδος στη συνέχεια μεταφέρεται στο μεγαλύτερο μοντέλο για ανακατασκευή. . Καθώς η ‘επαναλάβετε το κείμενο’εργασία περιελάμβανε ακριβή αναπαραγωγή, και όχι περίληψη ή παραφράση, οποιαδήποτε αποκλίση από το αρχικό κείμενο θα μπορούσε να ανιχνευθεί απευθείας στην απώλεια πληροφοριών κατά τη συμπίεση, προσφέροντας μια καθαρή και αντικειμενική δοκιμή της πιστότητας κατά μήκος της διαδικασίας κωδικοποίησης-αποκωδικοποίησης.

Δεδομένα και Δοκιμές

Η εργασία αναφέρει ότι οι συγγραφείς συνέλεξαν ένα πρωτότυπο σύνολο δεδομένων OCR, που αποτελείται από ένα εκατομμύριο σελίδες που προήλθαν από το διαδίκτυο.Δεν υπάρχουν περαιτέρω λεπτομέρειες σχετικά με αυτήν την πηγή και οι συγγραφείς φαίνεται να είναι σκόπιμα ασαφείς σε αυτό το σημείο. Ωστόσο, σημειώνουν ότι η μηχανική δεδομένων και η επιμέλεια δεν ήταν απαραίτητες για τους σκοπούς τους και ότι μπόρεσαν να εκπαιδεύσουν αποτελεσματικά το μοντέλο τους σε δείγματα “διαφόρων μηκών”: και δηλώνουν ότι αυτό δείχνει ότι η αρχιτεκτονική τους είναι ισχυρή (και, κατά συνέπεια, καλήγενικευμένη, ανάλογα με τις ρυθμίσεις εκπαίδευσης). Το μοντέλο εκπαιδεύτηκε σε ένα σύμπλεγμα υψηλής απόδοσης που αποτελείται από οκτώ GPU NVIDIA H800, η ​​καθεμία εξοπλισμένη με 80GB VRAM, για συνολικό πόρο VRAM 640GB. Κάθε GPU φιλοξενούσε ένα μέγεθος batch 2, αποκτώντας ένα συνολικό παγκόσμιο μέγεθος batch 256, όταν ληφθούν υπόψη τα 16 βήματα συσσώρευσης που προγραμματίστηκαν. Ο βελτιστοποιητής ήταν AdamW ,σε ένα σύνολο 40.000 βημάτων. Για να ελέγξουν την αποτελεσματικότητα της αρχιτεκτονικής C3, οι ερευνητές ακολούθησαν την ίδια διαμόρφωση αξιολόγησης που χρησιμοποιήθηκε στην αρχική εργασία DeepSeek-OCR, χρησιμοποιώντας το βENCHMARK Fox για να μετρήσουν τη συμπίεση και την ακρίβεια ανακατασκευής σε μια σειρά από μήκη εγγράφων. Επιλέχθηκαν κείμενα στην αγγλική γλώσσα, με περικοπές που κυμαίνονταν από 600 έως 1300 συμβόλων, με τον τομεασμό που πραγματοποιήθηκε χρησιμοποιώντας τον τομεαστή Qwen. Για να επιτρέψουν μια δίκαιη σύγκριση, χρησιμοποιήθηκαν ισοδύναμα επίπεδα συμπίεσης από την (DeepSeek-OCR) οπτική βάση, με 64 και 100 λατινικά σύμβολα. Για να εξερευνήσουν τα όρια της μεθόδου, πραγματοποιήθηκαν πρόσθετες δοκιμές χρησιμοποιώντας μόνο 32 λατινικά σύμβολα. Σε κάθε περίπτωση, η ανακατασκευή ξεκίνησε με την οδηγία : ‘επαναλάβετε κείμενο:’ Αποτελέσματα απότο

Αποτελέσματα από την αρχική δοκιμή. Η ακρίβεια ανακατασκευής και οι αναλογίες συμπίεσης μετρήθηκαν σε επτά σειρές συμβόλων χρησιμοποιώντας 64 και 100 λατινικά σύμβολα, δείχνοντας συνεχή υπερβολή της C3 над το DeepSeek-OCR, ιδιαίτερα σε υψηλότερα επίπεδα συμπίεσης. αρχική δοκιμή.Η ακρίβεια ανακατασκευής και οι λόγοι συμπίεσης μετρήθηκαν σε επτά σύνολα συμβόλων χρησιμοποιώντας 64 και 100 λατινικά σύμβολα, δείχνοντας μια σταθερή υπεραπόδοση του C3 σε σχέση με το DeepSeek-OCR, ειδικά σε υψηλότερα επίπεδα συμπίεσης. Συζήτηση των αρχικών αποτελεσμάτων

που απεικονίζονται παραπάνω, η εργασία αναφέρει: Όταν και τα

μεγέθους. ‘Τα δεδομένα αποδεικνύουν ανεπιφύλακτα ότι η C3 με την άμεση συμπίεση κειμένου σε λατινική αναπαράσταση υπερβαίνει σημαντικά την οπτική προσέγγιση σε όλες τις δοκιμές, καθιερώνοντας ένα νέο state-of-the-art στη συμπίεση περιεχομένου υψηλής πιστότητας.’ Στην πιο

δύο συστήματα δοκιμάστηκαν σε μακρύτερα έγγραφα, το DeepSeek-OCR άρχισε να χάνει ακρίβεια καθώς η συμπίεση αυξανόταν, πέφτοντας κάτω από 60% στην πιο ακραία περίπτωση. Η C3 χειρίστηκε το ίδιο επίπεδο συμπίεσης με πολύ λιγότερη απώλεια, κρατώντας σταθερά κοντά στο 98%, ακόμη και όταν η είσοδος μειώθηκε στο ένα-twentieth του αρχικού απαιτητική δοκιμή, τα πλήρη κείμενα συμπιέστηκαν σε μόνο 32 σύμβολα. Ακόμη και τότε, το μοντέλο μπόρεσε να ανακατασκευάσει σχεδόν όλο το αρχικό περιεχόμενο, κρατώντας την ακρίβεια κοντά στο 99% σε πολλές περιπτώσεις: Ακρίβεια ανακατασκευής και αναλογίες συμπίεσης σε 32

Ακρίβεια ανακατασκευής και αναλογίες συμπίεσης σε 32 λατινικά σύμβολα, δείχνοντας ότι ακόμη και σε ακραίες μειώσεις (μέχρι σχεδόν 40x) η ακρίβεια παραμένει πάνω από 93%. λατινικά σύμβολα, δείχνοντας ότι ακόμη και σε ακραίες μειώσεις (μέχρι σχεδόν 40x) η ακρίβεια παραμένει πάνω από 93%. Στο πιο ακραίο ρύθμιση, όπου η

είσοδος συμπιέστηκε σχεδόν στο ένα-σαράντατο του αρχικού μεγέθους, ακόμη και τότε το μοντέλο θυμήθηκε πάνω από 93%. Σε σύγκριση, οι προηγούμενες οπτικές μεθόδους έπεσαν σε περίπου 60% ακρίβεια σε μισό αυτό το επίπεδο συμπίεσης. Οι συγγραφείς αναφέρουν †† : ‘Αυτά ταευρήματα αποδεικνύουνανεπιφύλακτα

το πλεονέκτημα της αρχιτεκτονικής C3.Αποφεύγοντας τα σημεία συμφόρησης πληροφοριών και τις πιθανές ανωμαλίες που είναι εγγενείς στην οπτική διαδρομή (π.χ. περιορισμοί στην ανάλυση εικόνας, σύνθετη διάταξη), η μέθοδός μας χειρίζεται την ακραία συμπίεση με ελάχιστη απώλεια πληροφοριών. Καταλήγουν επίσης στο συμπέρασμα ότι το C3 μπορεί

ολόκληρων βιβλίων, εκτενών νομικών εγγράφων ή μεγάλων κωδικών για εργασίες όπως η απάντηση σε ερωτήσεις, η περίληψη και η ανάλυση». ‘Τα αποτελέσματα από αυτή τη δραστική δοκιμή solidify την

να «ανοίξει νέες ικανότητες στην επεξεργασία αξίωση μας ότι η άμεση συμπίεση κειμένου σε λατινική αναπαράσταση είναι μια θεμελιωδώς πιο αποτελεσματική και ισχυρή παραδειγματική παρά τις οπτικές τηςαντίστοιχες.’

Συμπέρασμα

Αυτή είναι μια από τις πιο καθαρές και προσιτές εργασίες που έχω συναντήσει πρόσφατα, με μια αξιοσημείωτη κεντρική ιδέα που μπορεί να αποδειχθεί τουλάχιστον μια πρόσθετη γραμμή επίθεσης κατά του «προβλήματος του παραθύρου περιεχομένου». Πολλοί χρήστες των LLMs θα έχουν μάθει μέχρι τώρα να «ανανεώνουν» κρίσιμες πληροφορίες ή οδηγίες περιοδικά καθ’ όλη τη διάρκεια μιας μακράς συνομιλίας, έχοντας ανακαλύψει με τον σκληρό τρόπο ότι τα likes του ChatGPT δεν μπορούν να θυμηθούν αυτές τις πληροφορίες για πολύ καιρό. Συνεχίζοντας αυτή την ορμή, η ιδέα που υπάρχει στην καινούργια εργασία είναι ότι μια πολύ συμπιεσμένη εκδοχή μιας μακράς συνομιλίας θα μπορούσε να επανα-εισαχθεί αυτόματα σε τακτά χρονικά διαστήματα στο παράθυρο περιεχομένου του τρέχοντος LLM instance, ουσιαστικά «θυμούμενος με μεσάζοντα». Σε ένα κλίμα όπου η σπανιότητα των GPU οδηγεί σε μια αύξηση τιμών ακόμα και σε παραδοσιακή υπολογιστική μνήμη (όπως η DRAM, όπου πολλές προηγούμενες εργασίες GPU έχουν μεταφερθεί για να υποστηρίξουν μεγαλύτερα μοντέλα), φαίνεται απίθανο το υλικό AI να γίνει σημαντικά πιο ικανό στο άμεσο μέλλον: επομένως, καινοτόμες προσεγγίσεις όπως αυτή, οι οποίες είναι σχεδόν μια νοσταλγική ανακεφαλαίωση της εξέλιξης της συμπίεσης αρχείων της δεκαετίας του 1990, μπορεί νααποδειχθούν απαραίτητες για να ωθήσουν την απόδοση προς τα εμπρός. Περισσότερο, θα ήταν υπέροχο αν τα LLMs θα μπορούσαν να διατηρήσουν μια συνεχή συνομιλία για μια ώρα ή περισσότερο, και να θυμηθούν πραγματικά τι ήταν η συνομιλία από την αρχή. * Οι οδηγίες εγκατάστασης CLI δίνονται, αλλά δεν έχω χρόνο να προσπαθήσω να εγκαταστήσω, και δεν είμαι βέβαιος ότι το αποθετήριο είναι code-πλήρες. † Οι

δύο συγγραφείς αναφέρονται ως Fanfan Liu και Haibo Qiu. Όσο η εύκολη έρευνα δείχνει, ο Qiu είναι τώρα ερευνητής στην κινεζική εταιρεία τεχνολογίας Meituan, και ο Liu είναι φοιτητής MS στο Κινεζικό Ακαδημαϊκό Ίδρυμα. Κανείς από τους δύο δεν έχει την εργασία σε Frage στο ιστορικό τους. Αν οποιαδήποτε από αυτές τις αναφορές είναι λανθασμένες, παρακαλώ επικοινωνήστε μαζί μου μέσω του προφίλ μου.

††  Παρόλο που οι συγγραφείς διατηρούν τον τύπο παρέχοντας πρόσθετες ποιοτικές δοκιμές, αυτές δεν είναι αποκαλυπτικές σε σύγκριση με τον προηγούμενο γύρο δοκιμών συμπίεσης και δεν τις έχω καλύψει εδώ. Πρώτον

δημοσίευση την Παρασκευή, 21 Νοεμβρίου 2025

Συγγραφέας στον τομέα της μηχανικής μάθησης, ειδικός σε συνθετικές ανθρώπινες εικόνες. Πρώην επικεφαλής του τμήματος περιεχομένου έρευνας στην Metaphysic.ai, μέχρι τη διάλυσή της στην Brahma.ai της DNEG.
Ιστοσελίδα: martinanderson.ai
Επικοινωνία: martin@martinanderson.ai