Η Deep Cogito συγκεντρώνει 43 εκατομμύρια δολάρια Series A για την κατασκευή της μηχανής μετα‑εκπαίδευσης για AI που αυτοβελτιώνεται

Deep Cogito συγκέντρωσε 43 εκατομμύρια δολάρια Series A καθώς το εργαστήριο AI του Σαν Φρανσίσκο επιδιώκει να επεκτείνει ένα όλο και πιο σημαντικό τμήμα της στοίβας τεχνητής νοημοσύνης: τι συμβαίνει μετά την προεκπαίδευση ενός βασικού μοντέλου.

Η σειρά χρηματοδότησης ηγήθηκε από την TQ Ventures, με συμμετοχή της Benchmark, της Nexus Venture Partners, της Atreides Management, της South Park Commons, και της εταιρείας ασφάλειας cloud Zscaler, η οποία είναι τόσο πελάτης όσο και στρατηγικός επενδυτής. Η χρηματοδότηση αυξάνει το συνολικό κεφάλαιο της Deep Cogito σε πάνω από 56 εκατομμύρια δολάρια.

Ιδρυμένη από τους Drishan Arora και Dhruv Malrana, οι οποίοι είχαν εργαστεί σε προϊόντα AI Search της Google, όπως AI Mode και AI Overviews, η Deep Cogito στοιχηματίζει ότι τα μελλοντικά κέρδη στην νοημοσύνη AI θα προέρχονται όλο και περισσότερο από καλύτερους αλγορίθμους μάθησης και μετα‑εκπαίδευση, αντί απλώς από τη μεγέθυνση των προεκπαιδευτικών εκτελέσεων.

Αυτό τοποθετεί την εταιρεία σε διαφορετικό τμήμα του αγώνα AI από τα εργαστήρια που εστιάζουν κυρίως στην κατασκευή ολοένα και μεγαλύτερων βασικών μοντέλων από το μηδέν.

Γιατί η Deep Cogito στοιχηματίζει στη μετα‑εκπαίδευση

Προεκπαίδευση είναι υπεύθυνη για την παροχή σε ένα μεγάλο γλωσσικό μοντέλο μιας ευρείας βάσης γνώσεων, εκθέτοντάς το σε τεράστιες ποσότητες δεδομένων. Η μετα‑εκπαίδευση, στη συνέχεια, διαμορφώνει τον τρόπο που το μοντέλο συμπεριφέρεται, λογίζεται, ακολουθεί οδηγίες, χρησιμοποιεί εργαλεία και εκτελεί συγκεκριμένες εργασίες.

Η υπόθεση της Deep Cogito είναι ότι αυτή η δεύτερη φάση έχει σημαντικά περισσότερο χώρο για εξέλιξη.

Η έρευνα της εταιρείας εστιάζει στην ενισχυτική μάθηση μεγάλης κλίμακας και σε μεθόδους που επιτρέπουν στα μοντέλα να βελτιώνουν προοδευτικά τις δικές τους δυνατότητες. Αντί να αντιμετωπίζει ένα προεκπαιδευμένο μοντέλο ως σχεδόν ολοκληρωμένο προϊόν που χρειάζεται μόνο επιπλέον ευθυγράμμιση, η Deep Cogito το βλέπει ως σημείο εκκίνησης του οποίου οι υποκείμενες δυνατότητες μπορούν να συνεχίσουν να αναπτύσσονται.

Ο Arora συνοψίζει τη διαφορά στην ανακοίνωση της σειράς: «Η προεκπαίδευση παρέχει σε ένα μοντέλο τεράστια ποσότητα γνώσης και ικανοτήτων. Η μετα‑εκπαίδευση καθορίζει τι μπορεί πραγματικά να γίνει αυτό το μοντέλο.»

Αυτό είναι ιδιαίτερα σχετικό καθώς η οικονομία της απλής κλιμάκωσης της προεκπαίδευσης γίνεται πιο απαιτητική. Η εκπαίδευση κορυφαίων βασικών μοντέλων απαιτεί τεράστιες βάσεις δεδομένων, συγκροτήματα GPU, υποδομές ενέργειας και κεφάλαιο. Ένα επαρκώς αποτελεσματικό σύστημα μετα‑εκπαίδευσης θα μπορούσε ενδεχομένως να εξάγει σημαντικά περισσότερη νοημοσύνη από ένα υπάρχον μοντέλο χωρίς να επαναλάβει ολόκληρη τη διαδικασία.

Μετατρέποντας το ακριβό λογισμό σε καλύτερη διαίσθηση

Στο κέντρο της έρευνας της Deep Cogito βρίσκεται η Επαναληπτική Απόσταξη και Ενίσχυση (IDA), μια προσέγγιση που η εταιρεία παρουσίασε δημόσια με την πρώτη οικογένεια μοντέλων Cogito.

Η έννοια είναι σχετικά απλή, ακόμη και αν η υλοποίησή της σε κλίμακα δεν είναι.

Κατά τη φάση ενίσχυσης, ένα μοντέλο λαμβάνει πρόσθετους υπολογιστικούς πόρους και τεχνικές που του επιτρέπουν να καταλήξει σε μια ισχυρότερη απάντηση από αυτήν που θα παρήγαγε άμεσα. Η προκύπτουσα βελτίωση αποστάσσεται ξανά στις παραμέτρους του μοντέλου. Το αναβαθμισμένο μοντέλο γίνεται το σημείο εκκίνησης για μια άλλη επανάληψη.

Αντί να απαιτείται από το μοντέλο να εκτελεί μια ολοένα και πιο μακρά διαδικασία λογισμού κάθε φορά που αντιμετωπίζει μια δύσκολη ερώτηση, ο στόχος είναι να εσωτερικοποιήσει σταδιακά μέρος αυτού που έμαθε κατά τις πιο υπολογιστικά δαπανηρές φάσεις λογισμού.

Η Deep Cogito περιγράφει αυτό ως βελτίωση της «διαίσθησης» ενός μοντέλου.

Η διαφορά αυτή θα μπορούσε να γίνει σημαντική για την οικονομία της εκτέλεσης (inference). Οι μακριές αλυσίδες λογισμού μπορούν να βελτιώσουν την ακρίβεια, αλλά αυξάνουν επίσης την κατανάλωση token, την καθυστέρηση και το κόστος. Ένα μοντέλο που έχει εσωτερικοποιήσει καλύτερες διαδρομές λογισμού μπορεί να φτάσει σε παρόμοια συμπεράσματα με λιγότερους υπολογισμούς κατά το inference.

Τα μοντέλα Cogito παρέχουν δημόσιο τεστ της προσέγγισης

Η Deep Cogito χρησιμοποιεί την οικογένεια ανοιχτών βαρών μοντέλων Cogito ως δοκιμαστικό πεδίο για αυτές τις τεχνικές.

Οι αρχικές κυκλοφορίες της κυμαίνονταν από 3 δισεκατομμύρια έως 70 δισεκατομμύρια παραμέτρους, πριν η εταιρεία επεκτείνει την οικογένεια με μοντέλα 70B, 109B mixture‑of‑experts (MoE), 405B και 671B MoE.

Με το Cogito v2, η εταιρεία ανέφερε ότι το μοντέλο 671B παρήγαγε αλυσίδες λογισμού περίπου 60 % πιο σύντομες από το DeepSeek R1 0528, διατηρώντας την ανταγωνιστικότητα σε πολλές αξιολογήσεις. Η Deep Cogito δήλωσε επίσης ότι δαπάνησε λιγότερο από 3,5 εκατομμύρια δολάρια συνολικά για την εκπαίδευση οκτώ μοντέλων Cogito, από 3B έως 671B, αν και οι συγκρίσεις απόδοσης και κόστους εκπαίδευσης δεν μεταφράζονται απαραίτητα άμεσα σε οικονομικά παραγωγής.

Η εταιρεία συνέχισε τη βελτίωση του συστήματος με το Cogito v2.1 671B, το οποίο χρησιμοποιεί ένα ανοιχτό‑άδεια μοντέλο βάσης DeepSeek που η Deep Cogito στη συνέχεια μετα‑εκπαιδεύει εσωτερικά. Η ερευνητική κυκλοφορία v2.1 αναφέρει ότι το μοντέλο χρησιμοποιεί επίβλεψη διαδικασίας κατά τη διάρκεια του λογισμού, με εκπαίδευση σχεδιασμένη να βελτιώνει την ικανότητα του μοντέλου να εντοπίζει παραγωγικές διαδρομές λογισμού αντί να το ενθαρρύνει απλώς να λογίζεται περισσότερο.

Αυτή η πρόοδος είναι σημαντική για το ευρύτερο επιχείρημα της Deep Cogito. Η εταιρεία δεν χρειάζεται να αποδείξει ότι μπορεί να προεκπαιδεύσει ένα καλύτερο βασικό μοντέλο από τα μεγαλύτερα εργαστήρια AI. Πρέπει να αποδείξει ότι η διαδικασία μετα‑εκπαίδευσής της μπορεί σταθερά να μετατρέπει ισχυρά υπάρχοντα μοντέλα σε πιο ικανά.

Η Zscaler επισημαίνει την επιχειρηματική ευκαιρία

Η άλλη πλευρά της επιχείρησης είναι η εφαρμογή αυτών των τεχνικών μετα‑εκπαίδευσης πέρα από τα δημόσια κυκλοφορημένα μοντέλα Cogito και η ενσωμάτωσή τους σε επιχειρηματικό AI.

Αντί να βασίζονται αποκλειστικά σε ένα γενικού σκοπού μοντέλο αιχμής, οι εταιρείες μπορούν ενδεχομένως να εκπαιδεύσουν εξειδικευμένα μοντέλα γύρω από τα ιδιόκτητά τους δεδομένα, τις ροές εργασίας, τα κριτήρια αξιολόγησης και τα επιθυμητά αποτελέσματα.

Αυτό μπορεί να είναι πολύ πιο βαθύ από τη δημιουργία με ενίσχυση ανάκτησης (RAG), η οποία συνήθως παρέχει σε ένα γενικό μοντέλο πρόσβαση σε εξωτερικές πληροφορίες της εταιρείας κατά το inference. Η προσέγγιση της Deep Cogito στοχεύει στην αλλαγή του ίδιου του μοντέλου, εκπαιδεύοντας ειδικές για το πεδίο ικανότητες στα βάρη του.

Η Zscaler παρέχει ένα πρώιμο παράδειγμα. Η εταιρεία κυβερνοασφάλειας ξεκίνησε ως πελάτης της Deep Cogito πριν συμμετάσχει στη Series A. Οι εταιρείες έχουν επίσης συνεργαστεί γύρω από εξειδικευμένη πληροφορία ασφαλείας, με τη Deep Cogito να υποστηρίζει ότι οι εφαρμογές ασφαλείας μπορούν να ωφεληθούν από μοντέλα που έχουν μετα‑εκπαιδευτεί με τα δικά δεδομένα και αποτελέσματα ασφαλείας ενός οργανισμού.

Η ευρύτερη επιχειρηματική πρόταση αφορά τόσο την εξειδίκευση όσο και τον έλεγχο. Η κάλυψη της χρηματοδότησης από το Wall Street Journal σημειώνει ότι η Deep Cogito τοποθετεί την τεχνολογία της γύρω από μοντέλα που οι επιχειρήσεις μπορούν να εκπαιδεύσουν και να κατέχουν χρησιμοποιώντας ιδιόκτητα δεδομένα, αντί να παραμένουν πλήρως εξαρτημένες από κλειστά συστήματα αιχμής.

Τι θα χρηματοδοτήσει η Series A των 43 εκατομμυρίων δολαρίων

Η Deep Cogito σχεδιάζει να χρησιμοποιήσει τη Series A για να επεκτείνει την ερευνητική και μηχανική της ομάδα, να αυξήσει την υπολογιστική υποδομή διαθέσιμη για εκπαίδευση μεγάλης κλίμακας, να αναπτύξει μελλοντικά μοντέλα Cogito και να συνεργαστεί με περισσότερες επιχειρήσεις που αναζητούν εξειδικευμένα μοντέλα.

Η υποδομή πιθανότατα θα αποτελεί ιδιαίτερα σημαντικό μέρος αυτής της επέκτασης. Τα υλικά πρόσληψης της Deep Cogito περιγράφουν ερευνητές που εργάζονται σε καινοτόμους αλγόριθμους ενισχυτικής μάθησης, αγωγούς δεδομένων, αξιολόγηση και κατανεμημένη υποδομή, ενώ εκπαιδεύουν μοντέλα που υπερβαίνουν τις 400 δισεκατομμύρια παραμέτρους.

Η χρηματοδότηση, επομένως, παρέχει στην εταιρεία σημαντικά μεγαλύτερη δυνατότητα να δοκιμάσει αν οι βελτιώσεις που επιδείχθηκαν στα πρώτα μοντέλα θα συνεχιστούν καθώς εφαρμόζει περισσότερους υπολογισμούς και εκτελεί περισσότερες επαναλήψεις της διαδικασίας μετα‑εκπαίδευσης.

Η μεγαλύτερη συνέπεια: AI που μαθαίνει από τη δική του λογική

Η μεγαλύτερη σημασία της δουλειάς της Deep Cogito είναι η δυνατότητα η ανάπτυξη AI να μετατοπιστεί από συστήματα που εκπαιδεύονται κυρίως με ανθρώπινα δεδομένα προς μοντέλα που όλο και περισσότερο παράγουν, αξιολογούν και εσωτερικοποιούν τις δικές τους βελτιώσεις.

Προσεγγίσεις όπως η Επαναληπτική Απόσταξη και Ενίσχυση στοχεύουν στο να μετατρέψουν τον ακριβό λογισμό σε διαρκή ικανότητα. Ένα μοντέλο μπορεί να χρησιμοποιήσει πρόσθετους υπολογισμούς για να λύσει πιο δύσκολα προβλήματα, στη συνέχεια να αποστάξει αυτές τις κερδισμένες γνώσεις στα βάρη του, δημιουργώντας ένα ισχυρότερο σημείο εκκίνησης για τον επόμενο κύκλο εκπαίδευσης.

Με την πάροδο του χρόνου, αυτό θα μπορούσε να δημιουργήσει έναν κύκλο ανάπτυξης: λογισμός, αξιολόγηση, μάθηση και βελτίωση.

Υπάρχει ακόμη ένα σημαντικό χάσμα μεταξύ επαναληπτικής μετα‑εκπαίδευσης και πραγματικής αναδρομικής αυτοβελτίωσης. Τα μοντέλα χρειάζονται αξιόπιστες αξιολογήσεις, προσεκτικά σχεδιασμένους στόχους και μέτρα ασφαλείας κατά την ενίσχυση σφαλμάτων. Αλλά ακόμη και περιορισμένες εκδοχές αυτής της προσέγγισης θα μπορούσαν να μειώσουν την εξάρτηση από ολοένα και μεγαλύτερες προεκπαιδευτικές εκτελέσεις και να κάνουν πιο πρακτικό το εξειδικευμένο AI που εκπαιδεύεται με ιδιόκτητα επιχειρηματικά δεδομένα.

Αν αυτή η πορεία συνεχιστεί, το ανταγωνιστικό πλεονέκτημα στην AI μπορεί να εξαρτάται λιγότερο αποκλειστικά από το ποιος διαθέτει τα μεγαλύτερα σύνολα υπολογιστικής ισχύος και περισσότερο από το ποια μοντέλα είναι τα καλύτερα στο να μαθαίνουν από τη δική τους εμπειρία.