Η Hedra λανσάρει το Model Factory για την εκπαίδευση, την ανάπτυξη και τη βελτίωση μοντέλων ΤΝ για πραγματικές συνθήκες

Η Hedra λανσάρει το Model Factory, μια πλατφόρμα που συνδυάζει σε μία ροή εργασιών την υποδομή GPU, τη μετεκπαίδευση μοντέλων, τη βελτιστοποίηση της εξαγωγής συμπερασμάτων και την ανατροφοδότηση από την παραγωγική χρήση. Η ερευνητική εταιρεία, στην οποία έχει επενδύσει η a16z, απευθύνεται σε ομάδες ρομποτικής, μεταποίησης, βιολογίας και άμυνας που χρειάζονται μοντέλα προσαρμοσμένα στα δικά τους δεδομένα και στις συνθήκες λειτουργίας τους.

Η πρόταση αυτή καλύπτει ένα πρακτικό κενό στην εταιρική ΤΝ: ένα ικανό μοντέλο γενικής χρήσης συχνά αποτελεί μόνο την αφετηρία. Για να μετατραπεί σε αξιόπιστο σύστημα για βίντεο, δεδομένα αισθητήρων ή φυσικές ενέργειες, μπορεί να χρειαστούν προσαρμοσμένα περιβάλλοντα εκπαίδευσης, εξειδικευμένο λογισμικό ανάπτυξης και ένας τρόπος αξιολόγησης κάθε νέας έκδοσης με βάση την εργασία που πρέπει να εκτελέσει.

Σύνδεση της εκπαίδευσης, της ανάπτυξης και της ανατροφοδότησης από την παραγωγική χρήση

Το Model Factory συνδυάζει ευέλικτα περιβάλλοντα απομόνωσης GPU με μετεκπαίδευση, την οποία αναλαμβάνουν ερευνητές της Hedra σε συνεργασία με αυτόνομους πράκτορες ΤΝ. Οι πελάτες παρέχουν τα δεδομένα και τις μηχανές προσομοίωσης· η Hedra συμβάλλει στη δημιουργία περιβαλλόντων ενισχυτικής μάθησης και συνόλων δεδομένων και, στη συνέχεια, βελτιστοποιεί τον τρόπο λειτουργίας των μοντέλων που προκύπτουν.

«Η αναδρομική αυτοβελτίωση αλλάζει ήδη τον τρόπο με τον οποίο δημιουργούνται τα μοντέλα αιχμής», δήλωσε ο Michael Lingelbach, ιδρυτής και διευθύνων σύμβουλος της Hedra. «Το επόμενο βήμα είναι ο πραγματικός κόσμος, όπου τα δεδομένα είναι βίντεο, δεδομένα αισθητήρων και προσομοιώσεις. Το Hedra Model Factory παρέχει στις ομάδες ρομποτικής, μεταποίησης, βιολογίας και άμυνας την υποδομή για να μετεκπαιδεύουν, να αναπτύσσουν και να συνεχίζουν να βελτιώνουν τα δικά τους μοντέλα.»

Μετά την ανάπτυξη, οι ερευνητές αναλύουν την απόδοση στην παραγωγική χρήση, επανεκπαιδεύουν το μοντέλο και κυκλοφορούν νέες εκδόσεις μόνο όταν αυτές περνούν τις αξιολογήσεις του πελάτη. Έτσι, τα κριτήρια αξιολόγησης έχουν κεντρικό ρόλο στην υπηρεσία: ακόμη και ένα ταχύτερο μοντέλο πρέπει να πληροί τις απαιτήσεις της εφαρμογής στην οποία χρησιμοποιείται.

Η Hedra χρησιμοποιεί τον όρο «αναδρομική αυτοβελτίωση» για να περιγράψει την επαναληπτική εργασία ερευνητών και αυτόνομων επιστημόνων ΤΝ πάνω σε πειράματα, εκτελέσεις εκπαίδευσης και μεθόδους βελτιστοποίησης. Η διαδικασία που ανακοινώθηκε περιλαμβάνει ερευνητές και στάδια αξιολόγησης από τον πελάτη, και όχι ανεξέλεγκτες αυτόματες αλλαγές σε μοντέλα που χρησιμοποιούνται στην παραγωγή.

Γιατί η φυσική ΤΝ χρειάζεται περισσότερα από μια στοίβα εξυπηρέτησης μοντέλων κειμένου

Το Περιβάλλον εκτέλεσης μοντέλων κόσμου, ή WMR της Hedra παρέχει πρόσθετο πλαίσιο για το λανσάρισμα. Η εταιρεία το περιγράφει ως μηχανή εξαγωγής συμπερασμάτων ανοιχτού πυρήνα για μοντέλα εικόνας, βίντεο, κόσμου και κειμένου, με υποστήριξη για GPU NVIDIA και AMD. Οι βελτιστοποιήσεις του στοχεύουν στα βήματα διάχυσης, στην προσοχή μεταξύ καρέ, καθώς και σε λειτουργίες κωδικοποίησης και αποκωδικοποίησης που μπορούν να καταναλώσουν σημαντικό χρόνο GPU σε οπτικού τύπου φόρτους εργασίας.

Σε ένα μοντέλο όρασης-γλώσσας-δράσης, η εξαγωγή συμπερασμάτων παράγει ενέργειες και ερμηνεύει εισόδους. Σε ένα περιβάλλον προσομοίωσης, τόσο το μοντέλο όσο και το περιβάλλον που δημιουργεί την εμπειρία εκπαίδευσής του μπορεί να χρειάζονται επιταχυντές. Επομένως, η βελτίωση της ροής εργασιών δεν περιορίζεται στην επιλογή μοντέλου: μπορεί να περιλαμβάνει τον περιορισμό της μεταφοράς δεδομένων, την προσαρμογή της αριθμητικής ακρίβειας στις απαιτήσεις ποιότητας και τον συντονισμό της εκπαίδευσης με την εξυπηρέτηση.

Η προσφορά περιβαλλόντων απομόνωσης GPU της εταιρείας επιτρέπει στις ομάδες να εισάγουν κοντέινερ, εξαρτήσεις και κώδικα μοντέλων σε απομονωμένα περιβάλλοντα, ενώ η Hedra διαχειρίζεται την τοποθέτηση, την κλιμάκωση και την ανάκαμψη υλικού. Οι ομάδες μπορούν να τροποποιούν το περιβάλλον εκτέλεσης, να εκτελούν εκπαίδευση ή αξιολόγηση και να εξάγουν σημεία ελέγχου και τεχνουργήματα. Η πλατφόρμα εκπαίδευσης υποστηρίζει εποπτευόμενη λεπτομερή προσαρμογή, ελαφρούς προσαρμογείς LoRA και ενισχυτική μάθηση, με αξιολόγηση των σημείων ελέγχου πριν από την εξυπηρέτηση.

Έξι φορές ταχύτερη επεξεργασία εικόνας, υπό συγκεκριμένες προϋποθέσεις

Η ανακοίνωση του λανσαρίσματος αναδεικνύει την επεξεργασία εικόνων με το Krea 3 ως ένα παράδειγμα της διαδικασίας βελτιστοποίησης. Η Hedra αναφέρει ότι μείωσε τον χρόνο επεξεργασίας μιας εικόνας 2K από περίπου 22 δευτερόλεπτα σε 3,6 δευτερόλεπτα, χρησιμοποιώντας τις ίδιες τέσσερις GPU AMD Instinct MI355X, σε λιγότερο από μία εβδομάδα. Η σύγκριση συνδυάζει τη βελτιστοποίηση της εξαγωγής συμπερασμάτων με την απόσταξη: η αρχική έκδοση χρησιμοποιούσε το αρχικό μοντέλο bf16 με 30 βήματα δειγματοληψίας, ενώ η ταχύτερη έκδοση χρησιμοποιούσε ένα μοντέλο 14 βημάτων που είχε υποστεί απόσταξη.

Η διάκριση αυτή έχει σημασία, επειδή το αποτέλεσμα αντανακλά αλλαγές τόσο στους υπολογισμούς του μοντέλου όσο και στο λογισμικό που τους εκτελεί. Πρόκειται για αναφερόμενο αποτέλεσμα σε συγκεκριμένο φόρτο εργασίας και διαμόρφωση, όχι για γενική επιτάχυνση κατά έξι φορές για κάθε μοντέλο που εξυπηρετεί η πλατφόρμα.

Η ξεχωριστή τεχνική ανάλυση της Krea 3 από την Hedra περιγράφει πράξεις πινάκων χαμηλότερης ακρίβειας, προσαρμοσμένη λειτουργία προσοχής, συγχωνευμένες πράξεις και μεταφορές μεταξύ GPU που μεταφέρθηκαν σε ειδικές μονάδες αντιγραφής. Η σύγκριση από 22,9 σε 3,3 δευτερόλεπτα μετρά τον χρόνο εκτέλεσης του μετασχηματιστή διάχυσης και όχι τον χρόνο απόκρισης ολόκληρου του αιτήματος. Επομένως, τα στοιχεία αυτά πρέπει να εξετάζονται χωριστά από το αποτέλεσμα επεξεργασίας εικόνας που αναφέρεται στην ανακοίνωση του λανσαρίσματος.

Φυσική βίντεο και προσαρμογή του υλικού ρομπότ

Η Hedra αναφέρει επίσης ότι επανεκπαίδευσε το H3 ώστε να αποδίδει με φυσική συνέπεια. Το επανεκπαιδευμένο μοντέλο συγκέντρωσε 34,9 στη δοκιμασία Physics-IQ της Google DeepMind, έναντι 30,3 για το H3 Max, με οπτική ποιότητα που, σύμφωνα με την Hedra, είναι συγκρίσιμη. Μια έκδοση που δημιουργήθηκε με αυτόνομη απόσταξη απέδωσε ένα κλιπ διάρκειας πέντε δευτερολέπτων σε λιγότερο από τρία δευτερόλεπτα σε GPU MI355X, σύμφωνα με την εταιρεία.

Σε ένα άλλο παράδειγμα, σε μια μελέτη προσομοίωσης αντικαταστάθηκε η αρπάγη ενός ρομπότ που εκτελούσε μια εκπαιδευμένη πολιτική. Σύμφωνα με τη Hedra, η αντιστοίχιση της εμβέλειας της ανταλλακτικής αρπάγης και του σημείου σύλληψης στην εικόνα της κάμερας του καρπού επανέφερε την επιτυχία στην εργασία από σχεδόν μηδενική σε σχεδόν 100%, χωρίς επανεκπαίδευση. Το εύρημα αφορά τη συγκεκριμένη διάταξη προσομοίωσης που περιγράφεται· δεν αποδεικνύει ότι αυθαίρετες αλλαγές υλικού μπορούν να αντιμετωπιστούν χωρίς περαιτέρω εκπαίδευση σε ρομπότ που χρησιμοποιούνται στην πράξη.

Τα παραδείγματα αυτά αναδεικνύουν διαφορετικές πτυχές του ίδιου μηχανικού προβλήματος: πώς διατηρείται η χρήσιμη συμπεριφορά ενός μοντέλου, ενώ αλλάζει ο τρόπος λειτουργίας του ή το σύστημα στο οποίο λειτουργεί.

Ερευνητική υπηρεσία με επίκεντρο μοντέλα που ανήκουν στους πελάτες

Το Model Factory είναι διαθέσιμο από τις 10 Νοεμβρίου. Οι ομάδες μπορούν να συνεργαστούν με τους ερευνητές της Hedra για τη δημιουργία προσαρμοσμένων μοντέλων, να ξεκινήσουν με ευέλικτη δυναμικότητα σε περιβάλλον δοκιμών GPU, χωρίς μακροχρόνιες δεσμεύσεις, ή να εντάξουν ένα υπάρχον μοντέλο στη μηχανή συμπερασμού του. Οι επιλογές ανάπτυξης περιλαμβάνουν υποδομή εντός των εγκαταστάσεων ή κοντινό κέντρο δεδομένων συνεργάτη, ενώ οι στόχοι βελτιστοποίησης κυμαίνονται από μοντέλα δράσης στον πραγματικό κόσμο που λειτουργούν ταχύτερα από τον πραγματικό χρόνο έως μοντέλα όρασης-γλώσσας-δράσης που χωρούν σε συσκευές άκρου.

Η εταιρεία αναφέρει ότι τα έσοδά της αυξήθηκαν κατά 15 φορές τους προηγούμενους 12 μήνες, χωρίς, ωστόσο, να αποκαλύψει στην ανακοίνωση το αρχικό ύψος των εσόδων. Η επισκόπηση της εταιρείας παρουσιάζει την πλατφόρμα ως επέκταση της εμπειρίας της στην ανάπτυξη και διάθεση των δικών της οπτικών μοντέλων.

Για τους πελάτες, η ουσιαστική πρόταση είναι ένας ολοκληρωμένος κύκλος μηχανικής: αξιοποίηση δεδομένων του εκάστοτε πεδίου για τη βελτίωση ενός μοντέλου, βελτιστοποίησή του για το υλικό και τον διαθέσιμο χρόνο απόκρισης, αξιολόγηση του αποτελέσματος και αξιοποίηση της εμπειρίας από την παραγωγική λειτουργία στην επόμενη επανάληψη. Η αποτελεσματικότητα αυτής της διαδικασίας θα εξαρτηθεί τόσο από τις αξιολογήσεις που αφορούν τη συγκεκριμένη εργασία και τους περιορισμούς της ανάπτυξης όσο και από την ταχύτητα των GPU που βρίσκονται από κάτω.