Η Lumai Παρουσιάζει τον Οπτικό Υπολογιστή AI για την Ενίσχυση της Επόμενης Εποχής της Σύνθεσης

Η Lumai έχει ανακοινώσει ένα σημαντικό βήμα στην υποδομή της τεχνητής νοημοσύνης: ένα οπτικό σύστημα υπολογισμού που μπορεί να εκτελέσει μοντέλα μεγάλης κλίμακας γλώσσας σε πραγματικό χρόνο. Το νέο σύστημα, που ονομάζεται Iris Nova, σηματοδοτεί μια στροφή μακριά από τις παραδοσιακές μεθόδους επεξεργασίας που βασίζονται στο πυρίτιο και προς μια фундамεντικά διαφορετική προσέγγιση που βασίζεται στο φως.

Η ανακοίνωση έρχεται σε μια εποχή που η βιομηχανία της τεχνητής νοημοσύνης μεταφέρεται γρήγορα από την εκπαίδευση των μοντέλων στην ανάπτυξη σε κλίμακα, Applies άσκηση άνευ προηγουμένου πίεση στις υφιστάμενες υποδομές υπολογισμού.

Πέρα από τις Περιορισμοί του Πυριτίου

Για χρόνια, η πρόοδος της τεχνητής νοημοσύνης βασίζεται σε μεγάλο βαθμό στις προόδους των chip πυριτίου, ιδιαίτερα των GPU. Nhưng αυτό το μοντέλο αρχίζει να δείχνει σημάδια καταπόνησης. Η κατανάλωση ενέργειας αυξάνεται απότομα και οι βελτιώσεις της απόδοσης γίνονται πιο δύσκολο να επιτευχθούν χωρίς σημαντική αύξηση του κόστους και των απαιτήσεων ενέργειας.

Η προσέγγιση της Lumai αντικαθιστά τους ηλεκτρόνες με φωτόνια. Αντί να εκτελούν υπολογισμούς μέσω ηλεκτρικών σημάτων, το σύστημα χρησιμοποιεί το φως για την επεξεργασία των δεδομένων. Αυτό επιτρέπει τη μαζική παράλληλη επεξεργασία, όπου εκατομμύρια λειτουργίες μπορούν να συμβούν ταυτόχρονα σε τριδιάστατο χώρο αντί σε επίπεδες επιφάνειες πυριτίου.

Σύμφωνα με την εταιρεία, αυτή η αρχιτεκτονική μπορεί να προσφέρει σημαντικά υψηλότερη απόδοση ενώ μειώνει την κατανάλωση ενέργειας έως και 90% σε σύγκριση με τις συμβατικές συστήματα .

Η Αυξανόμενη Πίεση στα Κέντρα Δεδομένων

Ο χρόνος της εκτόξευσης αυτής αντανακλά τους ευρύτερους βιομηχανικούς προκλήματα. Οι εργασίες της τεχνητής νοημοσύνης επεκτείνονται γρήγορα, ιδιαίτερα στην σύνθεση, η οποία περιλαμβάνει την εκτέλεση εκπαιδευμένων μοντέλων σε πραγματικές εφαρμογές.

Τα κέντρα δεδομένων είναι ολοένα και πιο περιορισμένα από τη διαθεσιμότητα ενέργειας. Η παγκόσμια ζήτηση για ενέργεια των κέντρων δεδομένων αναμένεται να διπλασιαστεί μέχρι το τέλος της δεκαετίας, αναγκάζοντας τους χειριστές να εξερευνήσουν μη συμβατικές λύσεις όπως αφιερωμένη παραγωγή ενέργειας και εναλλακτικές πηγές ενέργειας .

Ταυτόχρονα, η κλιμάκωση του παραδοσιακού υλικού γίνεται λιγότερο αποτελεσματική. Κάθε νέα γενιά πυριτίου προσφέρει βελτιώσεις, αλλά συχνά απαιτεί αναλογικά περισσότερη ενέργεια και ψύξη.

Η Lumai θέτει την οπτική επεξεργασία ως一种 τρόπο να παρακαμπτήσει αυτές τις περιορισμοί ολικά αντί να τις βελτιώσει σταδιακά.

Πώς Λειτουργεί η Iris Nova

Το σύστημα Iris Nova χρησιμοποιεί μια υβριδική αρχιτεκτονική που συνδυάζει οπτικά και ψηφιακά компоненты. Ο οπτικός κινητήρας χειρίζεται τις βασικές μαθηματικές λειτουργίες που τροφοδοτούν τα μοντέλα της τεχνητής νοημοσύνης, ενώ τα συμβατικά ψηφιακά συστήματα διαχειρίζονται τις λειτουργίες λογισμικού και ελέγχου.

Αυτή η σχεδίαση επιτρέπει στο σύστημα να ενσωματωθεί σε υφιστάμενα περιβάλλοντα κέντρων δεδομένων χωρίς να απαιτεί μια πλήρη ανακαίνιση της υποδομής.

Ένα πεδίο όπου το σύστημα είναι ιδιαίτερα βελτιστοποιημένο είναι το στάδιο “prefill” της σύνθεσης, όπου τα μοντέλα επεξεργάζονται μεγάλες ποσότητες δεδομένων εισόδου πριν από τη δημιουργία απαντήσεων. Βελτιώνοντας αυτό το στάδιο, το σύστημα στοχεύει να βελτιώσει την συνολική απόδοση και αποδοτικότητα.

Η Lumai αναφέρει ότι η Iris Nova μπορεί να εκτελέσει μοντέλα όπως το Llama 8B και 70B σε πραγματικό χρόνο, υποδεικνύοντας ότι είναι ικανή να χειρίζεται εργασίες παραγωγής και όχι μόνο πειραματικές περιπτώσεις .

Μια Στροφή προς την Εποχή της Σύνθεσης

Η εκτόξευση αντανακλά μια ευρύτερη στροφή στις προτεραιότητες της τεχνητής νοημοσύνης. Ενώ η εκπαίδευση μοντέλων ολοένα και μεγαλύτερων έχει κυριαρχήσει στα νέα, ο πραγματικός αντίκτυπος της τεχνητής νοημοσύνης ορίζεται τώρα από τη σύνθεση – πώς τα μοντέλα μπορούν να αναπτυχθούν και να κλιμακωθούν αποτελεσματικά.

Αυτή η στροφή αποκαλύπτει φραγμούς που ήταν λιγότερο ορατοί κατά τη φάση εκπαίδευσης. Οι εργασίες σύνθεσης είναι συνεχείς, ευαίσθητες στη καθυστέρηση και ενεργοβόρες, καθιστώντας την αποδοτικότητα einen κρίσιμο παράγοντα.

Το σύστημα της Lumai σχεδιάστηκε ειδικά για αυτή τη φάση, εστιάζοντας στην απόδοση ανά watt αντί μόνο στην καθαρή υπολογιστική δύναμη.

Πρόωρη Πρόσβαση και Βιομηχανικές Επιπτώσεις

Ο διακομιστής Iris Nova είναι τώρα διαθέσιμος για αξιολόγηση από υπερ-σκαλαρείς, επιχειρήσεις και ερευνητικά ιδρύματα. Επιπλέον συστήματα στην οικογένεια Iris, συμπεριλαμβανομένων των Aura και Tetra, αναμένεται να ακολουθήσουν, επεκτείνοντας τις επιλογές απόδοσης και ανάπτυξης.

Εάν η οπτική επεξεργασία μπορεί να εκπληρώσει τις υποσχέσεις της σε κλίμακα, θα μπορούσε να αναμορφώσει την οικονομία της υποδομής της τεχνητής νοημοσύνης. Η χαμηλότερη κατανάλωση ενέργειας και η υψηλότερη αποδοτικότητα δεν θα μειώσουν μόνο τους λειτουργικούς κόστους αλλά θα αντιμετωπίσουν επίσης τις αυξανόμενες ανησυχίες γύρω από την περιβαλλοντική επίδραση της τεχνητής νοημοσύνης.

Ενώ παραμένει να δειπνεύσει πώς γρήγορα θα υιοθετηθεί η τεχνολογία, η ανακοίνωση της Lumai υπογραμμίζει μια σαφή κατεύθυνση: το μέλλον της υπολογιστικής τεχνητής νοημοσύνης μπορεί να μην χτιστεί μόνο στο πυρίτιο.