Μοντέλα και πλατφόρμες AI
Η Lumai παρουσιάζει οπτικό διακομιστή ΤΝ για τη νέα εποχή εξαγωγής συμπερασμάτων

Βασικά σημείαΗ οπτική υπολογιστική αντικαθιστά τα ηλεκτρόνια με φωτόνια για να ξεπεράσει τα…
Δείτε περισσότερα
- Η οπτική υπολογιστική αντικαθιστά τα ηλεκτρόνια με φωτόνια για να ξεπεράσει τα αυξανόμενα όρια των πυριτικών τσιπ.
- Η Lumai στοχεύει στην εξαγωγή συμπερασμάτων (inference) επειδή πλέον η ανάπτυξη επιβαρύνει τα κέντρα δεδομένων περισσότερο από ό,τι η εκπαίδευση μοντέλων.
- Η Iris Nova συνδυάζει οπτικά και ψηφιακά εξαρτήματα, ώστε οι υπάρχουσες εγκαταστάσεις να μπορούν να την υιοθετήσουν χωρίς ανακατασκευή.
Η Lumai έχει ανακοινώσει αυτό που περιγράφει ως σημαντικό βήμα στην υποδομή της τεχνητής νοημοσύνης: ένα οπτικό σύστημα υπολογισμού που μπορεί να εκτελέσει μεγάλα γλωσσικά μοντέλα με δισεκατομμύρια παραμέτρους σε πραγματικό χρόνο. Το νέο σύστημα, που ονομάζεται Iris Nova, σηματοδοτεί μια στροφή μακριά από τις παραδοσιακές μεθόδους επεξεργασίας που βασίζονται στο πυρίτιο και προς μια θεμελιωδώς διαφορετική προσέγγιση που βασίζεται στο φως.
Η ανακοίνωση έρχεται σε μια εποχή που η βιομηχανία της τεχνητής νοημοσύνης μεταφέρεται γρήγορα από την εκπαίδευση των μοντέλων στην ανάπτυξη σε κλίμακα, ασκώντας πίεση χωρίς προηγούμενο στις υφιστάμενες υποδομές υπολογισμού.
Πέρα από τους περιορισμούς του Πυριτίου
Για χρόνια, η πρόοδος της τεχνητής νοημοσύνης βασίζεται σε μεγάλο βαθμό στις προόδους των chip πυριτίου, ιδιαίτερα των GPU. Nhưng αυτό το μοντέλο αρχίζει να δείχνει σημάδια καταπόνησης. Η κατανάλωση ενέργειας αυξάνεται απότομα και οι βελτιώσεις της απόδοσης γίνονται πιο δύσκολο να επιτευχθούν χωρίς σημαντική αύξηση του κόστους και των απαιτήσεων ενέργειας.
Η προσέγγιση της Lumai αντικαθιστά τα ηλεκτρόνια με φωτόνια. Αντί να εκτελεί υπολογισμούς μέσω ηλεκτρικών σημάτων, το σύστημα χρησιμοποιεί το φως για την επεξεργασία των δεδομένων. Αυτό επιτρέπει τη μαζική παράλληλη επεξεργασία, όπου εκατομμύρια λειτουργίες μπορούν να συμβούν ταυτόχρονα σε τριδιάστατο χώρο αντί σε επίπεδες επιφάνειες πυριτίου.
Σύμφωνα με την εταιρεία, αυτή η αρχιτεκτονική μπορεί να προσφέρει σημαντικά υψηλότερο ρυθμό επεξεργασίας ενώ μειώνει την κατανάλωση ενέργειας έως και 90% σε σύγκριση με τα συμβατικά συστήματα.
Η Αυξανόμενη Πίεση στα Κέντρα Δεδομένων
Η χρονική στιγμή αυτής της κυκλοφορίας αντανακλά τις ευρύτερες προκλήσεις του κλάδου. Οι εργασίες της τεχνητής νοημοσύνης επεκτείνονται γρήγορα, ιδιαίτερα στην εξαγωγή συμπερασμάτων, η οποία περιλαμβάνει την εκτέλεση εκπαιδευμένων μοντέλων σε πραγματικές εφαρμογές.
Τα κέντρα δεδομένων είναι ολοένα και πιο περιορισμένα από τη διαθεσιμότητα ενέργειας. Η παγκόσμια ζήτηση για ενέργεια των κέντρων δεδομένων αναμένεται να διπλασιαστεί μέχρι το τέλος της δεκαετίας, αναγκάζοντας τους χειριστές να εξερευνήσουν μη συμβατικές λύσεις όπως αφιερωμένη παραγωγή ενέργειας και εναλλακτικές πηγές ενέργειας.
Ταυτόχρονα, η κλιμάκωση του παραδοσιακού υλικού γίνεται λιγότερο αποτελεσματική. Κάθε νέα γενιά πυριτίου προσφέρει βελτιώσεις, αλλά συχνά απαιτεί δυσανάλογα περισσότερη ενέργεια και ψύξη.
Η Lumai θέτει την οπτική επεξεργασία ως έναν τρόπο να παρακαμπτήσει αυτούς τους περιορισμούς ολικά αντί να προσφέρει σταδιακές βελτιώσεις.
Πώς Λειτουργεί η Iris Nova
Το σύστημα Iris Nova χρησιμοποιεί μια υβριδική αρχιτεκτονική που συνδυάζει οπτικά και ψηφιακά στοιχεία. Ο οπτικός κινητήρας χειρίζεται τις βασικές μαθηματικές λειτουργίες που τροφοδοτούν τα μοντέλα της τεχνητής νοημοσύνης, ενώ τα συμβατικά ψηφιακά συστήματα διαχειρίζονται τις λειτουργίες λογισμικού και ελέγχου.
Αυτή η σχεδίαση επιτρέπει στο σύστημα να ενσωματωθεί σε υφιστάμενα περιβάλλοντα κέντρων δεδομένων χωρίς να απαιτεί μια πλήρη ανακαίνιση της υποδομής.
Ένα πεδίο όπου το σύστημα είναι ιδιαίτερα βελτιστοποιημένο είναι το στάδιο “prefill” της εξαγωγής συμπερασμάτων, όπου τα μοντέλα επεξεργάζονται μεγάλες ποσότητες δεδομένων εισόδου πριν από τη δημιουργία απαντήσεων. Βελτιώνοντας αυτό το στάδιο, το σύστημα στοχεύει να βελτιώσει τον συνολικό ρυθμό επεξεργασίας και την αποδοτικότητα.
Η Lumai αναφέρει ότι η Iris Nova μπορεί να εκτελέσει μοντέλα όπως το Llama 8B και 70B σε πραγματικό χρόνο, υποδεικνύοντας ότι είναι ικανή να χειρίζεται εργασίες παραγωγής και όχι μόνο πειραματικές περιπτώσεις.
Μια Στροφή προς την Εποχή της εξαγωγής συμπερασμάτων
Η κυκλοφορία αντανακλά μια ευρύτερη στροφή στις προτεραιότητες της τεχνητής νοημοσύνης. Ενώ η εκπαίδευση μοντέλων ολοένα και μεγαλύτερων έχει κυριαρχήσει στα νέα, ο πραγματικός αντίκτυπος της τεχνητής νοημοσύνης ορίζεται τώρα από την εξαγωγή συμπερασμάτων – πώς τα μοντέλα μπορούν να αναπτυχθούν και να κλιμακωθούν αποτελεσματικά.
Αυτή η στροφή αποκαλύπτει φραγμούς που ήταν λιγότερο ορατοί κατά τη φάση εκπαίδευσης. Οι εργασίες εξαγωγής συμπερασμάτων είναι συνεχείς, ευαίσθητες στην καθυστέρηση και ενεργοβόρες, καθιστώντας την αποδοτικότητα έναν κρίσιμο παράγοντα.
Το σύστημα της Lumai σχεδιάστηκε ειδικά για αυτή τη φάση, εστιάζοντας στον ρυθμό επεξεργασίας ανά watt αντί μόνο στην καθαρή υπολογιστική δύναμη.
Πρώιμη πρόσβαση και επιπτώσεις στον κλάδο
Ο διακομιστής Iris Nova είναι τώρα διαθέσιμος για αξιολόγηση από παρόχους υπολογιστικών υποδομών υπερμεγάλης κλίμακας, επιχειρήσεις και ερευνητικά ιδρύματα. Επιπλέον συστήματα στην οικογένεια Iris, συμπεριλαμβανομένων των Aura και Tetra, αναμένεται να ακολουθήσουν, επεκτείνοντας τις επιλογές απόδοσης και ανάπτυξης.
Εάν η οπτική επεξεργασία μπορεί να εκπληρώσει τις υποσχέσεις της σε κλίμακα, θα μπορούσε να αναμορφώσει την οικονομία της υποδομής της τεχνητής νοημοσύνης. Η χαμηλότερη κατανάλωση ενέργειας και η υψηλότερη αποδοτικότητα δεν θα μείωναν μόνο τα λειτουργικά κόστη αλλά θα αντιμετώπιζαν επίσης τις αυξανόμενες ανησυχίες γύρω από την περιβαλλοντική επίδραση της τεχνητής νοημοσύνης.
Ενώ απομένει να φανεί πόσο γρήγορα θα υιοθετηθεί η τεχνολογία, η ανακοίνωση της Lumai υπογραμμίζει μια σαφή κατεύθυνση: το μέλλον της υπολογιστικής τεχνητής νοημοσύνης μπορεί να μην χτιστεί μόνο στο πυρίτιο.












