Η Weebit Nano λανσάρει ερευνητικό πρόγραμμα Matrix ReRAM για υπολογιστική τεχνητής νοημοσύνης εντός της μνήμης

Η Weebit Nano λανσάρει το ερευνητικό πρόγραμμα υπολογιστικής εντός μνήμης Weebit Matrix, δίνοντας σε ακαδημαϊκούς και βιομηχανικούς ερευνητές πρόσβαση σε υλικό ReRAM για να δοκιμάσουν έναν διαφορετικό τρόπο εκτέλεσης υπολογισμών τεχνητής νοημοσύνης: την εκτέλεσή τους εκεί όπου αποθηκεύονται τα δεδομένα.

Το πρόγραμμα παρέχει ερευνητικά κιτ που βασίζονται σε διάταξη διασταυρούμενων γραμμών 32 × 32 και υποστηρίζουν λειτουργίες όπως πολλαπλασιασμό διανύσματος-πίνακα, συνέλιξη και νευρωνικά δίκτυα αιχμών. Στόχος του είναι να εξετάσει ένα σημαντικό ζήτημα υλικού για την τεχνητή νοημοσύνη αιχμής: πόση ενέργεια και χρόνο μπορεί να εξοικονομήσει ο περιορισμός των επαναλαμβανόμενων μεταφορών μεταξύ της μνήμης και ενός ξεχωριστού επεξεργαστή;

Πρόκειται για το λανσάρισμα μιας ερευνητικής πλατφόρμας και όχι ενός ολοκληρωμένου εμπορικού επιταχυντή τεχνητής νοημοσύνης. Η Weebit αναφέρει ότι εξακολουθούν να υπάρχουν τεχνικές προκλήσεις προτού μια λύση υπολογιστικής εντός μνήμης φτάσει στην εμπορική αγορά. Άμεσος στόχος είναι να δοθεί στους ερευνητές η δυνατότητα να περάσουν από τα μοντέλα και τις προσομοιώσεις σε πειράματα με πραγματικό υλικό ReRAM.

Γιατί να γίνονται υπολογισμοί μέσα στη μνήμη;

Η εκτέλεση συμπερασμάτων από νευρωνικά δίκτυα απαιτεί επανειλημμένα τον συνδυασμό εισόδων με αποθηκευμένα βάρη μοντέλου. Σε μια συμβατική αρχιτεκτονική, η μεταφορά αυτών των τιμών μέσω της ιεραρχίας μνήμης μπορεί να καταναλώνει εύρος ζώνης και ενέργεια. Η υπολογιστική εντός μνήμης, ή IMC, επιδιώκει να εκτελεί μέρος αυτής της εργασίας μέσα στην ίδια τη διάταξη μνήμης.

Η μνήμη τυχαίας προσπέλασης με μεταβολή αντίστασης, ή ReRAM, αποθηκεύει πληροφορίες μέσω ηλεκτρικής αντίστασης που μπορεί να προγραμματιστεί. Τα στοιχεία μνήμης της Weebit, που βασίζονται σε οξείδια, περιέχουν ένα στρώμα μεταγωγής ανάμεσα σε ηλεκτρόδια· οι εφαρμοζόμενες τάσεις μεταβάλλουν την αγώγιμη διαδρομή και, κατ’ επέκταση, την αντίσταση του στοιχείου. Η αποθηκευμένη κατάσταση διατηρείται χωρίς συνεχή παροχή ρεύματος, γεγονός που καθιστά τη ReRAM μη πτητική.

Στην έρευνα για αναλογικούς υπολογισμούς, αυτές οι ηλεκτρικές ιδιότητες μπορούν να κάνουν περισσότερα από το να αποθηκεύουν bit. Μια διάταξη μπορεί να κωδικοποιεί βάρη στα στοιχεία μνήμης της και να αξιοποιεί τις ηλεκτρικές αποκρίσεις που προκύπτουν για την εκτέλεση υπολογισμών. Έτσι, η φυσική συμπεριφορά της μνήμης συνδέεται με τις πράξεις πολλαπλασιασμού και συσσώρευσης που χρησιμοποιούνται σε όλα τα νευρωνικά δίκτυα.

Ο στόχος έχει ιδιαίτερη σημασία για συσκευές με αυστηρούς περιορισμούς στην κατανάλωση ενέργειας και στη θερμική ισχύ, όπως αισθητήρες, βιομηχανικός εξοπλισμός και άλλα συστήματα αιχμής. Αυτό δεν σημαίνει ότι κάθε μέρος ενός μοντέλου τεχνητής νοημοσύνης εκτελείται μέσα στη διάταξη ή ότι η μεταφορά δεδομένων καταργείται από το συνολικό σύστημα.

Τι περιλαμβάνουν τα ερευνητικά κιτ Matrix

Αρχικά, η Weebit προσφέρει δύο πακέτα:

• Πακέτο αξιολόγησης Matrix IMC: πλακέτα αξιολόγησης με άμεση πρόσβαση, για ερευνητές που θέλουν να έχουν πιο άμεση πρόσβαση στο υλικό.
• Πακέτο γρήγορης εκκίνησης Matrix IMC: ολοκληρωμένη πλακέτα IMC, υποσύστημα FPGA και δείγματα κώδικα.

Και τα δύο περιλαμβάνουν συσκευασμένα δείγματα τσιπ, τεκμηρίωση και πλακέτα IMC με υποδοχή. Η διάταξη διασταυρούμενων γραμμών 32 × 32 παρέχει μια ελεγχόμενη πλατφόρμα για τη μελέτη μεθόδων προγραμματισμού, αλγορίθμων τεχνητής νοημοσύνης και νευρομορφικών αρχιτεκτονικών, συμπεριλαμβανομένων των νευρωνικών δικτύων αιχμών.

Το υποσύστημα FPGA της επιλογής γρήγορης εκκίνησης προσφέρει στους ερευνητές προγραμματιζόμενο ψηφιακό υλικό παράλληλα με τη διάταξη μνήμης. Αυτό είναι χρήσιμο για τη διερεύνηση υβριδικών συστημάτων, στα οποία οι λειτουργίες που βασίζονται στη μνήμη συνεργάζονται με τη συμβατική επεξεργασία, αντί να επιχειρείται η αντικατάσταση ολόκληρης της υπολογιστικής ροής.

Οι συμμετέχοντες θα κοινοποιούν στη Weebit αποτελέσματα και σχόλια σχετικά με τη ReRAM. Η εταιρεία αναφέρει ότι η συνεργασία αυτή αποσκοπεί στη βελτίωση της τεχνολογίας και στην υποστήριξη της ευρύτερης ερευνητικής προσπάθειας. Η ανακοίνωση δεν γνωστοποιεί τις τιμές των κιτ, τον αριθμό των έργων που θα γίνουν δεκτά ή την ημερομηνία παράδοσης εμπορικού επιταχυντή.

Πώς να ερμηνεύσετε τον ισχυρισμό για 80× χαμηλότερη κατανάλωση ενέργειας

Μια συνδεδεμένη ερευνητική σύνοψη παρέχει σημαντικές λεπτομέρειες σχετικά με τους ισχυρισμούς της Weebit για τις επιδόσεις. Μια ανώνυμη εταιρεία των ΗΠΑ που αναπτύσσει υλικό τεχνητής νοημοσύνης ανθεκτικό στην ακτινοβολία αξιολόγησε μια αρχιτεκτονική IMC για ένα φορτίο εργασίας ταξινόμησης εικόνων, χρησιμοποιώντας ένα προσαρμοσμένο συνελικτικό νευρωνικό δίκτυο.

Η σύγκριση χρησιμοποίησε μια GPU NVIDIA GeForce RTX 4090 και μια πλατφόρμα FPGA Xilinx ZCU104. Τα αποτελέσματα του συστήματος IMC προβλέφθηκαν μέσω μοντελοποίησης εφαρμογών, η οποία βασίστηκε σε μετρήσεις από μια διάταξη ReRAM της Weebit.

Για το συγκεκριμένο φορτίο εργασίας, η ανάλυση προέβλεψε περίπου 80 φορές χαμηλότερη κατανάλωση ενέργειας από την υλοποίηση με GPU και 13 φορές χαμηλότερη κατανάλωση από την υλοποίηση με FPGA. Η ανακοίνωση για το λανσάρισμα αναφέρει ξεχωριστά σχεδόν 100 φορές μικρότερη καθυστέρηση. Πρόκειται για προβλέψεις που αφορούν συγκεκριμένο φορτίο εργασίας και όχι για μετρήσεις πλήρους εμπορικού επιταχυντή Matrix, επικυρωμένες ανεξάρτητα, οι οποίες να αποδεικνύουν υπεροχή έναντι των GPU σε εργασίες τεχνητής νοημοσύνης.

Αυτή η διάκριση είναι καθοριστικής σημασίας για το ερευνητικό πρόγραμμα. Ένα χρήσιμο αποτέλεσμα σε επίπεδο διάταξης πρέπει να μεταφραστεί σε ένα πλήρες σύστημα που διατηρεί την ακρίβεια του μοντέλου, λαμβάνοντας παράλληλα υπόψη τον έλεγχο, τη μετατροπή δεδομένων, τις επικοινωνίες και άλλες υποστηρικτικές λειτουργίες. Και αυτές οι συνοδευτικές λειτουργίες καταναλώνουν ενέργεια και προσθέτουν καθυστέρηση.

Τα πειράματα με υλικό μπορούν να αποκαλύψουν όσα διαφεύγουν από τις προσομοιώσεις

Ο διευθύνων σύμβουλος της Weebit, Coby Hanoch, αναφέρεται στην προηγούμενη συνεργασία με το CEA-Leti, συμπεριλαμβανομένης μιας επίδειξης νευρωνικού δικτύου αιχμών βασισμένου σε ReRAM το 2019. Το Matrix συνεχίζει αυτή την ερευνητική κατεύθυνση, καθιστώντας διαθέσιμη μια καθορισμένη πλατφόρμα υλικού σε περισσότερους ερευνητές που πληρούν τα σχετικά κριτήρια.

Ο ερευνητής νευρομορφικής υπολογιστικής Kevin D. Johnson, το έργο του οποίου περιλαμβάνει την ετερογενή και τη νευρομορφική υπολογιστική, δήλωσε ότι θέλει να χρησιμοποιήσει την πλατφόρμα για να επικυρώσει μοντέλα σε πραγματικό υλικό και να αξιολογήσει την ακρίβεια, την καθυστέρηση και την κατανάλωση ενέργειας σε επίπεδο συστήματος. Στα ενδιαφέροντά του περιλαμβάνεται ο συνδυασμός της ReRAM με άλλες τεχνολογίες επεξεργασίας.

Η προσέγγιση αυτή ανταποκρίνεται στη συγκεκριμένη πρακτική δυνατότητα: να εντοπιστούν τα μέρη ενός φόρτου εργασίας που ωφελούνται από τον υπολογισμό στη μνήμη και, στη συνέχεια, να συνδυαστούν με άλλο υλικό όπου αυτό ενδείκνυται. Το ερευνητικό ερώτημα είναι ευρύτερο από το αν μια μεμονωμένη λειτουργία είναι αποδοτική· αφορά και το κατά πόσο το σύστημα που προκύπτει προσφέρει χρήσιμες και επαναλήψιμες επιδόσεις σε εφαρμογές.

Η Weebit επισημαίνει επίσης την αντοχή στην ακτινοβολία ως λόγο διερεύνησης της ReRAM για χρήση σε ακραία περιβάλλοντα. Η καταλληλότητά της για συγκεκριμένη αεροδιαστημική, αμυντική ή ιατρική εφαρμογή θα εξακολουθούσε να εξαρτάται από τις απαιτήσεις και την επικύρωση του συνολικού σχεδιασμού.

Επιδείξεις και πρόσβαση στην έρευνα

Η Weebit σχεδιάζει να παρουσιάσει το Matrix IMC στην electronica 2026, η οποία θα πραγματοποιηθεί στο Μόναχο από τις 10 έως τις 13 Νοεμβρίου. Η εταιρεία αναφέρει ότι θα βρίσκεται στην αίθουσα C2, στο περίπτερο 637, ενώ στη σελίδα της εκδήλωσης παρέχει λεπτομέρειες για την επίδειξη και τις συναντήσεις.

Τα πακέτα διατίθενται σε ερευνητές που πληρούν τις προϋποθέσεις, ενώ οι αιτήσεις θα αξιολογούνται ως προς το κατά πόσο ευθυγραμμίζονται με το ερευνητικό αντικείμενο του προγράμματος. Η Weebit παρέχει έντυπο αίτησης για ερευνητικό έργο στους ενδιαφερόμενους υποψηφίους.

Η άμεση συμβολή του Matrix είναι η πρόσβαση σε υλικό που μπορεί να ελέγξει τις παραδοχές πίσω από την τεχνητή νοημοσύνη εντός μνήμης. Σε έναν τομέα που επιδιώκει να μειώσει το κόστος μετακίνησης δεδομένων, τα πολύτιμα στοιχεία θα δείξουν πώς συνδυάζονται η μετρούμενη ακρίβεια, η κατανάλωση ενέργειας και η καθυστέρηση όταν οι ερευνητές εκτελούν πραγματικούς φόρτους εργασίας.