Νέο Σύστημα Στόχος να Λύσει το Πρόβλημα της Κατανάλωσης Ενέργειας του AI

Οι υπολογιστές που βασίζονται στην τεχνητή νοημοσύνη (AI) απαιτούν πολλή ενέργεια, και αυτή η απαίτηση υπολογιστικής ισχύος διπλασιάζεται περίπου κάθε τρεις έως τέσσερις μήνες. Όταν πρόκειται για κέντρα δεδομένων cloud-computing, τα οποία χρησιμοποιούνται από εφαρμογές AI και machine learning, χρησιμοποιούν περισσότερη ηλεκτρική ενέργεια ανά έτος από ορισμένες μικρές χώρες. Πολλοί ερευνητές προειδοποιούν ότι αυτό το σύστημα δεν είναι βιώσιμο.

Μια ομάδα από αυτούς τους ερευνητές, υπό την ηγεσία του Πανεπιστημίου του Ουάσινγκτον, έχει αναπτύξει μια λύση για να βοηθήσει στην επίλυση αυτού του προβλήματος – νέο οπτικό υλικό υπολογιστών για AI και machine learning. Αυτό το υλικό είναι ταχύτερο και πολύ πιο ενεργειακά αποδοτικό από την παραδοσιακή ηλεκτρονική. Βοηθά επίσης να λυθεί το «θόρυβος» που προκαλείται από τον οπτικό υπολογισμό, ο οποίος μπορεί να επηρεάσει την ακρίβεια του υπολογισμού.

Η έρευνα δημοσιεύθηκε στις 21 Ιανουαρίου στο Science Advances.

Χρήση του Θόρυβου ως Εισόδου

Στην έρευνα, η ομάδα απέδειξε πώς ένα οπτικό σύστημα υπολογιστών για AI και machine learning θα μπορούσε να χρησιμοποιήσει κάποιο από τον θόρυβο ως είσοδο για να ενισχύσει την δημιουργική έξοδο του τεχνητού νευρωνικού δικτύου (ANN) στο σύστημα.

Ο Changming Wu είναι διδακτορικός φοιτητής στο Πανεπιστήμιο του Ουάσινγκτον σε ηλεκτρική και υπολογιστική μηχανική και ο κύριος συγγραφέας του εγγράφου.

«Έχουμε κατασκευάσει έναν οπτικό υπολογιστή που είναι ταχύτερος από έναν συμβατικό ψηφιακό υπολογιστή», είπε ο Wu. «Και επίσης, αυτός ο οπτικός υπολογιστής μπορεί να δημιουργήσει νέα πράγματα με βάση τυχαίες εισόδους που παράγονται από τον οπτικό θόρυβο που οι περισσότεροι ερευνητές προσπάθησαν να αποφύγουν».

Ο θόρυβος του οπτικού υπολογισμού προκαλείται από στερεές σωματίδια φωτός, ή φωτόνια. Αυτά παράγονται από τους laser μέσα στην συσκευή και τη θερμική ακτινοβολία του φόντου. Για να στοχεύσουν τον θόρυβο, η ομάδα συνδέθηκε με το οπτικό πυρήνα υπολογισμού σε ένα ανταγωνιστικό γεννητικό δίκτυο (GAN). Τότε, έκαναν δοκιμές με διαφορετικές τεχνικές μείωσης του θόρυβου, όπως η χρήση κάποιου από τον παραγόμενο θόρυβο ως τυχαίων εισόδων για το GAN.

Η ομάδα είπε στο GAN να μάθει να γράφει το αριθμό «7» σαν άνθρωπος, το οποίο σήμαινε ότι έπρεπε να μάθει την εργασία观察οντας οπτικά δείγματα γραφής πριν την άσκηση επανειλημμένα. Λόγω της μορφής του, ο οπτικός υπολογιστής έπρεπε να παράγει ψηφιακές εικόνες που είχαν παρόμοιο στυλ με τα δείγματα.

Ο Mo Li είναι καθηγητής στο Πανεπιστήμιο του Ουάσινγκτον σε ηλεκτρική και υπολογιστική μηχανική και ο senior συγγραφέας του εγγράφου.

«Αντί να εκπαιδεύσουμε το δίκτυο να διαβάζει χειρόγραφους αριθμούς, εκπαιδεύσαμε το δίκτυο να μάθει να γράφει αριθμούς, μιμούμενος οπτικά δείγματα γραφής που είχε εκπαιδευτεί», είπε ο Li. «Επίσης, με τη βοήθεια των συνεργατών μας στην επιστήμη των υπολογιστών στο Πανεπιστήμιο Duke, δείξαμε ότι το GAN μπορεί να μετριάσει την αρνητική επίδραση του θόρυβου του οπτικού υλικού υπολογισμού χρησιμοποιώντας einen αλγόριθμο εκπαίδευσης που είναι ανθεκτικός σε σφάλματα και θόρυβους. Περισσότερο από αυτό, το δίκτυο χρησιμοποιεί τους θόρυβους ως τυχαίες εισόδους που χρειάζονται για να παράγουν περιπτώσεις εξόδου».

Καθώς το GAN συνέχιζε να ασκείται στο γράψιμο του αριθμού, ανέπτυξε το δικό του διακριτό στυλ γραφής. Τελικά, ήταν σε θέση να γράψει αριθμούς από το 1 έως το 10 σε υπολογιστικές симουλές.

Κατασκευή Μεγαλύτερης Κλίμακας Συσκευής

Η ομάδα θα προσπαθήσει τώρα να κατασκευάσει τη συσκευή σε μεγαλύτερη κλίμακα χρησιμοποιώντας την τρέχουσα τεχνολογία κατασκευής ημιαγωγών, η οποία θα βελτιώσει την απόδοση και θα επιτρέψει στην ομάδα να εκτελέσει πιο σύνθετες εργασίες.

«Αυτό το οπτικό σύστημα αντιπροσωπεύει μια αρχιτεκτονική υλικού υπολογιστών που μπορεί να ενισχύσει τη δημιουργικότητα των τεχνητών νευρωνικών δικτύων που χρησιμοποιούνται στην AI και το machine learning, αλλά πιο σημαντικά, αποδεικνύει τη βιωσιμότητα του συστήματος σε μεγάλη κλίμακα όπου ο θόρυβος και τα σφάλματα μπορούν να μετριαστούν και ακόμη και να αξιοποιηθούν», είπε ο Li. «Οι εφαρμογές AI αυξάνονται τόσο γρήγορα που στο μέλλον, η κατανάλωση ενέργειας τους θα είναι αβιώσιμη. Αυτή η τεχνολογία έχει το потенシャル να βοηθήσει στη μείωση της κατανάλωσης ενέργειας, καθιστώντας την AI και το machine learning περιβαλλοντικά βιώσιμα — και πολύ γρήγορα, επιτυγχάνοντας υψηλότερη απόδοση συνολικά.