Μοντέλα και πλατφόρμες AI
Meta, NVIDIA Συνεργάζονται για την Ανάπτυξη Υπερυπολογιστή AI
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Η Meta και η NVIDIA (NVDA ) ανακοίνωσαν ότι εργάζονται για την ανάπτυξη ενός τεράστιου υπερυπολογιστή AI. Ο AI Research SuperCluster (RSC) βρίσκεται目前 στην εκπαίδευση νέων μοντέλων για την προώθηση της τεχνητής νοημοσύνης.
Ο RSC αναμένεται να είναι η μεγαλύτερη εγκατάσταση του συστήματος NVIDIA DGX A100 από πελάτη, όταν θα είναι πλήρως αναπτυγμένος. Αναμένεται να ολοκληρωθεί μέχρι το τέλος του έτους και θα χρησιμοποιηθεί για την εκπαίδευση μοντέλων AI με πάνω από ένα τρισεκατομμύριο παραμέτρους. Ο υπερυπολογιστής θα είναι χρήσιμος για πολλά διαφορετικά πεδία, όπως η επεξεργασία φυσικής γλώσσας (NLP).
Σύμφωνα με τη Meta, η εταιρεία επικεντρώνεται στην ενίσχυση της απόδοσης σε κλίμακα και την ακραία αξιοπιστία, ασφάλεια, ιδιωτικότητα και την ευελιξία για την αντιμετώπιση διαφόρων μοντέλων AI.
Λεπτομέρειες του RSC
Ο RSC χρησιμοποιεί 760 συστήματα NVIDIA DGX A100 ως κόμβους υπολογισμού και έχουν 6.080 NVIDIA A100 GPUs συνδεδεμένα σε ένα δίκτυο NVIDIA Quantum 200Gb/s InfiniBand. Όλα αυτά επιτρέπουν να παρασχεθεί απόδοση 1.895 petaflops του TF32.
Ο RSC χρειάστηκε μόνο 18 μήνες για να φθάσει σε einen λειτουργικό υπερυπολογιστή AI, το οποίο είναι εντυπωσιακό考虑 την επίδραση της πανδημίας COVID-19 στην ανάπτυξη.
Οι πρώτες δοκιμές του RSC, σε σύγκριση με την παραγωγική και ερευνητική υποδομή της Meta, έχουν δείξει ότι μπορεί να εκτελέσει εργασίες όρασης υπολογιστή μέχρι 20 φορές πιο γρήγορα. Μπορεί επίσης να εκτελέσει τη βιβλιοθήκη NVIDIA Collective Communication Library (NCCL) πάνω από εννέα φορές πιο γρήγορα και να εκπαιδεύσει μεγάλα μοντέλα NLP τρεις φορές πιο γρήγορα. Με άλλα λόγια, ένα μοντέλο με δεκάδες δισεκατομμύρια παραμέτρους θα μπορούσε να ολοκληρώσει την εκπαίδευση σε τρεις εβδομάδες, σε σύγκριση με το προηγούμενο χρονοδιάγραμμα εννέα εβδομάδων.
Τι θα Επιτρέψει ο RSC
Ο RSC θα επιτρέψει στους ερευνητές της Meta AI να δημιουργήσουν νέα μοντέλα AI που μπορούν να μάθουν από τρισεκατομμύρια παραδείγματα. Οι ερευνητές θα μπορέσουν επίσης να εργαστούν σε εκατοντάδες διαφορετικές γλώσσες, να αναλύσουν κείμενο, εικόνες και βίντεο μαζί, να αναπτύξουν νέα εργαλεία επαυξημένης πραγματικότητας και άλλα.
Η Meta ελπίζει ότι ο RSC θα της επιτρέψει να παρέχει μεταφράσεις φωνής σε πραγματικό χρόνο σε μεγάλες ομάδες ανθρώπων, ακόμη και αν ο καθένας μιλάει μια διαφορετική γλώσσα. Αυτό θα επιτρέψει σε εξαιρετικά διαφορετικές ομάδες να συνεργαστούν σε ερευνητικά έργα.
«Ελπίζουμε ότι ο RSC θα μας βοηθήσει να δημιουργήσουμε εντελώς νέα συστήματα AI που μπορούν, για παράδειγμα, να παρέχουν μεταφράσεις φωνής σε πραγματικό χρόνο σε μεγάλες ομάδες ανθρώπων, οι οποίοι μιλάει μια διαφορετική γλώσσα, ώστε να μπορέσουν να συνεργαστούν ομαλά σε ένα ερευνητικό έργο ή να παίξουν ένα παιχνίδι επαυξημένης πραγματικότητας μαζί», ανέφερε η Meta.
Αυτή η νέα συνεργασία θα πήξει ένα μεγάλο βήμα στην ανάπτυξη ενός από τα επόμενα υπερυπολογιστές AI που μπορούν να χρησιμοποιηθούν σε ένα ευρύ φάσμα βιομηχανιών.
