Νταγκ Φούλερ, Αντιπρόεδρος Μηχανικής Λογισμικού στην Cornelis Networks – Σειρά Συνεντεύξεων

Ως Αντιπρόεδρος Μηχανικής Λογισμικού, ο Νταγκ είναι υπεύθυνος για tous τους τομείς του στρώματος λογισμικού της Cornelis Networks, συμπεριλαμβανομένων των οδηγών αρχιτεκτονικής Omni-Path, του λογισμικού αλληλεπίδρασης και των ενσωματωμένων συστημάτων ελέγχου συσκευών. Πριν ενταχθεί στην Cornelis Networks, ο Νταγκ ηγήθηκε ομάδων μηχανικής λογισμικού στη Red Hat στις υπηρεσίες αποθήκευσης cloud και δεδομένων. Η καριέρα του Νταγκ στην υψηλή απόδοση υπολογιστών και στο cloud ξεκίνησε στο εργαστήριο Σκαλαρικής Υπολογιστικής του Εργαστηρίου Ames. Μετά από διάφορους ρόλους στην υπολογιστική έρευνα του πανεπιστημίου, ο Νταγκ εντάχθηκε στο Εθνικό Εργαστήριο Oak Ridge του Υπουργείου Ενέργειας των ΗΠΑ το 2009, όπου ανέπτυξε και ενσωμάτωσε νέες τεχνολογίες στο εργαστήριο υπολογιστικής Oak Ridge.

Η Cornelis Networks είναι ένας ηγέτης τεχνολογίας που παρέχει υψηλής απόδοσης υφάσματα για Υψηλή Απόδοση Υπολογιστών (HPC), Υψηλή Απόδοση Ανάλυσης Δεδομένων (HPDA) και Τεχνητή Νοημοσύνη (AI) σε κορυφαίες εμπορικές, επιστημονικές, ακαδημαϊκές και κυβερνητικές οργανώσεις.

Τι σας έκανε να ενδιαφερθείτε για την επιστήμη των υπολογιστών;

Μου άρεσε να δουλεύω με την τεχνολογία. Μου άρεσε να δουλεύω με τους υπολογιστές μεγαλώνοντας· είχαμε einen modem στο σχολείο μας που μου επέτρεψε να δοκιμάσω το Διαδίκτυο και το βρήκα ενδιαφέρον. Jako φρέσκος στο κολλέγιο, γνώρισα έναν επιστήμονα υπολογιστών του Υπουργείου Ενέργειαης των ΗΠΑ ενώ εθελοντικά για το Εθνικό Bowl Επιστήμης. Με προσκάλεσε να επισκεφτώ το εργαστήριο υπολογιστικής υψηλής απόδοσης και με έπιασε. Έχω γίνει γκέκ υπερυπολογιστών από τότε.

Δούλεψατε στη Red Hat από το 2015 έως το 2019, ποια ήταν κάποια από τα έργα στα οποία δούλεψατε και ποια ήταν τα βασικά συμπεράσματά σας από αυτήν την εμπειρία;

Το κύριο έργο μου στη Red Hat ήταν η αποθηκευτική λύση Ceph. Προηγουμένως, επικεντρώθηκα αποκλειστικά στην υψηλή απόδοση υπολογιστών και αυτό μου έδωσε την ευκαιρία να δουλέψω σε τεχνολογίες που ήταν κρίσιμες για την υποδομή cloud. Τα principia της κλιμάκωσης, της διαχειρίσιμότητας και της αξιοπιστίας είναι εξαιρετικά παρόμοια, ακόμη και αν στοχεύουν στο να λύνουν ελαφρώς διαφορετικά προβλήματα. Όσον αφορά την τεχνολογία, το πιο σημαντικό συμπέρασμά μου ήταν ότι το cloud και η υψηλή απόδοση υπολογιστών έχουν πολλά να μάθουν ο ένας από τον άλλον. Και τα δύο χτίζουμε διαφορετικά έργα με το ίδιο σετ Lego. Αυτό με βοήθησε να κατανοήσω πώς οι τεχνολογίες ενεργοποίησης, συμπεριλαμβανομένων των υφασμάτων, μπορούν να επηρεάσουν τις εφαρμογές υψηλής απόδοσης υπολογιστών, cloud και AI. Επίσης, ήταν εκεί που πραγματικά κατέληξα να κατανοήσω την αξία του ανοιχτού λογισμικού και πώς να εκτελέσω την φιλοσοφία ανάπτυξης λογισμικού ανοιχτού κώδικα που έφερα μαζί μου στην Cornelis Networks. Προσωπικά, η Red Hat ήταν όπου μεγάλωσα και ωρίμασα ως ηγέτης.

Είστε τώρα ο Αντιπρόεδρος Μηχανικής Λογισμικού στην Cornelis Networks, ποια είναι κάποια από τις ευθύνες σας και τι μοιάζει η μέση σας ημέρα;

Ως Αντιπρόεδρος Μηχανικής Λογισμικού, είμαι υπεύθυνος για tous τους τομείς του στρώματος λογισμικού της Cornelis Networks, συμπεριλαμβανομένων των οδηγών αρχιτεκτονικής Omni-Path, του λογισμικού αλληλεπίδρασης, της διαχείρισης υφάσματος και των ενσωματωμένων συστημάτων ελέγχου συσκευών. Η Cornelis Networks είναι ένας ενθουσιαστικός χώρος για να βρίσκεσαι, ιδιαίτερα σε αυτό το σημείο και αυτήν την αγορά. Λόγω αυτού, δεν είμαι βέβαιος αν έχω μια “τυπική” ημέρα. Κάποιες μέρες δουλεύω με την ομάδα μου για να λύσουμε την τελευταία τεχνολογική πρόκληση. Άλλες μέρες αλληλεπιδρώ με τους αρχιτέκτονες υλικού μας για να βεβαιωθώ ότι τα επόμενα προϊόντα μας θα παραδώσουν στους πελάτες μας. Συχνά βρίσκομαι στο πεδίο, συναντώ τους καταπληκτικούς πελάτες και συνεργάτες μας, βεβαιωμένος ότι κατανοούμε και προβλέπουμε τις ανάγκες τους.

Η Cornelis Networks προσφέρει επόμενης γενιάς δικτύωση για εφαρμογές Υψηλής Απόδοσης Υπολογιστών και AI, θα μπορούσατε να μοιραστείτε κάποιες λεπτομέρειες για το υλικό που προσφέρεται;

Το υλικό μας αποτελείται από μια υψηλής απόδοσης δικτυωμένη λύση. Για αυτό, παρέχουμε όλα τα απαραίτητα συσκευές για να ενσωματώσουμε πλήρως τις εφαρμογές υψηλής απόδοσης υπολογιστών, cloud και AI. Η διεπαφή Omni-Path Host-Fabric (HFI) είναι μια χαμηλού προφίλ κάρτα PCIe για συσκευές τερματικού. Παρασκευάζουμε επίσης einen 48-θύρας “top-of-rack” διακόπτη. Για μεγαλύτερες εγκαταστάσεις, παρασκευάζουμε δύο πλήρως ενσωματωμένους “director-class” διακόπτες· ένας που περιέχει 288 θύρες σε 7U και ένα 1152-θύρας, 20U συσκευή.

Μπορείτε να συζητήσετε το λογισμικό που διαχειρίζεται αυτήν την υποδομή και πώς έχει σχεδιαστεί για να μειώσει την καθυστέρηση;

Πρώτα, η ενσωματωμένη πλατφόρμα διαχείρισης μας παρέχει εύκολη εγκατάσταση και διαμόρφωση, καθώς και πρόσβαση σε eine ποικιλία από μετρήσεις απόδοσης και διαμόρφωσης που παράγονται από τους ASICs των διακοπτών μας.

Το λογισμικό οδηγού μας αναπτύσσεται ως μέρος του πυρήνα του Linux. Πράγματι, υποβάλλουμε όλα τα λογισμικά μας patches trực tiếp στην κοινότητα του πυρήνα του Linux. Αυτό εξασφαλίζει ότι όλοι οι πελάτες μας απολαμβάνουν τη μέγιστη συμβατότητα μεταξύ των διανομών του Linux και την εύκολη ενσωμάτωση με άλλα λογισμικά, όπως το Lustre. Αν και δεν βρίσκεται στο μονοπάτι καθυστέρησης, η ύπαρξη ενός οδηγού dentro του πυρήνα μειώνει δραματικά την πολυπλοκότητα της εγκατάστασης.

Ο διαχειριστής υφάσματος Omni-Path (FM) διαμορφώνει και διαμορφώνει ένα υφάσμα Omni-Path. Βελτιώνοντας τις διαδρομές κυκλοφορίας και ανακτώντας γρήγορα από σφάλματα, ο FM παρέχει απόδοση και αξιοπιστία που ηγείται της βιομηχανίας σε υφάσματα από δεκάδες έως χιλιάδες κόμβους.

Το Omni-Path Express (OPX) είναι το υψηλής απόδοσης λογισμικό αλληλεπίδρασης μας, που κυκλοφόρησε πρόσφατα τον Νοέμβριο του 2022. Σχεδιάστηκε ειδικά για να μειώσει την καθυστέρηση σε σύγκριση με το προηγούμενο λογισμικό αλληλεπίδρασης. Εκτελέσαμε προσομοιώσεις κυκλώματος-ακριβείς του κώδικα αποστολής και λήψης μας για να ελαχιστοποιήσουμε τον αριθμό των εντολών και την利用-cache. Αυτό παρήγαγε δραματικά αποτελέσματα: όταν befind σας στο εύρος των microδευτερολέπτων, κάθε κύκλος μετρά!

Επίσης, ενσωματώσαμε με τις Διεπαφές OpenFabrics (OFI), ένα ανοιχτό πρότυπο που παράγεται από τη Συμμαχία OpenFabrics. Η modulaire αρχιτεκτονική του OFI βοηθά στη μείωση της καθυστέρησης, επιτρέποντας στο υψηλότερο λογισμικό, όπως το MPI, να αξιοποιήσει τις λειτουργίες του υφάσματος χωρίς πρόσθετες κλήσεις λειτουργιών.

Το ολόκληρο δίκτυο σχεδιάστηκε επίσης για να αυξήσει την κλιμάκωση, θα μπορούσατε να μοιραστείτε κάποιες λεπτομέρειες για το πώς μπορεί να κλιμακωθεί τόσο καλά;

Η κλιμάκωση είναι στο κέντρο των αρχών σχεδιασμού του Omni-Path. Στα χαμηλότερα επίπεδα, χρησιμοποιούμε τεχνολογία Cray link-layer για να διορθώσουμε σφάλματα σύνδεσης χωρίς επίδραση στην καθυστέρηση. Αυτό επηρεάζει τα υφάσματα σε όλα τα μεγέθη, αλλά είναι ιδιαίτερα σημαντικό για μεγάλα υφάσματα, τα οποία φυσικά αντιμετωπίζουν περισσότερα σφάλματα σύνδεσης. Ο διαχειριστής υφάσματος μας εστιάζεται τόσο στην προγραμματισμό βελτιστών πινάκων διαδρομών όσο και στο να το κάνει με γρήγορο τρόπο. Αυτό εξασφαλίζει ότι η διαδρομή ακόμη και για τα μεγαλύτερα υφάσματα μπορεί να ολοκληρωθεί σε ελάχιστο χρόνο.

Η κλιμάκωση είναι επίσης ένα κρίσιμο συστατικό του OPX. Η ελαχιστοποίηση της cache-χρήσης βελτιώνει την κλιμάκωση σε μεμονωμένους κόμβους με μεγάλο αριθμό πυρήνων. Η μείωση της καθυστέρησης βελτιώνει επίσης την κλιμάκωση, βελτιώνοντας τον χρόνο ολοκλήρωσης για коллективικές αλγόριθμους. Η χρήση των πόρων της διεπαφής μας με greater αποτελεσματικότητα μας επιτρέπει να επικοινωνούμε με περισσότερους απομακρυσμένους ομίλους. Η στρατηγική επιλογή της libfabric μας επιτρέπει να αξιοποιήσουμε λειτουργίες λογισμικού όπως κλιμακωτά σημεία χρησιμοποιώντας τυποποιημένες διεπαφές.

Μπορείτε να μοιραστείτε κάποιες λεπτομέρειες για το πώς η Τεχνητή Νοημοσύνη ενσωματώνεται σε κάποια από τις ροές εργασίας στην Cornelis Networks;

Δεν είμαστε ακόμη έτοιμοι να μιλήσουμε εξωτερικά για τις εσωτερικές χρήσεις και σχέδια μας για Τεχνητή Νοημοσύνη. Αυτό που μπορούμε να πούμε είναι ότι τρώμε το δικό μας σκύλο, οπότε μπορούμε να επωφεληθούμε από τις βελτιώσεις καθυστέρησης και κλιμάκωσης που έχουμε κάνει στο Omni-Path για να υποστηρίξουμε τις εργασίες Τεχνητής Νοημοσύνης. Αυτό μας κάνει ακόμη πιο ενθουσιασμένους να μοιραστούμε αυτά τα οφέλη με τους πελάτες και συνεργάτες μας. Έχουμε σίγουρα παρατηρήσει ότι, όπως και στις παραδοσιακές εφαρμογές υψηλής απόδοσης υπολογιστών, η κλιμάκωση της υποδομής είναι ο einzικός δρόμος προς τα εμπρός, αλλά η πρόκληση είναι ότι η απόδοση του δικτύου είναι εύκολο να σβήσει από τα παραδοσιακά δίκτυα.

Τι είναι κάποίες αλλαγές που προβλέπετε στην βιομηχανία με την έλευση της γενετικής Τεχνητής Νοημοσύνης;

Πρώτα απ’ όλα, η χρήση της γενετικής Τεχνητής Νοημοσύνης θα κάνει τους ανθρώπους πιο παραγωγικούς – καμία τεχνολογία στην ιστορία δεν έχει κάνει τους ανθρώπους παλιούς. Κάθε τεχνολογική εξέλιξη και επανάσταση που είχαμε από το cotton gin στο αυτόματο νήμα στο τηλέφωνο, στο διαδίκτυο και πέρα έχουν κάνει κάποια εργασία πιο αποτελεσματική, αλλά δεν έχουμε εξαφανίσει την ανθρωπότητα.

Μέσω της εφαρμογής της γενετικής Τεχνητής Νοημοσύνης, πιστεύω ότι οι εταιρείες θα προχωρήσουν τεχνολογικά με γρηγορότερο ρυθμό, επειδή αυτοί που διευθύνουν την εταιρεία θα έχουν περισσότερο ελεύθερο χρόνο για να επικεντρωθούν σε αυτές τις προόδους. Για παράδειγμα, αν η γενετική Τεχνητή Νοημοσύνη παρέχει πιο ακριβείς προβλέψεις, αναφορές, σχεδιασμό, κ.λπ. – οι εταιρείες μπορούν να επικεντρωθούν στην καινοτομία στο πεδίο της εξειδίκευσής τους.

Ιδιαίτερα, νιώθω ότι η Τεχνητή Νοημοσύνη θα κάνει κάθε ένα από εμάς einen multidisciplinary εμπειρογνώμονα. Για παράδειγμα, ως εμπειρογνώμονας λογισμικού κλιμάκωσης, κατανοώ τις συνδέσεις μεταξύ υψηλής απόδοσης υπολογιστών, μεγάλων δεδομένων, cloud και εφαρμογών Τεχνητής Νοημοσύνης που οδηγούν σε λύσεις όπως το Omni-Path. Εξοπλισμένος με einen βοηθό γενετικής Τεχνητής Νοημοσύνης, μπορώ να εμβαθύνω περισσότερο στη σημασία των εφαρμογών που χρησιμοποιούν οι πελάτες μας. Δεν έχω αμφιβολία ότι αυτό θα μας βοηθήσει να σχεδιάσουμε ακόμη πιο αποτελεσματικό υλικό και λογισμικό για τις αγορές και τους πελάτες που εξυπηρετούμε.

Επίσης, προβλέπω μια γενική βελτίωση στην ποιότητα του λογισμικού. Η Τεχνητή Νοημοσύνη μπορεί να λειτουργήσει αποτελεσματικά ως “ένα άλλο ζευγάρι ματιών” για να αναλύσει στατικά τον κώδικα και να αναπτύξει ερευνήσεις σε σφάλματα και προβλήματα απόδοσης. Αυτό θα είναι ιδιαίτερα ενδιαφέρον σε μεγάλες κλίμακες, όπου τα προβλήματα απόδοσης μπορούν να είναι ιδιαίτερα δύσκολα να εντοπιστούν και ακριβά να αναπαραχθούν.

Τέλος, ελπίζω και πιστεύω ότι η γενετική Τεχνητή Νοημοσύνη θα βοηθήσει την βιομηχανία μας να εκπαιδεύσει και να εντάξει περισσότερους επαγγελματίες λογισμικού χωρίς προηγούμενη εμπειρία σε Τεχνητή Νοημοσύνη και υψηλή απόδοση υπολογιστών. Το πεδίο μας μπορεί να φαίνεται απειλητικό σε πολλούς και μπορεί να χρειαστεί χρόνο για να μάθει να “σκέφτεται σε παράλληλο”. Θεμελιωδώς, όπως οι μηχανές έκαναν πιο εύκολη την κατασκευή πραγμάτων, η γενετική Τεχνητή Νοημοσύνη θα κάνει πιο εύκολη την σκέψη και την ανταλλαγή εννοιών.

Υπάρχει κάτι άλλο που θα θέλατε να μοιραστείτε σχετικά με τη δουλειά σας ή την Cornelis Networks γενικά;

Θα ήθελα να ενθαρρύνω όποιον έχει ενδιαφέρον να ακολουθήσει μια καριέρα στην υπολογιστική, ιδιαίτερα στην υψηλή απόδοση υπολογιστών και Τεχνητή Νοημοσύνη. Σε αυτό το πεδίο, είμαστε εξοπλισμένοι με τις πιο ισχυρές υπολογιστικές πηγές που έχουν कभποτε κατασκευαστεί και τις φέρνουμε σε εφαρμογή ενάντια στις μεγαλύτερες προκλήσεις της ανθρωπότητας. Είναι ένας ενθουσιαστικός χώρος για να βρίσκεσαι, και έχω απολαύσει κάθε βήμα του δρόμου. Η γενετική Τεχνητή Νοημοσύνη φέρνει το πεδίο μας σε ακόμη πιο καινούργιους υψόμετρα, καθώς η ζήτηση για αυξανόμενη ικανότητα αυξάνεται δραματικά. Δεν μπορώ να περιμένω να δω πού θα πάμε από εδώ. Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν την Cornelis Networks.