David Driggers, CTO της Cirrascale – Σειρά Συνεντεύξεων

David Driggers είναι ο Διευθύνων Σύμβουλος Τεχνολογίας στην Cirrascale Cloud Services, einen ηγέτη στην παροχή λύσεων υποδομής βαθιάς μάθησης. Με ταυτότητα βασισμένη στις αξίες της ακεραιότητας, της ευελιξίας και της εστίασης στο πελάτη, η Cirrascale παρέχει καινοτόμες, cloud- आधικές λύσεις Infrastructure-as-a-Service (IaaS). Σε συνεργασία με ηγέτες του οικοσυστήματος AI όπως η Red Hat και η WekaIO, η Cirrascale διασφαλίζει αδιάκοπη πρόσβαση σε προηγμένα εργαλεία, ενδυναμώνοντας τους πελάτες να προωθήσουν την πρόοδο στη βαθιά μάθηση, διατηρώντας ταυτόχρονα προβλέψιμους κόστους.

Η Cirrascale είναι ο μόνος πάροχος GPUaaS που συνεργάζεται με μεγάλες εταιρείες ημιαγωγών όπως η NVIDIA (NVDA ), η AMD, η Cerebras (CBRS ) και η Qualcomm. Πώς ωφελεί αυτή η μοναδική θέση τους πελάτες σας σε όρους απόδοσης και κλιμάκωσης;

Όσο εξελίσσεται η βιομηχανία από την εκπαίδευση μοντέλων στην ανάπτυξη αυτών των μοντέλων που ονομάζονται Inferencing, δεν υπάρχει ένα μέγεθος που να ταιριάζει σε όλους. Ανависκει από το μέγεθος και τις απαιτήσεις καθυστέρησης του μοντέλου, διαφορετικοί επιταχυντές προσφέρουν διαφορετικές αξίες που θα μπορούσαν να είναι σημαντικές. Ο χρόνος απάντησης, τα πλεονεκτήματα κόστους ανά token ή η απόδοση ανά watt μπορούν όλα να επηρεάσουν το κόστος και την εμπειρία του χρήστη. Καθώς το Inferencing είναι για παραγωγή, αυτές οι λειτουργίες/ιδιότητες έχουν σημασία.

Τι διακρίνει το AI Innovation Cloud της Cirrascale από άλλους παρόχους GPUaaS στη υποστήριξη ροών εργασιών AI και βαθιάς μάθησης;

Το AI Innovation Cloud της Cirrascale επιτρέπει στους χρήστες να δοκιμάσουν με ασφάλεια, βοηθούμενο και πλήρως υποστηριζόμενο τρόπο, νέες τεχνολογίες που δεν είναι διαθέσιμες σε κανένα άλλο cloud. Αυτό μπορεί να βοηθήσει όχι μόνο στις αποφάσεις τεχνολογίας cloud, αλλά και στις πιθανές αγορές σε τοπικό επίπεδο.

Πώς διασφαλίζει η πλατφόρμα της Cirrascale την αδιάκοπη ολοκλήρωση για startups και επιχειρήσεις με διαφορετικές ανάγκες επιτάχυνσης AI;

Η Cirrascale ακολουθεί μια λύση-προσέγγιση για το cloud μας. Αυτό σημαίνει ότι για startups και επιχειρήσεις, προσφέρουμε μια λύση-κλειδί που περιλαμβάνει cả Dev-Ops και Infra-Ops. Ενώ την ονομάζουμε bare-metal για να διαφοροποιήσουμε τις προσφορές μας από τις κοινές ή εικονικές, η Cirrascale διαμορφώνει πλήρως όλους τους τομείς της προσφοράς, συμπεριλαμβανομένης της πλήρους διαμόρφωσης των серверών, δικτύωσης, Αποθήκευσης, Ασφαλείας και Προσόντων Χρήστη πριν να παραδώσουμε την υπηρεσία στους πελάτες μας. Οι πελάτες μας μπορούν να αρχίσουν να χρησιμοποιούν την υπηρεσία αμέσως, αντί να πρέπει να διαμορφώσουν mọiTHING από μόνοι τους.

Η υλοποίηση AI σε επιχειρησιακό επίπεδο αντιμετωπίζει εμπόδια όπως η ποιότητα δεδομένων, οι περιορισμοί υποδομής και τα υψηλά κόστη. Πώς αντιμετωπίζει η Cirrascale αυτές τις προκλήσεις για τις επιχειρήσεις που αναπτύσσουν πρωτοβουλίες AI;

Ενώ η Cirrascale δεν προσφέρει υπηρεσίες ποιότητας δεδομένων, συνεργαζόμαστε με εταιρείες που μπορούν να βοηθήσουν με τα προβλήματα δεδομένων. Όσο για την υποδομή και τα κόστη, η Cirrascale μπορεί να προσαρμόσει μια λύση συγκεκριμένα για τις ανάγκες του πελάτη, με αποτέλεσμα καλύτερη συνολική απόδοση και σχετικά κόστη που αντιστοιχούν στις απαιτήσεις του πελάτη.

Με τις προόδους της Google (GOOGL ) στην κβαντική υπολογιστική (Willow) και τα μοντέλα AI (Gemini 2.0), πώς βλέπετε το τοπίο της επιχειρηματικής AI να αλλάζει στο άμεσο μέλλον;

Η κβαντική υπολογιστική είναι ακόμη khá μακριά από την ώρα της για τους περισσότερους λόγους, λόγω της έλλειψης προγραμματιστών και προγραμμάτων off-the-shelf που μπορούν να επωφεληθούν από τις λειτουργίες. Το Gemini 2.0 και άλλες μεγάλες προσφορές όπως το GPT4 και το Claude θα πάρουν σίγουρα κάποια αποδοχή από τους επιχειρηματικούς πελάτες, αλλά ένα μεγάλο μέρος της αγοράς δεν είναι προετοιμασμένο αυτή τη στιγμή να εμπιστευτεί τα δεδομένα τους σε τρίτους και ειδικά σε εκείνους που μπορεί να χρησιμοποιήσουν τα δεδομένα για την εκπαίδευση των μοντέλων τους.

Η εύρεση του σωστού ισορροπίας δύναμης, τιμής και απόδοσης είναι κρίσιμη για την κλιμάκωση λύσεων AI. Ποίες είναι οι κορυφαίες σας συστάσεις για εταιρείες που διαπραγματεύονται αυτήν την ισορροπία;

Δοκιμή, δοκιμή, δοκιμή. Είναι κρίσιμο για μια εταιρεία να δοκιμάσει το μοντέλο της σε διαφορετικές πλατφόρμες. Η παραγωγή διαφέρει από την ανάπτυξη – το κόστος έχει σημασία στην παραγωγή. Η εκπαίδευση μπορεί να είναι μια και έτοιμη, αλλά η αναφορά είναι για πάντα. Αν οι απαιτήσεις απόδοσης μπορούν να ικανοποιηθούν με χαμηλότερο κόστος, αυτές οι οικονομίες πέφτουν στο κάτω μέρος της γραμμής και μπορεί ακόμη και να κάνουν την λύση βιώσιμη. Πολύ συχνά, η ανάπτυξη ενός μεγάλου μοντέλου είναι πολύ ακριβή για να είναι πρακτική για χρήση. Οι τελικοί χρήστες πρέπει επίσης να αναζητήσουν εταιρείες που μπορούν να βοηθήσουν με αυτήν την δοκιμή, καθώς συχνά ένας μηχανικός ML μπορεί να βοηθήσει με την ανάπτυξη έναντι του επιστήμονα δεδομένων που δημιούργησε το μοντέλο.

Πώς προσαρμόζει η Cirrascale τις λύσεις της για να ανταποκριθεί στην αυξανόμενη ζήτηση για εφαρμογές γενετικής AI, όπως τα LLMs και τα μοντέλα δημιουργίας εικόνων;

Η Cirrascale προσφέρει το ευρύτερο φάσμα επιταχυντών AI, και με την εξάπλωση των LLMs και των μοντέλων GenAI που κυμαίνονται τόσο σε μέγεθος όσο και σε εμβέλεια (όπως σε σενάρια multi-μοντάλ), και batch vs. πραγματικού χρόνου, είναι πραγματικά ένα σενάριο “άλογο για κάθε περίπτωση”.

Μπορείτε να μας δώσετε παραδείγματα του πώς η Cirrascale βοηθά τις επιχειρήσεις να υπερβούν τα εμπόδια της καθυστέρησης και της μεταφοράς δεδομένων στις ροές εργασιών AI;

Η Cirrascale έχει πολλά κέντρα δεδομένων σε πολλές περιοχές και δεν θεωρεί τη συνδεσιμότητα δικτύου ως κέντρο κέρδους. Αυτό επιτρέπει στους χρήστες μας να “σχεδιάσουν” τις συνδέσεις που χρειάζονται για να μεταφέρουν δεδομένα, καθώς και να χρησιμοποιήσουν περισσότερες από μία τοποθεσίες εάν η καθυστέρηση είναι một κρίσιμη λειτουργία. Επίσης, με την προφίλ των πραγματικών φορτίων εργασίας, η Cirrascale μπορεί να βοηθήσει με την ισορροπία της καθυστέρησης, της απόδοσης και του κόστους για να προσφέρει την καλύτερη αξία μετά την ικανοποίηση των απαιτήσεων απόδοσης.

Ποίες είναι οι αναδυόμενες τάσεις στην υλική υποδομή ή την υποδομή AI που σας ενθουσιάζουν περισσότερο, και πώς η Cirrascale προετοιμάζεται για αυτές;

Είμαστε πιο ενθουσιασμένοι για τους νέους επεξεργαστές που είναι σχεδιασμένοι ειδικά για αναφορά έναντι των γενικών επεξεργαστών GPU που ταιριάζουν καλά για την εκπαίδευση, αλλά δεν είναι βελτιστοποιημένοι για περιπτώσεις χρήσης αναφοράς που έχουν εγγενώς διαφορετικές υπολογιστικές απαιτήσεις από την εκπαίδευση.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα μπορούν να επισκεφθούν την Cirrascale Cloud Services.