Ο Omri Geller, Διευθύνων Σύμβουλος και Συνιδρυτής της Run:AI – Σειρά Συνεντεύξεων

Ο Omri Geller είναι ο Διευθύνων Σύμβουλος και Συνιδρυτής της Run:AI

Η Run:AI εικονικοποιεί και επιταχύνει την τεχνητή νοημοσύνη με τη συναγωγή πόρων υπολογισμού GPU, για να διασφαλίσει την ορατότητα και τον έλεγχο της προτεραιότητας και της κατανομής των πόρων. Αυτό εξασφαλίζει ότι τα projεκτ της τεχνητής νοημοσύνης αντιστοιχούν στους επιχειρηματικούς στόχους και αποφέρει σημαντική βελτίωση στην παραγωγικότητα των ομάδων επιστημών των δεδομένων, επιτρέποντάς τους να κατασκευάζουν και να εκπαιδεύουν ταυτόχρονα μοντέλα χωρίς περιορισμούς πόρων.

Τι ήταν αυτό που σας έκανε να ενδιαφερθείτε αρχικά για την Τεχνητή Νοημοσύνη;

Όταν ξεκίνησα το πτυχίο μου σε Ηλεκτρολόγους και Ηλεκτρονικούς Μηχανικούς στο Πανεπιστήμιο του Τελ Αβίβ, ανακάλυψα κάποια εξαιρετικά πράγματα για την Τεχνητή Νοημοσύνη που ήξερα ότι θα μας οδηγούσαν στο επόμενο βήμα στις υπολογιστικές δυνατότητες. Από εκεί, ήξερα ότι ήθελα να επενδύσω τον εαυτό μου στον χώρο της Τεχνητής Νοημοσύνης. Ότι ήταν είτε στην έρευνα της Τεχνητής Νοημοσύνης, είτε στην έναρξη μιας εταιρείας που θα βοηθούσε στην εισαγωγή νέων τρόπων εφαρμογής της Τεχνητής Νοημοσύνης στον κόσμο.

Έχετε πάντα ενδιαφερθεί για τον υπολογιστικό υλικό;

Όταν έλαβα τον πρώτο μου υπολογιστή με επεξεργαστή Intel (INTC ) 486 σε ηλικία 6 ή 7 ετών, ήμουν αμέσως ενδιαφερμένος να κατανοήσω πώς λειτουργούσε το mọi, παρόλο που ήταν πιθανότατα πολύ νέος για να το καταλάβω πραγματικά. Εκτός από τον αθλητισμό, οι υπολογιστές έγιναν ένα από τα μεγαλύτερα χόμπι μου μεγαλώνοντας. Από τότε, έχω κατασκευάσει υπολογιστές, εργάστηκα με αυτούς και συνέχισα τις σπουδές μου στο πεδίο λόγω του πάθους που είχα ως παιδί.

Τι ήταν η έμπνευση πίσω από την έναρξη της Run:AI;

Γνώριζα από πολύ νωρίς ότι ήθελα να επενδύσω τον εαυτό μου στον χώρο της Τεχνητής Νοημοσύνης. Τα τελευταία δύο χρόνια, η βιομηχανία έχει δει τεράστια ανάπτυξη στην Τεχνητή Νοημοσύνη, και πολύ από αυτή την ανάπτυξη προήλθε από τους επιστήμονες υπολογιστών, όπως εγώ, και τον υλικό που θα μπορούσε να υποστηρίξει περισσότερες εφαρμογές. Έγινε πιο σαφές ότι θα ξεκινήσω μια εταιρεία – και μαζί με τον συνιδρυτή μου Ronen Dar – για να συνεχίσω να καινοτομώ και να βοηθήσω να φέρει την Τεχνητή Νοημοσύνη σε περισσότερες επιχειρήσεις.

Η Run:AI επιτρέπει στους ειδικούς της μηχανικής μάθησης να αποκτήσουν ένα νέο είδος ελέγχου στην κατανομή των ακριβών πόρων GPU. Μπορείτε να εξηγήσετε πώς λειτουργεί αυτό;

Τι χρειαζόμαστε να κατανοήσουμε είναι ότι οι μηχανικοί της μάθησης, όπως οι ερευνητές και οι επιστήμονες των δεδομένων, χρειάζονται να καταναλώσουν υπολογιστική δύναμη με ευέλικτο τρόπο. Όχι μόνο οι σημερινές νέες υπολογιστικές διαδικασίες είναι πολύ απαιτητικές σε υπολογιστική δύναμη, αλλά υπάρχουν επίσης νέες ροές εργασίας που χρησιμοποιούνται στις επιστήμες των δεδομένων. Αυτές οι ροές εργασίας βασίζονται στο γεγονός ότι οι επιστήμες των δεδομένων βασίζονται στην πειραματική διεξαγωγή και την εκτέλεση πειραμάτων.

Για να αναπτύξουμε νέες λύσεις για την εκτέλεση πιο αποτελεσματικών πειραμάτων, χρειαζόμαστε να μελετήσουμε αυτές τις τάσεις ροής εργασίας με την πάροδο του χρόνου. Για παράδειγμα: Ένας επιστήμονας των δεδομένων χρησιμοποιεί οκτώ GPU σε μια μέρα, αλλά την επόμενη μέρα μπορεί να χρησιμοποιήσει κανένα, ή μπορεί να χρησιμοποιήσει ένα GPU για μεγάλο χρονικό διάστημα, αλλά στη συνέχεια να χρειαστεί να χρησιμοποιήσει 100 GPU επειδή θέλει να εκτελέσει 100 πειράματα παράλληλα. Μόλις κατανοήσουμε αυτή τη ροή εργασίας για την βελτίωση της υπολογιστικής δύναμης ενός χρήστη, μπορούμε να αρχίσουμε να την κλιμακώνουμε σε πολλούς χρήστες.

Με την παραδοσιακή υπολογιστική, ένας συγκεκριμένος αριθμός GPU κατανέμεται σε κάθε χρήστη, χωρίς να λαμβάνεται υπόψη εάν χρησιμοποιούνται ή όχι. Με αυτή τη μέθοδο, συχνά, ακριβά GPU παραμένουν ανενεργά χωρίς κανέναν άλλον να μπορεί να τους προσεγγίσει, με αποτέλεσμα χαμηλή απόδοση για το GPU. Κατανοούμε τις οικονομικές προτεραιότητες μιας εταιρείας και προσφέρουμε λύσεις που επιτρέπουν τη δυναμική κατανομή αυτών των πόρων σύμφωνα με τις ανάγκες των χρηστών. Προσφέροντας ένα ευέλικτο σύστημα, μπορούμε να κατανείμουμε επιπλέον δύναμη σε einen συγκεκριμένο χρήστη όταν απαιτείται, χρησιμοποιώντας GPU που δεν χρησιμοποιούνται από άλλους χρήστες, δημιουργώντας μέγιστη απόδοση για τους υπολογιστικούς πόρους μιας εταιρείας και επιταχύνοντας την καινοτομία και τον χρόνο που απαιτείται για την αγορά των λύσεων της Τεχνητής Νοημοσύνης.

Μια από τις λειτουργίες της Run:AI είναι ότι επιτρέπει τη μείωση των τυφλών σημείων που δημιουργούνται από την στατική κατανομή των GPU. Πώς επιτυγχάνεται αυτό;

Έχουμε ένα εργαλείο που μας δίνει πλήρη ορατότητα στο σύμπλεγμα των πόρων. Χρησιμοποιώντας αυτό το εργαλείο, μπορούμε να παρατηρήσουμε και να κατανοήσουμε εάν υπάρχουν τυφλά σημεία και στη συνέχεια να χρησιμοποιήσουμε αυτά τα ανενεργά GPU για τους χρήστες που χρειάζονται την κατανομή. Το ίδιο εργαλείο που παρέχει ορατότητα στο σύμπλεγμα και έλεγχο στο σύμπλεγμα επίσης διασφαλίζει ότι αυτά τα τυφλά σημεία μειώνονται.

Σε μια πρόσφατη ομιλία, επισήμαναν κάποιες διακρίσεις μεταξύ των ροών εργασίας κατασκευής και εκπαίδευσης, μπορείτε να εξηγήσετε πώς η Run:AI χρησιμοποιεί einen μηχανισμό διαχείρισης ουράς GPU για την κατανομή της διαχείρισης πόρων και για τις δύο;

Ένα μοντέλο της Τεχνητής Νοημοσύνης κατασκευάζεται σε δύο στάδια. Το πρώτο είναι το στάδιο κατασκευής, όπου ένας επιστήμονας των δεδομένων γράφει τον κώδικα για την κατασκευή του μοντέλου, με τον ίδιο τρόπο που ένας μηχανικός θα κατασκευάσει ένα αυτοκίνητο. Το δεύτερο είναι το στάδιο εκπαίδευσης, όπου το ολοκληρωμένο μοντέλο αρχίζει να μαθαίνει και να «εκπαιδεύεται» για να βελτιώσει μια συγκεκριμένη εργασία. Παρόμοια με κάποιον που μαθαίνει να οδηγεί το αυτοκίνητο μετά την συναρμολόγησή του.

Για να κατασκευάσει το μοντέλο selbst, δεν χρειάζεται πολύ υπολογιστική δύναμη. Ωστόσο, τελικά, μπορεί να χρειαστεί ισχυρότερη υπολογιστική δύναμη για να αρχίσει μικρότερες, εσωτερικές δοκιμές. Για παράδειγμα, τον τρόπο που ένας μηχανικός θα ήθελε να δοκιμάσει τον κινητήρα πριν τον εγκαταστήσει. Λόγω αυτών των διαφορετικών αναγκών κατά τη διάρκεια κάθε σταδίου, η Run.AI επιτρέπει την κατανομή των GPU ανεξάρτητα από το αν είναι κατά τη διάρκεια της κατασκευής ή της εκπαίδευσης του μοντέλου, ωστόσο, όπως αναφέρθηκε νωρίτερα, η υψηλότερη χρήση των GPU γενικά απαιτείται για την εκπαίδευση του μοντέλου, ενώ λιγότερη απαιτείται για την κατασκευή του.

Πόσο сырой υπολογιστικός χρόνος/πόροι μπορούν να εξοικονομηθούν από τους dévelopτερς της Τεχνητής Νοημοσύνης που επιθυμούν να ενσωματώσουν την Run.AI στα συστήματά τους;

Οι λύσεις μας στη Run.ai μπορούν να βελτιώσουν την ψηφιοποίηση των πόρων, περίπου δύο έως τρεις φορές, σημαίνοντας 2-3 φορές καλύτερη συνολική παραγωγικότητα.

Ευχαριστώ για τη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα μπορούν να επισκεφθούν Run:AI.