Jeronimo De Leon, Senior Product Manager of AI at Backblaze – Συνέντευξη

Jeronimo De Leon είναι ένας έμπειρος ηγέτης στη διαχείριση προϊόντων με πάνω από 10 χρόνια εμπειρίας στην οδήγηση της καινοτομίας με βάση το AI σε περιβάλλοντα επιχειρήσεων και startup. Σήμερα, ως Senior Product Manager, AI στη Backblaze, ηγείται της ανάπτυξης χαρακτηριστικών AI/ML, επικεντρώνεται στο πώς η Backblaze ενισχύει τον κύκλο ζωής των δεδομένων AI για τις αρχιτεκτονικές MLOps των πελατών και εφαρμόζει εργαλεία και πράκτορες AI για την βελτίωση των εσωτερικών λειτουργιών.

Backblaze είναι μια εταιρεία cloud-αποθήκευσης και backup που παρέχει απεριόριστες, αυτόματες αντιγραφές ασφαλείας για άτομα και επιχειρήσεις, μαζί με λύσεις αποθήκευσης αντικειμένων κλιμάκωσης για φορτίσεις εργασίας επιχειρήσεων, μέσων και εφαρμογών. Οι υπηρεσίες της εστιάζονται στην προσιτότητα, την ασφάλεια των δεδομένων, την εύκολη ανάκτηση και την αδιάλειπτη συμβατότητα με τα υπάρχοντα συστήματα.

Εισάγετε πάνω από μια δεκαετία εμπειρίας στη διαχείριση προϊόντων με βάση το AI – από την εργασία με LLMs στην Intelas και RAG στο Welcome.AI έως την εκκίνηση του chatbot του Bloomberg και τώρα την ηγεσία των προσπαθειών AI στη Backblaze. Πώς έχουν διαμορφώσει αυτές οι εμπειρίες την άποψή σας για το ρόλο της αποθήκευσης cloud στην κλιμάκωση των ροών εργασίας AI/ML;

Από τότε που ξεκίνησα τα projecτ AI στην IBM Watson, έχω δει το ρυθμό της καινοτομίας να επιταχύνεται δραματικά. Αυτό που παλιότερα χρειαζόταν χρόνια για να μεταφερθεί από την έρευνα στην παραγωγή, τώρα συμβαίνει σε μήνες. Ωστόσο, οι θεμελιώδεις υποδομικές προκλήσεις παραμένουν οι ίδιες: πού είναι τα δεδομένα, πού τα αποθηκεύουμε και πώς τα προσπελαζόμαστε αποτελεσματικά;

Παλιότερα, οι περιορισμοί ήταν η υπολογιστική ισχύς και τα μοντέλα, αλλά τώρα έχουμε eine πλεονάζουσα ποσότητα προ-εκπαιδευμένων μοντέλων και υπάρχουν πολλοί παρόχοι υπολογιστικής ισχύος. Όμως, όταν ξεκινάμε ένα project, συνήθως πρέπει να αρχίσουμε με ένα project συλλογής και επεξεργασίας δεδομένων, αυτό παραμένει το ίδιο σήμερα. Συνεχώς βλέπω οργανισμούς που αντιμετωπίζουν το ίδιο εμπόδιο της συνένωσης δεδομένων από διαφορετικές πηγές. Οι οργανισμοί που επιτυγχάνουν είναι εκείνοι που λύνουν το πρόβλημα της προσβασιμότητας των δεδομένων νωρίς, δημιουργώντας μια βάση που κλιμακώνεται με την ωριμότητα του AI. Οι αποφάσεις αρχιτεκτονικής αποθήκευσης καθορίζουν πώς γρήγορα μπορείτε να φτάσετε στην εκπαίδευση μοντέλων και να καινοτομήσετε.

Πού βλέπετε την αποθήκευση cloud να παίζει τους πιο κρίσιμους ρόλους σε όλη τη διάρκεια ζωής του AI – από την εισαγωγή και επεξεργασία δεδομένων έως την εκπαίδευση, την εκμάθηση, την εύρεση και την παρακολούθηση;

Η αποθήκευση cloud είναι κρίσιμη σε όλη τη διάρκεια ζωής του AI, με κρίσιμους σταθμούς στη συλλογή, επεξεργασία, εκπαίδευση και εύρεση. Στο ξεκίνημα, η συστηματική συνένωση, καταλόγηση και ασφάλιση αρχείων επιταχύνει τα νέα projecτ και κάνει εύκολη την δοκιμή των αναδυόμενων μοντέλων. Καθαρά, καλά επεξεργασμένα δεδομένα συχνά υπερτερούν από το να έχεις απλώς περισσότερα δεδομένα, γεγονός που καθιστά την αποθήκευση κεντρική όσον αφορά την ποιότητα και την κλίμακα. Ένα από τα αγαπημένα μου ρητά της Backblaze είναι, “Δεν είναι συσσώρευση εάν είναι δεδομένα”. Ποτέ δεν ξέρεις πόσοτιμη θα είναι, οπότε οι οργανισμοί πρέπει να συλλέγουν όσο το δυνατόν περισσότερα. Κατά την εκπαίδευση, η κλιμακώσιμη αποθήκευση εξασφαλίζει την απόδοση μεγάλων συνόλων δεδομένων, και κατά την εύρεση, η καταγραφή των εξόδων πρόβλεψης και της ανατροφοδότησης του χρήστη ermöglicht τη συνεχή επανάληψη. Τελικά, η αποθήκευση είναι η βάση που καθορίζει πώς γρήγορα μπορείτε να καινοτομήσετε με το AI.

Ποίες είναι οι μεγαλύτερες προκλήσεις που αντιμετωπίζουν οι οργανισμοί κατά την κλιμάκωση της αποθήκευσης για το AI, και πώς διαφέρουν αυτές οι προκλήσεις μεταξύ μικρότερων startup και μεγάλων επιχειρήσεων;

Οι μεγαλύτερες προκλήσεις στην κλιμάκωση της αποθήκευσης για το AI είναι το κόστος, η διαχείριση δεδομένων και η προσβασιμότητα. Η αποθήκευση μεγάλων όγκων δεδομένων είναι μόνο μέρος της προκλήσης· πρέπει επίσης να οργανωθούν, να ανακτηθούν και να διακυβερνηθούν με τους σωστούς ελέγχους. Καθαρά, καλά δομημένα δεδομένα είναι συχνά πιοτιμή από το να έχεις απλώς περισσότερα δεδομένα.

Για τις startups, η αρχική πρόκληση είναι η απόκτηση αρκετών δεδομένων για την εκπαίδευση και την εξέλιξη των μοντέλων τους. Μόλις τα αποκτήσουν, το κόστος και η αρχιτεκτονική γίνονται τα επόμενα εμπόδια.

Για τις μεγάλες επιχειρήσεις, η πρόκληση είναι η复잡ότητα. Τα δεδομένα τους είναι άφθονα αλλά κατακερματισμένα σε σιλό, παλιά συστήματα και καθεστώτα συμμόρφωσης, καθιστώντας τη συνένωση και την προσβασιμότητα δύσκολη.

Οι οργανισμοί που επιτυγχάνουν αντιμετωπίζουν την αποθήκευση ως một στρατηγική ενabler που κλιμακώνεται σε κόστος, απόδοση και προσβασιμότητα παράλληλα με την ωριμότητα του AI.

Μεταξύ κόστους, καθυστέρησης, ασφάλειας και συμμόρφωσης, ποιά θεωρείτε την πιο επείγουσα πρόκληση για την κλιμάκωση του AI σήμερα, και πώς πρέπει οι οργανισμοί να προτεραιοποιήσουν την αντιμετώπιση της;

Μεταξύ κόστους, καθυστέρησης, ασφάλειας και συμμόρφωσης, η καθυστέρηση είναι μια από τις πιο επείγουσες προκλήσεις. Επηρεάζει直接 τόσο την εκπαίδευση όσο και την εύρεση, και η εύρεση ειδικότερα διαμορφώνει την εμπειρία του χρήστη. Οι οργανισμοί κάνουν ό,τι μπορούν για να μειώσουν την καθυστέρηση σε αυτό το στάδιο,既然 καθυστερήσεις στην παροχή προβλέψεων μπορούν να υπονομεύσουν την υιοθέτηση.

Το κόστος παραμένει μια σταθερή πρόκληση καθώς αυξάνονται οι όγκοι δεδομένων, και η συμμόρφωση γίνεται πιο κρίσιμη καθώς οι οργανισμοί κλιμακώνουν, ιδιαίτερα σε ρυθμιζόμενους κλάδους. Οι startups συχνά επικεντρώνονται πρώτα στο κόστος και την καθυστέρηση, ενώ οι επιχειρήσεις πρέπει να ισορροπήσουν την καθυστέρηση με τις απαιτήσεις διακυβέρνησης και ρυθμίσεων. Η προτεραιότητα πρέπει να είναι η κατασκευή μιας αποθήκευσης που ελαχιστοποιεί την καθυστέρηση για την εκπαίδευση και την εύρεση, ενώ παραμένει οικονομική και συμμορφώνεται με τις απαιτήσεις του AI.

Οι επιχειρήσεις συχνά τονίζουν την ανάγκη για ευελιξία και εύκολη πρόσβαση στα δεδομένα για να οδηγήσουν την καινοτομία του AI. Από την άποψή σας, τι σημαίνει αληθινή ευελιξία στην πρόσβαση στα δεδομένα, και γιατί είναι τόσο απαραίτητη;

Σε μια πρόσφατη ομιλία που έδωσα, υπογράμμισα την ιδέα της έξυπνης αρχειοθέτησης. Η αληθινή ευελιξία στην πρόσβαση στα δεδομένα ξεκινά με την κεντρικοποίηση των πληροφοριών σε μια δομημένη, αναζητήσιμη αρχειοθήκη. Αυτό σημαίνει την ενοποίηση διαφορετικών μορφών, την τυποποίηση και την ετικέτα για συνεπήτητα, και την ενεργοποίηση της ευρετηρίασης για μελλοντική αναζήτηση. Αυτή η προσέγγιση εξασφαλίζει ότι τα δεδομένα δεν αποθηκεύονται μόνο αλλά γίνονται χρήσιμα.

Είναι απαραίτητη γιατί δημιουργεί τις βάσεις για την ανάλυση και το μοντέλο. Όταν τα δεδομένα είναι δομημένα και αναζητήσιμα, οι ομάδες μπορούν να κινούνται πιο γρήγορα, να πειραματίζονται πιο ελεύθερα και να μειώσουν την καθυστέρηση τόσο στην εκπαίδευση όσο και στην εύρεση. Χωρίς这一種 ευελιξία, η αποθήκευση γρήγορα γίνεται εμπόδιο αντί για ενabler για την καινοτομία του AI.

Μπορείτε να μοιραστείτε πραγματικές περιπτώσεις χρήσης – όπως με πελάτες όπως Decart AI ή Wynd Labs – που δείχνουν πώς η σωστή προσέγγιση αποθήκευσης cloud μπορεί να ενεργοποιήσει直接 την καινοτομία του AI;

Αυτές είναι δύο εξαιρετικά παραδείγματα του πώς η σωστή προσέγγιση αποθήκευσης cloud μπορεί να ενεργοποιήσει直接 την καινοτομία του AI. Η Decart εστιάστηκε στην εκπαίδευση μοντέλων, όπου η μετακίνηση δεδομένων προς υπολογισμό ήταν κρίσιμη. Με τη Backblaze B2, κλιμάκωσαν σε 16PB σε 90 ημέρες, εκπαιδεύτηκαν σε πολλαπλά cluster GPU χωρίς κόστος εξόδου και πέτυχαν δέκα φορές την αποτελεσματικότητα των ανταγωνιστών. Αυτή η αξιοπιστία και αποτελεσματικότητα τους έδωσε την ελευθερία να καινοτομήσουν πιο γρήγορα.

Η Wynd Labs εστιάστηκε στην πρόσβαση των πελατών στα δεδομένα. Καταναλώνουν πετάβιτα δεδομένων καθημερινά και εξυπηρετούν δεκάδες πετάβιτα μηνιαίως. Με την υψηλή απόδοση και την δωρεάν έξοδο της Backblaze, μπορούσαν να κλιμακώσουν στην εταιρική ζήτηση και να επενδύσουν πόρους στην ανάπτυξη προϊόντων. Αυτή η ικανότητα να παρέχουν πρόσβαση δεδομένων σε κλίμακα άνοιξε νέες ευκαιρίες για την πλατφόρμα τους.

Σε cả τις περιπτώσεις, η σωστή στρατηγική αποθήκευσης μετέτρεψε την υποδομή από ένα εμπόδιο σε ένα ενabler, επιτρέποντας στις εταιρείες να επικεντρωθούν στην καινοτομία του AI αντί να διαχειρίζονται το κόστος και την πολυπλοκότητα.

Καθώς τα μοντέλα και τα δεδομένα του AI γίνονται πιο σύνθετα, ποια συμβουλή θα δίνατε στους οργανισμούς που προσπαθούν να ισορροπήσουν την απόδοση αποθήκευσης με την οικονομική αποτελεσματικότητα;

Οι οργανισμοί πρέπει να σκέφτονται τη μακροπρόθεσμη χρήση δεδομένων με το προϊόν τους. Η συλλογή, επεξεργασία, μετακίνηση και εκτέλεση εύρεσης σε δεδομένα θα είναι κεντρικά για το πώς το προϊόν τους θα εξελιχθεί. Εάν δεν το λάβουν υπόψη τώρα, τα κόστη και οι προκλήσεις αποθήκευσης θα αυξηθούν με την πάροδο του χρόνου.既然 το AI θα είναι κεντρικό μέρος του προϊόντος και του οργανισμού τους, η αποθήκευση πρέπει να σχεδιαστεί από νωρίς για να ισορροπήσει την απόδοση με την οικονομική αποτελεσματικότητα, ώστε να μπορεί να κλιμακωθεί ομαλά καθώς μεγαλώνουν.

Η ασφάλεια και η συμμόρφωση είναι ιδιαίτερα επείγουσες σε ρυθμιζόμενους κλάδους. Πώς βλέπετε την αποθήκευση cloud να εξελίσσεται για να υποστηρίξει τις ανάγκες διακυβέρνησης ενώ επιτρέπει στις ομάδες να καινοτομούν γρήγορα;

Η διακυβέρνηση είναι ένα κρίσιμο μέρος της αποθήκευσης. Η ροή της πρόσβασης με μια στερεή βάση για το πώς διαχειρίζονται τα δεδομένα, ασφαλίζονται και ελέγχονται είναι κρίσιμη. Βλέπω την αποθήκευση cloud να εξελίσσεται με ισχυρότερους ενσωματωμένους ελέγχους, όπως κρυπτογράφηση από προεπιλογή, λεπτομερείς άδειες, ιχνηλατήσεις και επιλογές κατοικίας δεδομένων. Όσο σημαντικό είναι και το data lineage. Στο AI, γνωρίζοντας από πού προέρχονται τα δεδομένα, πώς έχουν επεξεργαστεί και πώς τροφοδοτούν τα μοντέλα είναι απαραίτητο και για τη συμμόρφωση και την αξιοπιστία.

Ταυτόχρονα, οι πλατφόρμες αποθήκευσης βελτιώνουν την ευχρηστία, ώστε οι ομάδες να μπορούν να κινούνται γρήγορα. Όταν η διακυβέρνηση, η προέλευση και η προσβασιμότητα συνεργάζονται, οι οργανισμοί μπορούν να ικανοποιήσουν τις ρυθμιστικές απαιτήσεις ενώ συνεχίζουν να καινοτομούν με το AI σε ταχύτητα.

Για τους οργανισμούς που αξιολογούν ή μετεγκαθιστούν στο B2, ποια συμβουλή ή οδηγία παρέχετε όσον αφορά την εφαρμογή – ιδιαίτερα όσον αφορά τη μετεγκατάσταση δεδομένων, την ενοποίηση με υπάρχουσες MLOps ή στοίβες υπολογισμού, ή την βελτιστοποίηση για απόδοση και έξοδο;

Επειδή το B2 είναι συμβατό με S3, ενσωματώνεται απευθείας στις υπάρχουσες MLOps και στοίβες υπολογισμού χωρίς ανασχεδιασμό. Συνήθως συνεργαζόμαστε με πελάτες σε ένα proof of concept για να επικυρώσουμε τη μετεγκατάσταση, την απόδοση και την ενοποίηση πριν από την κλιμάκωση. Από εκεί, η εστίαση είναι στην βελτιστοποίηση της απόδοσης, της μετακίνησης δεδομένων και της ορχήστρας δεδομένων, ώστε οι ομάδες να μπορούν να εκπαιδεύσουν σε cluster, να εκτελέσουν εύρεση και να επαναλάβουν γρήγορα χωρίς να επιβραδύνεται από εμπόδια υποδομής.

Καθώς οι φορτίσεις εργασίας AI συνεχίζουν να κλιμακώνουν – ιδιαίτερα με τις τάσεις γύρω από τα LLMs, τα datasets κλίμακας exabyte και τις στρατηγικές multi-cloud ή hybrid – πώς η Backblaze εξελίσσει τις προσφορές αποθήκευσης για να ικανοποιήσει αυτές τις αναδυόμενες ανάγκες;

Στη Backblaze, επικεντρωνόμαστε όχι μόνο σε πώς χρησιμοποιούνται τα δεδομένα σήμερα, αλλά και σε πώς θα ορχηστρωθούν στο μέλλον. Η αποθήκευση δεν είναι πλέον μόνο ένα αρχείο, αλλά γίνεται ένα εργαλείο που ermöglicht τη γρήγορη πρόσβαση, την αποτελεσματική μετακίνηση και την αξιόπιστη ορχήστρα δεδομένων σε περιβάλλοντα. Με τα LLMs και τα datasets κλίμακας exabyte, αυτή η βάση της εύκολης πρόσβασης και της υψηλής απόδοσης θα είναι κρίσιμη όχι μόνο για την εκπαίδευση και την εύρεση, αλλά και για την αναδυόμενη τάξη των πρακτόρων AI που βασίζονται σε δεδομένα για να κάνουν τις διαδικασίες πιο αυτόνομες. Το αποτέλεσμα είναι μια βάση αποθήκευσης που ermöglicht την καινοτομία τώρα και προετοιμάζει τους οργανισμούς για το τι έρχεται μετά.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα μπορούν να επισκεφθούν τη Backblaze.