Jeronimo De Leon, Senior Product Manager d’IA chez Backblaze – Série d’entretiens

Jeronimo De Leon est un leader expérimenté dans la gestion de produits avec plus de 10 ans d’expérience dans l’innovation pilotée par l’IA dans des environnements d’entreprise et de startup. Actuellement, en tant que Senior Product Manager, IA chez Backblaze, il dirige le développement de fonctionnalités d’IA/ML, se concentre sur la manière dont Backblaze améliore le cycle de vie des données d’IA pour les architectures MLOps des clients et met en œuvre des outils et des agents d’IA pour optimiser les opérations internes.

Backblaze est une entreprise de stockage et de sauvegarde dans le cloud qui propose des sauvegardes automatiques et illimitées pour les ordinateurs des particuliers et des entreprises, ainsi que des solutions de stockage d’objets évolutives pour les charges de travail d’entreprise, de médias et d’applications. Ses services se concentrent sur l’abordabilité, la sécurité des données, la récupération facile et la compatibilité sans problème avec les systèmes existants.

Vous apportez plus d’une décennie d’expérience dans la gestion de produits pilotés par l’IA – de votre travail avec les LLM chez Intelas et RAG chez Welcome.AI à la mise en ligne du chatbot de Bloomberg et maintenant à la direction des efforts d’IA chez Backblaze. Comment ces expériences ont-elles façonné votre vision du rôle du stockage dans le cloud pour la mise à l’échelle des flux de travail d’IA/ML ?

Depuis que j’ai commencé à travailler sur des projets d’IA chez IBM Watson, j’ai vu le rythme de l’innovation s’accélérer de manière spectaculaire. Ce qui prenait auparavant des années pour passer de la recherche à la production se fait maintenant en quelques mois. Cependant, les défis fondamentaux d’infrastructure restent les mêmes : où sont les données, où les stockons-nous et comment y accédons-nous de manière efficace ?

Auparavant, les contraintes étaient liées au calcul et aux modèles, mais maintenant nous avons une abondance de modèles préentraînés et il y a de nombreux fournisseurs de calcul. Cependant, lorsqu’on commence un projet, on doit généralement commencer par un projet de collecte et de traitement de données, ce qui est toujours le cas aujourd’hui. Je constate systématiquement que les organisations rencontrent le même goulet d’étranglement de consolidation des données provenant de sources disparates. Les organisations qui réussissent sont celles qui résolvent tôt le problème de l’accessibilité des données, en créant ainsi une fondation qui évolue avec leur maturité en matière d’IA. Vos décisions d’architecture de stockage déterminent à quel point vous pouvez rapidement passer à la formation de modèles et innover.

Où voyez-vous le stockage dans le cloud jouer les rôles les plus critiques tout au long du cycle de vie de l’IA – de l’ingestion et du traitement des données à la formation, à l’ajustement fin, à l’inférence et à la surveillance ?

Le stockage dans le cloud est critique tout au long du cycle de vie de l’IA, avec des étapes clés dans l’agrégation, le traitement, la formation et l’inférence des données. Au début, la consolidation systématique, la catalogation et la sécurisation des archives accélèrent les nouveaux projets et facilitent la mise à l’essai de modèles émergents. Des données propres et bien traitées battent souvent la possession de plus de données, ce qui rend le stockage central à la fois pour la qualité et pour l’échelle. L’une de mes expressions favorites chez Backblaze est : « Ce n’est pas de l’accumulation si c’est des données ». Vous ne savez jamais à quel point elles seront précieuses, les organisations devraient donc en collecter autant que possible. Lors de la formation, un stockage évolutif assure le débit de grands ensembles de données, et lors de l’inférence, la capture des sorties de prédiction et des commentaires des utilisateurs permet une itération continue. À la fin, le stockage est la fondation qui détermine à quel point vous pouvez rapidement innover avec l’IA.

Quels sont les plus grands obstacles que les organisations rencontrent lors de la mise à l’échelle du stockage pour l’IA, et comment ces défis diffèrent-ils entre les petites startups et les grandes entreprises ?

Les plus grands obstacles dans la mise à l’échelle du stockage pour l’IA sont le coût, la gestion des données et l’accessibilité. Le stockage de grands volumes de données ne constitue qu’une partie du défi ; il doit également être organisé, récupérable et doté des contrôles appropriés. Des données propres et bien structurées sont souvent plus précieuses que la simple possession de plus de données.

Pour les startups, le défi initial est d’acquérir suffisamment de données pour former et affiner leurs modèles. Une fois qu’ils les ont, le coût et l’architecture deviennent les prochaines barrières.

Pour les grandes entreprises, le défi est la complexité. Leurs données sont abondantes mais fragmentées à travers des silos, des systèmes hérités et des régimes de conformité, ce qui rend la consolidation et l’accessibilité difficiles.

Les organisations qui réussissent traitent le stockage comme un moyen stratégique qui évolue en termes de coût, de performance et d’accessibilité aux côtés de leur maturité en matière d’IA.

Parmi le coût, la latence, la sécurité et la conformité, lequel voyez-vous comme la barrière la plus pressante pour la mise à l’échelle de l’IA aujourd’hui, et comment les organisations devraient-elles donner la priorité pour y répondre ?

Parmi le coût, la latence, la sécurité et la conformité, la latence est l’une des barrières les plus pressantes. Elle affecte directement à la fois la formation de modèles et l’inférence, et l’inférence en particulier façonne l’expérience utilisateur. Les organisations font tout ce qu’elles peuvent pour réduire la latence à ce stade, car les retards dans la fourniture de prédictions peuvent miner l’adoption.

Le coût reste un défi constant à mesure que les volumes de données augmentent, et la conformité devient plus critique à mesure que les organisations grandissent, en particulier dans les industries réglementées. Les startups se concentrent souvent d’abord sur le coût et la latence, tandis que les entreprises doivent équilibrer la latence avec les exigences de gouvernance et de réglementation. La priorité devrait être de construire un stockage qui minimise la latence pour la formation et l’inférence, tout en étant rentable et conforme à mesure que l’adoption de l’IA se développe.

Les entreprises mettent souvent l’accent sur la nécessité de flexibilité et d’un accès facile aux données pour stimuler l’innovation en matière d’IA. De votre point de vue, à quoi ressemble la véritable flexibilité dans l’accès aux données, et pourquoi est-elle si essentielle ?

Lors d’une conférence récente que j’ai donnée, j’ai souligné l’idée d’archivage intelligent. La véritable flexibilité dans l’accès aux données commence par la centralisation de l’information dans un archive structurée et recherchable. Cela signifie unifier les formats divers, normaliser et étiqueter pour la cohérence, et permettre l’indexation pour les requêtes futures. Cette approche garantit que les données ne sont pas seulement stockées mais rendues utilisables.

Il est essentiel car il pose les fondements pour l’analyse et la modélisation. Lorsque les données sont structurées et recherchables, les équipes peuvent aller plus vite, expérimenter plus librement et réduire la latence à la fois lors de la formation et de l’inférence. Sans ce type de flexibilité, le stockage devient rapidement un goulet d’étranglement au lieu d’un moyen d’innovation pour l’IA.

Pouvez-vous partager des cas d’utilisation réels – tels que ceux avec des clients comme Decart AI ou Wynd Labs – qui démontrent comment la bonne approche de stockage dans le cloud peut directement permettre l’innovation en matière d’IA ?

Ce sont deux excellents exemples de la manière dont la bonne approche de stockage dans le cloud peut directement permettre l’innovation en matière d’IA. Decart se concentrait sur la formation de modèles, où le déplacement des données vers le calcul de manière efficace était critique. Avec Backblaze B2, ils ont mis à l’échelle jusqu’à 16 PB en 90 jours, ont formé sur plusieurs grappes de GPU avec un coût de sortie nul et ont atteint dix fois l’efficacité des concurrents. Cette fiabilité et cette efficacité leur ont permis d’innover plus rapidement.

Wynd Labs se concentrait sur l’accès des clients aux données. Ils ingèrent des pétaoctets par jour et servent des dizaines de pétaoctets par mois. Avec les performances élevées de Backblaze et la sortie gratuite, ils ont pu évoluer pour répondre à la demande des entreprises et réinvestir les ressources dans le développement de produits. Cette capacité à fournir l’accès aux données à grande échelle a débloqué de nouvelles opportunités pour leur plateforme.

Dans les deux cas, la bonne stratégie de stockage a transformé l’infrastructure d’un contrainte en un moyen d’innovation, permettant aux entreprises de se concentrer sur l’innovation en matière d’IA plutôt que sur la gestion du coût et de la complexité.

À mesure que les modèles et les ensembles de données d’IA deviennent plus complexes, quels conseils donneriez-vous aux organisations qui tentent d’équilibrer les performances de stockage avec l’efficacité coût ?

Les organisations doivent réfléchir à leur utilisation de données à long terme avec leur produit en tête. La collecte, le traitement, le déplacement et l’exécution de l’inférence sur les données seront tous essentiels à l’évolution de leur produit. S’ils ne tiennent pas compte de cela maintenant, les coûts et les défis de stockage ne feront que s’accumuler avec le temps. Puisque l’IA sera une partie centrale de leur produit et de leur organisation, le stockage doit être conçu tôt pour équilibrer les performances avec l’efficacité coût de manière à ce qu’il puisse évoluer en douceur à mesure qu’ils grandissent.

La sécurité et la conformité sont particulièrement pressantes dans les industries réglementées. Comment voyez-vous le stockage dans le cloud évoluer pour répondre aux besoins de gouvernance tout en permettant aux équipes d’innover rapidement ?

La gouvernance est une partie clé du stockage. La mise en place d’un accès simplifié avec une fondation solide pour la gestion, la sécurité et l’audit des données est critique. Je vois le stockage dans le cloud évoluer avec des contrôles intégrés plus solides, tels que le cryptage par défaut, les autorisations fines, les journaux d’audit et les options de résidence des données. Tout aussi important est la lignée des données. Dans l’IA, savoir d’où viennent les données, comment elles ont été traitées et comment elles alimentent les modèles est essentiel à la fois pour la conformité et la confiance.

En même temps, les plateformes de stockage améliorent l’utilisabilité pour que les équipes puissent toujours bouger rapidement. Lorsque la gouvernance, la lignée et l’accessibilité travaillent ensemble, les organisations peuvent répondre aux exigences réglementaires tout en continuant à innover avec l’IA à grande vitesse.

Pour les organisations qui évaluent ou migrent vers B2, quels conseils ou orientations fournissez-vous en termes de mise en œuvre – en particulier en ce qui concerne la migration des données, l’intégration avec les piles de calcul ou les piles MLOps existantes, ou l’optimisation du débit et de la sortie ?

Étant donné que B2 est compatible S3, il s’intègre directement dans les piles MLOps et les piles de calcul existantes sans réarchitecture. Nous travaillons souvent avec des clients sur un concept de preuve pour valider la migration, les performances et l’intégration avant de passer à l’échelle. À partir de là, l’accent est mis sur l’optimisation du débit, du déplacement des données et de l’orchestration des données pour que les équipes puissent former sur des grappes, exécuter l’inférence et itérer rapidement sans être ralenties par les goulets d’étranglement de l’infrastructure.

À mesure que les charges de travail d’IA continuent de grandir – en particulier avec les tendances autour des LLM, des ensembles de données à l’échelle de l’exaoctet et des stratégies hybrides ou multi-cloud – comment Backblaze évolue-t-il ses offres de stockage pour répondre à ces besoins émergents ?

Chez Backblaze, nous nous concentrons non seulement sur la manière dont les données sont utilisées aujourd’hui, mais également sur la manière dont elles seront orchestrées à l’avenir. Le stockage n’est plus seulement un archive, il devient un outil qui permet un accès rapide, un déplacement efficace et une orchestration fiable des données à travers les environnements. Avec les LLM et les ensembles de données à l’échelle de l’exaoctet, cette fondation d’accès facile et de débit élevé sera critique non seulement pour la formation et l’inférence, mais également pour la classe émergente d’agents d’IA qui s’appuient sur les données pour rendre les processus plus autonomes. Le résultat est une fondation de stockage qui permet l’innovation maintenant et prépare les organisations à ce qui vient ensuite.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus devraient visiter Backblaze.