Jeronimo De Leon, Senior Product Manager für KI bei Backblaze – Interview-Serie

Jeronimo De Leon ist ein erfahrener Produktmanagement-Experte mit über 10 Jahren Erfahrung in der Förderung von KI-getriebener Innovation in Unternehmen und Start-ups. Als Senior Product Manager für KI bei Backblaze leitet er die Entwicklung von KI/ML-Features, konzentriert sich auf die Verbesserung des KI-Datenlebenszyklus für die MLOps-Architekturen der Kunden und implementiert KI-Tools und -Agenten, um interne Operationen zu optimieren.

Backblaze ist ein Cloud-Speicher- und Backup-Unternehmen, das unbegrenzte, automatische Computer-Backups für Einzelpersonen und Unternehmen sowie skalierbare Objekt-Speicherlösungen für Unternehmen, Medien und Anwendungsworkloads bietet. Seine Dienstleistungen konzentrieren sich auf Affordability, Datensicherheit, einfache Wiederherstellung und nahtlose Kompatibilität mit bestehenden Systemen.

Sie bringen über ein Jahrzehnt Erfahrung in der KI-getriebenen Produktentwicklung mit – von der Arbeit mit LLMs bei Intelas und RAG bei Welcome.AI bis hin zur Einführung von Bloombergs Chatbot und jetzt der Leitung der KI-Bemühungen bei Backblaze. Wie haben diese Erfahrungen Ihre Sicht auf die Rolle des Cloud-Speichers bei der Skalierung von KI/ML-Workflows geprägt?

Seit ich mit KI-Projekten bei IBM Watson begonnen habe, habe ich gesehen, wie sich das Tempo der Innovation dramatisch beschleunigt hat. Was früher Jahre dauerte, um von der Forschung zur Produktion zu gelangen, geschieht jetzt in Monaten. Allerdings bleiben die grundlegenden Infrastrukturherausforderungen dieselben: Wo sind die Daten, wo speichern wir sie und wie können wir sie effizient abrufen?

Früher waren die Einschränkungen Rechenleistung und Modelle, aber jetzt haben wir eine Fülle von vorgefertigten Modellen und es gibt viele Rechenanbieter. Wenn wir jedoch ein Projekt starteten, mussten wir früher immer mit einem Daten-Sammel- und -Verarbeitungsprojekt beginnen, das ist auch heute noch so. Ich sehe ständig, wie Organisationen an demselben Engpass der Konsolidierung von Daten aus verschiedenen Quellen stoßen. Die Organisationen, die erfolgreich sind, sind diejenigen, die die Daten-Accessibility frühzeitig lösen und eine Grundlage schaffen, die mit ihrer KI-Reife skaliert. Ihre Speicher-Architektur-Entscheidungen bestimmen, wie schnell Sie zum Modell-Training und zur Innovation gelangen können.

Wo sehen Sie den Cloud-Speicher in der KI-Lebenszyklus am kritischsten – von der Daten-Erfassung und -Verarbeitung bis zum Training, Feinabstimmung, Inferenz und Monitoring?

Cloud-Speicher ist kritisch im gesamten KI-Lebenszyklus, mit wichtigen Phasen in der Daten-Aggregation, -Verarbeitung, -Training und -Inferenz. Am Anfang beschleunigt die systematische Konsolidierung, Katalogisierung und Sicherung von Archiven neue Projekte und erleichtert es, neue Modelle zu testen. Saubere, gut verarbeitete Daten schlagen oft einfach mehr Daten, was den Speicher sowohl für die Qualität als auch für die Skalierbarkeit zentral macht. Einer meiner Lieblingssprüche von Backblaze lautet: “Es ist kein Hamstern, wenn es sich um Daten handelt.” Man weiß nie, wie wertvoll sie sein werden, also sollten Organisationen so viel wie möglich sammeln. Während des Trainings stellt der skalierbare Speicher den Durchsatz von großen Datenmengen sicher und bei der Inferenz ermöglicht die Erfassung von Vorhersageausgaben und Benutzerfeedback eine kontinuierliche Iteration. Am Ende ist der Speicher die Grundlage, die bestimmt, wie schnell Sie mit KI innovieren können.

Welche sind die größten Hindernisse, mit denen Organisationen bei der Skalierung des Speichers für KI konfrontiert sind, und wie unterscheiden sich diese Herausforderungen zwischen kleinen Start-ups und großen Unternehmen?

Die größten Hindernisse bei der Skalierung des Speichers für KI sind Kosten, Datenmanagement und Zugänglichkeit. Das Speichern großer Datenmengen ist nur ein Teil der Herausforderung; es muss auch organisiert, abrufbar und mit den richtigen Kontrollen verwaltet werden. Saubere, gut strukturierte Daten sind oft wertvoller als einfach mehr Daten.

Für Start-ups ist die anfängliche Herausforderung die Beschaffung genügend Daten, um ihre Modelle zu trainieren und zu verfeinern. Sobald sie diese haben, werden Kosten und Architektur die nächsten Barrieren.

Für große Unternehmen ist die Herausforderung die Komplexität. Ihre Daten sind reichlich vorhanden, aber fragmentiert über Silos, Legacy-Systeme und Compliance-Regime, was die Konsolidierung und Zugänglichkeit schwierig macht.

Die Organisationen, die erfolgreich sind, behandeln den Speicher als strategischen Enabler, der in Kosten, Leistung und Zugänglichkeit skaliert, während sie ihre KI-Reife steigern.

Unter den Aspekten Kosten, Latenz, Sicherheit und Compliance sehen Sie die Latenz als das dringlichste Hindernis für die Skalierung von KI. Wie sollten Organisationen dieses Hindernis angehen?

Die Latenz ist eines der dringlichsten Hindernisse für die Skalierung von KI. Sie hat direkten Einfluss auf das Modell-Training und die Inferenz, insbesondere die Inferenz, die die Benutzererfahrung prägt. Organisationen tun alles, um die Latenz in dieser Phase zu reduzieren, da Verzögerungen bei der Lieferung von Vorhersagen die Akzeptanz untergraben können.

Die Kosten bleiben eine konstante Herausforderung, da die Datenmengen wachsen, und die Compliance wird kritischer, wenn Organisationen skaliert werden, insbesondere in regulierten Branchen. Start-ups konzentrieren sich oft zuerst auf Kosten und Latenz, während Unternehmen die Latenz mit Governance- und regulatorischen Anforderungen ausbalancieren müssen. Die Priorität sollte darin bestehen, einen Speicher aufzubauen, der die Latenz für das Training und die Inferenz minimiert, während er gleichzeitig kosteneffizient und compliant bleibt, wenn die KI-Adoption expandiert.

Unternehmen betonen oft die Notwendigkeit von Flexibilität und einfacher Zugänglichkeit zu Daten, um KI-Innovationen voranzutreiben. Was bedeutet aus Ihrer Sicht wahre Flexibilität im Datenzugriff, und warum ist sie so entscheidend?

In einer kürzlichen Rede habe ich die Idee des intelligenten Archivierens betont. Wahre Flexibilität im Datenzugriff beginnt mit der Zentralisierung von Informationen in einem strukturierten, durchsuchbaren Archiv. Das bedeutet, diverse Formate zu vereinheitlichen, zu normalisieren und zu kennzeichnen, um Konsistenz zu gewährleisten, und Indizierung für zukünftige Abfragen zu ermöglichen. Dieser Ansatz stellt sicher, dass Daten nicht nur gespeichert, sondern auch nutzbar gemacht werden.

Es ist entscheidend, weil es die Grundlage für Analytics und Modellierung legt. Wenn Daten strukturiert und durchsuchbar sind, können Teams schneller agieren, freier experimentieren und die Latenz in beiden Training und Inferenz reduzieren. Ohne diese Art von Flexibilität wird der Speicher schnell zu einem Engpass anstelle eines Enablers für KI-Innovationen.

Können Sie reale Anwendungsfälle wie bei Kunden wie Decart AI oder Wynd Labs teilen, die zeigen, wie die richtige Cloud-Speicher-Strategie direkt KI-Innovationen ermöglichen kann?

Das sind zwei großartige Beispiele dafür, wie die richtige Cloud-Speicher-Strategie direkt KI-Innovationen ermöglichen kann. Decart konzentrierte sich auf das Modell-Training, bei dem die effiziente Datenübertragung zum Rechenzentrum kritisch war. Mit Backblaze B2 skalierten sie auf 16 PB in 90 Tagen, trainierten über mehrere GPU-Cluster mit null Ausgangskosten und erreichten zehnmal die Effizienz der Wettbewerber. Diese Zuverlässigkeit und Effizienz befreiten sie, um schneller zu innovieren.

Wynd Labs konzentrierte sich auf den Zugriff der Kunden auf Daten. Sie nehmen täglich Petabyte auf und servieren monatlich Zehntausende von Petabyte. Mit Backblazes hoher Leistung und kostenlosem Ausgang konnten sie auf Unternehmensniveau skaliert werden und Ressourcen in die Produktentwicklung investieren. Diese Fähigkeit, den Datenzugriff im großen Maßstab bereitzustellen, hat neue Chancen für ihre Plattform eröffnet.

In beiden Fällen hat die richtige Speicherstrategie die Infrastruktur von einem Hindernis in einen Enabler verwandelt, der es den Unternehmen ermöglicht, sich auf die Innovation in KI zu konzentrieren, anstatt Kosten und Komplexität zu verwalten.

Wenn KI-Modelle und Datenmengen komplexer werden, welche Ratschläge würden Sie Organisationen geben, die den Speicher-Performance mit der Kosten-Effizienz in Einklang bringen möchten?

Organisationen sollten über ihre langfristige Daten-Nutzung mit ihrem Produkt im Blickfeld nachdenken. Das Sammeln, Verarbeiten, Verschieben und Ausführen von Daten wird alles Kernaspekte sein, wie ihr Produkt evolviert. Wenn sie dies nicht jetzt berücksichtigen, werden die Kosten und Speicher-Herausforderungen über die Zeit nur verschlimmert. Da KI ein zentraler Teil ihres Produkts und ihrer Organisation sein wird, muss der Speicher von Anfang an so konzipiert werden, dass er die Leistung mit der Kosten-Effizienz ausbalanciert, um reibungslos mit ihrem Wachstum zu skaliert werden zu können.

Sicherheit und Compliance sind insbesondere in regulierten Branchen von entscheidender Bedeutung. Wie sehen Sie die Evolution des Cloud-Speichers, um Governance-Bedürfnisse zu unterstützen, während Teams schnell innovieren können?

Die Governance ist ein wichtiger Teil des Speichers. Die Vereinfachung des Zugriffs mit einer soliden Grundlage für die Daten-Verwaltung, -Sicherheit und -Auditing ist entscheidend. Ich sehe den Cloud-Speicher mit stärkeren integrierten Kontrollen wie Verschlüsselung standardmäßig, fein granulierten Berechtigungen, Audit-Protokollen und Daten-Residenz-Optionen evolvieren. Ebenso wichtig ist die Daten-Herkunft. In KI ist es entscheidend, zu wissen, woher die Daten stammen, wie sie verarbeitet wurden und wie sie in Modelle einfließen, für Compliance und Vertrauen.

Gleichzeitig verbessern Speicher-Plattformen die Benutzerfreundlichkeit, damit Teams schnell agieren können. Wenn Governance, Herkunft und Zugänglichkeit zusammenarbeiten, können Organisationen regulatorische Anforderungen erfüllen, während sie weiterhin mit KI innovieren.

Für Organisationen, die B2 bewerten oder migrieren, welche Ratschläge oder Anleitungen können Sie in Bezug auf die Implementierung, insbesondere hinsichtlich der Daten-Migration, Integration mit bestehenden MLOps- oder Rechen-Stacks und Optimierung für Durchsatz und Ausgang, geben?

Da B2 S3-kompatibel ist, integriert es sich direkt in bestehende MLOps- und Rechen-Stacks ohne Neukonfiguration. Wir arbeiten oft mit Kunden an einem Proof-of-Concept, um Migration, Leistung und Integration vor der Skalierung zu validieren. Von dort aus konzentrieren wir uns auf die Optimierung des Durchsatzes, der Daten-Übertragung und der Daten-Orchestrierung, damit Teams über Cluster trainieren, Inferenz durchführen und schnell iterieren können, ohne von Infrastruktur-Engpässen behindert zu werden.

Wie entwickelt sich Backblaze seine Speicher-Angebote, um den Bedarf an KI-Workloads zu decken, insbesondere im Hinblick auf Trends wie LLMs, Exabyte-Skalen-Datensätzen und hybriden oder Multi-Cloud-Strategien?

Bei Backblaze konzentrieren wir uns nicht nur darauf, wie Daten heute verwendet werden, sondern auch darauf, wie sie in Zukunft orchestriert werden. Der Speicher ist nicht länger nur ein Archiv, sondern wird zu einem Werkzeug, das den schnellen Zugriff, die effiziente Übertragung und die zuverlässige Orchestrierung von Daten über Umgebungen hinweg ermöglicht. Mit LLMs und Exabyte-Skalen-Datensätzen wird diese Grundlage des einfachen Zugriffs und der hohen Durchsatzleistung nicht nur für das Training und die Inferenz, sondern auch für die aufkommende Klasse von KI-Agenten, die auf Daten angewiesen sind, um Prozesse autonomer zu machen, entscheidend sein. Das Ergebnis ist eine Speicher-Grundlage, die Innovationen jetzt ermöglicht und Organisationen auf das vorbereitet, was kommt.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Backblaze besuchen: Backblaze.