Erhalten Sie den größten Unternehmens-AI-Effekt für Ihr Geld mit MLOps – Thought Leaders

Von Victor Thu, Vice President of Customer Success and Operations, Datatron.

Eine Umfrage von Gartner Ende 2020 ergab, dass 75 % der Befragten planten, AI-Initiativen in den kommenden Jahren fortzusetzen oder neue zu starten. Gleichzeitig stellten Gartner-Analysten fest, dass einer der größten Schwierigkeiten bei der Umsetzung von AI-Initiativen in die Produktion die Unfähigkeit der Organisationen ist, diese Investitionen auf den Geschäftswert zurückzuführen.

Was mehr ist, wird weitgehend angenommen, dass die Mehrheit der AI/ML-Projekte scheitern wird. Und diese Tatsache kann es noch schwieriger machen, die Zustimmung der Unternehmensführung für diese Investitionen zu erhalten. Hier kann MLOps – Machine Learning Operations – eine wichtige Rolle spielen.

Die aktuelle ML-Landschaft

Machine Learning bietet Unternehmen enorme Möglichkeiten, aber die Realität ist, dass es teuer und zeitaufwändig sein kann, diese Möglichkeiten zu nutzen. Während das Interesse an der Implementierung von ML hoch ist, bleibt die tatsächliche Produktionsimplementierung niedrig. Das größte Hindernis für die Einführung von Lösungen in die Produktion ist nicht die Qualität der Modelle, sondern die fehlende Infrastruktur, die es Unternehmen ermöglicht, dies zu tun.

Der Entwicklungslebenszyklus für Machine Learning ist grundlegend anders als der Lebenszyklus traditioneller Softwareentwicklung. In den letzten 20 Jahren haben die Menschen größtenteils herausgefunden, was erforderlich ist, um traditionelle Software von der Entwicklung zur Produktion zu bringen. Sie verstehen die Compute-, Middleware-, Netzwerk-, Speicher- und anderen Elemente, die erforderlich sind, um sicherzustellen, dass die App gut läuft.

Leider versuchen die meisten, den gleichen Software-Entwicklungslebenszyklus (SDLC) für den Machine-Learning-Entwicklungslebenszyklus (MLLC) zu verwenden. ML ist jedoch ein wesentlicher Paradigmenwechsel. Die Infrastrukturallokationen sind einzigartig. Die Sprachen und Frameworks sind unterschiedlich.

Machine-Learning-Modelle können relativ schnell in wenigen Wochen erstellt werden, aber der Prozess, um diese Modelle in die Produktion zu bringen, kann sechs bis neun Monate dauern, aufgrund von siloartigen Prozessen, Trennungen zwischen Teams und manueller Übersetzung und Skripten von ML-Modellen in bestehende Anwendungen.

Es ist auch schwierig, Machine-Learning-Modelle zu überwachen und zu regeln, sobald sie in die Produktion gelangt sind. Es gibt keine Garantie, dass ML-Modelle, die im Labor erstellt wurden, so funktionieren, wie sie beabsichtigt sind, wenn sie in der Produktion eingesetzt werden. Es gibt mehrere Faktoren, die dahinter stecken können.

Die Vorteile von MLOps

Wenn es um die Bereitstellung von Machine-Learning-Modellen in der Produktion geht, gibt es, wie bereits erwähnt, viel, was schiefgehen kann. Wenn IT/DevOps versucht, Machine-Learning-Modelle zu operationalisieren, müssen diese Teams die verschiedenen Prozesse manuell skripten und automatisieren. Diese Modelle werden oft aktualisiert und bei jeder Aktualisierung der Modelle wird der gesamte Prozess wiederholt.

Wenn eine Organisation mehr und mehr Modelle und verschiedene Iterationen dieser Modelle hat, wird es zu einem großen Problem, sie zu verfolgen. Eines der großen Probleme ist, dass die verwendeten Tools oft das Problem der verschiedenen Codebasen und Frameworks, die voneinander getrennt sind, nicht angehen. Dies kann zu Problemen führen, die Zeit und Ressourcen verschwenden, unter anderem. Die meisten Teams haben heute auch Schwierigkeiten, die Modelle zu verfolgen und zu versionieren, wenn sie aktualisiert werden.

MLOps hilft, die Kluft zwischen Data Science und Operations zu überbrücken, um die Produktions-ML-Lebenszyklen zu verwalten – im Wesentlichen DevOps-Prinzipien auf die ML-Lieferung anzuwenden. Dies ermöglicht ein schnelleres Time-to-Market für ML-basierte Lösungen, ein höheres Experimentierungsverhältnis und die Gewährleistung von Qualität und Zuverlässigkeit.

Mit traditionellen SDLC-Modellen können Sie möglicherweise ein oder zwei ML-Modelle pro Jahr erstellen, mit großem Aufwand und extremer Ineffizienz. Aber mit MLOps können Sie skalieren, um mehrere Probleme anzugehen. Sie können diese Modelle verwenden, um potenzielle Kunden besser zu identifizieren, relevantere Kunden zu finden oder Ineffizienzen zu finden und zu verbessern. Sie können Verbesserungen viel schneller bereitstellen, was letztendlich die Produktivität und den Gewinn verbessert.

Die Elemente des MLOps-Erfolgs

MLOps ist kein Allheilmittel. Sie benötigen immer noch die richtige Grundlage und die besten Praktiken, damit es funktioniert. Um mit MLOps erfolgreich zu sein, müssen Sie sich auf zwei primäre Aufgaben konzentrieren. Die erste ist das Verständnis der verschiedenen Rollen. Sie müssen sicherstellen, dass Sie die richtige, vielfältige Gruppe von Fähigkeiten und Mitarbeitern haben; behandeln Sie Data Scientists und Machine-Learning-Engineers nicht als ein und dasselbe. Beide sind notwendig, aber Sie benötigen eine Mischung.

Die zweite Sache, die Sie im Hinterkopf behalten sollten, ist, dass Sie nicht alles selbst machen sollten. MLOps ist auch arbeitsintensiv und erfordert große Teams von ML-Engineers. Es ist wichtig, sich zu überlegen, was Sie benötigen, und die verfügbaren Tools zu betrachten, um den Ansatz zu vereinfachen und die Anzahl der benötigten Fachleute zu reduzieren.

Mit Zuversicht in die Zukunft

Branchenanalysten schätzen, dass fast die Hälfte der Unternehmens-AI-Projekte zum Scheitern verurteilt sind. Es gibt mehrere Gründe für ein solches Scheitern, einschließlich der Unternehmenskultur. Aber ein primärer Grund ist das Fehlen geeigneter Technologie, um das Projekt zu unterstützen. MLOps ist ein sehr nützliches Werkzeug, um Organisationen dabei zu helfen, Erfolg in ihren AI/ML-Projekten zu erzielen, was zu einem wettbewerbsfähigen Geschäftsvorteil führt.