Das größte Unternehmen AI-Bang für Ihren Geldbeutel mit MLOps – Thought Leaders

Von Victor Thu, Vice President of Customer Success and Operations, Datatron.

Eine Umfrage von Gartner im späten Jahr 2020 ergab, dass 75 % der Befragten planten, AI-Initiativen in den nächsten Jahren fortzusetzen oder neue zu starten. Gleichzeitig stellten Gartner-Analysten fest, dass eines der größten Probleme bei der Umsetzung von AI-Initiativen in die Produktion die Unfähigkeit der Unternehmen ist, diese Investitionen mit dem Geschäftswert in Verbindung zu bringen.

Was mehr ist, wird weitgehend angenommen, dass die Mehrheit der AI/ML-Projekte fehlschlagen wird. Und diese Tatsache kann es noch schwieriger machen, die Zustimmung von oben für diese Investitionen zu erhalten. Hier kann MLOps – Machine Learning Operations – eine wichtige Rolle spielen.

Die aktuelle ML-Landschaft

Machine Learning bietet enorme Möglichkeiten für Unternehmen, aber die Realität ist, dass es teuer und zeitaufwändig sein kann, diese Möglichkeiten zu nutzen. Während das Interesse an der Implementierung von ML hoch ist, bleibt die tatsächliche Umsetzung in der Produktion niedrig. Das größte Hindernis für die Umsetzung von Lösungen in die Produktion ist nicht die Qualität der Modelle, sondern die fehlende Infrastruktur, um dies zu ermöglichen.

Der Entwicklungszyklus für Machine Learning ist grundlegend anders als der Zyklus für traditionelle Softwareentwicklung. In den letzten 20 Jahren haben die Menschen im Wesentlichen verstanden, was erforderlich ist, um traditionelle Software von der Entwicklung zur Produktion zu bringen. Sie verstehen die benötigten Ressourcen wie Rechenleistung, Middleware, Netzwerk, Speicher und andere Elemente, um sicherzustellen, dass die Anwendung gut läuft.

Leider versuchen die meisten, den gleichen Software-Entwicklungszyklus (SDLC) für den Machine-Learning-Entwicklungszyklus (MLLC) zu verwenden. ML ist jedoch ein wesentlicher Paradigmenwechsel. Die Infrastrukturzuweisungen sind einzigartig. Die Sprachen und Frameworks sind unterschiedlich.

Machine-Learning-Modelle können relativ schnell in wenigen Wochen erstellt werden, aber der Prozess, diese Modelle in die Produktion zu bringen, kann sechs bis neun Monate dauern, aufgrund von siloartigen Prozessen, Trennungen zwischen Teams und manueller Übersetzung und Skriptierung von ML-Modellen in bestehende Anwendungen.

Es ist auch schwierig, Machine-Learning-Modelle nach ihrer Umsetzung in die Produktion zu überwachen und zu regulieren. Es gibt keine Garantie, dass ML-Modelle, die im Labor erstellt wurden, in der Produktion wie beabsichtigt laufen. Und es gibt mehrere Faktoren, die dahinter stecken könnten.

Die Vorteile von MLOps

Wenn es um die Umsetzung von Machine-Learning-Modellen in die Produktion geht, kann, wie bereits erwähnt, viel schiefgehen. Wenn IT/DevOps versucht, Machine-Learning-Modelle zu operationalisieren, müssen diese Teams die verschiedenen Prozesse manuell skripten und automatisieren. Diese Modelle werden oft aktualisiert, und bei jeder Aktualisierung wird der gesamte Prozess wiederholt.

Wenn ein Unternehmen mehr und mehr Modelle und verschiedene Versionen dieser Modelle hat, wird es zu einem großen Problem, sie zu verfolgen. Eines der großen Probleme ist, dass die verwendeten Tools oft das Problem der unterschiedlichen Codebasen und Frameworks nicht angehen, die untereinander nicht verbunden sind. Dies kann zu Problemen führen, die Zeit und Ressourcen verschwenden, unter anderem. Die meisten Teams haben heute auch Schwierigkeiten, ihre Modelle zu verfolgen und zu versionieren, wenn sie diese aktualisieren.

MLOps hilft, die Kluft zwischen Data Science und Operations zu überbrücken, um die Produktion von ML-Modellen zu verwalten – im Wesentlichen DevOps-Prinzipien auf ML-Lieferung anzuwenden. Dies ermöglicht eine schnellere Markteinführung von ML-basierten Lösungen, eine schnellere Experimentierungsrate und die Gewährleistung von Qualität und Zuverlässigkeit.

Mit traditionellen SDLC-Modellen können Sie vielleicht ein oder zwei ML-Modelle pro Jahr umsetzen, mit großem Aufwand und extremer Ineffizienz. Aber mit MLOps können Sie skalieren, um mehrere Probleme anzugehen. Sie können diese Modelle verwenden, um potenzielle Kunden besser zu identifizieren, relevantere Kunden zu finden oder Ineffizienzen zu finden und zu verbessern. Sie können Verbesserungen viel schneller umsetzen, was letztendlich die Produktivität und den Gewinn steigert.

Die Elemente des MLOps-Erfolgs

MLOps ist kein silberner Kugel. Sie benötigen immer noch die richtige Grundlage und die besten Praktiken, damit es funktioniert. Um mit MLOps erfolgreich zu sein, müssen Sie sich auf zwei Hauptaufgaben konzentrieren. Die erste besteht darin, die verschiedenen Rollen zu verstehen. Sie müssen sicherstellen, dass Sie die richtige, vielfältige Gruppe von Fähigkeiten und Mitarbeitern haben; behandeln Sie Data Scientists und Machine-Learning-Ingenieure nicht als ein und dasselbe. Beide sind notwendig, aber Sie benötigen eine Mischung.

Die zweite Sache, die Sie im Auge behalten müssen, ist, dass Sie nicht alles selbst machen sollten. MLOps ist auch arbeitsintensiv und erfordert große Teams von ML-Ingenieuren. Es ist wichtig, sich zu überlegen, was Sie benötigen, und die verfügbaren Tools zu betrachten, um den Ansatz zu vereinfachen und die Anzahl der benötigten Fachleute zu reduzieren.

Weiter mit Zuversicht

Branchenanalysten schätzen, dass fast die Hälfte der Unternehmens-AI-Projekte zum Scheitern verurteilt sind. Es gibt mehrere Gründe für dieses Scheitern, einschließlich der Unternehmenskultur. Aber ein primärer Grund ist das Fehlen angemessener Technologie, um das Projekt zu unterstützen. MLOps ist ein sehr nützliches Werkzeug, um Unternehmen dabei zu helfen, Erfolg in ihren AI/ML-Projekten zu erzielen, was zu einem wettbewerbsfähigen Geschäftsvorteil führt.