Omri Geller, CEO & Co-Founder von Run:AI – Interview-Serie

Omri Geller ist der CEO und Co-Founder von Run:AI

Run:AI virtualisiert und beschleunigt künstliche Intelligenz, indem es GPU-Rechenressourcen poolt, um die Sichtbarkeit und letztendlich die Kontrolle über die Priorisierung und Zuweisung von Ressourcen zu gewährleisten. Dies stellt sicher, dass AI-Projekte auf Geschäftsziele abgestimmt sind und eine signifikante Verbesserung der Produktivität von Data-Science-Teams ermöglichen, sodass diese konkurrierende Modelle ohne Ressourcenbeschränkungen erstellen und trainieren können.

Was hat Sie ursprünglich zur künstlichen Intelligenz hingezogen?

Als ich mein Bachelor-Studium in Elektrotechnik und Elektronik an der Universität Tel Aviv begann, entdeckte ich faszinierende Dinge über künstliche Intelligenz, die ich wusste, dass sie uns zum nächsten Schritt in der Computertechnologie bringen würden. Von dort aus wusste ich, dass ich mich in den Bereich der künstlichen Intelligenz investieren wollte, sei es in der Forschung oder indem ich ein Unternehmen gründete, das neue Wege zur Anwendung von künstlicher Intelligenz in der Welt finden würde.

Haben Sie immer ein Interesse an Computer-Hardware gehabt?

Als ich meinen ersten Computer mit einem Intel (INTC ) -486-Prozessor im Alter von sechs oder sieben Jahren bekam, war ich sofort daran interessiert, herauszufinden, wie alles funktionierte, obwohl ich wahrscheinlich zu jung war, um es wirklich zu verstehen. Neben Sport wurde der Computer zu einem meiner größten Hobbys, als ich aufwuchs. Seitdem habe ich Computer gebaut, mit ihnen gearbeitet und studierte auf diesem Gebiet, weil ich als Kind so leidenschaftlich dafür war.

Was war Ihre Inspiration für die Gründung von Run:AI?

Ich wusste von Anfang an, dass ich mich in den Bereich der künstlichen Intelligenz investieren wollte. In den letzten paar Jahren hat die Branche ein enormes Wachstum in der künstlichen Intelligenz erlebt, und viel von diesem Wachstum kam von Computeringenieuren wie mir und der Hardware, die mehr Anwendungen unterstützen konnte. Es wurde mir klarer, dass ich unweigerlich ein Unternehmen gründen würde – und zusammen mit meinem Co-Founder Ronen Dar – um weiter zu innovieren und zu helfen, künstliche Intelligenz in mehr Unternehmen einzuführen.

Run:AI ermöglicht es Machine-Learning-Spezialisten, eine neue Art von Kontrolle über die Zuweisung teurer GPU-Ressourcen zu erlangen. Können Sie erklären, wie dies funktioniert?

Was wir verstehen müssen, ist, dass Machine-Learning-Ingenieure, wie Forscher und Data-Scientist, Rechenleistung auf flexible Weise konsumieren müssen. Nicht nur sind heutige Berechnungen sehr rechenintensiv, sondern es gibt auch neue Workflows, die in der Data-Science verwendet werden. Diese Workflows basieren auf der Tatsache, dass Data-Science auf Experimenten und dem Ausführen von Experimenten basiert.

Um neue Lösungen zu entwickeln, um effizientere Experimente durchzuführen, müssen wir diese Workflow-Tendenzen über die Zeit hinweg studieren. Zum Beispiel: Ein Data-Scientist verwendet acht GPUs an einem Tag, aber am nächsten Tag vielleicht keine oder er kann eine GPU für eine lange Zeit verwenden, aber dann benötigt er 100 GPUs, weil er 100 Experimente parallel durchführen möchte. Sobald wir diesen Workflow für die Optimierung der Rechenleistung eines Benutzers verstehen, können wir beginnen, ihn auf mehrere Benutzer zu skalieren.

Mit traditioneller Computertechnik werden eine bestimmte Anzahl von GPUs jedem Benutzer zugewiesen, ohne zu berücksichtigen, ob sie in Verwendung sind oder nicht. Mit dieser Methode sitzen oft teure GPUs untätig herum, ohne dass jemand anders darauf zugreifen kann, was zu einem niedrigen ROI für die GPU führt. Wir verstehen die finanziellen Prioritäten eines Unternehmens und bieten Lösungen an, die eine dynamische Zuweisung dieser Ressourcen entsprechend den Bedürfnissen der Benutzer ermöglichen. Durch die Bereitstellung eines flexiblen Systems können wir zusätzliche Leistung einem bestimmten Benutzer zuweisen, wenn erforderlich, indem wir GPUs nutzen, die von anderen Benutzern nicht verwendet werden, was zu einem maximalen ROI für die Rechenressourcen eines Unternehmens und einer Beschleunigung von Innovation und Zeit bis zur Markteinführung von AI-Lösungen führt.

Eine der Funktionen von Run:AI ist, dass es die Reduzierung von Blindspots ermöglicht, die durch die statische Zuweisung von GPU entstehen. Wie wird dies erreicht?

Wir haben ein Tool, das uns eine vollständige Sicht auf den Ressourcen-Cluster gibt. Durch die Verwendung dieses Tools können wir erkennen und verstehen, ob es Blindspots gibt, und dann die untätigen GPUs für Benutzer nutzen, die die Zuweisung benötigen. Das gleiche Tool, das die Sichtbarkeit in den Cluster und die Kontrolle über den Cluster bietet, stellt auch sicher, dass diese Blindspots gemindert werden.

In einer kürzlichen Rede haben Sie einige Unterschiede zwischen Build- und Training-Workflows hervorgehoben. Können Sie erklären, wie Run:AI ein GPU-Queueing-Management-Mechanismus zur Ressourcen-Zuweisung für beide verwendet?

Ein AI-Modell wird in zwei Stufen aufgebaut. Zuerst gibt es die Build-Phase, in der ein Data-Scientist den Code zum Aufbau des tatsächlichen Modells schreibt, genauso wie ein Ingenieur ein Auto baut. Die zweite ist die Trainingsphase, in der das abgeschlossene Modell beginnt, zu lernen und auf eine bestimmte Aufgabe zu trainieren. Ähnlich wie jemand, der nach dem Zusammenbau des Autos lernen muss, es zu fahren.

Um das Modell selbst aufzubauen, wird nicht viel Rechenleistung benötigt. Es könnte jedoch später stärkere Verarbeitungsleistung benötigen, um kleinere, interne Tests zu beginnen. Zum Beispiel, wie ein Ingenieur schließlich den Motor testen möchte, bevor er ihn installiert. Aufgrund dieser unterschiedlichen Bedürfnisse in jeder Phase ermöglicht Run:AI die GPU-Zuweisung unabhängig davon, ob sie das Modell aufbauen oder trainieren, wie jedoch bereits erwähnt, wird normalerweise mehr GPU-Leistung für das Training des Modells benötigt, während weniger für den Aufbau benötigt wird.

Wie viel Rohrechenzeit/Ressourcen können AI-Entwickler durch die Integration von Run:AI in ihre Systeme sparen?

Unsere Lösungen bei Run:AI können die Digitalisierung von Ressourcen um etwa zwei bis drei Mal verbessern, was bedeutet, dass die Gesamtproduktivität um 2-3 Mal besser ist.

Vielen Dank für das Interview, Leser, die mehr erfahren möchten, können Run:AI besuchen.