Interviews
Sadeepa Wijesekara, Vizepräsident für Private Cloud AI bei HPE – Interviewreihe

Wichtige PunkteKI-Ökonomie wird erst dann zu einer betriebswirtschaftlichen Disziplin, wenn…
Mehr anzeigen
- KI-Ökonomie wird erst dann zu einer betriebswirtschaftlichen Disziplin, wenn Pilotprojekte in die Produktion skalieren und die Finanzabteilung ins Gespräch einsteigt.
- Kosten pro Token messen den Verbrauch, während Kosten pro Geschäftsergebnis offenlegen, ob die Investition tatsächlich sinnvoll ist.
- Agentische Workflows können den Token-Verbrauch drastisch vervielfachen, selbst während die Inferenzpreise weiter sinken.
Sadeepa Wijesekara ist Vizepräsident für Private Cloud AI bei Hewlett Packard Enterprise (HPE), wo er die Arbeit an Enterprise-KI-Software und -Plattformen für Private-Cloud-Umgebungen leitet. Er unterstützt Unternehmen dabei, KI sicher und in großem Maßstab einzusetzen und dabei Infrastrukturentscheidungen mit den geschäftlichen Anforderungen in Einklang zu bringen. Bei der Wirtschaftlichkeit des produktiven KI-Einsatzes bringt er eine ingenieurwissenschaftliche Perspektive ein, etwa bei der Verwaltung von Workloads, der Modellauswahl und den Kosten, die entstehen, wenn zunehmend autonome Systeme zuverlässig betrieben werden sollen.
Hewlett Packard Enterprise (HPE) bietet Unternehmenstechnologie in den Bereichen KI, Cloud, Netzwerke, Rechenleistung und Speicher. Das Portfolio Private Cloud AI unterstützt Unternehmen dabei, KI-Workloads auf einer Infrastruktur einzusetzen, die sie selbst kontrollieren, und diese mit hybriden Cloud-Umgebungen und externen Diensten zu kombinieren. In diesem Interview spricht Wijesekara darüber, warum sich KI-Ausgaben an Geschäftsergebnissen messen lassen sollten, wie agentenbasierte Workflows den Verbrauch verändern und welche finanziellen und betrieblichen Faktoren Entscheidungen über Modelle, Orchestrierung und Infrastruktur beeinflussen.
HPE hat den KI-Einsatz bei mehr als 70.000 Beschäftigten ausgeweitet. Was haben Sie dabei darüber gelernt, wann die Wirtschaftlichkeit von KI keine reine IT-Frage mehr ist, sondern zu einer umfassenderen geschäftlichen Disziplin wird?
Die Wirtschaftlichkeit von KI wird zu einer umfassenderen geschäftlichen Disziplin, wenn Unternehmen von Pilotprojekten zum produktiven Einsatz übergehen. Ein Pilotprojekt kann zeigen, ob KI eine Aufgabe erledigen kann, doch es kann Ineffizienzen verbergen, weil nur wenige Nutzer beteiligt sind. Sobald die Zahl der Nutzer von 10 auf 10.000 steigt, müssen Kosten, Latenz und Zuverlässigkeit berücksichtigt und zugleich der von der KI geschaffene Mehrwert verstanden werden. Dann müssen auch die Finanzabteilung und die Verantwortlichen für die von der KI unterstützten Geschäftsprozesse in die Gespräche einbezogen werden. Die IT kann messen, welche Ressourcen eine Anwendung verbraucht. Ob die Ergebnisse diese Investition rechtfertigen, müssen jedoch die Geschäftsverantwortlichen beurteilen.
Viele Unternehmen konzentrieren sich bei der Bewertung generativer KI nach wie vor stark auf Kennzahlen wie die Kosten pro Token. Warum halten Sie die Kosten pro Geschäftsergebnis für aussagekräftiger, und wie sollten Unternehmen diese in der Praxis berechnen?
Die Kosten pro Token zeigen, wie viel KI Sie genutzt haben, sagen aber nicht aus, ob dadurch ein nützliches Ergebnis erzielt wurde. Unternehmen sollten zuerst das Geschäftsergebnis definieren und anschließend die Gesamtkosten berechnen, die zu seiner Erzielung erforderlich sind. Das Modell ist nur ein Teil dieser Kosten; hinzu kommen Software, Speicher, Datenübertragung, Governance und Personal. Wenn Unternehmen diese Kosten dem in einem bestimmten Geschäftsprozess geschaffenen Mehrwert gegenüberstellen, können sie besser beurteilen, ob sich die Investition wirtschaftlich lohnt.
Wenn sich KI von individuellen Copiloten hin zu agentenbasierten Systemen und Multi-Agenten-Systemen entwickelt, die lange Aufgabenfolgen ausführen können: Wie stark könnte der Verbrauch steigen, selbst wenn die zugrunde liegenden Kosten für Inferenz weiter sinken?
Der Verbrauch kann sehr schnell steigen, denn eine einzelne Nutzeranfrage kann im Hintergrund deutlich mehr Arbeit auslösen. Ein Agent kann Informationen abrufen und Werkzeuge aufrufen und dabei mehrere Schritte durchlaufen, bevor er ein Ergebnis liefert. In einem beispielhaften Vergleich von HPE benötigte ein einfacher Chatbot-Austausch etwa 400 Token, während eine agentenbasierte RAG-Anfrage etwa 21.500 Token beanspruchte. Selbst wenn die Tokenpreise sinken, kann der Gesamtverbrauch stark zunehmen, wenn KI immer komplexere Aufgaben übernimmt.
Wie sollten Unternehmen beurteilen, ob ein KI-Anwendungsfall tatsächlich wirtschaftlichen Mehrwert schafft, statt lediglich Produktivitätskennzahlen zu verbessern oder beeindruckende Vorführungen zu ermöglichen?
Ein Anwendungsfall sollte an einen Business Case mit klaren KPIs geknüpft werden, bevor er ausgeweitet wird. Unternehmen müssen verstehen, welche Kosten der Geschäftsprozess verursacht und wie sich diese durch den Einsatz von KI verändern. Außerdem müssen sie unterscheiden, ob sich lediglich eine Tätigkeit verbessert oder ob sich auch das Geschäftsergebnis verbessert. Eingesparte Zeit ist aussagekräftiger, wenn dadurch mehr Kundenanliegen gelöst, Fehler reduziert oder zuvor unerledigte Aufgaben abgeschlossen werden. Bei der Bewertung sollten auch die Qualität des Ergebnisses sowie zusätzlicher Prüf- oder Nachbearbeitungsaufwand berücksichtigt werden. Eine erfolgreiche Vorführung belegt eine Fähigkeit; messbare Verbesserungen des Geschäftsprozesses sprechen dafür, den Einsatz auszuweiten. In manchen Fällen kann diese Analyse ergeben, dass KI nicht die richtige Lösung ist.
Modell-Routing und KI-Orchestrierung werden zunehmend als Möglichkeiten zur Kostenkontrolle diskutiert. Welchen Mehrwert können Unternehmen erschließen, wenn sie je nach Aufgabe dynamisch zwischen kleineren Modellen, Frontier-Modellen, spezialisierten Modellen und herkömmlicher Software wählen?
Es ist sehr wertvoll, das Modell passend zur jeweiligen Aufgabe auszuwählen. Wir haben erlebt, dass Unternehmen sehr unterschiedliche Workloads an dasselbe teure Frontier-Modell weiterleiteten, weil es ihnen zunächst vor allem darum ging, KI zum Laufen zu bringen. Bei wenigen Nutzern mag das noch tragbar sein, doch mit zunehmender Verbreitung steigen die Kosten schnell. Für komplexe Schlussfolgerungen kann ein Frontier-Modell sinnvoll sein, während für Routineaufgaben ein kleineres Modell ausreichen kann. Für einen bestimmten Fachbereich kann ein spezialisiertes Modell besser geeignet sein, und vorhersehbare, regelbasierte Aufgaben lassen sich mit herkömmlicher Software möglicherweise effizienter erledigen. Orchestrierung führt diese Optionen in einem Workflow zusammen und setzt ein leistungsfähigeres Modell ein, wenn die Aufgabe es erfordert. Mit zunehmender Leistungsfähigkeit von Modellen mit offen verfügbaren Gewichten haben Unternehmen außerdem mehr Möglichkeiten, bestimmte Workloads auf ihrer eigenen Infrastruktur auszuführen, statt für externe Modelle zu bezahlen. Im Unternehmensmaßstab können solche Routing-Entscheidungen die Kosten erheblich senken und zugleich die vom Unternehmen geforderte Qualität sicherstellen.
Ab welchem Punkt verschiebt sich die Wirtschaftlichkeit beim Ausführen von KI-Workloads von der Anmietung von Rechenleistung über eine API oder eine Public Cloud hin zum Besitz oder zur stärkeren Kontrolle der zugrunde liegenden Infrastruktur? Welche Variablen sollten Unternehmen bei dieser Entscheidung berücksichtigen?
Ich sehe das als die Frage, ob man mietet oder kauft. Mieten kann sinnvoll sein, solange Unternehmen experimentieren oder die Nachfrage stark schwankt. Wenn die Nutzung zunimmt und besser vorhersehbar wird, kann es sich wirtschaftlich lohnen, mehr von der Infrastruktur selbst zu besitzen oder zu kontrollieren. Eine eigene Infrastruktur bietet außerdem die Möglichkeit, in Zeiten geringer Auslastung zusätzliche KI-Experimente durchzuführen und so eine bereits getätigte Investition besser zu nutzen. Unternehmen müssen sowohl die Merkmale des Workloads als auch die Kosten für Energie, Verwaltung und die laufende Aktualisierung der Systeme berücksichtigen. Für viele große Unternehmen wird der richtige Ansatz wahrscheinlich je nach Workload sowohl private Infrastruktur als auch externe Dienste umfassen.
HPE baut seine private KI-Infrastruktur weiter aus, während Unternehmen immer mehr Workloads in den Produktivbetrieb überführen. Wo bietet private KI Ihrer Ansicht nach den größten wirtschaftlichen Vorteil gegenüber der ausschließlichen Nutzung von KI über Public-Cloud-Dienste?
Private KI kann bei dauerhaft anfallenden Workloads einen erheblichen wirtschaftlichen Vorteil bieten, wenn Unternehmen die Kapazitäten, die sie besitzen, effektiv nutzen können. In einer HPE-Analyse unter bestimmten Annahmen zu den Workloads wurden die Kosten für HPE Private Cloud AI auf etwa 45 $ pro Knotenstunde geschätzt, verglichen mit etwa 102 $ für eine entsprechende gemietete Cloud-Konfiguration. Diese Ergebnisse variieren je nach Workload und sollten für jede Umgebung neu berechnet werden. Private KI bietet Unternehmen außerdem ein anderes Finanzierungsmodell, bei dem die Infrastruktur zu einem Vermögenswert wird, der für das Unternehmen Wert schafft.
KI-Agenten verursachen über die Inferenz hinaus weitere Kosten, etwa für den Datenabruf, Tool-Aufrufe, Überwachung, Sicherheit und Governance. Welche Kosten unterschätzen Unternehmen bei der Budgetplanung für agentische KI im großen Maßstab am ehesten?
Unternehmen unterschätzen wahrscheinlich den Aufwand, der nötig ist, damit Agenten langfristig zuverlässig, sicher und nützlich bleiben. Über die Inferenz hinaus entstehen Kosten für den Abruf und die Aufbereitung von Daten, den Zugriff auf externe Tools und die Übertragung von Informationen zwischen Systemen. Wiederholte Tool-Aufrufe oder fehlgeschlagene Versuche können zusätzliche Kosten verursachen, ohne dass die Aufgabe abgeschlossen wird. Unternehmen müssen auch Mittel für die Bewertung der Ergebnisse, die Überwachung des Agentenverhaltens, die Verwaltung von Zugriffsberechtigungen sowie die Aufrechterhaltung von Sicherheits- und Governance-Kontrollen einplanen. Auch die menschliche Kontrolle gehört in diese Rechnung, einschließlich der Zeit, die Mitarbeitende für die Prüfung von Ausnahmefällen oder die Korrektur von Fehlern aufwenden. Um die Kosten einer erfolgreich abgeschlossenen Aufgabe zu verstehen, muss der gesamte Workflow transparent sein.
Sie haben betont, wie wichtig es ist, den KI-Verbrauch den einzelnen Geschäftsfällen zuzuordnen. Wie sieht ein wirksamer interner Messrahmen aus, und wie oft sollten Unternehmen neu beurteilen, ob eine KI-Anwendung ihre laufenden Rechen- und Betriebskosten weiterhin rechtfertigt?
Der Messrahmen sollte die Nutzung direkt mit dem Geschäftszweck verknüpfen. Unternehmen müssen wissen, welche Anwendung Ressourcen verbraucht und welches Ergebnis sie liefern soll. Bei HPE erfassen wir für jeden Anwendungsfall die KPIs und die zugrunde liegenden Stückkosten, um zu messen, ob die erwarteten Ergebnisse erzielt werden. Ich möchte diese Daten auch auf Ebene einzelner Abteilungen und Geschäftsprozesse sehen, damit ein CFO nachvollziehen kann, was ein Prozess heute kostet und was er mit KI kostet. Das sollte ein fortlaufender Prozess sein, denn die Nutzung und die Wirtschaftlichkeit einer Anwendung können sich im Laufe der Zeit ändern. Unternehmen sollten außerdem neu bewerten, wenn sich ein Modell, ein Preis oder ein Workflow wesentlich ändert, denn solche Änderungen können sowohl die Kosten als auch den Wert einer Anwendung beeinflussen.
Wie wird sich die Wirtschaftlichkeit von Unternehmens-KI Ihrer Ansicht nach in den nächsten drei bis fünf Jahren entwickeln, wenn KI in die meisten Geschäftsprozesse eingebettet ist? Wird die Steuerung des KI-Verbrauchs schließlich Praktiken wie Cloud-FinOps ähneln, oder benötigen Unternehmen ein völlig neues Betriebsmodell?
Ich denke, dass sich die Wirtschaftlichkeit von KI auf FinOps-Prinzipien wie Kostentransparenz, Kostenverteilung und Verantwortlichkeit stützen und diese zugleich um die Messung der Qualität und des Werts der von KI geleisteten Arbeit erweitern wird. Wenn Agenten mehr Schritte innerhalb eines Geschäftsprozesses übernehmen, müssen Unternehmen verstehen, welche Kosten anfallen, um diesen Prozess erfolgreich abzuschließen – einschließlich erneuter Versuche und menschlicher Eingriffe – und ob das Ergebnis den geforderten Standards entspricht. Ich gehe davon aus, dass dies zu einer gemeinsamen Verantwortung von IT, Finanzabteilung und Geschäftsbetrieb wird. Wir stehen noch am Anfang, einheitliche Methoden für solche Vergleiche zwischen Unternehmen und Branchen zu entwickeln. Langfristig würde ich mir standardisierte Kennzahlen wünschen, anhand derer Unternehmen erkennen können, wie effizient sie KI einsetzen, und diese Effizienz in ihrer Gewinn- und Verlustrechnung abbilden können.
Vielen Dank für das großartige Interview. Leserinnen und Leser, die mehr über private Cloud-KI, Unternehmensinfrastruktur und die Skalierung von KI-Workloads erfahren möchten, sollten die Website von HPE besuchen.












