Um AI-Kosten zu senken, beginnen Sie mit Cloud-Ausgaben

AI’s sogenanntes “messy middle” hat vielleicht seinen größten Wirbelwind noch nicht erlebt.

Da ein globaler Hardware-Engpass mit massiver Nachfrage kollidiert, sind die AI-Kosten in die Höhe geschnellt. In einem Kampf um mehr Rechenleistung haben AI-Dienstleistungsunternehmen keine andere Wahl, als ihre Preise zu erhöhen und ihre Abrechnungsmodelle zu überarbeiten, was die Budgets aus dem Gleichgewicht bringt und die Innovation behindert, gerade als viele Organisationen endlich Fahrt aufnahmen.

Das Ergebnis ist mehr als nur ein Schock für den Geldbeutel: es ist eine Existenzkrise für eine Geschäftswelt, die effektiv gerade eine hatte. Unternehmen haben ihre Straßenkarten überarbeitet, um den Einfluss von AI zu berücksichtigen. Teams haben ihre Arbeitsabläufe an die Fähigkeiten von AI angepasst. Die Ermöglichung von AI ist zum primären Wettbewerbsvorteil von Organisationen geworden. AI ist ins Feld gekommen, hat eine massive Transformation ausgelöst, und jetzt werden Teams aufgefordert, zurückzuschalten, als sie gerade erst begonnen haben, es zu nutzen.

Unternehmen wie Uber haben Schlagzeilen gemacht, indem sie aggressive Obergrenzen für die Nutzung von AI festgelegt haben, um den Fluss zu stoppen. Aber während Nutzungsbeschränkungen ein wirksames Kostendämpfungsmittel sein können, sind sie nicht der einzige Weg, auf dem Unternehmen ihre Rechenausgaben reduzieren können.

Der erste Ort, an dem sie suchen sollten, ist ihre Cloud-Rechnung.

Es scheint widersprüchlich. Während die Formel immer war, dass mehr Rechenleistung mehr AI-Einfluss bedeutet, muss das nicht unbedingt effizienter sein. Unternehmen verlieren ihr Budget an AI-Dienstleistungen, während sie immer noch auf überdimensionierte, teure Infrastruktur angewiesen sind; die steigenden AI-Kosten decken einfach ein tief verwurzeltes Problem auf, das Unternehmen nicht länger ignorieren können.

Wie sich Cloud-Ausgaben ansammeln

IT-Infrastruktur-Ausgaben sind oft der zweitgrößte Posten in der Bilanz eines Unternehmens nach dem Personal, der im Durchschnitt 10% des jährlichen Umsatzes ausmacht – eine Zahl, die die AI-Nachfrage in den letzten Jahren in die Höhe getrieben hat. Aber viele fügen Volumen zu einem bereits aufgeblähten IT-Framework hinzu.

CTOs und andere technische Entscheidungsträger werden von dem angezogen, was ihnen vertraut und zuverlässig ist. Leider ist dies auch das, was ihre Cloud-Rechnungen in die Höhe treibt. Indem sie sich an das Bewährte halten, sperren sie sich in teure Einheitslösungen mit großen Hyperscalern ein, für die sie Lösungen bezahlen, die keinen Wert erzeugen.

Mit der Zeit stellen sie fest, dass sie für ungenutzte oder inaktive Dienste, nicht optimierte Hardware und leere Speicher zahlen, anstatt das Geld in AI-Innovationen zu investieren. Da AI nur teurer wird, werden sie jeden Dollar brauchen, den sie kriegen können.

Infrastruktur anpassen, um AI-Effizienz zu erreichen

Um die Cloud-Verschwendung unter Kontrolle zu bringen, ist eine Kombination aus akuter, kurzfristiger Aktion und langfristiger Evolution erforderlich. Die Bekämpfung dessen, was heute lösbar ist, gibt Unternehmen die notwendige Atempause, um größere Anpassungen für das nächste Jahr zu planen.

Der Übergang zu neuer Infrastruktur dauert, und Unternehmen benötigen Lösungen jetzt, damit ihre Teams weiterhin mit AI arbeiten können. Hier sind drei Schritte, die Unternehmen sofort unternehmen können, um ihre Cloud-Ausgaben zu regulieren:

1 – CPU- und Speicherusage analysieren

Es gibt so etwas wie “zu viel” Leistung. IT-Teams sollten eine gründliche Diagnose der Cloud-Dienstnutzung durchführen und dann Instanzen herunterstufen, die die Leistungsanforderungen überschreiten. Eine tiefere Analyse der Cloud-Nutzung hilft Teams auch, Funktionen und Infrastruktur zu entdecken, die überhaupt nicht genutzt werden; wenn ihr aktueller Vertrag es zulässt, können sie diese Dienste möglicherweise außer Betrieb nehmen oder eine geringere Zahlung für den Rest des Vertrags aushandeln. Andernfalls bietet die Identifizierung ungenutzter Funktionen einen wertvollen Rahmen für die Bestimmung der Parameter ihres neu konfigurierten Cloud-Ansatzes.

Wenn Unternehmen ihre Infrastrukturstrategie anpassen, werden sie wahrscheinlich Cloud-Dienste wählen, die die Speicherusage einsparen. Beispielsweise bieten speicheroptimierte Infrastruktur und vCPUs eine erschwinglichere Unterstützung für unternehmensgrade Unterstützung im Vergleich zu den arm-basierten Optimierungen, die typischerweise von Hyperscalern angeboten werden. Dies entlastet IT-Teams von einem Teil der Überwachungsbelastung und reduziert gleichzeitig die gesamten Cloud-Ausgaben.

2 – Strikte Ausgabengrenzen festlegen

Ausgabengrenzen und -limits sind die immunologische Reaktion der Technologiebranche auf AI-Preiserhöhungen, aber es geht nicht nur darum, Grenzen festzulegen. Es geht darum, wie diese Grenzen definiert, kommuniziert und durchgesetzt werden.

Einerseits sollten Ausgabengrenzen projektspezifisch sein. Führungskräfte sollten sie als Leitfaden für die Projektplanung und Ressourcenzuweisung verwenden, um Budgets, Zeitleisten und einzelne Projektteams mit Blick auf Effizienz zu strukturieren.

Was die Kommunikation betrifft, ist es entscheidend, dass die gesamte Belegschaft den Warum hinter den Grenzen versteht. Wir sind es gewohnt, das Digitale als unendlich zu sehen, aber in dieser Phase des AI-Booms stoßen wir an die Gesetze der Physik. Da Engpässe und Abrechnungsänderungen die tägliche Arbeit der Mitarbeiter beeinträchtigen, sollten Ausgabengrenzen als nachhaltiger Weg positioniert werden, um ihre neue Abhängigkeit von AI-gesteuerten Tools aufrechtzuerhalten, anstatt als Einschränkung.

3 – Tagging-Protokolle durchsetzen

Tagging-Protokolle verhindern unkontrollierte IT-Nutzung, die heimlich die Rechenausgaben in die Höhe treibt. Mit einem robusten Tagging-Code können IT-Führungskräfte ein besseres Verständnis für den Cloud-Dienstverkehr erlangen, was es Teams ermöglicht, die Quelle der Übernutzung zu identifizieren und strategische Anpassungen vorzunehmen, um Ressourcen dort zu reduzieren, wo es zu viel gibt. Gleichzeitig können Tagging-Protokolle auch zeigen, wo Teams möglicherweise eine Aufrüstung benötigen.

Wenn ihre bestehenden Cloud-Verträge auslaufen, haben Unternehmen die Gelegenheit, ihr Rechenzentrum mit einem komponierbaren, multi-Cloud-Ansatz umzustrukturieren. Dies bedeutet nicht unbedingt, dass sie ihre langjährigen Hyperscaler-Partner aufgeben, sondern dass sie ihre Verträge anpassen, um sie mit effizienterer Infrastruktur anderer Anbieter im Stack in Einklang zu bringen. Alternative Clouds, Edge-Lösungen, die die Belastung von GPU-basierten Infrastrukturen reduzieren, und Open-Source-Software-Lösungen bilden eine flexible, mehrstufige Strategie, die nicht nur Kosten spart, sondern auch den ROI jeder AI-Initiative maximiert, indem sie den Preis für die Leistung maximiert, sodass Unternehmen die Ersparnisse wieder in AI-Innovationen investieren können.

Die Effizienzmentalität umstrukturieren

Die Verwaltung von AI-Ausgaben ist auch eine Kulturfrage. AI-aktivierte Arbeitskräfte sind bekanntermaßen auf Effizienz fixiert. Deshalb bauen sie Agenten, automatisieren ihre Kommunikation und lassen AI die Arbeit erledigen, während sie ihre Kapazität für Kreativität und Innovation erweitern. Aber der verantwortungslose Einsatz dieser Tools hat den gegenteiligen Effekt.

“Tokenmaxxing” und andere Trends, die den verschwenderischen Einsatz von AI fördern, sind nicht mit einer Effizienzorientierung vereinbar. Wenn Teams wirklich mehr mit weniger erreichen wollen, sollten ihre Interaktionen mit AI diesem Prinzip entsprechen.

Dazu ist es erforderlich, Kultur und Technologie gleichzeitig zu verändern. Ermutigen Sie den Einsatz besserer Prompts, um die Inferenzlast zu reduzieren, aber auch die Übernahme von Infrastrukturen, die automatisch die Inferenz einsparen. Verwenden Sie kleinere AI-Modelle mit präzisen Anwendungsfällen. Nutzen Sie Open-Source-Modelle und -Software, um die Trainingsarbeit zu reduzieren. Ermächtigen Sie Entwickler, Probleme effizient zu lösen, und bilden Sie nicht-technische AI-Nutzer aus. Unternehmen, die ihre Mitarbeiter dazu ermutigen wollen, AI zu nutzen, müssen dies verantwortungsvoll tun.

Trotz Preiserhöhungen haben wir nicht auf die AI-Transformation gebremst. Die Operationalisierung von AI im großen Maßstab war immer ein teures Unterfangen, das sorgfältige Planung und strategische Kapitalzuteilung erfordert, um nachhaltig zu bleiben. Wo wir sind, ist ein Engpass: die Schritte, die IT-Führungskräfte jetzt unternehmen, werden bestimmen, wer durchkommt und wer zurückbleibt.

Während die Branche mobilisiert, um die sich anbahnende Rechenkrise zu lösen, müssen Unternehmen Wege finden, um mit dem zu machen, was sie haben. Unternehmen können sich vor astronomischen AI-Ausgaben schützen, indem sie die Verschwendung von Cloud-Lösungen angehen, die Inferenz über eine verteilte Cloud einsparen und in Infrastrukturen investieren, die einen echten ROI fördern.