Om AI-kosten te verlagen, begin met cloud-uitgaven

AI’s zogenaamde “rommelige midden” heeft misschien zijn grootste rommel bereikt.

Terwijl een wereldwijde hardwarecrisis botst met een enorme vraag, zijn de AI-kosten de pan uit gerezen. In een strijd om meer rekenkracht hebben AI-dienstverleners geen andere keuze dan hun prijzen te verhogen en hun factureringsmodellen te herzien, waardoor begrotingen uit balans raken en innovatie wordt ontspoord, net op het moment dat veel organisaties eindelijk hun draai vonden.

Het resultaat is meer dan een schok: het is een existentiële crisis voor een zakenwereld die effectief net een crisis heeft meegemaakt. Bedrijven hebben hun wegenkaarten herschreven om de impact van AI te accommoderen. Teams hebben hun workflows herschikt in overeenstemming met AI-mogelijkheden. AI-activatie is het primaire concurrentieverschil van organisaties geworden. AI kwam op het toneel, waardoor een enorme transformatie op gang kwam, en nu worden teams gevraagd om terug te schakelen als ze pas zijn begonnen met het operationaliseren ervan.

Bedrijven zoals Uber hebben het nieuws gehaald door agressieve limieten te stellen aan het gebruik van AI om de stroom te stelpen. Maar terwijl gebruiksbeperkingen een effectieve maatregel kunnen zijn om kosten te verlagen, zijn ze niet de enige manier waarop bedrijven hun rekenkosten kunnen verlagen.

De eerste plek waar ze moeten kijken, is hun cloudrekening.

Het lijkt tegenintuïtief. Terwijl de formule altijd is geweest dat meer rekenkracht meer AI-impact betekent, betekent dat niet noodzakelijkerwijs dat het efficiënter is. Bedrijven verliezen hun budgetten aan AI-diensten, terwijl ze nog steeds afhankelijk zijn van te grote, te dure infrastructuur; de stijgende AI-kosten leggen een diepgeworteld probleem bloot dat bedrijven niet langer kunnen negeren.

Hoe cloud-uitgaven zich opbouwen

IT-infrastructuuruitgaven zijn vaak de tweede grootste post in de begroting van een organisatie, na het aantal medewerkers, en bedragen gemiddeld 10% van de jaarlijkse omzet van een bedrijf – een bedrag dat de vraag naar AI de afgelopen jaren heeft doen stijgen. Maar velen voegen volume toe aan een al overbelaste IT-infrastructuur.

CTO’s en andere technologiebeslissers worden aangetrokken door wat vertrouwd en betrouwbaar is. Helaas is dit ook wat hun cloudrekeningen doet stijgen. Door het vertrouwde te omarmen, raken ze vast in dure, voor iedereen geschikte deals met grote hyperscalers, waarvoor ze betalen voor oplossingen die geen waarde opleveren.

Na verloop van tijd merken ze dat ze betalen voor ongebruikte of inactieve diensten, niet-geoptimaliseerde hardware en lege opslag, terwijl ze dat geld hadden kunnen investeren in AI-innovatie. Aangezien AI alleen maar duurder wordt, hebben ze elke dollar nodig die ze kunnen krijgen.

Infrastructuur aanpassen voor AI-efficiëntie

Het onder controle krijgen van cloud-sprawl vereist een combinatie van acute, korte-termijnactie en langetermijnevolutie. Het aanpakken van wat nu oplosbaar is, geeft bedrijven de ademruimte om te plannen voor grotere aanpassingen in de komende jaar.

Het overgangen naar nieuwe infrastructuur kost tijd, en organisaties hebben nu oplossingen nodig, zodat hun teams kunnen blijven werken met AI. Hier zijn drie stappen die bedrijven onmiddellijk kunnen nemen om hun cloud-uitgaven te reguleren:

1 – Analyseer CPU- en geheugengebruik

Er is zoiets als “te veel” prestaties. IT-teams moeten een grondige diagnose stellen van het gebruik van cloudservices, en vervolgens instances die de prestatievereisten overschrijden, downgraden. Een diepe duik in cloudgebruik helpt teams ook om functies en infrastructuur te ontdekken die helemaal niet worden gebruikt; als hun huidige contract het toelaat, kunnen ze deze diensten mogelijk deactiveren of een lagere betaling onderhandelen voor de rest van de contractduur. Anders biedt het identificeren van ongebruikte functies een waardevol kader voor het bepalen van de parameters van hun herziene cloudaanpak.

Terwijl bedrijven hun infrastructuurstrategie aanpassen, zullen ze willen kiezen voor cloudservices die geheugengebruik economiseren. Bijvoorbeeld, geheugengeoptimaliseerde infrastructuur en vCPUs bieden een goedkopere ondersteuning voor ondernemingsklasse in vergelijking met de Arm-gebaseerde optimalisaties die typisch door hyperscalers worden aangeboden. Dit verlicht enigszins de bewakingslast voor IT-teams en vermindert tegelijkertijd de totale cloud-uitgaven.

2 – Stel strikte uitgavenlimieten in

Uitgaven- en gebruiksbeperkingen zijn de immuniteit van de technologie-industrie tegen AI-prijsstijgingen, maar het gaat niet alleen om het instellen van limieten. Het gaat erom hoe die limieten worden gedefinieerd, gecommuniceerd en afgedwongen.

Ten eerste moeten uitgavenlimieten specifiek zijn voor het gebruik. Leiders moeten ze kunnen gebruiken als leidraad voor projectplanning en -bronnen, waardoor ze budgetten, tijdslijnen en individuele projectteams kunnen structureren met het oog op efficiëntie.

Wat betreft communicatie, is het cruciaal dat de hele workforce begrijpt waarom deze limieten zijn ingesteld. We zijn gewend om het digitale als oneindig te zien, maar in deze fase van de AI-boom botsen we tegen de wetten van de fysica. Aangezien tekorten en factuurwijzigingen de dagelijkse workflows van medewerkers beïnvloeden, moeten uitgavenlimieten worden gepositioneerd als een duurzame manier om hun nieuwe afhankelijkheid van AI-gestuurde tools te behouden, in plaats van een beperking.

3 – Voer tag-protocollen in

Tag-protocollen voorkomen onbeheerd IT-gebruik dat stiekem de rekenkosten doet stijgen. Met een robuust tag-algoritme kunnen IT-leiders een beter inzicht krijgen in cloudservicesverkeer, waardoor teams de bron van overgebruik kunnen identificeren en strategische aanpassingen kunnen maken om middelen te verlagen waar sprake is van opgeblazenheid. Tegelijkertijd kunnen tag-protocollen ook aangeven waar teams mogelijk een upgrade nodig hebben.

Als hun bestaande cloudcontracten aflopen, hebben bedrijven de kans om hun rekenecosysteem te herschikken met een composable, multi-cloudaanpak. Dit betekent niet noodzakelijkerwijs dat ze hun langdurige hyperscalerpartners moeten verlaten, maar hun contracten moeten inkrimpen om in overeenstemming te zijn met efficiëntere infrastructuur elders in de stack. Alternatieve clouds, edge-oplossingen die de belasting van GPU-gebaseerde infrastructuur afwentelen, en open-source softwareoplossingen maken allemaal deel uit van een flexibele, multivendorstrategie die meer doet dan alleen kosten besparen: het verhoogt de ROI van elke AI-initiatief door de prijs-prestatieverhouding te maximaliseren, waardoor bedrijven de besparingen kunnen investeren in AI-innovatie.

Het efficiëntie-mindset opnieuw bedraden

Het beheren van AI-uitgaven is ook een cultuurkwestie. AI-geactiveerde werkkrachten zijn opvallend geobsedeerd door efficiëntie. Daarom bouwen ze agents, automatiseren ze hun communicatie en laten ze AI het gruntwerk doen, terwijl ze hun capaciteit voor creativiteit en innovatie uitbreiden. Maar het onverantwoordelijke gebruik van deze tools heeft het tegenovergestelde effect.

“Tokenmaxxing” en andere trends die verspilling van AI-gebruik aanmoedigen, zijn niet compatibel met een voorkeur voor efficiëntie. Als teams echt meer willen doen met minder, moeten hun interacties met AI die principes weerspiegelen.

Dat vereist een verschuiving in cultuur en technologie in tandem. Moedig het gebruik van betere prompts aan om de inferentiebelasting te verlagen, maar adopteer ook infrastructuur die automatisch inferentie economiseert. Adopteer kleinere AI-modellen met precisiegebruiksgevallen. Omarm open-source modellen en software om trainingswerklasten te verlagen. Geef ontwikkelaars de mogelijkheid om problemen efficiënt op te lossen en onderwijs niet-technische AI-gebruikers. Bedrijven die hun medewerkers verantwoordelijk AI-gebruik willen aanmoedigen, moeten dit doen op een verantwoorde manier.

Ondanks prijsstijgingen hebben we nog geen rem gezet op de AI-transformatie. Het operationaliseren van AI op grote schaal was altijd een dure onderneming, die zorgvuldige planning en strategische kapitaalallocatie vereiste om duurzaam te blijven. Waar we nu zijn, is een knelpunt: de bewegingen die IT-leiders nu maken, zullen bepalen wie erdoorheen komt en wie achterblijft.

Terwijl de industrie zich mobiliseert om de komende rekenkundecrisis op te lossen, moeten bedrijven manieren vinden om te doen met wat ze hebben. Bedrijven kunnen zichzelf beschermen tegen astronomische AI-uitgaven door overspending op cloudoplossingen aan te pakken, inferentie over een gedistribueerde cloud te economiseren en te investeren in infrastructuur die echte ROI bevordert.