Interviews
Sadeepa Wijesekara, vicepresident Private Cloud AI bij HPE – interviewreeks

Belangrijkste puntenAI-economie wordt pas een bedrijfsdiscipline wanneer pilots opschalen naar productie en…
Meer weergeven
- AI-economie wordt pas een bedrijfsdiscipline wanneer pilots opschalen naar productie en finance aanschuift bij het gesprek.
- Kosten per token meten het verbruik, terwijl kosten per bedrijfsresultaat onthullen of de investering daadwerkelijk zinvol is.
- Agentische workflows kunnen het tokenverbruik dramatisch vermenigvuldigen, zelfs terwijl de inferentieprijzen blijven dalen.
Sadeepa Wijesekara is vicepresident Private Cloud AI bij Hewlett Packard Enterprise (HPE), waar hij leiding geeft aan de ontwikkeling van AI-software en platforms voor privatecloudomgevingen. Hij richt zich onder meer op het ondersteunen van organisaties bij het veilig en op grote schaal inzetten van AI, waarbij infrastructuurbeslissingen worden afgestemd op de behoeften van het bedrijf. Vanuit een technisch perspectief kijkt hij naar de economische aspecten van AI in productieomgevingen, waaronder workloadbeheer, modelselectie en de kosten van het betrouwbaar houden van steeds autonomere systemen.
Hewlett Packard Enterprise (HPE) levert technologie voor bedrijven op het gebied van AI, cloud, netwerken, computing en opslag. Het Private Cloud AI-portfolio ondersteunt organisaties die AI-workloads uitvoeren op infrastructuur waarover ze zelf de controle hebben, naast het gebruik van hybride cloud en externe diensten. In dit interview bespreekt Wijesekara waarom AI-uitgaven moeten worden afgezet tegen bedrijfsresultaten, hoe agentische workflows het verbruik veranderen en welke financiële en operationele factoren beslissingen over modellen, orkestratie en infrastructuur beïnvloeden.
HPE heeft AI op grotere schaal ingevoerd bij meer dan 70.000 medewerkers. Wat heeft die ervaring u geleerd over het moment waarop de economische aspecten van AI niet langer alleen een IT-aangelegenheid zijn, maar een bredere discipline binnen het bedrijf worden?
De economische aspecten van AI worden een bredere discipline binnen het bedrijf wanneer organisaties de overstap maken van proefprojecten naar productie. Een proefproject kan aantonen of AI een taak kan uitvoeren, maar kan inefficiënties verhullen doordat er maar weinig gebruikers zijn. Zodra je opschaalt van 10 naar 10.000 gebruikers, moet je rekening houden met kosten, latentie en betrouwbaarheid, en tegelijk inzicht hebben in de waarde die AI oplevert. Op dat moment moeten ook de financiële afdeling en de leidinggevenden die verantwoordelijk zijn voor de bedrijfsprocessen die AI ondersteunt, bij het gesprek worden betrokken. IT kan meten hoeveel middelen een applicatie verbruikt, maar bedrijfsleiders moeten bepalen of de resultaten die investering rechtvaardigen.
Veel organisaties richten zich bij de beoordeling van generatieve AI nog sterk op maatstaven zoals de kosten per token. Waarom vindt u de kosten per bedrijfsresultaat een betekenisvollere maatstaf, en hoe kunnen bedrijven die in de praktijk berekenen?
De kosten per token laten zien hoeveel AI je hebt verbruikt, maar niet of dat verbruik een bruikbaar resultaat heeft opgeleverd. Bedrijven moeten eerst het bedrijfsresultaat definiëren en vervolgens de totale kosten berekenen die nodig zijn om dat resultaat te behalen. Het model vormt slechts een deel van die kosten; ook software, opslag, gegevensverplaatsing, governance en personeel tellen mee. Door die kosten af te zetten tegen de waarde die binnen een specifiek bedrijfsproces wordt gecreëerd, krijgen bedrijven een beter beeld van de economische haalbaarheid van de investering.
Nu AI zich ontwikkelt van individuele copilots naar agentische systemen en systemen met meerdere agents die lange reeksen taken kunnen uitvoeren, hoeveel kan het verbruik dan toenemen, zelfs als de onderliggende inferentiekosten blijven dalen?
Het verbruik kan zeer snel stijgen, omdat één verzoek van een gebruiker achter de schermen veel meer werk in gang kan zetten. Een agent kan informatie ophalen en tools aanroepen terwijl die meerdere stappen doorloopt voordat er een resultaat komt. In een representatieve vergelijking van HPE gebruikte een eenvoudige chatbotuitwisseling ongeveer 400 tokens, terwijl een agentisch RAG-verzoek ongeveer 21.500 tokens gebruikte. Zelfs als de tokenprijzen dalen, kan het totale verbruik nog steeds sterk toenemen wanneer AI complexere taken uitvoert.
Hoe kunnen bedrijven beoordelen of een AI-toepassing daadwerkelijk economische waarde oplevert, in plaats van alleen productiviteitscijfers op te krikken of indrukwekkende demonstraties te geven?
Voordat een toepassing op grotere schaal wordt ingezet, moet deze zijn gekoppeld aan een businesscase met duidelijke KPI’s. Bedrijven moeten inzicht hebben in de kosten van het bedrijfsproces en weten hoe die veranderen wanneer AI wordt ingevoerd. Ook moeten ze onderscheid maken tussen een verbetering van een activiteit en een verbetering van het bedrijfsresultaat. De bespaarde tijd wordt betekenisvoller wanneer die leidt tot het oplossen van meer klantproblemen, minder fouten of het afronden van werk dat eerder bleef liggen. Bij de beoordeling moet rekening worden gehouden met de kwaliteit van het resultaat en met eventuele extra controles of herstelwerkzaamheden. Een geslaagde demonstratie bewijst dat iets mogelijk is; meetbare verbeteringen in het bedrijfsproces onderbouwen de beslissing om de toepassing uit te breiden. In sommige gevallen kan uit die analyse blijken dat AI niet de juiste oplossing is.
Modelroutering en AI-orkestratie worden steeds vaker genoemd als manieren om de kosten te beheersen. Hoeveel waarde kunnen bedrijven ontsluiten door afhankelijk van de taak dynamisch te kiezen tussen kleinere modellen, grensverleggende modellen, gespecialiseerde modellen en traditionele software?
Het levert veel op om het model af te stemmen op de taak. We hebben gezien dat bedrijven zeer uiteenlopende workloads naar hetzelfde dure frontiermodel sturen, omdat hun aanvankelijke prioriteit was om AI operationeel te krijgen. Dat is misschien beheersbaar bij een klein aantal gebruikers, maar de kosten lopen snel op naarmate het gebruik toeneemt. Voor complexe redeneertaken kan een frontiermodel zinvol zijn, terwijl een kleiner model volstaat voor een routinetaak. Een gespecialiseerd model kan geschikter zijn voor een bepaald domein, en een voorspelbare taak op basis van vaste regels kan efficiënter worden uitgevoerd met traditionele software. Orkestratie brengt die mogelijkheden samen in een workflow, waarbij een krachtiger model wordt ingezet wanneer de taak daarom vraagt. Naarmate open-weightmodellen capabeler worden, krijgen bedrijven ook meer mogelijkheden om bepaalde workloads op hun eigen infrastructuur uit te voeren in plaats van te betalen voor externe modellen. Op enterpriseschaal kunnen zulke routeringsbeslissingen de kosten aanzienlijk beïnvloeden, terwijl de kwaliteit behouden blijft die het bedrijf nodig heeft.
Op welk moment verschuift de economische afweging voor het uitvoeren van AI-workloads van het huren van rekenkracht via een API of publieke cloud naar het bezitten of beheren van een groter deel van de onderliggende infrastructuur? Met welke variabelen moeten ondernemingen rekening houden bij die beslissing?
Ik zie het als huren tegenover kopen. Huren kan zinvol zijn zolang bedrijven experimenteren of wanneer de vraag sterk schommelt. Naarmate het gebruik toeneemt en voorspelbaarder wordt, kan het economisch aantrekkelijk worden om meer van de infrastructuur te bezitten of te beheren. Eigen infrastructuur biedt ook de mogelijkheid om in perioden met weinig gebruik extra AI-experimenten uit te voeren, zodat een investering die al is gedaan beter wordt benut. Bedrijven moeten rekening houden met de kenmerken van de workload en met de kosten van energie, beheer en het actueel houden van systemen. Voor veel grote ondernemingen zal de juiste aanpak waarschijnlijk bestaan uit zowel private infrastructuur als externe diensten, afhankelijk van de workload.
HPE breidt zijn private AI-infrastructuur uit nu ondernemingen steeds meer workloads in productie nemen. Waar ziet u het grootste economische voordeel van private AI ten opzichte van het volledig afnemen van AI via publieke clouddiensten?
Private AI kan een aanzienlijk economisch voordeel bieden voor langdurige workloads waarbij bedrijven de capaciteit die ze bezitten effectief kunnen benutten. In een analyse van HPE, gebaseerd op specifieke aannames over workloads, werden de kosten van HPE Private Cloud AI geschat op ongeveer $45 per node-uur, tegenover ongeveer $102 voor een vergelijkbare gehuurde cloudconfiguratie. Die resultaten verschillen per workload en moeten voor elke omgeving opnieuw worden berekend. Private AI biedt bedrijven ook een ander financieel model, waarbij infrastructuur een bedrijfsmiddel kan worden dat waarde oplevert voor de organisatie.
AI-agents brengen naast inferentie ook andere kosten met zich mee, zoals het ophalen van gegevens, toolaanroepen, monitoring, beveiliging en governance. Welke kosten onderschatten organisaties waarschijnlijk het vaakst wanneer ze op grote schaal budgetteren voor agentische AI?
Ik denk dat bedrijven waarschijnlijk onderschatten hoeveel werk nodig is om agents op de lange termijn betrouwbaar, veilig en nuttig te houden. Naast inferentie zijn er kosten verbonden aan het ophalen en voorbereiden van gegevens, het gebruiken van externe tools en het overdragen van informatie tussen systemen. Herhaalde toolaanroepen of mislukte pogingen kunnen extra kosten met zich meebrengen zonder dat de taak wordt voltooid. Bedrijven moeten ook budget reserveren voor het beoordelen van resultaten, het monitoren van agentgedrag, het beheren van toegangsrechten en het onderhouden van beveiligings- en governancecontroles. Ook menselijk toezicht hoort bij die berekening, waaronder de tijd die mensen besteden aan het beoordelen van uitzonderingen of het corrigeren van fouten. Om inzicht te krijgen in de kosten van een succesvol voltooide taak, moet de volledige workflow zichtbaar zijn.
U hebt benadrukt hoe belangrijk het is om het AI-verbruik af te zetten tegen afzonderlijke businesscases. Hoe ziet een effectief intern meetkader eruit, en hoe vaak moeten organisaties opnieuw beoordelen of een AI-toepassing de doorlopende reken- en bedrijfskosten nog steeds rechtvaardigt?
Het kader moet het gebruik rechtstreeks koppelen aan de businesscase. Bedrijven moeten weten welke toepassing middelen verbruikt en welk resultaat die moet opleveren. Bij HPE volgen we de KPI’s en onderliggende kosten per eenheid voor elke usecase om te meten of die de verwachte resultaten oplevert. Ik zou dat ook willen zien op het niveau van afzonderlijke afdelingen en bedrijfsprocessen, zodat een CFO kan begrijpen wat een proces nu kost vergeleken met de kosten ervan met AI. Dit moet een doorlopend proces zijn, omdat het gebruik en de economische haalbaarheid van een toepassing in de loop der tijd kunnen veranderen. Bedrijven moeten de beoordeling ook herhalen wanneer een model, prijs of workflow wezenlijk verandert, omdat zulke veranderingen zowel de kosten als de waarde van een toepassing kunnen beïnvloeden.
Als u drie tot vijf jaar vooruitkijkt, hoe verwacht u dan dat de economische aspecten van AI voor ondernemingen zich ontwikkelen wanneer AI in de meeste bedrijfsprocessen is ingebed? Zal het beheer van AI-verbruik uiteindelijk gaan lijken op disciplines als cloud-FinOps, of hebben organisaties een geheel nieuw bedrijfsmodel nodig?
Ik denk dat de economie rond AI zal voortbouwen op FinOps-disciplines zoals inzicht in kosten, toerekening en verantwoording, en die tegelijkertijd zal uitbreiden met metingen van de kwaliteit en waarde van het werk dat AI uitvoert. Naarmate agents meer stappen in een bedrijfsproces voor hun rekening nemen, moeten bedrijven inzicht krijgen in de kosten om dat proces succesvol af te ronden, inclusief herhaalde pogingen en menselijke tussenkomst, en nagaan of het resultaat aan de vereiste norm voldoet. Ik verwacht dat dit een gedeelde verantwoordelijkheid wordt van IT, financiën en bedrijfsvoering. We staan nog aan het begin van het ontwikkelen van consistente manieren om dergelijke vergelijkingen te maken tussen organisaties en sectoren. Op termijn zou ik graag zien dat er standaardmaatstaven komen waarmee bedrijven kunnen nagaan hoe efficiënt ze met AI werken en dat kunnen laten terugkomen in hun P&L.
Bedankt voor het geweldige interview. Lezers die meer willen weten over private cloud-AI, bedrijfsinfrastructuur en het opschalen van AI-werklasten, kunnen terecht bij HPE.












