Intervjuer
Sadeepa Wijesekara, visepresident for Private Cloud AI i HPE – intervjuserie

Viktige punkterAI-økonomi blir en forretningsdisiplin først når piloter skaleres til produksjon og…
Vis mer
- AI-økonomi blir en forretningsdisiplin først når piloter skaleres til produksjon og økonomifunksjonen blir en del av samtalen.
- Kostnad per token måler forbruk, mens kostnad per forretningsresultat avslører om investeringen faktisk gir mening.
- Agentiske arbeidsflyter kan mangedoble tokenforbruket dramatisk selv når prisene på inferens fortsetter å falle.
Sadeepa Wijesekara er visepresident for Private Cloud AI i Hewlett Packard Enterprise (HPE), der han leder arbeidet med AI-programvare og -plattformer for private skymiljøer. Han arbeider blant annet med å hjelpe organisasjoner med å ta i bruk AI på en sikker måte og i stor skala, samtidig som beslutninger om infrastruktur knyttes til virksomhetens behov. Han bidrar med et ingeniørperspektiv på økonomien i AI satt i produksjon, blant annet når det gjelder håndtering av arbeidsbelastninger, valg av modeller og kostnadene ved å holde stadig mer autonome systemer pålitelige.
Hewlett Packard Enterprise (HPE) leverer virksomhetsteknologi innen AI, sky, nettverk, databehandling og lagring. Porteføljen Private Cloud AI støtter organisasjoner som kjører AI-arbeidsbelastninger på infrastruktur de selv kontrollerer, i kombinasjon med hybrid sky og eksterne tjenester. I dette intervjuet snakker Wijesekara om hvorfor AI-utgifter bør måles opp mot virksomhetsresultater, hvordan agentbaserte arbeidsflyter endrer forbruket, og hvilke økonomiske og driftsmessige faktorer som påvirker beslutninger om modeller, orkestrering og infrastruktur.
HPE har skalert bruken av AI blant mer enn 70 000 ansatte. Hva har denne erfaringen lært deg om når økonomien i AI slutter å være et IT-anliggende og blir et bredere forretningsområde?
Økonomien i AI blir et bredere forretningsområde når selskaper går fra pilotprosjekter til produksjon. Et pilotprosjekt kan vise om AI kan utføre en oppgave, men det kan skjule ineffektivitet fordi det er få brukere. Når man går fra 10 brukere til 10 000, må man ta hensyn til kostnader, forsinkelse og pålitelighet, samtidig som man må forstå hvilken verdi AI skaper. Da må også økonomiavdelingen og lederne med ansvar for forretningsprosessene AI støtter, delta i samtalen. IT kan måle hvilke ressurser en applikasjon bruker, men virksomhetslederne må avgjøre om resultatene forsvarer investeringen.
Mange organisasjoner legger fortsatt stor vekt på måltall som kostnad per token når de vurderer generativ AI. Hvorfor mener du at kostnad per virksomhetsresultat er et mer meningsfullt mål, og hvordan bør virksomheter beregne den i praksis?
Kostnad per token forteller hvor mye AI du har brukt, men ikke om bruken ga et nyttig resultat. Selskaper bør først definere virksomhetsresultatet og deretter beregne de samlede kostnadene for å oppnå det. Modellen er én del av kostnaden, i tillegg til programvare, lagring, dataflytting, styring og personell. Når selskapene sammenligner disse kostnadene med verdien som skapes i en bestemt forretningsprosess, får de et bedre grunnlag for å vurdere om investeringen er økonomisk fornuftig.
Etter hvert som AI går fra individuelle assistenter til agentbaserte systemer og systemer med flere agenter som kan utføre lange sekvenser av oppgaver, hvor kraftig kan forbruket øke selv om de underliggende kostnadene ved inferens fortsetter å synke?
Forbruket kan øke svært raskt fordi én forespørsel fra en bruker kan utløse mye mer arbeid i bakgrunnen. En agent kan hente informasjon og bruke verktøy mens den går gjennom flere trinn før den gir et resultat. I en representativ sammenligning fra HPE brukte en enkel chatbot-utveksling rundt 400 tokens, mens en agentbasert RAG-forespørsel brukte rundt 21 500. Selv om tokenprisene synker, kan det samlede forbruket likevel øke kraftig når AI tar seg av mer komplekse oppgaver.
Hvordan bør selskaper vurdere om et AI-bruksområde faktisk skaper økonomisk verdi, i stedet for bare å øke produktivitetsmåltall eller gi imponerende demonstrasjoner?
Et bruksområde bør knyttes til en forretningsplan med tydelige KPI-er før det skaleres opp. Selskapene må forstå hva forretningsprosessen koster, og hvordan kostnaden endres når AI tas i bruk. De må også skille mellom forbedringer i en aktivitet og forbedringer i virksomhetsresultatet. Tidsbesparelser får større betydning når de fører til at flere kundeproblemer løses, færre feil oppstår eller arbeid som tidligere ikke ble gjort, blir fullført. Vurderingen bør ta hensyn til kvaliteten på resultatet og eventuell ekstra kontroll eller omarbeiding som kreves. En vellykket demonstrasjon viser at noe lar seg gjøre; målbare forbedringer i forretningsprosessen gir grunnlag for å beslutte om løsningen skal utvides. I noen tilfeller kan analysen vise at AI ikke er den rette løsningen.
Modellruting og AI-orkestrering omtales stadig oftere som måter å kontrollere kostnadene på. Hvor stor verdi kan virksomheter hente ut ved å velge dynamisk mellom mindre modeller, frontmodeller, spesialiserte modeller og tradisjonell programvare, avhengig av oppgaven?
Det er mye å hente på å tilpasse modellen til oppgaven. Vi har sett selskaper sende svært ulike arbeidsbelastninger til den samme kostbare frontier-modellen fordi de i første omgang prioriterte å komme i gang med AI. Det kan være håndterbart med et lite antall brukere, men kostnadene øker raskt etter hvert som bruken vokser. En frontier-modell kan være hensiktsmessig for kompleks resonnering, mens en mindre modell kan være tilstrekkelig for en rutineoppgave. En spesialisert modell kan passe bedre til et bestemt fagområde, og forutsigbare oppgaver som følger faste regler, kan ofte løses mer effektivt med tradisjonell programvare. Orkestrering gjør det mulig å samle disse valgene i én arbeidsflyt og bruke en mer avansert modell når oppgaven krever det. Etter hvert som modeller med åpne vekter blir mer avanserte, får selskaper også flere muligheter til å kjøre enkelte arbeidsbelastninger på egen infrastruktur i stedet for å betale for eksterne modeller. I stor skala kan slike rutingsvalg gi betydelige kostnadsbesparelser samtidig som kvaliteten virksomheten krever, opprettholdes.
Når endrer økonomien i å kjøre AI-arbeidsbelastninger seg fra å leie datakraft via et API eller en offentlig sky til å eie eller kontrollere mer av den underliggende infrastrukturen? Hvilke variabler bør virksomheter ta hensyn til når de skal ta denne beslutningen?
Jeg ser på det som å leie kontra å kjøpe. Det kan være fornuftig å leie mens selskaper eksperimenterer, eller når etterspørselen varierer mye. Når bruken øker og blir mer forutsigbar, kan det begynne å lønne seg økonomisk å eie eller kontrollere mer av infrastrukturen. Egen infrastruktur gir også mulighet til å gjennomføre flere AI-eksperimenter i perioder med lav bruk, slik at man får bedre utnyttelse av en investering som allerede er gjort. Selskaper må ta hensyn til arbeidsbelastningens egenskaper, i tillegg til kostnadene ved strøm, administrasjon og å holde systemene oppdaterte. For mange store virksomheter vil den beste løsningen sannsynligvis omfatte både privat infrastruktur og eksterne tjenester, avhengig av arbeidsbelastningen.
HPE har utvidet sin private AI-infrastruktur etter hvert som virksomheter flytter flere arbeidsbelastninger over i produksjon. Hvor mener du privat AI gir størst økonomisk fordel sammenlignet med å bruke AI utelukkende gjennom offentlige skytjenester?
Privat AI kan gi en betydelig økonomisk fordel for arbeidsbelastninger som kjøres kontinuerlig, når selskaper kan utnytte kapasiteten de eier effektivt. I en analyse fra HPE, basert på bestemte forutsetninger om arbeidsbelastningen, ble kostnaden for HPE Private Cloud AI anslått til omtrent 45 dollar per node-time, sammenlignet med omtrent 102 dollar for en tilsvarende leid skykonfigurasjon. Resultatene vil variere med arbeidsbelastningen og bør beregnes på nytt for hvert miljø. Privat AI gir også selskaper en alternativ økonomisk modell, der infrastrukturen kan bli en eiendel som skaper verdi for organisasjonen.
AI-agenter medfører kostnader som går utover inferens, blant annet datainnhenting, verktøykall, overvåking, sikkerhet og styring. Hvilke kostnader er det mest sannsynlig at organisasjoner undervurderer når de budsjetterer for agentbasert AI i stor skala?
Jeg tror selskaper sannsynligvis undervurderer arbeidet som kreves for å holde agenter pålitelige, sikre og nyttige over tid. I tillegg til inferens kommer kostnader knyttet til å hente inn og klargjøre data, få tilgang til eksterne verktøy og overføre informasjon mellom systemer. Gjentatte verktøykall eller mislykkede forsøk kan øke kostnadene uten at oppgaven blir fullført. Selskaper må også budsjettere med å evaluere resultater, overvåke agentenes atferd, administrere tilgangstillatelser og opprettholde sikkerhets- og styringskontroller. Menneskelig tilsyn må også tas med i beregningen, inkludert tiden ansatte bruker på å gjennomgå avvik eller rette feil. For å forstå kostnaden ved en fullført oppgave må man ha oversikt over hele arbeidsflyten.
Du har lagt vekt på å følge med på AI-forbruket opp mot de enkelte forretningsgrunnlagene. Hvordan ser et effektivt internt målesystem ut, og hvor ofte bør organisasjoner vurdere på nytt om en AI-applikasjon fortsatt forsvarer de løpende kostnadene til datakraft og drift?
Målesystemet bør knytte bruken direkte til forretningsgrunnlaget. Selskaper må vite hvilken applikasjon som bruker ressurser, og hvilke resultater den forventes å levere. Hos HPE følger vi med på KPI-er og underliggende enhetskostnader for hvert bruksområde for å måle om det leverer forventede resultater. Jeg vil også ha denne oversikten på nivået til de enkelte avdelingene og forretningsprosessene, slik at en finansdirektør kan forstå hva en prosess koster i dag, sammenlignet med hva den koster med AI. Dette bør være en løpende prosess, fordi bruken og økonomien i en applikasjon kan endre seg over tid. Selskaper bør også vurdere dette på nytt når en modell, pris eller arbeidsflyt endres vesentlig, siden slike endringer kan påvirke både kostnadene og verdien av en applikasjon.
Hvis vi ser tre til fem år fram i tid, etter hvert som AI blir en integrert del av de fleste forretningsprosesser, hvordan tror du økonomien i AI for virksomheter vil utvikle seg? Vil håndtering av AI-forbruk etter hvert ligne på disipliner som FinOps for skyen, eller vil organisasjoner trenge en helt ny driftsmodell?
Jeg tror økonomien rundt KI vil bygge videre på FinOps-prinsipper som kostnadssynlighet, kostnadsfordeling og ansvarliggjøring, samtidig som de utvides til å måle kvaliteten og verdien av arbeidet KI utfører. Etter hvert som agenter overtar flere trinn i en forretningsprosess, må bedriftene forstå kostnadene ved å fullføre prosessen på en vellykket måte, inkludert nye forsøk, menneskelig inngripen og hvorvidt resultatet oppfyller den nødvendige standarden. Jeg forventer at dette blir et delt ansvar på tvers av IT, økonomi og forretningsdrift. Vi er fortsatt tidlig i arbeidet med å etablere konsekvente metoder for å gjøre slike sammenligninger på tvers av organisasjoner og bransjer. På sikt håper jeg å se standardiserte målemetoder som gjør det mulig for bedrifter å forstå hvor effektivt de bruker KI, og gjenspeile dette i resultatregnskapet.
Takk for et flott intervju. Lesere som ønsker å lære mer om privat skybasert KI, bedriftsinfrastruktur og skalering av KI-arbeidsbelastninger, bør besøke HPE.












