Haastattelut
Sadeepa Wijesekara, HPE:n Private Cloud AI -liiketoiminnan varatoimitusjohtaja – haastattelusarja

Keskeiset kohdatTekoälyn taloustieteestä tulee liiketoiminta-ala vasta, kun kokeilut skaalautuvat…
Näytä lisää
- Tekoälyn taloustieteestä tulee liiketoiminta-ala vasta, kun kokeilut skaalautuvat tuotantoon ja talousosasto liittyy keskusteluun.
- Token-kohtainen kustannus mittaa kulutusta, kun taas liiketoimintatulosta kohti laskettu kustannus paljastaa, onko investoinnissa todella järkeä.
- Agenttiset työnkulut voivat moninkertaistaa tokenien kulutuksen dramaattisesti, vaikka päättelyhinnat jatkavat laskuaan.
Sadeepa Wijesekara toimii Hewlett Packard Enterprise (HPE):n Private Cloud AI -liiketoiminnan varatoimitusjohtajana ja johtaa yrityskäyttöön tarkoitettujen tekoälyohjelmistojen ja -alustojen kehitystyötä yksityisissä pilviympäristöissä. Hänen työhönsä kuuluu organisaatioiden auttaminen tekoälyn turvallisessa ja laajamittaisessa käyttöönotossa sekä infrastruktuuripäätösten yhteensovittaminen liiketoiminnan tarpeiden kanssa. Hän tarkastelee tuotantokäytössä olevan tekoälyn taloutta insinöörin näkökulmasta ja käsittelee muun muassa työkuormien hallintaa, mallien valintaa sekä yhä autonomisempien järjestelmien toimintavarmuuden ylläpitämisen kustannuksia.
Hewlett Packard Enterprise (HPE) tarjoaa yritysteknologiaa, johon kuuluvat tekoäly, pilvipalvelut, verkkoteknologia, laskenta ja tallennus. Sen Private Cloud AI -valikoima tukee organisaatioita, jotka ottavat tekoälytyökuormia käyttöön hallitsemassaan infrastruktuurissa hybridipilven ja ulkoisten palvelujen rinnalla. Tässä haastattelussa Wijesekara kertoo, miksi tekoälyyn käytettyjä varoja pitäisi arvioida liiketoimintatulosten perusteella, miten agenttiset työnkulut muuttavat kulutusta sekä mitkä taloudelliset ja operatiiviset tekijät vaikuttavat malleja, orkestrointia ja infrastruktuuria koskeviin päätöksiin.
HPE on laajentanut tekoälyn käyttöä yli 70 000 työntekijän keskuuteen. Mitä tämä kokemus on opettanut siitä, milloin tekoälyn taloudelliset kysymykset lakkaavat olemasta IT:n huolenaihe ja muuttuvat laajemmaksi liiketoiminnan osa-alueeksi?
Tekoälyn taloudelliset kysymykset nousevat laajemmaksi liiketoiminnan osa-alueeksi, kun yritykset siirtyvät pilottihankkeista tuotantokäyttöön. Pilotti voi osoittaa, pystyykö tekoäly suorittamaan tietyn tehtävän, mutta samalla se voi peittää tehottomuutta, koska käyttäjiä on vähän. Kun käyttäjämäärä kasvaa 10:stä 10 000:een, on huomioitava kustannukset, viive ja luotettavuus sekä ymmärrettävä, millaista arvoa tekoäly tuottaa. Tässä vaiheessa keskusteluun on otettava mukaan taloushallinto ja tekoälyn tukemista liiketoimintaprosesseista vastaavat johtajat. IT voi mitata sovelluksen kuluttamia resursseja, mutta liiketoimintajohtajien on arvioitava, ovatko tulokset investoinnin arvoisia.
Monet organisaatiot keskittyvät edelleen vahvasti generatiivista tekoälyä arvioidessaan mittareihin, kuten tokenikohtaiseen kustannukseen. Miksi liiketoimintatulosta kohti syntyvä kustannus on mielestäsi merkityksellisempi mittari, ja miten yritysten pitäisi laskea se käytännössä?
Tokenikohtainen kustannus kertoo, kuinka paljon tekoälyä käytit, mutta ei sitä, tuottiko käyttö hyödyllisen tuloksen. Yritysten pitäisi ensin määritellä tavoiteltu liiketoimintatulos ja laskea sen jälkeen tuloksen saavuttamisen kokonaiskustannukset. Malli on vain yksi osa kustannuksia; muita ovat ohjelmistot, tallennus, tiedonsiirto, hallinnointi ja henkilöstö. Kun näitä kustannuksia verrataan tietyn liiketoimintaprosessin tuottamaan arvoon, yritykset saavat paremman käsityksen siitä, onko investointi taloudellisesti järkevä.
Kun tekoäly siirtyy yksittäisistä apureista agenttisiin ja usean agentin järjestelmiin, jotka pystyvät suorittamaan pitkiä tehtäväsarjoja, kuinka voimakkaasti kulutus voi kasvaa, vaikka päättelyn yksikkökustannukset edelleen laskisivat?
Kulutus voi kasvaa hyvin nopeasti, koska yksittäinen käyttäjän pyyntö saattaa käynnistää taustalla paljon enemmän työtä. Agentti voi hakea tietoa ja kutsua työkaluja sekä käydä läpi useita vaiheita ennen tuloksen tuottamista. Eräässä suuntaa-antavassa HPE:n vertailussa tavallinen chatbot-keskustelu käytti noin 400 tokenia, kun taas agenttinen RAG-pyyntö käytti noin 21 500 tokenia. Vaikka tokenien hinnat laskisivat, kokonaiskulutus voi silti kasvaa jyrkästi, kun tekoälylle annetaan yhä monimutkaisempia tehtäviä.
Miten yritysten pitäisi arvioida, tuottaako tekoälyn käyttötapaus aidosti taloudellista arvoa sen sijaan, että se vain parantaisi tuottavuusmittareita tai tuottaisi vaikuttavia demonstraatioita?
Käyttötapaus on sidottava selkeillä KPI-mittareilla määriteltyyn liiketoimintaperusteeseen ennen sen laajentamista. Yritysten on ymmärrettävä, mitä liiketoimintaprosessi maksaa ja miten kustannukset muuttuvat tekoälyn käyttöönoton myötä. Niiden on myös erotettava toisistaan yksittäisen työvaiheen tehostuminen ja liiketoiminnan tuloksen paraneminen. Ajansäästöstä on enemmän hyötyä, kun se mahdollistaa useampien asiakasongelmien ratkaisemisen, virheiden vähentämisen tai aiemmin tekemättä jääneen työn suorittamisen. Arvioinnissa on otettava huomioon tuloksen laatu sekä mahdollinen lisätarkastuksen tai uudelleentyöstämisen tarve. Onnistunut demonstraatio osoittaa, mihin tekoäly pystyy; mitattavissa olevat parannukset liiketoimintaprosessissa puolestaan tukevat päätöstä laajentaa käyttöä. Joissakin tapauksissa analyysi voi osoittaa, ettei tekoäly ole oikea ratkaisu.
Malleihin reitittämisestä ja tekoälyn orkestroinnista puhutaan yhä useammin keinoina hallita kustannuksia. Kuinka paljon yritykset voivat hyötyä valitsemalla tehtävän mukaan dynaamisesti pienempien mallien, huipputason mallien, erikoistuneiden mallien ja perinteisten ohjelmistojen välillä?
Mallin sovittamisesta tehtävään on paljon hyötyä. Olemme nähneet yritysten ohjaavan hyvin erilaisia työkuormia samaan kalliiseen huippumalliin, koska niiden ensisijaisena tavoitteena oli aluksi saada tekoäly käyttöön. Tämä voi olla hallittavissa, kun käyttäjiä on vähän, mutta kustannukset kasvavat nopeasti käytön yleistyessä. Huippumalli voi olla järkevä valinta monimutkaiseen päättelyyn, kun taas yksinkertaisempikin malli voi riittää rutiinitehtävään. Erikoistunut malli voi sopia paremmin tietylle toimialalle, ja ennakoitavan, sääntöihin perustuvan tehtävän voi hoitaa tehokkaammin perinteisellä ohjelmistolla. Orkestrointi kokoaa nämä vaihtoehdot osaksi työnkulkua ja ottaa käyttöön tehokkaamman mallin silloin, kun tehtävä sitä vaatii. Avoimilla painoilla varustettujen mallien kehittyessä yrityksillä on myös enemmän mahdollisuuksia suorittaa tiettyjä työkuormia omassa infrastruktuurissaan ulkoisista malleista maksamisen sijaan. Yritystasolla reititysvalinnoilla voi olla merkittävä vaikutus kustannuksiin, samalla kun liiketoiminnan edellyttämä laatu säilyy.
Missä vaiheessa tekoälytyökuormien suorittamisen taloudellisuus siirtyy laskentakapasiteetin vuokraamisesta API-rajapinnan tai julkipilven kautta kohti suuremman osan taustalla olevasta infrastruktuurista omistamista tai hallintaa? Mitä muuttujia yritysten tulisi ottaa huomioon tätä päätöstä tehdessään?
Ajattelen asiaa vuokraamisen ja ostamisen välisenä valintana. Vuokraaminen voi olla järkevää, kun yritykset kokeilevat tai kun kysyntä vaihtelee huomattavasti. Kun käyttö kasvaa ja muuttuu ennakoitavammaksi, suuremman osan infrastruktuurista omistaminen tai hallinta voi alkaa olla taloudellisesti järkevää. Oman infrastruktuurin avulla yritykset voivat myös tehdä lisää tekoälykokeiluja vähäisen käytön aikana ja hyödyntää paremmin jo tehtyä investointia. Yritysten on otettava huomioon työkuorman ominaisuudet sekä sähkön, hallinnoinnin ja järjestelmien ajan tasalla pitämisen kustannukset. Monille suurille yrityksille sopivaan ratkaisuun kuuluu todennäköisesti sekä yksityistä infrastruktuuria että ulkoisia palveluja työkuormasta riippuen.
HPE on laajentanut yksityisen tekoälyn infrastruktuuriaan yritysten siirtäessä yhä useampia työkuormia tuotantokäyttöön. Millaisissa tilanteissa yksityinen tekoäly tarjoaa mielestäsi suurimman taloudellisen edun verrattuna siihen, että tekoälypalveluja käytetään kokonaan julkipilven kautta?
Yksityinen tekoäly voi tarjota merkittävän taloudellisen edun jatkuvissa työkuormissa, kun yritykset pystyvät hyödyntämään tehokkaasti omistamaansa kapasiteettia. Eräässä HPE:n analyysissä HPE Private Cloud AI:n kustannukseksi arvioitiin määritellyillä työkuormaoletuksilla noin 45 dollaria solmutuntia kohti, kun vastaavan vuokratun pilvikokoonpanon kustannus oli noin 102 dollaria. Tulokset vaihtelevat työkuorman mukaan, ja laskelmat on tehtävä uudelleen kussakin ympäristössä. Yksityinen tekoäly tarjoaa yrityksille myös vaihtoehtoisen taloudellisen mallin, jossa infrastruktuurista voi tulla organisaatiolle arvoa tuottava omaisuuserä.
Tekoälyagentit aiheuttavat päättelyä laajempia kustannuksia, kuten tiedonhakua, työkalukutsuja, valvontaa, tietoturvaa ja hallintaa. Mitä kustannuksia organisaatiot todennäköisimmin aliarvioivat budjetoidessaan agenttipohjaista tekoälyä suuressa mittakaavassa?
Yritykset todennäköisesti aliarvioivat, kuinka paljon työtä agenttien luotettavuuden, tietoturvan ja hyödyllisyyden ylläpitäminen ajan mittaan vaatii. Päättelyn lisäksi kustannuksia syntyy tiedon hakemisesta ja valmistelusta, ulkoisten työkalujen käytöstä sekä tiedon siirtämisestä järjestelmien välillä. Toistuvat työkalukutsut tai epäonnistuneet yritykset voivat kasvattaa kustannuksia ilman, että tehtävä tulee valmiiksi. Yritysten on budjetoitava myös tulosten arviointiin, agenttien toiminnan valvontaan, käyttöoikeuksien hallintaan sekä tietoturva- ja hallintakäytäntöjen ylläpitoon. Laskelmiin on sisällytettävä myös ihmisten tekemä valvonta, kuten poikkeusten tarkasteluun tai virheiden korjaamiseen käytetty aika. Onnistuneesti suoritetun tehtävän kustannusten ymmärtäminen edellyttää koko työnkulun läpinäkyvyyttä.
Olet korostanut tekoälyn käytön seuraamista suhteessa yksittäisiin liiketoimintaperusteluihin. Millainen on tehokas organisaation sisäinen mittauskehys, ja kuinka usein organisaatioiden tulisi arvioida uudelleen, ovatko tekoälysovelluksen jatkuvat laskenta- ja käyttökustannukset yhä perusteltuja?
Mittauskehyksen tulisi yhdistää käyttö suoraan liiketoimintaperusteluun. Yritysten on tiedettävä, mikä sovellus kuluttaa resursseja ja mitä tuloksia sen odotetaan tuottavan. HPE:llä seuraamme kunkin käyttötapauksen KPI-mittareita ja niihin liittyviä yksikkökustannuksia arvioidaksemme, tuottaako se odotettuja tuloksia. Haluaisin nähdä nämä tiedot myös yksittäisten osastojen ja liiketoimintaprosessien tasolla, jotta talousjohtaja voi ymmärtää, mitä prosessi maksaa nyt ja mitä se maksaa tekoälyn kanssa. Seurannan tulisi olla jatkuvaa, sillä sovelluksen käyttö ja taloudellisuus voivat muuttua ajan mittaan. Yritysten tulisi arvioida tilanne uudelleen myös silloin, kun malli, hinta tai työnkulku muuttuu merkittävästi, sillä tällaiset muutokset voivat vaikuttaa sovelluksen kustannuksiin ja arvoon.
Kun katsotaan kolmesta viiteen vuotta eteenpäin ja tekoäly sulautuu useimpiin liiketoimintaprosesseihin, miten yritystekoälyn taloudellisuus mielestäsi kehittyy? Alkaako tekoälyn käytön hallinta muistuttaa aikanaan esimerkiksi pilvipalvelujen FinOps-käytäntöjä, vai tarvitsevatko organisaatiot kokonaan uuden toimintamallin?
Uskon, että tekoälyn talouden hallinnassa hyödynnetään FinOps-käytäntöjä, kuten kustannusten näkyvyyttä, kohdentamista ja vastuuvelvollisuutta, ja että niitä laajennetaan mittaamaan tekoälyn tekemän työn laatua ja arvoa. Kun agentit hoitavat yhä useampia vaiheita liiketoimintaprosesseissa, yritysten on ymmärrettävä, mitä prosessin onnistunut läpivienti maksaa. Tähän sisältyvät uudelleenyritykset, ihmisen tekemät toimenpiteet ja se, täyttääkö lopputulos vaaditut standardit. Uskon, että tästä tulee IT:n, taloushallinnon ja liiketoimintojen yhteinen vastuu. Yhtenäisten vertailutapojen luominen eri organisaatioiden ja toimialojen välille on vielä alkuvaiheessa. Ajan myötä toivoisin näkeväni vakiomittareita, joiden avulla yritykset voivat arvioida, kuinka tehokkaasti ne hyödyntävät tekoälyä, ja ottaa tämän huomioon tuloslaskelmassaan.
Kiitos hienosta haastattelusta! Lukijoiden, jotka haluavat oppia lisää yksityisen pilven tekoälystä, yritysinfrastruktuurista ja tekoälykuormien skaalaamisesta, kannattaa käydä HPE:n verkkosivuilla.












