Kuinka leikataan tekoälykustannuksia: Aloita pilvikustannuksista

Tekoälyn niin sanottu “sotkuinen keskikohta” saattaa olla koettu suurimman sotkun.

Globaalin laitteistopulman ja massiivisen kysynnän yhteentörmäyksessä tekoälykustannukset ovat nousseet rajusti. Tekoälypalveluyritykset ovat joutuneet korottamaan hintojaan ja muuttamaan laskentamallejaan, mikä on heittänyt budjetit epätasapainoon ja kaatanut innovaation, kun monet organisaatiot olivat vasta saavuttamassa vauhtia.

Tuloksena on enemmän kuin pelkästään hintashokki: se on olemassaolokriisi liike-elämälle, joka on juuri kokenut yhden. Yritykset ovat uudelleenarvioineet tiensä tekoälyn vaikutuksesta. Tiimit ovat järjestäneet uudelleen työprosessinsa tekoälyn mahdollisuuksien mukaan. Tekoälyn mahdollistaminen on organisaatioiden ensisijainen kilpailukykyinen erottautumisen tekijä. Tekoäly on käynnistänyt massiivisen muutoksen, ja nyt tiimit pyydetään vetämään takaisin, kun he ovat vasta aloittaneet tekoälyn toiminnallistamisen.

Yritykset kuten Uber ovat tehneet otsikkoja asettamalla aggressiivisia kattoja tekoälyn käytölle kustannusten hillitsemiseksi. Mutta vaikka käytön rajoitukset voivat olla tehokas kustannusleikkauskeino, ne eivät ole ainoita keinoja, joilla yritykset voivat leikata takaisin laskennan kustannuksia.

Ensimmäinen paikka, jossa heidän tulisi etsiä, on heidän pilvilaskelma.

Vaikuttaa vastoin luonnetta. Vaikka kaava on aina ollut, että enemmän laskentatehoa tarkoittaa enemmän tekoälyvaikutusta, se ei välttämättä tee siitä tehokkaampaa. Yritykset vuotavat budjettejaan tekoälypalveluihin, samalla riippuen yliaalloitettuista ja ylihinnoitelluista infrastruktuureista; nousseet tekoälykustannukset paljastavat syvänjuurisen ongelman, jota yritykset eivät voi enää ignoroida.

Pilvikustannusten kertyminen

IT-infrastruktuurin kustannukset ovat usein organisaation toiseksi suurin kustannuskohta henkilöstökustannusten jälkeen, ja ne vastaavat keskimäärin 10 % liikevaihdosta – luku, jota tekoälyn kysyntä on viime vuosina nostanut. Mutta monet lisäävät tilavuutta jo valmiiseen yliaalloitettuun IT-rakenteeseen.

CTOt ja muut teknologiapäätöksentekijät ovat houkuttelevia tuttuun ja luotettavaan. Valitettavasti tämä on myös se, mikä nostaa heidän pilvilaskelmaansa. Hyväksymällä tutun, he joutuvat kalliiden yksi-koko-kaikille -sopimusten kanssa suurten hyperskaleerijoiden kanssa, joissa he maksavat ratkaisuista, jotka eivät tuota arvoa.

Ajan myötä he huomaavat, että he maksavat käyttämättömistä tai aktiivisista palveluista, optimoimattomasta laitteistosta ja tyhjästä tallennustilasta, kun he voivat sijoittaa rahaa tekoälyinnovaatioihin. Koska tekoäly on vain tulevaisuudessa kalliimpaa, he tarvitsevat jokaisen sentin, mitä he voivat saada.

Infrastruktuurin oikean kokoisen tekeminen tekoälytehokkuuden vuoksi

Pilvipilven hallitseminen edellyttää yhdistelmää teräviä, lyhytaikaisia toimia ja pitkäaikaista kehitystä. Ratkaisemalla mitä voidaan tänään antaa yrityksille hengitysrauhaa suunnitella suurempia sopeutumisia seuraavan vuoden aikana.

Siirtyminen uuteen infrastruktuuriin kestää aikaa, ja organisaatioiden on löydettävä ratkaisuja nyt, jotta heidän tiiminsä voivat jatkaa tekoälyn kanssa työskentelemistä. Tässä on kolme askelta, joita yritykset voivat tehdä välittömästi säätelemään pilvikustannuksia:

1 – Analyysi CPU- ja muistikäytöstä

On olemassa sellainen asia kuin “liian hyvä” suorituskyky. IT-tiimit tulisi suorittaa perusteellinen diagnosi pilvipalvelujen käytöstä, sitten alentaa esiintymät, jotka ylittävät suorituskykyvaatimukset. Syvä sukellus pilvikäyttöön auttaa myös tiimejä löytämään ominaisuuksia ja infrastruktuuria, joita ei käytetä lainkaan; jos heidän nykyinen sopimus sallii, he voivat poistaa nämä palvelut tai neuvotella alempaa maksua loppujen lopuksi sopimuksen loppuun. Muuten tunnistaminen käyttämättömistä ominaisuuksista tarjoaa arvokkaan kehyksen määrittämiseen uudelleenkonfiguroitujen pilvipalvelujen parametreja.

Kun yritykset siirtävät infrastruktuuristrategiaansa, he haluavat valita pilvipalveluita, jotka taloudellisesti muistikäyttöä. Esimerkiksi muisti-optimoidut infrastruktuurit ja vCPUt tarjoavat edullisemman tuen yritysluokan tuelle verrattuna hyperskaleerijoiden tarjoamiin Arm-pohjaisiin optimointeihin. Tämä helpottaa joitain valvontakuormia IT-tiimiltä samalla vähentäen yleistä pilvikustannusta.

2 – Aseta tiukat kustannusrajat

Kustannus- ja käyttörajoitukset ovat olleet teknologia-alan immuunivaste tekoälyn hintoihin, mutta se ei ole vain asettaminen rajoituksia, vaan se, miten nämä rajoitukset määritellään, kommunikoidaan ja pakotetaan.

Johtajien on osoitettava, että kustannusrajat ovat käytön mukaisia. Johtajat voivat käyttää niitä opastuksena projektin suunnittelussa ja resurssien suunnittelussa, mikä mahdollistaa heidän strukturoida budjetteja, aikatauluja ja yksittäisiä projektitiimejä tehokkuuden kannalta.

Kommunikaatio on myös tärkeää, on tärkeää, että koko työvoima ymmärtää miksi rajoitukset. Olemme tottuneet näkemään digitaalisen äärettömänä, mutta tässä vaiheessa tekoälybuumissa olemme vastakkain fysiikan lakien kanssa. Kun puutteet ja laskentamuutokset vaikuttavat työntekijöiden päivittäisiin työprosesseihin, kustannusrajat tulisi esittää kestävänä tavalana ylläpitää heidän uutta riippuvuuttaan tekoälytyökaluista, eikä rajoituksena.

3 – Pakota merkintäprotokollaa

Merkintäprotokollat estävät hallitsemattoman IT-käytön, joka salaa nostaa laskutuskuoria. Vahvan merkintäkoodin avulla IT-johtajat voivat saada paremman ymmärryksen pilvipalveluliikenteestä, mikä mahdollistaa tiimien kohdistaa ylenkäytön lähteen ja tehdä strategisia sopeutumia leikataa resursseja, missä pullonkaula on tapahtumassa. Samalla merkintäprotokollat voivat myös näyttää, missä tiimit saattavat tarvita päivitystä.

Kun heidän olemassa olevat pilvisopimukset vanhenevat, yritykset ovat mahdollisuuksien edessä uudelleenrakentaa laskentaympäristöään monin pilvinäkökulmalla. Tämä ei välttämättä tarkoita vanhojen hyperskaleeripartnerien hylkäämistä, vaan heidän sopimustensa pienentämistä harmonisoida tehokkaampien infrastruktuurien kanssa pinon muualla. Vaihtoehtoiset pilvet, reunapalvelut, jotka poistavat rasitteen GPU-pohjaisesta infrastruktuurista, ja avoimen lähdekoodin ohjelmistoratkaisut muodostavat joustavan, monitoimijan strategian, joka tekee enemmän kuin vain säästää kustannuksia: se lisää jokaisen tekoälyaloitteen tuottavuutta maksimoida hinta suorituskyvyn mukaan, mikä mahdollistaa yrityksille sijoittaa säästöt takaisin tekoälyinnovaatioihin.

Tehtävän tehokkuuden uudelleenjärjestäminen

Tekoälykustannusten hallitseminen on myös kulttuurikysymys. Tekoälylliset työvoimat ovat erittäin tehokkaita. Siksi he rakentavat agenteja, automatisoivat viestintäänsä ja antavat tekoälylle tehdä rutiinotyöt, kun he laajentavat kapasiteettiaan luovuudelle ja innovaatiolle. Mutta vastuuton käyttäytyminen näistä työkaluista on vastakkainen vaikutus.

“Tokenmaxxing” ja muut trendit, jotka kannustavat tuhlailevaan tekoälyn käyttöön, eivät ole yhdenmukaisia tehokkuuden suhteen. Jos tiimit haluavat todella tehdä enemmän vähemmällä, heidän vuorovaikutuksensa tekoälyn kanssa tulisi heijastaa sitä periaatetta.

Se edellyttää kulttuurin ja teknologian siirtymistä yhdessä. Kannusta parempien kehotusten käyttöä vähentääksesi johtopäätöksen kuormitusta, mutta omaksu myös infrastruktuuria, joka taloudellisesti johtopäätöksen automaattisesti. Omaksu pienempiä tekoälymalleja tarkoituksenmukaisilla käyttötapausten kanssa. Hyväksy avoimen lähdekoodin malleja ja ohjelmistoa vähentääksesi koulutustyön kuormitusta. Anna kehittäjille mahdollisuus ratkaista ongelmia tehokkaasti ja kouluttaa ei-tekniikkaa tekoälykäyttäjiä. Yritykset, jotka haluavat kannustaa työntekijöitään käyttämään tekoälyä, on tehtävä niin vastuullisesti.

Vaikka hinnat nousevat, emme ole vielä jarruttaneet tekoälymuutosta. Tekoälyn toiminnallistaminen laajassa mittakaavassa oli aina tulevaisuudessa kalliin hankkeen, joka edellyttää huolellista suunnittelua ja strategista pääoman jakoa pysyäkseen kestävänä. Missä me olemme: se on puristuskohta: IT-johtajien tekemät liikkeet nyt määrittävät, kuka pääsee läpi, ja kuka jää jälkeen.

Vaikka teollisuus mobilisoituu ratkaisemaan keittokriisiä, yritysten on löydettävä keinoja tehdä niin, mitä heillä on. Yritykset voivat suojella itsensä tekoälyn astronominen kustannuksilta osoittamalla ylihintaa pilviratkaisuissa, taloudellisesti johtopäätöksen jakautuneessa pilvessä ja sijoittamalla infrastruktuuriin, joka edistää todellista tuottavuutta.