AI-mallit ja alustat

Koneälykoulutuksen kustannukset jatkavat laskuaan

mm
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa

Korkeat koneälykoulutuksen kustannukset ovat olleet merkittävä este koneälyn omaksumiselle, estäen monia yrityksiä toteuttamasta koneälytekniikkaa. Vuoden 2017 Forrester Consulting -raportin mukaan 48 % yrityksistä korosti korkeita teknologian kustannuksia yhtenä pääsyyllä siitä, ettei toteutettu koneälyyn perustuvia ratkaisuja.

Kuitenkin viimeaikaiset kehityssuunnat ovat osoittaneet, että koneälykoulutuksen kustannukset laskevat nopeasti, ja tämä suunta odotetaan jatkuvan tulevaisuudessa. ARK Invest Big Ideas 2023 -raportin mukaan suuren kielen mallin koulutuskustannukset, jotka ovat vastaavanlaisia kuin GPT-3:n suorituskyky, ovat laskeneet 4,6 miljoonasta dollarista vuonna 2020 450 000 dollariin vuonna 2022, mikä on 70 %:n lasku vuodessa.

Tutkimme tätä suuntaa, jossa koneälykoulutuksen kustannukset laskevat, ja käymme läpi tekijöitä, jotka vaikuttavat tähän laskuun.

Miten koneälykoulutuksen kustannukset ovat muuttuneet ajan myötä?

Vuoden 2020 ARK Invest -tutkimuksen mukaan syväoppimismallien koulutuksen kustannukset paranevat 50 kertaa nopeammin kuin Mooren laki. Todellakin käyttöjärjestelmän suorituskyvyn liittyvät kustannukset ovat laskeneet merkittävästi useissa käyttötarkoituksissa.

Lisäksi koulutuskustannukset ovat laskeneet kymmenkunta kertaa vuodessa viime vuosina. Esimerkiksi vuonna 2017 julkinen pilviympäristössä koulutettu kuvien luokittelija, kuten ResNet-50, maksoi noin 1 000 dollaria, mutta vuoteen 2019 mennessä kustannukset olivat laskeneet merkittävästi noin 10 dollariin.

Nämä tulokset ovat linjassa OpenAI:n vuoden 2020 raportin kanssa, jonka mukaan laskentakapasiteetti, jota tarvitaan kouluttamaan koneälymalli suorittamaan samaa tehtävää, on vähentynyt kahdella kertaa 16 kuukauden välein vuodesta 2012 lähtien.

Lisäksi ARK-raportti korostaa laskevia koneälykoulutuksen kustannuksia. Raportti ennustaa, että vuoteen 2030 mennessä GPT-3-tason mallin koulutuskustannukset laskevat 30 dollariin verrattuna 450 000 dollariin vuonna 2022.

GPT-3-tason koulutuskustannukset

GPT-3-tason koulutuskustannukset – ARK Invest Big Ideas 2023

Tekijät, jotka vaikuttavat laskeviin koneälykoulutuksen kustannuksiin

Koneälymallien koulutus muodostuu edullisemmaksi ja helpommaksi, kun koneälyteknologiaa kehitetään edelleen, mikä tekee siitä helpommin saatavilla laajemmalle joukolle yrityksiä. Useat tekijät, kuten laitteiston ja ohjelmiston kustannukset sekä pilvipohjainen koneäly, ovat vaikuttaneet laskeviin koneälykoulutuksen kustannuksiin.

Tutkimme näitä tekijöitä tarkemmin alla.

1. Laitteisto

Koneäly vaatii erikoistuneita ja kalliita laitteita suurten tietomäärien ja laskentojen prosessointiin. Yritykset kuten NVIDIA (NVDA ), IBM ja Google (GOOGL ) tarjoavat GPU:ja ja TPU:ja suorittamaan korkean suorituskyvyn laskentatehtäviä. Korkeat laitteiston kustannukset tekevät siitä haasteellista demokratisoida koneälyä laajassa mittakaavassa.

Kuitenkin teknologian kehittyessä laitteiston kustannukset laskevat. ARK Invest 2023 -raportin mukaan Wrightin laki ennustaa, että koneälysuhteisten laskentayksiköiden (RCU) tuotantokustannukset eli koneälykoulutuksen laitteiston kustannukset pitäisi laskea 57 %:lla vuodessa, mikä johtaa 70 %:n laskuun koneälykoulutuksen kustannuksiin vuoteen 2030 mennessä, kuten alla olevasta kaaviossa näkyy.

Koneälykoulutuksen laitteiston kustannukset

Koneälykoulutuksen laitteiston kustannukset – ARK Invest Big Ideas 2023

2. Ohjelmisto

Koneälyohjelmiston koulutuskustannukset voidaan laskea 47 %:lla vuodessa tehostamalla ja skaalauttamalla ohjelmistoa. Ohjelmistokehykset kuten TensorFlow ja PyTorch mahdollistavat kehittäjien kouluttaa monimutkaisia syväoppimismalleja jakelujohtimilla ja saavuttaa korkean suorituskyvyn, mikä säästää aikaa ja resursseja.

Lisäksi suuret esikoulutetut mallit kuten Inceptionv3 tai ResNet ja siirtymällä oppimismenetelmät auttavat kustannusten laskussa sallimalla kehittäjien hienosäätää olemassa olevia malleja sen sijaan, että he kouluttaisivat ne alusta alkaen.

Koneälyohjelmiston koulutuskustannukset

Koneälyohjelmiston koulutuskustannukset – ARK Invest Big Ideas 2023

3. Pilvipohjainen koneäly

Pilvipohjainen koneälykoulutus laskee kustannuksia tarjoamalla skaalautuvia laskentaresursseja tarpeen mukaan. Pilvipalvelujen avulla yritykset maksavat vain käyttämistään resursseista. Lisäksi pilvipalvelut tarjoavat esivalmisteltuja koneälypalveluita, jotka nopeuttavat koneälykoulutusta.

Esimerkiksi Azure Machine Learning on pilvipohjainen palvelu ennustavalle analytiikalle, joka mahdollistaa nopean mallin kehittämisen ja toteuttamisen. Se tarjoaa joustavia laskentaresursseja ja muistia. Käyttäjät voivat skaalata nopeasti tuhansiin GPU:ihin parantamaan suorituskykyään. Se mahdollistaa käyttäjille työskennellä selaimen kautta esikonfiguroiduissa koneäly-ympäristöissä, mikä poistaa asennus- ja määritysohjelmat.

Laskevien koneälykoulutuksen kustannusten vaikutus

Laskevat koneälykoulutuksen kustannukset ovat merkittäviä vaikutuksia monille aloille ja kentille, johtaa parantuneeseen innovaatioon ja kilpailukykyyn.

Käymme läpi joitakin näistä alla.

1. Monimutkaisten koneälychatbotien laajamittainen omaksuminen

Koneälychatbotit ovat nousussa laskevien koneälykoulutuksen kustannusten ansiosta. Erityisesti OpenAI:n ChatGPT:n ja GPT-4:n (Generative Pre-trained Transformer) kehittämisen jälkeen on havaittavissa ollut merkittävä kasvu yritysten määrässä, jotka haluavat kehittää koneälychatboteja vastaavilla tai paremmilla ominaisuuksilla.

Esimerkiksi viisi päivää julkaisunsa jälkeen marraskuussa 2022 ChatGPT keräsi yhden miljoonan käyttäjän. Vaikka nykyään mallin suorittaminen suurella mittakaavalla maksoi noin 0,01 dollaria kyselykohtaisesti, Wrightin laki ennustaa, että vuoteen 2030 mennessä chatbot-sovellukset, jotka ovat samankaltaisia kuin ChatGPT, voidaan ottaa käyttöön laajamittaisesti edullisemmin (arvioitu 650 dollaria miljardiin kyselyyn), ja ne voivat käsitellä 8,5 miljardia hakua päivässä, mikä vastaa Google-hakua.

Koneälyinferenssien suorittamisen kustannukset miljardiin kyselyyn

Koneälyinferenssien suorittamisen kustannukset miljardiin kyselyyn – ARK Invest Big Ideas 2023

2. Generatiivisen koneälyn käytön lisääntyminen

Laskevat koneälykoulutuksen kustannukset ovat johtaneet generatiivisen koneälyteknologian kehittämiseen ja toteuttamiseen. Vuonna 2022 oli merkittävä kasvu generatiivisen koneälyn käytössä, jota ajoi uusien innovatiivisten generatiivisten koneälytyökalujen, kuten DALL-E 2, Meta Make-A-Video ja Stable Diffusion, esittely. Vuonna 2023 olemme jo nähneet merkittävän GPT-4-mallin.

Lisäksi kuvien ja tekstin generoimisen ohella generatiivinen koneäly auttaa kehittäjiä kirjoittamaan koodia. Ohjelmat kuten GitHub Copilot voivat auttaa kirjoittamaan kooditehtävän puolessa ajassa.

Kooditehtävien suorittamiseen kuluvan ajan

Kooditehtävien suorittamiseen kuluvan ajan – ARK Invest Big Ideas 2023

3. Koulutusdatan parempi käyttö

Laskevat koneälykoulutuksen kustannukset odotetaan sallivan koulutusdatan paremman hyödyntämisen. Esimerkiksi ARK Invest 2023 -raportin mukaan vuoteen 2030 mennessä GPT-3-mallin (175 miljardia parametriä) koulutuskustannukset laskevat 17 miljardista dollarista 600 000 dollariin.

Data saatavuus ja laatu tulevat olemaan ensisijainen rajoittava tekijä kehittyneiden koneälymallien kehittämisessä tässä edullisessa laskentamaailmassa. Kuitenkin koulutusmallit kehittävät kapasiteetin prosessoida arvioitu 162 biljoonaa sanaa tai 216 biljoonaa merkkiä.

Koneälyn tulevaisuus näyttää erittäin lupaavalta. Lue lisää uusimmista trendeistä ja tutkimuksista koneälyalan parissa vierailemalla Unite.ai:ssa.

Haziqa on Data Scientist, jolla on laaja kokemus teknisen sisällön kirjoittamisesta AI- ja SaaS-yrityksille.