KI-opleidingskoste bly daal

Hoë KI-opleidingskoste was 'n beduidende hindernis vir KI-aanneming, wat baie maatskappye verhinder het om KI-tegnologie te implementeer. Volgens a 2017 Forrester Consulting Verslag, 48% van maatskappye het hoë tegnologiekoste uitgelig as een van die primêre redes waarom KI-gedrewe oplossings nie geïmplementeer word nie.

Onlangse ontwikkelings het egter getoon dat KI-opleidingskoste vinnig besig is om te daal, en hierdie neiging sal na verwagting in die toekoms voortduur. Volgens die ARK Invest Big Ideas 2023-verslag, opleidingskoste van 'n groot taalmodel soortgelyk aan GPT-3-vlakprestasie het van $4.6 miljoen in 2020 tot $450,000 2022 in 70 gedaal, 'n daling van XNUMX% per jaar.

Kom ons ondersoek hierdie neiging van dalende KI-opleidingskoste verder en bespreek die faktore wat tot hierdie afname bydra.

Hoe het KI-opleidingskoste met verloop van tyd verander?

Volgens die onlangse ARK Invest 2020-navorsing, verbeter die koste van die opleiding van diepleermodelle 50 keer vinniger as Moore se wet. Trouens, die koste verbonde aan die bestuur van 'n KI-afleidingstelsel het drasties verminder tot byna onbeduidende vlakke vir talle gebruiksgevalle.

Boonop het opleidingskoste die afgelope paar jaar tien keer per jaar afgeneem. Byvoorbeeld, in 2017 het die opleiding van 'n beeldklassifiseerder soos ResNet-50 op 'n openbare wolk ongeveer $1,000 2019 gekos, maar teen 10 het die koste aansienlik afgeneem tot ongeveer $XNUMX.

Hierdie bevindinge strook met a 2020-verslag deur OpenAI, wat bevind het dat die hoeveelheid rekenaarkrag wat nodig is om 'n KI-model op te lei om dieselfde taak te verrig, sedert 16 met 'n faktor van twee elke 2012 maande afgeneem het.

Verder, die ARK berig beklemtoon die dalende KI-opleidingskoste. Die verslag voorspel dat die opleidingskoste van 'n GPT-2030-vlakmodel teen 3 tot $30 sal daal, vergeleke met $450,000 2022 in XNUMX.

Faktore wat bydra tot dalende KI-opleidingskoste

Opleiding van KI-modelle word goedkoper en makliker namate KI-tegnologieë aanhou verbeter, wat dit meer toeganklik maak vir 'n groter verskeidenheid besighede. Verskeie faktore, insluitend hardeware- en sagtewarekoste en wolkgebaseerde KI, het bygedra tot dalende KI-opleidingskoste.

Kom ons ondersoek hierdie faktore hieronder.

1. Hardware

KI vereis gespesialiseerde hoë-end duur hardeware om groot volumes data en berekeninge te verwerk. Organisasies soos NVIDIA, IBM en Google verskaf GPU's en TPU's om hoë-prestasie rekenaar (HPC) werkladings uit te voer. Hoë hardewarekoste maak dit moeilik om KI op groot skaal te demokratiseer.

Soos tegnologie vorder, neem hardewarekoste egter af. Volgens die ARK Invest 2023-verslag, Wright's Law voorspel dat KI-relatiewe berekeningseenheid (RCU) produksiekoste, dit wil sê, KI opleiding hardeware koste, jaarliks ​​met 57% moet daal, wat lei tot 'n 70% vermindering in KI opleidingskoste teen 2030, soos getoon in die grafiek hieronder.

2. Sagteware

KI sagteware opleidingskoste kan verlaag word deur 47% jaarliks deur verhoogde doeltreffendheid en skaalbaarheid. Sagteware raamwerke soos TensorFlow en PyTorch stel ontwikkelaars in staat om komplekse diepleermodelle op verspreide stelsels op te lei met hoë werkverrigting, wat tyd en hulpbronne bespaar.

Verder, groot vooraf opgeleide modelle soos Begin v3 or ResNet en oordragleertegnieke help ook om koste te verminder deur ontwikkelaars toe te laat om bestaande modelle te verfyn eerder as om hulle van nuuts af op te lei.

3. Wolk-gebaseerde kunsmatige intelligensie

Wolkgebaseerde KI-opleiding verminder koste deur skaalbare rekenaarhulpbronne op aanvraag te verskaf. Met die betaal-soos-jy-gaan-model betaal besighede net vir hul rekenaarhulpbronne. Wolkverskaffers bied ook voorafgeboude KI-dienste wat KI-opleiding versnel.

Byvoorbeeld, Azure-masjienleer is 'n wolk-gebaseerde diens vir voorspellende analise wat vinnige modelontwikkeling en implementering moontlik maak. Dit bied buigsame rekenaarhulpbronne en geheue. Gebruikers kan vinnig tot duisende GPU's skaal om hul rekenaarwerkverrigting te verhoog. Dit stel gebruikers in staat om deur hul webblaaiers te werk op vooraf gekonfigureerde KI-omgewings, wat opstel- en installasiekoste uitskakel.

Die impak van dalende KI-opleidingskoste

Die dalende koste van KI-opleiding het beduidende implikasies vir verskeie nywerhede en velde, wat lei tot verbeterde innovasie en mededingendheid.

Kom ons bespreek 'n paar van hulle hieronder.

1. Massa-aanneming van gesofistikeerde KI Chatbots

KI-kletsbotte is aan die toeneem weens dalende KI-koste. Veral na die ontwikkeling van OpenAI's Klets GPT en GPT-4 (Generative Pre-trained Transformer), was daar 'n merkbare toename in die aantal maatskappye wat KI-kletsbotte met soortgelyke of beter vermoëns wil ontwikkel.

Byvoorbeeld, vyf dae na die vrystelling daarvan in November 2022, het ChatGPT 1 miljoen gebruikers opgetel. Alhoewel die koste om die model op skaal te laat loop vandag ongeveer $.01 per navraag is, voorspel Wright's Law dat chatbot-toepassings soortgelyk aan ChatGPT teen 2030 op 'n massiewe skaal baie goedkoper ontplooi sal wees (na raming $650 om 'n miljard navrae uit te voer), met die potensiaal om 8.5 miljard soektogte per dag te verwerk, gelykstaande aan Google Search.

2. Verhoogde gebruik van generatiewe KI

Die dalende koste van KI-opleiding het gelei tot 'n toename in die ontwikkeling en implementering van generatiewe KI-tegnologie. In 2022 was daar 'n aansienlike toename in die gebruik van generatiewe KI, aangedryf deur die bekendstelling van innoverende generatiewe KI-instrumente, soos DALL-E 2, Meta Make-A-Video en Stable Diffusion. In 2023 het ons reeds 'n baanbrekende model in die vorm van GPT-4 gesien.

Afgesien van beeld- en teksgenerering, help generatiewe AI ontwikkelaars om kode te skryf. Programme soos GitHub Copilot kan help om 'n koderingstaak in die helfte van die tyd te voltooi.

3. Beter gebruik van opleidingsdata

Verminderde KI-opleidingskoste sal na verwagting beter benutting van masjienleer-opleidingsdata moontlik maak. Byvoorbeeld, ARK Invest 2023-verslag stel voor dat die koste van die opleiding van 'n model met 2030 keer meer parameters en 57 keer meer tekens as GPT-720 (3B-parameters) teen 175 geprojekteer sal word van $17 miljard tot $600,000.

Databeskikbaarheid en kwaliteit sal die primêre beperkende faktor wees vir die ontwikkeling van gevorderde masjienleermodelle in hierdie laekoste rekenaarwêreld. Opleidingsmodelle sal egter die kapasiteit ontwikkel om 'n geskatte 162 triljoen woorde of 216 triljoen tokens te verwerk.

Die toekoms van KI lyk baie belowend. Om meer te wete te kom oor die nuutste neigings en navorsing op die gebied van kunsmatige intelligensie, besoek Verenig.ai.