Kostot e trajnimit të AI vazhdojnë të bien

Kostot e larta të trajnimit të AI kanë qenë një pengesë e rëndësishme për adoptimin e AI, duke penguar shumë kompani të zbatojnë teknologjinë e AI. Sipas një Raporti i Konsulencës Forrester 2017, 48% e kompanive theksuan kostot e teknologjisë së lartë si një nga arsyet kryesore për moszbatimin e zgjidhjeve të drejtuara nga AI.

Megjithatë, zhvillimet e fundit kanë treguar se kostot e trajnimit të AI po bien me shpejtësi dhe kjo prirje pritet të vazhdojë në të ardhmen. Sipas Raporti i ARK Invest Big Ideas 2023, kostot e trajnimit të një modeli të madh gjuhësor të ngjashëm me performancën e nivelit GPT-3 kanë rënë nga 4.6 milion dollarë në 2020 në 450,000 dollarë në 2022, një rënie prej 70% në vit.

Le të shqyrtojmë më tej këtë trend të rënies së kostove të trajnimit të AI dhe të diskutojmë faktorët që kontribuojnë në këtë rënie.

Si kanë ndryshuar kostot e trajnimit të AI me kalimin e kohës?

Sipas të fundit Hulumtimi i ARK Invest 2020, kostoja e trajnimit të modeleve të të mësuarit të thellë po përmirësohet 50 herë më shpejt se ligji i Moore. Në fakt, shpenzimet e lidhura me drejtimin e një sistemi konkluzionesh të AI janë ulur në mënyrë drastike në nivele pothuajse të papërfillshme për raste të shumta përdorimi.

Për më tepër, kostot e trajnimit janë ulur dhjetë herë në vit gjatë viteve të fundit. Për shembull, në vitin 2017, trajnimi i një klasifikuesi imazhi si ResNet-50 në një re publike kushtoi rreth 1,000 dollarë, por deri në vitin 2019, kostoja ishte ulur ndjeshëm në afërsisht 10 dollarë.

Këto gjetje përputhen me a Raporti 2020 nga OpenAI, i cili zbuloi se sasia e fuqisë kompjuterike të nevojshme për të trajnuar një model të AI për të kryer të njëjtën detyrë është ulur me një faktor prej dy çdo 16 muaj që nga viti 2012.

Për më tepër, Raporti i ARK-së nxjerr në pah uljen e kostove të trajnimit të AI. Raporti parashikon që deri në vitin 2030 kostoja e trajnimit të një modeli të nivelit GPT-3 do të ulet në 30 dollarë, krahasuar me 450,000 dollarë në 2022.

Faktorët që kontribuojnë në uljen e kostove të trajnimit të AI

Modelet e trajnimit të AI bëhen më të lira dhe më të lehta ndërsa teknologjitë e AI vazhdojnë të përmirësohen, duke i bërë ato më të aksesueshme për një gamë më të gjerë biznesesh. Disa faktorë, duke përfshirë kostot e harduerit dhe softuerit dhe AI ​​me bazë cloud, kanë kontribuar në uljen e kostove të trajnimit të AI.

Le të shqyrtojmë këta faktorë më poshtë.

1. Hardware

AI kërkon pajisje të specializuara të kushtueshme të nivelit të lartë për të përpunuar vëllime të larta të dhënash dhe llogaritjesh. Organizatat si NVIDIA, IBM dhe Google ofrojnë GPU TPU-të për të ekzekutuar ngarkesa kompjuterike me performancë të lartë (HPC). Kostot e larta të harduerit e bëjnë të vështirë demokratizimin e AI në një shkallë të gjerë.

Megjithatë, ndërsa teknologjia përparon, kostot e harduerit po zvogëlohen. Sipas Raporti i ARK Invest 2023, Ligji i Wright parashikon që kostot e prodhimit të njësisë llogaritëse relative të AI, dmth., kostot e harduerit të trajnimit të AI, duhet të ulen me 57% në vit, duke çuar në një reduktim prej 70% të kostove të trajnimit të AI deri në vitin 2030, siç tregohet në grafikun e mëposhtëm.

2. program

Kostot e trajnimit të softuerit AI mund të ulen me 47% në vit nëpërmjet rritjes së efikasitetit dhe shkallëzueshmërisë. Kornizat e softuerit si TensorFlow PyTorch u mundëson zhvilluesve të trajnojnë modele komplekse të të mësuarit të thellë në sisteme të shpërndara me performancë të lartë, duke kursyer kohë dhe burime.

Për më tepër, modele të mëdha të paratrajnuara si Inceptionv3 or ResNet dhe teknikat e të mësuarit të transferimit ndihmojnë gjithashtu në uljen e kostove duke i lejuar zhvilluesit të rregullojnë modelet ekzistuese në vend që t'i trajnojnë ato nga e para.

3. Inteligjenca artificiale e bazuar në renë kompjuterike

Trajnimi i inteligjencës artificiale të bazuar në renë kompjuterike redukton kostot duke ofruar burime të shkallëzueshme llogaritëse sipas kërkesës. Me modelin pay-as-you-go, bizneset paguajnë vetëm për burimet e tyre kompjuterike. Gjithashtu, ofruesit e cloud ofrojnë shërbime të para-ndërtuara të AI që përshpejtojnë trajnimin e AI.

Për shembull, Mësimi i Makinës Azure është një shërbim i bazuar në cloud për analitikë parashikuese që lejon zhvillimin dhe zbatimin e shpejtë të modelit. Ofron burime kompjuterike dhe memorie fleksibël. Përdoruesit mund të shkallëzojnë shpejt deri në mijëra GPU për të rritur performancën e tyre kompjuterike. Ai i lejon përdoruesit të punojnë përmes shfletuesve të tyre të internetit në mjedise të konfiguruara paraprakisht të AI, duke eliminuar shpenzimet e konfigurimit dhe instalimit.

Ndikimi i rënies së kostove të trajnimit të AI

Kostot në rënie të trajnimit të AI kanë implikime të rëndësishme për industri dhe fusha të ndryshme, duke rezultuar në përmirësimin e inovacionit dhe konkurrencës.

Le të diskutojmë disa prej tyre më poshtë.

1. Adoptimi masiv i Chatbots të sofistikuar të AI

Chatbotet e AI janë në rritje për shkak të rënies së kostove të AI. Sidomos pas zhvillimit të OpenAI's Biseda GPT GPT-4 (Generative Pre-trained Transformer), ka pasur një rritje të dukshme në numrin e kompanive që kërkojnë të zhvillojnë chatbot me AI me aftësi të ngjashme ose më të mira.

Për shembull, pesë ditë pas lëshimit të tij në nëntor 2022, ChatGPT grumbulloi 1 milion përdorues. Megjithëse sot, kostoja e ekzekutimit të modelit në shkallë është afërsisht 01 dollarë për pyetje, Ligji i Wright parashikon që deri në vitin 2030, aplikacionet e chatbot-it të ngjashëm me ChatGPT do të vendosen në një shkallë masive shumë më lirë (vlerësohet 650 dollarë për të kryer një miliard pyetje). me potencialin për të përpunuar 8.5 miliardë kërkime në ditë, ekuivalente me Google Search.

2. Rritja e përdorimit të AI gjeneruese

Kostot në rënie të trajnimit të AI kanë çuar në një rritje në zhvillimin dhe zbatimin e teknologjive gjeneruese të AI. Në vitin 2022, pati një rritje të konsiderueshme në përdorimin e AI gjeneruese, e nxitur nga futja e mjeteve inovative gjeneruese të AI, si DALL-E 2, Meta Make-A-Video dhe Stable Diffusion. Në vitin 2023, ne kemi qenë tashmë dëshmitarë të një modeli novator në formën e GPT-4.

Përveç gjenerimit të imazhit dhe tekstit, AI gjeneruese po i ndihmon zhvilluesit të shkruajnë kodin. Programet si GitHub Copilot mund të ndihmojnë në përfundimin e një detyre kodimi në gjysmën e kohës.

3. Përdorimi më i mirë i të dhënave të trajnimit

Kostot e reduktuara të trajnimit të AI pritet të lejojnë përdorimin më të mirë të të dhënave të trajnimit të mësimit të makinerive. Për shembull, Raporti i ARK Invest 2023 sugjeron që deri në vitin 2030, kostoja e trajnimit të një modeli me 57 herë më shumë parametra dhe 720 herë më shumë token se GPT-3 (parametrat 175B) parashikohet të ulet nga 17 miliardë dollarë në 600,000 dollarë.

Disponueshmëria dhe cilësia e të dhënave do të jenë faktori kryesor kufizues për zhvillimin e modeleve të avancuara të mësimit të makinerive në këtë botë kompjuterike me kosto të ulët. Megjithatë, modelet e trajnimit do të zhvillonin kapacitetin për të përpunuar rreth 162 trilion fjalë ose 216 trilion argumente.

E ardhmja e AI duket shumë premtuese. Për të mësuar më shumë rreth tendencave dhe kërkimeve më të fundit në fushën e inteligjencës artificiale, vizitoni Bashkohu.ai.