Cerebras Waxay Soo Bandhigtay Xalka Inference AI ee Ugu Dhakhsaha Badan Adduunka: Xawaaraha 20x ee Jajabka Qiimaha

Nidaamyada Cerebras, Hormoodka waxqabadka sare ee AI xisaabinta, ayaa soo bandhigtay xal aasaasi ah oo loogu talagalay in lagu beddelo fikradda AI. Agoosto 27, 2024, shirkaddu waxay ku dhawaaqday bilawga Cerebras Inference, adeegga ugu dhaqsiyaha badan AI ee adduunka. Marka la eego cabbirada waxqabadka ee ka soo horjeeda kuwa nidaamyada ku saleysan GPU-da dhaqameed, Inference Cerebras waxay ku bixisaa 20 jeer xawaaraha qayb ka mid ah qiimaha, oo dejinaya bartilmaameed cusub oo ku saabsan xisaabinta AI.

Xawaaraha Aan Horay Loo Arag Iyo Hufnaanta Qiimaha

Cerebras Inference waxaa loogu talagalay in lagu soo bandhigo waxqabadka gaarka ah ee noocyada kala duwan ee AI, gaar ahaan qaybta degdegga ah ee isbeddelaysa moodooyinka luqadaha waaweyn (LLMs). Tusaale ahaan, waxay ku shaqaysaa 1,800 token ilbidhiqsikii Llama 3.1 8B model iyo 450 tokens ilbiriqsikii ee nooca Llama 3.1 70B. Waxqabadkani kaliya maaha 20 jeer ka dhakhso badan kan NVIDIA GPU-ku-salaysan xalalka laakiin sidoo kale wuxuu ku yimaadaa qiime aad u hooseeya. Cerebras waxa ay bixisaa adeegan oo ka bilaabma 10 senti halkii milyan ee calaamada Llama 3.1 8B model iyo 60 senti halkii milyan ee calaamada Llama 3.1 70B, taas oo ka dhigan horumar 100x ah ee wax qabadka qiimaha marka la barbar dhigo wax-soosaarka GPU-ku-salaysan ee jira.

Ilaalinta Saxnaanta Marka la riixayo Xuduudaha Xawaaraha

Mid ka mid ah dhinacyada ugu cajaa'ibka badan ee Cerebras Inference waa awoodda ay u leedahay in ay ilaaliso saxnaanta casriga ah iyada oo la bixinayo xawaare aan isbarbar dhigin. Si ka duwan hababka kale ee u hura saxnaanta xawaaraha, Xalka Cerebras wuxuu ku sii jiraa gudaha 16-bit ee guud ahaan socodka fikradda. Tani waxay hubinaysaa in faa'iidooyinka wax-qabadku aysan ku iman kharashka tayada wax-soo-saarka moodalka AI, oo ah arrin muhiim u ah horumarinta oo diiradda saaraya saxnaanta.

Micah Hill-Smith, Aasaasaha iyo Maamulaha Falanqaynta Farshaxanka, ayaa muujiyay muhiimada guushan: "Cerebras waxay soo gudbinaysaa xawaaruhu nidaam aad uga dhakhso badan xalalka GPU-ku-salaysan ee moodooyinka Meta's Llama 3.1 8B iyo 70B AI. Waxaan ku cabbiraynaa xawaare ka sarreeya 1,800 calaamadihii wax soo saarka ilbiriqsi kasta Llama 3.1 8B, iyo in ka badan 446 calaamadihii wax soo saarka ilbiriqsi kasta Llama 3.1 70B - rikoor cusub oo bartilmaameedyadan ah."

Muhiimadda Koritaanka ee Inference AI

Aragtida AI waa qaybta ugu dhaqsaha badan ee xisaabinta AI, oo xisaabisa qiyaastii 40% wadarta suuqa qalabka AI. Imaatinka dhexgalka xawaaraha sare ee AI, sida kan ay bixiso Cerebras, waxay la mid tahay soo bandhigida internet-ka ballaaran—fursadaha cusub iyo ku bishaareynta waa cusub ee codsiyada AI. Iyadoo la raacayo Cerebras Inference, horumariyayaashu hadda waxay dhisi karaan codsiyada jiilka xiga ee AI kuwaas oo u baahan wax qabad adag, waqtiga dhabta ah, sida wakiilada AI iyo nidaamyada caqliga leh.

Andrew Ng, aasaasaha DeepLearning.AI, wuxuu hoosta ka xariiqay muhiimada xawaaraha ee horumarinta AI: "DeepLearning.AI waxay leedahay qulqulo shaqo oo badan oo wakiil ah oo u baahan kicinta LLM si isdaba joog ah si loo helo natiijo. Cerebras waxay dhistay karti la-talin degdeg ah oo cajiib ah taasoo aad waxtar ugu yeelan doonta culeysyada shaqo ee noocaas ah."

Taageerada Wershadaha Ballaaran iyo Iskaashi Istaraatiijiyadeed

Cerebras waxay taageero xooggan ka heshay hoggaamiyeyaasha warshadaha waxayna sameeyeen iskaashiyo istiraatiiji ah si loo dardargeliyo horumarinta codsiyada AI. Kim Branson, SVP ee AI/ML ee GlaxoSmithKline, oo ah macmiil hore oo Cerebras ah, ayaa carrabka ku adkeeyay kartida isbeddelka ee tignoolajiyadan: "Xawaaraha iyo miisaanka ayaa wax walba beddela."

Shirkadaha kale, sida LiveKit, Walaac, iyo Meter, ayaa sidoo kale muujiyay xamaasad ku aaddan saamaynta ay Cerebras Inference ku yeelan doonto hawlahooda. Shirkadahani waxay ka faa'iidaysanayaan awoodda xisaabinta ee Cerebras si ay u abuuraan jawaab celin dheeraad ah, waayo-aragnimada aadanaha-sida AI, hagaajinta isdhexgalka isticmaalaha ee matoorada raadinta, iyo kor u qaadida hababka maaraynta shabakada.

Cerebras Inference: Heerarka iyo Helitaanka

Cerebras Inference waxaa laga heli karaa dhammaan saddex heer oo qiimo leh: Bilaash, Horumariye, iyo Ganacsi. Heerka Bilaashka ah wuxuu bixiyaa gelitaanka API bilaash ah oo leh xaddidaad isticmaal oo deeqsinimo ah, taasoo ka dhigaysa mid la heli karo isticmaaleyaasha ballaaran. Heerka Horumarintu waxa uu bixiyaa hawlgelin dabacsan, adeeg-la'aan ah, oo leh moodooyinka Llama 3.1 oo lagu qiimeeyay 10 senti iyo 60 senti milyankii calaamado. Heerka Enterprise waxa uu siiya ururada leh culaysyo shaqo oo joogto ah, oo bixiya moodallo si fiican loo hagaajiyay, heshiisyada heerka adeegga caadiga ah, iyo taageero u go'an, oo leh qiimeeyn la heli karo marka la codsado.

Awood-siinta Cerebras-ka: Matoorka Miisaanka Wafer 3 (WSE-3)

Xuddunta Inference Cerebras waa nidaamka Cerebras CS-3, oo ay ku shaqeeyaan matoorka cabbirka ee Wafer Scale Engine 3 (WSE-3). Processor-yahanka AI waa mid aan la sinnayn xajmigiisa iyo xawaarihiisa, isaga oo bixinaya 7,000 jeer ka badan baaxadda xajinta xusuusta ee NVIDIA's H100. Miisaanka weyn ee WSE-3 wuxuu awood u siinayaa inay maareyso isticmaaleyaal badan oo isku mid ah, hubinta xawliyada xinjirowga ah iyada oo aan waxyeello loo geysan waxqabadka. Nashqadani waxay u ogolaataa Cerebras in ay dhinac u dhigto ganacsiyada sida caadiga ah dhibaya nidaamyada ku salaysan GPU, oo bixiya waxqabadka ugu fiican ee heerka shaqada ee AI.

Is dhexgalka aan kala go 'lahayn iyo Soo-saare-saaxiibtinimo API

Cerebras Inference waxaa loo qaabeeyey iyadoo maskaxda lagu hayo horumariyeyaal. Waxay ka kooban tahay API oo si buuxda ula jaan qaadaya OpenAI Chat Completions API, taasoo u oggolaanaysa guuritaan fudud oo leh isbeddello kood ah. Habkan-saaxiibtinimo ee horumariyaha ayaa hubinaya in isku-darka Cerebras Inference ee socodka shaqada ee jira ay tahay sida ugu fudud ee suurtogalka ah, taas oo awood u siinaysa in si degdeg ah loo diro codsiyada AI ee waxqabadka sare leh.

Nidaamyada Cerebras: Wadista Hal-abuurnimada Warshadaha Guud ahaan

Nidaamyada Cerebras kaliya maaha hogaamiye xisaabinta AI laakiin sidoo kale waa ciyaaryahan muhiim ah oo ka kala socda warshadaha kala duwan, oo ay ku jiraan daryeelka caafimaadka, tamarta, dawladda, xisaabinta sayniska, iyo adeegyada maaliyadeed. Xalalka shirkadu waxay ahaayeen qalab wadista horumarka ee machadyada sida Shaybaadhka Qaranka, Aleph Alpha, The Mayo Clinic, iyo GlaxoSmithKline.

Iyadoo la siinayo xawaare, miisaanayn, iyo saxsanaan aan isku mid ahayn, Cerebras waxay awood u siinaysaa ururada qaybahan inay wax ka qabtaan qaar ka mid ah dhibaatooyinka ugu adag ee AI iyo wixii ka dambeeya. Haddi ay tahay dardargelinta helitaanka daroogada ee daryeelka caafimaadka ama kor u qaadista awoodaha xisaabinta ee cilmi-baarista sayniska, Cerebras ayaa safka hore kaga jirta hal-abuurnimada wadista.

Gabagabo: Waa cusub oo loogu talagalay Inference AI

Nidaamyada Cerebras ayaa dejinaya jaangooyo cusub oo ku saabsan dhexgalka AI iyadoo la bilaabayo Inference Cerebras. Iyada oo la siinayo 20 jeer xawaaraha nidaamyada dhaqameed ee GPU-ga ku saleysan qayb yar oo ka mid ah qiimaha, Cerebras ma aha oo kaliya ka dhigista AI mid la heli karo laakiin sidoo kale waxay u xaaraysaa jidka jiilka xiga ee codsiyada AI. Iyada oo tignoolajiyadeeda casriga ah, iskaashiga istiraatiijiyadeed, iyo ka go'naanta hal-abuurka, Cerebras waxay diyaar u tahay inay u horseeddo warshadaha AI xilli cusub oo waxqabad iyo miisaan aan hore loo arag.

Macluumaad dheeraad ah oo ku saabsan Nidaamyada Cerebras iyo si aad isugu daydo Inference Cerebras, booqo www.cerebras.ai.