Uber's Fiber është një kornizë e re trajnimi e modelit të AI të shpërndarë

Sipas VentureBeat, kanë postuar së fundmi studiuesit e AI në Uber një letër për Arxiv duke përshkruar një platformë të re që synon të ndihmojë në krijimin e modeleve të shpërndara të AI. Platforma quhet Fibër, dhe mund të përdoret për të drejtuar si detyrat e të mësuarit përforcues ashtu edhe mësimin e bazuar në popullatë. Fibra është projektuar për t'i bërë llogaritjet paralele në shkallë të gjerë më të aksesueshme për jo-ekspertët, duke i lejuar ata të përfitojnë nga fuqia e algoritmeve dhe modeleve të shpërndara të AI.

Fiber është bërë kohët e fundit me burim të hapur në GitHub dhe është i pajtueshëm me Python 3.6 ose më lart, me Kubernetes që funksionon në një sistem Linux dhe funksionon në një mjedis cloud. Sipas ekipit të studiuesve, platforma është e aftë të shkallëzojë lehtësisht deri në qindra ose mijëra makina individuale.

Ekipi i studiuesve nga Uber shpjegon se shumë nga përparimet më të fundit dhe të rëndësishme në inteligjencën artificiale janë nxitur nga modele më të mëdha dhe më shumë algoritme që janë trajnuar duke përdorur teknika të shpërndara trajnimi. Megjithatë, krijimi i modeleve të bazuara në popullatë dhe modeleve të përforcimit mbetet një detyrë e vështirë për skemat e shpërndara të trajnimit, pasi ato shpesh kanë probleme me efikasitetin dhe fleksibilitetin. Fibra e bën sistemin e shpërndarë më të besueshëm dhe fleksibël duke kombinuar softuerin e menaxhimit të grupimeve me shkallëzimin dinamik dhe duke i lejuar përdoruesit të lëvizin punët e tyre nga një makinë në një numër të madh makinerish pa probleme.

Fibra përbëhet nga tre komponentë të ndryshëm: një API, një backend dhe një shtresë grupi. Shtresa API u mundëson përdoruesve të krijojnë gjëra të tilla si radhët, menaxherët dhe proceset. Shtresa mbështetëse e Fiber lejon përdoruesin të krijojë dhe të përfundojë punë që menaxhohen nga grupe të ndryshme, dhe shtresa e grupit menaxhon vetë grupimet individuale së bashku me burimet e tyre, të cilat në masë të madhe janë numri i artikujve që Fiber duhet të mbajë skeda.

Fibra mundëson që punët të vendosen në radhë dhe të ekzekutohen nga distanca në një makinë lokale ose shumë makina të ndryshme, duke përdorur konceptin e proceseve të mbështetura nga puna. Fiber përdor gjithashtu kontejnerë për të siguruar që gjëra të tilla si të dhënat hyrëse dhe paketat e varura janë të pavarura. Korniza e Fiber madje përfshin trajtimin e integruar të gabimeve në mënyrë që nëse një punonjës rrëzohet, ai mund të ringjallet shpejt. FIber është në gjendje t'i bëjë të gjitha këto ndërsa ndërvepron me menaxherët e grupeve, duke i lënë aplikacionet Fiber të funksionojnë sikur të ishin aplikacione normale që funksionojnë në një grup të caktuar kompjuteri.

Rezultatet eksperimentale treguan se mesatarisht koha e përgjigjes së Fiber-it ishte disa milisekonda dhe se ajo gjithashtu rritej më mirë se teknikat bazë të AI kur ndërtoheshin me 2,048 bërthama/punëtorë procesor. Kohëzgjatja e nevojshme për të përfunduar punët u zvogëlua gradualisht me rritjen e numrit të caktuar të punëtorëve. IPyParallel përfundoi 50 përsëritje trajnimi në afërsisht 1400 sekonda, ndërsa Fiber ishte në gjendje të përfundonte të njëjtat 50 përsëritje trajnimi në afërsisht 50 sekonda me 512 punëtorë në dispozicion.

Bashkautorët e letrës Fiber shpjegoj se Fiber është në gjendje të arrijë qëllime të shumta si shkallëzimi dinamik i algoritmeve dhe përdorimi i vëllimeve të mëdha të fuqisë llogaritëse:

“[Puna jonë tregon] se Fiber arrin shumë qëllime, duke përfshirë shfrytëzimin me efikasitet të një sasie të madhe të pajisjeve kompjuterike heterogjene, shkallëzimin dinamik të algoritmeve për të përmirësuar efikasitetin e përdorimit të burimeve, reduktimin e barrës inxhinierike të nevojshme për të bërë [të mësuarit përforcues] dhe algoritmet e bazuara në popullatë të funksionojnë në grupimet kompjuterike dhe përshtatja e shpejtë me mjedise të ndryshme kompjuterike për të përmirësuar efikasitetin e kërkimit. Ne presim që do të mundësojë më tej përparim në zgjidhjen e problemeve të vështira [të mësuarit përforcues] me algoritmet [të mësuarit përforcues] dhe metodat e bazuara në popullatë duke e bërë më të lehtë zhvillimin e këtyre metodave dhe trajnimin e tyre në shkallët e nevojshme për t'i parë me të vërtetë shkëlqimin e tyre.