Uber's Fiber Nyaéta Kerangka Pelatihan Model AI Distribusi Anyar

Numutkeun VentureBeat, peneliti AI di Uber geus anyar dipasang kertas ka Arxiv outlining platform anyar dimaksudkeun pikeun mantuan dina kreasi model AI disebarkeun. Platform disebutna serat, sarta bisa dipaké pikeun ngajalankeun duanana tugas learning tulangan jeung learning dumasar populasi. Serat dirancang pikeun ngajantenkeun komputasi paralel skala ageung langkung diaksés ku non-ahli, ngantepkeun aranjeunna ngamangpaatkeun kakuatan algoritma sareng modél AI anu disebarkeun.

Serat nembe parantos didamel open-source dina GitHub, sareng éta cocog sareng Python 3.6 atanapi langkung luhur, sareng Kubernetes dijalankeun dina sistem Linux sareng dijalankeun dina lingkungan awan. Numutkeun tim peneliti, platform éta sanggup gampang skala nepi ka ratusan atawa rébuan mesin individu.

Tim peneliti ti Uber ngécéskeun yén seueur kamajuan panganyarna sareng relevan dina intelijen buatan parantos didorong ku modél anu langkung ageung sareng langkung seueur algoritma anu dilatih ngagunakeun téknik pelatihan anu disebarkeun. Sanajan kitu, nyieun model basis populasi jeung model tulangan tetep tugas hésé pikeun skéma latihan disebarkeun, sabab remen boga masalah jeung efisiensi sarta kalenturan. Serat ngajadikeun sistem anu disebarkeun langkung dipercaya sareng fleksibel ku ngagabungkeun parangkat lunak manajemén klaster sareng skala dinamis sareng ngantepkeun pangguna mindahkeun padamelan tina hiji mesin ka sajumlah ageung mesin kalayan lancar.

Serat diwangun ku tilu komponén anu béda: API, backend, sareng lapisan klaster. Lapisan API ngamungkinkeun pamaké pikeun nyieun hal kawas antrian, manajer, jeung prosés. Lapisan backend of Serat ngamungkinkeun pamaké nyieun sarta nungtungan jobs nu keur dikelola ku klaster béda, sarta lapisan klaster ngatur klaster individu sorangan babarengan jeung sumberdaya maranéhanana, nu greatly jumlah item nu Serat kudu tetep tab on.

Serat ngamungkinkeun padamelan tiasa diantri sareng ngajalankeun jarak jauh dina hiji mesin lokal atanapi seueur mesin anu béda-béda, ngagunakeun konsép prosés anu didukung padamelan. Serat ogé ngagunakeun wadah pikeun mastikeun hal-hal sapertos data input sareng bungkusan gumantungna mandiri. Kerangka Serat malah kaasup penanganan kasalahan anu diwangun ku kituna lamun pagawe nabrak bisa gancang revived. FIber tiasa ngalakukeun sadayana ieu nalika berinteraksi sareng manajer klaster, ngantepkeun aplikasi Fiber ngajalankeun saolah-olah aplikasi normal anu dijalankeun dina klaster komputer anu dipasihkeun.

Hasil ékspérimén nunjukkeun yén rata-rata waktos réspon Fiber sababaraha milidetik sareng éta ogé ningkat langkung saé tibatan téknik AI dasar nalika diwangun ku 2,048 inti prosesor/pagawe. Panjang waktos anu diperyogikeun pikeun ngarengsekeun padamelan ngirangan laun-laun nalika jumlah karyawan naék. IPyParallel ngarengsekeun 50 iterasi palatihan kirang langkung 1400 detik, sedengkeun Serat tiasa ngarengsekeun 50 iterasi latihan anu sami dina kirang langkung 50 detik sareng 512 padamel sayogi.

The coauthors tina makalah Serat netelakeun yén Serat tiasa ngahontal sababaraha tujuan sapertos algoritma skala dinamis sareng ngagunakeun kakuatan komputasi anu ageung:

"[Karya kami nunjukkeun] yén Serat ngahontal seueur tujuan, kalebet sacara éfisién ngamangpaatkeun sajumlah ageung hardware komputasi hétérogén, sacara dinamis skala algoritma pikeun ningkatkeun efisiensi pamakean sumber daya, ngirangan beban rékayasa anu dipikabutuh pikeun ngajantenkeun [belajar penguatan] sareng algoritma dumasar populasi tiasa dianggo. klaster komputer, sarta gancang adaptasi jeung lingkungan komputasi béda pikeun ngaronjatkeun efisiensi panalungtikan. Kami ngarepkeun éta bakal langkung ngaktifkeun kamajuan dina ngarengsekeun masalah [belajar penguatan] sareng algoritma [belajar penguatan] sareng metode dumasar populasi ku cara ngagampangkeun ngembangkeun metode ieu sareng ngalatih aranjeunna dina skala anu dipikabutuh pikeun leres-leres ningali aranjeunna caang.