Ludovic Larzul, Pangadeg sarta CEO Mipsology - Wawancara Series

Ludovic Larzul. nyaéta pangadeg sareng CEO Mipsologi, hiji ngamimitian groundbreaking fokus kana akselerasi state-of-nu-seni pikeun inferensi learning jero. Aranjeunna parantos nyiptakeun téknologi pikeun ngagancangkeun komputasi jaringan saraf inferensi sareng nyumputkeun akselerator hardware pikeun pangguna AI. Mipsology's Zebra mangrupikeun akselerator komérsial munggaran anu ngarangkum téknologi sapertos kitu pikeun nyayogikeun kinerja anu luhur sareng gampang dianggo.

Naon mimitina anjeun resep AI sareng microchips?

Kuring digawé di desain tipe husus tina super-komputer salila kira 20 taun jeung parusahaan kuring saméméhna Hawa, saméméh éta kaala ku Synopsys di 2012. Éta komputer, disebut oge emulators ASIC, dipaké ku loba pausahaan ngarancang ASICs sakuliah dunya. . Kuring rada ngarasakeun pajeulitna sarta diversity tina karya éta. Pikeun suksés, anjeun kedah (a) ngartos éléktronika, parangkat lunak, algoritma kompleks, kumaha jalma ngarancang chip sareng kumaha carana mastikeun aranjeunna tiasa dianggo kalayan saé, arsitéktur chip, kakuatan, sareng téknologi anu langkung jero, (b) leres ngaramalkeun kabutuhan palanggan a sababaraha taun sateuacanna, (c) innovate terus, jeung (d) salaku startup a, ngéléhkeun kompetisi kalawan sumberdaya jauh leuwih saeutik. Saatos 20 taun sukses, kuring milarian tantangan anyar. Ieu mangrupikeun waktos nalika AI parantos ngamimitian deui kana sorotan. AlexNet geus nyieun kabisat ka hareup kana pamahaman gambar (jeung pilari deui, éta kénéh dina infancy na). Pangajaran jero éta énggal tapi ngajangjikeun (Saha anu émut nalika nyandak sababaraha dinten kanggo kéngingkeun hasil dina jaringan anu sederhana?). Kuring manggihan yén rada "senang", tapi dipikawanoh aya loba tantangan.

Naon inspirasi balik peluncuran Mipsology?

Kuring henteu terang upami kuring bakal nganggo kecap "inspirasi". Éta mimitina langkung sapertos: "Naha urang tiasa ngalakukeun hal anu béda sareng langkung saé?" Dimimitian ku asumsi naon anu dipikahoyong sareng dilakukeun ku jalma AI, sareng sababaraha taun ka hareup diséépkeun milarian solusi anu langkung saé dumasar kana éta. Kuring nebak leuwih ti inspirasi, abdi bakal disebutkeun yen jalma anu kuring gawé bareng resep jadi pangalusna dina naon maranéhna nyieun, dina dangong positif kompetisi. Éta ngajantenkeun tim anu kuat anu tiasa ngabéréskeun masalah anu sanés tiasa direngsekeun sacara cekap.

Mipsology ngagunakeun papan FPGA tinimbang GPUs. Dupi anjeun ngajelaskeun naon FPGA?

FPGA mangrupikeun komponén éléktronik anu tiasa diprogram dina tingkat hardware. Anjeun tiasa ngabayangkeun éta sakumpulan Legos - sababaraha juta di antarana. Unggal blok saeutik ngalakukeun operasi basajan kawas ngajaga nilai, atawa operasi rada leuwih kompleks kawas tambahan. Ku ngagolongkeun sakabeh blok ieu, kasebut nyaéta dimungkinkeun pikeun nyieun kabiasaan husus sanggeus chip dijieun. Ieu sabalikna ti GPUS sarta ampir kabéh chip séjén, nu dirancang pikeun fungsi husus sarta teu bisa dirobah afterwards.

Sababaraha, kawas CPUS na GPUS, bisa diprogram, tapi aranjeunna henteu sajajar sakumaha FPGAs. Iraha waé, FPGA ngalaksanakeun sababaraha juta operasi saderhana. Sareng ieu tiasa kajantenan genep dugi ka tujuh ratus juta kali sadetik. Kusabab aranjeunna tiasa diprogram, naon anu aranjeunna lakukeun tiasa dirobih iraha waé pikeun adaptasi sareng masalah anu béda-béda, ku kituna kakuatan komputasi anu luar biasa tiasa efektif. FPGA geus ampir di mana-mana, kaasup base station telepon sélulér, jaringan, satelit, mobil, jeung sajabana.

Naon anu ngajadikeun papan FPGA ieu mangrupikeun solusi anu langkung saé pikeun GPU anu langkung populer?

FPGAs unggul dina sababaraha aspék. Hayu urang difokuskeun sababaraha anu penting.

GPUs dirancang pikeun rendering gambar, utamana pikeun kaulinan. Aranjeunna parantos kapanggih cocog sareng sababaraha komputasi dina AI kusabab kasaruaan operasi. Tapi aranjeunna tetep utamana dedicated ka kaulinan, nu hartina maranéhna datangna kalawan konstrain nu teu cocog ogé kalawan jaringan neural.

Programna ogé dugi ka petunjuk anu diputuskeun dua atanapi tilu taun sateuacan sayogi. Masalahna nyaéta jaringan saraf maju langkung gancang tibatan desain ASIC, sareng GPU mangrupikeun ASIC. Janten, éta sapertos nyobian ngaduga masa depan: henteu saderhana pikeun leres. Anjeun tiasa ningali tren, tapi detil naon anu leres-leres mangaruhan hasil, sapertos kinerja. Sabalikna, kusabab FPGA tiasa diprogram dina tingkat hardware, urang tiasa langkung gampang ngiringan kamajuan AI. Ieu ngamungkinkeun urang pikeun nganteurkeun produk anu langkung saé kalayan kinerja anu langkung luhur, sareng nyumponan kabutuhan palanggan tanpa kedah ngantosan generasi silikon salajengna.

Saterusna, GPUs dirancang pikeun jadi produk konsumen. Jangka umurna ngahaja pondok, sabab perusahaan anu ngarancang GPU hoyong ngajual anu énggal sababaraha taun ti harita ka tukang game. Ieu henteu tiasa dianggo saé dina sistem éléktronik anu kedah dipercaya salami mangtaun-taun. FPGAs dirancang pikeun jadi mantap sarta dipaké 24/7 salila sababaraha taun.

Kaunggulan FPGA anu terkenal sanésna nyaéta:

• Aya seueur pilihan anu tiasa pas dina daérah khusus sapertos jaringan atanapi pamrosésan pidéo
• Éta tiasa dianggo ogé di pusat data sapertos di tepi atanapi di embedded
• Aranjeunna henteu ngabutuhkeun penyejukan khusus (seueur penyejukan cai sapertos GPU ageung)

Hiji kalemahan utama nyaéta FPGA sesah diprogram. Merlukeun pangaweruh husus. Sanaos perusahaan anu ngajual FPGA parantos narékahan pikeun ngajagi jurang pajeulitna, éta tetep henteu saderhana sapertos CPU. Kanyataanna, GPUs henteu saderhana ogé. Tapi parangkat lunak anu nyumputkeun programna pikeun AI ngajantenkeun pangaweruh éta henteu diperyogikeun. Éta mangrupikeun masalah anu Mipsology anu munggaran direngsekeun: ngaleungitkeun kabutuhan komputasi AI pikeun program atanapi gaduh pangaweruh ngeunaan FPGA.

Naha aya watesan ayeuna pikeun papan FPGA?

Sababaraha papan FPGA sapertos sababaraha papan GPU. Éta tiasa dipasang kana slot PCIe komputer. Hiji kaunggulan anu kasohor, di luhur umur hirup anu ku kuring disebatkeun sateuacana, nyaéta konsumsi kakuatan biasana langkung handap tina GPUs. Lain anu kurang dipikanyaho nyaéta aya pilihan papan FPGA anu langkung ageung tibatan papan GPU. Aya langkung seueur FPGA pikeun langkung seueur pasar, anu nyababkeun langkung seueur papan anu pas dina sababaraha daérah pasar. Ieu ngan saukur ngandung harti yén aya langkung seueur kamungkinan pikeun ngitung jaringan neural dimana-mana kalayan biaya anu langkung handap. GPUs leuwih kawates; aranjeunna pas dina puseur data, tapi teu pira sejenna.

Mipsology's Zebra mangrupikeun akselerator komérsial munggaran anu ngarangkum papan FPGA pikeun nyayogikeun kinerja anu luhur sareng gampang dianggo. Dupi anjeun ngajelaskeun naon Zebra?

Pikeun maranéhanana anu wawuh jeung AI na GPUs, katerangan panggampangna nyaeta Zebra nyaeta FPGA naon Cuda / CuDNN nyaeta GPU. Éta tumpukan parangkat lunak anu lengkep nyumputkeun FPGA di tukangeun kerangka biasa sapertos PyTorch atanapi TensorFlow. Kami utamina nargétkeun inferensi pikeun gambar sareng pidéo. Zebra dimimitian ku jaringan neural nu ieu dilatih ilaharna di floating point, sarta tanpa usaha pamaké manual atawa alat proprietary, ngajadikeun eta dijalankeun dina sagala kartu basis FPGA. Éta saderhana sapertos: pasang papan FPGA, muatkeun supir, sumber lingkungan Zebra, sareng ngajalankeun aplikasi inferensi anu sami sareng anu dijalankeun dina CPU atanapi GPU. Kami gaduh kuantisasi sorangan anu nahan akurasi, sareng pagelaran luar biasa. Teu aya alat proprietary anu kedah diajar ku pangguna, sareng henteu peryogi sababaraha jam waktos rékayasa pikeun kéngingkeun throughput anu luhur atanapi latency rendah. Ieu ngandung harti ngan saukur transisi gancang, anu ogé ngirangan biaya sareng waktos ka pasar.

Naon rupa-rupa aplikasi anu paling cocog pikeun Zebra?

Zebra mangrupikeun mesin akselerasi anu umum pisan, ku kituna tiasa ngagancangkeun komputasi pikeun aplikasi naon waé anu peryogi ngitung jaringan saraf, kalayan fokus utami kana gambar sareng pidéo sabab kabutuhan komputasi langkung ageung pikeun data sapertos kieu. Kami ngagaduhan pamundut ti pasar anu béda pisan, tapi aranjeunna sadayana sami nalika ngitung jaringan saraf. Éta sadayana biasana ngabutuhkeun klasifikasi, segmentasi, résolusi super, posisi awak, jsb.

Nalika Zebra dijalankeun dina luhureun FPGA, papan naon waé tiasa dianggo. Sababaraha gaduh throughput anu luhur sareng biasana dianggo di pusat data. Anu sanésna langkung cocog pikeun dianggo dina Edge atanapi dipasang. Visi kami nyaéta, upami FPGA tiasa pas, pangguna tiasa nganggo Zebra pikeun ngagancangkeun komputasi jaringan saraf na langsung. Sareng upami GPU atanapi CPU dianggo, Zebra tiasa ngagentosana sareng ngirangan biaya infrastruktur AI. Kaseueuran perusahaan anu urang diajak ngobrol gaduh masalah anu sami: aranjeunna tiasa nyebarkeun langkung seueur aplikasi berbasis AI, tapi biayana ngabatesan aranjeunna.

Pikeun perusahaan anu hoyong nganggo Zebra, kumaha prosésna?

Kantun wartosan kami di [email dijaga] sarta kami bakal ngamimitian anjeun.

Aya naon waé anu anjeun hoyong bagikeun ngeunaan Mipsology?

Kami pisan wanti ngeunaan eupan balik kami meunang ti komunitas AI pikeun solusi Zebra kami. Husus, kami ngawartoskeun yen ieu meureun nu akselerator pangalusna dina pasaran. Saatos ukur sababaraha bulan, urang terus nambahkeun kana ékosistem tumuwuh tina mitra kabetot kaasup Xilinx, Dell, Western Digital, Avnet, TUL na Advantech, pikeun sawatara ngaran.

Abdi resep pisan diajar ngeunaan téknologi groundbreaking ieu. Pamiarsa anu hoyong diajar langkung seueur kedah nganjang Mipsologi.