Ludovic Larzul, Mipsology – interviju sērijas dibinātājs un izpilddirektors

Ludovičs Larzuls. ir dibinātājs un izpilddirektors Mipsoloģija, revolucionārs jaunuzņēmums, kas koncentrējas uz vismodernāko paātrinājumu dziļu mācīšanās secinājumu veikšanai. Viņi ir izstrādājuši tehnoloģiju, lai paātrinātu secinājumu neironu tīklu aprēķinus un slēptu aparatūras paātrinātāju AI lietotājiem. Mipsology Zebra ir pirmais komerciālais paātrinātājs, kas iekapsulē šādu tehnoloģiju, lai nodrošinātu augstu veiktspēju un ērtu lietošanu.

Kas vispirms jūs interesēja par AI un mikroshēmām?

Apmēram 20 gadus strādāju pie noteikta veida superdatoru projektēšanas ar savu iepriekšējo uzņēmumu EVE, pirms to 2012. gadā iegādājās Synopsys. Šos datorus, ko sauc arī par ASIC emulatoriem, izmanto daudzi uzņēmumi, kas projektē ASIC visā pasaulē. . Man ļoti patika šī darba sarežģītība un daudzveidība. Lai gūtu panākumus, jums ir (a) jāsaprot elektronika, programmatūra, sarežģīti algoritmi, kā cilvēki izstrādā mikroshēmas un kā nodrošināt to pareizu darbību, mikroshēmu arhitektūra, jauda un dziļākas tehnoloģijas, (b) pareizi jāparedz klientu vajadzības dažus gadus iepriekš, (c) nepārtraukti ieviest jauninājumus un (d) kā starta uzņēmums uzvarēt konkurentus ar daudz mazākiem resursiem. Pēc 20 panākumu gadiem es meklēju jaunu izaicinājumu. Tas bija laiks, kad AI sāka atgriezties uzmanības centrā. AlexNet bija veicis lēcienu uz priekšu, lai izprastu attēlus (un, atskatoties atpakaļ, tas joprojām bija sākuma stadijā). Padziļināta mācīšanās bija pavisam jauna, bet daudzsološa (kurš gan atceras, kad rezultāta iegūšana vienkāršā tīklā prasīja vairākas dienas?). Man tas šķita diezgan “jautri”, taču sapratu, ka ir daudz izaicinājumu.

Kāda bija iedvesma Mipsology uzsākšanai?

Es nezinu, vai es lietotu vārdu "iedvesma". Sākotnēji tas bija vairāk kā: "Vai mēs varam darīt kaut ko savādāku un labāku?" Tas sākās ar pieņēmumiem par to, ko AI cilvēki vēlētos un darīt, un daži nākamie gadi tika pavadīti, meklējot arvien labākus risinājumus, pamatojoties uz to. Es domāju, ka vairāk nekā iedvesma, es teiktu, ka cilvēkiem, ar kuriem es strādāju, patīk būt labākajiem tajā, ko viņi rada, pozitīvā konkurences attieksmē. Tas veido spēcīgu komandu, kas var atrisināt problēmas, kuras citi nespēj adekvāti atrisināt.

Mipsology izmanto FPGA plates, nevis GPU. Vai varat aprakstīt, kas ir FPGA?

FPGA ir elektroniski komponenti, kurus var ieprogrammēt aparatūras līmenī. Varat to iedomāties kā Lego komplektu — dažus miljonus no tiem. Katrs mazais bloks veic vienkāršu darbību, piemēram, vērtības saglabāšanu, vai nedaudz sarežģītākas darbības, piemēram, pievienošanu. Grupējot visus šos blokus, pēc mikroshēmas izgatavošanas ir iespējams izveidot konkrētu uzvedību. Tas ir pretējs GPUS un gandrīz visām citām mikroshēmām, kas paredzētas noteiktai funkcijai un pēc tam nav maināmas.

Dažus, piemēram, CPUS un GPUS, var ieprogrammēt, taču tie nav tik paralēli kā FPGA. Jebkurā brīdī FPGA veic dažus miljonus vienkāršotu darbību. Un tas var notikt sešus līdz septiņsimt miljonus reižu sekundē. Tā kā tie ir programmējami, to darbību var jebkurā laikā mainīt, lai pielāgotos dažādām problēmām, tāpēc neparastā skaitļošanas jauda var būt efektīva. FPGA jau ir gandrīz visur, tostarp mobilo tālruņu bāzes stacijās, tīklos, satelītos, automašīnās utt. Cilvēki tos tomēr labi nepazīst, jo tie nav tik labi pamanāmi kā CPU, kāds ir jūsu klēpjdatorā.

Kas padara šīs FPGA plates par labāku risinājumu populārākajiem GPU?

FPGA ir pārākas daudzos aspektos. Koncentrēsimies tikai uz pāris svarīgiem.

GPU ir paredzēti attēlu renderēšanai, galvenokārt spēlēm. Ir konstatēts, ka tie labi sakrīt ar dažiem AI aprēķiniem darbību līdzības dēļ. Bet tie galvenokārt ir paredzēti spēlēm, kas nozīmē, ka tiem ir ierobežojumi, kas nav labi piemēroti neironu tīkliem.

To programmēšana arī aprobežojas ar instrukcijām, kas tika pieņemtas divus vai trīs gadus pirms to pieejamības. Problēma ir tā, ka neironu tīkli attīstās ātrāk nekā ASIC dizains, un GPU ir ASIC. Tātad tas ir kā mēģinājums paredzēt nākotni: nav vienkārši būt taisnībai. Jūs varat redzēt tendences, taču informācija, piemēram, veiktspēja, patiešām ietekmē rezultātus. Turpretim, tā kā FPGA ir programmējami aparatūras līmenī, mēs varam vieglāk sekot līdzi AI progresam. Tas ļauj mums nodrošināt labāku produktu ar augstāku veiktspēju un apmierināt klientu vajadzības, negaidot nākamo silīcija paaudzi.

Turklāt GPU ir paredzēti patēriņa precēm. To kalpošanas laiks ir apzināti īss, jo uzņēmumi, kas projektē GPU, vēlas dažus gadus vēlāk pārdot jaunus spēlētājiem. Tas nedarbojas labi elektroniskajās sistēmās, kurām ir jābūt uzticamām daudzus gadus. FPGA ir izstrādāti tā, lai tie būtu izturīgi un lietoti 24/7 daudzus gadus.

Citas labi zināmas FPGA priekšrocības ir:

• Ir daudzas iespējas, kas var būt piemērotas noteiktām jomām, piemēram, tīkla izveidei vai video apstrādei
• Tie darbojas tikpat labi gan datu centros, gan malās vai iegultos
• Tiem nav nepieciešama īpaša dzesēšana (daudz mazāk ūdens dzesēšanas, piemēram, lieliem GPU)

Viens būtisks trūkums ir tas, ka FPGA ir grūti programmēt. Tam nepieciešamas specifiskas zināšanas. Lai gan uzņēmumi, kas pārdod FPGA, ir pielikuši lielas pūles, lai pārvarētu sarežģītības plaisu, tas joprojām nav tik vienkārši kā centrālais procesors. Patiesībā arī GPU nav vienkārši. Taču programmatūra, kas slēpj viņu programmēšanu AI, padara šīs zināšanas nevajadzīgas. Šī ir problēma, ko Mipsology ir pirmā, kas atrisina: AI skaitļošanas nepieciešamība, lai programmētu vai būtu zināšanas par FPGA.

Vai ir kādi pašreizējie ierobežojumi FPGA platēm?

Dažas FPGA plates ir kā dažas GPU plates. Tos var iespraust datora PCIe slotos. Viena labi zināma priekšrocība papildus iepriekš minētajam kalpošanas laikam ir tā, ka enerģijas patēriņš parasti ir mazāks nekā GPU. Vēl viens mazāk zināms ir tas, ka ir lielāka FPGA plates izvēle nekā GPU plates. Vairākiem tirgiem ir vairāk FPGA, kā rezultātā tiek iegūts vairāk dēļu, kas atbilst dažādām tirgu jomām. Tas vienkārši nozīmē, ka visur ir vairāk iespēju aprēķināt neironu tīklus par zemākām izmaksām. GPU ir ierobežotāki; tie iederas datu centros, bet ne daudz kas cits.

Mipsology Zebra ir pirmais komerciālais paātrinātājs, kas iekapsulē FPGA plates, lai nodrošinātu augstu veiktspēju un ērtu lietošanu. Vai varat aprakstīt, kas ir Zebra?

Tiem, kas ir pazīstami ar AI un GPU, vienkāršākais apraksts ir tāds, ka Zebra FPGA ir tas pats, kas Cuda/CuDNN ir GPU. Tā ir programmatūras kaudze, kas pilnībā slēpj FPGA aiz parastajiem ietvariem, piemēram, PyTorch vai TensorFlow. Mēs galvenokārt cenšamies izdarīt secinājumus par attēliem un videoklipiem. Zebra sākas ar neironu tīklu, kas parasti tika apmācīts peldošā komata veidā, un bez manuālas lietotāja piepūles vai patentēta rīka padara to darbināmu jebkurā uz FPGA balstītā kartē. Tas ir tik vienkārši: pievienojiet FPGA plati, ielādējiet draiveri, iegūstiet Zebra vidi un palaidiet to pašu secinājumu lietojumprogrammu, kas darbojas CPU vai GPU. Mums ir sava kvantifikācija, kas saglabā precizitāti, un veiktspēja ir ārpus kastes. Nav neviena patentēta rīka, kas lietotājam jāapgūst, un nav vajadzīgas stundas inženierijas laika, lai iegūtu lielu caurlaidspēju vai zemu latentumu. Tas nozīmē vienkārši ātras pārejas, kas arī samazina izmaksas un laiku, lai nonāktu tirgū.

Kādi ir dažādie lietojumu veidi, kuriem Zebra ir vislabāk izstrādāts?

Zebra ir ļoti vispārīgs paātrinājuma dzinējs, tāpēc tas var paātrināt aprēķinus jebkurai lietojumprogrammai, kurai jāaprēķina neironu tīkli, galvenokārt koncentrējoties uz attēliem un video, jo šāda veida datiem ir lielākas skaitļošanas vajadzības. Mums ir pieprasījumi no ļoti dažādiem tirgiem, taču tie visi ir līdzīgi, kad runa ir par neironu tīklu aprēķināšanu. Visiem tiem parasti ir nepieciešama klasifikācija, segmentēšana, super izšķirtspēja, ķermeņa pozicionēšana utt.

Tā kā Zebra darbojas virs FPGA, var izmantot jebkura veida plates. Dažiem ir liela caurlaidspēja, un tos parasti izmanto datu centros. Citi ir piemērotāki izmantošanai Edge vai iegulti. Mūsu vīzija ir tāda, ka, ja FPGA var ietilpt, lietotāji var izmantot Zebra, lai nekavējoties paātrinātu neironu tīkla aprēķinus. Un, ja tiek izmantoti GPU vai CPU, Zebra var tos aizstāt un samazināt AI infrastruktūras izmaksas. Lielākajai daļai uzņēmumu, ar kuriem mēs runājam, ir līdzīgas problēmas: tie varētu izvietot vairāk uz AI balstītu lietojumprogrammu, taču izmaksas tos ierobežo.

Kāds ir process uzņēmumam, kurš vēlas izmantot Zebra?

Vienkārši informējiet mūs plkst [e-pasts aizsargāts] un mēs jūs sāksim.

Vai ir vēl kaut kas, ar ko vēlaties dalīties par Mipsoloģiju?

Mēs esam ļoti iepriecināti par atsauksmēm, ko saņemam no AI kopienas par mūsu Zebra risinājumu. Konkrēti, mums saka, ka tas, iespējams, ir labākais paātrinātājs tirgū. Jau pēc dažiem mēnešiem mēs turpinām pievienoties pieaugošai ieinteresēto partneru ekosistēmai, tostarp Xilinx, Dell, Western Digital, Avnet, TUL un Advantech, lai nosauktu tikai dažus.

Man ļoti patika uzzināt par šo revolucionāro tehnoloģiju. Lasītājiem, kuri vēlas uzzināt vairāk, vajadzētu apmeklēt Mipsoloģija.