Людовик Ларзул, Mipsology-ийн үүсгэн байгуулагч, гүйцэтгэх захирал – Ярилцлагын цуврал

Людовик Ларзул. үүсгэн байгуулагч, гүйцэтгэх захирал юм Мипсологи, гүн гүнзгий суралцах дүгнэлт гаргах хамгийн сүүлийн үеийн хурдатгал дээр төвлөрсөн шинэ эхлэл. Тэд дүгнэлтийн мэдрэлийн сүлжээний тооцооллыг хурдасгах, техник хангамжийн хурдасгуурыг AI хэрэглэгчдэд далдлах технологийг зохион бүтээжээ. Mipsology-ийн Zebra бол өндөр гүйцэтгэл, ашиглахад хялбар болгох үүднээс ийм технологийг багтаасан анхны арилжааны хурдасгуур юм.

Таныг хиймэл оюун ухаан болон микрочипийг анх юу сонирхсон бэ?

Би 20 онд Synopsys компанийг худалдаж авахаас өмнө өмнөх EVE компанидаа тодорхой төрлийн супер компьютерийн загвар зохион бүтээх чиглэлээр 2012 орчим жил ажилласан. Эдгээр компьютеруудыг ASIC эмулятор гэж нэрлэдэг бөгөөд дэлхий даяар ASIC загвар зохион бүтээдэг олон компаниуд ашигладаг. . Энэ ажлын нарийн төвөгтэй байдал, олон талт байдал нь надад маш их таалагдсан. Амжилтанд хүрэхийн тулд та (a) электрон төхөөрөмж, программ хангамж, нарийн төвөгтэй алгоритмууд, хүмүүс чипийг хэрхэн зохион бүтээж, хэрхэн сайн ажиллаж байгаа эсэхийг шалгах, чипийн бүтэц, хүч чадал, илүү гүнзгий технологийг ойлгох, (б) хэрэглэгчдийн хэрэгцээг зөв таамаглах, хэдэн жилийн өмнө, (в) тасралтгүй шинийг санаачлах, (г) гарааны бизнесийн хувьд хамаагүй бага нөөцөөр өрсөлдөөнийг ялах. 20 жилийн амжилтын дараа би шинэ сорилт хайж байсан. Энэ бол хиймэл оюун ухаан дахин олны анхаарлын төвд орж эхэлсэн үе юм. AlexNet нь дүрсийг ойлгох тал дээр үсрэлт хийсэн (мөн эргэн харахад энэ нь анхан шатандаа байсан). Гүнзгий суралцах нь цоо шинэ боловч ирээдүйтэй байсан (Энгийн сүлжээнд үр дүнд хүрэхийн тулд хэдэн өдөр зарцуулагдсаныг хэн санах вэ?). Би үүнийг нэлээд "хөгжилтэй" гэж үзсэн ч олон сорилт байгааг ойлгосон.

Mipsology-г гаргахад юу нөлөөлсөн бэ?

Би "урам зориг" гэдэг үгийг ашиглах эсэхээ мэдэхгүй байна. Энэ нь эхэндээ: "Бид өөр, илүү сайн зүйл хийж чадах уу?" Энэ нь хиймэл оюун ухаантай хүмүүс юу хийхийг хүсч, юу хийхийг таамаглаж байснаас эхэлсэн бөгөөд дараагийн хэдэн жил үүн дээр үндэслэн илүү сайн шийдлүүдийг олоход зарцуулсан. Би урам зориг гэхээсээ илүүтэй хамтран ажилладаг хүмүүс өрсөлдөөний эерэг хандлагаар хийж бүтээсэн зүйлдээ хамгийн шилдэг нь байх дуртай гэж хэлмээр байна. Энэ нь бусад хүмүүсийн шийдэж чадахгүй байгаа асуудлыг шийдэж чадах хүчирхэг багийг бүрдүүлдэг.

Mipsology нь GPU-ийн оронд FPGA хавтанг ашигладаг. Та FPGA гэж юу болохыг тайлбарлаж чадах уу?

FPGA нь техник хангамжийн түвшинд програмчлах боломжтой электрон бүрэлдэхүүн хэсэг юм. Та үүнийг хэдэн сая Легогийн багц гэж төсөөлж болно. Жижиг блок бүр нь утгыг хадгалах гэх мэт энгийн үйлдэл эсвэл нэмэх гэх мэт арай илүү төвөгтэй үйлдлүүдийг гүйцэтгэдэг. Эдгээр бүх блокуудыг бүлэглэснээр чипийг үйлдвэрлэсний дараа тодорхой зан төлөвийг бий болгох боломжтой. Энэ нь тодорхой функцэд зориулагдсан бөгөөд дараа нь өөрчлөх боломжгүй GPUS болон бусад бараг бүх чипүүдийн эсрэг зүйл юм.

CPUS болон GPUS гэх мэт заримыг нь програмчилж болох боловч FPGA шиг параллель биш юм. Ямар ч үед FPGA хэдхэн сая энгийн үйлдлийг гүйцэтгэдэг. Энэ нь секундэд зургаагаас долоон зуун сая удаа тохиолдож болно. Тэдгээр нь програмчлагдах боломжтой тул янз бүрийн асуудалд дасан зохицохын тулд тэдний хийж байгаа зүйлийг хүссэн үедээ өөрчилж болох тул компьютерийн ер бусын хүч нь үр дүнтэй байх болно. FPGA нь гар утас, сүлжээ, хиймэл дагуул, машин гэх мэт үндсэн станцууд гэх мэт бараг хаа сайгүй байдаг. Гэхдээ тэдгээр нь таны зөөврийн компьютер шиг CPU шиг харагдахгүй тул хүмүүс сайн мэддэггүй.

Эдгээр FPGA хавтангууд юу нь илүү алдартай GPU-ээс илүү сайн шийдэл болгодог вэ?

FPGA нь олон талаараа давуу юм. Зөвхөн хэд хэдэн чухал зүйл дээр анхаарлаа хандуулцгаая.

GPU нь ихэвчлэн тоглоомд зориулсан дүрсийг үзүүлэхэд зориулагдсан. Үйлдлүүд нь ижил төстэй байдаг тул хиймэл оюун ухааны зарим тооцоололтой сайн тохирдог нь тогтоогдсон. Гэхдээ тэд үндсэндээ тоглоомд зориулагдсан хэвээр байгаа бөгөөд энэ нь мэдрэлийн сүлжээнд тохирохгүй хязгаарлалттай ирдэг гэсэн үг юм.

Тэдний программчлал нь бэлэн болохоос хоёр, гурван жилийн өмнө шийдсэн зааварчилгаагаар хязгаарлагддаг. Асуудал нь мэдрэлийн сүлжээ нь ASIC-ийн дизайнаас илүү хурдан хөгжиж байгаа бөгөөд GPU нь ASIC юм. Тиймээс, энэ нь ирээдүйг урьдчилан таамаглахыг оролдохтой адил юм: зөв байх нь энгийн зүйл биш юм. Та чиг хандлагыг харж болно, гэхдээ гүйцэтгэл гэх мэт үр дүнд үнэхээр нөлөөлдөг зүйл бол дэлгэрэнгүй мэдээлэл юм. Үүний эсрэгээр, FPGA нь техник хангамжийн түвшинд програмчлагдах боломжтой тул бид хиймэл оюун ухааны дэвшлийг илүү хялбар дагаж мөрдөх боломжтой. Энэ нь бидэнд илүү өндөр гүйцэтгэлтэй илүү сайн бүтээгдэхүүн хүргэх, дараагийн цахиурын үеийг хүлээхгүйгээр хэрэглэгчийн хэрэгцээг хангах боломжийг олгодог.

Цаашилбал, GPU нь өргөн хэрэглээний бүтээгдэхүүн байхаар бүтээгдсэн. GPU зохион бүтээгч компаниуд хэдэн жилийн дараа тоглоомчдод шинийг зарахыг хүсдэг тул тэдний ашиглалтын хугацаа зориудаар богино байдаг. Энэ нь олон жилийн турш найдвартай байх шаардлагатай цахим системд сайн ажилладаггүй. FPGA нь бат бөх байхаар бүтээгдсэн бөгөөд олон жилийн турш 24/7 ашиглагддаг.

FPGA-ийн бусад сайн мэддэг давуу талууд нь:

• Сүлжээ, видео боловсруулах гэх мэт тодорхой хэсэгт багтах олон сонголтууд байдаг
• Тэд захын эсвэл суулгагдсан мэдээллийн төвүүдэд сайн ажилладаг
• Тэд тусгай хөргөлт шаарддаггүй (том GPU гэх мэт усны хөргөлт багатай)

Нэг гол дутагдал нь FPGA программчлахад хэцүү байдаг. Энэ нь тодорхой мэдлэг шаарддаг. Хэдийгээр FPGA зардаг компаниуд нарийн төвөгтэй байдлын зөрүүг арилгахын тулд маш их хүчин чармайлт гаргасан ч энэ нь CPU шиг энгийн зүйл биш хэвээр байна. Үнэн хэрэгтээ GPU нь энгийн зүйл биш юм. Гэвч хиймэл оюун ухаанд зориулсан програмчлалаа нуудаг программ хангамж нь энэ мэдлэгийг шаардлагагүй болгодог. Энэ бол Mipsology-ийн хамгийн түрүүнд шийдэх асуудал юм: программчлахын тулд AI тооцоолох хэрэгцээг арилгах эсвэл FPGA-ийн талаар ямар нэгэн мэдлэгтэй байх явдал юм.

Одоогийн байдлаар FPGA самбарт ямар нэгэн хязгаарлалт байгаа юу?

Зарим FPGA хавтангууд нь зарим GPU хавтангуудтай адил байдаг. Тэдгээрийг компьютерийн PCIe үүрэнд холбож болно. Миний өмнө дурдсан ашиглалтын хугацаанаас гадна сайн мэддэг давуу тал бол эрчим хүчний хэрэглээ нь ихэвчлэн GPU-ээс бага байдаг. Өөр нэг бага мэддэг зүйл бол GPU хавтангаас илүү олон тооны FPGA хавтангууд байдаг. Илүү олон зах зээлд илүү олон FPGA байдаг бөгөөд энэ нь зах зээлийн өөр өөр хэсэгт тохирох илүү олон самбарт хүргэдэг. Энэ нь зүгээр л хаана ч хамаагүй бага зардлаар мэдрэлийн сүлжээг тооцоолох илүү олон боломжууд гэсэн үг юм. GPU нь илүү хязгаарлагдмал; тэдгээр нь мэдээллийн төвүүдэд багтах боловч өөр зүйл биш юм.

Mipsology-ийн Zebra нь өндөр гүйцэтгэл, ашиглахад хялбар болгох үүднээс FPGA хавтангуудыг багтаасан анхны арилжааны хурдасгуур юм. Та Зебра гэж юу болохыг тайлбарлаж чадах уу?

AI болон GPU-г мэддэг хүмүүсийн хувьд хамгийн хялбар тайлбар бол Zebra нь FPGA-д Cuda/CuDNN нь GPU-д зориулагдсан юм. Энэ нь PyTorch эсвэл TensorFlow зэрэг ердийн фреймворкуудын ард FPGA-г бүрэн нуудаг програм хангамжийн стек юм. Бид голчлон зураг, видеоны дүгнэлтийг онилдог. Zebra нь ихэвчлэн хөвөгч цэг дээр сургагдсан мэдрэлийн сүлжээнээс эхэлдэг бөгөөд ямар ч гарын авлага эсвэл хувийн хэрэгсэлгүйгээр үүнийг ямар ч FPGA-д суурилсан карт дээр ажиллуулдаг. Энэ нь маш энгийн: FPGA самбарыг залгаж, драйвераа ачаалж, Zebra орчныг эх сурвалж болгож, CPU эсвэл GPU дээр ажилладагтай ижил дүгнэлт хийх програмыг ажиллуул. Бид нарийвчлалыг хадгалдаг өөрийн хэмжигдэхүүнтэй бөгөөд гүйцэтгэл нь хайрцагнаас гардаггүй. Хэрэглэгчийн сурах ёстой өмчийн хэрэгсэл байхгүй бөгөөд өндөр дамжуулах чадвар эсвэл бага хоцролттой болоход инженерчлэлийн цаг хугацаа шаардагдахгүй. Энэ нь зүгээр л хурдан шилжих гэсэн үг бөгөөд энэ нь зах зээлд гарах зардал, цаг хугацааг багасгадаг.

Zebra нь ямар төрлийн программуудад хамгийн тохиромжтой вэ?

Zebra нь маш ерөнхий хурдатгалын хөдөлгүүр тул мэдрэлийн сүлжээг тооцоолох шаардлагатай аливаа програмын тооцооллыг хурдасгах боломжтой бөгөөд энэ төрлийн өгөгдөлд тооцоолох хэрэгцээ илүү их байдаг тул зураг, видеонд гол анхаарлаа хандуулдаг. Бидэнд маш өөр зах зээлээс хүсэлт ирдэг ч мэдрэлийн сүлжээг тооцоолоход бүгд ижил төстэй байдаг. Тэд бүгдээрээ ихэвчлэн ангилал, сегментчилэл, супер нарийвчлал, биеийн байрлал гэх мэтийг шаарддаг.

Zebra нь FPGA дээр ажилладаг тул ямар ч төрлийн самбар ашиглаж болно. Зарим нь өндөр дамжуулах чадвартай бөгөөд ихэвчлэн дата төвүүдэд ашиглагддаг. Бусад нь Edge эсвэл суулгагдсан хэсэгт ашиглахад илүү тохиромжтой. Бидний алсын хараа нь хэрэв FPGA багтах юм бол хэрэглэгчид Zebra-г ашиглан мэдрэлийн сүлжээний тооцоогоо даруй хурдасгах боломжтой болно. Хэрэв GPU эсвэл CPU ашигладаг бол Zebra тэдгээрийг сольж, хиймэл оюун ухааны дэд бүтцийн зардлыг бууруулж чадна. Бидний ярилцдаг компаниудын ихэнх нь ижил төстэй асуудалтай тулгардаг: тэд хиймэл оюун ухаанд суурилсан илүү олон програмуудыг ашиглах боломжтой боловч өртөг нь тэднийг хязгаарлаж байна.

Zebra ашиглахыг хүсч буй компанийн хувьд энэ үйл явц юу вэ?

Зүгээр л хаягаар бидэнд мэдэгдээрэй [имэйлээр хамгаалагдсан] мөн бид таныг эхлүүлэх болно.

Мипсологийн талаар хуваалцахыг хүссэн өөр зүйл байна уу?

Zebra-ийн шийдлийн талаар AI нийгэмлэгээс авсан санал хүсэлт бидэнд маш их урам зориг өгсөн. Тодруулбал, энэ нь зах зээл дээрх хамгийн сайн хурдасгуур байж магадгүй гэж бидэнд хэлсэн. Хэдхэн сарын дараа бид Xilinx, Dell, Western Digital, Avnet, TUL, Advantech зэрэг сонирхолтой түншүүдийн өсөн нэмэгдэж буй экосистемд нэмэгдсээр байна.

Энэхүү цоо шинэ технологийн талаар суралцахад үнэхээр таатай байлаа. Илүү ихийг мэдэхийг хүсч буй уншигчид зочлоорой Мипсологи.