Modely a platformy AI

Fotony čipy zdá se dramaticky zvyšují rychlost procesů AI

mm
Přidejte Unite.AI mezi své preferované zdroje na Google

Tým výzkumníků nedávno aplikoval fotony procesory na umělou inteligenci, demonstrujíce, že fotony procesory mohou výrazně překonat informační zpracování schopnosti běžných elektronických čipů.

Výzkumný tým vyvinul novou architekturu čipu a přístup, který kombinuje úložiště dat a zpracování dat v jednom zařízení. Čipy byly vyrobeny s fázovými změnovými materiály (jako ty, které se používají v DVD). Fotony (světlo-založené) procesory se používají k výrobě počítačového čipu, který může provádět výpočty na vysoké rychlosti, a ve studii nedávno zveřejněné v Přírodě, výzkumný tým byl schopen demonstrovat, že tyto nové čipy byly schopny výrazně zlepšit tradiční elektronické čipy, díky jejich schopnosti rychle zpracovávat informace paralelně.

Maticově-vektorová násobení

Neuronové sítě, které jsou základem mnoha nejmodernějších aplikací AI, fungují prostřednictvím maticově-vektorového násobení. Výzkumný tým vytvořil hardwarově založený akcelerační systém, který umožňuje tato násobení provádět paralelně. Optické čipy využívají skutečnosti, že různé vlnové délky světla se navzájem neovlivňují, což znamená, že lze použít k provádění výpočtů paralelně. Výzkumný tým spoléhal na “frekvenční komb” vyvinutý EPFL, který použil jako světelný zdroj pro poskytnutí fotony čipu různých vlnových délek.

Vývoj frekvenčního kombu byl veden profesorem Tobiasem Kippenbergem z EPFL. Kippenburg je jedním z hlavních autorů studie spolu s spoluautorem Wolframem Pernicem z Münsterské univerzity. Podle Pernice mohou světlo-založené procesory urychlit výpočetně náročné úkoly spojené s učením strojů, provádějící výpočty na ještě vyšších rychlostech než specializované hardwarové prvky, jako jsou Tensor Processing Units (TPU) a nejmodernější GPU.

Školení neuronové sítě

Po navržení a vybudování fotony čipů, výzkumníci je podrobili testům, testujících je na neuronové síti navržené k rozpoznání ručně psaných čísel. Proces školení neuronové sítě využil multiplexování vlnových délek, které umožňují čipy, a dosáhl vyšších datových rychlostí a hustot výpočtu než dříve.

Jako Johannes Feldmann, hlavní autor studie a doktorand na Münsterské univerzitě vysvětlil prostřednictvím TechXplore:

“Konvoluční operace mezi vstupními daty a jedním nebo více filtry – které mohou být například zvýrazněním hran v fotografii – lze velmi dobře přenést do naší maticové architektury. Využití světla pro signálovou transmisi umožňuje procesoru provádět paralelní zpracování dat prostřednictvím multiplexování vlnových délek, což vede k vyšší hustotě výpočtu a mnoha maticovým násobením provedeným v jednom časovém kroku.”

Práce je pozoruhodná díky skutečnosti, že by mohla umožnit neuronovým sítím být školeny na velkých datech v čase, který by mohl být zlomek obvyklého času potřebného pro školení sítě. Jak velké údaje rostou, zanícené internetem věcí a rostoucí proliferací chytrých zařízení, datové vědci budou potřebovat nové způsoby, jak udržet školicí časy na velkých datech co nejnižší. Tradiční elektronika obvykle funguje v nízkém GHz rozsahu, zatímco optická modulační rychlosti mohou dosáhnout až 50 GHz až 100 GHz rozsahu.

Výzkum by mohl mít důležité důsledky pro aplikace, jako je cloud computing, lékařské zobrazování a autonomní vozidla, které všechny vyžadují schopnost zpracovávat velké objemy dat pocházejících z více zdrojů co nejrychleji.

Výzkumný projekt byl výsledkem spolupráce mezinárodního týmu výzkumníků z Pitt Univesity, Münsterské univerzity v Německu, Anglické Exeter a Oxfordské univerzity, IBM Zurich a École Polytechnique Fédérale (EPFL) ve Švýcarsku.

Blogger a programátor se specializací na Machine Learning a Deep Learning témata. Daniel doufá, že pomůže ostatním využít sílu AI pro sociální dobro.