Nový systém má za cíl vyřešit problém spotřeby energie AI

Počítače, které se spoléhají na umělou inteligenci (AI), vyžadují hodně energie a tento požadavek na výpočetní výkon se každé tři až čtyři měsíce zhruba zdvojnásobí. Pokud jde o datová centra cloud computingu, která využívají AI a aplikace strojového učení, spotřebují ročně více elektrické energie než některé malé země. Mnoho výzkumníků varuje, že tento systém je neudržitelný. 

Tým těchto výzkumníků pod vedením University of Washington přišel s řešením, které má pomoci tento problém vyřešit – nový optický výpočetní hardware pro AI a strojové učení. Tento hardware je rychlejší a mnohem energeticky účinnější než běžná elektronika. Pomáhá také vyřešit „šum“ způsobený optickými výpočty, který může narušovat přesnost výpočtu.

Výzkum byl zveřejněn 21. ledna v Věda Zálohy.

Použití šumu jako vstupu

Ve výzkumném dokumentu tým ukázal, jak by optický výpočetní systém pro AI a strojové učení mohl využít část šumu jako vstup ke zvýšení kreativního výstupu umělé neuronové sítě (ANN) v systému. 

Changming Wu je doktorandem UW v oboru elektrotechniky a počítačového inženýrství a hlavním autorem článku. 

„Postavili jsme optický počítač, který je rychlejší než běžný digitální počítač,“ řekl Wu. "A také tento optický počítač může vytvářet nové věci na základě náhodných vstupů generovaných optickým šumem, kterému se většina výzkumníků snažila vyhnout."

Optický výpočetní šum je způsoben částicemi rozptýleného světla neboli fotony. Ty jsou produkovány lasery uvnitř zařízení a tepelným zářením pozadí. Aby tým zacílil na šum, připojil své optické výpočetní jádro ke generativní adversariální síti (GAN). Poté testovali různé techniky zmírnění hluku, jako je použití některých generovaných šumů jako náhodných vstupů pro GAN. 

Tým řekl GAN, aby se naučil, jak ručně psát číslo '7' jako člověk, což znamenalo, že se musel naučit tento úkol pozorováním vizuálních vzorků rukopisu, než bude znovu a znovu procvičovat. Vzhledem ke své formě musel optický počítač generovat digitální obrázky, které měly podobný styl jako vzorky.

Mo Li je profesorem elektrotechniky a počítačového inženýrství UW a hlavním autorem článku. 

„Místo toho, abychom síť trénovali na čtení ručně psaných čísel, trénovali jsme síť, aby se naučila psát čísla a napodobovala vizuální vzorky rukopisu, na kterém byla trénována,“ řekl Li. „S pomocí našich spolupracovníků v počítačové vědě z Duke University jsme také ukázali, že GAN může zmírnit negativní dopad optických počítačových hardwarových šumů pomocí trénovacího algoritmu, který je odolný vůči chybám a šumům. Navíc síť ve skutečnosti používá šumy jako náhodný vstup, který je potřeba ke generování výstupních instancí.“

Jak GAN pokračoval v procvičování psaní čísla, vyvinul svůj vlastní osobitý styl psaní. To bylo nakonec schopné psát čísla od jedné do 10 v počítačových simulacích. 

Stavba zařízení většího měřítka

Tým se nyní bude snažit postavit zařízení ve větším měřítku pomocí současné technologie výroby polovodičů, která zlepší výkon a umožní týmu provádět složitější úkoly. 

„Tento optický systém představuje architekturu počítačového hardwaru, která může zvýšit kreativitu umělých neuronových sítí používaných v AI a strojovém učení, ale co je důležitější, ukazuje životaschopnost tohoto systému ve velkém měřítku, kde lze zmírnit šum a chyby a dokonce je využít. “ řekl Li. „Aplikace AI rostou tak rychle, že v budoucnu bude jejich spotřeba energie neudržitelná. Tato technologie má potenciál pomoci snížit spotřebu energie, díky čemuž bude umělá inteligence a strojové učení udržitelné z hlediska životního prostředí – a velmi rychlé, celkově dosáhne vyššího výkonu.