Fotonicachips lijken de snelheid van AI-processen dramatisch te verhogen

Een team van onderzoekers heeft onlangs fotonic processors toegepast op artificial intelligence-toepassingen, waarbij werd aangetoond dat fotonic processors de informatieverwerkingscapaciteit van reguliere elektronische chips aanzienlijk kunnen overtreffen.

Het onderzoeksteam ontwikkelde een nieuwe chiparchitectuur en benadering die gegevensopslag en gegevensverwerking combineert in één apparaat. De chips werden gemaakt met fase-veranderingmaterialen (zoals die gebruikt worden in DVDs). Fotonic (lichtgebaseerde) processors worden gebruikt om een computerchip te produceren die berekeningen op hoge snelheid kan uitvoeren, en in een recente studie die werd gepubliceerd in Nature, kon het onderzoeksteam aantonen dat deze nieuwe chips de traditionele elektronische chips aanzienlijk konden overtreffen, dankzij hun vermogen om informatie snel in parallel te verwerken.

Matrix-vector Multiplicaties

De neurale netwerken die ten grondslag liggen aan veel van de meest geavanceerde AI-toepassingen, werken via matrix-vector multiplicaties. Het onderzoeksteam creëerde een hardware-gebaseerd acceleratiesysteem dat deze multiplicaties in parallel mogelijk maakt. De optische chips maken gebruik van het feit dat verschillende lichtgolflengtes elkaar niet storen, waardoor ze kunnen worden gebruikt om berekeningen in parallel uit te voeren. Het onderzoeksteam maakte gebruik van een “frequentie-comb” die werd ontwikkeld door EPFL, die als lichtbron werd gebruikt om de fotonic chip te voorzien van de verschillende golflengtes.

De ontwikkeling van de frequentie-comb werd geleid door Professor Tobias Kippenberg bij EPFL. Kippenburg is een van de hoofdauteurs van de studie, samen met co-auteur Wolfram Pernice van de Universiteit van Münster. Volgens Pernice kunnen lichtgebaseerde processors de computationeel intensieve taken die bij machine learning zijn betrokken, versnellen, door berekeningen uit te voeren op nog hogere snelheden dan gespecialiseerde hardware zoals Tensor Processing Units (TPU’s) en de meest geavanceerde GPU’s.

Neurale Netwerk Training

Nadat de fotonic chips waren ontworpen en gebouwd, hebben de onderzoekers ze getest op een neurale netwerk dat was ontworpen om handgeschreven nummers te herkennen. Het neurale netwerk trainingsproces maakte gebruik van de golflengte-multiplexing die mogelijk werd gemaakt door de chips, en het kon hogere datatransmissiesnelheden en berekeningsdichtheden bereiken dan ooit tevoren.

Volgens Johannes Feldmann, hoofdauteur van de studie en promovendus aan de Universiteit van Münster, via TechXplore:

“De convolutie-operatie tussen invoerdata en een of meer filters – die bijvoorbeeld het markeren van randen in een foto kan zijn – kan zeer goed worden overgebracht naar onze matrixarchitectuur. Het gebruik van licht voor signaaloverdracht stelt de processor in staat om parallelle gegevensverwerking uit te voeren via golflengte-multiplexing, wat leidt tot een hogere berekeningsdichtheid en veel matrixmultiplicaties die in één tijdstap worden uitgevoerd.”

Het onderzoek is opmerkelijk omdat het neurale netwerken in staat zou kunnen stellen om op grote datasets te worden getraind in een fractie van de tijd die het normaal gesproken kost om een netwerk te trainen. Aangezien big data steeds groter wordt, aangevoerd door het internet der dingen en de toenemende verspreiding van slimme apparaten, zullen datawetenschappers nieuwe manieren nodig hebben om de trainingsduur van grote datasets zo laag mogelijk te houden. Traditionele elektronica werkt meestal in het lage GHz-bereik, terwijl optische modulatiesnelheden tot 50 GHz tot 100 GHz kunnen bereiken.

Het onderzoek kan belangrijke implicaties hebben voor toepassingen zoals cloud computing, medische beeldvorming en autonome voertuigen, die allemaal de mogelijkheid vereisen om grote hoeveelheden gegevens vanuit meerdere bronnen zo snel mogelijk te verwerken.

Het onderzoeksproject was het resultaat van een samenwerking tussen een internationaal team van onderzoekers van de Universiteit van Pitt, de Universiteit van Münster in Duitsland, de Universiteiten van Exeter en Oxford in Engeland, IBM Zurich en de École Polytechnique Fédérale (EPFL) in Zwitserland.