Fotoniska chippar verkar dramatiskt öka hastigheten på AI-processer

Ett team av forskare tillämpade nyligen fotoniska processorer på artificiell intelligens, och visade att fotoniska processorer kan överträffa den informationsbearbetningsförmåga som vanliga elektroniska chip har.

Forskningsgruppen utvecklade en ny chiparkitektur och tillvägagångssätt som kombinerar datalagring och dataprocessering i en och samma enhet. Chipen tillverkades med fasändringsmaterial (sådana som används i DVD-skivor). Fotoniska (ljusbaserade) processorer användes för att producera en datorchip som kan utföra beräkningar i höga hastigheter, och i en studie som nyligen publicerades i Nature kunde forskargruppen visa att dessa nya chip kunde förbättra de traditionella elektroniska chipen avsevärt, tack vare deras förmåga att snabbt bearbeta information i parallell.

Matris-vektor-multiplikationer

De neuronnät som ligger till grund för de flesta av de mest avancerade AI-tillämpningarna fungerar genom matris-vektor-multiplikationer. Forskningsgruppen skapade ett hårdvarubaserat accelereringssystem som möjliggör dessa multiplikationer i parallell. De optiska chipen utnyttjar det faktum att olika våglängder av ljus inte stör varandra, vilket innebär att de kan användas för att utföra beräkningar i parallell. Forskningsgruppen använde en “frekvenskam” som utvecklats av EPFL, som ljuskälla för att förse den fotoniska chippet med de olika våglängderna.

Utvecklingen av frekvenskammen leddes av professor Tobias Kippenberg vid EPFL. Kippenberg är en av huvudförfattarna till studien, tillsammans med medförfattaren Wolfram Pernice från Münster universitet. Enligt Pernice kan ljusbaserade processorer påskynda de beräkningsintensiva uppgifter som är involverade i maskinlärning, och utföra beräkningar i ännu högre hastigheter än specialiserad hårdvara som Tensor Processing Units (TPU) och de mest avancerade GPU:erna.

Neuronnätsträning

Efter att de fotoniska chipen hade designats och byggts, testade forskargruppen dem genom att prova dem på ett neuronnät som var utformat för att känna igen handskrivna siffror. Neuronnätsträningsprocessen utnyttjade den våglängdsmultiplexering som möjliggjordes av chipen, och den kunde uppnå högre datarater och beräkningsdensiteter än vad som tidigare hade uppnåtts.

Som Johannes Feldmann, huvudförfattare till studien och doktorand vid Münster universitet förklarade via TechXplore:

“Konvolutionsoperationen mellan indata och en eller flera filter – som till exempel kan vara en markering av kanter i en bild – kan överföras mycket väl till vår matrisarkitektur. Utnyttjandet av ljus för signalöverföring möjliggör för processorn att utföra parallell dataprocessering genom våglängdsmultiplexering, vilket leder till en högre beräkningsdensitet och många matrismultiplikationer som utförs på en enda tidssteg.”

Arbetet är anmärkningsvärt eftersom det kan tillåta neuronnät att tränas på stora datamängder på en bråkdel av den tid det vanligtvis tar att träna ett nät. När stordata blir allt större, uppblåst av sakernas internet och den ökande spridningen av smarta enheter, kommer datavetare att behöva nya sätt att hålla tränningstider för stora datamängder så låga som möjligt. Traditionell elektronik fungerar vanligtvis i det låga GHz-området, medan optisk moduleringshastighet kan nå upp till 50 GHz till 100 GHz-området.

Forskningen kan ha viktiga implikationer för tillämpningar som molntjänster, medicinsk avbildning och autonoma fordon, som alla kräver förmågan att bearbeta stora mängder data som kommer från flera källor så snabbt som möjligt.

Forskningsprojektet var ett resultat av ett samarbete mellan ett internationellt team av forskare från Pitt universitet, Münster universitet i Tyskland, Englands Exeter och Oxford universitet, IBM Zurich och École Polytechnique Fédérale (EPFL) i Schweiz.