Algoritme løser komplekse læringsoppgaver med ekstrem energieffektivitet

Et tværfagligt forskningsteam har gjort store fremskridt i udviklingen af en maskine, der kan behandle informationer så effektivt som det menneskelige hjernen, hvilket har været et længe søgt mål inden for kunstig intelligens. Teamet fra Heidelberg Universitet i Tyskland og Universitetet i Bern i Schweiz blev ledet af Dr. Mihai Petrovici.

Forskningens resultater blev offentliggjort i tidsskriftet Nature Machine Intelligence.

Biologisk-inspirerede kunstige neurale netværk

Teamet kiggede på biologisk-inspirerede kunstige neurale netværk for at løse denne udfordring. Spiking neurale netværk efterligner struktur og funktion af et naturligt nervesystem, og de anses for at være en lovende kandidat på grund af deres egenskaber, der gør dem kraftfulde, hurtige og energieffektive. En af de vigtigste udfordringer har været at træne sådanne komplekse systemer, og teamet er nu tæt på at gøre det med den nyligt implementerede algoritme.

Neuronerne i hjernen overfører information ved hjælp af korte elektriske pulser, der kaldes spiking. Disse udløses, når en bestemt stimulusgrænse overskrides. Informationsudvekslingen påvirkes kraftigt af både den frekvens, hvormed en enkelt neuron producerer spiking, og den tidsmæssige sekvens af de enkelte spiking.

Julian Göltz er en ph.d.-stipendiat i forskningsgruppen.

“Den vigtigste forskel mellem biologiske spiking-netværk og kunstige neurale netværk er, at de, fordi de bruger spiking-baseret informationsbehandling, kan løse komplekse opgaver som billedgenkendelse og klassificering med ekstrem energieffektivitet,” siger Göltz.

At nå fuld potential

Det menneskelige hjernen og de kunstige spiking neurale netværk kræver begge, at de enkelte neuron er korrekt forbundet til hinanden for at nå deres fulde potential. Derfor havde forskerne brug for at opdage, hvordan hjernen-inspirerede eller neuromorfe systemer kan justeres for at behandle spiking-input korrekt.

Laura Kriener er en anden medlem af forskningsholdet.

“Dette spørgsmål er fundamentalt for udviklingen af kraftfulde kunstige netværk baseret på biologiske modeller,” siger Kriener.

Specielle algoritmer skal bruges til at garantere, at neuron i et spiking neuralt netværk vil affyre på det rigtige tidspunkt, og disse algoritmer justerer forbindelserne mellem neuron så, at netværket kan udføre de krævede opgaver. Dette kan være noget som klassificering af billeder med høj præcision.

Dette er den type algoritme, som teamet udviklede.

“Ved hjælp af denne tilgang kan vi træne spiking neurale netværk til at kode og overføre information eksklusivt i enkeltspiking. De producerer derefter de ønskede resultater særlig hurtigt og effektivt,” forklarer Göltz.

Forskerne lykkedes også med at implementere et neuralt netværk trænet med denne algoritme på en fysisk platform. Platformen var BrainScaleS-2 neuromorfe hardware-platformen udviklet på Heidelberg Universitet.

Forskerne siger, at BrainScaleS-systemet behandler informationer op til tusind gange hurtigere end det menneskelige hjernen, samtidig med at det kræver langt mindre energi end konventionelle computersystemer.

Systemet er en del af det europæiske Human Brain Project. Projektet integrerer teknologier som neuromorfe beregning i en åben platform kaldet EBRAINS.

“Men vores arbejde er ikke kun interessant for neuromorfe beregning og biologisk inspireret hardware. Det anerkender også kravet fra det videnskabelige samfund om at overføre såkaldte Deep Learning-tilgange til neurovidenskab og dermed yderligere afsløre hemmelighederne om det menneskelige hjernen,” siger Dr. Petrovici.