Algorytm rozwiązuje złożone zadania uczenia z ekstremalną wydajnością energetyczną

Międzydyscyplinarny zespół badawczy dokonał znacznego postępu w rozwoju maszyny, która może przetwarzać informacje tak wydajnie, jak ludzki mózg, co od dawna było poszukiwane w dziedzinie sztucznej inteligencji. Zespół z Uniwersytetu w Heidelbergu w Niemczech i Uniwersytetu w Bernie w Szwajcarii został poprowadzony przez dr. Mihai Petrovici.

Wyniki badań zostały opublikowane w czasopiśmie Nature Machine Intelligence.

Sieci neuronowe sztuczne inspirowane biologicznie

Zespół skierował się ku sieciom neuronowym sztucznym inspirowanym biologicznie, aby rozwiązać to wyzwanie. Sieci neuronowe z wyzwalaniem naśladują strukturę i funkcję naturalnego układu nerwowego i są uważane za obiecującego kandydata ze względu na ich cechy, które sprawiają, że są potężne, szybkie i wydajne energetycznie. Jednym z kluczowych wyzwań było przeszkolenie tak złożonych systemów, a zespół jest teraz blisko osiągnięcia tego celu dzięki nowo wdrożonemu algorytmowi.

Neurony w mózgu przekazują informacje za pomocą krótkich impulsów elektrycznych, które nazywane są wyzwalaniami. Są one wywoływane, gdy pewna progowa wartość jest przekroczona. Wymiana informacji jest znacznie wpływana przez częstotliwość, z jaką pojedynczy neuron wytwarza wyzwalania, oraz sekwencję czasową poszczególnych wyzwałań.

Julian Göltz jest kandydatem na stopień doktora w grupie badawczej.

“Główna różnica między biologicznymi sieciami z wyzwalaniem a sieciami neuronowymi sztucznymi polega na tym, że ze względu na wykorzystywanie przetwarzania informacji opartego na wyzwalaniu, mogą one rozwiązywać złożone zadania, takie jak rozpoznawanie i klasyfikacja obrazów, z ekstremalną wydajnością energetyczną”, stwierdza Göltz.

Osiąganie pełnego potencjału

Ludzki mózg i sztuczne sieci neuronowe z wyzwalaniem wymagają, aby poszczególne neurony były odpowiednio połączone, aby osiągnąć swój pełny potencjał. Dlatego naukowcy musieli odkryć, jak systemy inspirowane mózgiem, czyli systemy neuromorficzne, mogą być dostosowane do przetwarzania wejść z wyzwalaniem w sposób poprawny.

Laura Kriener jest innym członkiem zespołu badawczego.

“To pytanie jest podstawowe dla rozwoju potężnych sztucznych sieci opartych na modelach biologicznych”, mówi Kriener.

Specjalne algorytmy muszą być używane, aby zagwarantować, że neurony w sieci neuronowej z wyzwalaniem będą wyzwalane we właściwym czasie, a te algorytmy dostosowują połączenia między neuronami, aby sieć mogła wykonywać wymagane zadania. To zadanie może być na przykład klasyfikacją obrazów z wysoką precyzją.

To jest rodzaj algorytmu, który zespół opracował.

“Korzystając z tego podejścia, możemy przeszkolić sieci neuronowe z wyzwalaniem do kodowania i przekazywania informacji wyłącznie za pomocą pojedynczych wyzwałań. W ten sposób produkują one pożądane wyniki, szczególnie szybko i wydajnie”, wyjaśnia Göltz.

Naukowcy również réusscili się wdrożyć sieć neuronową przeszkoloną z tym algorytmem na fizycznej platformie. Platformą była platforma sprzętowa BrainScaleS-2 opracowana na Uniwersytecie w Heidelbergu.

Naukowcy twierdzą, że system BrainScaleS przetwarza informacje nawet tysiąc razy szybciej niż ludzki mózg, przy czym wymaga znacznie mniej energii niż konwencjonalne systemy komputerowe.

System jest częścią europejskiego projektu Human Brain. Projekt integruje technologie, takie jak obliczenia neuromorficzne, w otwartą platformę o nazwie EBRAINS.

“Jednak nasza praca nie jest interesująca tylko dla obliczeń neuromorficznych i sprzętu inspirowanego biologicznie. Uznaje również popyt ze strony społeczności naukowej na przeniesienie tzw. podejść Deep Learning do neurobiologii i dalsze odkrywanie tajemnic ludzkiego mózgu”, mówi dr Petrovici.