Forskare använder memristorer för att skapa mer energisnåla neuronnätverk

En av de mindre glamorösa aspekterna av artificiell intelligens är att den ofta kräver en stor mängd bearbetningskraft och därför ofta har en stor energifotavtryck. Nyligen genomförd forskning av forskare vid UCL har fastställt en metod för att förbättra en AI:s energieffektivitet.

Neuronnätverk och maskinlärning är kraftfulla verktyg, men de mest imponerande bedrifterna inom artificiell intelligens har vanligtvis en stor energikostnad associerad med dem. Till exempel, när OpenAI lärde en robothand att manipulera en Rubiks kub, beräknades det att bedriften krävde cirka 2,8 gigawattimmar el.

Enligt TechExplore, har forskare vid UCL utformat en ny metod för att generera artificiella neuronnätverk. Den nya metoden använder memristorer för att generera nätverket, som är cirka 1000 gånger mer energisnåla än nätverk skapade med traditionella metoder. Memristorer är enheter som kan komma ihåg den mängd elektrisk laddning som senast flödade genom dem, och bevara den minnesstaten även efter att de har stängts av. Detta innebär att de kan komma ihåg sin tillstånd även om en enhet förlorar ström. Även om memristorer först teoretiserades för cirka 50 år sedan, var det inte förrän 2008 som en riktig memristor skapades.

Memristorer kallas ibland “neuromorfa” datorer eller “hjärninspirerade” enheter. Memristorer liknar de byggstenar som hjärnan använder för att bearbeta information och skapa minnen. De är mycket effektiva jämfört med de flesta moderna datorsystem. Dessa memristorenheterna har egenskaper av kondensatorer och resistorer, och under det senaste decenniet eller så har de tillverkats och använts i en mängd olika minnesenheter. Forskarteamet vid UCL hoppas att deras forskning kommer att hjälpa till att använda dessa enheter för att skapa AI-system inom några år.

Trots att de är mer energisnåla, är memristorer traditionellt mycket mindre effektiva än vanliga neuronnätverk, men forskarna vid UCL fann en metod för att öka precisionen hos memristorer. Forskarna fann att när de använde många memristorer, kunde de delas upp i flera undergrupper och sedan deras beräkningar genomsnittligas. Genomsnittligandet av beräkningarna hjälpte till att eliminera fel i undergrupperna och hitta de mer relevanta mönstren.

Dr. Adnan Mehonic och doktorand Dovydas Joksas (båda vid UCL Electronic and Electrical Engineering) och deras medförfattare testade denna genomsnittligansmetod på olika typer av memristorer och fann att tekniken tycktes förbättra precisionen i alla de olika memristorer som testades, inte bara en eller två av dem. Precisionförbättringarna tillämpades på alla grupper som testades, oavsett vilket material memristorn var tillverkad av.

Enligt Dr. Mehonic, som citeras av TechExplore:

“Vi hoppades att det kanske fanns mer generiska metoder som förbättrar inte enhetsnivån, utan systemnivån, och vi tror att vi har hittat en. Vår metod visar att, när det gäller memristorer, är flera huvuden bättre än ett. Att ordna neuronnätverket i flera mindre nätverk istället för ett stort nätverk ledde till högre precision överlag.”

Forskarteamet var entusiastiskt över att ha tagit en datavetenskaplig teknik och tillämpat den på memristorer, och också använt en vanlig felundvikningsmetod (genomsnittligande av beräkningar) för att öka precisionen hos memristiska neuronnätverk. Medförfattare Professor Tony Kenyon vid UCL Electronic & Electrical Engineering tror att memristorer kan “spela en ledande roll” i skapandet av mer energihållbara edge-enheter och IoT-enheter.

Memristorer är inte bara mer energisnåla än traditionella neuronnätverksmodeller, utan de kan också lätt integreras i en handhållen, mobil enhet. Detta förväntas bli allt viktigare i framtiden, eftersom allt mer data skapas och överförs hela tiden, trots att det är svårt att öka överföringskapaciteten utöver en viss punkt. Memristorer kan hjälpa till att möjliggöra överföring av stora mängder data till en bråkdel av energikostnaden.