Noua cercetare sugerează că creierul artificial ar putea beneficia de somn

O nouă cercetare provenind de la Los Alamos National Laboratory sugerează că creierele artificiale ar putea beneficia, în mod sigur, de perioade de odihnă, la fel ca creierul uman.

Cercetarea va fi prezentată la Workshop-ul Women in Computer Vision de la Seattle, pe 14 iunie.

Yijing Watkins este un om de știință computerizat la Los Alamos National Laboratory.

“Studiem rețelele neuronale care învață, care sunt sisteme care învață la fel ca creierul uman”, a spus Watkins. “Am fost fascinați de perspectiva de a antrena un procesor neuromorfic într-un mod analog cu modul în care oamenii și alte sisteme biologice învață din mediul lor în timpul dezvoltării copilăriei.”

Rezolvarea instabilității în simulările de rețea

Watkins și echipa sa au descoperit că perioadele continue de învățare nesupravegheată au condus la instabilitate în simulările de rețea. Cu toate acestea, odată ce echipa a introdus rețelele în stări care sunt rezultatul undelor pe care creierul uman le experimentează în timpul somnului, stabilitatea a putut fi restabilită.

“A fost ca și cum le-am dat rețelelor neuronale echivalentul unui somn bun”, a spus Watkins.

Echipa a făcut această descoperire atunci când lucrau la dezvoltarea de rețele neuronale bazate pe modul în care oamenii și alte sisteme biologice învață să vadă. Echipa a întâmpinat unele provocări atunci când a venit vorba de stabilizarea rețelelor neuronale simulate care erau supuse unui antrenament de dicționar nesupravegheat. Antrenamentul de dicționar nesupravegheat implică clasificarea obiectelor fără a avea exemple anterioare pentru comparație.

Garrett Kenyon este un om de știință computerizat la Los Alamos și coautor al studiului.

“Problema de a menține sistemele de învățare de a deveni instabile apare doar atunci când se încearcă să se utilizeze procesoare neuromorfice realiste, biologice sau când se încearcă să se înțeleagă biologia însăși”, a spus Kenyon. “Majoritatea covârșitoare a cercetătorilor de învățare automată, învățare profundă și inteligență artificială nu întâlnesc această problemă, deoarece în sistemele foarte artificiale pe care le studiază au luxul de a efectua operații matematice globale care au efectul de a regla câștigul dinamic general al sistemului.”

Somnul ca o soluție de ultimă instanță

Conform cercetătorilor, expunerea rețelelor la un analog artificial al somnului a fost ultima soluție pentru a le stabiliza. După ce au experimentat cu diferite tipuri de zgomot, care este similar cu zgomotul static dintre stații la radio, cele mai bune rezultate au venit de la undele de zgomot Gaussian. Acest tip de zgomot include o gamă largă de frecvențe și amplitudini.

Cercetătorii au ajuns la ipoteza că, în timpul somnului lent, zgomotul imită intrarea primită de neuronii biologici. Rezultatele au sugerat că somnul lent ar putea juca un rol în asigurarea că neuronii corticali nu suferă de halucinații și mențin stabilitatea.

Echipa va lucra acum la implementarea algoritmului pe cipul neuromorfic Loihi de la Intel (INTC ), sperând că somnul va ajuta la procesarea stabilă a informațiilor de la o cameră de retină de siliciu în timp real. Dacă cercetarea determină că creierele artificiale beneficiază de somn, același lucru este probabil adevărat și pentru androidi și alte mașini inteligente.

Sursă: Utilizarea zgomotului modulat sinusoidal ca un substitut pentru somnul lent pentru a obține o învățare stabilă a dicționarului nesupravegheat într-un model de codare rară bazată pe spike, Workshop-ul Women in Computer Vision, 2020-06-14 (Seattle, Washington, Statele Unite)