מחקר חדש מרמז כי מוחות מלאכותיים יכולים להרוויח משינה

מחקר חדש המגיע מLos Alamos National Laboratory מרמז כי מוחות מלאכותיים כמעט בטוחים להרוויח מתקופות מנוחה כמו מוחות חיים. 

המחקר יוצג בסדנת Women in Computer Vision בסיאטל ב-14 ביוני. 

Yijing Watkins הוא מדען מחשב בLos Alamos National Laboratory. 

“אנו חוקרים רשתות עצביות מתפוצצות, שהן מערכות שלומדות הרבה כמו מוחות חיים,” אמר ווטקינס. “היינו מסוקרנים מההיבט של אימון מעבד נוירומורפי באופן דומה לאיך בני אדם ומערכות ביולוגיות אחרות לומדות מסביבתן במהלך התפתחות הילדות.”

פתרון לאי-יציבות בסימולציות רשת

ווטקינס והצוות גילו כי תקופות רצופות של למידה בלתי מופסקת הובילו לאי-יציבות בסימולציות הרשת. אולם, כאשר הצוות הציג את הרשתות למצבים שהם תוצאה של הגלים שמוחות חיות חוות במהלך השינה, ניתן היה לשחזר את היציבות. 

“היה כאילו היינו נותנים לרשתות העצביות את המקבילה ללילה טוב,” אמר ווטקינס.

הצוות עשה את הגילוי כאשר הם עבדו על פיתוח רשתות עצביות על בסיס האופן שבו בני אדם ומערכות ביולוגיות אחרות לומדות לראות. הצוות התמודד עם אתגרים כאשר זה הגיע לייצבות רשתות עצביות מדומות שעברו אימון מילון בלתי מופסק. אימון מילון בלתי מופסק כולל מיון אובייקטים ללא השוואה לדוגמאות קודמות.

Garrett Kenyon הוא מדען מחשב בLos Alamos ושותף למחקר.

“בעיית האופן שבו לשמור על מערכות למידה מלהיות בלתי יציבות באמת רק כאשר מנסים להשתמש במעבדים נוירומורפיים ריאליסטיים ביולוגית או כאשר מנסים להבין ביולוגיה עצמה,” אמר קניון. “רוב המחקרים של למידת מכונה, למידה עמוקה ואינטליגנציה מלאכותית מעולם לא פוגשים בבעיה זו, מכיוון שבמערכות המלאכותיות שהם חוקרים הם מותרים לבצע פעולות מתמטיות גלובליות שיש להן השפעה של ריסון הרווח הדינמי של המערכת.”

שינה כפתרון אחרון

על פי החוקרים, חשיפת הרשתות לאנלוג מלאכותי של שינה היה הפתרון האחרון שלהם לייצבות. לאחר ניסויים עם סוגים שונים של רעש, שדומה לרעש הסטטי בין תחנות ברדיו, התוצאות הטובות ביותר הגיעו מגלי רעש גאוסיאני. סוג רעש זה כולל מגוון רחב וטווח של תדרים ועוצמות. 

החוקרים העלו את ההשערה כי במהלך שינת גלים איטיים הרעש מחקה את הקלט שמקבלים נוירונים ביולוגיים. התוצאות הראו כי שינת גלים איטיים יכולה למלא תפקיד בוודאות שנוירונים קורטיקליים לא יסבלו מהזיות וישמרו על יציבותם. 

הצוות יעבוד עכשיו על יישום האלגוריתם על שבב הנוירומורפי Loihi של Intel, בתקווה שהשינה תעזור לו לעבד מידע ממצלמת רשת צילום סיליקון בזמן אמת. אם המחקר יקבע שמוחות מלאכותיים מרוויחים משינה, כנראה שאותו הדבר נכון גם לאנדרואידים ומכונות אינטליגנטיות אחרות.

מקור: Using Sinusoidally-Modulated Noise as a Surrogate for Slow-Wave Sleep to Accomplish Stable Unsupervised Dictionary Learning in a Spike-Based Sparse Coding Model, CVPR Women in Computer Vision Workshop, 2020-06-14 (Seattle, Washington, United States)