מערכת חדשה יכולה להביא אינטליגנציה מלאכותית להתקנים נושאים, מכשירי בית

קבוצת חוקרים ב-MIT עובדת על הבאת רשתות נוירונים עמוקות למיקרו-בקרים. ההתקדמות משמעותה שאינטליגנציה מלאכותית (AI) יכולה להיות מיושמת בשבבי מחשב זעירים בהתקנים רפואיים נושאים, מכשירי בית ו-250 מיליארד העצמים האחרים המרכיבים את “האינטרנט של הדברים” (IoT). ה-IoT הוא רשת של עצמים פיזיים המשובצים בחיישנים, תוכנה וטכנולוגיות אחרות, המסייעות לחבר ולהחליף נתונים עם התקנים ומערכות אחרות. 
המחקר עתיד להיות מוצג בוועידה על מערכות עיבוד נוירוני בדצמבר. המחבר הראשי של המחקר הוא Ji Lin, סטודנט לדוקטורט במעבדתו של Song Han במחלקה להנדסת חשמל ומדעי המחשב ב-MIT. מחברים נוספים כוללים את Han ו-Yujun Lin מ-MIT, Wei-Ming Chen מ-MIT ואוניברסיטת טייוואן, ו-John Cohn ו-Chuan Gan ממעבדת MIT-IBM Watson. 

מערכת MCUNet

המערכת נקראת MCUNet, והיא מעצבת רשתות נוירונים קומפקטיות המסוגלות למהירות ודיוק קיצוניים בהתקני IoT, אפילו עם זיכרון וכוח עיבוד מוגבלים. מערכת זו יכולה להיות יותר אנרגטית ולשפר את אבטחת הנתונים. 
הצוות פיתח את “הלמידה העמוקה הזעירה” על ידי שילוב שני רכיבים – פעולת רשתות נוירונים ומיקרו-בקרים. הרכיב הראשון הוא TinyEngine, מנוע ממשק הפועל כמערכת הפעלה על ידי ניהול משאבים. TinyEngine מותאם לרוץ עם מבנה רשת נוירונים מסוים שנבחר על ידי TinyNAS, שהוא הרכיב האחר. TinyNAS הוא אלגוריתם חיפוש ארכיטקטורת נוירונים. 
Lin פיתח TinyNAS בגלל הקושי ביישום טכניקות חיפוש ארכיטקטורת נוירונים קיימות במיקרו-בקרים זעירים. טכניקות אלו מוצאות בסופו של דבר את המבנה הרשת המדויק והיעיל ביותר אחרי שהתחילו עם הרבה אפשרויות על בסיס תבנית מוגדרת מראש.
“זה יכול לעבוד טוב מאוד עבור GPUs או סמארטפונים,” אומר Lin. “אבל זה היה קשה ליישם טכניקות אלו ישירות למיקרו-בקרים זעירים, כי הם קטנים מדי.”
TinyNAS יכול ליצור רשתות בגדלים מותאמים. 
“יש לנו הרבה מיקרו-בקרים שבאים עם יכולות כוח שונות וגדלים שונים של זיכרון,” אומר Lin. “לכן פיתחנו את האלגוריתם [TinyNAS] כדי לאפטימיזציה של מרחב החיפוש עבור מיקרו-בקרים שונים.”
מכיוון ש-TinyNAS יכול להיות מותאם, הוא יכול ליצור את הרשתות הנוירונים הקומפקטיות הטובות ביותר עבור מיקרו-בקרים. 
“אז אנו מספקים את המודל היעיל הסופי למיקרו-בקר,” ממשיך Lin.
ממשק נקי ודק הוא נדרש עבור מיקרו-בקר לרוץ את הרשת הנוירונים הזעירה. הרבה ממשקים מכילים הוראות עבור משימות שנרון רק, שיכולות להפריע למיקרו-בקר. 
“אין לו זיכרון מחוץ ללוח, ואין לו דיסק,” אומר Han. “הכל מורכב יחד, רק מגה-בייט אחד של פלאש, לכן אנו צריכים לנהל משאב קטן כל כך בקפידה.”
TinyEngine מייצר את הקוד הדרוש כדי לרוץ את הרשת הנוירונים המותאמת שפותחה על ידי TinyNAS. זמן ההידור מופחת על ידי השלכת קוד מת (deadweight code). 
“אנו שומרים רק על מה שאנו צריכים,” אומר Han. “ומאחר שאנו עיצבנו את רשת הנוירונים, אנו יודעים בדיוק מה אנו צריכים. זו היא היתרון של קוד-אלגוריתם מערכת.”
בדיקות הוכיחו שקוד הבינארי המורכב של TinyEngine היה קטן פי 1.9 עד 5 ממנועי מיקרו-בקרים דומים, כולל אלו של Google ו-ARM. שימוש מרבי בזיכרון גם הופחת כמעט למחצית.

יכולת MCUNet

הבדיקות הראשונות עבור MCUNet סבבו סביב סיווג תמונות. בסיס הנתונים ImageNet שימש לאימון המערכת עם תמונות מתויגות, ויכולתה הוערכה על תמונות חדשות. 
כאשר MCUNet נבדק על מיקרו-בקר מסחרי, הוא סיווג בהצלחה 70.7 אחוז מהתמונות החדשות. זה הרבה יותר טוב מהרשת הנוירונים ומנוע ההפרעה הקודמים, שהיו 54 אחוז דיוק.
“אפילו שיפור של 1 אחוז נחשב משמעותי,” אומר Lin. “לכן זה קפיצה ענקית עבור הגדרות מיקרו-בקר.”
על פי Kurt Keutzer, מדען מחשבים באוניברסיטת קליפורניה בברקלי, זה “מרחיב את גבולות עיצוב רשתות נוירונים עמוקות עוד יותר לתוך התחום החישובי של מיקרו-בקרים אנרגטיים קטנים.” MCUNet יכול “להביא יכולות ראייה ממוחשבות אינטליגנטיות לאפילו המכשירים הפשוטים ביותר, או לאפשר חיישני תנועה חכמים יותר.” 
MCUNet גם משפר את אבטחת הנתונים.  
“יתרון מרכזי הוא שימור פרטיות,” אומר Han. “אין צורך להעביר את הנתונים לענן.”
על ידי ניתוח נתונים באופן מקומי, יש פחות סיכוי שמידע אישי יופרץ. 
בנוסף, MCUNet יכול לנתח ולספק תובנות למידע כגון קצב לב, לחץ דם וקריאות רמת חמצן, להביא למידה עמוקה להתקני IoT בכלי רכב ומקומות אחרים עם גישה מוגבלת לאינטרנט, ולהפחית את טביעת הפחמן על ידי שימוש רק בחלק קטן מהאנרגיה הנדרשת עבור רשתות נוירונים גדולות.