יחידות עיבוד עצבי (NPUs): הכוח המניע מאחורי AI וחישובי הדור הבא

כשם ש-GPUs התגברו על CPUs בעבודות AI, יחידות עיבוד עצבי (NPUs) עומדות לאתגר את GPUs על ידי מתן ביצועים מהירים יותר, יעילים יותר – במיוחד עבור generative AI, שם עיבוד אמיתי בזמן אמיתי חייב להתרחש במהירות ברק ובעלות נמוכה יותר.

השאלה היא כיצד NPUs עובדות, ולמה הן דוחקות את קודמותיהן GPUs לעבודות AI מודרניות, ומה הופך אותן לחיוניות עבור הכל, מתשתית מרכזי נתונים חזקה ועד מכשירי צריכה יומיומיים? האם אתה מתכנן את הפריסה הבאה של AI או פשוט סקרן לגבי קצה הטכנולוגיה, חשוב להבין למה NPUs עשויות להיות הפריצה שמגדירה מחדש את AI – ואת הדור הבא של חישוב.

מהו יחידת עיבוד עצבית (NPU)?

יחידת עיבוד עצבית (NPU) היא מיקרו-מעבד מיוחד שנבנה מהיסוד כדי לטפל בדרישות הייחודיות של עבודות AI ולמידת מכונה מודרניות. בעוד Neural Processing Unit (NPU) ו- Central Processing Units (CPUs) ו- Graphics Processing Units (GPUs) היסטורית הניעו משימות חישוב מסורתיות ורינדור גרפי, הם לא תוכננו במקור לטפל בעוצמה החישובית של רשתות עצביות עמוקות. NPUs ממלאות את הפער הזה על ידי התמקדות במיוחד בפעולות מקבילות, גבוהות-תפוקה כגון כפל מטריצות וחישוב טנזור – הבסיס למודלים של AI.

היבטים מפתח המבדילים NPUs מ- CPUs ו- GPUs כללי-מטרה כוללים:

• אריתמטיקה מותאמת AI: NPUs בדרך כלל משתמשות בסוגי נתונים בעלי דיוק נמוך (למשל, חישוב מתמטי 8-ביט, או אפילו נמוך יותר) כדי לא