ืจืืืื ืืช
ืืืจืื ืกืื ืืจ, ืื ื”ื ื-Robust Intelligence ืืคืจืืคืกืืจ ืืืืขื ืืืืฉื ืืืื ืืืจืกืืืช ืืจืืืืจื – ืกืืจืช ืจืืืื ืืช
יארון סינגר הוא המנכ”ל של Robust Intelligence ופרופסור למדעי המחשב ומתמטיקה שימושית בהרווארד. יארון ידוע בתוצאות הפריצה בלמידת מכונה, אלגוריתמים ואופטימיזציה. בעבר, יארון עבד ב-Google Research וקיבל את הדוקטורט שלו מ-UC Berkeley.
מה היה הדבר שמשך אותך בתחילה לתחום מדעי המחשב ולמידת מכונה?
המסע שלי התחיל עם מתמטיקה, שהוביל אותי למדעי המחשב, שהציב אותי על הדרך ללמידת מכונה. מתמטיקה משכה את תשומת ליבי בתחילה בגלל שהמערכת האקסיומטית שלה נתנה לי את היכולת ליצור עולמות חדשים. עם מדעי המחשב, למדתי על הוכחות קיום, אבל גם על האלגוריתמים מאחוריהם. מנקודת מבט יצירתית, מדעי המחשב הם ציור הגבולות בין מה שאנו יכולים ולא יכולים לעשות.
העניין שלי בלמידת מכונה תמיד היה שורש בעניין בנתונים אמיתיים, כמעט היבט הפיזי שלו. לקיחת דברים מהעולם האמיתי ודגמם כדי ליצור משהו משמעותי. אנו יכולים להנדס עולם טוב יותר דרך דגמים משמעותיים. כך שמתמטיקה נתנה לי יסוד להוכיח דברים, מדעי המחשב עוזרים לי לראות מה אנו יכולים ולא יכולים לעשות, ולמידת מכונה מאפשרת לי לדגמם את המושגים האלה בעולם.
עד לא מכבר היית פרופסור למדעי המחשב ומתמטיקה שימושית באוניברסיטת הרווארד, מה היו כמה מהמשתתפים העיקריים שלך מחוויה זו?
המשתתף הגדול ביותר שלי מהיות חבר סגל בהרווארד הוא שזה מפתח את התיאבון לעשות דברים גדולים. הרווארד באופן מסורתי היא עם סגל קטן, והציפייה מחברי סגל בתקופת הביניים היא לטפל בבעיות גדולות וליצור שדות חדשים. עליך להיות נועז. זה מסתיים בהיות הכנה טובה לשיגור הזדמנות ליצירת קטגוריה חדשה. אני לא בהכרח ממליץ לעבור קודם דרך ההרווארד – אבל אם אתה שורד את זה, בניית סטארט-אפ היא קלה יותר.
האם תוכל לתאר את רגע ה-‘אהה’ שלך כאשר הבנת שמערכות AI מתוחכמות רגישות לנתונים גרועים, עם כמה השלכות רחוקות טווח?
כאשר הייתי סטודנט לתואר שני ב-UC Berkeley, לקחתי הפסקה לעשות סטארט-אפ שבנה מודלים של למידת מכונה לשיווק ברשתות חברתיות. זה היה ב-2010. היינו לנו כמויות עצומות של נתונים מרשתות חברתיות, ואנו כתבנו את כל המודלים מאפס. ההשלכות הכספיות עבור המסחרים היו די משמעותיות, כך שעקבנו אחר ביצועי המודלים בקפידה. מכיוון שהשתמשנו בנתונים מרשתות חברתיות, היו הרבה שגיאות בקלט, כמו גם נטייה. ראינו ששגיאות קטנות הובילו לשינויים גדולים בפלט המודל ויכולות להוביל לתוצאות כספיות גרועות עבור המסחרים שהשתמשו במוצר.
כאשר עברתי לעבוד על Google+ (עבור אלו מאיתנו שזוכרים), ראיתי את אותו האפקט. בצורה דרמטית יותר, במערכות כמו AdWords שעשו חיזויים על הסתברות שאנשים יקליקו על פרסומת למילות מפתח, הבנו ששגיאות קטנות בקלט למודל הובילו לחיזויים גרועים. כאשר אתה עד לבעיה הזו בקנה מידה של Google, אתה מבין שהבעיה היא אוניברסלית.
חוויות אלו עיצבו בצורה כבדה את המיקוד המחקרי שלי, וביליתי את זמני בהרווארד בחקירת מדוע מודלי AI עושים שגיאות ו, חשוב, כיצד לעצב אלגוריתמים שיכולים למנוע ממודלים לעשות שגיאות. זה, כמובן, הוביל לעוד ‘רגעי אהה’ ו, לבסוף, ליצירת Robust Intelligence.
האם תוכל לשתף את סיפור המקור של מאחורי Robust Intelligence?
Robust Intelligence התחיל עם מחקר על מה שהיה בתחילה בעיה תאורטית: מהן ה
