מתיו אייקל, ראש המדענים ב- SingularityNET – סדרת ראיונות

מתיו אייקל הוא ראש המדענים ב- SingularityNET, חברה שנוסדה עם משימה ליצור בינה מלאכותית כללית מבוזרת, דמוקרטית, כוללת ו- מועילה. ‘AGI’ שאינה תלויה בישות מרכזית, שפתוחה לכולם ואינה מוגבלת למטרות צרות של תאגיד בודד או אפילו מדינה בודדת.

צוות SingularityNET כולל מהנדסים מנוסים, מדענים, חוקרים, יזמים ואנשי שיווק. הפלטפורמה המרכזית וצוותי ה- AI משולבים עם צוותים מיוחדים המוקדשים לתחומי יישום כגון פיננסים, רובוטיקה, ביו-רפואי, תקשורת, אמנויות ובידור.

נתון ניסיונך הרב ותפקידך ב- SingularityNET, כמה בטוח אתה שנגיע ל- AGI עד 2029 או מוקדם יותר, כפי שחזה ד”ר בן גורצל?

אני הולך לענות על שאלה זו בדרך עקיפה. 2029 היא כמעט חמש שנים מעכשיו. הרבה שנים לפני (תחילת-אמצע שנות ה-2010), הייתי אופטימי מאוד לגבי התקדמות AGI. האופטימיות שלי באותה עת התבססה על רמת המחשבה המפורטת וההתכנסות של רעיונות במחקר AGI באותה עת. בעוד שרוב הרעיונות הגדולים מתקופה זו, אני מאמין, עדיין מבטיחים, הקושי, כפי שהוא לעיתים קרובות, בא מתוך פירוט הפרטים של חזונות כה רחבים.

עם זאת, יש כעת עושר של מידע חדש, ממגוון רחב של תחומים – נוירולוגיה, מתמטיקה, מדעי המחשב, פסיכולוגיה, סוציולוגיה, תאר לעצמך – שמספק לא רק את המנגנונים לסיום הפרטים האלה, אלא גם תומך קונספטואלית ביסודות העבודה המוקדמת. אני רואה תבניות, ובתחומים מאוד שונים, שכולם נראים לי כמתכנסים בקצב מאיץ לעבר סוגים דומים של התנהגויות. בהרבה מובנים, ההתכנסות הזו מזכירה לי את התקופה שלפני יציאת ה-אייפון הראשון. לצטט את גרג מרדית’, שעובד על תשתית RhoLang שלנו לעיבוד מקבילי בטוח, התבניות שאני רואה היום קשורות לסיפורי מקור – איך החיים / התא הראשון התחילו על כדור הארץ? איך ומתי נוצרה התודעה? ושאלות קשורות למעברי פאזה, למשל.

לדוגמה, יש הרבה מחקרים ניסיוניים חדשים שתומכים ברעיונות העומדים בבסיס גישת מערכות דינמיות מורכבות. תבניות EEG של נושאים אנושיים, למשל, מציגות התנהגות מרשימה בהתאמה עם דינמיקה כזו של מערכות. תוצאות אלה מזכירות את העבודה המוקדמת יותר בתאוריות של תודעה. עכשיו נראה כי יש תחילת תמיכה ניסיונית ברעיונות התאורטיים האלה.

ב- SingularityNET, אני חושב הרבה על המבנים העצמי-דומים שיוצרים דינמיקה כזו. זה שונה למדי, אני היה טוען, ממה שקורה בחלק גדול מהקהילה DNN / GPT, אם כי יש הכרה בקרב חוקרים יותר יסודיים של רעיונות כאלה. אני היה מצביע על המאמר “תודעה בבינה מלאכותית: תובנות ממדע התודעה” שפורסם על ידי 19 חוקרים באוגוסט 2023, למשל. החוקרים כללו מגוון רחב של תחומים, כולל לימודי תודעה, מחקר ביטחון AI, מדע מוח, מתמטיקה, מדעי המחשב, פסיכולוגיה, נוירולוגיה ונוירו-אימג’ינג, ומחקר מוח וקוגניציה. מה שיש לחוקרים האלה במשותף הוא גדול יותר מחיפוש פשוט אחר שיפור אדריכלי חדשותי ב- DNN, אלא הם מתמקדים בהבנה מדעית של הרעיונות הפילוסופיים הגדולים העומדים בבסיס הקוגניציה האנושית ואיך להביא אותם לידי ביטוי כדי ליישם מערכות AGI אמיתיות.

מה אתה רואה כמכשולים הטכנולוגיים או הפילוסופיים הגדולים ביותר להשגת AGI בעשור הזה?

הבנה וענה לשאלות פילוסופיות ומדעיות גדולות, כולל:

• מהו חיים? אנחנו עלולים לחשוב שהתשובה ברורה, אבל הגדרות ביולוגיות הוכחו כבעייתיות. האם נגיפים “חיים”, למשל.
• מהו תודעה?
• מהו אינטליגנציה?
• כיצד התפתחו חיים מכימיקלים בסיסיים בתנאים סביבתיים מסוימים? כיצד אנחנו יכולים לשחזר את זה?
• כיצד התפתח “תודעה” ראשונה? מהם המרכיבים והתנאים שאפשרו את זה?
• איך אנחנו מיישמים מה שאנחנו לומדים כאשר חוקרים את השאלות החמישה האחרונות?
• האם הטכנולוגיה הנוכחית שלנו מסוגלת לבצע את הפתרונות שלנו? אם לא, מה אנחנו צריכים להמציא ולפתח?
• כמה זמן ואנשי צוות אנחנו צריכים כדי ליישם את הפתרונות שלנו?

SingularityNET רואה את neuro-symbolic AI כפתרון מבטיח להתגבר על המגבלות הנוכחיות של AI יוצרת. האם אתה יכול להסביר מהו neuro-symbolic AI וכיצד SingularityNET מתכננת לנצל גישה זו כדי לאיץ’ את הפיתוח של AGI?

היסטורית, היו שני מחנות עיקריים של חוקרי AGI, לצד מחנה שלישי המשלב את הרעיונות של השניים האחרים. היו חוקרים שהאמינו רק בגישה תת-סימבולית. היום, זה בעיקר משמעות השימוש ברשתות עצביות עמוקות (DNN) כגון מודלים Transformer, כולל מודלי שפה גדולים (LLM). בגלל השימוש ברשתות עצביות מלאכותיות, גישות תת-סימבוליות נקראות גם שיטות עצביות. במערכות תת-סימבוליות, עיבוד מתבצע ברחבי צמתים (נוירונים) וקשרים (סינפסות) זהים ולא ממותגים. תומכי סימבוליים משתמשים בלוגיקה של סדר גבוה ותכסיסים סימבוליים, בהם צמתים וקשרים ממותגים במושגים קונספטואליים וסמנטיים. SingularityNET עוקבת אחר גישה שלישית, שניתן לתאר אותה בדיוק כהיברידית neuro-symbolic, המנצלת את החוזקים של שיטות סימבוליות ותת-סימבוליות.

אבל זו היברידית מיוחדת בעיקר, המבוססת על פילוסופיית ה- patternist של בן גורצל, ומפורטת, בין היתר, ב”תורת AGI הכללית: פרספקטיבה פרגמטית”.

כאשר הרבה מהמחקר הנוכחי של DNN ו- LLM מבוסס על מודלים עצביים פשוטים ואלגוריתמים, השימוש במאגרי נתונים ענקיים (למשל, כל האינטרנט), והגדרה נכונה של מיליארדי פרמטרים בתקווה להשיג AGI, אסטרטגיית PRIMUS של SingularityNET מבוססת על הבנות יסודיות של תהליכים דינמיים בקנה מידה מרחבי וזמני רב, וכיצד ליישם אותם כדי לעורר תכונות רצויות בקנה מידה שונה. הבנות כאלה מאפשרות לנו להמשיך ולהנחות את המחקר והפיתוח של AGI באופן שיהיה ברור לבני אדם.

מהם המסגרות שאתה סבור שהן קריטיות כדי להבטיח שפיתוח AGI ייהנה את כלל האנושות? כיצד פלטפורמות AI מבוזרות כמו SingularityNET יכולות לקדם תהליך יותר שוויוני ושקוף בהשוואה למודלים מרכזיים?

כל מיני רעיונות כאן:

שקיפות — בעוד שאין שום דבר מושלם, הבטחת שקיפות מלאה של תהליך קבלת ההחלטות יכולה לעזור לכולם (חוקרים, מפתחים, משתמשים ולא-משתמשים) להיות מסונכרנים, להנחות, להבין ולטפל בפיתוח AGI לטובת האנושות. זה דומה לבעיה של הטיה, שאני אגע בה מעט מאוחר יותר.

מבוזרות – בעוד שמבוזרות יכולה להיות מסורבלת, היא יכולה לעזור להבטיח שהכוח משותף יותר. היא לא, בעצמה, פתרון, אלא כלי ש, אם משתמשים בו נכון, יכול לעזור ליצור תהליכים ותוצאות יותר שוויוניים.

קבלת החלטות באמצעות קונסנסוס – מבוזרות וקבלת החלטות באמצעות קונסנסוס יכולות לעבוד יחד במרדף אחר תהליכים ותוצאות יותר שוויוניים. שוב, הן לא תמיד מבטיחות שוויון. יש גם מורכבויות שצריך לטפל בהן כאן, במונחים של מוניטין ותחומי התמחות. למשל, כיצד אנחנו יכולים לא