צ’ארלס סיימון, מחבר Brain Simulator II – סדרת ראיונות

צ’ארלס סיימון הוא מחבר Brain Simulator II, ספר ליווי ל-Brain Simulator II, פרויקט תוכנה חופשית וקוד פתוח שמטרתו ליצור מערכת אינטליגנציה מלאכותית כללית (AGI)

התוכנה המקורית Brain Simulator שוחררה ב-1988, זמן עצום בעולם התוכנה. כמה צעד קדימה הוא Brain Simulator II לעומת קודמו?

המערכת של היום מהירה פי מיליון. המקור היה כתוב ב-FORTRAN, רץ על IBM AT clone, תמך במערך קבוע של 1,200 נוירונים, וחישב כ-שני ציקלים בשנייה. תוכנית היום יכולה לרוץ על רשת ולעבד 2.5 מיליארד סינפסות בשנייה על CPU חזק.

ספר זה הוא על Brain Simulator II, פרויקט תוכנה קוד פתוח שמטרתו ליצור אינטליגנציה מלאכותית מלאה, מהו סוג הניסיון בתכנות הדרוש לריצה של תוכנה זו?

אין צורך בניסיון. אם אתה לא מתכנת, אתה יכול לבלות זמן עם Brain Simulator ולצאת עם הבנה של היכולות והמגבלות של נוירונים, קצת על ייצוג ידע, ואפילו לבנות את הרשתות המוגבלות שלך. אם אתה מתכנת, אתה תעקוב אחר ההסברים הטכניים המעמיקים יותר ותבנה את המודולים שלך כדי להרחיב את המערכת לאסטרטגיות AGI מתקדמות יותר.

למה חזרה לשורשים הביולוגיים של AI חשובה להשגת AGI?

בשנות ה-80 המחשבה הייתה שאם נוכל רק לבנות רשת עצבית גדולה, היא תהיה מודעת באופן ספונטני. במהלך ארבעים השנים האחרונות, תרחיש זה הפך להיות פחות מובן. אז, אם גישות AI קלאסיות לא עבדו עבור AGI, בואו נביט בגישות אחרות, והדגם היחיד של AGI הוא המוח האנושי.

באותו הזמן, אין סיבה לציית לתוכנית ביולוגית. לדוגמה, אנו יודעים שמוחנו יכול להעריך מרחקים לעצמים על סמך הבדלים קטנים בתמונות שמתקבלות על ידי שני עינינו, הבסיס לסרטים בתלת-מימד. אנו לא יודעים איך זה עובד במוח, אז במקום זאת, תכנתתי את התפקוד הזה במודול שמעריך מרחקים באמצעות כמה שורות של טריגונומטריה. אנו יכולים להיות בטוחים שמוחך לא עובד כך, אבל הגישה הטריגונומטרית מהירה יותר ומדויקת יותר.

אתה טוען בספר ש-AGI דורש רובוטיקה, למה זה כל כך חשוב?

נחשוב על ניסיון להסביר צבע לאדם עיוור או מוזיקה לאדם חירש. אם AGI פוטנציאלי הוא רק תוכנית על מחשב, איך הוא יכול לקבל הבנה בסיסית של דברים שכל ילד בן שלוש מכיר? הילד הוא בעל נקודת מבט ומוקף במציאות. הילד יודע שאובייקטים קיימים במציאות הזו ושרבים מהם יכולים להיות מנותבים. על ידי משחק עם בלוקים, ילד יכול ללמוד על צורה, גודל, מוצקות, כבידה, אוקלוזיה חזותית, מרחק, וכו’. עם תנועה אוטונומית, ראייה ומניפולטורים, AGI יכול ללמוד על מציאות ברמה יותר יסודית מאשר כל תוכנית שתלויה רק בהרי הנתונים ותמונות.

אחרי ש-AGI רובוטי מקבל הבנה יסודית של אובייקטים במציאות, ידע זה יכול להיות משוכפל למכונות חשיבה לא רובוטיות וההבנה תישאר. כמו שמישהו שמאבד את חושי הראייה או השמיעה יכול להבין דברים בדרך אחרת מאשר אדם שמעולם לא היה לו חושים אלו.

אחד היבטים חשובים של Brain Simulator II הוא שהוא משתמש באף backpropagation, מהו הנימוק לאמצעות לא לאמץ שיטה זו?

מוחך פועל ללא backpropagation, אז AGI חייב להיות אפשרי ללא זה. בעצם, backpropagation אינו תואם למודל ביולוגי, מכיוון שהוא מסתמך על יכולת לחוש ולשנות משקלי סינפסות בדיוק רב. אחרי זמן מה עם Brain Simulator, תסיק שקביעת משקלי סינפסות ברמה כלשהי של דיוק היא מאוד קשה, וחישוב מדויק של משקלי סינפסות הוא בלתי אפשרי. הבעיה הבסיסית היא שנוירונים פועלים משנים משקלי סינפסות, אך אין דרך לגלות משקל סינפסות בלי לפעיל נוירונים, כך שמשקל סינפסות לא יכול להיחשף בלי לשנות אותו.

backpropagation אין מקבילה ביולוגית, ואני רואה בו שיטה סטטיסטית מאוד חזקה. הרבה אנשים עובדים איתו, חלקם עם תוצאות מצוינות. נקודתי היא לנסות גישות שונות. על ידי שימוש בנוירונים מתפוצצים בשילוב עם מודולים תוכנה, אני מביט על בעיות AGI מזווית אחרת.

כאשר המוח מופעל, נראה שיש בו אי-סדר ואקראיות, האם זה משהו שצריך להכניס למערכת תוכנה כדי לאפשר AGI אמיתי להתפתח?

אני לא חושב כך. כאשר אתה מביט על נוירונים וסינפסות בודדים, תפקודם הוא קבוע, כמו הטרנזיסטור. במוח, דברים נראים אקראיים, מכיוון שרמות הרעש גבוהות, ורכיבי המידע אינם בסדר כלשהו. אבל נחשוב על ראייתך, אתה יכול לקרוא טקסט בבירור, ואין אי-סדר או אקראיות בתהליך הקריאה. כך שאנו מסיקים, שלפחות, קורטקס הראייה שלך הוא אמין וחוזר. עם זאת, כאשר מבודדים, הוא נראה כאילו הוא באי-סדר, כמו שאר המוח. כך ששאר המוח כנראה אמין וחוזר, אנו רק לא רואים את הארגון והסדר עדיין. זה מעט כמו קריאת סינית, לי זה נראה כאילו הוא סימנים אקראיים, אבל למי שיכול לקרוא את השפה, יש שם ארגון מוחלט. אנו פשוט לא יכולים לקרוא את השפה הפנימית של המוח עדיין.

אתה מציג מושג הנקרא Universal Knowledge Store (UKS), תוכל לדבר קצת על מה זה ולמה זה חשוב?

חוזרים לשאלת הרובוטיקה, אתה יכול לראות שאחד היבטים של אינטליגנציה כללית הוא היכולת לאחד ידע מחושים שונים. אתה יודע על בלוק, כי אתה יכול לראות אותו, לגעת בו, ולשמוע מילים עליו. כל זה מייצג מידע על בלוק. אז, AGI צריך להיות בעל מנגנון אחסון כללי שיכול לטפל במידע מגוון וליצור קשרים מועילים בין הפריטים. UKS הוא גרף ידע בצורה כללית מאוד, כך שהוא יכול לטפל בכל סוג של מידע וקשרים.

UKS יכול לאחסן את המידע המרחבי הדרוש ליישום המבוך, יחד עם עץ ההחלטות והתוצאות המשמש לחציית המבוך כדי להשיג מטרה. אותה המבנה משמש לקשר מילים עם צבעים. סוג כזה של כלליות הוא יסודי ל-AGI.

מהו האופק הזמני שלך להופעת AGI?

זה קשה לומר. אנו כבר הולכים עם החומרה הדרושה ל-AGI, ואני רואה שפריצת דרך אחת היא כל מה שנחוץ, והיא יכולה לבוא בכל רגע.

נחשוב שאם כל מה שאתה יודע זה שאדום הוא צבע וכחול הוא צבע, אני יכול לשאול אותך לנקוב בכמה צבעים, ואתה יכול לומר אדום וכחול. השאלה היא, איך AGI יכול ללמוד שהקשר “הוא” הוא משהו. אני יכול לתכנת קשר כזה בקלות, אבל אז AGI שלי לא יוכל ללמוד קשרים חדשים כאשר הם מופיעים. ילד יכול ללמוד על קשרים של קרוב/רחוק, גדול/קטן, מוקדם/מאוחר, לפני/אחרי, וכו’. אבל אלו תלויים במושגים יותר בסיסיים של גודל, מרחק, זמן, ועוד.

איך מוח מלא נוירונים יכול ללמוד את כל הדברים האלו? זה קשור לצורך ברובוטיקה. איך AGI יכול ללמוד את המושג של מרחק, אם הוא לא יכול ללכת לשום מקום או להגיע לשום דבר? זה גם קשור לצורך באחסון אוניברסלי. איך AGI יכול להבין מה זה אומר ללכת לשום מקום, שמשלב את המושגים של מיקום וזמן? ללכת לשום מקום הוא דבר יחסית פשוט. להבין מה זה אומר ללכת לשום מקום, זה הרבה יותר קשה. אני מאמין שאלו הם כל הבעיות היסודיות, ופתרון לבעיה הזו הוא הפריצה הדרושה.

לא הרבה אנשים עובדים על שאלה זו, בעיקר מכיוון שזה קשה להציע פרויקט שאם יוכל להצליח, יהיה בעל יכולות של ילד בן שלוש אחרי שלוש שנים, ויכולות של ילד בן עשר אחרי עשור. אז, הפתרון כנראה יבוא מחוקרים עצמאיים קטנים, שיש להם הזמן והאנרגיה להתמקד בבעיות ללא תשואה קצרת-טווח.

האם יש משהו אחר שאתה רוצה לשתף על Brain Simulator II או AGI בכלל?

כאשר אתה מנסה להשתמש בנוירונים וסינפסות כדי לתכנן מעגלים שפותרים את הבעיות היסודיות האלו, אתה מסיק שבמקום שמושג יוצג על ידי כמה עשרות סינפסות, כל אחד מהם דורש כמה עשרות נוירונים. זה אומר שבמקום שיכולת המוח להיות מיליארדים רבים, היא מוגבלת להבנה של עשרות או מאות מיליונים של דברים. עם זאת, AGI צעיר שיכול להבין רק עשרה מיליונים דברים, צריך להיות מסוגל לתפוס חלק מהמושגים היסודיים האלו. ומערכת מחשב שמייצגת עשרה מיליונים דברים, היא תוך יכולת החומרה של היום, אולי אפילו מחשב שולחני.

הגרסה V1.0 של Brain Simulator היא בעצם “בגרות” שלו. הוא כעת הוא בעל היכולת והממשק המשופרים, שהופכים אותו למועיל הרבה יותר לקהל מחקר רחב יותר. זהו פרויקט קהילתי עם צוות פיתוח גדל וקורפוס גדול יותר של משתמשים. ביחד, ננסה הרבה רעיונות חדשים ונעשה התקדמות על חלק מהשאלות היסודיות של אינטליגנציה ו-AGI.

תודה על הראיון הנהדר, תמיד מעניין לדבר על AGI איתך. קוראים שרוצים ללמוד יותר, צריכים לקרוא את הספר Brain Simulator II.