חוקרים טוענים שבני אדם לא יוכלו לשלוט באינטליגנציה מלאכותית על-אינטליגנטית

כל מי שמודע לאינטליגנציה מלאכותית (AI) כנראה שמע משהו על כך שהיא תישבר בסופו של דבר את השליטה האנושית. זהו לא רק נושא מסרטי מדע בדיוני, אלא אפשרות מאוד חזקה שמדאיגה הרבה מומחים בתעשייה. הרבה מאותם מומחים, כולל מדענים, טוענים שעלינו להתחיל להתכונן לאפשרות זו ולמנוע אותה בכל דרך אפשרית.

עכשיו, צוות בינלאומי של חוקרים לקח את הרעיון הזה ותמך בו בחישובים תאורטיים. הצוות, שכלל מדענים ממרכז האדם והמכונות במכון מקס פלאנק לפיתוח האדם, השתמש בחישובים האלה כדי להדגים כיצד לא יהיה אפשר לשלוט באינטליגנציה מלאכותית על-אינטליגנטית.

המחקר פורסם לאחרונה בכתב העת למחקר אינטליגנציה מלאכותית.

מערכת אינטליגנציה מלאכותית על-אינטליגנטית

הפחד ממערכת אינטליגנציה מלאכותית על-אינטליגנטית קשור לעובדה שמערכת כזו תהיה הרבה יותר עליונה מבני אדם. היא תוכל ללמוד באופן עצמאי, ותוכל גם לגשת לכל הנתונים הקיימים ולעבד אותם במהירות קיצונית.

אירוע כזה יכול להוביל לכך שהאינטליגנציה המלאכותית העל-אינטליגנטית תתפוס את כל המכונות הקיימות באינטרנט, ובעוד שהיא תוכל ותעשה דברים כמו לרפא מחלות ולפתור בעיות גדולות אחרות העומדות בפני האנושות, הסיכון שדברים יצאו משליטה גם גבוה.

מנואל סבריאן הוא שותף למחקר ומנהיג קבוצת המוביליזציה הדיגיטלית במרכז האדם והמכונות, מכון מקס פלאנק לפיתוח האדם.

“מכונה על-אינטליגנטית ששולטת בעולם נשמע כמו מדע בדיוני. אבל כבר יש מכונות שמבצעות משימות חשובות באופן עצמאי ללא שהמתכנתים מבינים לגמרי כיצד הן למדו את זה. השאלה שעולה היא האם זה יכול להפוך לבלתי נשלט ומסוכן לאנושות בשלב מסוים”, אומר סבריאן.

שליטה במערכת

ישנן שתי גישות עיקריות כאשר מדובר בשליטה במערכת כזו. ראשית, בני אדם יכולים להגביל את יכולותיה של אינטליגנציה מלאכותית על-אינטליגנטית על ידי הגבלת גישתה למקורות מידע מסוימים, כגון כל האינטרנט. המערכת יכולה גם לפעול ללא מגע עם העולם החיצון. אולם, הבעיה עם זה היא שזה יגביל באופן דרסטי את הפוטנציאל של האינטליגנציה המלאכותית.

המערכת תשלט רק על ידי אפשרות לה לרדוף אחר תוצאות שיהיו לטובת האנושות, וזה יכול להיעשות על ידי תכנות עקרונות אתיים אליה.

המחקר כלל את פיתוח אלגוריתם אחידות תאורטי שמונע מאינטליגנציה מלאכותית על-אינטליגנטית לפגוע בבני אדם בכל נסיבות. ניתן להשיג זאת על ידי יצירת סימולציה של התנהגות האינטליגנציה המלאכותית וגילוי התנהגות שעלולה להיות מזיקה. על אף התיאוריה המבטיחה, ניתוח נוכחי מראה שאלגוריתם כזה לא יכול להיפתח.

איאד רחוואן הוא המנהל של מרכז האדם והמכונות.

“אם תפרק את הבעיה לכללים בסיסיים ממדעי המחשב התאורטי, מתברר שאלגוריתם שיצווה על אינטליגנציה מלאכותית לא להשמיד את העולם יכול להפסיק בטעות את פעולותיו. אם זה קרה, לא תדע אם אלגוריתם האחידות עדיין מנתח את האיום, או שהוא הפסיק להכיל את האינטליגנציה המלאכותית המזיקה. למעשה, זה הופך את אלגוריתם האחידות לבלתי משמש”, אומר רחוואן.

בעיה נוספת היא שמומחים עשויים לא להבין אפילו מתי מכונה על-אינטליגנטית מגיעה למצב זה, בעיקר בגלל שהיא תהיה חכמה יותר מבני אדם.