אנחנו כבר לא מיישרים קו בין בינה מלאכותית. אנחנו מיישרים קו בין ציוויליזציות.

במשך שנים רבות, השאלה המרכזית בבינה מלאכותית (AI) הייתה כיצד ליישר קו בין מודלים של בינה מלאכותית לערכים אנושיים. חוקרים ניסו להגדיר כללי בטיחות, עקרונות אתיים ומנגנוני בקרה המנחים החלטות בתחום הבינה המלאכותית. עבודה זו השיגה התקדמות משמעותית. אך כעת, ככל שמערכות בינה מלאכותית אלו הופכות ליותר מסוגלות ונפוצות, מוקד היישור מתחיל להשתנות. מה שהחל כאתגר של יישור מודל יחיד למערכת הוראות אחת הפך כעת לאתגר גדול בהרבה של יישור בין ציוויליזציות שלמות המשתמשות במערכות אלו בקנה מידה עולמי. בינה מלאכותית אינה עוד רק כלי. היא מתפתחת לסביבה שבה חברות עובדות, מתקשרות, מנהלות משא ומתן ומתחרות. כתוצאה מכך, יישור כבר אינו בעיה טכנית. הוא הפך לבעיה ציוויליזציונית. במאמר זה, אני מסביר מדוע יישור כבר אינו רק מודלים ומדוע עלינו להתחיל לחשוב במונחים של ציוויליזציות במקום של מכונות. אני גם דן כיצד שינוי זה משפיע על האחריות שלנו ומה המשמעות שלו על שיתוף פעולה עולמי.

את הערכים של מי באמת מייצגת הבינה המלאכותית?

אם תשאלו בינה מלאכותית על אירוע היסטורי רגיש, תשובתה תלויה בנתונים שהיא למד. אם הנתונים הללו מגיעים בעיקר מהאינטרנט המערבי, לתשובה תהיה הטיה מערבית. היא תעדיף אינדיבידואליזם, דיבור פתוח ואידיאלים דמוקרטיים. אלו ערכים טובים עבור אנשים רבים. אבל הם לא הערכים היחידים בעולם.

למשתמש בסינגפור, למשתמש בריאד ולמשתמש בסן פרנסיסקו יש הגדרות שונות של מה "מועיל" ומה "מזיק". בתרבויות מסוימות, הרמוניה חברתית חשובה יותר מחופש ביטוי מוחלט. באחרות, כבוד להיררכיה חשוב יותר משיבושים.

כאשר חברה מעמק הסיליקון משתמשת ב"חיזוק למידה ממשוב אנושי"(RLHF), הם שוכרים בני אדם כדי לדרג את תשובות הבינה המלאכותית. אבל מי הם בני האדם האלה? מהן אמונותיהם? אם הם מתאימים את המודל לסטנדרטים אמריקאיים, הם בונים בטעות מוצר יצוא תרבותי אמריקאי. הם בונים דיפלומט דיגיטלי שאוכף את הכללים של ציוויליזציה ספציפית אחת על שאר העולם.

עלייתן של לולאות משוב

האתגר אינו רק שהבינה המלאכותית משקפת אמונות של תרבות אחת. אלא כיצד אמונות אלו יכולות לשנות אותנו. למערכות בינה מלאכותית מודרניות יש פוטנציאל לעצב את התנהגותם של יחידים, ארגונים ואפילו מדינות. הן יכולות להשפיע על האופן שבו אנו חושבים, עובדים, נותנים אמון ומתחרים. זה יוצר לולאות משוב בין מערכות בינה מלאכותית לחברות אנושיות; אנו מאמנים את הבינה המלאכותית והבינה המלאכותית מעצבת את האופן שבו אנו חושבים ופועלים. לולאות אלו מתחזקות ככל שהבינה המלאכותית הופכת נפוצה יותר. כדי לראות כיצד לולאת משוב זו פועלת, הנה שתי דוגמאות:

• פריסה רחבת היקף של בינה מלאכותית משנה התנהגות חברתית, והתנהגות חברתית משנה את הנתונים שמכשירים מערכות חדשות. לדוגמה, אלגוריתם המלצות יכול לעצב את מה שאנשים צופים, קוראים ומאמינים בו. כלי פרודוקטיביות מעצבים מחדש את האופן שבו צוותים משתפים פעולה ואת האופן שבו תלמידים לומדים. שינויים אלה בהתנהגות משנים דפוסי נתונים בצורה של הרגלי צפייה שונים, דפוסי תקשורת במקום העבודה או סגנונות כתיבה. כאשר נתונים אלה זורמים למערכי נתונים עתידיים של הכשרה, המודלים מתאימים את ההנחות והתפוקות שלהם בהתאם. התנהגות אנושית מעצבת את המודלים, והמודלים, בתורם, מעצבים את ההתנהגות האנושית.
• כלי החלטה אוטומטיים משפיעים על מדיניות ציבורית, ומדיניות ציבורית משפיעה על הכשרת מודלים עתידית. לדוגמה, ממשלות רבות משתמשות כיום בבינה מלאכותית כדי להציע היכן להקצות משאבים, כגון זיהוי אילו שכונות זקוקות ליותר תמיכה רפואית או אילו אזורים עשויים להיות בסיכון גבוה יותר לפשיעה. כאשר קובעי מדיניות פועלים על סמך המלצות אלו, תוצאות ההחלטות הללו הופכות מאוחר יותר לחלק ממערכי נתונים חדשים. עם הזמן, החלטות מדיניות המעוצבות על ידי בינה מלאכותית מעצבות בסופו של דבר את הדור הבא של מודלים של בינה מלאכותית.

ברגע שמזהים את לולאת המשוב הזו, מתברר שבינה מלאכותית מעצבת ומיישרת בהדרגה ציוויליזציות. כתוצאה מכך, מדינות מתחילות לשאול: כיצד הן יכולות לשמור על ערכיהן תוך שילוב בינה מלאכותית בחברות ובמוסדות שלהן?

הופעתה של בינה מלאכותית ריבונית

אתגר היישור הזה עורר תגובה משמעותית מצד ממשלות ברחבי העולם. מדינות הבינו שהסתמכות על בינה מלאכותית מיובאת מהווה סיכון לריבונותן. הן אינן יכולות להרשות לעצמן שקופסה שחורה שחושבת כמו זר תחנך, יקבל מידע וייעוץ לאזרחיהן.

הבנה זו הובילה לעליית "בינה מלאכותית ריבוניתצרפת היא השקעה במאמץ רב לבנות מודלים שמדברים צרפתית ומבינים את החוק והתרבות הצרפתית. הודו היא הבניין מודלים מקומיים של בינה מלאכותית כדי להבטיח את ערכיהם התרבותיים. איחוד האמירויות הערביות וסין בונות מודלים של בינה מלאכותית התואמים את החזונות הלאומיים שלהן.

זהו מרוץ החימוש החדש. זהו מרוץ לשליטה בנרטיב. ציוויליזציה שאין לה בינה מלאכותית משלה תאבד בסופו של דבר את הזיכרון שלה. אם ילדיכם ישאלו שאלה של מכונה, והמכונה עונה בהיגיון של תרבות אחרת, התרבות שלכם מתחילה להישחק. עם זאת, הבנה זו עשויה להוביל להיווצרות של בלוקים דיגיטליים נפרדים. ייתכן שנקבל בסופו של דבר בינה מלאכותית מערבית, בינה מלאכותית סינית, בינה מלאכותית הודית וכן הלאה. מערכות אלו יפעלו עם עובדות שונות ומצפנים מוסריים שונים. התפתחויות אלו מבהירות שאם ברצוננו ליצור מודל בינה מלאכותית יחיד ומיושר באמת, עלינו תחילה למצוא דרך ליישר קו בין ציוויליזציות.

צורך בבינה מלאכותית דיפלומטית

יישור מסורתי מניח שניתן ליישר מודל באמצעות אימון קפדני, הנחיות ומעקות בטיחות. חשיבה זו נובעת מהלך החשיבה הטכני של מחקר בטיחות הבינה המלאכותית המוקדם. אך אפילו יישור מושלם ברמת המודל אינו יכול לפתור את האתגרים של יישור ציוויליזציות. היישור אינו יכול להישאר יציב כאשר חברות מושכות לכיוונים מנוגדים. אם למדינות, חברות וקהילות יש מטרות סותרות, הן ידחפו מערכות בינה מלאכותית לשקף את הסכסוכים הללו. מגבלות אלו מראות כי יישור אינו רק בעיה טכנית. זוהי בעיה של ממשל, תרבות ותיאום. ובעיות אלו דורשות לא רק מומחים או מפתחים. הן כוללות ציוויליזציות שלמות.

אז איך אנחנו מתקדמים? אם אנחנו מקבלים שהתיישרדות אוניברסלית היא בלתי אפשרית, אנחנו חייבים לשנות את האסטרטגיה שלנו. אנחנו צריכים להפסיק לחפש פתרון טכני לבעיה פילוסופית. אנחנו צריכים להתחיל לחשוב כמו דיפלומטים. נצטרך לבנות פרוטוקולים ל"התיישרדות ציוויליזציונית". אנחנו צריכים להבין כיצד בינה מלאכותית יכולה לכבד את האמונות והערכים של חברה מבלי לכפות עליה את האמונות של תרבויות אחרות. במילים אחרות, אנחנו צריכים אומות מאוחדות דיגיטליות עבור האלגוריתמים שלנו.

זה דורש שקיפות. נכון לעכשיו, אנחנו לא באמת יודעים אילו ערכים חבויים בתוך השכבות העמוקות של רשת נוירונים. אנחנו רואים רק את הפלט. כדי ליישר קו בין ציוויליזציות, אנחנו צריכים להיות ברורים לגבי ה"חוקה" של כל מודל. מודל צריך להיות מסוגל להצהיר על ההטיה שלו. הוא צריך להיות מסוגל לומר, "אני מאומן על הנתונים האלה, עם כללי הבטיחות האלה, תוך מתן עדיפות לערכים האלה". רק כאשר ההטיה גלויה, נוכל לסמוך על המערכת. משתמש צריך להיות מסוגל לעבור בין נקודות מבט. אתה צריך להיות מסוגל לשאול שאלה ולראות כיצד מודל "מערבי" עונה לעומת כיצד מודל "מזרחי" עונה. זה יהפוך את הבינה המלאכותית לכלי להבנה, ולא לכלי להדרכה.

בשורה התחתונה

בילינו יותר מדי זמן בדאגה לגבי הטרמינייטור. הסיכון האמיתי אינו שרובוט יהרוס אותנו. הסיכון האמיתי הוא שרובוט יגרום לנו לשכוח מי אנחנו. יישור קו אינו קוד שאנחנו יכולים לכתוב פעם אחת ולשכוח. זהו משא ומתן מתמיד עם מודלים של בינה מלאכותית כדי לשמור אותם מיושרים עם האמונות והערכים שלנו. זוהי פעולה פוליטית. כשאנחנו עוברים לשלב הבא של עידן המודיעין, עלינו להסתכל מעבר למסך. עלינו לשקול כיצד בינה מלאכותית מפרשת את ההיסטוריה שלנו, את הגבולות שלנו ואת האמונות שלנו. אנחנו בונים את המוחות שיעזרו לנו לנהל את העולם. עלינו לוודא שהמוחות האלה מכבדים את ההבדלים בין הציוויליזציות.