AI והמאבק בטכנופוביה

כשמדובר ב-AI Generative ומודלים של שפה גדולה, כמו ChatGPT. התלהבות בינה מלאכותית מעורבת בטכנופוביה. זה טבעי לציבור הרחב: הם אוהבים דברים חדשים ומלהיבים, אבל הם מפחדים מהלא נודע. הדבר החדש הוא שכמה מדענים בולטים הפכו לעצמם סקפטיים לטכנו, אם לא לטכנופובים. המקרה של המדענים והתעשיינים המבקשים לאסור שישה חודשים על מחקר בינה מלאכותית, או הספקנות של מדען ה-AI הבכיר פרופ' א. הינטון, הם דוגמאות כאלה. המקבילה ההיסטורית היחידה שאני יכול לזכור היא הביקורת על פצצות אטום ופצצות גרעיניות מצד חלק מהקהילה המדעית במהלך המלחמה הקרה. למרבה המזל, האנושות הצליחה לטפל בחששות הללו בצורה מספקת למדי.

כמובן שלכל אחד יש את הזכות להטיל ספק במצב הנוכחי של ענייני בינה מלאכותית:

• אף אחד לא יודע למה מודלים של שפה גדולה עובדים כל כך טוב ואם יש להם גבול.
• סכנות רבות שהחבר'ה הרעים יוצרים 'פצצות AI' אורבות, במיוחד אם המדינות נשארות עוברי אורח פסיביים, מבחינת התקנות.

אלה חששות לגיטימיים שמתדלקים את הפחד מהלא נודע, אפילו אצל מדענים בולטים. אחרי הכל, הם בעצמם בני אדם.

עם זאת, האם מחקר בינה מלאכותית יכול להיעצר אפילו באופן זמני? לדעתי, לא, שכן בינה מלאכותית היא התגובה של האנושות לחברה גלובלית ולעולם פיזי של מורכבות הולכת וגוברת. מכיוון שתהליכי הגברת המורכבות הפיזית והחברתית עמוקים מאוד ונראים בלתי פוסקים, בינה מלאכותית ומורפוזה של אזרחים הם התקווה היחידה שלנו למעבר חלק מחברת המידע הנוכחית לחברת ידע. אחרת, אנו עלולים לעמוד בפני קריסה חברתית קטסטרופלית.

הפתרון הוא להעמיק את ההבנה שלנו לגבי התקדמות הבינה המלאכותית, להאיץ את הפיתוח שלה, לווסת את השימוש בה כדי למקסם את ההשפעה החיובית שלה, תוך צמצום השפעות השליליות שכבר ברורות כבר ושאר ההשפעות השליליות הנסתרות. מחקר בינה מלאכותית יכול וצריך להיות שונה: פתוח יותר, דמוקרטי, מדעי ואתי יותר. להלן רשימה מוצעת של נקודות לשם כך:

• יש להאציל את המילה הראשונה בנושאי מחקר חשובים בינה מלאכותית שיש להם השפעה חברתית מרחיקת לכת לפרלמנטים ולממשלות נבחרות, במקום לתאגידים או למדענים בודדים.
• יש לעשות כל מאמץ כדי להקל על חקירת ההיבטים החיוביים של AI בהתקדמות חברתית ופיננסית ולמזער את ההיבטים השליליים שלה.
• ההשפעה החיובית של מערכות בינה מלאכותית יכולה לעלות בהרבה על ההיבטים השליליים שלהן, אם ננקטים צעדים רגולטוריים מתאימים. טכנופוביה אינה מוצדקת, ואינה פתרון.
• לדעתי, האיום הגדול ביותר הנוכחי נובע מהעובדה שמערכות בינה מלאכותיות כאלה יכולות להונות מרחוק יותר מדי אנשים פשוטים שיש להם השכלה מועטה (או ממוצעת) ו/או יכולת חקירה מועטה. זה יכול להיות מסוכן ביותר לדמוקרטיה ולכל צורה של התקדמות חברתית-כלכלית.
• בעתיד הקרוב, עלינו להתמודד עם האיום הגדול הנובע משימוש ב-LLM ו/או ב-CAN בפעילויות לא חוקיות (רמאות במבחנים באוניברסיטה היא שימוש שפיר למדי במרחב של האפשרויות הפליליות הקשורות לכך).
• השפעתם על העבודה והשווקים תהיה חיובית מאוד, בטווח הבינוני-ארוך.
• לאור האמור לעיל, מערכות בינה מלאכותיות צריכות: א) להידרש על פי החוק הבינלאומי להיות רשומות ב'מרשם מערכת AI', וב) להודיע ​​למשתמשים שלהן שהם משוחחים עם או משתמשים בתוצאות של מערכת AI.
• מכיוון שלמערכות בינה מלאכותית יש השפעה חברתית עצומה, ולקראת מקסום התועלת והתקדמות חברתית-כלכלית, טכנולוגיות מפתח מתקדמות של מערכות בינה מלאכותיות צריכות להיות פתוחות.
• נתונים הקשורים לבינה מלאכותית צריכים לעבור דמוקרטיזציה (לפחות חלקית), שוב למען מקסום התועלת והתקדמות חברתית-כלכלית.
• יש לחזות תוכניות פיצוי פיננסי חזקות נאותות עבור אלופי טכנולוגיית בינה מלאכותית כדי לפצות על כל אובדן רווח, בשל הפתיחות האמורה וכדי להבטיח השקעות עתידיות חזקות במו"פ בינה מלאכותית (למשל, באמצעות פטנטים טכנולוגיים, תוכניות רישוי חובה).
• יש לחשוב מחדש על מאזן המחקר בינה מלאכותית בין האקדמיה לתעשייה כדי למקסם את תפוקת המחקר, תוך שמירה על תחרותיות והענקת תגמולים עבור סיכוני מו"פ שבוצעו.
• יש לבחון מחדש את שיטות החינוך בכל רמות החינוך כדי למקסם את התועלת מטכנולוגיות בינה מלאכותית, תוך יצירת זן חדש של אזרחים ומדענים (AI) יצירתיים ובעלי הסתגלות.
• יש ליצור ולחזק מנגנוני רגולציה/פיקוח/מימון מתאימים של AI כדי להבטיח את האמור לעיל.

מספר נקודות כאלה מטופלות בפירוט בספר האחרון שלי בכרכים 4 על 'מדע וחברה של בינה מלאכותית', במיוחד בכרכים א' (ששוכתבו במאי 2023 כדי לכסות לימודי LLM ואינטליגנציה כללית מלאכותית) ו-C.

הפניות לספרים:

מדע וחברה של בינה מלאכותית חלק א': מבוא למדע AI וטכנולוגיית מידע

מדע וחברה של בינה מלאכותית חלק ג': AI מדע וחברה