מנהיגי AI מהתרים ב’סיכון של הכחדה’

בעידן המסומן בקידום טכנולוגי מהיר, עליית האינטליגנציה המלאכותית (AI) עומדת בחזית החדשנות. עם זאת, פלא זה של התבונה האנושית שמניע התקדמות ונוחות גם מעלה חששות קיומיים לעתיד האנושות, כפי שהביעו מנהיגים בולטים בתחום ה-AI.

המרכז לבטיחות AI פרסם לאחרונה הצהרה, שזכתה לתמיכת חלוצי התעשייה כמו Sam Altman של OpenAI, Demis Hassabis של Google DeepMind, ו-Dario Amodei של Anthropic. המסר הוא ברור – הסיכון הממשמש ובא להכחדת האדם עקב AI צריך להיות עדיפות גלובלית. הטענה עוררה דיונים בקהילת ה-AI, כאשר חלק מהם דוחים את החששות כמוגזמים, בעוד אחרים תומכים בקריאה לזהירות.

התחזיות הקשות: הפוטנציאל של AI לאסון

המרכז לבטיחות AI מתאר מספר תרחישים של אסון פוטנציאליים הנובעים משימוש לרעה או צמיחה בלתי נשלטת של AI. ביניהם, הנשקיזציה של AI, ערעור החברה דרך מידע כוזב שנוצר על ידי AI, והשליטה המונופוליסטית ההולכת וגוברת על טכנולוגיית AI, ובכך מאפשרת מעקב המוני וצנזורה מדכאת.

התרחיש של החלשות גם מוזכר, שבו בני אדם עלולים להיות תלויים מדי ב-AI, בדומה למצב המתואר בסרט Wall-E. תלות זו עלולה להפוך את האנושות לפגיעה, ומעלה שאלות אתיות וקיומיות רציניות.

ד”ר ג’פרי הינטון, דמות מוערכת בתחום ותומך קולני באזהרות לגבי AI על-אינטליגנטי, תומך באזהרת המרכז, לצד Yoshua Bengio, פרופסור למדעי המחשב באוניברסיטת מונטריאול.

קולות מחאה: הוויכוח על הנזק הפוטנציאלי של AI

לעומת זאת, קיימת חלק משמעותית בקהילת ה-AI שרואה באזהרות אלו כמוגזמות. Yann LeCun, פרופסור ב-NYU וחוקר AI ב-Meta, הביע את תסכולו מ’נבואות הדומסדיי’. מבקרים טוענים כי תחזיות קטסטרופליות אלו מסיחות את הדעת מבעיות AI קיימות, כגון הטיה מערכתית ושיקולים אתיים.

Arvind Narayanan, מדען מחשב באוניברסיטת פרינסטון, הציע כי יכולות ה-AI הנוכחיות הן רחוקות מתרחישי האסון המתוארים לעיתים קרובות. הוא הדגיש את הצורך להתמקד בנזקים הקיימים הקשורים ל-AI.

באופן דומה, Elizabeth Renieris, עמיתת מחקר בכירה במכון לאתיקה של AI באוקספורד, שיתפה חששות בנוגע לסיכונים בטווח הקרוב, כגון הטיה, קבלת החלטות מפלית, הפצת מידע כוזב וחלוקה חברתית כתוצאה מקידום ה-AI. נטייתו של AI ללמוד מתוכן שנוצר על ידי בני אדם מעלה חששות בנוגע להעברת עושר וכוח מהציבור לידי מספר מועט של ישויות פרטיות.

מאזניים: ניווט בין דאגות נוכחיות לסיכונים עתידיים

בעודו מכיר בגיוון הדעות, Dan Hendrycks, המנהל של המרכז לבטיחות AI, הדגיש כי טיפול בבעיות הנוכחיות יכול לספק מפה דרכים למיתון סיכונים עתידיים. המטרה היא למצוא איזון בין ניצול הפוטנציאל של AI לבין התקנת אמצעי בטיחות למניעת שימוש לרעה.

הוויכוח על האיום הקיומי של AI אינו חדש. הוא קיבל תאוצה כאשר מומחים רבים, כולל Elon Musk, חתמו על מכתב פתוח במרץ 2023, הקורא להפסקת פיתוח טכנולוגיית AI הדור הבא. הדיון התפתח מאז, עם דיונים אחרונים המשווים את הסיכון הפוטנציאלי לזה של מלחמת גרעין.

הדרך הקדימה: זהירות ואמצעי רגולטוריים

ככל ש-AI ממשיך למלא תפקיד מרכזי בחברה, הוא מהווה חרב פיפיות. הוא מבטיח הבטחות עצומות לקידמה, אך גם מציג סיכונים קיומיים אם לא ייבדק. הדיון סביב הסכנה הפוטנציאלית של AI מדגיש את הצורך בשיתוף פעולה גלובלי בהגדרת קווים מנחים אתיים, יצירת אמצעי בטיחות חזקים, והבטחת גישה אחראית לפיתוח ושימוש ב-AI.