אתיקה וטכנולוגיה: האם AI זקוק לטייס בפיקוד?

סיכום: התקדמויות בטכנולוגיית AI שיחתית דורשות איזון זהיר של אינטרסים שמעודדים חדשנות בעודם מפחיתים את ההשפעות המזיקות הפוטנציאליות.

המשיכה של AI שיחתית

שיחרור ChatGPT-3 תפס עניין בלתי מוכר עם יותר מ-100 מיליון משתמשים פעילים בחודש.

צרכנים וארגונים כאחד מכירים בכך שהתקדמויות ב-AI שיחתית יכולות להפוך כמעט כל אספקט של חיינו האישיים והתקשורת המקצועית. יישום מתקדם של ChatGPT-3 של למידה עמוקה יוצר שיחות אנושיות משכנעות עם תוצאות מרשימות. בבדיקות אחרונות ChatGPT-3 עבר בחינת רישוי רפואית בארצות הברית ובחינת MBA מאחד מבתי הספר לעסקים היוקרתיים ביותר.

היתרונות העסקיים של AI שיחתית עצומים, כך ש-Microsoft השקיעה 10 מיליארד דולר ב-Open AI כדי לאיצור יישומים מסחריים של ChatGPT-3. Microsoft מתכננת ל“לשדרג” את מוצריה עם יכולות השיחה של ChatGPT-3.

התלהבות לא רציונלית

אבל בואו נישום עמוק לפני שניתנו לטכנולוגיה המהפכנית הזו להתקדם מעבר לעצמנו. יישום הפוטנציאל, למרות היתרונות, ChatGPT-3 עדיין בשלב התינוקות עם, באופן מודע, לא מעט חסרונות. התלהבותנו עלולה להיות מוקדמת מדי. בהיעדר ניתוח משמעותי, אימוץ בלתי מרוסן של AI שיחתית ללא מעקב רגולטורי ופיקוח אנושי יכול להוביל אותנו לעולם דיסטופי, כפי שצפה הסופר האנגלי אלדוס האקסלי. תלות רבה מדי בטכנולוגיה ללא הבנת ההשפעות הסוציו-כלכליות יכולה להיות בעלת השלכות חמורות, אם כי לא מכוונות, כגון תעסוקה, חינוך, כלליות והוגנות.

בסוף, בעוד Chat-GPT-3 הוא צעד קדימה, היכולות “קוגניטיביות” שלו מבוססות על סטים קיימים של נתונים, עם הטיות מובנות שיכולות להתגבר ולהוביל למגוון רחב של נזקים פוטנציאליים. ChatGPT-3 הוא בעל “צד אפל” שראוי לדאוג וללחוץ על כפתור הפסק קודם להפצה נוספת של טכנולוגיה משמעותית כזו.

סיכון או הזדמנות?

יש צורך באיזון בין הסיכונים הקשורים ליישום AI שיחתית וההזדמנויות הפוטנציאליות שלו. אם יושם באופן מחשב, עם רגולציה משמעותית של AI שלוקחת בחשבון גישה מבוססת סיכונים עם פיקוח רב, אזי היתרונות הפוטנציאליים של AI שיחתית יכולים להתממש. יש להטמיעו כשותפות מרכזית אנושית עם יישומים של AI שיחתית שמעשירים את חווית העבודה. כמו כל החדשנויות שקדמו לו, AI הוא בעל פוטנציאל ליצירת צורך במיומנויות חדשות ולהפוך עבודות מסוימות למעניינות יותר.

מהו התפקיד של המחוקק?

הדמוקרטיזציה של טכנולוגיות AI משמעות שרשויות ציבוריות חייבות לקחת תפקיד פעיל ברגולציה של השימוש בהן. החששות הקשורים לחדשנויות מהפכניות הם ממשיים. למרות היכולות, AI נותר תלוי בבני אדם, הן לשימוש בו והן לרגולציה שלו. חייב להיות אכן טייס בפיקוד, אנחנו רק לא יודעים בדיוק לאיזו כיוון הוא מתכוון. יש תאוצה גוברת לרגולציה מקיפה של AI, בעיקר, הטיוטה של חוק AI של האיחוד האירופי. עם האימוץ האובר-קוורטילי של AI שיחתית, כגון ChatGPT-3, התאוצה לרגולציה וממשל ריגורוזית גדלה עם האיחוד האירופי כדי לוודא שימושים מסוימים של AI שיחתית לא יותר להפר את הזכויות האנושיות הבסיסיות.