אחראיות בתכנון – למה AI חייב להיות ראשון לאדם

הבינה המלאכותית משנה את החוויות הדיגיטליות שמגדירות את חיי היומיום שלנו. מהמלצות מוצרים אישיות וטיפול רפואי מונחה, ועד נהיגה אוטונומית ואפילו תורים בפארקי שעשועים, AI הופך את החוויות האלה לזולות, יעילות ואפילו נעימות. לפחות, זהו הבטחתה.

אבל פעמים רבות מדי, אנו נתקלים בכותרות על “כישלונות AI” — רגעים שבהם המשתמשים מרגישים מוטעים, מתוסכלים, או פשוט לא מובנים. וכאשר האמון מתפרק, כך גם הפוטנציאל של AI להיות משמעותי ויעיל באמת.

האמון הציבורי מתפורר. למה? בגלל שרוב המערכות לא תוכננו עם החוויה האנושית בעיני רוח — הן תוכננו למה שמהיר, ניתן להרחבה, ורווחי. זה צריך להיות סיבה לדאגה עבור חברות בכל הגדלים שמשקיעות בהשקעות AI.

כדי לבנות אמון, חברות צריכות לעצור ולשאול שאלות עמוקות יותר: למה אנו בונים את המערכת הזו? האם זה צריך להיבנות בכלל? בקיצור, האם אנו מתכננים AI לשרת את הצרכים האנושיים — או לאלץ אנשים להסתגל ללוגיקת מכונה?

פער האמון עם AI

פעמים רבות מדי, AI מפותח בסביבות טכניות מבודדות, שם ההצלחה מודדת על ידי דיוק או מהירות, ולא השפעה חברתית או שימושיות. חשיבה אתית, רכיב מרכזי של אמון, אינה מובנית אוטומטית בצינור הפיתוח של AI. הניתוק הזה גורם למערכות שעשויות להיות חדשניות בתיאוריה, אבל נופלות קצרות בפועל.

תקחו את הבוט השיחה של Air Canada, שסיפק מידע שגוי ללקוח על מדיניות המחיר שלו, רק כדי שהחברה תטען שהיא לא אחראית למה שאמר הבוט. או את הבוט השיחה של Meta, שהציע הצהרות שגויות מבחינה עובדתית בתוצאות חיפוש. דוגמאות אלה משקפות יותר מתקלות טכניות; הן חושפות כישלון מערכתי לתכנן יישומי AI עם אמפתיה, מעקי בטיחות והקשר עולמי.

הציבור הבחין. על פי מרכז המחקר Pew, 59% מהאמריקאים ו-55% מהמומחים ל-AI הם בעלי אמון מועט או אפסי בחברות אמריקאיות לפיתוח AI אחראי. זהו פער אמון שאיננו יכולים להתעלם.

עיצוב מרכזי לאדם אינו מותרות

עיצוב אינו קישוט ל-AI. הוא מהותי לאיך הוא מתנהג ואיך הוא נתפס על ידי משתמשים. עיצוב מרכזי לאדם מתחיל עם הבנת האנשים שאנו מתכננים עבורם: מטרותיהם, התסכולים, ערכים ומציאות חייהם.

זהו הכרחי במהלך תהליך העיצוב לשאול שאלות מאוד ספציפיות כדי לוודא שהטכנולוגיה משרתת את הצרכים האנושיים, ולא להפך, ומגדירה:

• מי אנו מתכננים עבור?
• מהן מטרותיהם, ערכים ואתגרים?
• כיצד הם מתנהגים עם מערכות באופן רגשי ותפקודי?
• האם המוצר אמין והאם הוא עושה מה שהוא אומר שהוא הולך לעשות?
• האם הוא מקדם שוויון ונגישות עבור כל סוגי אנשים?

שאלות אלו אינן מופשטות. הן מעצבות באופן ישיר את האופן שבו AI מתנהג בטבע. ובהקשרים בעלי סיכונים גבוהים כמו בריאות, ביטחון או חינוך, הן יכולות לקבוע האם מערכת היא כוללנית והוגנת או מבלבלת ומזיקה.

מהו עיצוב טוב יותר

מעצבים גושרים בין צרכים אנושיים ליכולות מכונה דרך תהליך הדגמה, בדיקה ואיטרציה, שמבטיח כי מוצרים משמעותיים עבור אנשים שמשתמשים בהם. זה כולל שאילת שאלות כיצד AI מתקשר, מה החלטות הוא אוטומטי, וכמה שליטה הוא מציע למשתמש.

תקחו פארקי שעשועים כדוגמה. AI מופעל הקיץ הזה כדי להפחית זמני המתנה, לאישור חוויות, ולנהל זרימת המונים. זהו מקרה שימוש מהבטיח. אבל ההצלחה אינה רק על תפוקה. מערכת מעוצבת היטב תעדיף חוויה אנושית, לא רק יעילות. זה אומר הודעות שקופות, ממשקים אינטואיטיביים, אפשרויות ברורות, ואפשרויות חלופיות עבור משתמשים עם צרכים ייחודיים (כמו משפחות ללא סמארטפונים או אורחים עם צרכים מיוחדים).

ההזדמנות כאן אינה רק לאופטימיזציה של פעילות עסקית; זוהי הזדמנות לעלות את השמחה, להפחית חיכוך, וליצור חוויות משותפות שמרגישות קסומות, לא מכניות. זוהי הזדמנות לעיצוב.

בדיקת המרכיב האנושי

בעיצוב AI מרכזי לאדם, בדיקה היא ביקורתית. זה אידיאלי להביא משתמשים פוטנציאליים לתהליך מוקדם ותכופות, במטרה לזהות נקודות עיוור. כאשר משתמשים לא יכולים להבין או לבטוח במערכת, המערכת נכשלה, לא משנה כמה מרשים היא מאחור.

בדיקה גם מבטיחה נגישות, שלרוב אינה מובנית בחוויות AI. בוט שיחה עשוי להיות תפקודי מבחינה טכנית, אבל אם הוא לא משרת משתמשים נוירודיברסיביים או דוברי שפות זרות, הוא לא באמת תפקודי. עיצוב כוללני לא רק מועיל לשוליים; הוא מחזק מוצרים עבור כולם.

אחראיות מתחילה עם עיצוב

מדיניות יכולה לעזור לקבוע גבולות ולמנוע את התוצאות הגרועות ביותר. כך שמסגרות כמו חוק AI של האיחוד האירופי והמסגרת לחוק זכויות AI הן צעדים חשובים. אבל ציות הוא רק הרצפה. עיצוב הוא כיצד אנו מגיעים לתקרה.

חברות חייבות לעבור מעבר לרשימות בדיקה כדי לבנות מערכות AI שתומכות בכבוד, סוכנות ופיקוח. זה אומר להתנגד לדחף לאוטומציה מלאה של שיפוט אנושי, ובמקום זאת לתכנן כלים שמשפרים אותו. AI אחראי לא מוחק את השליטה האנושית; להפך, הוא מגביר אותה.

עבודה זו אינה רק טכנית. היא דורשת צוותים רב-תחומיים של מעצבים, מהנדסים, מומחים למדיניות ואתיקאים, כולם עובדים ביחד מיום ראשון. זה אומר לתכנן עם אנשים, לא רק עבור אנשים.

תפקיד המעצבים בעיצוב AI

מעצבים משחקים תפקיד ייחודי בעיצוב המסלול של AI. הם מתרגמים הדוברים את הלוגיקה המובנית של מכונות ואת המורכבות של חיים אנושיים. מעצבים מאומנים לזהות נקודות חיכוך, אותות רגשיים והשלכות חברתיות שנתונים לבדם לא יכולים לתפוס.

בדומה לשאלות הספציפיות שמבטיחות כי הטכנולוגיה משרתת את הצרכים האנושיים, מעצבים חייבים לתמוך בשאלות שאינן מתאימות בקלות לנתוני אימון, כמו:

• כיצד זה גורם למישהו להרגיש?
• האם המשתמש בשליטה?
• מה קורה כאשר הדברים הולכים לאיבוד?

פעמים רבות מדי, עיצוב מובא בסוף הצינור של AI “להראות טוב”. אבל הכוח האמיתי של עיצוב הוא אסטרטגי. הוא צריך לעצב כיצד בעיות מוגדרות במקום הראשון, לא רק כיצד ממשקים נראים.

אדם ראשון, לא מכונה ראשונה

AI אינו רק אתגר טכני, הוא אתגר עיצוב. וכדי לפתור אותו, אנו חייבים למקד את הערכים האנושיים מההתחלה.

AI מרכזי לאדם אינו מותרות — הוא חובה. הוא יוצר מערכות שהן אמינות, אמינות, לא מוטות, ברות חשבון ומתאימות. אבל יותר מזאת, הוא בונה מוצרים שמועילים למשתמש הסופי ומעלים את הפרודוקטיביות והפוטנציאל האנושי.

יש לנו את הכלים ואנו מחזיקים באחריות לעצב עתיד שבו הטכנולוגיה משרתת אנשים, לא להפך. העתיד הזה מתחיל עם עיצוב.