כאשר AI נכנס למבצעים, הסברתיות הופכת לבלתי ניתנת למיקוח

אימוץ AI של ארגונים הגיע לשלב מעשי יותר. עבור מנהיגי טכנולוגיה, האתגר אינו עוד לשכנע את הארגון ש- AI הוא בעל פוטנציאל. הוא להבטיח שמערכות המשפיעות על החלטות מבצעיות יכולות להיות מובנות, מוסדרות ומוגנות.

AI זוכה במקומו בארגון כאשר אנשים מוכנים לסמוך עליו. האמון הזה אינו בנוי רק על סטטיסטיקות ביצועים. הוא תלוי בכך שצוותים מרגישים שהם שומרים על השליטה כאשר אוטומציה הופכת לחלק מן הזרימה היומית.

בארגונים רבים, תחושה זו של שליטה נותרת בלתי בטוחה.

למה אופקיות מאטה אימוץ

AI כעת משובצת ברחבי IT operations, מניתוב בקשות שירות לקישור תקלות ותכנון קיבולת. אלה הם סביבות שבהן החלטות הן מחוברות וטעויות מתגברות במהירות. כאשר פלטי AI מופיעים ללא הקשר, צוותים רבים נמנעים. אוטומציה עשויה להיות מוטמעת באופן טכני, אך המלצותיה מאומתות, מעוכבות או מושתקות בשקט.

התנהגות זו רבות מוטעית כהתנגדות לשינוי. במציאות, היא משקפת אחריות מקצועית בסביבות מבצעיות בעלות סיכון גבוה. דוגמאות ציבוריות של כישלון AI חידדו את הזהירות הזו. כאשר מערכות אוטומטיות מייצרות פלטים שנראים בטוחים אך מוכחים כשגויים, הנזק הוא לרוב לא נגרם על ידי שאיפה בלבד. הוא נובע מאופקיות. אם אף אחד לא יכול להסביר כיצד הגיעו למסקנה, האמון מתבטל, אפילו אם המערכת בדרך כלל מדויקת.

בתוך צוותי IT, הדבר מתבטא בעדינות. אוטומציה פועלת במצב ייעוץ ולא במצב ביצוע. מהנדסים נותרים אחראים לתוצאות, אך מצפים מהם לבטוח בהיגיון שאינם יכולים לבדוק. עם הזמן, אי-האיזון הזה יוצר חיכוך. ה- AI נוכח, אך הערך שלו מוגבל.

תהליך AI שקוף

שקיפות רבה יותר והסברתיות יכולות לפתור בעיה זו על ידי החזרת אחריות לקבלת החלטות אוטומטית. AI הסברי אינו משמעו חשיפת כל חישוב פנימי. הוא משמעו מתן תובנה הרלוונטית למופעלים אנושיים; איזה נתונים השפיעו על החלטה, איזה תנאים נשאו משקל הכבד ביותר, וכיצד רמות הביטחון נבדקו. הקשר הזה מאפשר לצוותים לשפוט האם הפלט תואם את המציאות המבצעית.

ידוע גם כ- AI “white-box”, AI הסברי יוצר שכבה פרשנית המסבירה כיצד החלטות AI התקבלו, ולא משאיר את התהליכים והלוגיקה מוסתרים מהעין. זה אינו רק משמעו שמערכות AI יכולות להפוך לחלק ממסגרת אחראית יותר, אלא גם שמשתמשים מבינים כיצד כל מערכת עובדת. זה גם משמעו שיכולים לזהות פגיעויות של מודלי AI ולהגן נגד הטיות.

בעל חשיבות, הסברתיות משמעו שכאשר משהו הולך לאיבוד, צוותים יכולים לעקוב אחר נתיב ההיגיון, לזהות אותות חלשים, ולשפר את התהליך. בלי נראות כזו, שגיאות הן הן חוזרות על עצמן או מוחמצות לחלוטין על ידי השבתת אוטומציה.

הסברתיות בפעולה

ניתן לשקול ניהול תקלות. AI משמש לעיתים קרובות לקבוצת אזעקות ולהציע סיבות אפשריות. בסביבות ארגוניות גדולות, תלות מוטעית יחידה במהלך תקלה גדולה יכולה לעכב את הפתרון בשעות, ולמשוך צוותים מרובים לחקירות מקבילות, בעוד ששירותים המוצגים ללקוחות נותרים מופחתים. כאשר הצעות אלו מלוות בהסבר ברור של אילו מערכות היו מעורבות, כיצד תלויות הוגדרו או אילו תקלות קודמות הותייחסו, מהנדסים יכולים לשפוט את ההמלצה במהירות. אם זה מתברר כטעות, התובנה הזו יכולה לשמש לשפר את המודל ואת התהליך.

בלי תמונה זו, צוותים חוזרים לאבחון ידני, ללא קשר למה ה- AI מתקדם.

מעגל המשוב הזה הוא מרכזי לאימוץ מתמשך. מערכות הסבריות מתפתחות לצד האנשים שמשתמשים בהן. מערכות black-box, לעומת זאת, נוטות להתבטל או להיות מושתקות פעם אחת שהאמון יורד.

אחריות ובעלות

הסברתיות משנה גם את האופן שבו אחריות מחולקת. בסביבות מבצעיות, אחריות אינה נעלמת פשוט משום שהחלטה הואוטומטית. מישהו עדיין צריך לעמוד מאחורי התוצאה. כאשר AI יכול להסביר את עצמו, אחריות הופכת לברורה וניתנת לניהול יותר. החלטות יכולות להיבדק, להיטען, ולשופר, ללא צורך בפתרונות עקיפים.

יש גם יתרון שלטון, אם כי זה לעיתים רחוקות המניע העיקרי. מסגרות קיימות של הגנה על נתונים ואחריות דורשות כבר מארגונים להסביר החלטות אוטומטיות בהקשרים מסוימים. ככל שהרגולציה הספציפית ל- AI ממשיכה להתפתח, מערכות שחסרות שקיפות עלולות לחשוף ארגונים לסיכון לא הכרחי.

עם זאת, הערך הגדול יותר של הסברתיות טמון בעמידות ולא בציות. צוותים שמבינים את מערכותיהם מתאוששים מהר יותר. הם מפתרים תקלות ביעילות רבה יותר, ומבלים פחות זמן בוויכוח האם אוטומציה צריכה להיות מוטמעת במקום הראשון.

תכנון AI למצוינות מבצעית

מהנדסים מאומנים לערער על הנחות, לבדוק תלויות, ולבדוק תוצאות. כאשר אוטומציה תומכת באינסטינקטים האלה במקום לעקוף אותם, אימוץ הופך לשיתופי וחלק מהתהליך ולא מבנה מושתת.

יש, בלתי נמנע, עלות לבניית מערכות בדרך הזו. AI הסברי דורש פרקטיקות נתונים ממושמעות, בחירות עיצוב מחשבות, וצוותים מיומנים שיכולים לפרש פלטים באופן אחראי. הוא עשוי לא להתרחב במהירות כמו מודלים אטומים המותאמים למהירות או חדשנות. עם זאת, החזר ההשקעה הוא יציבות.

ארגונים שמעדיפים הסברתיות רואים פחות יוזמות מוקפאות ופחות קבלת החלטות בצל. אוטומציה הופכת לשכבה מהימנה בתוך המבצעים, ולא לניסוי מקביל הרץ בבידוד. זמן לערך משתפר לא כי מערכות מהירות יותר, אלא כי צוותים מוכנים להשתמש בהן לחלוטין.

התרחבות אחראית

ככל ש- AI הופך למאפיין קבוע בתשתית הארגונית, הצלחה תוגדר פחות על ידי שאיפה ויותר על ידי אמינות. מערכות שיכולות להסביר את החלטותיהן הן קלות יותר לבטוח, קלות יותר לשפר, וקלות יותר לעמוד מאחוריהן כאשר תוצאות מוטלות בספק.

בסביבות מבצעיות, אינטליגנציה רק מתרחבת כאשר הבנה מקבילה לאוטומציה.