בעיית האמינות של האינטליגנציה המלאכותית שאף אחד לא רוצה לדבר עליה

הנרטיב הדומיננטי על אמינות האינטליגנציה המלאכותית הוא פשוט: מודלים מהללים. לכן, על מנת שחברות יוכלו לקבל את התועלת המרבית מהם, המודלים חייבים לשפר. יותר פרמטרים. נתוני אימון טובים יותר. יותר למידת חיזוק. יותר התאמה.

ואף על פי כן, אפילו כאשר מודלים מחדשים הופכים להיות מסוגלים יותר, הדיון על אמינות סרב ללכת. מנהיגי חברות עדיין מהססים לאפשר לסוכנים לבצע פעולות משמעותיות בתוך מערכות ליבה. דירקטוריונים עדיין שואלים: “האם אנו יכולים לבטוח בו?”

אבל הזיות אינן בעיקר בעיה של מודל. הן בעיה של הקשר. אנו מבקשים ממערכות אינטליגנציה מלאכותית לפעול על תשתית חברתית ללא מתן להן את הנראות המבנית הנדרשת כדי להימנע מסיכונים. אז אנו מאשימים את המודל כאשר הוא מנחש.

הפער האמיתי באמינות אינו במשקלות כמו בשכבת המידע.

מנתח ללא הדמיה

תארו לעצמכם מנתח הפועל ללא הדמיה. ללא MRI. ללא CT. ללא ויזואליזציה בזמן אמת של הרקמות הסובבות. רק הבנה כללית של אנטומיה וסכין. אפילו המנתח המיומן ביותר ייאלץ להסיק. להעריך. לסמוך על תהליך היגד.

זה מה שסוכני אינטליגנציה מלאכותית עושים כעת.

כאשר מערכת אינטליגנציה מלאכותית מתבקשת לשנות זרימת עבודה, לעדכן כלל ERP, או להפעיל אוטומציה בין כלים, היא לעיתים רחוקות בעלת גרף תלויות מלא של הסביבה. היא לא יודעת איזה “שדה לא בשימוש” מספק דשבורד מורחב. היא לא רואה איזה אוטומציה מתייחסת לכלל אימות. היא לא יכולה לדמות באופן אמין את ההשפעה המשנית.

כך שהיא עושה מה שמודלים גדולים של שפה מאומנים לעשות: היא מנבאת. ניבוי אינו הבנה. וניבוי ללא הקשר מבני נראה כמו הזיה.

אנו ממשיכים להציג את הוויכוח הלא נכון

קהילת האינטליגנציה המלאכותית הייתה נעולה בשיח מרכז-מודל של אמינות. מאמרים על חוקי הקנה. מחקר על שרשרת מחשבה עם הפעלה. טכניקות אוגמנטציה של אחזור. בנקי מבחן.

הכל הכרחי. הכל שימושי. אבל שימו לב מה חסר: דיון בטופולוגיה של מערכות חברתיות.

אמינות בהקשר חברתי אינה פשוט “המודל מייצר טקסט נכון.” היא “המערכת עושה שינויים שהם בטוחים, ניתנים לע