AI ניתן להסבר באמצעות נוסחאות בוליאניות אקספרסיביות

הפיצוץ ביישומי בינה מלאכותית (AI) ולמידת מכונה מחלחל כמעט לכל תעשייה ופרוסת חיים.

אבל הצמיחה שלו לא באה בלי אירוניה. בעוד ש-AI קיים כדי לפשט ו/או להאיץ קבלת החלטות או תהליכי עבודה, המתודולוגיה לעשות זאת היא לרוב מורכבת ביותר. ואכן, כמה אלגוריתמים של למידת מכונה של "קופסה שחורה" הם כל כך מורכבים ורב-פנים שהם יכולים להתנגד להסבר פשוט, אפילו על ידי מדעני המחשב שיצרו אותם.

זה יכול להיות די בעייתי כאשר מקרי שימוש מסוימים - כמו בתחומי הפיננסים והרפואה - מוגדרים על ידי שיטות עבודה מומלצות בתעשייה או תקנות ממשלתיות הדורשות הסברים שקופים על פעולתם הפנימית של פתרונות AI. ואם יישומים אלה אינם אקספרסיביים מספיק כדי לעמוד בדרישות ההסבר, הם עלולים להפוך לחסרי תועלת ללא קשר ליעילותם הכוללת.

כדי להתמודד עם החידה הזו, הצוות שלנו ב- מרכז נאמנות לטכנולוגיה יישומית (FCAT) - בשיתוף עם מעבדת הפתרונות הקוואנטים של אמזון - הציע והטמיע מודל למידת מכונה בר-פירוש עבור AI (XAI) המבוסס על נוסחאות בוליאניות אקספרסיביות. גישה כזו יכולה לכלול כל אופרטור שניתן להחיל על משתנה בוליאני אחד או יותר, ובכך לספק ביטוי גבוה יותר בהשוואה לגישות נוקשות יותר מבוססות כללים ומבוססות עצים.

אתה יכול לקרוא את נייר מלא כאן לפרטים מקיפים על פרויקט זה.

ההשערה שלנו הייתה שמכיוון שמודלים - כמו עצי החלטה - יכולים להיות עמוקים וקשים לפירוש, הצורך למצוא כלל אקספרסיבי עם מורכבות נמוכה אך דיוק גבוה היה בעיית אופטימיזציה בלתי פתירה שהייתה צריכה להיפתר. יתרה מכך, על ידי פישוט המודל באמצעות גישת XAI מתקדמת זו, נוכל להשיג יתרונות נוספים, כגון חשיפת הטיות שחשובות בהקשר של שימוש אתי ואחראי ב-ML; תוך כדי קל יותר לתחזק ולשפר את הדגם.

הצענו גישה המבוססת על נוסחאות בוליאניות אקספרסיביות מכיוון שהן מגדירות כללים בעלי מורכבות (או ניתנות לפירוש) שלפיהם נתוני קלט מסווגים. נוסחה כזו יכולה לכלול כל אופרטור שניתן להחיל על משתנה בוליאני אחד או יותר (כגון And או AtLeast), ובכך לספק ביטוי גבוה יותר בהשוואה למתודולוגיות נוקשות יותר מבוססות כללים ומבוססות עצים.

בבעיה זו יש לנו שתי מטרות מתחרות: מקסום את ביצועי האלגוריתם, תוך מזעור מורכבותו. לפיכך, במקום לנקוט בגישה האופיינית של יישום אחת משתי שיטות אופטימיזציה - שילוב של יעדים מרובים לאחד או הגבלת אחת מהיעדים - בחרנו לכלול את שתיהן בניסוח שלנו. בכך, וללא אובדן כלליות, אנו משתמשים בעיקר בדיוק מאוזן כמדד הביצועים הכולל שלנו.

כמו כן, על ידי הכללת מפעילים כמו AtLeast, הונענו מהרעיון לתת מענה לצורך ברשימות ביקורת ניתנות לפירוש, כגון רשימה של תסמינים רפואיים המסמלים מצב מסוים. ניתן להעלות על הדעת שהחלטה תתקבל על ידי שימוש ברשימת תסמינים כזו, באופן שבו יצטרך להיות מספר מינימלי לאבחנה חיובית. באופן דומה, בפיננסים, בנק יכול להחליט אם לתת אשראי ללקוח או לא על סמך נוכחותם של מספר מסוים של גורמים מתוך רשימה גדולה יותר.

הטמענו בהצלחה את מודל ה-XAI שלנו, וסמנו אותו בכמה מערכי נתונים ציבוריים עבור אשראי, התנהגות לקוחות ומצבים רפואיים. מצאנו שהמודל שלנו בדרך כלל תחרותי עם חלופות ידועות אחרות. מצאנו גם שמודל ה-XAI שלנו יכול להיות מופעל על ידי חומרה או מכשירים קוונטיים למטרות מיוחדות לפתרון תכנות ליניארי שלם (ILP) או אופטימיזציה בינארית ריבועית ללא הגבלה (QUBO). התוספת של פותרי QUBO מפחיתה את מספר האיטרציות - ובכך מובילה להאצה על ידי הצעה מהירה של מהלכים לא מקומיים.

כפי שצוין, מודלים של AI הניתנים להסבר המשתמשים בנוסחאות בוליאניות יכולים להיות בעלי יישומים רבים בתחום הבריאות ובתחום הפיננסים של Fidelity (כגון ניקוד אשראי או להעריך מדוע ייתכן שלקוחות מסוימים בחרו מוצר בעוד שאחרים לא בחרו). על ידי יצירת כללים אלה הניתנים לפירוש, אנו יכולים להגיע לרמות גבוהות יותר של תובנות שיכולות להוביל לשיפורים עתידיים בפיתוח או חידוד המוצר, כמו גם אופטימיזציה של מסעות פרסום שיווקיים.

בהתבסס על הממצאים שלנו, קבענו ש-Explainable AI תוך שימוש בנוסחאות בוליאניות אקספרסיביות מתאים ורצוי לאותם מקרי שימוש המחייבים הסבר נוסף. בנוסף, ככל שהמחשוב הקוונטי ממשיך להתפתח, אנו צופים הזדמנות להשיג מהירות פוטנציאלית על ידי שימוש בו ובמאיצי חומרה מיוחדים אחרים.

עבודה עתידית עשויה להתרכז ביישום מסווגים אלה על מערכי נתונים אחרים, הצגת אופרטורים חדשים, או יישום מושגים אלה על מקרי שימוש אחרים.