AI גנרטיבי בתעשיית הבריאות זקוק למנה של הסבר

המהירות המדהימה שבה כלי בינה מלאכותית מחוללת מבוססי טקסט יכולים להשלים משימות כתיבה ותקשורת ברמה גבוהה, תפסה עניין בקרב חברות וצרכנים כאחד. אבל התהליכים שמתרחשים מאחורי הקלעים כדי לאפשר את היכולות המרשימות הללו עלולים להפוך את זה למסוכן לתעשיות רגישות בפיקוח ממשלתי, כמו ביטוח, פיננסים או שירותי בריאות, למנף בינה מלאכותית גנרטיבית מבלי לנקוט משנה זהירות.

כמה מהדוגמאות הממחישות ביותר לכך ניתן למצוא בתעשיית הבריאות.

בעיות כאלה קשורות בדרך כלל למערכי הנתונים הנרחבים והמגוונים המשמשים לאימון מודלים של שפה גדולה (LLMs) - המודלים שכלי AI מחוללים מבוססי טקסט ניזונים מהם כדי לבצע משימות ברמה גבוהה. ללא התערבות חיצונית מפורשת של מתכנתים, LLMs אלה נוטים לגרד נתונים ללא הבחנה ממקורות שונים ברחבי האינטרנט כדי להרחיב את בסיס הידע שלהם.

גישה זו מתאימה ביותר למקרי שימוש מוכווני צרכן בסיכון נמוך, שבהם המטרה הסופית היא להפנות לקוחות להצעות רצויות בדיוק. עם זאת, יותר ויותר מערכי נתונים גדולים והמסלולים המבולבלים שבאמצעותם מודלים של AI מייצרים את התפוקות שלהם מסתירים את הסבר שבתי חולים וספקי שירותי בריאות דורשים להתחקות ולמנוע אי דיוקים פוטנציאליים.

בהקשר זה, יכולת הסבר מתייחסת ליכולת להבין את מסלולי ההיגיון של כל LLM נתון. אנשי מקצוע בתחום הבריאות המעוניינים לאמץ כלים מסייעים בינה מלאכותית בינה מלאכותית חייבים להיות בעלי האמצעים להבין אֵיך המודלים שלהם מניבים תוצאות כך שהמטופלים והצוות מצוידים בשקיפות מלאה לאורך תהליכי קבלת החלטות שונים. במילים אחרות, בתעשייה כמו שירותי בריאות, שבה חיים על הפרק, ההימור פשוט גבוה מכדי שאנשי מקצוע יוכלו לפרש לא נכון את הנתונים המשמשים להכשרת כלי הבינה המלאכותית שלהם.

למרבה המזל, יש דרך לעקוף את חידת ההסבר של הבינה המלאכותית הגנרטיבית - זה רק דורש קצת יותר שליטה ומיקוד.

מסתורין וספקנות

ב-AI גנרטיבי, הרעיון של הבנת האופן שבו LLM מגיע מנקודה A - הקלט - לנקודה B - הפלט - הוא הרבה יותר מורכב מאשר עם אלגוריתמים לא-גנרטיביים הפועלים לאורך תבניות מוגדרות יותר.

כלי AI גנרטיבי יוצרים אינספור חיבורים תוך מעבר מקלט לפלט, אבל למתבונן מבחוץ, איך ומדוע הם יוצרים כל סדרת חיבורים נתונה נותרה בגדר תעלומה. ללא דרך לראות את 'תהליך החשיבה' שלוקח אלגוריתם בינה מלאכותית, למפעילים אנושיים אין אמצעי יסודי לחקור את ההיגיון שלו ומעקב אחר אי דיוקים פוטנציאליים.

בנוסף, מערכי הנתונים המתרחבים בהתמדה המשמשים אלגוריתמי ML מסבכים עוד יותר את יכולת ההסבר. ככל שמערך הנתונים גדול יותר, כך גדל הסיכוי שהמערכת תלמד הן ממידע רלוונטי והן ממידע לא רלוונטי ותפלוט "הזיות AI" - שקר החורגים מעובדות חיצוניות והיגיון הקשרי, ככל שיהיה משכנע.

בתעשיית הבריאות, תוצאות פגומות מסוג זה עלולות לעורר שלל בעיות, כגון אבחנות שגויות ומרשמים שגויים. מלבד השלכות אתיות, משפטיות וכספיות, טעויות כאלה עלולות לפגוע בקלות במוניטין של ספקי שירותי הבריאות והמוסדות הרפואיים שהם מייצגים.

לכן, למרות הפוטנציאל שלו לשפר את ההתערבויות הרפואיות, לשפר את התקשורת עם המטופלים ולחזק את היעילות התפעולית, בינה מלאכותית יצירתית בתחום הבריאות נשארת אפוף ספקנות, ובצדק – 55% מהרופאים לא מאמינים שהוא מוכן לשימוש רפואי ו-58% אינם סומכים עליו לחלוטין. ובכל זאת ארגוני בריאות כן דוחפים קדימה, כאשר 98% משלבים או מתכננים אסטרטגיית פריסת בינה מלאכותית בניסיון לקזז את ההשפעה של המחסור המתמשך בכוח אדם במגזר.

שליטה במקור

תעשיית הבריאות נתפסת לעתים קרובות על הרגל האחורית באקלים הצרכני הנוכחי, אשר מעריך יעילות ומהירות על פני הבטחת אמצעי בטיחות מכוסים ברזל. חדשות אחרונות סביב המלכודות של גירוד נתונים כמעט בלתי מוגבל עבור אימון LLMs, מה שמוביל תביעות בגין הפרת זכויות יוצרים, העלה את הנושאים הללו לקדמת הבמה. חברות מסוימות מתמודדות גם עם טענות לפיהן הנתונים האישיים של האזרחים נכרו כדי להכשיר את המודלים של השפה הללו, מה שעלול להפר את חוקי הפרטיות.

מפתחי בינה מלאכותית לתעשיות בפיקוח גבוה צריכים אפוא להפעיל שליטה על מקורות נתונים כדי להגביל טעויות אפשריות. כלומר, תעדוף חילוץ נתונים ממקורות מהימנים, שנבדקו בתעשייה, לעומת גירוד של דפי אינטרנט חיצוניים באופן אקראי וללא רשות מפורשת. עבור תעשיית הבריאות, משמעות הדבר היא הגבלת קלט הנתונים לדפי שאלות נפוצות, קבצי CSV ומסדי נתונים רפואיים - בין מקורות פנימיים אחרים.

אם זה נשמע מגביל משהו, נסה לחפש שירות באתר של מערכת בריאות גדולה. ארגוני הבריאות בארה"ב מפרסמים מאות אם לא אלפי דפי מידע בפלטפורמות שלהם; רובם קבורים כל כך עמוק עד שהמטופלים לעולם לא יוכלו לגשת אליהם. פתרונות AI גנרטיביים המבוססים על נתונים פנימיים יכולים לספק מידע זה למטופלים בצורה נוחה וחלקה. זהו win-win עבור כל הצדדים, שכן מערכת הבריאות רואה סוף סוף ROI מתוכן זה, והמטופלים יכולים למצוא את השירותים להם הם זקוקים באופן מיידי וללא מאמץ.

מה הלאה עבור AI גנרטיבי בתעשיות מוסדרות?

תעשיית הבריאות עשויה להפיק תועלת מ- AI גנרטיבי במספר דרכים.

קחו למשל את השחיקה הנרחבת שפקדה את מגזר הבריאות האמריקאי בזמן האחרון - קרוב ל 50% מכוח העבודה צפוי לעזוב עד 2025. צ'אטבוטים גנרטיביים המופעלים על ידי בינה מלאכותית יכולים לעזור להקל על עומס העבודה ולשמור על צוותי גישה מורחבים מדי למטופלים.

בצד המטופל, לבינה מלאכותית גנרטיבית יש פוטנציאל לשפר את שירותי המוקד הטלפוני של ספקי שירותי בריאות. לאוטומציה של בינה מלאכותית יש את הכוח לתת מענה למגוון רחב של פניות דרך ערוצי קשר שונים, כולל שאלות נפוצות, בעיות IT, מילוי תרופות והפניות לרופאים. מלבד התסכול שמגיע עם המתנה בהמתנה, רק בערך חצי מהמטופלים בארה"ב פותרים בהצלחה את הבעיות שלהם בשיחה הראשונה, וכתוצאה מכך שיעורי נטישה גבוהים ופגיעה בגישה לטיפול. שביעות רצון נמוכה של לקוחות כתוצאה מכך יוצרת לחץ נוסף על התעשייה לפעול.

כדי שהתעשייה באמת תפיק תועלת מהטמעת AI גנרטיבית, ספקי שירותי בריאות צריכים להקל על ארגון מחדש מכוון של הנתונים שה-LLM שלהם ניגש אליהם.