מאמר בוחן כיצד להפחית את הסיכון בשימוש בבינה מלאכותית ברפואה

תוכניות בינה מלאכותית מסוגלות לשפר את שירותי הבריאות במגוון דרכים שונות. לדוגמה, יישומי בינה מלאכותית יכולים להשתמש בראייה ממוחשבת כדי לעזור לרופאים לאבחן מצבים מקרני רנטגן ו-FMRI. ניתן להשתמש באלגוריתמים של למידת מכונה כדי לסייע בהפחתת שיעורי חיובי כוזבים על ידי חילוץ דפוסים עדינים מנתונים שבני אדם לא יוכלו למצוא בנתונים רפואיים. עם זאת, עם האפשרויות מגיעים אתגרים חדשים, ולאחרונה פורסם מאמר חדש ב-Science בחנו סיכונים אפשריים ואסטרטגיות רגולטוריות עבור טכניקות למידת מכונה רפואית במאמץ למזער כל תופעות לוואי שליליות אפשריות של שימוש בינה מלאכותית בהקשר רפואי.

הרחבת יישומים עבור AI בתחום הבריאות

AI רואה את היישומים שלה בתחום הרפואי מתרחבים במהירות. ההתפתחויות האחרונות בתחום הבריאות, המונעות על ידי AI, כוללות יצירת חברת תרופות חדשה שמטרתה להשתמש ב-AI ליצירת תרופות חדשות, יצירת חיישני בריאות מרוחקים בכונן AI, ואפליקציות ראייה ממוחשבת המנתחות סריקות CT ו-X -קרניים.

ליתר דיוק, Genesis Therapeutics הוא סטארט-אפ שמטרתו להשתמש בבינה מלאכותית כדי להאיץ את תהליך גילוי התרופות, בתקווה ליצור תרופות שיכולות להפחית את חומרת המחלות המחלישות. Genesis Therapeutics היא רק אחת מכמעט 170 חברות שונות המשתמשות בבינה מלאכותית לחקור ניסוחים חדשים של תרופות. בינתיים, במונחים של מכשירי ניטור בריאות, iRhythm והסטארט-אפ הצרפתי של AI Cardiologs עושים שימוש באלגוריתמים של AI כדי לנתח נתוני EEG ו לפקח על הבריאות מאלה הסובלים ממחלות לב נמצאים בסיכון לסיבוכים. התוכנה שתוכננה על ידי החברות יכולה לזהות אוושה בלב, מצב הנגרם מזרימת דם סוערת.

לבסוף, מחקר שנערך לאחרונה שחקר כיצד ניתן ליישם ראייה ממוחשבת על תמונות רפואיות מצא שמערכות ראייה ממוחשבת ביצועים טובים לפחות או טובים יותר מאשר רדיולוגים מומחים כאשר הם בוחנים סריקות CT כדי למצוא שטפי דם קטנים. האלגוריתמים ששימשו במחקר הצליחו להציג תחזיות לאחר בחינת סריקות CT למשך שנייה אחת בלבד. מערכות הראייה הממוחשבת הצליחו גם לאתר את הדימום בתוך המוח.

אז בעוד שהיתרונות הפוטנציאליים של שימוש בבינה מלאכותית בתחום הבריאות ברורים, מה שפחות ברור הוא אילו אתגרים וסיכונים חדשים יתעוררו כתופעת לוואי של שימוש בבינה מלאכותית בתחום הבריאות.

ויסות שדה מתרחב

כפי שדיווח TechXplore, על מנת להעריך את החסרונות הפוטנציאליים של שימוש בבינה מלאכותית בתחום הבריאות, קבוצת מחקרים פרסמה לאחרונה מאמר ב-Science, שמטרתו להסיק תשובות לחזות בעיות פוטנציאליות עם בינה מלאכותית ולחקור פתרונות פוטנציאליים לבעיות אלו. בעיות שעלולות להתעורר משימוש בבינה מלאכותית בתחום הבריאות כוללים המלצה לא הולמת של טיפולים שגורמים לפציעה, חששות לפרטיות והטיה/אי שוויון אלגוריתמיים.

ה-FDA אישר רק בינה מלאכותית רפואית המשתמשת ב"אלגוריתמים נעולים", אלגוריתמים שמפיקים באופן אמין את אותה תוצאה בכל פעם שהם מופעלים. עם זאת, חלק ניכר מהפוטנציאל של AI טמון ביכולת שלו ללמוד ולהגיב לסוגים חדשים של תשומות. על מנת לאפשר ל"אלגוריתמים אדפטיביים" לראות שימוש רב יותר ולקבל אישור מה-FDA, מחברי המאמר בחנו לעומק כיצד ניתן להפחית את הסיכונים הקשורים לעדכון אלגוריתמים.

המחברים דוגלים בכך שמהנדסי למידת מכונה וחוקרים צריכים להתמקד בניטור רציף של מודלים לאורך כל חיי הפריסה שלהם. בין הכלים שהוצעו לניטור מערכות בינה מלאכותית היה בינה מלאכותית עצמה, שיכולה לסייע במתן דוחות אוטומטיים על האופן שבו AI מתנהג. ייתכן גם שהתקני AI מרובים יוכלו לנטר אחד את השני.

"כדי לנהל את הסיכונים, הרגולטורים צריכים להתמקד במיוחד בניטור מתמשך והערכת סיכונים, ופחות בתכנון לשינויי אלגוריתמים עתידיים", ס.לסייע למחברי העיתון.

מחברי המאמר ממליצים גם לרגולטורים להתמקד בפיתוח שיטות חדשות לזיהוי, ניטור, הערכה וניהול סיכונים. המאמר מיישם רבות מהטכניקות בהן השתמש ה-FDA כדי להסדיר צורות אחרות של טכנולוגיה רפואית.

כפי שהסבירו מחברי העיתון:

"המטרה שלנו היא להדגיש את הסיכונים שיכולים לנבוע משינויים בלתי צפויים באופן שבו מערכות AI/ML רפואיות מגיבות או מסתגלות לסביבות שלהן. עדכונים פרמטריים עדינים ולעיתים לא מזוהים או סוגים חדשים של נתונים יכולים לגרום לטעויות גדולות ויקרות".