אֶתִיקָה
הדאגות העולות לגבי הזיות והטיה של בינה מלאכותית: דו"ח אפוריה לשנת 2024 מדגיש את הצורך הדחוף בתקני התעשייה
A דיווח אחרון מאפוריה, מובילה בתחום פלטפורמת בקרת הבינה המלאכותית, העלתה לאור כמה ממצאים מדהימים בתחום הבינה המלאכותית ולמידת מכונה (AI & ML). הסקר שנערך על ידי Aporia, שכותרתו "2024 AI & ML Report: Evolution of Models & Solutions", מצביע על מגמה הולכת וגוברת של הזיות והטיות בתוך AI ומודלים של שפות גדולות (LLMs), מה שמסמן אתגר מכריע עבור תעשייה המתקדמת במהירות לקראת בַּגרוּת.
הזיות בינה מלאכותית להתייחס למקרים שבהם גנרטיבי דגמי AI גנרטיביים לייצר פלטים שאינם נכונים, שטותיים או מנותקים מהמציאות. הזיות אלו יכולות לנוע מאי דיוקים קלים ועד לשגיאות משמעותיות, כולל יצירת תוכן מוטה או עלול להזיק.
ההשלכות של הזיות AI יכולות להיות משמעותיות, במיוחד מכיוון שהמודלים הללו משולבים יותר ויותר בהיבטים שונים של עסקים וחברה. לדוגמה, אי דיוק במידע שנוצר על ידי AI יכול להוביל למידע מוטעה, בעוד שתוכן מוטה יכול להנציח סטריאוטיפים או שיטות עבודה לא הוגנות. ביישומים רגישים כמו שירותי בריאות, פיננסים או ייעוץ משפטי, לטעויות כאלה עשויות להיות השלכות חמורות, שישפיעו על החלטות ותוצאות.
ממצאי הסקר מדגישים את הצורך בניטור ותצפית ערניים של דגמי הייצור.
הסקר של Aporia כלל תשובות מ-1,000 אנשי מקצוע בתחום למידת מכונה המבוססים בצפון אמריקה ובבריטניה. אנשים אלה עובדים בחברות הנעות בין 500 ל-7,000 עובדים, על פני מגזרים כגון פיננסים, בריאות, נסיעות, ביטוח, תוכנה וקמעונאות. הממצאים מדגישים הן את האתגרים וההזדמנויות העומדים בפני מובילי ייצור ML, ושופכים אור על התפקיד החיוני של אופטימיזציה של AI ליעילות ויצירת ערך.
תובנות מפתח מהדוח כולל:
- שכיחות אתגרים מבצעיים: 93% מכריעים ממהנדסי למידת מכונה מדווחים שהם נתקלים בבעיות בדגמי ייצור מדי יום או שבועי. נתון משמעותי זה מדגיש את הצורך הקריטי בכלי ניטור ובקרה יעילים כדי להבטיח פעולות חלקות.
- שכיחות של הזיות AI: כ-89% מהמהנדסים שעובדים עם מודלים של שפות גדולות ובינה מלאכותית מחוללת מדווחים שהם חווים הזיות במודלים אלה. הזיות אלו מתבטאות כשגיאות עובדתיות, הטיות או תוכן שעלול להזיק.
- התמקדו בהפחתת הטיות: למרות המכשולים באיתור נתונים מוטים והיעדר כלי ניטור מספיקים, 83% בולטים מהמשיבים בסקר מדגישים את החשיבות של ניטור להטיה בפרויקטים של AI.
- חשיבות התצפית בזמן אמת: חלק ניכר מ-88% מאנשי המקצוע של למידת מכונה מאמינים שצפיות בזמן אמת חיונית לזיהוי בעיות במודלים של ייצור, יכולת שאינה קיימת בכל הארגונים עקב מחסור בכלי ניטור אוטומטיים.
- השקעת משאבים בפיתוח: הדו"ח חושף כי בממוצע, חברות משקיעות כארבעה חודשים בפיתוח כלים ודשבורדים לניטור ייצור, תוך הדגשת חששות פוטנציאליים לגבי היעילות והעלות-תועלת של השקעות מסוג זה.
"הדוח שלנו מראה קונצנזוס ברור בקרב התעשייה, מוצרי בינה מלאכותית נפרסים בקצב מהיר, ויהיו השלכות אם מודלים אלה של ML לא יהיו במעקב." ציין לירן חסון, מנכ"ל אפוריה. "המהנדסים שעומדים מאחורי הכלים האלה דיברו - יש בעיות עם הטכנולוגיה וניתן לתקן אותן. אבל יש צורך בכלים הנכונים לצפייה כדי להבטיח שארגונים וצרכנים כאחד יקבלו את המוצר הטוב ביותר האפשרי, ללא הזיות והטיות".
אפוריה, המחויב לשפר את האפקטיביות של מוצרי בינה מלאכותית המופעלים על ידי למידת מכונה, מטפלת באתגרי MLOps ודוגלת בשיטות בינה מלאכותיות אחראיות. הגישה הממוקדת בלקוחות של החברה והשילוב של משוב משתמשים הובילו לפיתוח כלים ותכונות חזקים לשיפור חווית המשתמש, תמיכה בהרחבת דגמי הייצור, וסיוע בהעלמת הזיות.
הדו"ח המלא של Aporia מציע מבט מעמיק על הממצאים הללו והשלכותיהם על תעשיית הבינה המלאכותית. כדי לחקור יותר, בקר דוח הסקר של אפוריה.
