תרבות נתונים חד-גונית באינטליגנציה מלאכותית: איומים על גיוון וחדשנות

האינטליגנציה המלאכותית משנה את העולם, משינויים בתחום הבריאות ועד לרפורמות בחינוך. היא פותרת אתגרים ותיקים ופותחת אפשרויות שלא חשבנו שהן אפשריות. הנתונים הם במרכז המהפכה הזו – הדלק שמניע כל מודל אינטליגנציה מלאכותית. זה מה שמאפשר למערכות האלה לעשות תחזיות, למצוא תבניות ולספק פתרונות שמשפיעים על חיי היומיום שלנו.

אבל, בעוד ששפע הנתונים הזה מניע חדשנות, הדומיננטיות של מאגרי נתונים אחידים – שלעיתים קרובות מכונים תרבות נתונים חד-גונית – מהווה סיכונים משמעותיים לגיוון ויצירתיות בפיתוח אינטליגנציה מלאכותית. זה דומה לחקלאות מונוקולטורה, שבה נטיעת אותה גידול בשדות גדולים הופכת את המערכת האקולוגית לרגישה ופגיעה למזיקים ומחלות. באינטליגנציה מלאכותית, תלות במאגרי נתונים אחידים יוצרת מודלים קשיחים, מוטים ולעיתים קרובות לא אמינים.

מאמר זה חוקר את המושג של תרבות נתונים חד-גונית, בוחן מה הם, למה הם קיימים, הסיכונים שהם מביאים והצעדים שאנו יכולים לנקוט כדי לבנות מערכות אינטליגנציה מלאכותית שהן חכמות, הוגנות וכוללות יותר.

הבנת תרבות נתונים חד-גונית

תרבות נתונים חד-גונית מתרחשת כאשר מאגר נתונים יחיד או קבוצה צרה של מקורות נתונים דומיננטית באימון מערכות אינטליגנציה מלאכותית. זיהוי פנים הוא דוגמה מתועדת היטב של תרבות נתונים חד-גונית באינטליגנציה מלאכותית. מחקרים ממעבדת המדיה של MIT מצאו שמודלים שאומנו בעיקר על תמונות של אנשים בעלי עור בהיר התקשו עם פנים כהות. שיעורי השגיאות עבור נשים כהות עור הגיעו ל-34.7%, לעומת 0.8% בלבד עבור גברים בעלי עור בהיר. תוצאות אלה מדגימות את ההשפעה של נתוני אימון שלא כללו מספיק גיוון בגווני עור.

בעיות דומות עולות בתחומים אחרים. לדוגמה, מודלי שפה גדולים (LLM) כגון GPT של OpenAI ו-Bard של Google מאומנים על מאגרי נתונים המסתמכים בעיקר על תוכן בשפה האנגלית, בעיקר מהקשרים מערביים. חוסר הגיוון הזה הופך אותם לפחות מדויקים בהבנת ניואנסים של שפה ותרבות מחלקים אחרים של העולם. מדינות כמו הודו פותחות LLM שמשקפים טוב יותר שפות וערכים תרבותיים מקומיים.

בעיה זו יכולה להיות קריטית, במיוחד בתחומים כמו בריאות. לדוגמה, כלי אבחון רפואי שאומן בעיקר על נתונים מאוכלוסיות אירופאיות עלול לתפקד גרוע יותר באזורים עם גורמים גנטיים וסביבתיים שונים.

מקורותיה של תרבות נתונים חד-גונית

תרבות נתונים חד-גונית באינטליגנציה מלאכותית מתרחשת מסיבות רבות. מאגרי נתונים פופולריים כמו ImageNet ו-COCO הם עצומים, נגישים בקלות ובשימוש נרחב. אבל הם לעיתים קרובות משקפים נקודת מבט צרה ומערבית. איסוף נתונים מגוונים אינו זול, ולכן הרבה ארגונים קטנים יותר מסתמכים על מאגרי נתונים קיימים. תלות זו מחזקת את המחסור במגוון.

סטנדרטיזציה היא גורם מפתח נוסף. חוקרים רבים משתמשים במאגרי נתונים מוכרים כדי להשוות את תוצאותיהם, ובלא משים מעודדים את הימנעות מחיפוש מקורות חלופיים. מגמה זו יוצרת מעגל פנימי שבו כולם מאופטימיזים לאותם בנקי מבחן, במקום לפתור בעיות בעולם האמיתי.

לפעמים, בעיות אלו קורות עקב חוסר זהירות. יוצרי מאגרי נתונים עלולים להשמיט בשוגג קבוצות, שפות או אזורים מסוימים. לדוגמה, גרסאות מוקדמות של עוזרים קוליים כמו Siri לא טיפלו היטב במבטאים לא-מערביים. הסיבה הייתה שהמפתחים לא כללו מספיק נתונים מאזורים אלו. השמטות אלו יוצרות כלים שנכשלים במילוי צורכי קהל גלובלי.

למה זה משנה

כאשר האינטליגנציה המלאכותית תופסת תפקידים בולטים יותר בקבלת החלטות, תרבות נתונים חד-גונית יכולה להיות בעלת השלכות בעולם האמיתי. מודלים של אינטליגנציה מלאכותית יכולים לחזק אפליה כאשר הם יורשים הטיות מנתוני האימון שלהם. אלגוריתם גיוס שאומן על נתונים מתעשיות הדומיננטיות על ידי גברים עלול להעדיף בלא משים מועמדים גברים, תוך הדברת נשים מועמדות מעולות.

ייצוג תרבותי הוא אתגר נוסף. מערכות המלצה כמו Netflix ו-Spotify לעיתים קרובות העדיפו העדפות מערביות, ודחקו הצידה תוכן מתרבויות אחרות. אפליה זו מוגבלת את חוויית המשתמש ומרסנת חדשנות על ידי שמירה על רעיונות צרים וחוזרים.

מערכות אינטליגנציה מלאכותית יכולות גם להיות שבירות כאשר הן מאומנות על נתונים מוגבלים. במהלך מגפת COVID-19, מודלים רפואיים שאומנו על נתונים לפני המגפה נכשלו להסתגל למורכבות של משבר בריאות עולמי. קשיחות זו יכולה להפוך את מערכות האינטליגנציה המלאכותית לפחות שימושיות כאשר הן ניצבות בפני מצבים בלתי צפויים.

תרבות נתונים חד-גונית יכולה גם להוביל לבעיות אתיות ומשפטיות. חברות כמו Twitter ו-Apple הואשמו באלגוריתמים מוטים. כלי גזירת התמונות של Twitter הואשם באפליה גזעית, בעוד שאלגוריתם האשראי של Apple Card נטען כי הציע מגבלות נמוכות יותר לנשים. מחלוקות אלו פוגעות באמון במוצרים ומעלות שאלות על אחריות בפיתוח אינטליגנציה מלאכותית.

איך לתקן תרבות נתונים חד-גונית

פתרון בעיית תרבות הנתונים החד-גונית דורש הרחבת טווח הנתונים המשמשים לאימון מערכות אינטליגנציה מלאכותית. משימה זו דורשת פיתוח כלים וטכנולוגיות שהופכות את איסוף הנתונים ממקורות מגוונים לקל יותר. פרויקטים כמו Common Voice של Mozilla, למשל, אוספים דגימות קול מאנשים ברחבי העולם, ויוצרים מאגר נתונים עשיר יותר עם מבטאים ושפות שונים – באופן דומה, יוזמות כמו Data for AI של UNESCO מתמקדות בכללת קהילות שאינן מיוצגות.

קביעת נהלים אתיים היא צעד חשוב נוסף. מסגרות כמו הצהרת טורונטו מעודדות שקיפות וכללתנות כדי לוודא שמערכות אינטליגנציה מלאכותית הן הוגנות מעצם תכנונן. מדיניות ניהול נתונים חזקות, המושפעות מתקנות GDPR, יכולות גם לעשות הבדל משמעותי. הן דורשות תיעוד ברור של מקורות הנתונים ומחזיקות ארגונים אחראים להבטחת גיוון.

פלטפורמות קוד פתוח יכולות גם לעשות הבדל. לדוגמה, hugging Face Datasets Repository מאפשר לחוקרים לגשת ולשתף מאגרי נתונים מגוונים. מודל עבודה שיתופי זה מעודד את האקוסיסטם של אינטליגנציה מלאכותית, ומקטין את התלות במאגרי נתונים צרים. שקיפות ממלאת תפקיד משמעותי. השימוש במערכות אינטליגנציה מלאכותית מסבירה ויישום בדיקות סדירות יכול לעזור לזהות ולתקן הטיות. הסבר זה הוא חיוני כדי לשמור על המודלים הן הוגנים והן מתאימים.

בניית צוותים מגוונים עשויה להיות הצעד המשמעותי והפשוט ביותר. צוותים עם רקע מגוון טובים יותר בזיהוי נקודות עיוורון בנתונים ובתכנון מערכות שעובדות עבור מגוון רחב יותר של משתמשים. צוותים כוללניים מובילים לתוצאות טובות יותר, מה שהופך את האינטליגנציה המלאכותית לבריגה והוגנת יותר.

התחתית

האינטליגנציה המלאכותית היא בעלת פוטנציאל עצום, אבל יעילותה תלויה באיכות הנתונים. תרבות נתונים חד-גונית מוגבלת את הפוטנציאל הזה, ויוצרת מערכות קשיחות, מוטות ולעיתים קרובות לא אמינות, שניתקות מצורכי העולם האמיתי.

כדי להתגבר על אתגרים אלו, מפתחים, ממשלות וקהילות חייבים לשתף פעולה כדי לגוון את מאגרי הנתונים, ליישם נהלים אתיים ולטפח צוותים כוללניים.

על ידי טיפול ישיר בבעיות האלו, אנו יכולים ליצור אינטליגנציה מלאכותית חכמה ושוויונית יותר, המשקפת את הגיוון של העולם שהיא מייעדת לשרת.