איך ערים מפרישות טכנולוגיות מובילות המנצלות אלגוריתמים של AI ללא הטיה

היום, כמעט כל היבט של חיינו נוגע בחלק מסוים של רשת מקוונת. בעוד שזה השתפר בהרבה תחומים של החיים עצמם, כגון איך אנו הולכים עם התקנים ניידים שיכולים לספק לנו מידע בכל עת, הוא גם מעמיד סיכונים מסוימים.

הסיכונים האלה עוברים מעבר להאקינג מסורתי והפרצות נתונים לחשבונות הבנק שלנו, למשל. יותר מזה, מה שאני מתכוון כאן הוא שיש כל כך הרבה חלקים בחיינו היום שמושפעים מאלגוריתמים המשמשים בבינה מלאכותית (AI). אנו מניחים ש-AI הזה מנצל בעצם אלגוריתמים שנמצאים בטובתנו. אבל מה קורה כאשר סוג ההטיה הלא נכון נכנס לאלגוריתמים האלה? כיצד זה עלול להשפיע על תוצאות מסוימות?

מה קורה כאשר אלגוריתמים מוטים חודרים למערכות AI?

להציע עוד דוגמה, ב YouTube, אלגוריתם AI ממליץ על כמעט 70% מכל הסרטונים, ובפלטפורמות מדיה חברתיות כמו Instagram ו-TikTok, האחוז הוא אפילו גבוה יותר. אף על פי שאלגוריתמים AI אלה יכולים לסייע למשתמשים למצוא תוכן שהם מעוניינים בו, הם מעלים בעיות פרטיות רציניות, ויש ראיות הולכות וגדלות שחלק מהתוכן המומלץ שאנשים צורכים באינטרנט הוא אפילו מסוכן בגלל מידע כוזב או אולי מכיל נקודת מבט מסוימת שמיועדת להשפיע במודע על חשיבה פוליטית או אמונות של אדם.

יצירת AI מעוגל ומותאם היא מאמץ טכני וחברתי מאתגר, אבל אחד מהחשובים ביותר.

הגיוני להבין כיצד AI יכול להשפיע בצורה שלילית על נורמות חברתיות ודפוסי שימוש באינטרנט בעודו מתמקד בהשפעות החיוביות של הטכנולוגיה. מקורות מקוונים הם בעלי השפעה משמעותית על החברה שלנו, והטיות באלגוריתמים מקוונים יגרמו בלא משים לעוול, יעצבו את אמונות האנשים, יפיצו מידע כוזב ויגרמו לסכסוך בין קבוצות שונות.

זהו המקום בו “AI רע” יכול להיות בעל השלכות ממש משמעותיות כפי שהוא קשור להטיות לא רצויות ו/או לא הוגנות.

כיצד AI מוטה יכול להשפיע לרעה על צמתים?

תקחו, למשל, צמתים. זמני המתנה הארוכים ברמזורים הופכים לדבר העבר הודות לטכנולוגיות AI חדשות המופרשות בשווקים ברחבי המדינה. פתרונות אלו של Transit Priority מנצלים נתוני תנועה בזמן אמת ומותאמים את האורות לפי המשתנים בדפוסי התנועה, שומרים על זרימת התנועה ומקטינים עומס.

המערכות משתמשות ב deep learning, שבו תוכנית מבינה מתי היא לא עובדת טוב ומנסה קורס פעולה אחר – או ממשיכה לשפר כאשר היא עושה התקדמות.

נשמע כמו רעיון נהדר, לא? מה קורה אם, עם הזמן, אלגוריתמי ה-AI המושתתים בטכנולוגיה של חיישני תנועה מתחילים להעדיף כלי רכב יקרים יותר על פני אחרים, על בסיס אלגוריתמים מוטים שתוכננו לזהות שאנשים שנוהגים בסוג מסוים של כלי רכב ראויים לעדיפות על פני אחרים?

זהו המקום בו “AI רע” יכול להשפיע לרעה על חלק מאוד חשוב בחיינו.

בואו ניקח, למשל, את מערכות ה-Transit Priority המבוססות AI הן חלק ממערכת תחבורה אינטליגנטית (ITS) רחבה יותר, שמנצלת את כוחן של טכנולוגיות כלי רכב מחוברות. מערכות ITS הן טובות כפי שפלטפורמות לשיתוף נתונים אגנוסטיות הן, ולא כולן נוצרו שוות.

מערכות עדיפות תנועה מבוססות ענן מחשבים לוקחות בחשבון את התמונה הגלובלית של המערכת ומשתמשות בלמידת מכונה מוטה ללא הטיה כדי לחזות את הזמן האופטימלי לתת אור ירוק לכלי רכב ציבוריים בדיוק בזמן הנכון. היא מפחיתה הפרעות לנתיבים מצטלבים ובו-זמנית מגדילה את ההסתברות של נסיעה רציפה. חשוב יותר, פלטפורמת הענן האגנוסטית מבטיחה שערים מנצלות מערכת מעודכנת באופן רציף לפוטנציאל תנועה ממוקסם, ללא הטיה ממקורות לא רצויים.

עם טכנולוגיה זמינה כעת, ערים, מפתחים ורשויות מקומיות הם בעלי הטכנולוגיה שהם צריכים כדי לאיצון מואץ של בניית רשתות תנועה אינטליגנטיות לטובת כולם באזור, הוגן ושווה.

אזורים כמו עיר San José מנצלים כעת את יתרונות ה-AI כדי לשפר את אספקת השירותים לתושביה. ככל שהעיר משתמשת יותר ויותר בכלים של AI, היא הופכת לחשובה יותר לוודא שמערכות AI אלו הן יעילות ואמינות. על ידי ביקורת באלגוריתמים המשמשים בכליה, הלשכה הדיגיטלית (DPO) מבטיחה שרכישות הטכנולוגיה של AI של העיר מבצעות במדויק, מפחיתות הטיה ואמינות. כאשר מחלקה של העיר רוצה לרכוש כלי AI, DPO עוקבת אחר תהליכי ביקורת מסוימים כדי להעריך את היתרונות והסיכונים של כל מערכת AI.

באזור זה, אנו גאים להצטרף לחברות כמו Google כאחד מספקי AI המועדפים הבודדים שמשתתפים בפריסות טכנולוגיה בכל העיר בגלל אלגוריתמים ללא הטיה. ככל שיותר ויותר טכנולוגיות AI ממשיכות להתפתח, זה יהיה במיוחד חשוב לוודא שהן בנויות ללא אלגוריתמים מוטים לטובת שימוש הוגן ושווה בשירותים המוניציפליים המקומיים.

ביטול ההטיה באלגוריתמים של AI