מערכת אזעקה מוקדמת למידע כוזב שפותחה עם AI

חוקרים באוניברסיטת נוטרדאם עובדים על פרויקט להילחם במידע כוזב באינטרנט, כולל קמפיינים של מדיה לעורר אלימות, לזרוע מהומה ולהתערב בבחירות דמוקרטיות. 

צוות החוקרים הסתמך על בינה מלאכותית (AI) כדי לפתח מערכת אזעקה מוקדמת. המערכת תוכל לזהות תמונות מניפולטיביות, וידאו דיפ-פייק ומידע כוזב באינטרנט. זוהי מערכת אוטומטית ומסולסלת שמשתמשת באיחזור תמונות בסיסי תוכן. היא יכולה אז ליישם טכניקות ראייה מבוססות מחשב כדי לזהות ממים פוליטיים ברשתות חברתיות מרובות. 

טים ונינגר הוא פרופסור חבר במחלקה למדעי המחשב והנדסה בנוטרדאם. 

“ממים הם קלים ליצירה ועוד יותר קלים לשיתוף,” אמר ונינגר. “כאשר מדובר בממים פוליטיים, אלו יכולים לשמש כדי לעזור להוציא את הקול, אבל הם גם יכולים לשמש כדי להפיץ מידע לא מדויק ולגרום לנזק.”

ונינגר שיתף פעולה עם וולטר שיירר, פרופסור חבר במחלקה למדעי המחשב והנדסה בנוטרדאם, יחד עם חברי צוות המחקר. 

בחירות 2019 באינדונזיה

הצוות בדק את המערכת עם הבחירות הכלליות ב-2019 באינדונזיה. הם אספו יותר משני מיליון תמונות ותוכן, שמקורן במקורות שונים בטוויטר ואינסטגרם הקשורים לבחירות. 

בבחירות, המועמד המתון, השמאלני, ניצח את המועמד השמרני, הפופוליסט. לאחר הבחירות, התפרצו מהומות אלימות, בהן נהרגו שמונה בני אדם ומאות נפצעו. מחקר הצוות מצא כי היו קמפיינים ספונטניים ותואמים ששוגרו ברשתות חברתיות עם מטרה להשפיע על הבחירות ולעורר אלימות. 

הקמפיינים התואמים השתמשו בתמונות מניפולטיביות, שהציגו טענות כוזבות וייצגו אירועים מסוימים באופן מוטעה. סיפורים וממים פוברקו באמצעות לוגו של כותרות חדשות לגיטימיות, עם מטרה לעורר את האזרחים והתומכים משני הצדדים. 

שאר העולם

הבחירות הכלליות ב-2019 באינדונזיה הן ייצוג של מה שיכול לקרות בשאר העולם. מידע כוזב, במיוחד זה שמתפשט דרך רשתות חברתיות, יכול לאיים על תהליכים דמוקרטיים. 

צוות המחקר בנוטרדאם כלל מומחים לפורנזיקה דיגיטלית ומומחים בלימודי שלום. על פי הצוות, המערכת מפותחת כדי לסמן תוכן מניפולטיבי, עם מטרה למנוע אלימות ולהתריע בפני עיתונאים או מפקחי בחירות על איומים פוטנציאליים. 

המערכת עדיין בשלבי מחקר ופיתוח, אבל בסופו של דבר היא תהיה מסולסלת ואישית למשתמשים לפקח על תוכן. אחד האתגרים הגדולים ביותר בפיתוח המערכת הוא קביעת הדרך הטובה ביותר להגדיל את יכולת הבליעה ועיבוד הנתונים. על פי שיירר, המערכת נמצאת כרגע בהערכה, עם הצעד הבא הוא מעבר לשימוש מבצעי. 

יש סיכוי שהמערכת תוכל לשמש לפקח על הבחירות הכלליות ב-2020 בארצות הברית, שצפויה לראות כמויות עצומות של מידע כוזב ומניפולציה.

“עידן המידע הכוזב הגיע,” אמר שיירר. “דיפ-פייק המחליף שחקנים בסרט פופולרי עשוי להיראות כיפי וקליל, אבל תארו לעצמכם וידאו או מם שנוצרו במטרה היחידה ליצור עימות בין מנהיגי עולם – אומרים מילים שלא אמרו באמת. תארו לעצמכם כמה מהר תוכן זה יכול להישתף ולהתפשט ברחבי הפלטפורמות. שקלו את ההשלכות של פעולות אלו.”